Difference between revisions of "Aufgaben:Exercise 1.4: 2S/3E Channel Model"

From LNTwww
Line 1: Line 1:
  
{{quiz-Header|Buchseite=Stochastische Signaltheorie/Statistische Abhängigkeit und Unabhängigkeit
+
{{quiz-Header|Buchseite=Theory_of_Stochastic_Signals/Statistical_Dependence_and_Independence}}
}}
 
  
[[File:EN_Sto_A_1_4.png|right|frame|$\rm 2S/3E$-Kanalmodell]]
+
[[File:EN_Sto_A_1_4.png|right|frame|$\rm 2S/3E$ channel model]]
Ein Sender gibt die binären Symbole  $\rm L$  $($Ereignis  $S_{\rm L})$  und  $\rm H$  $($Ereignis  $S_{\rm H})$  ab.  
+
A transmitter emits the binary symbols  $\rm L$  $($event  $S_{\rm L})$  and  $\rm H$  $($event  $S_{\rm H})$ .
*Bei guten Bedingungen entscheidet sich der Digitalempfänger ebenfalls nur für die Binärsymbole  $\rm L$  $($Ereignis  $E_{\rm L})$  oder  $\rm H$  $($Ereignis  $E_{\rm H})$.  
+
*If conditions are good, the digital receiver also decides only on the binary symbols  $\rm L$  $($Ereignis  $E_{\rm L})$  or  $\rm H$  $($event  $E_{\rm H})$.  
*Kann der Empfänger allerdings vermuten, dass bei der Übertragung ein Fehler aufgetreten ist, so trifft er keine Entscheidung  $($Ereignis  $E_{\rm K})$;  $\rm K$  steht hierbei für „Keine Entscheidung”).
+
*However, if the receiver can suspect that an error has occurred during transmission, it makes no decision  $($event  $E_{\rm K})$;  $\rm K$  here stands for "No decision").
  
  
Die Grafik zeigt ein einfaches Kanalmodell in Form von Übergangswahrscheinlichkeiten.  Es ist zu erkennen, dass ein gesendetes  $\rm L$  durchaus als Symbol  $\rm H$  empfangen werden kann.  Dagegen ist der Übergang von  $\rm H$  nach  $\rm L$  nicht möglich.
+
The diagram shows a simple channel model in terms of transition probabilities.  It can be seen that a transmitted  $\rm L$  may well be received as a symbol  $\rm H$ .  In contrast, the transition from  $\rm H$  to  $\rm L$  is not possible.
  
Die Symbolauftrittswahrscheinlichkeiten am Sender seien  ${\rm Pr}(S_{\rm L}) = 0.3$  und  ${\rm Pr}(S_{\rm H}) = 0.7$.
+
Let the symbol appearance probabilities at the transmitter be  ${\rm Pr}(S_{\rm L}) = 0.3$  and  ${\rm Pr}(S_{\rm H}) = 0.7$.
  
  
Line 19: Line 18:
  
  
''Hinweise:''
+
Hints:
*Die Aufgabe gehört zum  Kapitel  [[Theory_of_Stochastic_Signals/Statistische_Abhängigkeit_und_Unabhängigkeit|Statistische Abhängigkeit und Unabhängigkeit]].
+
*The exercise belongs to the chapter  [[Theory_of_Stochastic_Signals/Statistical_Dependence_and_Independence|Statistical dependence and independence]].
 
   
 
   
*Eine Zusammenfassung der theoretischen Grundlagen mit Beispielen bringt das Lernvideo  [[Statistische_Abhängigkeit_und_Unabhängigkeit_(Lernvideo)|Statistische Abhängigkeit und Unabhängigkeit]].
+
*The topic of this chapter is illustrated with examples in the   (German language)  learning video
 +
:[[Statistische_Abhängigkeit_und_Unabhängigkeit_(Lernvideo)|Statistische Abhängigkeit und Unabhängigkeit]]   $\Rightarrow$   "Statistical dependence and independence".
  
  
===Fragebogen===
+
===Questions===
  
 
<quiz display=simple>
 
<quiz display=simple>
{Wie groß ist die Wahrscheinlichkeit dafür, dass sich der Empfänger für das Symbol&nbsp; $\rm L$&nbsp; entscheidet?
+
{What is the probability that the receiver chooses the symbol&nbsp; $\rm L$&nbsp;?
 
|type="{}"}
 
|type="{}"}
 
${\rm Pr}(E_{\rm L}) \ = \ $  { 0.21 3% }
 
${\rm Pr}(E_{\rm L}) \ = \ $  { 0.21 3% }
  
  
{Wie groß ist die Wahrscheinlichkeit dafür, dass sich der Empfänger für das Symbol&nbsp; $\rm H$&nbsp; entscheidet?
+
{What is the probability that the receiver chooses the symbo&nbsp; $\rm H$&nbsp;?
 
|type="{}"}
 
|type="{}"}
 
${\rm Pr}(E_{\rm H}) \ = \ $ { 0.66 3% }
 
${\rm Pr}(E_{\rm H}) \ = \ $ { 0.66 3% }
  
  
{Wie groß ist die Wahrscheinlichkeit dafür, dass der Empfänger keine Entscheidung trifft?
+
{What is the probability that the receiver does not make a decision?
 
|type="{}"}
 
|type="{}"}
 
${\rm Pr}(E_{\rm K}) \ = \ $  { 0.13 3% }
 
${\rm Pr}(E_{\rm K}) \ = \ $  { 0.13 3% }
  
  
{Mit welcher Wahrscheinlichkeit entscheidet der Empfänger falsch?
+
{What is the probability that the receiver makes a wrong decision?
 
|type="{}"}
 
|type="{}"}
 
$\text{Pr(falsche Entscheidung)} \ = \ $  { 0.03 3% }
 
$\text{Pr(falsche Entscheidung)} \ = \ $  { 0.03 3% }
  
  
{Wie groß ist die Wahrscheinlichkeit, dass tatsächlich  das Symbol&nbsp; $\rm L$&nbsp; gesendet wurde, wenn sich der Empfänger für das Symbol&nbsp; $\rm L$&nbsp; entschieden hat?
+
{What is the probability that symbol&nbsp; $\rm L$&nbsp; was actually sent if the receiver decided to use symbol&nbsp; $\rm L$&nbsp;?
 
|type="{}"}
 
|type="{}"}
 
${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm L} ) \ = \ $  { 1 3% }
 
${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm L} ) \ = \ $  { 1 3% }
  
  
{Wie groß ist die Wahrscheinlichkeit, dass das Symbol&nbsp; $\rm L$&nbsp; gesendet wurde, wenn der Empfänger keine Entscheidung trifft?
+
{What is the probability that symbol&nbsp; $\rm L$&nbsp; was sent if the receiver does not make a decision?
 
|type="{}"}
 
|type="{}"}
 
${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm K} ) \ =\ $ { 0.4614 3% }
 
${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm K} ) \ =\ $ { 0.4614 3% }
Line 61: Line 61:
 
</quiz>
 
</quiz>
  
===Musterlösung===
+
===Solution===
 
{{ML-Kopf}}
 
{{ML-Kopf}}
'''(1)'''&nbsp; Nur wenn das Symbol&nbsp; $\rm L$&nbsp; gesendet wurde, kann sich der Empf&auml;nger beim gegebenen Kanal f&uuml;r das Symbol&nbsp; $\rm L$&nbsp; entscheiden.  
+
'''(1)'''&nbsp; Only if the symbol&nbsp; $\rm L$&nbsp; was sent, the receiver can decide for the symbol&nbsp; $\rm L$&nbsp; at the given channel.  
  
*Die Wahrscheinlichkeit f&uuml;r ein empfangenes&nbsp; $\rm L$&nbsp; ist allerdings um den Faktor&nbsp; $0.7$&nbsp; kleiner als f&uuml;r ein gesendetes. Daraus folgt:   
+
*However, the probability for a received&nbsp; $\rm L$&nbsp; is smaller by a factor of&nbsp; $0.7$&nbsp; than for a sent one. From this follows:   
 
:$${\rm Pr} (E_{\rm L}) = {\rm Pr}(S_{\rm L}) \cdot {\rm Pr} (E_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm L}) = 0.3 \cdot 0.7 \hspace{0.15cm}\underline {= \rm 0.21}.$$
 
:$${\rm Pr} (E_{\rm L}) = {\rm Pr}(S_{\rm L}) \cdot {\rm Pr} (E_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm L}) = 0.3 \cdot 0.7 \hspace{0.15cm}\underline {= \rm 0.21}.$$
  
  
  
'''(2)'''&nbsp; Zum Ereignis&nbsp; $E_{\rm H}$&nbsp; kommt man sowohl von&nbsp;  $S_{\rm H}$&nbsp; als auch von&nbsp; $S_{\rm L}$&nbsp; aus. Deshalb gilt:
+
'''(2)'''&nbsp; To the event&nbsp; $E_{\rm H}$&nbsp; one comes from&nbsp;  $S_{\rm H}$&nbsp; as well as from&nbsp; $S_{\rm L}$&nbsp;. Therefore holds:
 
:$${\rm Pr} (E_{\rm H}) = {\rm Pr} (S_{\rm H}) \cdot {\rm Pr}  (E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm H}) + {\rm Pr} (S_{\rm L}) \cdot {\rm Pr}  (E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm} S_{\rm L})= \rm 0.7 \cdot 0.9 + 0.3 \cdot 0.1\hspace{0.15cm}\underline { =  \rm 0.66}.$$
 
:$${\rm Pr} (E_{\rm H}) = {\rm Pr} (S_{\rm H}) \cdot {\rm Pr}  (E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm H}) + {\rm Pr} (S_{\rm L}) \cdot {\rm Pr}  (E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm} S_{\rm L})= \rm 0.7 \cdot 0.9 + 0.3 \cdot 0.1\hspace{0.15cm}\underline { =  \rm 0.66}.$$
  
  
  
'''(3)'''&nbsp; Die Ereignisse&nbsp; $E_{\rm H}$,&nbsp; $E_{\rm L}$&nbsp; und&nbsp; $E_{\rm K}$&nbsp; bilden zusammen ein vollst&auml;ndiges System. Daraus folgt:
+
'''(3)'''&nbsp; The events&nbsp; $E_{\rm H}$,&nbsp; $E_{\rm L}$&nbsp; and&nbsp; $E_{\rm K}$&nbsp; together form a complete system. It follows that:
 
:$${\rm Pr} (E_{\rm K}) = 1 - {\rm Pr}  (E_{\rm L}) - {\rm Pr} (E_{\rm H}) \hspace{0.15cm}\underline {= \rm 0.13}.$$
 
:$${\rm Pr} (E_{\rm K}) = 1 - {\rm Pr}  (E_{\rm L}) - {\rm Pr} (E_{\rm H}) \hspace{0.15cm}\underline {= \rm 0.13}.$$
  
  
  
'''(4)'''&nbsp; Eine falsche Entscheidung kann man mengentheoretisch wie folgt charakterisieren:
+
'''(4)'''&nbsp; A wrong decision can be characterized in set-theoretic terms as follows:
:$${\rm Pr} \text{(falsche Entscheidung)} = {\rm Pr} \big [(S_{\rm L} \cap E_{\rm H}) \cup (S_{\rm H} \cap E_{\rm L})\big ] = \rm 0.3 \cdot 0.1 + 0.7\cdot 0 \hspace{0.15cm}\underline {= \rm 0.03}.$$
 
  
 +
:$${\rm Pr} \text{(wrong decision)} = {\rm Pr} \big [(S_{\rm L} \cap E_{\rm H}) \cup (S_{\rm H} \cap E_{\rm L})\big ] = \rm 0.3 \cdot 0.1 + 0.7\cdot 0 \hspace{0.15cm}\underline {= \rm 0.03}.$$
  
  
'''(5)'''&nbsp; Wenn das Symbol&nbsp; $\rm L$&nbsp; empfangen wurde, kann nur&nbsp; $\rm L$&nbsp; gesendet worden sein. Daraus folgt:  
+
 
 +
'''(5)'''&nbsp; If the symbol&nbsp; $\rm L$&nbsp; was received, only&nbsp; $\rm L$&nbsp; could have been sent. It follows that:  
 
:$${\rm Pr} (S_{\rm L} \hspace{0.05cm}|\hspace{0.05cm} E_{\rm L}) \hspace{0.15cm}\underline {= \rm 1}.$$
 
:$${\rm Pr} (S_{\rm L} \hspace{0.05cm}|\hspace{0.05cm} E_{\rm L}) \hspace{0.15cm}\underline {= \rm 1}.$$
  
  
  
'''(6)'''&nbsp; Zur L&ouml;sung dieser Aufgabe eignet sich zum Beispiel der Satz von Bayes:
+
'''(6)'''&nbsp; For example, Bayes' theorem is suitable for solving this problem:
 
:$${\rm Pr} (S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm} E_{\rm K}) =\frac{ {\rm Pr} ( E_{\rm K} \hspace{0.05cm}|\hspace{0.05cm} S_{\rm L}) \cdot {\rm Pr} (S_{\rm L})}{{\rm Pr} (E_{\rm K})} =\frac{ \rm 0.2 \cdot 0.3}{\rm 0.13} = \frac{\rm 6}{\rm 13}\hspace{0.15cm}\underline { \approx \rm 0.462}.$$
 
:$${\rm Pr} (S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm} E_{\rm K}) =\frac{ {\rm Pr} ( E_{\rm K} \hspace{0.05cm}|\hspace{0.05cm} S_{\rm L}) \cdot {\rm Pr} (S_{\rm L})}{{\rm Pr} (E_{\rm K})} =\frac{ \rm 0.2 \cdot 0.3}{\rm 0.13} = \frac{\rm 6}{\rm 13}\hspace{0.15cm}\underline { \approx \rm 0.462}.$$
 
{{ML-Fuß}}
 
{{ML-Fuß}}

Revision as of 20:56, 28 November 2021

$\rm 2S/3E$ channel model

A transmitter emits the binary symbols  $\rm L$  $($event  $S_{\rm L})$  and  $\rm H$  $($event  $S_{\rm H})$ .

  • If conditions are good, the digital receiver also decides only on the binary symbols  $\rm L$  $($Ereignis  $E_{\rm L})$  or  $\rm H$  $($event  $E_{\rm H})$.
  • However, if the receiver can suspect that an error has occurred during transmission, it makes no decision  $($event  $E_{\rm K})$;  $\rm K$  here stands for "No decision").


The diagram shows a simple channel model in terms of transition probabilities.  It can be seen that a transmitted  $\rm L$  may well be received as a symbol  $\rm H$ .  In contrast, the transition from  $\rm H$  to  $\rm L$  is not possible.

Let the symbol appearance probabilities at the transmitter be  ${\rm Pr}(S_{\rm L}) = 0.3$  and  ${\rm Pr}(S_{\rm H}) = 0.7$.




Hints:

  • The topic of this chapter is illustrated with examples in the  (German language)  learning video
Statistische Abhängigkeit und Unabhängigkeit   $\Rightarrow$   "Statistical dependence and independence".


Questions

1

What is the probability that the receiver chooses the symbol  $\rm L$ ?

${\rm Pr}(E_{\rm L}) \ = \ $

2

What is the probability that the receiver chooses the symbo  $\rm H$ ?

${\rm Pr}(E_{\rm H}) \ = \ $

3

What is the probability that the receiver does not make a decision?

${\rm Pr}(E_{\rm K}) \ = \ $

4

What is the probability that the receiver makes a wrong decision?

$\text{Pr(falsche Entscheidung)} \ = \ $

5

What is the probability that symbol  $\rm L$  was actually sent if the receiver decided to use symbol  $\rm L$ ?

${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm L} ) \ = \ $

6

What is the probability that symbol  $\rm L$  was sent if the receiver does not make a decision?

${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm K} ) \ =\ $


Solution

(1)  Only if the symbol  $\rm L$  was sent, the receiver can decide for the symbol  $\rm L$  at the given channel.

  • However, the probability for a received  $\rm L$  is smaller by a factor of  $0.7$  than for a sent one. From this follows:
$${\rm Pr} (E_{\rm L}) = {\rm Pr}(S_{\rm L}) \cdot {\rm Pr} (E_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm L}) = 0.3 \cdot 0.7 \hspace{0.15cm}\underline {= \rm 0.21}.$$


(2)  To the event  $E_{\rm H}$  one comes from  $S_{\rm H}$  as well as from  $S_{\rm L}$ . Therefore holds:

$${\rm Pr} (E_{\rm H}) = {\rm Pr} (S_{\rm H}) \cdot {\rm Pr} (E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm H}) + {\rm Pr} (S_{\rm L}) \cdot {\rm Pr} (E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm} S_{\rm L})= \rm 0.7 \cdot 0.9 + 0.3 \cdot 0.1\hspace{0.15cm}\underline { = \rm 0.66}.$$


(3)  The events  $E_{\rm H}$,  $E_{\rm L}$  and  $E_{\rm K}$  together form a complete system. It follows that:

$${\rm Pr} (E_{\rm K}) = 1 - {\rm Pr} (E_{\rm L}) - {\rm Pr} (E_{\rm H}) \hspace{0.15cm}\underline {= \rm 0.13}.$$


(4)  A wrong decision can be characterized in set-theoretic terms as follows:

$${\rm Pr} \text{(wrong decision)} = {\rm Pr} \big [(S_{\rm L} \cap E_{\rm H}) \cup (S_{\rm H} \cap E_{\rm L})\big ] = \rm 0.3 \cdot 0.1 + 0.7\cdot 0 \hspace{0.15cm}\underline {= \rm 0.03}.$$


(5)  If the symbol  $\rm L$  was received, only  $\rm L$  could have been sent. It follows that:

$${\rm Pr} (S_{\rm L} \hspace{0.05cm}|\hspace{0.05cm} E_{\rm L}) \hspace{0.15cm}\underline {= \rm 1}.$$


(6)  For example, Bayes' theorem is suitable for solving this problem:

$${\rm Pr} (S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm} E_{\rm K}) =\frac{ {\rm Pr} ( E_{\rm K} \hspace{0.05cm}|\hspace{0.05cm} S_{\rm L}) \cdot {\rm Pr} (S_{\rm L})}{{\rm Pr} (E_{\rm K})} =\frac{ \rm 0.2 \cdot 0.3}{\rm 0.13} = \frac{\rm 6}{\rm 13}\hspace{0.15cm}\underline { \approx \rm 0.462}.$$