Difference between revisions of "Aufgaben:Exercise 1.4: 2S/3E Channel Model"

From LNTwww
 
(19 intermediate revisions by 4 users not shown)
Line 1: Line 1:
  
{{quiz-Header|Buchseite=Stochastische Signaltheorie/Statistische Abhängigkeit und Unabhängigkeit
+
{{quiz-Header|Buchseite=Theory_of_Stochastic_Signals/Statistical_Dependence_and_Independence}}
}}
 
  
[[File:P_ID83__Sto_A_1_4.png|right|]]
+
[[File:EN_Sto_A_1_4.png|right|frame|$\rm 2S/3E$  channel model]]
Ein Sender gibt die binären Symbole $L$ (Ereignis $S_L$) und $H$ (Ereignis $S_H$) ab. Bei guten Bedingungen entscheidet sich der Digitalempfänger ebenfalls nur für die Binärsymbole $L$ (Ereignis $E_L$) oder $H$ (Ereignis $E_H$). Kann der Empfänger allerdings vermuten, dass bei der Übertragung ein Fehler aufgetreten ist, so trifft er keine Entscheidung (Ereignis $E_K$; $K$ steht dabei für „Keine Entscheidung”).
+
A transmitter  (German:  "Sender"   ⇒   subscript  "S")  emits the binary symbols  $\rm L$  $($event  $S_{\rm L})$  and  $\rm H$  $($event  $S_{\rm H})$ .
 +
*If conditions are good,  the digital receiver  (German:  "Empfänger"   ⇒   subscript  "E")  also decides only on the binary symbols  $\rm L$  $($event  $E_{\rm L})$  or  $\rm H$  $($event  $E_{\rm H})$.  
 +
*However,&nbsp;  if the receiver can suspect that an error has occurred during transmission,&nbsp; it makes no decision&nbsp; $($event&nbsp; $E_{\rm K})$;&nbsp; <br>$\rm K$&nbsp; here stands for&nbsp; "No decision".
  
Die Grafik zeigt ein einfaches Kanalmodell in Form von Übergangswahrscheinlichkeiten. Es ist zu erkennen, dass ein gesendetes $L$ durchaus als Symbol $H$ empfangen werden kann. Dagegen ist der Übergang von $H$ nach $L$ nicht möglich.
 
  
Die Symbolauftrittswahrscheinlichkeiten am Sender seien $Pr(S_L)$ = 0.3 und $Pr(S_H)$ = 0.7.
+
The diagram shows a simple channel model in terms of transition probabilities.&nbsp;
 +
*It can be seen that a transmitted&nbsp; $\rm L$&nbsp; may well be received as a symbol&nbsp; $\rm H$.&nbsp;
 +
*In contrast,&nbsp; the transition from&nbsp; $\rm H$&nbsp; to&nbsp; $\rm L$&nbsp; is not possible.
 +
*Let the symbol probabilities at the transmitter be&nbsp; ${\rm Pr}(S_{\rm L}) = 0.3$&nbsp; and&nbsp; ${\rm Pr}(S_{\rm H}) = 0.7$.
  
'''Hinweis''': Diese Aufgabe bezieht sich auf den Lehrstoff von Kapitel 1.3. Eine Zusammenfassung der theoretischen Grundlagen mit Beispielen bringt das nachfolgende Lernvideo:
 
  
===Fragebogen===
+
 
 +
 
 +
 
 +
 
 +
 
 +
Hints:
 +
*The exercise belongs to the chapter&nbsp; [[Theory_of_Stochastic_Signals/Statistical_Dependence_and_Independence|Statistical dependence and independence]].
 +
 +
*The topic of this chapter is illustrated with examples in the&nbsp;  (German language)&nbsp;  learning video
 +
::[[Statistische_Abhängigkeit_und_Unabhängigkeit_(Lernvideo)|Statistische Abhängigkeit und Unabhängigkeit]] &nbsp; $\Rightarrow$ &nbsp; "Statistical dependence and independence".
 +
 
 +
 
 +
===Questions===
  
 
<quiz display=simple>
 
<quiz display=simple>
{Wie groß ist die Wahrscheinlichkeit dafür, dass sich der Empfänger für das Symbol $L$ entscheidet?
+
{What is the probability that the receiver chooses the symbol&nbsp; $\rm L$?
 
|type="{}"}
 
|type="{}"}
$Pr(E_L)$ = { 0.21 3% }
+
${\rm Pr}(E_{\rm L}) \ = \ $ { 0.21 3% }
  
  
{Wie groß ist die Wahrscheinlichkeit dafür, dass sich der Empfänger für das Symbol $H$ entscheidet?
+
{What is the probability that the receiver chooses the symbol&nbsp; $\rm H$?
 
|type="{}"}
 
|type="{}"}
$Pr(E_H)$ = { 0.66 3% }
+
${\rm Pr}(E_{\rm H}) \ = \ $ { 0.66 3% }
  
  
{Wie groß ist die Wahrscheinlichkeit dafür, dass der Empfänger keine Entscheidung trifft?
+
{What is the probability that the receiver does not make a decision?
 
|type="{}"}
 
|type="{}"}
$Pr(E_K)$ = { 0.13 3% }
+
${\rm Pr}(E_{\rm K}) \ = \ $ { 0.13 3% }
  
  
{Mit welcher Wahrscheinlichkeit entscheidet der Empfänger falsch?
+
{What is the probability that the receiver makes a wrong decision?
 
|type="{}"}
 
|type="{}"}
$Pr(falsche\ Entscheidung)$ = { 0.03 3% }
+
$\text{Pr(wrong decision)} \ = \ $ { 0.03 3% }
  
  
{Wie groß ist die Wahrscheinlichkeit, dass das Symbol $L$ gesendet wurde, wenn sich der Empfänger für das Symbol $L$ entschieden hat?
+
{What is the probability that symbol&nbsp; $\rm L$&nbsp; was actually sent if the receiver decided to use symbol&nbsp; $\rm L$?
 
|type="{}"}
 
|type="{}"}
$Pr(S_L|E_L)$ = { 1 3% }
+
${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm L} ) \ = \ $ { 1 3% }
  
  
{Wie groß ist die Wahrscheinlichkeit, dass das Symbol $L$ gesendet wurde, wenn der Empfänger keine Entscheidung trifft?
+
{What is the probability that symbol&nbsp; $\rm L$&nbsp; was sent if the receiver does not make a decision?
 
|type="{}"}
 
|type="{}"}
$Pr(S_L|E_K)$ = { 0.4614 3% }
+
${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm K} ) \ =\ $ { 0.4614 3% }
  
  
Line 48: Line 62:
 
</quiz>
 
</quiz>
  
===Musterlösung===
+
===Solution===
 
{{ML-Kopf}}
 
{{ML-Kopf}}
:'''1.''' &nbsp;&nbsp;Nur wenn das Symbol <b>L</b> gesendet wurde, kann sich der Empf&auml;nger beim gegebenen Kanal f&uuml;r das Symbol <b>L</b> entscheiden. Die Wahrscheinlichkeit f&uuml;r ein empfangenes <b>L</b> ist allerdings um den Faktor 0.7 kleiner als f&uuml;r ein gesendetes. Daraus folgt:   
+
'''(1)'''&nbsp; Only if the symbol&nbsp; $\rm L$&nbsp; was sent,&nbsp; the receiver can decide for the symbol&nbsp; $\rm L$&nbsp; at the given channel.  
:$$\rm Pr (\it E_{\rm L}) = \rm Pr (\it S_{\rm L}) \cdot \rm Pr (\it E_{\rm L}|\it S_{\rm L}) = \rm 0.3 \cdot 0.7 \hspace{0.15cm}\underline {= \rm 0.21}.$$
+
 
:'''2.''' &nbsp;&nbsp;Zum Ereignis <i>E</i><sub>H</sub> kommt man sowohl von <i>S</i><sub>H</sub> als auch von <i>S</i><sub>L</sub> aus. Deshalb gilt:
+
*However,&nbsp; the probability for a received&nbsp; $\rm L$&nbsp; is smaller by a factor of&nbsp; $0.7$&nbsp; than for a sent one.&nbsp; From this follows:   
:$$\rm Pr (\it E_{\rm H}) = \rm Pr (\it S_{\rm H}) \cdot \rm Pr (\it E_{\rm H}|\it S_{\rm H}) + \rm Pr (\it S_{\rm L}) \cdot\rm Pr (\it E_{\rm H}|\it S_{\rm L}) \\ = \rm 0.7 \cdot 0.9 + 0.3 \cdot 0.1\hspace{0.15cm}\underline { =  \rm 0.66}.$$
+
:$${\rm Pr} (E_{\rm L}) = {\rm Pr}(S_{\rm L}) \cdot {\rm Pr} (E_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm L}) = 0.3 \cdot 0.7 \hspace{0.15cm}\underline {= \rm 0.21}.$$
:'''3.''' &nbsp;&nbsp;Die Ereignisse <i>E</i><sub>H</sub>, <i>E</i><sub>L</sub> und <i>E</i><sub>K</sub> bilden zusammen ein vollst&auml;ndiges System. Daraus folgt:
+
 
:$$\rm Pr (\it E_{\rm K}) =\rm  1 - \rm Pr (\it E_{\rm L}) - \rm Pr (\it E_{\rm H}) \hspace{0.15cm}\underline {= \rm 0.13}.$$
+
 
:'''4.''' &nbsp;&nbsp;Eine falsche Entscheidung kann man mengentheoretisch wie folgt charakterisieren:
+
 
:$$\rm Pr (falsche\hspace{0.1cm}Entscheidung) = Pr (\it S_{\rm L} \cap \it E_{\rm H} \cup \it S_{\rm H} \cap \it E_{\rm L}) = \rm 0.3 \cdot 0.1 + 0.7\cdot 0 \hspace{0.15cm}\underline {= \rm 0.03}.$$
+
'''(2)'''&nbsp; To the event&nbsp; $E_{\rm H}$&nbsp; one comes from&nbsp;  $S_{\rm H}$&nbsp; as well as from&nbsp; $S_{\rm L}$.&nbsp; Therefore holds:
:'''5.''' &nbsp;&nbsp;Wenn das Symbol <b>L</b> empfangen wurde, kann nur <b>L</b> gesendet worden sein. Daraus folgt:  
+
:$${\rm Pr} (E_{\rm H}) = {\rm Pr} (S_{\rm H}) \cdot {\rm Pr(E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm H}) + {\rm Pr} (S_{\rm L}) \cdot {\rm Pr(E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm} S_{\rm L})= \rm 0.7 \cdot 0.9 + 0.3 \cdot 0.1\hspace{0.15cm}\underline { =  \rm 0.66}.$$
:$$\rm Pr (\it S_{\rm L} | \it E_{\rm L}) \hspace{0.15cm}\underline {= \rm 1}.$$
+
 
:'''6.''' &nbsp;&nbsp;Zur L&ouml;sung dieser Aufgabe eignet sich z. B. der Satz von Bayes:
+
 
:$$\rm Pr (\it S_{\rm L}|\it E_{\rm K}) =\frac{ \rm Pr (\it E_{\rm K} | S_{\rm L}) \cdot \rm Pr (\it S_{\rm L})}{\rm Pr (\it E_{\rm K})} =\frac{ \rm 0.2 \cdot 0.3}{\rm 0.13} = \frac{\rm 6}{\rm 13}\hspace{0.15cm}\underline { \approx \rm 0.462}.$$
+
 
 +
'''(3)'''&nbsp; The events&nbsp; $E_{\rm H}$,&nbsp; $E_{\rm L}$&nbsp; and&nbsp; $E_{\rm K}$&nbsp; together form a complete system.&nbsp; It follows that:
 +
:$${\rm Pr} (E_{\rm K}) = 1 - {\rm Pr(E_{\rm L}) - {\rm Pr} (E_{\rm H}) \hspace{0.15cm}\underline {= \rm 0.13}.$$
 +
 
 +
 
 +
 
 +
'''(4)'''&nbsp; A wrong decision can be characterized in set-theoretic terms as follows:
 +
 
 +
:$${\rm Pr} \text{(wrong decision)} = {\rm Pr} \big [(S_{\rm L} \cap E_{\rm H}) \cup (S_{\rm H} \cap E_{\rm L})\big ] = \rm 0.3 \cdot 0.1 + 0.7\cdot 0 \hspace{0.15cm}\underline {= \rm 0.03}.$$
 +
 
 +
 
 +
 
 +
'''(5)'''&nbsp; If the symbol&nbsp; $\rm L$&nbsp; was received,&nbsp; only&nbsp; $\rm L$&nbsp; could have been sent. It follows that:  
 +
:$${\rm Pr} (S_{\rm L} \hspace{0.05cm}|\hspace{0.05cm} E_{\rm L}) \hspace{0.15cm}\underline {= \rm 1}.$$
 +
 
 +
 
 +
 
 +
'''(6)'''&nbsp; For example,&nbsp; Bayes' theorem is suitable for solving this problem:
 +
:$${\rm Pr} (S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm} E_{\rm K}) =\frac{ {\rm Pr} ( E_{\rm K} \hspace{0.05cm}|\hspace{0.05cm} S_{\rm L}) \cdot {\rm Pr} (S_{\rm L})}{{\rm Pr} (E_{\rm K})} =\frac{ \rm 0.2 \cdot 0.3}{\rm 0.13} = \frac{\rm 6}{\rm 13}\hspace{0.15cm}\underline { \approx \rm 0.462}.$$
 
{{ML-Fuß}}
 
{{ML-Fuß}}
  
  
  
[[Category:Aufgaben zu Stochastische Signaltheorie|^1.3 Statistische Abhängigkeit und Unabhängigkeit^]]
+
[[Category:Theory of Stochastic Signals: Exercises|^1.3 Statistical Dependence/Independence^]]

Latest revision as of 16:17, 30 November 2021

$\rm 2S/3E$  channel model

A transmitter  (German:  "Sender"   ⇒   subscript  "S")  emits the binary symbols  $\rm L$  $($event  $S_{\rm L})$  and  $\rm H$  $($event  $S_{\rm H})$ .

  • If conditions are good,  the digital receiver  (German:  "Empfänger"   ⇒   subscript  "E")  also decides only on the binary symbols  $\rm L$  $($event  $E_{\rm L})$  or  $\rm H$  $($event  $E_{\rm H})$.
  • However,  if the receiver can suspect that an error has occurred during transmission,  it makes no decision  $($event  $E_{\rm K})$; 
    $\rm K$  here stands for  "No decision".


The diagram shows a simple channel model in terms of transition probabilities. 

  • It can be seen that a transmitted  $\rm L$  may well be received as a symbol  $\rm H$. 
  • In contrast,  the transition from  $\rm H$  to  $\rm L$  is not possible.
  • Let the symbol probabilities at the transmitter be  ${\rm Pr}(S_{\rm L}) = 0.3$  and  ${\rm Pr}(S_{\rm H}) = 0.7$.




Hints:

  • The topic of this chapter is illustrated with examples in the  (German language)  learning video
Statistische Abhängigkeit und Unabhängigkeit   $\Rightarrow$   "Statistical dependence and independence".


Questions

1

What is the probability that the receiver chooses the symbol  $\rm L$?

${\rm Pr}(E_{\rm L}) \ = \ $

2

What is the probability that the receiver chooses the symbol  $\rm H$?

${\rm Pr}(E_{\rm H}) \ = \ $

3

What is the probability that the receiver does not make a decision?

${\rm Pr}(E_{\rm K}) \ = \ $

4

What is the probability that the receiver makes a wrong decision?

$\text{Pr(wrong decision)} \ = \ $

5

What is the probability that symbol  $\rm L$  was actually sent if the receiver decided to use symbol  $\rm L$?

${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm L} ) \ = \ $

6

What is the probability that symbol  $\rm L$  was sent if the receiver does not make a decision?

${\rm Pr}(S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}E_{\rm K} ) \ =\ $


Solution

(1)  Only if the symbol  $\rm L$  was sent,  the receiver can decide for the symbol  $\rm L$  at the given channel.

  • However,  the probability for a received  $\rm L$  is smaller by a factor of  $0.7$  than for a sent one.  From this follows:
$${\rm Pr} (E_{\rm L}) = {\rm Pr}(S_{\rm L}) \cdot {\rm Pr} (E_{\rm L}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm L}) = 0.3 \cdot 0.7 \hspace{0.15cm}\underline {= \rm 0.21}.$$


(2)  To the event  $E_{\rm H}$  one comes from  $S_{\rm H}$  as well as from  $S_{\rm L}$.  Therefore holds:

$${\rm Pr} (E_{\rm H}) = {\rm Pr} (S_{\rm H}) \cdot {\rm Pr} (E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm}S_{\rm H}) + {\rm Pr} (S_{\rm L}) \cdot {\rm Pr} (E_{\rm H}\hspace{0.05cm}|\hspace{0.05cm} S_{\rm L})= \rm 0.7 \cdot 0.9 + 0.3 \cdot 0.1\hspace{0.15cm}\underline { = \rm 0.66}.$$


(3)  The events  $E_{\rm H}$,  $E_{\rm L}$  and  $E_{\rm K}$  together form a complete system.  It follows that:

$${\rm Pr} (E_{\rm K}) = 1 - {\rm Pr} (E_{\rm L}) - {\rm Pr} (E_{\rm H}) \hspace{0.15cm}\underline {= \rm 0.13}.$$


(4)  A wrong decision can be characterized in set-theoretic terms as follows:

$${\rm Pr} \text{(wrong decision)} = {\rm Pr} \big [(S_{\rm L} \cap E_{\rm H}) \cup (S_{\rm H} \cap E_{\rm L})\big ] = \rm 0.3 \cdot 0.1 + 0.7\cdot 0 \hspace{0.15cm}\underline {= \rm 0.03}.$$


(5)  If the symbol  $\rm L$  was received,  only  $\rm L$  could have been sent. It follows that:

$${\rm Pr} (S_{\rm L} \hspace{0.05cm}|\hspace{0.05cm} E_{\rm L}) \hspace{0.15cm}\underline {= \rm 1}.$$


(6)  For example,  Bayes' theorem is suitable for solving this problem:

$${\rm Pr} (S_{\rm L}\hspace{0.05cm}|\hspace{0.05cm} E_{\rm K}) =\frac{ {\rm Pr} ( E_{\rm K} \hspace{0.05cm}|\hspace{0.05cm} S_{\rm L}) \cdot {\rm Pr} (S_{\rm L})}{{\rm Pr} (E_{\rm K})} =\frac{ \rm 0.2 \cdot 0.3}{\rm 0.13} = \frac{\rm 6}{\rm 13}\hspace{0.15cm}\underline { \approx \rm 0.462}.$$