Difference between revisions of "Aufgaben:Exercise 4.1Z: Log Likelihood Ratio at the BEC Model"

From LNTwww
m (Text replacement - "Category:Aufgaben zu Kanalcodierung" to "Category:Channel Coding: Exercises")
(One intermediate revision by the same user not shown)
Line 2: Line 2:
  
 
[[File:P_ID2978__KC_Z_4_1.png|right|frame|BEC–Kanalmodell]]
 
[[File:P_ID2978__KC_Z_4_1.png|right|frame|BEC–Kanalmodell]]
Wir betrachten das so genannte&nbsp; [[Kanalcodierung/Kanalmodelle_und_Entscheiderstrukturen#Binary_Symmetric_Channel_.E2.80.93_BSC| BEC&ndash;Kanalmodell]]&nbsp; (<i>Binary Erasure Channel</i>) mit
+
Wir betrachten das so genannte&nbsp; [[Channel_Coding/Kanalmodelle_und_Entscheiderstrukturen#Binary_Symmetric_Channel_.E2.80.93_BSC| BEC&ndash;Kanalmodell]]&nbsp; (<i>Binary Erasure Channel</i>) mit
 
* der Eingangsgröße&nbsp; $x &#8712; \{+1, \, -1\}$,
 
* der Eingangsgröße&nbsp; $x &#8712; \{+1, \, -1\}$,
 
* der Ausgangsgröße&nbsp; $y &#8712; \{+1, \, -1, \, {\rm E}\}$, und
 
* der Ausgangsgröße&nbsp; $y &#8712; \{+1, \, -1, \, {\rm E}\}$, und
Line 28: Line 28:
  
 
''Hinweise:''
 
''Hinweise:''
* Die Aufgabe gehört zum Kapitel&nbsp; [[Kanalcodierung/Soft%E2%80%93in_Soft%E2%80%93out_Decoder| Soft&ndash;in Soft&ndash;out Decoder]].
+
* Die Aufgabe gehört zum Kapitel&nbsp; [[Channel_Coding/Soft%E2%80%93in_Soft%E2%80%93out_Decoder| Soft&ndash;in Soft&ndash;out Decoder]].
* Bezug genommen wird insbesondere auf die Seite&nbsp; [[Kanalcodierung/Soft–in_Soft–out_Decoder#Zuverl.C3.A4ssigkeitsinformation_.E2.80.93_Log_Likelihood_Ratio| Zuverlässigkeitsinformation &ndash; Log Likelihood Ratio]]&nbsp; sowie  auf die Seite&nbsp; [[Kanalcodierung/Kanalmodelle_und_Entscheiderstrukturen#Binary_Erasure_Channel_.E2.80.93_BEC|''Binary Erasure Channel'']].
+
* Bezug genommen wird insbesondere auf die Seite&nbsp; [[Channel_Coding/Soft–in_Soft–out_Decoder#Zuverl.C3.A4ssigkeitsinformation_.E2.80.93_Log_Likelihood_Ratio| Zuverlässigkeitsinformation &ndash; Log Likelihood Ratio]]&nbsp; sowie  auf die Seite&nbsp; [[Channel_Coding/Kanalmodelle_und_Entscheiderstrukturen#Binary_Erasure_Channel_.E2.80.93_BEC|''Binary Erasure Channel'']].
  
  
Line 105: Line 105:
  
  
[[Category:Aufgaben zu  Kanalcodierung|^4.1 Soft–in Soft–out Decoder^]]
+
[[Category:Channel Coding: Exercises|^4.1 Soft–in Soft–out Decoder^]]

Revision as of 14:49, 23 March 2021

BEC–Kanalmodell

Wir betrachten das so genannte  BEC–Kanalmodell  (Binary Erasure Channel) mit

  • der Eingangsgröße  $x ∈ \{+1, \, -1\}$,
  • der Ausgangsgröße  $y ∈ \{+1, \, -1, \, {\rm E}\}$, und
  • der Auslöschungswahrscheinlichkeit  $\lambda$.


Hierbei bedeutet  $y = {\rm E}$  (Erasure), dass der Ausgangswert  $y$  weder als  $+1$  noch als  $-1$  entschieden werden konnte.

Bekannt sind zudem die Eingangswahrscheinlichkeiten

$${\rm Pr}(x = +1) = 3/4\hspace{0.05cm}, \hspace{0.5cm}{\rm Pr}(x = -1) = 1/4\hspace{0.05cm}.$$

Das  Log–Likelihood–Verhältnis  (kurz:  $L$–Wert, englisch:  Log Likelihood Ratio, LLR) der binären Zufallsgröße  $x$  ist bei bipolarer Betrachtungsweise wie folgt gegeben:

$$L(x)={\rm ln} \hspace{0.15cm} \frac{{\rm Pr}(x = +1)}{{\rm Pr}(x = -1)}\hspace{0.05cm}.$$

Entsprechend gilt für den bedingten  $L$–Wert in Vorwärtsrichtung für alle  $y ∈ \{+1, \, -1, \, {\rm E}\}$:

$$L(y\hspace{0.05cm}|\hspace{0.05cm}x) = {\rm ln} \hspace{0.15cm} \frac{{\rm Pr}(y\hspace{0.05cm}|\hspace{0.05cm}x = +1)}{{\rm Pr}(y\hspace{0.05cm}|\hspace{0.05cm}x = -1)} \hspace{0.05cm}. $$





Hinweise:



Fragebogen

1

Wie lautet der  $L$–Wert der Eingangsgröße  $x$?

$L(x) \ = \ $

2

Welcher Wahrscheinlichkeit  ${\rm Pr}(x = \, -1)$  entspricht  $L(x) = \, -2$?

${\rm Pr}(x = \, -1) \ = \ $

3

Berechnen Sie den bedingten  $L$–Wert  $L(y = {\rm E}\hspace{0.05cm} |\hspace{0.05cm} x)$  in Vorwärtsrichtung.

$L(y = {\rm E} \hspace{0.05cm} |\hspace{0.05cm} x) \ = \ $

4

Welche Aussagen gelten für die beiden anderen bedingten  $L$–Wert?

$L(y = +1 \hspace{0.05cm} |\hspace{0.05cm} x)$  ist positiv unendlich.
$L(y = \, -1 \hspace{0.05cm} |\hspace{0.05cm} x)$  ist negativ und betragsmäßig unendlich groß.
Es gilt  $L(y = +1 \hspace{0.05cm} |\hspace{0.05cm} x) = L(y = \, -1 \hspace{0.05cm} |\hspace{0.05cm} x) = 0$.

5

Unter welchen Voraussetzungen gelten die Ergebnisse aus (3) und (4)?

Für  $0 ≤ \lambda ≤ 1$.
Für  $0 < \lambda ≤ 1$.
Für  $0 ≤ \lambda < 1$.
Für  $0 < \lambda < 1$.


Musterlösung

(1)  Mit den gegebenen Symbolwahrscheinlichkeiten ${\rm Pr}(x = +1) = 3/4$ und ${\rm Pr}(x = -1) = 1/4$ erhält man:

$$L(x)={\rm ln} \hspace{0.15cm} \frac{{\rm Pr}(x = +1)}{{\rm Pr}(x = -1)} ={\rm ln} \hspace{0.15cm} \frac{3/4}{1/4}\hspace{0.15cm}\underline{= 1.099}\hspace{0.05cm}.$$


(2)  Entsprechend der Definition

$$L(x)={\rm ln} \hspace{0.15cm} \frac{{\rm Pr}(x = +1)}{{\rm Pr}(x = -1)}$$

ergibt sich für $L(x) = \, -2$ die folgende Bestimmungsgleichung:

$$\hspace{0.15cm} \frac{{\rm Pr}(x = +1)}{1-{\rm Pr}(x = +1)} \stackrel{!}{=}{\rm e}^{-2} \approx 0.135 \hspace{0.25cm}\Rightarrow \hspace{0.25cm} 1.135 \cdot {\rm Pr}(x = +1)\stackrel{!}{=}0.135\hspace{0.3cm} \Rightarrow \hspace{0.3cm} {\rm Pr}(x = +1) = 0.119\hspace{0.05cm},\hspace{0.4cm}{\rm Pr}(x = -1) \hspace{0.15cm}\underline{= 0.881}\hspace{0.05cm}. $$


(3)  Für den bedingten $L$–Wert $L(y = {\rm E} \hspace{0.05cm} |\hspace{0.05cm} x)$ in Vorwärtsrichtung gilt beim vorgegebenen BEC–Modell:

$$L(y = {\rm E}\hspace{0.05cm}|\hspace{0.05cm}x) = {\rm ln} \hspace{0.15cm} \frac{{\rm Pr}(y= {\rm E}\hspace{0.05cm}|\hspace{0.05cm}x = +1)}{{\rm Pr}(y= {\rm E}\hspace{0.05cm}|\hspace{0.05cm}x = -1)} = {\rm ln} \hspace{0.15cm} \frac{\lambda}{\lambda}\hspace{0.15cm}\underline{= 0}\hspace{0.05cm}.$$


(4)  Analog zur Musterlösung der Teilaufgabe (3) erhält man für $y = ±1$:

$$L(y = +1\hspace{0.05cm}|\hspace{0.05cm}x) \hspace{-0.15cm} \ = \ \hspace{-0.15cm} {\rm ln} \hspace{0.15cm} \frac{{\rm Pr}(y= +1\hspace{0.05cm}|\hspace{0.05cm}x = +1)}{{\rm Pr}(y= +1\hspace{0.05cm}|\hspace{0.05cm}x = -1)} = {\rm ln} \hspace{0.15cm} \frac{1-\lambda}{0}\hspace{0.15cm}\underline{ \hspace{0.05cm}\Rightarrow \hspace{0.15cm}+\infty }\hspace{0.05cm},$$
$$L(y = -1\hspace{0.05cm}|\hspace{0.05cm}x) \hspace{-0.15cm} \ = \ \hspace{-0.15cm} {\rm ln} \hspace{0.15cm} \frac{{\rm Pr}(y= -1\hspace{0.05cm}|\hspace{0.05cm}x = +1)}{{\rm Pr}(y= -1\hspace{0.05cm}|\hspace{0.05cm}x = -1)} = {\rm ln} \hspace{0.15cm} \frac{0}{1-\lambda}\hspace{0.15cm}\underline{ \hspace{0.05cm}\Rightarrow \hspace{0.15cm}-\infty }\hspace{0.05cm}. $$

Richtig sind demnach die Lösungsvorschläge 1 und 2.


(5)  Richtig ist der letzte Lösungsvorschlag:

  • Für $\lambda = 0$ (idealer Kanal) ergibt sich $L(y = {\rm E} \hspace{0.05cm} |\hspace{0.05cm} x) = \ln {(0/0)}$   ⇒   unbestimmtes Ergebnis.
  • Für $\lambda = 1$ (vollständige Auslöschung, $y ≡ {\rm E}$) sind $L(y = +1 \hspace{0.05cm} |\hspace{0.05cm} x)$ und $L(y = \, -1 \hspace{0.05cm} |\hspace{0.05cm} x)$ unbestimmt.