Difference between revisions of "Aufgaben:Exercise 1.14: Bhattacharyya Bound for BEC"
(Die Seite wurde neu angelegt: „{{quiz-Header|Buchseite=Kanalcodierung/Schranken für die Blockfehlerwahrscheinlichkeit }} [[File:|right|]] ===Fragebogen=== <quiz display=simple> {Mul…“) |
|||
Line 5: | Line 5: | ||
}} | }} | ||
− | [[File:|right|]] | + | [[File:P_ID2411__KC_A_1_13.png|right|frame|Mögliche Empfangsvektoren für (5, 2)–Code und BEC]] |
+ | Wir betrachten in dieser Aufgabe den systematischen (5, 2)–Code mit der 2×5–Generatormatrix | ||
+ | |||
+ | :$${ \boldsymbol{\rm G}}_{(5, 2)} = \begin{pmatrix} 1 &0 &1 &1 &0\\ 0 &1 &0 &1 &1 \end{pmatrix} \hspace{0.05cm},$$ | ||
+ | |||
+ | der 3 × 5–Prüfmatrix | ||
+ | |||
+ | :$${ \boldsymbol{\rm H}}_{(5, 2)} = \begin{pmatrix} 1 &0 &1 &0 &0\\ 1 &1 &0 &1 &0\\ 0 &1 &0 &0 &1 \end{pmatrix} \hspace{0.05cm},$$ | ||
+ | |||
+ | und den $2^k = 4$ Codeworten | ||
+ | |||
+ | :$$\underline{x}_0 \hspace{-0.15cm}\ = \ \hspace{-0.15cm} (0, 0, 0, 0, 0) \hspace{0.05cm},\hspace{0.2cm}\underline{x}_1 = (0, 1, 0, 1, 1)\hspace{0.05cm},$$ | ||
+ | :$$\underline{x}_2 \hspace{-0.15cm}\ = \ \hspace{-0.15cm} (1, 0, 1, 1, 0) \hspace{0.05cm},\hspace{0.2cm}\underline{x}_3 = (1, 1, 1, 0, 1)\hspace{0.05cm}.$$ | ||
+ | |||
+ | Am Ausgang des digitalen Kanals, der durch das BEC–Modell (''Binary Erasure Channel'') mit der Auslöschungswahrscheinlichkeit $\lambda = 0.001$ festgelegt wird, tritt der Empfangsvektor | ||
+ | |||
+ | :$$\underline{y} = (y_1, \hspace{0.05cm}y_2, \hspace{0.05cm}y_3, \hspace{0.05cm}y_4, \hspace{0.05cm}y_5)$$ | ||
+ | |||
+ | auf, wobei für $i = 1, ... , 5$ gilt: $y_{i} \in$ {0, 1, E}. | ||
+ | Der BEC–Kanal zeichnet sich dadurch aus, dass | ||
+ | *Verfälschungen (0 → 1, 1 → 0) ausgeschlossen sind, | ||
+ | *es aber zu Auslöschungen (0 → E, 1 → E) kommen kann. | ||
+ | |||
+ | Die Grafik zeigt explizit alle möglichen Empfangsvektoren <u>''y''</u> mit drei oder mehr Auslöschungen (englisch: ''Erasures'', abgekürzt E) unter der Voraussetzung, dass der Nullvektor (0, 0, 0, 0, 0) gesendet wurde. Bei weniger als drei Auslöschungen liefert bei dem betrachteten (5, 2)–Code der Codewortschätzer immer die richtige Entscheidung: $\underline{z} = \underline{x}$. | ||
+ | |||
+ | Bei drei oder mehr Auslöschungen kann es dagegen zu Fehlentscheidungen kommen. In diesem Fall gilt für die Blockfehlerwahrscheinlichkeit | ||
+ | |||
+ | :$$ {\rm Pr(Blockfehler)}= {\rm Pr} (\underline{z} \ne \underline{x}) = {\rm Pr}\left \{ \hspace{0.1cm} [\underline{x}_{\hspace{0.02cm}0} \mapsto \underline{x}_{\hspace{0.02cm}1}] \hspace{0.05cm}\cup\hspace{0.05cm}[\underline{x}_{\hspace{0.02cm}0} \mapsto \underline{x}_{\hspace{0.02cm}2}] \hspace{0.05cm}\cup \hspace{0.05cm}[\underline{x}_{\hspace{0.02cm}0} \mapsto \underline{x}_{\hspace{0.02cm}3}] \hspace{0.1cm}\right \} \hspace{0.05cm}.$$ | ||
+ | |||
+ | Das Ereignis $[\underline{x}_{0} → \underline{x}_{1}]$ sagt nicht unbedingt aus, dass beim betrachteten Empfangsvektor <u>''y''<\u> tatsächlich für das Codewort $\underline{x}_{1}$ entschieden wird, sondern lediglich, dass die Entscheidung für x1 aufgrund der Statistik sinnvoller wäre als die Entscheidung für $\underline{x}_{0}$. Es könnte aber auch für $\underline{x}_{2}$ oder $\underline{x}_{3}$ entschieden werden, wenn das Maximum–Likelihood–Kriterium hierfür spricht. | ||
+ | Die Berechnung der Blockfehlerwahrscheinlichkeit ist schwierig, da die Ereignisse $[\underline{x}_{0} → \underline{x}_{1}]$ , $[\underline{x}_{0} → \underline{x}_{2}]$ und $[\underline{x}_{0} → \underline{x}_{3}]$ nicht notwendigerweise disjunkt sind. Eine obere Schranke liefert die Union Bound: | ||
+ | |||
+ | :$${\rm Pr(Union \hspace{0.15cm}Bound)} = {\rm Pr}[\underline{x}_{\hspace{0.02cm}0} \hspace{-0.02cm}\mapsto \hspace{-0.02cm}\underline{x}_{\hspace{0.02cm}1}] +{\rm Pr}[\underline{x}_{\hspace{0.02cm}0} \hspace{-0.02cm}\mapsto \hspace{-0.02cm} \underline{x}_{\hspace{0.02cm}2}] +{\rm Pr}[\underline{x}_{\hspace{0.02cm}0} \hspace{-0.02cm}\mapsto \hspace{-0.02cm} \underline{x}_{\hspace{0.02cm}3}] \ge {\rm Pr(Blockfehler)} \hspace{0.05cm}.$$ | ||
+ | |||
+ | Eine weitere Schranke wurde von Bhattacharyya angegeben: | ||
+ | |||
+ | :$${\rm Pr(Bhattacharyya)} = W(\beta)-1 \ge {\rm Pr(Union \hspace{0.15cm}Bound)} \ge {\rm Pr(Blockfehler)} \hspace{0.05cm},$$ | ||
+ | |||
+ | wobei beim Binary Erasure Channel $\beta = \lambda$ gilt. ''W(X)'' ist die Gewichtsfunktion, wobei die Pseudo–Variable ''X'' hier durch den Bhattacharyya–Parameter $\lambda$ zu ersetzen ist. | ||
+ | Die Bhattacharyya–Schranke liegt je nach Kanal mehr oder weniger weit oberhalb der ''Union Bound.'' Ihre Bedeutung liegt darin, dass die Schranke für unterschiedliche Kanäle in gleicher Weise angebbar ist. | ||
+ | Hinweis: Die Aufgabe gehört zum Themengebiet von Kapitel 1.6. | ||
===Fragebogen=== | ===Fragebogen=== |
Revision as of 11:16, 12 December 2017
Wir betrachten in dieser Aufgabe den systematischen (5, 2)–Code mit der 2×5–Generatormatrix
- $${ \boldsymbol{\rm G}}_{(5, 2)} = \begin{pmatrix} 1 &0 &1 &1 &0\\ 0 &1 &0 &1 &1 \end{pmatrix} \hspace{0.05cm},$$
der 3 × 5–Prüfmatrix
- $${ \boldsymbol{\rm H}}_{(5, 2)} = \begin{pmatrix} 1 &0 &1 &0 &0\\ 1 &1 &0 &1 &0\\ 0 &1 &0 &0 &1 \end{pmatrix} \hspace{0.05cm},$$
und den $2^k = 4$ Codeworten
- $$\underline{x}_0 \hspace{-0.15cm}\ = \ \hspace{-0.15cm} (0, 0, 0, 0, 0) \hspace{0.05cm},\hspace{0.2cm}\underline{x}_1 = (0, 1, 0, 1, 1)\hspace{0.05cm},$$
- $$\underline{x}_2 \hspace{-0.15cm}\ = \ \hspace{-0.15cm} (1, 0, 1, 1, 0) \hspace{0.05cm},\hspace{0.2cm}\underline{x}_3 = (1, 1, 1, 0, 1)\hspace{0.05cm}.$$
Am Ausgang des digitalen Kanals, der durch das BEC–Modell (Binary Erasure Channel) mit der Auslöschungswahrscheinlichkeit $\lambda = 0.001$ festgelegt wird, tritt der Empfangsvektor
- $$\underline{y} = (y_1, \hspace{0.05cm}y_2, \hspace{0.05cm}y_3, \hspace{0.05cm}y_4, \hspace{0.05cm}y_5)$$
auf, wobei für $i = 1, ... , 5$ gilt: $y_{i} \in$ {0, 1, E}. Der BEC–Kanal zeichnet sich dadurch aus, dass
- Verfälschungen (0 → 1, 1 → 0) ausgeschlossen sind,
- es aber zu Auslöschungen (0 → E, 1 → E) kommen kann.
Die Grafik zeigt explizit alle möglichen Empfangsvektoren y mit drei oder mehr Auslöschungen (englisch: Erasures, abgekürzt E) unter der Voraussetzung, dass der Nullvektor (0, 0, 0, 0, 0) gesendet wurde. Bei weniger als drei Auslöschungen liefert bei dem betrachteten (5, 2)–Code der Codewortschätzer immer die richtige Entscheidung: $\underline{z} = \underline{x}$.
Bei drei oder mehr Auslöschungen kann es dagegen zu Fehlentscheidungen kommen. In diesem Fall gilt für die Blockfehlerwahrscheinlichkeit
- $$ {\rm Pr(Blockfehler)}= {\rm Pr} (\underline{z} \ne \underline{x}) = {\rm Pr}\left \{ \hspace{0.1cm} [\underline{x}_{\hspace{0.02cm}0} \mapsto \underline{x}_{\hspace{0.02cm}1}] \hspace{0.05cm}\cup\hspace{0.05cm}[\underline{x}_{\hspace{0.02cm}0} \mapsto \underline{x}_{\hspace{0.02cm}2}] \hspace{0.05cm}\cup \hspace{0.05cm}[\underline{x}_{\hspace{0.02cm}0} \mapsto \underline{x}_{\hspace{0.02cm}3}] \hspace{0.1cm}\right \} \hspace{0.05cm}.$$
Das Ereignis $[\underline{x}_{0} → \underline{x}_{1}]$ sagt nicht unbedingt aus, dass beim betrachteten Empfangsvektor y<\u> tatsächlich für das Codewort $\underline{x}_{1}$ entschieden wird, sondern lediglich, dass die Entscheidung für x1 aufgrund der Statistik sinnvoller wäre als die Entscheidung für $\underline{x}_{0}$. Es könnte aber auch für $\underline{x}_{2}$ oder $\underline{x}_{3}$ entschieden werden, wenn das Maximum–Likelihood–Kriterium hierfür spricht. Die Berechnung der Blockfehlerwahrscheinlichkeit ist schwierig, da die Ereignisse $[\underline{x}_{0} → \underline{x}_{1}]$ , $[\underline{x}_{0} → \underline{x}_{2}]$ und $[\underline{x}_{0} → \underline{x}_{3}]$ nicht notwendigerweise disjunkt sind. Eine obere Schranke liefert die Union Bound:
- $${\rm Pr(Union \hspace{0.15cm}Bound)} = {\rm Pr}[\underline{x}_{\hspace{0.02cm}0} \hspace{-0.02cm}\mapsto \hspace{-0.02cm}\underline{x}_{\hspace{0.02cm}1}] +{\rm Pr}[\underline{x}_{\hspace{0.02cm}0} \hspace{-0.02cm}\mapsto \hspace{-0.02cm} \underline{x}_{\hspace{0.02cm}2}] +{\rm Pr}[\underline{x}_{\hspace{0.02cm}0} \hspace{-0.02cm}\mapsto \hspace{-0.02cm} \underline{x}_{\hspace{0.02cm}3}] \ge {\rm Pr(Blockfehler)} \hspace{0.05cm}.$$
Eine weitere Schranke wurde von Bhattacharyya angegeben:
- $${\rm Pr(Bhattacharyya)} = W(\beta)-1 \ge {\rm Pr(Union \hspace{0.15cm}Bound)} \ge {\rm Pr(Blockfehler)} \hspace{0.05cm},$$
wobei beim Binary Erasure Channel $\beta = \lambda$ gilt. W(X) ist die Gewichtsfunktion, wobei die Pseudo–Variable X hier durch den Bhattacharyya–Parameter $\lambda$ zu ersetzen ist. Die Bhattacharyya–Schranke liegt je nach Kanal mehr oder weniger weit oberhalb der Union Bound. Ihre Bedeutung liegt darin, dass die Schranke für unterschiedliche Kanäle in gleicher Weise angebbar ist. Hinweis: Die Aufgabe gehört zum Themengebiet von Kapitel 1.6.
Fragebogen
Musterlösung