Aufgaben:Exercise 2.15: Block Error Probability with AWGN: Difference between revisions

From LNTwww
Hussain (talk | contribs)
No edit summary
Fix interlanguage link: resolve redirect chain
 
(29 intermediate revisions by 6 users not shown)
Line 1: Line 1:
{{quiz-Header|Buchseite=Kanalcodierung/Fehlerwahrscheinlichkeit und Anwendungsgebiete}}
{{quiz-Header|Buchseite=Channel_Coding/Error_Probability_and_Areas_of_Application}}


[[File:P_ID2571__KC_A_2_15neu.png|right|frame|Unvollständige Ergebnistabelle]]
[[File:P_ID2571__KC_A_2_15neu.png|right|frame|Incomplete table of results]]
Am Beispiel des $\rm RSC \, (7, \, 3, \, 5)_8$ mit den Parametern
Using the example of  $\rm RSC \, (7, \, 3, \, 5)_8$  with parameters
* $n = 7$ (Anzahl der Codesymbole),
* $n = 7$  $($number of code symbols$)$,
* $k =3$ (Anzahl der Informationssymbole),
* $t = 2$ (Korrekturfähigkeit)


* $k =3$  $($number of information symbols$)$,


soll die Berechnung der Blockfehlerwahrscheinlichkeit beim [[Kanalcodierung/Fehlerwahrscheinlichkeit_und_Anwendungsgebiete#Blockfehlerwahrscheinlichkeit_f.C3.BCr_RSC_und_BDD|Bounded Distance Decoding]] (BDD) gezeigt werden. Die entsprechende Gleichung lautet:
* $t = 2$  $($correction capability$)$.
:$${\rm Pr(Blockfehler)}  =$$
:$$ =
\sum_{f = t + 1}^{n} {n \choose f} \cdot {\varepsilon_{\rm S}}^f \cdot (1 - \varepsilon_{\rm S})^{n-f} \hspace{0.05cm}.$$


Die Berechnung erfolgt für den [[Kanalcodierung/Klassifizierung_von_Signalen#AWGN.E2.80.93Kanal_bei_bin.C3.A4rem_Eingang|AWGN–Kanal]], der durch den Parameter $E_{\rm B}/N_0$ gekennzeichnet ist. Dieser Quotient lässt sich über die Beziehung
:$$\varepsilon = {\rm Q} \big (\sqrt{\frac{2 \cdot R \cdot E_{\rm B}}{N_0}} \big ) $$


in das [[Kanalcodierung/Klassifizierung_von_Signalen#Binary_Symmetric_Channel_.E2.80.93_BSC|BSC–Modell]] übeführen, wobei $R$ die Coderate bezeichnet (hier: $R = 3/7$) und ${\rm Q}(x)$ und [[komplementäre Gaußsche Fehlerintegral]] angibt. Da aber beim betrachteten Code die Symbole aus $\rm GF(2^3)$ entstammen, muss das BSC–Modell mit Parameter $\epsilon$ ebenfalls noch an die Aufgabenstellung adaptiert werden. Für die Verfälschungwahrscheinlichkeit des [[Kanalcodierung/Fehlerwahrscheinlichkeit_und_Anwendungsgebiete#Blockfehlerwahrscheinlichkeit_f.C3.BCr_RSC_und_BDD|m–BSC–Modells]] gilt:
the calculation of the block error probability in  [[Channel_Coding/Error_Probability_and_Application_Areas#Block_error_probability_for_RSC_and_BDD|"Bounded Distance Decoding"]]  $\rm (BDD)$  shall be shown.  The corresponding equation is:
:$$\varepsilon_{\rm S} = 1 - (1 - \varepsilon)^m
:$${\rm Pr(block\:error)}  = {\rm Pr}(\underline{v} \ne \underline{u}) =\sum_{f = t + 1}^{n} {n \choose f} \cdot {\varepsilon_{\rm S}}^f \cdot (1 - \varepsilon_{\rm S})^{n-f} \hspace{0.05cm}.$$
\hspace{0.05cm},$$


wobei hier $m = 3$ zu setzen ist (3 Bit pro Codesymbol).
⇒   The calculation is performed for the  [[Theory_of_Stochastic_Signals/Gaussian_Distributed_Random_Variables#Exceedance_probability|"AWGN channel"
]]  characterized by the parameter  $E_{\rm B}/N_0$:


Für einige $E_{\rm B}/N_0$–Werte sind alle Ergebnisse bereits in obiger Tabelle eingetragen. Die gelb hinterlegten Zeilen werden hier kurz erläutert.
*The quotient  $E_{\rm B}/{N_0}$  can be expressed by the relation
* Für $10 \cdot \lg {E_{\rm B}/N_0} = 4 \ \rm dB$ ergibt sich $\epsilon \approx {\rm Q}(1.47) \approx 0.071$ und $\epsilon_{\rm S} \approx 0.2$. Der einfachste Weg zur Berechnung der Blockfehlerwahrscheinlichkeit führt hier über das Kompliment:
:$$\varepsilon = {\rm Q} \big (\sqrt{{2 \cdot R \cdot E_{\rm B}}/{N_0}} \big ) $$  
:$${\rm Pr(Blockfehler)}  = 1 - \big [ {7 \choose 0} \cdot 0.8^7 + {7 \choose 1} \cdot 0.2 \cdot 0.8^6 + {7 \choose 2} \cdot 0.2^2 \cdot 0.8^5\big ]
:into the  [[Channel_Coding/Channel_Models_and_Decision_Structures#Binary_Symmetric_Channel_.E2.80. 93_BSC|"BSC model"]]  where  $R$  denotes the code rate  $($here:  $R = 3/7)$  and  ${\rm Q}(x)$  indicates the  [[Theory_of_Stochastic_Signals/Gaussian_Distributed_Random_Variables#Exceedance_probability|"complementary Gaussian error integral"]].
\approx 0.148  \hspace{0.05cm}.$$
 
* Für $10 \cdot \lg {E_{\rm B}/N_0} = 12 \ \rm dB$ erhält man $\epsilon \approx 1.2 \cdot 10^{-4}$ und $\epsilon_{\rm S} \approx 3.5 \cdot 10^{-4}$. Mit dieser sehr kleinen Verfälschungswahrscheinlichkeit dominiert der $f = 3$–Term und man erhält
*But since in the considered code the symbols come from  $\rm GF(2^3)$,  the BSC model with parameter  $\varepsilon$  must also still be adapted to the task.
:$${\rm Pr(Blockfehler)} \approx  {7 \choose 3} \cdot (3.5 \cdot 10^{-4})^3 \cdot (1- 3.5 \cdot 10^{-4})^4
\approx 1.63 \cdot 10^{-9}  \hspace{0.05cm}.$$
*For the falsification probability of the  [[Channel_Coding/Error_Probability_and_Application_Areas#Block_error_probability_for_RSC_and_BDD|"''m''– BSC"  model]]  applies: 
:$$\varepsilon_{\rm S} = 1 - (1 - \varepsilon)^m\hspace{0.05cm}.$$
:Here it is to be set   $m = 3$  $($three bits per code symbol$)$.


In dieser Aufgabe sollen Sie für die rot hinterlegten Zeilen $(10 \cdot \lg {E_{\rm B}/N_0} = 5 \ \rm dB, \ 8 \ dB$ und $10 \ \rm dB)$ die Blockfehlerwahrscheinlichkeiten berechnen.


Die blau hinterlegten Zeilen zeigen einige Ergebnisse der [[Aufgaben:2.15Z_Nochmals_Pr(%CF%85_%E2%89%A0_u)_f%C3%BCr_BDD|Zusatzaufgabe Z2.15]]. Dort wird ${\rm Pr}(\underline{\upsilon} ≠ \underline{u})$ für $\epsilon_{\rm S} = 10\%, \ 1\%$ und $0.1\%$ berechnet. In den Teilaufgaben (4) und (5) sollen Sie den Zusammenhang zwischen dieser Größe $\epsilon_{\rm S}$ und dem AWGN–Parameter $E_{\rm B}/N_0$ herstellen und somit die obige Tabelle vervollständigen.
⇒   For some  $E_{\rm B}/N_0$ values the results are entered in the table above.  The two rows with yellow background are briefly explained here:
* For  $10 \cdot \lg {E_{\rm B}/N_0} = 4 \ \rm dB$  we get  $\varepsilon \approx {\rm Q}(1.47) \approx 0.071$  and  $\varepsilon_{\rm S} \approx 0.2$.   The block error probability here can most easily be calculated using the complement:
:$${\rm Pr(block\:error)}  = 1 - \left [ {7 \choose 0} \cdot 0.8^7 + {7 \choose 1} \cdot 0.2 \cdot 0.8^6 + {7 \choose 2} \cdot 0.2^2 \cdot 0.8^5\right ]\approx 0.148  \hspace{0.05cm}.$$


''Hinweise:''
* For  $10 \cdot \lg {E_{\rm B}/N_0} = 12 \ \rm dB$  one gets  $\varepsilon \approx 1.2 \cdot 10^{-4}$  and  $\varepsilon_{\rm S} \approx 3.5 \cdot 10^{-4}$.  With this very small falsification probability,  the  $f = 3$  term dominates,  and we obtain:
* Die Aufgabe gehört zum Kapitel [[Kanalcodierung/Fehlerwahrscheinlichkeit_und_Anwendungsgebiete| Fehlerwahrscheinlichkeit und Anwendungsgebiete]].
:$${\rm Pr(block\:error)}  \approx  {7 \choose 3} \cdot (3.5 \cdot 10^{-4})^3 \cdot (1- 3.5 \cdot 10^{-4})^4\approx 1.63 \cdot 10^{-9}  \hspace{0.05cm}.$$
* Wir weisen Sie auf folgende Interaktionsmodule hin:
# [[Komplementäre Gaußsche Fehlerfunktionen]]
# [[Wahrscheinlichkeiten der Binomialverteilung]]
* Sollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0.” ein.


⇒   You are to calculate the block error probabilities for the rows highlighted in red   $(10 \cdot \lg {E_{\rm B}/N_0} = 5 \ \rm dB, \ 8 \rm dB$,  $10 \ \rm dB)$.
:*The rows with blue background show some results of  [[Aufgaben:Exercise_2.15Z:_Block_Error_Probability_once_more|"Exercise 2.15Z"]].  There  ${\rm Pr}(\underline{v} ≠ \underline{u})$  is calculated for  $\varepsilon_{\rm S} = 10\%,  \ 1\%$  $0.1\%$.
:*In subtasks '''(4)''' and '''(5)''' you are to establish the relationship between the quantity  $\varepsilon_{\rm S}$  and the AWGN parameter  $E_{\rm B}/N_0$  thus completing the above table.








===Fragebogen===
 
<u>Hints:</u>
* The exercise belongs to the chapter&nbsp; [[Channel_Coding/Error_Probability_and_Areas_of_Application| "Error Probability and Application Areas"]].
 
* We refer you here to the two interactive HTML5/JavaScript applets&nbsp;
:*[[Applets:Complementary_Gaussian_Error_Functions|"Complementary Gaussian error functions"]],&nbsp; and&nbsp;
:*[[Applets:Binomial_and_Poisson_Distribution_(Applet)|"Binomial and Poisson Distribution"]].
 
 
 
 
 
===Questions===
<quiz display=simple>
<quiz display=simple>
{Wie groß ist die Blockfehlerwahrscheinlichkeit für $10 \cdot \lg {E_{\rm B}/N_0} = 5 \ \rm dB$?
{What is the block error probability for&nbsp;  $10 \cdot \lg {E_{\rm B}/N_0} \hspace{0.15cm}\underline{= 5 \ \rm dB}$?
|type="{}"}
|type="{}"}
$E_{\rm B}/N_0 = 5 \ \rm dB \text{:} \hspace{0.2cm} Pr(Blockfehler) \ = \ ${ 6.66 3% } $\ \cdot 10^{-2}$
${\rm Pr(block\:error)} \ = \ ${ 6.66 3% } $\ \cdot 10^{-2}$


{Wie groß ist die Blockfehlerwahrscheinlichkeit für $10 \cdot \lg {E_{\rm B}/N_0} = 8 \ \rm dB$?
{What is the block error probability for&nbsp; $10 \cdot \lg {E_{\rm B}/N_0} \hspace{0.15cm}\underline{= 8 \ \rm dB}$?
|type="{}"}
|type="{}"}
$E_{\rm B}/N_0 = 8 \ \rm dB \text{:} \hspace{0.2cm} Pr(Blockfehler) \ = \ ${ 8.63 3% } $\ \cdot 10^{-4}$
${\rm Pr(block\:error)} \ = \ ${ 8.63 3% } $\ \cdot 10^{-4}$


{Wie groß ist die Blockfehlerwahrscheinlichkeit für $10 \cdot \lg {E_{\rm B}/N_0} = 10 \ \rm dB$?
{What is the block error probability for&nbsp; $10 \cdot \lg {E_{\rm B}/N_0}\hspace{0.15cm}\underline{ = 10 \ \rm dB}$?
|type="{}"}
|type="{}"}
$E_{\rm B}/N_0 = 10 \ \rm dB \text{:} \hspace{0.2cm} Pr(Blockfehler) \ = \ ${ 4.3 3% } $\ \cdot 10^{-6}$
${\rm Pr(block\:error)} \ = \ ${ 4.3 3% } $\ \cdot 10^{-6}$


{Wie hängt $\epsilon_{\rm S} = 0.1$ mit $10 \cdot \lg {E_{\rm B}/N_0}$ zusammen? ''Hinweis:'' Verwenden Sie das angegebene Flash&ndash;Modul zur Berechnung von ${\rm Q}(x)$.
{How is&nbsp; $\varepsilon_{\rm S} = 0.1$&nbsp; related to&nbsp; $10 \cdot \lg {E_{\rm B}/N_0}$&nbsp;? &nbsp; <u>Note:</u> &nbsp;Use the given applet to calculate&nbsp; ${\rm Q}(x)$.
|type="{}"}
|type="{}"}
$\epsilon_{\rm S} = 0.1 \text{:} \hspace{0.2cm} 10 \cdot \lg {E_{\rm B}/N_0} \ = \ ${ 5.87 3% } $\ \rm dB$
$\varepsilon_{\rm S} = 10^{-1} \text{:} \hspace{0.4cm} 10 \cdot \lg {E_{\rm B}/N_0} \ = \ ${ 5.87 3% } $\ \rm dB$


{Ermitteln Sie auch die $E_{\rm B}/N_0$&ndash;Werte (in $\rm dB$) für $\epsilon_{\rm S} = 0.01$ und $\epsilon_{\rm S} = 0.001$ und vervollständigen Sie die Tabelle.
{Find also the&nbsp; $E_{\rm B}/N_0$ values&nbsp; $($in&nbsp; $\rm dB)$&nbsp; for&nbsp; $\varepsilon_{\rm S} = 0.01$&nbsp; and&nbsp; $\varepsilon_{\rm S} = 0.001$. Complete the table.
|type="{}"}
|type="{}"}
$\epsilon_{\rm S} = 0.01 \text{:} \hspace{0.2cm} 10 \cdot \lg {E_{\rm B}/N_0} \ = \ ${ 9.32 3% } $\ \rm dB$
$\varepsilon_{\rm S} = 10^{-2} \text{:} \hspace{0.4cm} 10 \cdot \lg {E_{\rm B}/N_0} \ = \ $ { 9.32 3% } $\ \rm dB$
$\epsilon_{\rm S} = 0.001 \text{:} \hspace{0.2cm} 10 \cdot \lg {E_{\rm B}/N_0} \ = \ ${ 11.3 3% } $\ \rm dB$
$\varepsilon_{\rm S} = 10^{-3} \text{:} \hspace{0.4cm} 10 \cdot \lg {E_{\rm B}/N_0} \ = \ $ { 11.3 3% } $\ \rm dB$
</quiz>
</quiz>


===Musterlösung===
===Solution===
{{ML-Kopf}}
{{ML-Kopf}}
'''(1)'''&nbsp; Aus der Tabelle auf der Angabenseite kann der BSC&ndash;Parameter $\epsilon = 0.0505$ abgelesen werden. Damit erhält man für die Symbolverfälschungswahrscheinlichkeit $\epsilon_{\rm S}$ mit $m = 3$:
'''(1)'''&nbsp; From the table on the information page,&nbsp;  the BSC parameter&nbsp; $\varepsilon = 0.0505$&nbsp; can be read.  
:$$1 - \varepsilon_{\rm S} = (1 - 0.0505)^3 \approx 0.856  
*This gives&nbsp; $\varepsilon_{\rm S}$&nbsp; for the symbol error probability with&nbsp; $m = 3$:
\hspace{0.3cm}\Rightarrow  \hspace{0.3cm}
:$$1 - \varepsilon_{\rm S} = (1 - 0.0505)^3 \approx 0.856\hspace{0.3cm}\Rightarrow  \hspace{0.3cm}\varepsilon_{\rm S} \approx 0.144\hspace{0.05cm}.$$
\varepsilon_{\rm S} \approx 0.144
\hspace{0.05cm}.$$


Der schnellste Weg zur Berechnung der Blockfehlerwahrscheinlichkeit führt hier über die Formel
*The fastest way to calculate the block error probability is here to use the formula
:$${\rm Pr(Blockfehler)}  \hspace{-0.15cm} \ = \ \hspace{-0.15cm} 1 - {\rm Pr}(f=0) -  {\rm Pr}(f=1) - {\rm Pr}(f=2) =$$
:$${\rm Pr(block\:error)}  \hspace{-0.15cm} \ = \ \hspace{-0.15cm} 1 - {\rm Pr}(f=0) -  {\rm Pr}(f=1) - {\rm Pr}(f=2) = 1 - 1 \cdot 0.856^7 -7 \cdot 0.144^1 \cdot 0.856^6 -  21 \cdot 0.144^2 \cdot 0.856^5$$
:$$\hspace{2.875cm} \ = \ \hspace{-0.15cm} 1 - 1 \cdot 0.856^7 -  
:$$\Rightarrow \hspace{0.3cm} {\rm Pr(block\:error)}  \hspace{-0.15cm} \ = \ \hspace{-0.15cm} {\rm Pr}(\underline{v} \ne \underline{u}) =1 - 0.3368 - 0.3965 - 0.2001 \hspace{0.15cm} \underline{=0.0666}\hspace{0.05cm}.$$
7 \cdot 0.144^1 \cdot 0.856^6 -  21 \cdot 0.144^2 \cdot 0.856^5 =$$
:$$\hspace{2.65cm} \ = \ \hspace{-0.15cm} 1 - 0.3368 - 0.3965 - 0.2001 \hspace{0.15cm} \underline{=0.0666}  
\hspace{0.05cm}.$$




'''(2)'''&nbsp; Nach gleichem Rechengang wie in Teilaufgabe (1) ergibt sich mit $\epsilon_{\rm S} \approx 0.03 \ \Rightarrow \ 1 - \epsilon_{\rm S} = 0.97$:
'''(2)'''&nbsp; Following the same calculation procedure as in subtask&nbsp; '''(1)''',&nbsp; we obtain with&nbsp; $\varepsilon_{\rm S} \approx 0.03 \ \Rightarrow \ 1 - \varepsilon_{\rm S} = 0.97$:
:$${\rm Pr(Blockfehler)}  
:$${\rm Pr(block\:error)}\hspace{-0.15cm} \ = \ \hspace{-0.15cm} 1 \hspace{-0.05cm}-\hspace{-0.05cm} 1 \cdot 0.97^7 \hspace{-0.05cm}-\hspace{-0.05cm}7 \cdot 0.03^1 \cdot 0.97^6 \hspace{-0.05cm}-\hspace{-0.05cm} 21 \cdot 0.03^2 \cdot 0.97^5 =1 \hspace{-0.05cm}-\hspace{-0.05cm} 0.8080 \hspace{-0.05cm}-\hspace{-0.05cm} 0.1749\hspace{-0.05cm}-\hspace{-0.05cm} 0.0162= 1 \hspace{-0.05cm}-\hspace{-0.05cm} 0.9991  = 9 \cdot 10^{-4}\hspace{0.05cm}.$$
\hspace{-0.15cm} \ = \ \hspace{-0.15cm} 1 - 1 \cdot 0.97^7 -  
7 \cdot 0.03^1 \cdot 0.97^6 -  21 \cdot 0.03^2 \cdot 0.97^5 =$$
:$$\hspace{-0.15cm} \ = \ \hspace{-0.15cm} 1 - 0.8080 - 0.1749 - 0.0162= 1 - 0.9991  = 9 \cdot 10^{-4}  
\hspace{0.05cm}.$$


Man sieht, dass hier die Differenz zwischen zwei fast gleich großen Zahlen gebildet werden muss, so dass das Ergebnis mit einem Fehler behaftet sein könnte. Deshalb berechnen wir noch folgende Größen:
*You can see that here the difference between two numbers of almost the same size must be formed,&nbsp; so that the result could be affected by an error.  
:$${\rm Pr}(f=3) \hspace{-0.15cm} \ = \ \hspace{-0.15cm}
{7 \choose 3} \cdot \varepsilon_{\rm S}^3 \cdot (1 - \varepsilon_{\rm S})^4 = 35 \cdot 0.03^3 \cdot 0.97^4 = 8.366 \cdot 10^{-4}\hspace{0.05cm},$$
:$${\rm Pr}(f=4) \hspace{-0.15cm} \ = \ \hspace{-0.15cm}
{7 \choose 4} \cdot \varepsilon_{\rm S}^4 \cdot (1 - \varepsilon_{\rm S})^3 = 35 \cdot 0.03^4 \cdot 0.97^3 = 0.259 \cdot 10^{-4}\hspace{0.05cm},$$
:$${\rm Pr}(f=5) \hspace{-0.15cm} \ = \ \hspace{-0.15cm}
{7 \choose 5} \cdot \varepsilon_{\rm S}^5 \cdot (1 - \varepsilon_{\rm S})^2 = 21 \cdot 0.03^5 \cdot 0.97^2 = 0.005 \cdot 10^{-4}$$
:$$\Rightarrow  \hspace{0.3cm} {\rm Pr(Blockfehler)}  \approx {\rm Pr}(f=3) +  {\rm Pr}(f=4) + {\rm Pr}(f=5)  \hspace{0.15cm} \underline{=8.63 \cdot 10^{-4}} \hspace{0.05cm}.$$


Auf die Terme für $f = 6$ und $f = 7$ kann hier verzichtet werden. Sie liefern keinen relevanten Beitrag.
*Therefore we still calculate the following quantities:
:$${\rm Pr}(f=3) \hspace{-0.15cm} \ = \ \hspace{-0.15cm}{7 \choose 3} \cdot \varepsilon_{\rm S}^3 \cdot (1 - \varepsilon_{\rm S})^4 = 35 \cdot 0.03^3 \cdot 0.97^4 = 8.366 \cdot 10^{-4}\hspace{0.05cm},$$
:$${\rm Pr}(f=4) \hspace{-0.15cm} \ = \ \hspace{-0.15cm}{7 \choose 4} \cdot \varepsilon_{\rm S}^4 \cdot (1 - \varepsilon_{\rm S})^3 = 35 \cdot 0.03^4 \cdot 0.97^3 = 0.259 \cdot 10^{-4}\hspace{0.05cm},$$
:$${\rm Pr}(f=5) \hspace{-0.15cm} \ = \ \hspace{-0.15cm}{7 \choose 5} \cdot \varepsilon_{\rm S}^5 \cdot (1 - \varepsilon_{\rm S})^2 = 21 \cdot 0.03^5 \cdot 0.97^2 = 0.005 \cdot 10^{-4}$$
:$$\Rightarrow  \hspace{0.3cm} {\rm Pr(block\:error)} = {\rm Pr}(\underline{v} \ne \underline{u})  \approx {\rm Pr}(f=3) +  {\rm Pr}(f=4) + {\rm Pr}(f=5)  \hspace{0.15cm} \underline{=8.63 \cdot 10^{-4}} \hspace{0.05cm}.$$


*The terms for&nbsp; $f = 6$&nbsp; and&nbsp; $f = 7$&nbsp; can be omitted here.&nbsp; They do not provide a relevant contribution.


'''(3)'''&nbsp; Hier ist bereits $\epsilon_{\rm S} = 0.005 \ \Rightarrow \ 1 - \epsilon_{\rm S} = 0.995$ in der Tabelle vorgegeben. Der (weitaus) dominierende Term bei der Berechnung der Blockfehlerwahrscheinlichkeit ist ${\rm Pr}(f = 3)$:
:$${\rm Pr(Blockfehler)} \approx {\rm Pr}(f=3) = {7 \choose 3} \cdot 0.005^3 \cdot 0.995^4
\hspace{0.15cm} \underline{\approx 4.3 \cdot 10^{-6}} \hspace{0.05cm}.$$




'''(4)'''&nbsp; Für den BSC&ndash;Parameter $\epsilon$ gilt mit $\epsilon_{\rm S} = 0.1$:
:$$\varepsilon = 1 -(1 - \varepsilon_{\rm S})^{1/3} = 1 - 0.9^{1/3} \approx 0.0345
\hspace{0.05cm}.$$


Der Zusammenhang zwischen $\epsilon$ und $E_{\rm B}/N_0$ lautet:
'''(3)'''&nbsp; Here&nbsp; $\varepsilon_{\rm S} = 0.005 \ \Rightarrow \ 1 - \varepsilon_{\rm S} = 0.995$&nbsp; is already given in the table.
*The&nbsp; (by far)&nbsp; dominant term in the calculation of the block error probability is&nbsp; ${\rm Pr}(f = 3)$:
:$${\rm Pr(block\:error)} = {\rm Pr}(\underline{v} \ne \underline{u})  \approx {\rm Pr}(f=3) = {7 \choose 3} \cdot 0.005^3 \cdot 0.995^4\hspace{0.15cm} \underline{\approx 4.3 \cdot 10^{-6}} \hspace{0.05cm}.$$
 
 
'''(4)'''&nbsp; For the BSC parameter&nbsp; $\varepsilon$&nbsp; holds with&nbsp; $\varepsilon_{\rm S} = 0.1$:
:$$\varepsilon = 1 -(1 - \varepsilon_{\rm S})^{1/3} = 1 - 0.9^{1/3} \approx 0.0345\hspace{0.05cm}.$$
 
*The relation between&nbsp; $\varepsilon$&nbsp; and&nbsp; $E_{\rm B}/N_0$&nbsp; is:
:$$\varepsilon = {\rm Q}(x)\hspace{0.05cm}, \hspace{0.5cm} x = \sqrt{2 \cdot R \cdot E_{\rm B}/N_0}\hspace{0.05cm}.$$
:$$\varepsilon = {\rm Q}(x)\hspace{0.05cm}, \hspace{0.5cm} x = \sqrt{2 \cdot R \cdot E_{\rm B}/N_0}\hspace{0.05cm}.$$


Die Inverse $x = {\rm Q}^{-1}(0.0345)$ ergibt sich mit dem Programm [[Gaußsche Fehlerfunktionen]] zu $x = 1.82$. Damit erhält man weiter:
*The inverse&nbsp; $x = {\rm Q}^{-1}(0.0345)$&nbsp; is obtained with the applet&nbsp; [[Applets:QFunction|"Complementary Gaussian Error Functions"]]&nbsp; to&nbsp; $x = 1.82$.&nbsp; This further gives:
:$$E_{\rm B}/N_0 = \frac{x^2}{2R} = \frac{1.82^2}{2R \cdot 3/7} \approx 3.864  
:$$E_{\rm B}/N_0 = \frac{x^2}{2R} = \frac{1.82^2}{2R \cdot 3/7} \approx 3.864\hspace{0.3cm}  \Rightarrow  \hspace{0.3cm}10 \cdot {\rm lg}\hspace{0.15cm}(E_{\rm B}/N_0)\hspace{0.15cm} \underline{\approx 5.87 \,\, {\rm dB}} \hspace{0.05cm}. $$
\hspace{0.3cm}  \Rightarrow  \hspace{0.3cm}
 
10 \cdot {\rm lg}\hspace{0.15cm}(E_{\rm B}/N_0)
 
\hspace{0.15cm} \underline{\approx 5.87 \,\, {\rm dB}} \hspace{0.05cm}. $$
'''(5)'''&nbsp; After the same calculation one obtains
* for&nbsp; $\varepsilon_{\rm S} = 10^{-2} \ \Rightarrow \ \varepsilon \approx 0.33 \cdot 10^{-2} \ \Rightarrow \ x = {\rm Q}^{-1}(\varepsilon) = 2.71$
:$$E_{\rm B}/N_0 = \frac{x^2}{2R} = \frac{2.71^2}{2R \cdot 3/7} \approx 8.568\hspace{0.3cm}  \Rightarrow  \hspace{0.3cm}10 \cdot {\rm lg}\hspace{0.15cm}(E_{\rm B}/N_0)\hspace{0.15cm} \underline{\approx 9.32 \,\, {\rm dB}} \hspace{0.05cm}, $$
 
* for $\varepsilon_{\rm S} = 10^{-3} \ \Rightarrow \ \varepsilon \approx 0.33 \cdot 10^{-3} \ \Rightarrow \ x = {\rm Q}^{-1}(\varepsilon) = 3.4$:
:$$E_{\rm B}/N_0 = \frac{x^2}{2R} = \frac{3.4^2}{2R \cdot 3/7} \approx 13.487\hspace{0.3cm}  \Rightarrow  \hspace{0.3cm}10 \cdot {\rm lg}\hspace{0.15cm}(E_{\rm B}/N_0)\hspace{0.15cm} \underline{\approx 11.3 \,\, {\rm dB}} \hspace{0.05cm}. $$


[[File:EN_KC_A_2_15e.ng.png|right|frame|Results for $\rm RSC \, (7, \, 3, \, 5)_8$ decoding]]


'''(5)'''&nbsp; Nach gleicher Rechnung erhält man
The graph shows
* für $\epsilon_{\rm S} = 10^{-2} \ \Rightarrow \ \epsilon \approx 0.33 \cdot 10^{-2} \ \Rightarrow \ x = {\rm Q}^{-1}(\epsilon) = 2.71$
*the course of the block error probability as function of $10 \cdot \lg {E_{\rm B}/N_0}$,
:$$E_{\rm B}/N_0 = \frac{x^2}{2R} = \frac{2.71^2}{2R \cdot 3/7} \approx 8.568
\hspace{0.3cm}  \Rightarrow  \hspace{0.3cm}
10 \cdot {\rm lg}\hspace{0.15cm}(E_{\rm B}/N_0)
\hspace{0.15cm} \underline{\approx 9.32 \,\, {\rm dB}} \hspace{0.05cm}, $$


* für $\epsilon_{\rm S} = 10^{-3} \ \Rightarrow \ \epsilon \approx 0.33 \cdot 10^{-3} \ \Rightarrow \ x = {\rm Q}^{-1}(\epsilon) = 3.4$:
* and the completely filled result table.  
:$$E_{\rm B}/N_0 = \frac{x^2}{2R} = \frac{3.4^2}{2R \cdot 3/7} \approx 13.487
\hspace{0.3cm}  \Rightarrow  \hspace{0.3cm}
10 \cdot {\rm lg}\hspace{0.15cm}(E_{\rm B}/N_0)
\hspace{0.15cm} \underline{\approx 11.3 \,\, {\rm dB}} \hspace{0.05cm}. $$


[[File:P_ID2572__KC_A_2_15e_neu.png|center|frame|Ergebnisse zur $\rm RSC \, (7, \, 3, \, 5)_8$–Decodierung]]


Die Grafik zeigt den Verlauf der Blockfehlerwahrscheinlichkeit in Abhängigkeit von $10 \cdot \lg {E_{\rm B}/N_0}$ sowie die vollständig ausgefüllte Ergebnistabelle. Man erkennt das deutlich ungünstigere (asymptotische) Verhalten dieses kurzen (grünen) Codes $\rm RSC \, (7, \, 5, \, 3)_8$ gegenüber dem (roten) Vergleichscode $\rm RSC \, (255, \, 223, \, 33)_8$.
One can see the clearly less favorable&nbsp; (asymptotic)&nbsp; behavior of the&nbsp; (green)&nbsp; code $\rm RSC \, (7, \, 5, \, 3)_8$ compared to the&nbsp; (red)&nbsp; comparison code $\rm RSC \, (255, \, 223, \, 33)_8$:


Für Abszissenwerte kleiner als $10 \ \rm dB$ ergibt sich sogar ein schlechteres Ergebnis als ohne Codierung. Deshalb soll hier nochmals darauf hingewiesen werden, dass dieser $\rm RSC \, (7, \, 3, \, 5)_8$ wenig praktische Bedeutung hat. Er wurde für diese Aufgabe nur deshalb ausgewählt, um mit vertretbarem Aufwand die Berechnung der BDD&ndash;Blockfehlerwahrscheinlichkeit demonstrieren zu können.
# For abscissa values smaller than&nbsp; $10 \ \rm dB$&nbsp; the result is even worse than without coding.  
# It should be pointed out again that the&nbsp; $\rm RSC \, (7, \, 3, \, 5)_8$&nbsp; has only little practical meaning.  
# It was chosen for this exercise only to be able to demonstrate with reasonable effort the calculation of the block error probability for&nbsp; "Bounded Distance Decoding"&nbsp; $\rm (BDD)$.
{{ML-Fuß}}
{{ML-Fuß}}


[[Category:Aufgaben zu  Kanalcodierung|^2.6 Fehlerwahrscheinlichkeit und Anwendungsgebiete^]]
[[Category:Channel Coding: Exercises|^2.6 Block Error Probability of RS Codes^]]
[[de:Aufgaben:Aufgabe 2.15: RS-Blockfehlerwahrscheinlichkeit bei AWGN]]

Latest revision as of 17:58, 16 March 2026

Incomplete table of results

Using the example of  $\rm RSC \, (7, \, 3, \, 5)_8$  with parameters

  • $n = 7$  $($number of code symbols$)$,
  • $k =3$  $($number of information symbols$)$,
  • $t = 2$  $($correction capability$)$.


the calculation of the block error probability in  "Bounded Distance Decoding"  $\rm (BDD)$  shall be shown.  The corresponding equation is:

$${\rm Pr(block\:error)} = {\rm Pr}(\underline{v} \ne \underline{u}) =\sum_{f = t + 1}^{n} {n \choose f} \cdot {\varepsilon_{\rm S}}^f \cdot (1 - \varepsilon_{\rm S})^{n-f} \hspace{0.05cm}.$$

⇒   The calculation is performed for the  "AWGN channel"   characterized by the parameter  $E_{\rm B}/N_0$:

  • The quotient  $E_{\rm B}/{N_0}$  can be expressed by the relation
$$\varepsilon = {\rm Q} \big (\sqrt{{2 \cdot R \cdot E_{\rm B}}/{N_0}} \big ) $$
into the  "BSC model"  where  $R$  denotes the code rate  $($here:  $R = 3/7)$  and  ${\rm Q}(x)$  indicates the  "complementary Gaussian error integral".
  • But since in the considered code the symbols come from  $\rm GF(2^3)$,  the BSC model with parameter  $\varepsilon$  must also still be adapted to the task.
$$\varepsilon_{\rm S} = 1 - (1 - \varepsilon)^m\hspace{0.05cm}.$$
Here it is to be set  $m = 3$  $($three bits per code symbol$)$.


⇒   For some  $E_{\rm B}/N_0$ values the results are entered in the table above.  The two rows with yellow background are briefly explained here:

  • For  $10 \cdot \lg {E_{\rm B}/N_0} = 4 \ \rm dB$  we get  $\varepsilon \approx {\rm Q}(1.47) \approx 0.071$  and  $\varepsilon_{\rm S} \approx 0.2$.   The block error probability here can most easily be calculated using the complement:
$${\rm Pr(block\:error)} = 1 - \left [ {7 \choose 0} \cdot 0.8^7 + {7 \choose 1} \cdot 0.2 \cdot 0.8^6 + {7 \choose 2} \cdot 0.2^2 \cdot 0.8^5\right ]\approx 0.148 \hspace{0.05cm}.$$
  • For  $10 \cdot \lg {E_{\rm B}/N_0} = 12 \ \rm dB$  one gets  $\varepsilon \approx 1.2 \cdot 10^{-4}$  and  $\varepsilon_{\rm S} \approx 3.5 \cdot 10^{-4}$.  With this very small falsification probability,  the  $f = 3$  term dominates,  and we obtain:
$${\rm Pr(block\:error)} \approx {7 \choose 3} \cdot (3.5 \cdot 10^{-4})^3 \cdot (1- 3.5 \cdot 10^{-4})^4\approx 1.63 \cdot 10^{-9} \hspace{0.05cm}.$$

⇒   You are to calculate the block error probabilities for the rows highlighted in red   $(10 \cdot \lg {E_{\rm B}/N_0} = 5 \ \rm dB, \ 8 \rm dB$,  $10 \ \rm dB)$.

  • The rows with blue background show some results of  "Exercise 2.15Z".  There  ${\rm Pr}(\underline{v} ≠ \underline{u})$  is calculated for  $\varepsilon_{\rm S} = 10\%,  \ 1\%$  $0.1\%$.
  • In subtasks (4) and (5) you are to establish the relationship between the quantity  $\varepsilon_{\rm S}$  and the AWGN parameter  $E_{\rm B}/N_0$  thus completing the above table.



Hints:

  • We refer you here to the two interactive HTML5/JavaScript applets 



Questions

1 What is the block error probability for  $10 \cdot \lg {E_{\rm B}/N_0} \hspace{0.15cm}\underline{= 5 \ \rm dB}$?

${\rm Pr(block\:error)} \ = \ $ $\ \cdot 10^{-2}$

2 What is the block error probability for  $10 \cdot \lg {E_{\rm B}/N_0} \hspace{0.15cm}\underline{= 8 \ \rm dB}$?

${\rm Pr(block\:error)} \ = \ $ $\ \cdot 10^{-4}$

3 What is the block error probability for  $10 \cdot \lg {E_{\rm B}/N_0}\hspace{0.15cm}\underline{ = 10 \ \rm dB}$?

${\rm Pr(block\:error)} \ = \ $ $\ \cdot 10^{-6}$

4 How is  $\varepsilon_{\rm S} = 0.1$  related to  $10 \cdot \lg {E_{\rm B}/N_0}$ ?   Note:  Use the given applet to calculate  ${\rm Q}(x)$.

$\varepsilon_{\rm S} = 10^{-1} \text{:} \hspace{0.4cm} 10 \cdot \lg {E_{\rm B}/N_0} \ = \ $ $\ \rm dB$

5 Find also the  $E_{\rm B}/N_0$ values  $($in  $\rm dB)$  for  $\varepsilon_{\rm S} = 0.01$  and  $\varepsilon_{\rm S} = 0.001$. Complete the table.

$\varepsilon_{\rm S} = 10^{-2} \text{:} \hspace{0.4cm} 10 \cdot \lg {E_{\rm B}/N_0} \ = \ $ $\ \rm dB$
$\varepsilon_{\rm S} = 10^{-3} \text{:} \hspace{0.4cm} 10 \cdot \lg {E_{\rm B}/N_0} \ = \ $ $\ \rm dB$


Solution

(1)  From the table on the information page,  the BSC parameter  $\varepsilon = 0.0505$  can be read.

  • This gives  $\varepsilon_{\rm S}$  for the symbol error probability with  $m = 3$:
$$1 - \varepsilon_{\rm S} = (1 - 0.0505)^3 \approx 0.856\hspace{0.3cm}\Rightarrow \hspace{0.3cm}\varepsilon_{\rm S} \approx 0.144\hspace{0.05cm}.$$
  • The fastest way to calculate the block error probability is here to use the formula
$${\rm Pr(block\:error)} \hspace{-0.15cm} \ = \ \hspace{-0.15cm} 1 - {\rm Pr}(f=0) - {\rm Pr}(f=1) - {\rm Pr}(f=2) = 1 - 1 \cdot 0.856^7 -7 \cdot 0.144^1 \cdot 0.856^6 - 21 \cdot 0.144^2 \cdot 0.856^5$$
$$\Rightarrow \hspace{0.3cm} {\rm Pr(block\:error)} \hspace{-0.15cm} \ = \ \hspace{-0.15cm} {\rm Pr}(\underline{v} \ne \underline{u}) =1 - 0.3368 - 0.3965 - 0.2001 \hspace{0.15cm} \underline{=0.0666}\hspace{0.05cm}.$$


(2)  Following the same calculation procedure as in subtask  (1),  we obtain with  $\varepsilon_{\rm S} \approx 0.03 \ \Rightarrow \ 1 - \varepsilon_{\rm S} = 0.97$:

$${\rm Pr(block\:error)}\hspace{-0.15cm} \ = \ \hspace{-0.15cm} 1 \hspace{-0.05cm}-\hspace{-0.05cm} 1 \cdot 0.97^7 \hspace{-0.05cm}-\hspace{-0.05cm}7 \cdot 0.03^1 \cdot 0.97^6 \hspace{-0.05cm}-\hspace{-0.05cm} 21 \cdot 0.03^2 \cdot 0.97^5 =1 \hspace{-0.05cm}-\hspace{-0.05cm} 0.8080 \hspace{-0.05cm}-\hspace{-0.05cm} 0.1749\hspace{-0.05cm}-\hspace{-0.05cm} 0.0162= 1 \hspace{-0.05cm}-\hspace{-0.05cm} 0.9991 = 9 \cdot 10^{-4}\hspace{0.05cm}.$$
  • You can see that here the difference between two numbers of almost the same size must be formed,  so that the result could be affected by an error.
  • Therefore we still calculate the following quantities:
$${\rm Pr}(f=3) \hspace{-0.15cm} \ = \ \hspace{-0.15cm}{7 \choose 3} \cdot \varepsilon_{\rm S}^3 \cdot (1 - \varepsilon_{\rm S})^4 = 35 \cdot 0.03^3 \cdot 0.97^4 = 8.366 \cdot 10^{-4}\hspace{0.05cm},$$
$${\rm Pr}(f=4) \hspace{-0.15cm} \ = \ \hspace{-0.15cm}{7 \choose 4} \cdot \varepsilon_{\rm S}^4 \cdot (1 - \varepsilon_{\rm S})^3 = 35 \cdot 0.03^4 \cdot 0.97^3 = 0.259 \cdot 10^{-4}\hspace{0.05cm},$$
$${\rm Pr}(f=5) \hspace{-0.15cm} \ = \ \hspace{-0.15cm}{7 \choose 5} \cdot \varepsilon_{\rm S}^5 \cdot (1 - \varepsilon_{\rm S})^2 = 21 \cdot 0.03^5 \cdot 0.97^2 = 0.005 \cdot 10^{-4}$$
$$\Rightarrow \hspace{0.3cm} {\rm Pr(block\:error)} = {\rm Pr}(\underline{v} \ne \underline{u}) \approx {\rm Pr}(f=3) + {\rm Pr}(f=4) + {\rm Pr}(f=5) \hspace{0.15cm} \underline{=8.63 \cdot 10^{-4}} \hspace{0.05cm}.$$
  • The terms for  $f = 6$  and  $f = 7$  can be omitted here.  They do not provide a relevant contribution.



(3)  Here  $\varepsilon_{\rm S} = 0.005 \ \Rightarrow \ 1 - \varepsilon_{\rm S} = 0.995$  is already given in the table.

  • The  (by far)  dominant term in the calculation of the block error probability is  ${\rm Pr}(f = 3)$:
$${\rm Pr(block\:error)} = {\rm Pr}(\underline{v} \ne \underline{u}) \approx {\rm Pr}(f=3) = {7 \choose 3} \cdot 0.005^3 \cdot 0.995^4\hspace{0.15cm} \underline{\approx 4.3 \cdot 10^{-6}} \hspace{0.05cm}.$$


(4)  For the BSC parameter  $\varepsilon$  holds with  $\varepsilon_{\rm S} = 0.1$:

$$\varepsilon = 1 -(1 - \varepsilon_{\rm S})^{1/3} = 1 - 0.9^{1/3} \approx 0.0345\hspace{0.05cm}.$$
  • The relation between  $\varepsilon$  and  $E_{\rm B}/N_0$  is:
$$\varepsilon = {\rm Q}(x)\hspace{0.05cm}, \hspace{0.5cm} x = \sqrt{2 \cdot R \cdot E_{\rm B}/N_0}\hspace{0.05cm}.$$
$$E_{\rm B}/N_0 = \frac{x^2}{2R} = \frac{1.82^2}{2R \cdot 3/7} \approx 3.864\hspace{0.3cm} \Rightarrow \hspace{0.3cm}10 \cdot {\rm lg}\hspace{0.15cm}(E_{\rm B}/N_0)\hspace{0.15cm} \underline{\approx 5.87 \,\, {\rm dB}} \hspace{0.05cm}. $$


(5)  After the same calculation one obtains

  • for  $\varepsilon_{\rm S} = 10^{-2} \ \Rightarrow \ \varepsilon \approx 0.33 \cdot 10^{-2} \ \Rightarrow \ x = {\rm Q}^{-1}(\varepsilon) = 2.71$
$$E_{\rm B}/N_0 = \frac{x^2}{2R} = \frac{2.71^2}{2R \cdot 3/7} \approx 8.568\hspace{0.3cm} \Rightarrow \hspace{0.3cm}10 \cdot {\rm lg}\hspace{0.15cm}(E_{\rm B}/N_0)\hspace{0.15cm} \underline{\approx 9.32 \,\, {\rm dB}} \hspace{0.05cm}, $$
  • for $\varepsilon_{\rm S} = 10^{-3} \ \Rightarrow \ \varepsilon \approx 0.33 \cdot 10^{-3} \ \Rightarrow \ x = {\rm Q}^{-1}(\varepsilon) = 3.4$:
$$E_{\rm B}/N_0 = \frac{x^2}{2R} = \frac{3.4^2}{2R \cdot 3/7} \approx 13.487\hspace{0.3cm} \Rightarrow \hspace{0.3cm}10 \cdot {\rm lg}\hspace{0.15cm}(E_{\rm B}/N_0)\hspace{0.15cm} \underline{\approx 11.3 \,\, {\rm dB}} \hspace{0.05cm}. $$
Results for $\rm RSC \, (7, \, 3, \, 5)_8$ decoding

The graph shows

  • the course of the block error probability as function of $10 \cdot \lg {E_{\rm B}/N_0}$,
  • and the completely filled result table.


One can see the clearly less favorable  (asymptotic)  behavior of the  (green)  code $\rm RSC \, (7, \, 5, \, 3)_8$ compared to the  (red)  comparison code $\rm RSC \, (255, \, 223, \, 33)_8$:

  1. For abscissa values smaller than  $10 \ \rm dB$  the result is even worse than without coding.
  2. It should be pointed out again that the  $\rm RSC \, (7, \, 3, \, 5)_8$  has only little practical meaning.
  3. It was chosen for this exercise only to be able to demonstrate with reasonable effort the calculation of the block error probability for  "Bounded Distance Decoding"  $\rm (BDD)$.