Difference between revisions of "Aufgaben:Exercise 3.7: Bit Error Rate (BER)"

From LNTwww
m (Text replacement - "rms value" to "standard deviation")
 
(23 intermediate revisions by 5 users not shown)
Line 1: Line 1:
  
{{quiz-Header|Buchseite=Stochastische Signaltheorie/Gaußverteilte Zufallsgröße
+
{{quiz-Header|Buchseite=Theory_of_Stochastic_Signals/Gaussian_Distributed_Random_Variables
 
}}
 
}}
  
[[File:P_ID128__Sto_A_3_7.png|right|Zur Verdeutlichung der Bitfehlerquote]]
+
[[File:EN_Sto_A_3_7.png|right|frame|To illustrate the bit error rate]]
Wir betrachten ein binäres Übertragungssystem mit
+
We consider a binary transmission system with
  
*der Quellensymbolfolge $\langle q_\nu \rangle $ und
+
*the source symbol sequence  $\langle q_\nu \rangle $,  and
*der Sinkensymbolfolge $\langle v_\nu \rangle $.
+
*the sink symbol sequence  $\langle v_\nu \rangle $.
  
Stimmen Sinkensymbol $v_\nu$ und Quellensymbol $q_\nu$ nicht überein, so liegt ein Bitfehler vor   ⇒    $e_\nu = 1$ Ansonsten gilt $e_\nu = 0$.
 
  
 +
If the sink symbol  $v_\nu$  and source symbol  $q_\nu$  do not match,  there is a  "bit error"   ⇒   $e_\nu = 1$.  Otherwise  $e_\nu = 0$  holds.
  
Wichtigstes Beurteilungskriterium eines solchen Digitalsystems ist die '''Bitfehlerwahrscheinlichkeit''' (englisch: <i>Bit Error Probability</i>).
 
Mit dem Erwartungswert ${\rm E}[ ... ]$ ist diese ist wie folgt definiert:
 
$$\it p_{\rm B} = \rm E[\rm Pr(\it v_{\nu} \ne q_{\nu} \rm )]=\rm E[\rm Pr(\it e_{\nu}=\rm 1)]=\lim_{{\it N}\to\infty}\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N}\rm Pr(\it e_{\nu}=\rm 1).$$
 
  
Der rechte Teil dieser Gleichung beschreibt eine Zeitmittelung und muss z.&nbsp;B. bei zeitvarianten Kan&auml;len stets angewandt werden. Ist dagegen die Fehlerwahrscheinlichkeit f&uuml;r alle Symbole gleich (was hier vorausgesetzt werden soll), so kann man die obige Gleichung wie folgt vereinfachen:
+
$\rm (A)$&nbsp; The most important evaluation criterion of such a digital system is the&nbsp; '''Bit Error Probability''':
$$\it p_{\rm B} = \rm E[\rm Pr(\it e_{\nu}=\rm 1)]=\rm E[\it e_{\nu} \rm ].$$
+
:*With the expected value&nbsp; ${\rm E}\big[\text{ ...} \big]$&nbsp; this is defined as follows:
 +
:: $$\it p_{\rm B} = \rm E\big[\rm Pr(\it v_{\nu} \ne q_{\nu} \rm )\big]=\rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\lim_{{\it N}\to\infty}\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N}\rm Pr(\it e_{\nu}=\rm 1). $$
  
 +
:*The right part of this equation describes a time averaging;&nbsp;this must always be applied to time-varying channels.
 +
:*If the error probability is the same for all symbols&nbsp; (which is assumed here),&nbsp; the above equation can be simplified:
 +
::$$\it p_{\rm B} = \rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\rm E\big[\it e_{\nu} \rm \big].$$
 +
:*The bit error probability is an&nbsp; "a priori parameter",&nbsp; so it allows a prediction for the expected result.
  
Die Bitfehlerwahrscheinlichkeit ist eine A-priori-Kenngr&ouml;&szlig;e, erlaubt also eine Vorhersage f&uuml;r das zu erwartende Resultat. Dagegen muss zur messtechnischen Ermittlung der &Uuml;bertragungsqualit&auml;t oder bei der Systemsimulation auf die vergleichbare A-posteriori-Kenngr&ouml;&szlig;e '''Bitfehlerquote''' (englisch: <i>Bit Error Rate</i>) &uuml;bergegangen werden:
 
:$$h_{\rm B}=\frac{n_{\rm B}}{N}=\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N} e_{\nu}.$$
 
  
Diese ist eine [[Digitalsignalübertragung/Fehlerwahrscheinlichkeit_bei_Basisbandübertragung#Definition_der_Bitfehlerquote|relative H&auml;ufigkeit]], wobei $n_{\rm B}$ die Anzahl der aufgetretenen Bitfehler angibt, wenn insgesamt $N$ Symbole (Bit) &uuml;bertragen wurden.
+
$\rm (B)$&nbsp; For the metrological determination of the transmission quality or for a system simulation,&nbsp; it is necessary to rely on the&nbsp; '''Bit Error Rate'''&nbsp; $\rm (BER)$:
 +
:*The bit error rate is an&nbsp; "a posteriori parameter"&nbsp; derived from a performed statistical experiment as a&nbsp; [[Digital_Signal_Transmission/Error_Probability_for_Baseband_Transmission#Definition_der_Bitfehlerquote|relative frequency]].
 +
::$$h_{\rm B}=\frac{n_{\rm B}}{N}=\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N} e_{\nu}.$$
 +
:*$n_{\rm B}$&nbsp; indicates the number of bit errors occurred when a total of&nbsp; $N$&nbsp; binary symbols&nbsp; ("bits")&nbsp; were transmitted.
 +
:*In the limiting case&nbsp; $N \to \infty$&nbsp; the relative frequency&nbsp; $h_{\rm B}$&nbsp; coincides with the probability&nbsp; $p_{\rm B}$.&nbsp; Here now the question shall be clarified,&nbsp; which statistical uncertainty has to be expected with finite&nbsp; $N$.
  
*Im Grenzfall $N \to \infty$ stimmt die relative H&auml;ufigkeit $h_{\rm B}$ mit der Wahrscheinlichkeit $p_{\rm B}$ &uuml;berein.
 
*Hier soll nun die Frage gekl&auml;rt werden, mit welcher statistischen Unsicherheit bei endlichem <i>N</i> gerechnet werden muss.
 
  
  
''Hinweise:''
+
 
*Die Aufgabe gehört zum  Kapitel [[Stochastische_Signaltheorie/Gaußverteilte_Zufallsgröße|Gaußverteilte Zufallsgröße]].
+
 
*Sollte die Eingabe des Zahlenwertes &bdquo;0&rdquo; erforderlich sein, so geben Sie bitte &bdquo;0.&rdquo; ein.
+
Hints:  
*L&ouml;sen Sie die Aufgaben so weit wie m&ouml;glich allgemein. Verwenden Sie zur Kontrolleingabe die Parameterwerte  $p_{\rm B} = 10^{-3}$ und $N = 10^{5}$.  
+
*The exercise belongs to the chapter&nbsp; [[Theory_of_Stochastic_Signals/Gaussian_Distributed_Random_Variables|Gaussian random variables]].  
*Nachfolgend finden Sie einige Werte der sogenannten Q-Funktion:
+
*Solve this exercise as far as possible in general.&nbsp; Use the parameter values&nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $N = 10^{5}$ for control input.  
 +
*The following are some values of the so-called&nbsp; "Q-function":
 
:$$\rm Q(\rm 1.00)=\rm 0.159,\hspace{0.5cm}\rm Q(\rm 1.65)=\rm 0.050,\hspace{0.5cm}\rm Q(\rm 1.96)=\rm 0.025,\hspace{0.5cm}\rm Q(\rm 2.59)=\rm 0.005.$$  
 
:$$\rm Q(\rm 1.00)=\rm 0.159,\hspace{0.5cm}\rm Q(\rm 1.65)=\rm 0.050,\hspace{0.5cm}\rm Q(\rm 1.96)=\rm 0.025,\hspace{0.5cm}\rm Q(\rm 2.59)=\rm 0.005.$$  
  
  
  
===Fragebogen===
+
 
 +
 
 +
===Questions===
  
 
<quiz display=simple>
 
<quiz display=simple>
{Welche der folgenden Aussagen sind zutreffend?
+
{Which of the following statements are true?
 
|type="[]"}
 
|type="[]"}
- Für $n_{\rm B}$ sind alle Werte $(0$, ... , $N)$ gleichwahrscheinlich.
+
- For&nbsp; $n_{\rm B}$&nbsp; all values&nbsp; $(0$, ... , $N)$&nbsp; are equally likely.
+ Die Zufallsgr&ouml;&szlig;e $n_{\rm B}$ ist binomialverteilt.
+
+ The random variable&nbsp; $n_{\rm B}$&nbsp; is binomially distributed.
+ Mit $p_{\rm B} = 10^{-3}$ und $N = 10^{5}$ ergibt sich ${\rm E}[n_{\rm B}] = 100$.
+
+ With&nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $N = 10^{5}$&nbsp; we get&nbsp; ${\rm E}\big[n_{\rm B}\big] = 100$.
  
  
{Wie gro&szlig; ist die Streuung der Zufallsgr&ouml;&szlig;e $n_{\rm B}$ für $p_{\rm B} = 10^{-3}$ und $N = 10^{5}$?
+
{How large is the standard deviation of the random variable&nbsp; $n_{\rm B}$&nbsp; with&nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $N = 10^{5}$?
 
|type="{}"}
 
|type="{}"}
$\sigma_{n{\rm B}} \ = $ { 10 3% }  
+
$\sigma_{n{\rm B}} \ = \ $ { 10 3% }  
  
  
{Welche Werte kann die Bitfehlerquote $h_{\rm B}$ annehmen? Zeigen Sie, dass der lineare Mittelwert $m_{h{\rm B}}$ dieser Zufallsgröße gleich der tats&auml;chlichen Bitfehlerwahrscheinlichkeit $p_{\rm B}$ ist. Wie gro&szlig; ist deren Streuung?
+
{What values can the bit error rate&nbsp; $h_{\rm B}$&nbsp; take?&nbsp; Show that the linear mean&nbsp; $m_{h{\rm B}}$&nbsp; of this random variable is equal to the bit error probability&nbsp; $p_{\rm B}$&nbsp; What is its standard deviation?
 
|type="{}"}
 
|type="{}"}
$\sigma_{h{\rm B}} \ = $ { 0.0001 3% }  
+
$\sigma_{h{\rm B}} \ = \ $ { 0.0001 3% }  
  
  
{Unter gewissen Voraussetzungen kann eine binomialverteilte Zufallsgr&ouml;&szlig;e durch eine Gau&szlig;verteilung mit gleichem Mittelwert  $(m_{h{\rm B}})$ und gleicher Streuung $(\sigma_{h{\rm B}})$ angen&auml;hert werden. Welche Aussage ist zutreffend?
+
{Under certain conditions,&nbsp; a binomially distributed random variable can be approximated by a Gaussian distribution <br>with equal mean&nbsp; $(m_{h{\rm B}})$&nbsp; and equal standard deviation&nbsp; $(\sigma_{h{\rm B}})$.&nbsp; Which statement is true?
|type="[]"}
+
|type="()"}
+ ${\rm Pr}(|h_{\rm B} - p_{\rm B}| \le \varepsilon)=1- 2\cdot \rm Q({\varepsilon}/{\sigma_{h{\rm B}}}).$
+
+ ${\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)=1- 2\cdot \rm Q({\varepsilon}/{\sigma_{\it h}{\rm B}}).$
- ${\rm Pr}(|h_{\rm B} - p_{\rm B}| \le \varepsilon)=1- \rm Q({\varepsilon}/{2\cdot \sigma_{h{\rm B}}}).$
+
- ${\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)=1- \rm Q({\varepsilon}/{2\cdot \sigma_{\it h}{\rm B}}).$
  
  
  
{Zur Abk&uuml;rzung verwenden wir das Konfidenzniveau $p_\varepsilon = {\rm Pr}(|h_{\rm B} - p_{\rm B}| \le \varepsilon)$. Welches  $p_\varepsilon$ ergibt sich mit $\varepsilon = 10^{-4}$, $p_{\rm B} = 10^{-3}$ und $N = 10^{5}$?
+
{For abbreviation,&nbsp; we use the confidence level&nbsp; $p_\varepsilon = {\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)$. &nbsp; Which&nbsp; $p_\varepsilon$&nbsp; results with&nbsp; $\varepsilon = 10^{-4}$, &nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $N = 10^{5}$&nbsp;?
 
|type="{}"}
 
|type="{}"}
$p_\varepsilon \ = $ { 0.684 3% }
+
$p_\varepsilon \ = \ $ { 0.684 3% }
  
  
{Das Argument der Q-Funktion sei $\alpha$. Wie gro&szlig; muss  $\alpha$ mindestens gew&auml;hlt werden, damit das Konfidenzniveau  $p_\varepsilon = 95\%$ betr&auml;gt?
+
{Let the argument of the Q-function be&nbsp; $\alpha$.&nbsp; What is the minimum value of&nbsp; $\alpha$&nbsp; that must be chosen for the confidence level&nbsp; $p_\varepsilon = 95\%$&nbsp;?
 
|type="{}"}
 
|type="{}"}
$p_\varepsilon =  95\%$: &nbsp; &nbsp; $\alpha_{\rm min} \ = $ { 1.96 3% }
+
$\alpha_{\rm min} \ = \ $ { 1.96 3% }
  
  
{Es gelte weiterhin $p_{\rm B} = 10^{-3}$ und $p_\varepsilon = 95\%$ &Uuml;ber wie viele Symbole muss man mindestens gemittelt werden, damit die ermittelte Bitfehlerquote im Bereich zwischen $0.9 \cdot 10^{-3}$ und $1.1 \cdot 10^{-3}$ liegt $(\varepsilon = 10^{-4}, \text{10% vom Sollwert)}$?
+
{It still holds&nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $p_\varepsilon = 95\%$. &nbsp; Over how many symbols&nbsp; $(N_\text{min})$&nbsp; must be averaged at least, <br>so that the determined bit error rate lies in the range between&nbsp; $0. 9 \cdot 10^{-3}$&nbsp; and&nbsp; $1.1 \cdot 10^{-3}$&nbsp;  $(\varepsilon = 10^{-4}, \ \text{10% of its nominal value)}$&nbsp;?
 
|type="{}"}
 
|type="{}"}
$N_\text{min} \ = ${ 400000 3% }
+
$N_\text{min} \ = \ ${ 400000 3% }
  
  
Line 83: Line 88:
 
</quiz>
 
</quiz>
  
===Musterlösung===
+
===Solution===
 
{{ML-Kopf}}
 
{{ML-Kopf}}
:<b>1.</b>&nbsp;&nbsp;Die <u>beiden letzten Aussagen</u> stimmen: Bez&uuml;glich der Zufallsgr&ouml;&szlig;e <i>n</i><sub>B</sub> liegt der klassische Fall einer Binomialverteilung vor: Es wird die Summe &uuml;ber <i>N</i> bin&auml;re Zufallsgr&ouml;&szlig;en gebildet. Die m&ouml;glichen Werte von <i>n</i><sub>B</sub> liegen somit zwischen 0 und <i>N</i>. Der lineare Mittelwert ergibt
+
'''(1)'''&nbsp; The&nbsp; <u>last two statements</u>&nbsp; are true:  
:$$m_{n{\rm B}}=p_{\rm B}\cdot N=\rm 10^{-3}\cdot 10^{5}=\rm 100.$$
+
*Relative to the random variable&nbsp; $n_{\rm B}$&nbsp; there is the classical case of a binomial distribution.
 +
*The sum over&nbsp; $N$&nbsp; binary random variables is formed.&nbsp; The possible values of&nbsp; $n_{\rm B}$&nbsp; thus lie between&nbsp; $0$&nbsp; and&nbsp; $N$.  
 +
*The linear mean gives &nbsp; $m_{n{\rm B}}=p_{\rm B}\cdot N=\rm 10^{-3}\cdot 10^{5}=\rm 100.$
  
:<b>2.</b>&nbsp;&nbsp;F&uuml;r die Streuung der Binomialverteilung gilt mit guter Näherung:
+
 
:$$\sigma_{n{\rm B}}=\sqrt{N\cdot p_{\rm B}\cdot (\rm 1- \it p_{\rm B})}
+
 
 +
'''(2)'''&nbsp; Für the standard deviation of the binomial distribution holds with good approximation:
 +
:$$\sigma_{n{\rm B}}=\sqrt{N\cdot p_{\rm B}\cdot (\rm 1- \it p_{\rm B}{\rm )}}
 
\hspace{0.15cm}\underline{\approx 10}.$$
 
\hspace{0.15cm}\underline{\approx 10}.$$
  
:<b>3.</b>&nbsp;&nbsp;M&ouml;gliche Werte von <i>h</i><sub>B</sub> sind alle ganzzahligen Vielfachen von 1/<i>N</i>, die zwischen 0 und 1 liegen. F&uuml;r den Mittelwert erh&auml;lt man:
 
:$$m_{h{\rm B}}=m_{\it n_{\rm B}}/N=p_{\rm B} = 10^{-3}.$$
 
  
:Die Streuung ergibt sich zu
 
:$$\sigma_{h{\rm B}}=\frac{\sigma_{n{\rm B}}}{N}=\sqrt{\frac{p_{\rm B}\cdot (\rm 1- \it p_{\rm B})}{N}}\hspace{0.15cm}\underline{\approx \rm 10^{-4}}.$$
 
  
:<b>4.</b>&nbsp;&nbsp;Richtig ist <u>der erste Vorschlag</u>. Es gilt:
+
'''(3)'''&nbsp; Possible values of&nbsp; $h_{\rm B}$&nbsp; are all integer multiples of&nbsp; $1/N$.&nbsp; These all lie between&nbsp; $0$&nbsp; and&nbsp; $1$.
:$$\rm Pr(\it h_{\rm B} > p_{\rm B} + \varepsilon)=\rm Q\Big({\it\varepsilon}/{\it\sigma_{h{\rm B}}}\Big),\hspace{0.5cm}\rm Pr(\it h_{\rm B} < p_{\rm B} - \varepsilon)=\rm Q\Big(\it{\varepsilon}/{\sigma_{h{\rm B}}}\Big),$$
+
 
:$$\Rightarrow \rm Pr(\it |h_{\rm B} - p_{\rm B}| \le \varepsilon)=\rm 1-\rm 2\cdot \rm Q\Big(\frac{\it \varepsilon}{\it \sigma_{h{\rm B}}}\Big).$$
+
*For the mean value,&nbsp; one obtains:
 +
:$$m_{h{\rm B}}=m_{n{\rm B}}/N=p_{\rm B} = 10^{-3}.$$
 +
 
 +
*The standard deviation results in
 +
:$$\sigma_{h{\rm B}}=\frac{\sigma_{n{\rm B}}}{N}=\sqrt{\frac{ p_{\rm B}\cdot (\rm 1- \it p_{\rm B}{\rm )}}{N}}\hspace{0.15cm}\underline{\approx \rm 0.0001}.$$
 +
 
 +
 
 +
'''(4)'''&nbsp; Correct is&nbsp; <u>the first proposition</u>.&nbsp; It holds:
 +
:$${\rm Pr}(h_{\rm B} > p_{\rm B} + \varepsilon)=\rm Q({\it\varepsilon}/{\it\sigma_{h{\rm B}}}),$$
 +
:$$\rm Pr(\it h_{\rm B} < p_{\rm B} - \varepsilon {\rm )}=\rm Q(\it{\varepsilon}/{\sigma_{h{\rm B}}}{\rm )}$$
 +
:$$\Rightarrow \hspace{0.5cm}\rm Pr(\it |h_{\rm B} - p_{\rm B}| \le \varepsilon \rm )=\rm 1-\rm 2\cdot \rm Q({\it \varepsilon}/{\it \sigma_{h{\rm B}}}).$$
 +
 
 +
 
 +
 
 +
'''(5)'''&nbsp; One obtains with the numerical values&nbsp; $\varepsilon = \sigma_{h{\rm B}} = 10^{-4}$:
 +
:$$p_{\varepsilon}=\rm 1-\rm 2\cdot \rm Q(\frac{\rm 10^{\rm -4}}{\rm 10^{\rm -4}} {\rm )}=\rm 1-\rm 2\cdot\rm Q(\rm 1)\hspace{0.15cm}\underline{\approx\rm 0.684}.$$
 +
 
 +
In words: &nbsp; If one determines the bit error rate by simulation over&nbsp; $10^5$&nbsp; symbols,&nbsp; with a confidence level of&nbsp; $\underline{68.4\%}$&nbsp; <br>one obtains a value between&nbsp; $0.9 \cdot 10^{-3}$&nbsp; and&nbsp; $1.1 \cdot 10^{-3}$,&nbsp; if&nbsp; $p_{\rm B} = 10^{-3}$.
 +
 
 +
 
  
:<b>5.</b>&nbsp;&nbsp;Man erh&auml;lt mit den Zahlenwerten <i>&epsilon;</i> = <i>&sigma;</i><sub><i>h</i>B</sub> = 10 <sup>&ndash;4</sup>:
+
'''(6)'''&nbsp; From the relation&nbsp; $p_{\varepsilon}=\rm 1-\rm 2\cdot {\rm Q}(\alpha) = 0.95$&nbsp; it follows directly:
:$$p_{\varepsilon}=\rm 1-\rm 2\cdot \rm Q\Big(\frac{\rm 10^{\rm -4}}{\rm 10^{\rm -4}}\Big)=\rm 1-\rm 2\cdot\rm Q(\rm 1)\hspace{0.15cm}\underline{\approx\rm 0.684}.$$
+
:$$\alpha_{\rm min}=\rm Q^{\rm -1}\Big(\frac{\rm 1-\it p_{\varepsilon}}{\rm 2}\Big)=\rm Q^{\rm -1}(\rm 0.025)\hspace{0.15cm}\underline{=\rm 1.96}\hspace{0.15cm}{\approx\rm 2}.$$
  
:&#8658;&nbsp; Bestimmt man die Bitfehlerquote per Simulation &uuml;ber 10<sup>5</sup>  Symbole, so erh&auml;lt man mit einem Konfidenzniveau von 68.4% einen Wert zwischen 0.9 &middot; 10<sup>&ndash;3</sup> und 1.1 &middot; 10<sup>&ndash;3</sup>, wenn <i>p</i><sub>B</sub> = 10<sup>&ndash;3</sup> ist.
 
  
:<b>6.</b>&nbsp;&nbsp;Aus der Beziehung <i>p</i><sub>&epsilon;</sub> = 1 &ndash; 2 &middot; Q(<i>&alpha;</i>) = 0.95 folgt direkt:
 
:$$\alpha=\rm Q^{\rm -1}\Big(\frac{\rm 1-\it p_{\varepsilon}}{\rm 2}\Big)=\rm Q^{\rm -1}(\rm 0.025)\hspace{0.15cm}\underline{=\rm 1.96}\hspace{0.15cm}{\approx\rm 2}.$$
 
  
:<b>7.</b>&nbsp;&nbsp;Es muss <i>&alpha;</i> = <i>&epsilon;/&sigma;</i><sub><i>h</i>B</sub> gelten. Mit dem Ergebnis aus b) folgt dann:
+
'''(7)'''&nbsp; It must&nbsp; $\alpha = \varepsilon/\sigma_{h{\rm B}}$.&nbsp; With the result of the subtask&nbsp; '''(2)'''&nbsp; then follows:
:$$\frac{\varepsilon}{\sqrt{p_{\rm B}\cdot(\rm 1-\it p_{\rm B})/N}}\ge \rm 2 \hspace{0.5cm}\Rightarrow\hspace{0.5cm}
+
:$$\frac{\varepsilon}{\sqrt{p_{\rm B}\cdot(\rm 1-\it p_{\rm B})/N}}\ge {\rm 2} \hspace{0.5cm}\Rightarrow\hspace{0.5cm}
N\ge \frac{\rm 4\cdot \it p_{\rm B}\cdot(\rm 1-\it p_{\rm B})}{\varepsilon^{\rm 2}}\approx \frac{\rm 4\cdot 10^{-3}}{10^{-8}}\hspace{0.15cm}\underline{=\rm 400000}.$$
+
N\ge \frac{\rm 4\cdot \it p_{\rm B}\cdot(\rm 1-\it p_{\rm B})}{\varepsilon^{\rm 2}}\approx \frac{\rm 4\cdot 10^{-3}}{10^{-8}}\hspace{0.15cm}\underline{=\rm 400\hspace{0.08cm}000}.$$
  
 
{{ML-Fuß}}
 
{{ML-Fuß}}
Line 118: Line 139:
  
  
[[Category:Aufgaben zu Stochastische Signaltheorie|^3.5 Gaußverteilte Zufallsgröße^]]
+
[[Category:Theory of Stochastic Signals: Exercises|^3.5 Gaussian Random Variable^]]

Latest revision as of 13:11, 17 February 2022

To illustrate the bit error rate

We consider a binary transmission system with

  • the source symbol sequence  $\langle q_\nu \rangle $,  and
  • the sink symbol sequence  $\langle v_\nu \rangle $.


If the sink symbol  $v_\nu$  and source symbol  $q_\nu$  do not match,  there is a  "bit error"   ⇒   $e_\nu = 1$.  Otherwise  $e_\nu = 0$  holds.


$\rm (A)$  The most important evaluation criterion of such a digital system is the  Bit Error Probability:

  • With the expected value  ${\rm E}\big[\text{ ...} \big]$  this is defined as follows:
$$\it p_{\rm B} = \rm E\big[\rm Pr(\it v_{\nu} \ne q_{\nu} \rm )\big]=\rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\lim_{{\it N}\to\infty}\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N}\rm Pr(\it e_{\nu}=\rm 1). $$
  • The right part of this equation describes a time averaging; this must always be applied to time-varying channels.
  • If the error probability is the same for all symbols  (which is assumed here),  the above equation can be simplified:
$$\it p_{\rm B} = \rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\rm E\big[\it e_{\nu} \rm \big].$$
  • The bit error probability is an  "a priori parameter",  so it allows a prediction for the expected result.


$\rm (B)$  For the metrological determination of the transmission quality or for a system simulation,  it is necessary to rely on the  Bit Error Rate  $\rm (BER)$:

  • The bit error rate is an  "a posteriori parameter"  derived from a performed statistical experiment as a  relative frequency.
$$h_{\rm B}=\frac{n_{\rm B}}{N}=\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N} e_{\nu}.$$
  • $n_{\rm B}$  indicates the number of bit errors occurred when a total of  $N$  binary symbols  ("bits")  were transmitted.
  • In the limiting case  $N \to \infty$  the relative frequency  $h_{\rm B}$  coincides with the probability  $p_{\rm B}$.  Here now the question shall be clarified,  which statistical uncertainty has to be expected with finite  $N$.



Hints:

  • The exercise belongs to the chapter  Gaussian random variables.
  • Solve this exercise as far as possible in general.  Use the parameter values  $p_{\rm B} = 10^{-3}$  and  $N = 10^{5}$ for control input.
  • The following are some values of the so-called  "Q-function":
$$\rm Q(\rm 1.00)=\rm 0.159,\hspace{0.5cm}\rm Q(\rm 1.65)=\rm 0.050,\hspace{0.5cm}\rm Q(\rm 1.96)=\rm 0.025,\hspace{0.5cm}\rm Q(\rm 2.59)=\rm 0.005.$$



Questions

1

Which of the following statements are true?

For  $n_{\rm B}$  all values  $(0$, ... , $N)$  are equally likely.
The random variable  $n_{\rm B}$  is binomially distributed.
With  $p_{\rm B} = 10^{-3}$  and  $N = 10^{5}$  we get  ${\rm E}\big[n_{\rm B}\big] = 100$.

2

How large is the standard deviation of the random variable  $n_{\rm B}$  with  $p_{\rm B} = 10^{-3}$  and  $N = 10^{5}$?

$\sigma_{n{\rm B}} \ = \ $

3

What values can the bit error rate  $h_{\rm B}$  take?  Show that the linear mean  $m_{h{\rm B}}$  of this random variable is equal to the bit error probability  $p_{\rm B}$  What is its standard deviation?

$\sigma_{h{\rm B}} \ = \ $

4

Under certain conditions,  a binomially distributed random variable can be approximated by a Gaussian distribution
with equal mean  $(m_{h{\rm B}})$  and equal standard deviation  $(\sigma_{h{\rm B}})$.  Which statement is true?

${\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)=1- 2\cdot \rm Q({\varepsilon}/{\sigma_{\it h}{\rm B}}).$
${\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)=1- \rm Q({\varepsilon}/{2\cdot \sigma_{\it h}{\rm B}}).$

5

For abbreviation,  we use the confidence level  $p_\varepsilon = {\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)$.   Which  $p_\varepsilon$  results with  $\varepsilon = 10^{-4}$,   $p_{\rm B} = 10^{-3}$  and  $N = 10^{5}$ ?

$p_\varepsilon \ = \ $

6

Let the argument of the Q-function be  $\alpha$.  What is the minimum value of  $\alpha$  that must be chosen for the confidence level  $p_\varepsilon = 95\%$ ?

$\alpha_{\rm min} \ = \ $

7

It still holds  $p_{\rm B} = 10^{-3}$  and  $p_\varepsilon = 95\%$.   Over how many symbols  $(N_\text{min})$  must be averaged at least,
so that the determined bit error rate lies in the range between  $0. 9 \cdot 10^{-3}$  and  $1.1 \cdot 10^{-3}$  $(\varepsilon = 10^{-4}, \ \text{10% of its nominal value)}$ ?

$N_\text{min} \ = \ $


Solution

(1)  The  last two statements  are true:

  • Relative to the random variable  $n_{\rm B}$  there is the classical case of a binomial distribution.
  • The sum over  $N$  binary random variables is formed.  The possible values of  $n_{\rm B}$  thus lie between  $0$  and  $N$.
  • The linear mean gives   $m_{n{\rm B}}=p_{\rm B}\cdot N=\rm 10^{-3}\cdot 10^{5}=\rm 100.$


(2)  Für the standard deviation of the binomial distribution holds with good approximation:

$$\sigma_{n{\rm B}}=\sqrt{N\cdot p_{\rm B}\cdot (\rm 1- \it p_{\rm B}{\rm )}} \hspace{0.15cm}\underline{\approx 10}.$$


(3)  Possible values of  $h_{\rm B}$  are all integer multiples of  $1/N$.  These all lie between  $0$  and  $1$.

  • For the mean value,  one obtains:
$$m_{h{\rm B}}=m_{n{\rm B}}/N=p_{\rm B} = 10^{-3}.$$
  • The standard deviation results in
$$\sigma_{h{\rm B}}=\frac{\sigma_{n{\rm B}}}{N}=\sqrt{\frac{ p_{\rm B}\cdot (\rm 1- \it p_{\rm B}{\rm )}}{N}}\hspace{0.15cm}\underline{\approx \rm 0.0001}.$$


(4)  Correct is  the first proposition.  It holds:

$${\rm Pr}(h_{\rm B} > p_{\rm B} + \varepsilon)=\rm Q({\it\varepsilon}/{\it\sigma_{h{\rm B}}}),$$
$$\rm Pr(\it h_{\rm B} < p_{\rm B} - \varepsilon {\rm )}=\rm Q(\it{\varepsilon}/{\sigma_{h{\rm B}}}{\rm )}$$
$$\Rightarrow \hspace{0.5cm}\rm Pr(\it |h_{\rm B} - p_{\rm B}| \le \varepsilon \rm )=\rm 1-\rm 2\cdot \rm Q({\it \varepsilon}/{\it \sigma_{h{\rm B}}}).$$


(5)  One obtains with the numerical values  $\varepsilon = \sigma_{h{\rm B}} = 10^{-4}$:

$$p_{\varepsilon}=\rm 1-\rm 2\cdot \rm Q(\frac{\rm 10^{\rm -4}}{\rm 10^{\rm -4}} {\rm )}=\rm 1-\rm 2\cdot\rm Q(\rm 1)\hspace{0.15cm}\underline{\approx\rm 0.684}.$$

In words:   If one determines the bit error rate by simulation over  $10^5$  symbols,  with a confidence level of  $\underline{68.4\%}$ 
one obtains a value between  $0.9 \cdot 10^{-3}$  and  $1.1 \cdot 10^{-3}$,  if  $p_{\rm B} = 10^{-3}$.


(6)  From the relation  $p_{\varepsilon}=\rm 1-\rm 2\cdot {\rm Q}(\alpha) = 0.95$  it follows directly:

$$\alpha_{\rm min}=\rm Q^{\rm -1}\Big(\frac{\rm 1-\it p_{\varepsilon}}{\rm 2}\Big)=\rm Q^{\rm -1}(\rm 0.025)\hspace{0.15cm}\underline{=\rm 1.96}\hspace{0.15cm}{\approx\rm 2}.$$


(7)  It must  $\alpha = \varepsilon/\sigma_{h{\rm B}}$.  With the result of the subtask  (2)  then follows:

$$\frac{\varepsilon}{\sqrt{p_{\rm B}\cdot(\rm 1-\it p_{\rm B})/N}}\ge {\rm 2} \hspace{0.5cm}\Rightarrow\hspace{0.5cm} N\ge \frac{\rm 4\cdot \it p_{\rm B}\cdot(\rm 1-\it p_{\rm B})}{\varepsilon^{\rm 2}}\approx \frac{\rm 4\cdot 10^{-3}}{10^{-8}}\hspace{0.15cm}\underline{=\rm 400\hspace{0.08cm}000}.$$