Difference between revisions of "Aufgaben:Exercise 3.7: Bit Error Rate (BER)"

From LNTwww
m (Text replacement - "rms value" to "standard deviation")
 
(18 intermediate revisions by 4 users not shown)
Line 1: Line 1:
  
{{quiz-Header|Buchseite=Stochastische Signaltheorie/Gaußverteilte Zufallsgröße
+
{{quiz-Header|Buchseite=Theory_of_Stochastic_Signals/Gaussian_Distributed_Random_Variables
 
}}
 
}}
  
[[File:P_ID128__Sto_A_3_7.png|right|frame|Zur Verdeutlichung der Bitfehlerquote]]
+
[[File:EN_Sto_A_3_7.png|right|frame|To illustrate the bit error rate]]
Wir betrachten ein binäres Übertragungssystem mit
+
We consider a binary transmission system with
  
*der Quellensymbolfolge $\langle q_\nu \rangle $ und
+
*the source symbol sequence  $\langle q_\nu \rangle $,  and
*der Sinkensymbolfolge $\langle v_\nu \rangle $.
+
*the sink symbol sequence  $\langle v_\nu \rangle $.
  
  
Stimmen Sinkensymbol $v_\nu$ und Quellensymbol $q_\nu$ nicht überein, so liegt ein Bitfehler vor   ⇒   $e_\nu = 1$. Ansonsten gilt $e_\nu = 0$.
+
If the sink symbol  $v_\nu$  and source symbol  $q_\nu$  do not match,  there is a  "bit error"   ⇒   $e_\nu = 1$.  Otherwise  $e_\nu = 0$  holds.
  
  
Wichtigstes Beurteilungskriterium eines solchen Digitalsystems ist die <br>'''Bitfehlerwahrscheinlichkeit''' (englisch: &nbsp; <i>Bit Error Probability</i>).
+
$\rm (A)$&nbsp; The most important evaluation criterion of such a digital system is the&nbsp; '''Bit Error Probability''':
*Mit dem Erwartungswert ${\rm E}\big[\text{ ...} \big]$ ist diese ist wie folgt definiert:
+
:*With the expected value&nbsp; ${\rm E}\big[\text{ ...} \big]$&nbsp; this is defined as follows:
:$$\it p_{\rm B} = \rm E\big[\rm Pr(\it v_{\nu} \ne q_{\nu} \rm )\big]=\rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\lim_{{\it N}\to\infty}\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N}\rm Pr(\it e_{\nu}=\rm 1).$$
+
:: $$\it p_{\rm B} = \rm E\big[\rm Pr(\it v_{\nu} \ne q_{\nu} \rm )\big]=\rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\lim_{{\it N}\to\infty}\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N}\rm Pr(\it e_{\nu}=\rm 1). $$
  
*Der rechte Teil dieser Gleichung beschreibt eine Zeitmittelung und muss zum Beispiel bei zeitvarianten Kan&auml;len stets angewandt werden.  
+
:*The right part of this equation describes a time averaging;&nbsp;this must always be applied to time-varying channels.  
*Ist die Fehlerwahrscheinlichkeit f&uuml;r alle Symbole gleich (was hier vorausgesetzt wird), so kann man die obige Gleichung vereinfachen:
+
:*If the error probability is the same for all symbols&nbsp; (which is assumed here),&nbsp; the above equation can be simplified:
:$$\it p_{\rm B} = \rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\rm E\big[\it e_{\nu} \rm \big].$$
+
::$$\it p_{\rm B} = \rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\rm E\big[\it e_{\nu} \rm \big].$$
 +
:*The bit error probability is an&nbsp; "a priori parameter",&nbsp; so it allows a prediction for the expected result.
  
  
Die Bitfehlerwahrscheinlichkeit ist eine A-priori-Kenngr&ouml;&szlig;e, erlaubt also eine Vorhersage f&uuml;r das zu erwartende Resultat.  
+
$\rm (B)$&nbsp; For the metrological determination of the transmission quality or for a system simulation,&nbsp; it is necessary to rely on the&nbsp; '''Bit Error Rate'''&nbsp; $\rm (BER)$:
 +
:*The bit error rate is an&nbsp; "a posteriori parameter"&nbsp; derived from a performed statistical experiment as a&nbsp; [[Digital_Signal_Transmission/Error_Probability_for_Baseband_Transmission#Definition_der_Bitfehlerquote|relative frequency]].
 +
::$$h_{\rm B}=\frac{n_{\rm B}}{N}=\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N} e_{\nu}.$$
 +
:*$n_{\rm B}$&nbsp; indicates the number of bit errors occurred when a total of&nbsp; $N$&nbsp; binary symbols&nbsp; ("bits")&nbsp; were transmitted.
 +
:*In the limiting case&nbsp; $N \to \infty$&nbsp; the relative frequency&nbsp; $h_{\rm B}$&nbsp; coincides with the probability&nbsp; $p_{\rm B}$.&nbsp; Here now the question shall be clarified,&nbsp; which statistical uncertainty has to be expected with finite&nbsp; $N$.
  
Dagegen muss zur messtechnischen Ermittlung der &Uuml;bertragungsqualit&auml;t oder bei der Systemsimulation auf die vergleichbare A-posteriori-Kenngr&ouml;&szlig;e '''Bitfehlerquote''' (englisch: &nbsp; <i>Bit Error Rate</i>) &uuml;bergegangen werden:
 
:$$h_{\rm B}=\frac{n_{\rm B}}{N}=\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N} e_{\nu}.$$
 
  
$h_{\rm B}$ ist eine [[Digitalsignalübertragung/Fehlerwahrscheinlichkeit_bei_Basisbandübertragung#Definition_der_Bitfehlerquote|relative H&auml;ufigkeit]]. $n_{\rm B}$ gibt die Anzahl der aufgetretenen Bitfehler an, wenn insgesamt $N$ Symbole (Bit) &uuml;bertragen wurden.
 
  
*Im Grenzfall $N \to \infty$ stimmt die relative H&auml;ufigkeit $h_{\rm B}$ mit der Wahrscheinlichkeit $p_{\rm B}$ &uuml;berein.
 
*Hier soll nun die Frage gekl&auml;rt werden, mit welcher statistischen Unsicherheit bei endlichem $N$ gerechnet werden muss.
 
  
  
 
+
Hints:  
 
+
*The exercise belongs to the chapter&nbsp; [[Theory_of_Stochastic_Signals/Gaussian_Distributed_Random_Variables|Gaussian random variables]].  
 
+
*Solve this exercise as far as possible in general.&nbsp; Use the parameter values&nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $N = 10^{5}$ for control input.  
 
+
*The following are some values of the so-called&nbsp; "Q-function":
''Hinweise:''
 
*Die Aufgabe gehört zum  Kapitel [[Stochastische_Signaltheorie/Gaußverteilte_Zufallsgröße|Gaußverteilte Zufallsgrößen]].
 
 
*L&ouml;sen Sie die Aufgaben so weit wie m&ouml;glich allgemein.
 
*Verwenden Sie zur Kontrolleingabe die Parameterwerte  $p_{\rm B} = 10^{-3}$ und $N = 10^{5}$.  
 
*Nachfolgend finden Sie einige Werte der sogenannten Q-Funktion:
 
 
:$$\rm Q(\rm 1.00)=\rm 0.159,\hspace{0.5cm}\rm Q(\rm 1.65)=\rm 0.050,\hspace{0.5cm}\rm Q(\rm 1.96)=\rm 0.025,\hspace{0.5cm}\rm Q(\rm 2.59)=\rm 0.005.$$  
 
:$$\rm Q(\rm 1.00)=\rm 0.159,\hspace{0.5cm}\rm Q(\rm 1.65)=\rm 0.050,\hspace{0.5cm}\rm Q(\rm 1.96)=\rm 0.025,\hspace{0.5cm}\rm Q(\rm 2.59)=\rm 0.005.$$  
  
Line 49: Line 43:
  
  
===Fragebogen===
+
===Questions===
  
 
<quiz display=simple>
 
<quiz display=simple>
{Welche der folgenden Aussagen sind zutreffend?
+
{Which of the following statements are true?
 
|type="[]"}
 
|type="[]"}
- Für $n_{\rm B}$ sind alle Werte $(0$, ... , $N)$ gleichwahrscheinlich.
+
- For&nbsp; $n_{\rm B}$&nbsp; all values&nbsp; $(0$, ... , $N)$&nbsp; are equally likely.
+ Die Zufallsgr&ouml;&szlig;e $n_{\rm B}$ ist binomialverteilt.
+
+ The random variable&nbsp; $n_{\rm B}$&nbsp; is binomially distributed.
+ Mit $p_{\rm B} = 10^{-3}$ und $N = 10^{5}$ ergibt sich ${\rm E}\big[n_{\rm B}\big] = 100$.
+
+ With&nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $N = 10^{5}$&nbsp; we get&nbsp; ${\rm E}\big[n_{\rm B}\big] = 100$.
  
  
{Wie gro&szlig; ist die Streuung der Zufallsgr&ouml;&szlig;e $n_{\rm B}$ für $p_{\rm B} = 10^{-3}$ und $N = 10^{5}$?
+
{How large is the standard deviation of the random variable&nbsp; $n_{\rm B}$&nbsp; with&nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $N = 10^{5}$?
 
|type="{}"}
 
|type="{}"}
$\sigma_{n{\rm B}} \ = \ $ { 10 3% }  
+
$\sigma_{n{\rm B}} \ = \ $ { 10 3% }  
  
  
{Welche Werte kann die Bitfehlerquote $h_{\rm B}$ annehmen? Zeigen Sie, dass der lineare Mittelwert $m_{h{\rm B}}$ dieser Zufallsgröße gleich der tats&auml;chlichen Bitfehlerwahrscheinlichkeit $p_{\rm B}$ ist. Wie gro&szlig; ist deren Streuung?
+
{What values can the bit error rate&nbsp; $h_{\rm B}$&nbsp; take?&nbsp; Show that the linear mean&nbsp; $m_{h{\rm B}}$&nbsp; of this random variable is equal to the bit error probability&nbsp; $p_{\rm B}$&nbsp; What is its standard deviation?
 
|type="{}"}
 
|type="{}"}
$\sigma_{h{\rm B}} \ = \ $ { 0.0001 3% }  
+
$\sigma_{h{\rm B}} \ = \ $ { 0.0001 3% }  
  
  
{Unter gewissen Voraussetzungen kann eine binomialverteilte Zufallsgr&ouml;&szlig;e durch eine Gau&szlig;verteilung mit gleichem Mittelwert  $(m_{h{\rm B}})$ und gleicher Streuung $(\sigma_{h{\rm B}})$ angen&auml;hert werden. Welche Aussage ist zutreffend?
+
{Under certain conditions,&nbsp; a binomially distributed random variable can be approximated by a Gaussian distribution <br>with equal mean&nbsp; $(m_{h{\rm B}})$&nbsp; and equal standard deviation&nbsp; $(\sigma_{h{\rm B}})$.&nbsp; Which statement is true?
 
|type="()"}
 
|type="()"}
+ ${\rm Pr}(|h_{\rm B} - p_{\rm B}| \le \varepsilon)=1- 2\cdot \rm Q({\varepsilon}/{\sigma_{h{\rm B}}}).$
+
+ ${\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)=1- 2\cdot \rm Q({\varepsilon}/{\sigma_{\it h}{\rm B}}).$
- ${\rm Pr}(|h_{\rm B} - p_{\rm B}| \le \varepsilon)=1- \rm Q({\varepsilon}/{2\cdot \sigma_{h{\rm B}}}).$
+
- ${\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)=1- \rm Q({\varepsilon}/{2\cdot \sigma_{\it h}{\rm B}}).$
  
  
  
{Zur Abk&uuml;rzung verwenden wir das Konfidenzniveau $p_\varepsilon = {\rm Pr}(|h_{\rm B} - p_{\rm B}| \le \varepsilon)$. <br>Welches  $p_\varepsilon$ ergibt sich mit $\varepsilon = 10^{-4}$, $p_{\rm B} = 10^{-3}$ und $N = 10^{5}$?
+
{For abbreviation,&nbsp; we use the confidence level&nbsp; $p_\varepsilon = {\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)$. &nbsp; Which&nbsp; $p_\varepsilon$&nbsp; results with&nbsp; $\varepsilon = 10^{-4}$, &nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $N = 10^{5}$&nbsp;?
 
|type="{}"}
 
|type="{}"}
$p_\varepsilon \ = \ $ { 0.684 3% }
+
$p_\varepsilon \ = \ $ { 0.684 3% }
  
  
{Das Argument der Q-Funktion sei $\alpha$. Wie gro&szlig; muss  $\alpha$ mindestens gew&auml;hlt werden, damit das Konfidenzniveau  $p_\varepsilon = 95\%$ betr&auml;gt?
+
{Let the argument of the Q-function be&nbsp; $\alpha$.&nbsp; What is the minimum value of&nbsp; $\alpha$&nbsp; that must be chosen for the confidence level&nbsp; $p_\varepsilon = 95\%$&nbsp;?
 
|type="{}"}
 
|type="{}"}
$\alpha_{\rm min} \ = \ $ { 1.96 3% }
+
$\alpha_{\rm min} \ = \ $ { 1.96 3% }
  
  
{Es gelte weiterhin $p_{\rm B} = 10^{-3}$ und $p_\varepsilon = 95\%$ &Uuml;ber wie viele Symbole muss man mindestens gemittelt werden, damit die ermittelte Bitfehlerquote im Bereich zwischen $0.9 \cdot 10^{-3}$ und $1.1 \cdot 10^{-3}$ liegt $(\varepsilon = 10^{-4}, \text{10% vom Sollwert)}$?
+
{It still holds&nbsp; $p_{\rm B} = 10^{-3}$&nbsp; and&nbsp; $p_\varepsilon = 95\%$. &nbsp; Over how many symbols&nbsp; $(N_\text{min})$&nbsp; must be averaged at least, <br>so that the determined bit error rate lies in the range between&nbsp; $0. 9 \cdot 10^{-3}$&nbsp; and&nbsp; $1.1 \cdot 10^{-3}$&nbsp;  $(\varepsilon = 10^{-4}, \ \text{10% of its nominal value)}$&nbsp;?
 
|type="{}"}
 
|type="{}"}
$N_\text{min} \ = \ ${ 400000 3% }
+
$N_\text{min} \ = \ ${ 400000 3% }
  
  
Line 94: Line 88:
 
</quiz>
 
</quiz>
  
===Musterlösung===
+
===Solution===
 
{{ML-Kopf}}
 
{{ML-Kopf}}
'''(1)'''&nbsp; Die <u>beiden letzten Aussagen</u> stimmen:  
+
'''(1)'''&nbsp; The&nbsp; <u>last two statements</u>&nbsp; are true:  
*Bez&uuml;glich der Zufallsgr&ouml;&szlig;e $n_{\rm B}$ liegt der klassische Fall einer Binomialverteilung vor.  
+
*Relative to the random variable&nbsp; $n_{\rm B}$&nbsp; there is the classical case of a binomial distribution.  
*Es wird die Summe &uuml;ber $N$ bin&auml;re Zufallsgr&ouml;&szlig;en gebildet.
+
*The sum over&nbsp; $N$&nbsp; binary random variables is formed.&nbsp; The possible values of&nbsp; $n_{\rm B}$&nbsp; thus lie between&nbsp; $0$&nbsp; and&nbsp; $N$.  
*Die m&ouml;glichen Werte von $n_{\rm B}$ liegen somit zwischen $0$ und $N$.  
+
*The linear mean gives &nbsp; $m_{n{\rm B}}=p_{\rm B}\cdot N=\rm 10^{-3}\cdot 10^{5}=\rm 100.$
*Der lineare Mittelwert ergibt &nbsp; $m_{n{\rm B}}=p_{\rm B}\cdot N=\rm 10^{-3}\cdot 10^{5}=\rm 100.$
+
 
  
  
'''(2)'''&nbsp; F&uuml;r die Streuung der Binomialverteilung gilt mit guter Näherung:
+
'''(2)'''&nbsp; Für the standard deviation of the binomial distribution holds with good approximation:
$$\sigma_{n{\rm B}}=\sqrt{N\cdot p_{\rm B}\cdot (\rm 1- \it p_{\rm B})}
+
:$$\sigma_{n{\rm B}}=\sqrt{N\cdot p_{\rm B}\cdot (\rm 1- \it p_{\rm B}{\rm )}}
 
\hspace{0.15cm}\underline{\approx 10}.$$
 
\hspace{0.15cm}\underline{\approx 10}.$$
  
'''(3)'''&nbsp; M&ouml;gliche Werte von $h_{\rm B}$ sind alle ganzzahligen Vielfachen von $1/N$. Diese liegen zwischen $0$ und $1$ liegen. F&uuml;r den Mittelwert erh&auml;lt man:
 
$$m_{h{\rm B}}=m_{n{\rm B}}/N=p_{\rm B} = 10^{-3}.$$
 
  
Die Streuung ergibt sich zu
 
$$\sigma_{h{\rm B}}=\frac{\sigma_{n{\rm B}}}{N}=\sqrt{\frac{p_{\rm B}\cdot (\rm 1- \it p_{\rm B})}{N}}\hspace{0.15cm}\underline{\approx \rm 10^{-4}}.$$
 
  
'''(4)'''&nbsp; Richtig ist <u>der erste Vorschlag</u>. Es gilt:
+
'''(3)'''&nbsp; Possible values of&nbsp; $h_{\rm B}$&nbsp; are all integer multiples of&nbsp; $1/N$.&nbsp; These all lie between&nbsp; $0$&nbsp; and&nbsp; $1$.
$${\rm Pr}(h_{\rm B} > p_{\rm B} + \varepsilon)=\rm Q({\it\varepsilon}/{\it\sigma_{h{\rm B}}}),\hspace{0.5cm}\rm Pr(\it h_{\rm B} < p_{\rm B} - \varepsilon {\rm )}=\rm Q(\it{\varepsilon}/{\sigma_{h{\rm B}}}{\rm )}\hspace{0.5cm}\Rightarrow \hspace{0.5cm}\rm Pr(\it |h_{\rm B} - p_{\rm B}| \le \varepsilon \rm )=\rm 1-\rm 2\cdot \rm Q({\it \varepsilon}/{\it \sigma_{h{\rm B}}}).$$
+
 
 +
*For the mean value,&nbsp; one obtains:
 +
:$$m_{h{\rm B}}=m_{n{\rm B}}/N=p_{\rm B} = 10^{-3}.$$
 +
 
 +
*The standard deviation results in
 +
:$$\sigma_{h{\rm B}}=\frac{\sigma_{n{\rm B}}}{N}=\sqrt{\frac{ p_{\rm B}\cdot (\rm 1- \it p_{\rm B}{\rm )}}{N}}\hspace{0.15cm}\underline{\approx \rm 0.0001}.$$
 +
 
 +
 
 +
'''(4)'''&nbsp; Correct is&nbsp; <u>the first proposition</u>.&nbsp; It holds:
 +
:$${\rm Pr}(h_{\rm B} > p_{\rm B} + \varepsilon)=\rm Q({\it\varepsilon}/{\it\sigma_{h{\rm B}}}),$$
 +
:$$\rm Pr(\it h_{\rm B} < p_{\rm B} - \varepsilon {\rm )}=\rm Q(\it{\varepsilon}/{\sigma_{h{\rm B}}}{\rm )}$$
 +
:$$\Rightarrow \hspace{0.5cm}\rm Pr(\it |h_{\rm B} - p_{\rm B}| \le \varepsilon \rm )=\rm 1-\rm 2\cdot \rm Q({\it \varepsilon}/{\it \sigma_{h{\rm B}}}).$$
 +
 
 +
 
 +
 
 +
'''(5)'''&nbsp; One obtains with the numerical values&nbsp; $\varepsilon = \sigma_{h{\rm B}} = 10^{-4}$:
 +
:$$p_{\varepsilon}=\rm 1-\rm 2\cdot \rm Q(\frac{\rm 10^{\rm -4}}{\rm 10^{\rm -4}} {\rm )}=\rm 1-\rm 2\cdot\rm Q(\rm 1)\hspace{0.15cm}\underline{\approx\rm 0.684}.$$
 +
 
 +
In words: &nbsp; If one determines the bit error rate by simulation over&nbsp; $10^5$&nbsp; symbols,&nbsp; with a confidence level of&nbsp; $\underline{68.4\%}$&nbsp; <br>one obtains a value between&nbsp; $0.9 \cdot 10^{-3}$&nbsp; and&nbsp; $1.1 \cdot 10^{-3}$,&nbsp; if&nbsp; $p_{\rm B} = 10^{-3}$.
 +
 
 +
 
  
'''(5)'''&nbsp; Man erh&auml;lt mit den Zahlenwerten$\varepsilon = \sigma_{h{\rm B}} = 10^{-4}$:
+
'''(6)'''&nbsp; From the relation&nbsp; $p_{\varepsilon}=\rm 1-\rm 2\cdot {\rm Q}(\alpha) = 0.95$&nbsp; it follows directly:
$$p_{\varepsilon}=\rm 1-\rm 2\cdot \rm Q(\frac{\rm 10^{\rm -4}}{\rm 10^{\rm -4}} {\rm )}=\rm 1-\rm 2\cdot\rm Q(\rm 1)\hspace{0.15cm}\underline{\approx\rm 0.684}.$$
+
:$$\alpha_{\rm min}=\rm Q^{\rm -1}\Big(\frac{\rm 1-\it p_{\varepsilon}}{\rm 2}\Big)=\rm Q^{\rm -1}(\rm 0.025)\hspace{0.15cm}\underline{=\rm 1.96}\hspace{0.15cm}{\approx\rm 2}.$$
  
Das heißt: Bestimmt man die Bitfehlerquote per Simulation &uuml;ber $10^5$  Symbole, so erh&auml;lt man mit einem <u>Konfidenzniveau von 68.4%</u> einen Wert zwischen $0.9 \cdot 10^{-3}$ und $1.1 \cdot 10^{-3}$, wenn $p_{\rm B} = 10^{-3}$ ist.
 
  
'''(6)'''&nbsp; Aus der Beziehung $p_{\varepsilon}=\rm 1-\rm 2\cdot {\rm Q}(\alpha) = 0.95$ folgt direkt:
 
$$\alpha_{\rm min}=\rm Q^{\rm -1}\Big(\frac{\rm 1-\it p_{\varepsilon}}{\rm 2}\Big)=\rm Q^{\rm -1}(\rm 0.025)\hspace{0.15cm}\underline{=\rm 1.96}\hspace{0.15cm}{\approx\rm 2}.$$
 
  
'''(7)'''&nbsp; Es muss $\alpha = \varepsilon/\sigma_{h{\rm B}}$ gelten. Mit dem Ergebnis der Teilaufgabe (2) folgt dann:
+
'''(7)'''&nbsp; It must&nbsp; $\alpha = \varepsilon/\sigma_{h{\rm B}}$.&nbsp; With the result of the subtask&nbsp; '''(2)'''&nbsp; then follows:
$$\frac{\varepsilon}{\sqrt{p_{\rm B}\cdot(\rm 1-\it p_{\rm B})/N}}\ge {\rm 2} \hspace{0.5cm}\Rightarrow\hspace{0.5cm}
+
:$$\frac{\varepsilon}{\sqrt{p_{\rm B}\cdot(\rm 1-\it p_{\rm B})/N}}\ge {\rm 2} \hspace{0.5cm}\Rightarrow\hspace{0.5cm}
N\ge \frac{\rm 4\cdot \it p_{\rm B}\cdot(\rm 1-\it p_{\rm B})}{\varepsilon^{\rm 2}}\approx \frac{\rm 4\cdot 10^{-3}}{10^{-8}}\hspace{0.15cm}\underline{=\rm 400000}.$$
+
N\ge \frac{\rm 4\cdot \it p_{\rm B}\cdot(\rm 1-\it p_{\rm B})}{\varepsilon^{\rm 2}}\approx \frac{\rm 4\cdot 10^{-3}}{10^{-8}}\hspace{0.15cm}\underline{=\rm 400\hspace{0.08cm}000}.$$
  
 
{{ML-Fuß}}
 
{{ML-Fuß}}
Line 132: Line 139:
  
  
[[Category:Aufgaben zu Stochastische Signaltheorie|^3.5 Gaußverteilte Zufallsgröße^]]
+
[[Category:Theory of Stochastic Signals: Exercises|^3.5 Gaussian Random Variable^]]

Latest revision as of 12:11, 17 February 2022

To illustrate the bit error rate

We consider a binary transmission system with

  • the source symbol sequence  $\langle q_\nu \rangle $,  and
  • the sink symbol sequence  $\langle v_\nu \rangle $.


If the sink symbol  $v_\nu$  and source symbol  $q_\nu$  do not match,  there is a  "bit error"   ⇒   $e_\nu = 1$.  Otherwise  $e_\nu = 0$  holds.


$\rm (A)$  The most important evaluation criterion of such a digital system is the  Bit Error Probability:

  • With the expected value  ${\rm E}\big[\text{ ...} \big]$  this is defined as follows:
$$\it p_{\rm B} = \rm E\big[\rm Pr(\it v_{\nu} \ne q_{\nu} \rm )\big]=\rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\lim_{{\it N}\to\infty}\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N}\rm Pr(\it e_{\nu}=\rm 1). $$
  • The right part of this equation describes a time averaging; this must always be applied to time-varying channels.
  • If the error probability is the same for all symbols  (which is assumed here),  the above equation can be simplified:
$$\it p_{\rm B} = \rm E\big[\rm Pr(\it e_{\nu}=\rm 1)\big]=\rm E\big[\it e_{\nu} \rm \big].$$
  • The bit error probability is an  "a priori parameter",  so it allows a prediction for the expected result.


$\rm (B)$  For the metrological determination of the transmission quality or for a system simulation,  it is necessary to rely on the  Bit Error Rate  $\rm (BER)$:

  • The bit error rate is an  "a posteriori parameter"  derived from a performed statistical experiment as a  relative frequency.
$$h_{\rm B}=\frac{n_{\rm B}}{N}=\frac{\rm 1}{\it N}\cdot\sum\limits_{\it \nu=\rm 1}^{\it N} e_{\nu}.$$
  • $n_{\rm B}$  indicates the number of bit errors occurred when a total of  $N$  binary symbols  ("bits")  were transmitted.
  • In the limiting case  $N \to \infty$  the relative frequency  $h_{\rm B}$  coincides with the probability  $p_{\rm B}$.  Here now the question shall be clarified,  which statistical uncertainty has to be expected with finite  $N$.



Hints:

  • The exercise belongs to the chapter  Gaussian random variables.
  • Solve this exercise as far as possible in general.  Use the parameter values  $p_{\rm B} = 10^{-3}$  and  $N = 10^{5}$ for control input.
  • The following are some values of the so-called  "Q-function":
$$\rm Q(\rm 1.00)=\rm 0.159,\hspace{0.5cm}\rm Q(\rm 1.65)=\rm 0.050,\hspace{0.5cm}\rm Q(\rm 1.96)=\rm 0.025,\hspace{0.5cm}\rm Q(\rm 2.59)=\rm 0.005.$$



Questions

1

Which of the following statements are true?

For  $n_{\rm B}$  all values  $(0$, ... , $N)$  are equally likely.
The random variable  $n_{\rm B}$  is binomially distributed.
With  $p_{\rm B} = 10^{-3}$  and  $N = 10^{5}$  we get  ${\rm E}\big[n_{\rm B}\big] = 100$.

2

How large is the standard deviation of the random variable  $n_{\rm B}$  with  $p_{\rm B} = 10^{-3}$  and  $N = 10^{5}$?

$\sigma_{n{\rm B}} \ = \ $

3

What values can the bit error rate  $h_{\rm B}$  take?  Show that the linear mean  $m_{h{\rm B}}$  of this random variable is equal to the bit error probability  $p_{\rm B}$  What is its standard deviation?

$\sigma_{h{\rm B}} \ = \ $

4

Under certain conditions,  a binomially distributed random variable can be approximated by a Gaussian distribution
with equal mean  $(m_{h{\rm B}})$  and equal standard deviation  $(\sigma_{h{\rm B}})$.  Which statement is true?

${\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)=1- 2\cdot \rm Q({\varepsilon}/{\sigma_{\it h}{\rm B}}).$
${\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)=1- \rm Q({\varepsilon}/{2\cdot \sigma_{\it h}{\rm B}}).$

5

For abbreviation,  we use the confidence level  $p_\varepsilon = {\rm Pr}(\hspace{0.05cm}|\hspace{0.05cm}h_{\rm B} - p_{\rm B}\hspace{0.05cm}| \le \varepsilon)$.   Which  $p_\varepsilon$  results with  $\varepsilon = 10^{-4}$,   $p_{\rm B} = 10^{-3}$  and  $N = 10^{5}$ ?

$p_\varepsilon \ = \ $

6

Let the argument of the Q-function be  $\alpha$.  What is the minimum value of  $\alpha$  that must be chosen for the confidence level  $p_\varepsilon = 95\%$ ?

$\alpha_{\rm min} \ = \ $

7

It still holds  $p_{\rm B} = 10^{-3}$  and  $p_\varepsilon = 95\%$.   Over how many symbols  $(N_\text{min})$  must be averaged at least,
so that the determined bit error rate lies in the range between  $0. 9 \cdot 10^{-3}$  and  $1.1 \cdot 10^{-3}$  $(\varepsilon = 10^{-4}, \ \text{10% of its nominal value)}$ ?

$N_\text{min} \ = \ $


Solution

(1)  The  last two statements  are true:

  • Relative to the random variable  $n_{\rm B}$  there is the classical case of a binomial distribution.
  • The sum over  $N$  binary random variables is formed.  The possible values of  $n_{\rm B}$  thus lie between  $0$  and  $N$.
  • The linear mean gives   $m_{n{\rm B}}=p_{\rm B}\cdot N=\rm 10^{-3}\cdot 10^{5}=\rm 100.$


(2)  Für the standard deviation of the binomial distribution holds with good approximation:

$$\sigma_{n{\rm B}}=\sqrt{N\cdot p_{\rm B}\cdot (\rm 1- \it p_{\rm B}{\rm )}} \hspace{0.15cm}\underline{\approx 10}.$$


(3)  Possible values of  $h_{\rm B}$  are all integer multiples of  $1/N$.  These all lie between  $0$  and  $1$.

  • For the mean value,  one obtains:
$$m_{h{\rm B}}=m_{n{\rm B}}/N=p_{\rm B} = 10^{-3}.$$
  • The standard deviation results in
$$\sigma_{h{\rm B}}=\frac{\sigma_{n{\rm B}}}{N}=\sqrt{\frac{ p_{\rm B}\cdot (\rm 1- \it p_{\rm B}{\rm )}}{N}}\hspace{0.15cm}\underline{\approx \rm 0.0001}.$$


(4)  Correct is  the first proposition.  It holds:

$${\rm Pr}(h_{\rm B} > p_{\rm B} + \varepsilon)=\rm Q({\it\varepsilon}/{\it\sigma_{h{\rm B}}}),$$
$$\rm Pr(\it h_{\rm B} < p_{\rm B} - \varepsilon {\rm )}=\rm Q(\it{\varepsilon}/{\sigma_{h{\rm B}}}{\rm )}$$
$$\Rightarrow \hspace{0.5cm}\rm Pr(\it |h_{\rm B} - p_{\rm B}| \le \varepsilon \rm )=\rm 1-\rm 2\cdot \rm Q({\it \varepsilon}/{\it \sigma_{h{\rm B}}}).$$


(5)  One obtains with the numerical values  $\varepsilon = \sigma_{h{\rm B}} = 10^{-4}$:

$$p_{\varepsilon}=\rm 1-\rm 2\cdot \rm Q(\frac{\rm 10^{\rm -4}}{\rm 10^{\rm -4}} {\rm )}=\rm 1-\rm 2\cdot\rm Q(\rm 1)\hspace{0.15cm}\underline{\approx\rm 0.684}.$$

In words:   If one determines the bit error rate by simulation over  $10^5$  symbols,  with a confidence level of  $\underline{68.4\%}$ 
one obtains a value between  $0.9 \cdot 10^{-3}$  and  $1.1 \cdot 10^{-3}$,  if  $p_{\rm B} = 10^{-3}$.


(6)  From the relation  $p_{\varepsilon}=\rm 1-\rm 2\cdot {\rm Q}(\alpha) = 0.95$  it follows directly:

$$\alpha_{\rm min}=\rm Q^{\rm -1}\Big(\frac{\rm 1-\it p_{\varepsilon}}{\rm 2}\Big)=\rm Q^{\rm -1}(\rm 0.025)\hspace{0.15cm}\underline{=\rm 1.96}\hspace{0.15cm}{\approx\rm 2}.$$


(7)  It must  $\alpha = \varepsilon/\sigma_{h{\rm B}}$.  With the result of the subtask  (2)  then follows:

$$\frac{\varepsilon}{\sqrt{p_{\rm B}\cdot(\rm 1-\it p_{\rm B})/N}}\ge {\rm 2} \hspace{0.5cm}\Rightarrow\hspace{0.5cm} N\ge \frac{\rm 4\cdot \it p_{\rm B}\cdot(\rm 1-\it p_{\rm B})}{\varepsilon^{\rm 2}}\approx \frac{\rm 4\cdot 10^{-3}}{10^{-8}}\hspace{0.15cm}\underline{=\rm 400\hspace{0.08cm}000}.$$