Difference between revisions of "Aufgaben:Exercise 4.9Z: Is Channel Capacity C ≡ 1 possible with BPSK?"

From LNTwww
Line 67: Line 67:
  
 
{Beantworten Sie nun die entscheidende Frage, unter der Voraussetzung, <br>dass eine Gaußsche Störung vorliegt und der Quotient &nbsp;$E_{\rm B}/{N_0}$&nbsp;  endlich ist.
 
{Beantworten Sie nun die entscheidende Frage, unter der Voraussetzung, <br>dass eine Gaußsche Störung vorliegt und der Quotient &nbsp;$E_{\rm B}/{N_0}$&nbsp;  endlich ist.
|type="[]"}
+
|type="()"}
 
- $C_\text{BPSK}(E_{\rm B}/{N_0})  &equiv; 1 \ \rm bit/Kanalzugriff $ ist mit einer Gauß&ndash;WDF möglich.
 
- $C_\text{BPSK}(E_{\rm B}/{N_0})  &equiv; 1 \ \rm bit/Kanalzugriff $ ist mit einer Gauß&ndash;WDF möglich.
 
+ Bei Gaußscher Störung mit endlichem &nbsp;$E_{\rm B}/{N_0}$&nbsp; gilt stets $C_\text{BPSK}(E_{\rm B}/{N_0})  < 1 \ \rm bit/Kanalzugriff $.
 
+ Bei Gaußscher Störung mit endlichem &nbsp;$E_{\rm B}/{N_0}$&nbsp; gilt stets $C_\text{BPSK}(E_{\rm B}/{N_0})  < 1 \ \rm bit/Kanalzugriff $.
Line 76: Line 76:
 
===Musterlösung===
 
===Musterlösung===
 
{{ML-Kopf}}
 
{{ML-Kopf}}
'''(1)'''&nbsp; Die differentielle Entropie einer Gleichverteilung der absoluten Breite 2<i>A</i> ist gleich  
+
'''(1)'''&nbsp; Die differentielle Entropie einer Gleichverteilung der absoluten Breite $2A$ ist gleich  
 
:$$ h(N) =  {\rm log}_2 \hspace{0.1cm} (2A)
 
:$$ h(N) =  {\rm log}_2 \hspace{0.1cm} (2A)
 
\hspace{0.3cm}\Rightarrow \hspace{0.3cm} A=1/8\hspace{-0.05cm}:
 
\hspace{0.3cm}\Rightarrow \hspace{0.3cm} A=1/8\hspace{-0.05cm}:
Line 82: Line 82:
 
\hspace{0.15cm}\underline{= -2\,{\rm bit(/Symbol)}}\hspace{0.05cm}.$$
 
\hspace{0.15cm}\underline{= -2\,{\rm bit(/Symbol)}}\hspace{0.05cm}.$$
  
[[File:P_ID2948__Inf_Z_4_9b.png|right|frame|WDF der Ausgangsgröße <i>Y</i>&nbsp;  bei gleichverteilter Störung  <i>N</i>]]
+
[[File:P_ID2948__Inf_Z_4_9b.png|right|frame|WDF der Ausgangsgröße &nbsp;$Y$&nbsp;  bei gleichverteilter Störung  &nbsp;$N$]]
'''(2)'''&nbsp; Die Wahrscheinlichkeitsdichtefunktion am Ausgang ergibt sich entsprechend der Gleichung:
+
'''(2)'''&nbsp; Die Wahrscheinlichkeitsdichtefunktion am Ausgang ergibt sich gemäß der Gleichung:
:$$f_Y(y) = {1}/{2} \cdot \left [ f_{Y|{X}}(y|-1) + f_{Y|{X}}(y|+1) \right ]\hspace{0.05cm}.$$
+
:$$f_Y(y) = {1}/{2} \cdot \big [ f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}-1) + f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}+1) \big ]\hspace{0.05cm}.$$
Die Grafik zeigt das Ergebnis für unser Beispiel (<i>A</i> = 1/8):
+
Die Grafik zeigt das Ergebnis für unser Beispiel $(A = 1/8)$:
* Rot gezeichnet ist der erste Term 1/2 &middot; <i>f<sub>Y|X</sub></i>(<i>y</i>|&ndash;1), wobei das Rechteck <i>f<sub>N</sub></i>(<i>n</i>) an die Stelle <i>Y</i>&nbsp;=&nbsp;&ndash;1 verschoben und mit 1/2 multipliziert wird. Es ergibt sich ein Rechteck der Breite 2<i>A</i> = 1/4 und der Höhe 1/(4<i>A</i>) = 2.       
+
* Rot gezeichnet ist der erste Term ${1}/{2} \cdot  f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}-1)$ an die Stelle $Y = -1$ verschoben und mit $1/2$ multipliziert wird. Es ergibt sich ein Rechteck der Breite $2A = 1/4$ und der Höhe $1/(4A) = 2$.       
* Blau dargestellt ist der zweite Term 1/2 &middot; <i>f<sub>Y|X</sub></i>(<i>y</i>|+1) mit der Mitte bei <i>Y</i> = +1.
+
* Blau dargestellt ist der zweite Term ${1}/{2} \cdot  f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}+1)$ mit der Mitte bei $Y = +1$.
* Lässt man die Farben außer Betracht, so ergibt sich die gesamte WDF <i>f<sub>Y</sub></i>(<i>y</i>).
+
* Lässt man die Farben außer Betracht, so ergibt sich die gesamte WDF $f_Y(y)$.
 +
 
  
 
Die differentiellen Entropie wird nicht verändert wird, wenn man nicht überlappende WDF–Abschnitte verschiebt. Somit ergibt sich für die gesuchte differentielle Sinkenentropie:
 
Die differentiellen Entropie wird nicht verändert wird, wenn man nicht überlappende WDF–Abschnitte verschiebt. Somit ergibt sich für die gesuchte differentielle Sinkenentropie:
Line 101: Line 102:
  
 
'''(4)'''&nbsp; <u>Alle Lösungsvorschläge</u> sind zutreffend:
 
'''(4)'''&nbsp; <u>Alle Lösungsvorschläge</u> sind zutreffend:
* Für jedes <i>A</i> &#8804; 1 gilt
+
* Für jedes $A &#8804; 1$ gilt
 
:$$ h(Y)  =    {\rm log}_2 \hspace{0.1cm} (4A) = {\rm log}_2 \hspace{0.1cm} (2A) + {\rm log}_2 \hspace{0.1cm} (2)\hspace{0.05cm}, \hspace{0.5cm}
 
:$$ h(Y)  =    {\rm log}_2 \hspace{0.1cm} (4A) = {\rm log}_2 \hspace{0.1cm} (2A) + {\rm log}_2 \hspace{0.1cm} (2)\hspace{0.05cm}, \hspace{0.5cm}
 
h(N)  =    {\rm log}_2 \hspace{0.1cm} (2A)$$
 
h(N)  =    {\rm log}_2 \hspace{0.1cm} (2A)$$
 
:$$\Rightarrow \hspace{0.3cm} I(X; Y) = h(Y) \hspace{-0.05cm}- \hspace{-0.05cm}h(N) = {\rm log}_2 \hspace{0.1cm} (2)
 
:$$\Rightarrow \hspace{0.3cm} I(X; Y) = h(Y) \hspace{-0.05cm}- \hspace{-0.05cm}h(N) = {\rm log}_2 \hspace{0.1cm} (2)
 
\hspace{0.15cm}\underline{= +1\,{\rm bit/Symbol}}\hspace{0.05cm}.$$
 
\hspace{0.15cm}\underline{= +1\,{\rm bit/Symbol}}\hspace{0.05cm}.$$
* An diesem Prinzip ändert sich auch bei anderer WDF <i>f<sub>N</sub></i>(<i>n</i>) nichts, solange die Störung auf den Bereich |<i>n</i>| &#8804; 1 begrenzt ist.
+
* An diesem Prinzip ändert sich auch bei anderer WDF $f_N(n)$ nichts, solange die Störung auf den Bereich $|n| &#8804; 1$ begrenzt ist.
* Überlappen sich jedoch die beiden bedingten Wahrscheinlichkeitsdichtefunktionen, so ergibt sich für <i>h</i>(<i>Y</i>) ein kleinerer Wert als oben berechnet und damit auch eine kleinere Transinformation.
+
* Überlappen sich jedoch die beiden bedingten Wahrscheinlichkeitsdichtefunktionen, so ergibt sich für $h(Y)$ ein kleinerer Wert als oben berechnet und damit auch eine kleinere Transinformation.
  
  
[[File:P_ID2951__Inf_Z_4_9e.png|right|frame|WDF der Ausgangsgröße <i>Y</i>&nbsp;  bei gaußverteilter Störung  <i>N</i>]]
+
[[File:P_ID2951__Inf_Z_4_9e.png|right|frame|WDF der Ausgangsgröße &nbsp;$Y$&nbsp;  bei gaußverteilter Störung  &nbsp;$N$]]
 
'''(5)'''&nbsp; Richtig ist der <u>Lösungsvorschlag 2</u>:
 
'''(5)'''&nbsp; Richtig ist der <u>Lösungsvorschlag 2</u>:
* Die Gaußfunktion klingt zwar sehr schnell ab, sie wird aber nie exakt gleich 0.
+
* Die Gaußfunktion klingt zwar sehr schnell ab, sie wird aber nie exakt gleich Null.
* Deshalb kommt es hier immer zu einer Überlappung der bedingten Wahrscheinlichkeitsdichtefunktionen <i>f<sub>Y|X</sub></i>(<i>y</i>|&ndash;1) und  <i>f<sub>Y|X</sub></i>(<i>y</i>|+1.)
+
* Deshalb kommt es hier immer zu einer Überlappung der bedingten Wahrscheinlichkeitsdichtefunktionen $f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}-1)$ und  $f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}+1)$.
* Entsprechend der Teilaufgabe (4) ist deshalb <i>C</i><sub>BPSK</sub>(<i>E</i><sub>B</sub>/<i>N</i><sub>0</sub>) &equiv; 1 bit/Symbol nicht möglich.
+
* Entsprechend der Teilaufgabe '''(4)''' ist deshalb $C_\text{BPSK}(E_{\rm B}/{N_0}) &equiv; 1 \ \rm bit/Kanalzugriff $ nicht möglich.
  
 
{{ML-Fuß}}
 
{{ML-Fuß}}

Revision as of 16:46, 20 October 2018

Zwei unterschiedliche $f_N(n)$

Wir gehen hier von einem binären bipolaren Quellensignal aus   ⇒   $ x \in X = \{+1, -1\}$.

Die Wahrscheinlichkeitsdichtefunktion (WDF) der Quelle lautet somit:

$$f_X(x) = {1}/{2} \cdot \delta (x-1) + {1}/{2} \cdot \delta (x+1)\hspace{0.05cm}. $$

Die Transinformation zwischen der Quelle $X$ und der Sinke $Y$ kann gemäß der Gleichung

$$I(X;Y) = h(Y) - h(N)$$

berechnet werden, wobei gilt:

  • $h(Y)$ bezeichnet die differentielle Sinkenentropie
$$h(Y) = \hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}(f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} \big[ f_Y(y) \big] \hspace{0.1cm}{\rm d}y \hspace{0.05cm},$$
$${\rm mit}\hspace{0.5cm} f_Y(y) = {1}/{2} \cdot \big[ f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}{X}=-1) + f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}{X}=+1) \big ]\hspace{0.05cm}.$$
  • $h(N)$ gibt die differentielle Störentropie an, allein berechenbar aus der WDF $f_N(n)$:
$$h(N) = \hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}(f_N)} \hspace{-0.35cm} f_N(n) \cdot {\rm log}_2 \hspace{0.1cm} \big[ f_N(n) \big] \hspace{0.1cm}{\rm d}n \hspace{0.05cm}.$$

Nimmt man für die Störung  $N$  eine Gaußverteilung  $f_N(n)$  entsprechend der oberen Skizze an, so ergibt sich die Kanalkapazität  $C_\text{BPSK} = I(X;Y)$, die im Theorieteil abhängig von  $10 \cdot \lg (E_{\rm B}/{N_0})$  dargestellt ist.

Beantwortet werden soll die Frage, ob es einen endlichen  $E_{\rm B}/{N_0}$–Wert gibt, für den $C_\text{BPSK}(E_{\rm B}/{N_0}) ≡ 1 \ \rm bit/Kanalzugriff $ möglich ist   ⇒   Teilaufgabe (5).

In den Teilaufgaben (1) bis (4) werden Vorarbeiten zur Beantwortung dieser Frage geleistet. Dabei wird stets von der gleichverteilten Stör–WDF $f_N(n)$ ausgegangen (siehe untere Skizze):

$$f_N(n) = \left\{ \begin{array}{c} 1/(2A) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.3cm} |n| < A, \\ {\rm{f\ddot{u}r}} \hspace{0.3cm} |n| > A. \\ \end{array} $$



Hinweise:



Fragebogen

1

Wie groß ist die differentielle Störentropie bei gleichverteilter Störung mit $\underline{A = 1/8}$?

$h(N) \ = \ $

$\ \rm bit/Symbol$

2

Wie groß ist die differentielle Sinkenentropie bei gleichverteilter Störung mit $\underline{A = 1/8}$?

$h(Y) \ = \ $

$\ \rm bit/Symbol$

3

Wie groß ist die Transinformation zwischen Quelle und Sinke? Gehen Sie weiterhin von einer gleichverteilten Störung mit $\underline{A = 1/8}$ aus.

$I(X;Y) \ = \ $

$\ \rm bit/Symbol$

4

Unter welchen Bedingungen ändert sich am Ergebnis der Teilaufgabe (3) nichts?

Für jedes $A ≤ 1$ bei der vorgegebenen Gleichverteilung.
Für jede andere WDF $f_N(n)$, die auf den Bereich $|n| < 1$ begrenzt ist.
Wenn sich  $f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}{X}=-1)$  und  $f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}{X}=+1)$  nicht überlappen.

5

Beantworten Sie nun die entscheidende Frage, unter der Voraussetzung,
dass eine Gaußsche Störung vorliegt und der Quotient  $E_{\rm B}/{N_0}$  endlich ist.

$C_\text{BPSK}(E_{\rm B}/{N_0}) ≡ 1 \ \rm bit/Kanalzugriff $ ist mit einer Gauß–WDF möglich.
Bei Gaußscher Störung mit endlichem  $E_{\rm B}/{N_0}$  gilt stets $C_\text{BPSK}(E_{\rm B}/{N_0}) < 1 \ \rm bit/Kanalzugriff $.


Musterlösung

(1)  Die differentielle Entropie einer Gleichverteilung der absoluten Breite $2A$ ist gleich

$$ h(N) = {\rm log}_2 \hspace{0.1cm} (2A) \hspace{0.3cm}\Rightarrow \hspace{0.3cm} A=1/8\hspace{-0.05cm}: \hspace{0.15cm}h(N) = {\rm log}_2 \hspace{0.1cm} (1/4) \hspace{0.15cm}\underline{= -2\,{\rm bit(/Symbol)}}\hspace{0.05cm}.$$
WDF der Ausgangsgröße  $Y$  bei gleichverteilter Störung  $N$

(2)  Die Wahrscheinlichkeitsdichtefunktion am Ausgang ergibt sich gemäß der Gleichung:

$$f_Y(y) = {1}/{2} \cdot \big [ f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}-1) + f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}+1) \big ]\hspace{0.05cm}.$$

Die Grafik zeigt das Ergebnis für unser Beispiel $(A = 1/8)$:

  • Rot gezeichnet ist der erste Term ${1}/{2} \cdot f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}-1)$ an die Stelle $Y = -1$ verschoben und mit $1/2$ multipliziert wird. Es ergibt sich ein Rechteck der Breite $2A = 1/4$ und der Höhe $1/(4A) = 2$.
  • Blau dargestellt ist der zweite Term ${1}/{2} \cdot f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}+1)$ mit der Mitte bei $Y = +1$.
  • Lässt man die Farben außer Betracht, so ergibt sich die gesamte WDF $f_Y(y)$.


Die differentiellen Entropie wird nicht verändert wird, wenn man nicht überlappende WDF–Abschnitte verschiebt. Somit ergibt sich für die gesuchte differentielle Sinkenentropie:

$$h(Y) = {\rm log}_2 \hspace{0.1cm} (4A) \hspace{0.3cm}\Rightarrow \hspace{0.3cm} A=1/8\hspace{-0.05cm}: \hspace{0.15cm}h(Y) = {\rm log}_2 \hspace{0.1cm} (1/2) \hspace{0.15cm}\underline{= -1\,{\rm bit(/Symbol)}}\hspace{0.05cm}.$$

(3)  Damit erhält man für die Transinformation zwischen Quelle und Sinke:

$$I(X; Y) = h(Y) \hspace{-0.05cm}-\hspace{-0.05cm} h(N) = (-1\,{\rm bit/Symbol})\hspace{-0.05cm} -\hspace{-0.05cm}(-2\,{\rm bit/Symbol}) \hspace{0.15cm}\underline{= +1\,{\rm bit/Symbol}}\hspace{0.05cm}.$$

(4)  Alle Lösungsvorschläge sind zutreffend:

  • Für jedes $A ≤ 1$ gilt
$$ h(Y) = {\rm log}_2 \hspace{0.1cm} (4A) = {\rm log}_2 \hspace{0.1cm} (2A) + {\rm log}_2 \hspace{0.1cm} (2)\hspace{0.05cm}, \hspace{0.5cm} h(N) = {\rm log}_2 \hspace{0.1cm} (2A)$$
$$\Rightarrow \hspace{0.3cm} I(X; Y) = h(Y) \hspace{-0.05cm}- \hspace{-0.05cm}h(N) = {\rm log}_2 \hspace{0.1cm} (2) \hspace{0.15cm}\underline{= +1\,{\rm bit/Symbol}}\hspace{0.05cm}.$$
  • An diesem Prinzip ändert sich auch bei anderer WDF $f_N(n)$ nichts, solange die Störung auf den Bereich $|n| ≤ 1$ begrenzt ist.
  • Überlappen sich jedoch die beiden bedingten Wahrscheinlichkeitsdichtefunktionen, so ergibt sich für $h(Y)$ ein kleinerer Wert als oben berechnet und damit auch eine kleinere Transinformation.


WDF der Ausgangsgröße  $Y$  bei gaußverteilter Störung  $N$

(5)  Richtig ist der Lösungsvorschlag 2:

  • Die Gaußfunktion klingt zwar sehr schnell ab, sie wird aber nie exakt gleich Null.
  • Deshalb kommt es hier immer zu einer Überlappung der bedingten Wahrscheinlichkeitsdichtefunktionen $f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}-1)$ und $f_{Y\hspace{0.05cm}|\hspace{0.05cm}{X}}(y\hspace{0.05cm}|\hspace{0.05cm}+1)$.
  • Entsprechend der Teilaufgabe (4) ist deshalb $C_\text{BPSK}(E_{\rm B}/{N_0}) ≡ 1 \ \rm bit/Kanalzugriff $ nicht möglich.