Difference between revisions of "Aufgaben:Exercise 4.9Z: Is Channel Capacity C ≡ 1 possible with BPSK?"

From LNTwww
Line 70: Line 70:
 
===Musterlösung===
 
===Musterlösung===
 
{{ML-Kopf}}
 
{{ML-Kopf}}
'''1.'''
+
'''(1)'''&nbsp; Die differentielle Entropie einer Gleichverteilung der absoluten Breite 2<i>A</i> ist gleich
'''2.'''
+
$$ h(N) =  {\rm log}_2 \hspace{0.1cm} (2A)
'''3.'''
+
\hspace{0.3cm}\Rightarrow \hspace{0.3cm} A=1/8\hspace{-0.05cm}:
'''4.'''
+
\hspace{0.15cm}h(N) =  {\rm log}_2 \hspace{0.1cm} (1/4)
'''5.'''
+
\hspace{0.15cm}\underline{= -2\,{\rm bit(/Symbol)}}\hspace{0.05cm}.$$
'''6.'''
+
'''(2)'''&nbsp; Die Wahrscheinlichkeitsdichtefunktion am Ausgang ergibt sich entsprechend der Gleichung:
'''7.'''
+
[[File:P_ID2948__Inf_Z_4_9b.png|right|]]
 +
$$f_Y(y) = {1}/{2} \cdot \left [ f_{Y|{X}}(y|-1) + f_{Y|{X}}(y|+1) \right  ]\hspace{0.05cm}.$$
 +
Die Grafik zeigt das Ergebnis für unser Beispiel (<i>A</i> = 1/8):
 +
:* Rot gezeichnet ist der erste Term 1/2 &middot; <i>f<sub>Y|X</sub></i>(<i>y</i>|&ndash;1), wobei das Rechteck <i>f<sub>N</sub></i>(<i>n</i>) an die Stelle <i>Y</i>&nbsp;=&nbsp;&ndash;1 verschoben und mit 1/2 multipliziert wird. Es ergibt sich ein Rechteck der Breite 2<i>A</i> = 1/4 und der Höhe 1/(4<i>A</i>) = 2.     
 +
:* Blau dargestellt ist der zweite Term 1/2 &middot; <i>f<sub>Y|X</sub></i>(<i>y</i>|+1) mit der Mitte bei <i>Y</i> = +1.
 +
:* Lässt man die Farben außer Betracht, so ergibt sich die gesamte WDF <i>f<sub>Y</sub></i>(<i>y</i>).
 +
 
 +
Die differentiellen Entropie wird nicht verändert wird, wenn man nicht überlappende WDF–Abschnitte verschiebt. Somit ergibt sich für die gesuchte differentielle Sinkenentropie:
 +
$$h(Y) =  {\rm log}_2 \hspace{0.1cm} (4A)
 +
\hspace{0.3cm}\Rightarrow \hspace{0.3cm} A=1/8\hspace{-0.05cm}:
 +
\hspace{0.15cm}h(Y) =  {\rm log}_2 \hspace{0.1cm} (1/2)
 +
\hspace{0.15cm}\underline{= -1\,{\rm bit(/Symbol)}}\hspace{0.05cm}.$$
 +
'''(3)'''&nbsp; Damit erhält man für die Transinformation zwischen Quelle und Sinke:
 +
$$I(X; Y) = h(Y) \hspace{-0.05cm}-\hspace{-0.05cm} h(N) = (-1\,{\rm bit/Symbol})\hspace{-0.05cm} -\hspace{-0.05cm}(-2\,{\rm bit/Symbol})
 +
\hspace{0.15cm}\underline{= +1\,{\rm bit/Symbol}}\hspace{0.05cm}.$$
 +
'''(4)'''&nbsp; <u>Alle Lösungsvorschläge</u> sind zutreffend:
 +
:* Für jedes <i>A</i> &#8804; 1 gilt
 +
$$ h(Y)  =    {\rm log}_2 \hspace{0.1cm} (4A) = {\rm log}_2 \hspace{0.1cm} (2A) + {\rm log}_2 \hspace{0.1cm} (2)\hspace{0.05cm},$$
 +
$$h(N)  =    {\rm log}_2 \hspace{0.1cm} (2A)$$
 +
$$\Rightarrow \hspace{0.3cm} I(X; Y) = h(Y) \hspace{-0.05cm}- \hspace{-0.05cm}h(N) = {\rm log}_2 \hspace{0.1cm} (2)
 +
\hspace{0.15cm}\underline{= +1\,{\rm bit/Symbol}}\hspace{0.05cm}.$$
 +
:* An diesem Prinzip ändert sich auch bei anderer WDF <i>f<sub>N</sub></i>(<i>n</i>) nichts, solange die Störung auf den Bereich |<i>N</i>| &#8804; 1 begrenzt ist.
 +
:* Überlappen sich jedoch die beiden bedingten Wahrscheinlichkeitsdichtefunktionen, so ergibt sich für <i>h</i>(<i>Y</i>) ein kleinerer Wert als oben berechnet und damit auch eine kleinere Transinformation.
 +
[[File:P_ID2951__Inf_Z_4_9e.png|right|]]
 +
'''(5)'''&nbsp; Richtig ist der <u>Lösungsvorschlag 2</u>:
 +
:* Die Gaußfunktion klingt zwar sehr schnell ab, sie wird aber nie exakt gleich 0.
 +
:* Deshalb kommt es hier immer zu einer Überlappung der bedingten Wahrscheinlichkeitsdichtefunktionen <i>f<sub>Y|X</sub></i>(<i>y</i>|&ndash;1) und  <i>f<sub>Y|X</sub></i>(<i>y</i>|+1.)
 +
:* Entsprechend der Teilaufgabe (d) ist deshalb <i>C</i><sub>BPSK</sub>(<i>E</i><sub>B</sub>/<i>N</i><sub>0</sub>) &equiv; 1 bit/Symbol nicht möglich.
 +
 
 
{{ML-Fuß}}
 
{{ML-Fuß}}
  

Revision as of 00:30, 20 April 2017

P ID2947 Inf Z 4 9.png

Wir gehen hier von einem binären bipolaren Quellensignal ⇒ X = (+1, –1)</nobr> aus. Die Wahrscheinlichkeitsdichtefunktion (WDF) der Quelle lautet somit: $$f_X(x) = {1}/{2} \cdot \delta (x-1) + {1}/{2} \cdot \delta (x+1)\hspace{0.05cm}. $$ Die Transinformation zwischen der Quelle X und der Sinke Y kann gemäß der folgenden Gleichung berechnet werden: $$I(X;Y) = h(Y) - h(N)\hspace{0.05cm}, $$ wobei gilt:

  • h(Y) bezeichnet die differentille Sinkenentropie :

$$h(Y) = \hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}(f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} [ f_Y(y) ] \hspace{0.1cm}{\rm d}y \hspace{0.05cm},$$ $${\rm mit}\hspace{0.5cm} f_Y(y) = {1}/{2} \cdot \left [ f_{Y|{X}}(y|{X}=-1) + f_{Y|{X}}(y|{X}=+1) \right ]\hspace{0.05cm}.$$

  • h(N) gibt die differentielle Störentropie an, berechenbar aus der WDF $$f_N(n)$$

$$h(N) = \hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}(f_N)} \hspace{-0.35cm} f_N(n) \cdot {\rm log}_2 \hspace{0.1cm} [ f_N(n) ] \hspace{0.1cm}{\rm d}n \hspace{0.05cm}.$$ Nimmt man für die Störung N eine Gaußverteilung fN(n) entsprechend der oberen Skizze an, so ergibt sich die gewünschte Kanalkapazität CBPSK = I(X; Y), die im Theorieteil abhängig von 10 · lg (EB/N0) dargestellt ist.

Beantwortet werden soll in dieser Aufgabe die Frage, ob es einen endlichen EB/N0–Wert gibt, für den CBPSK(EB/N0) ≡ 1 bit/Kanalzugriff möglich ist  ⇒  Teilaufgabe (e).

In den Teilaufgaben (a), ... , (d) werden Vorarbeiten zur Beantwortung dieser Frage geleistet. Dabei wird stets von einer gleichverteilten Stör–WDF fN(n) ausgegangen (siehe untere Skizze): $$f_N(n) = \left\{ \begin{array}{c} 1/(2A) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.3cm} |n| < A, \\ {\rm{f\ddot{u}r}} \hspace{0.3cm} |n| > A. \\ \end{array} $$

Hinweis


Fragebogen

1

Wie groß ist die differentielle Entropie h(N) bei gleichverteilter Störung?

$Gleichverteilung, A = 1/8: h(N)$ =

2

Wie groß ist die differentielle Entropie der Sinke?

$Gleichverteilung, A = 1/8: h(Y)$ =

3

Wie groß ist die Transinformation zwischen Quelle und Sinke?

$I(X;Y))$ =

4

Unter welchen Bedingungen ändert sich am Ergebnis (c) nichts?

Für jedes A ≤ 1 bei der vorgegebenen Gleichverteilung.
Für jede andere WDF fN(n), wenn |N| ≤ 1 gilt.
Wenn sich fY|X(y|–1) und fY|X(y|+1) nicht überlappen.

5

Beantworten Sie nun die entscheidende Frage. Hinweis: Der Quotient EB/N0 wird als endlich vorausgesetzt.

CBPSK(EB/N0) ≡ 1 bit/Symbol ist mit Gauß–WDF möglich.
Bei endlichem EB/N0 gilt stets CBPSK(EB/N0) < 1 bit/Symbol.


Musterlösung

(1)  Die differentielle Entropie einer Gleichverteilung der absoluten Breite 2A ist gleich $$ h(N) = {\rm log}_2 \hspace{0.1cm} (2A) \hspace{0.3cm}\Rightarrow \hspace{0.3cm} A=1/8\hspace{-0.05cm}: \hspace{0.15cm}h(N) = {\rm log}_2 \hspace{0.1cm} (1/4) \hspace{0.15cm}\underline{= -2\,{\rm bit(/Symbol)}}\hspace{0.05cm}.$$ (2)  Die Wahrscheinlichkeitsdichtefunktion am Ausgang ergibt sich entsprechend der Gleichung:

P ID2948 Inf Z 4 9b.png

$$f_Y(y) = {1}/{2} \cdot \left [ f_{Y|{X}}(y|-1) + f_{Y|{X}}(y|+1) \right ]\hspace{0.05cm}.$$ Die Grafik zeigt das Ergebnis für unser Beispiel (A = 1/8):

  • Rot gezeichnet ist der erste Term 1/2 · fY|X(y|–1), wobei das Rechteck fN(n) an die Stelle Y = –1 verschoben und mit 1/2 multipliziert wird. Es ergibt sich ein Rechteck der Breite 2A = 1/4 und der Höhe 1/(4A) = 2.
  • Blau dargestellt ist der zweite Term 1/2 · fY|X(y|+1) mit der Mitte bei Y = +1.
  • Lässt man die Farben außer Betracht, so ergibt sich die gesamte WDF fY(y).

Die differentiellen Entropie wird nicht verändert wird, wenn man nicht überlappende WDF–Abschnitte verschiebt. Somit ergibt sich für die gesuchte differentielle Sinkenentropie: $$h(Y) = {\rm log}_2 \hspace{0.1cm} (4A) \hspace{0.3cm}\Rightarrow \hspace{0.3cm} A=1/8\hspace{-0.05cm}: \hspace{0.15cm}h(Y) = {\rm log}_2 \hspace{0.1cm} (1/2) \hspace{0.15cm}\underline{= -1\,{\rm bit(/Symbol)}}\hspace{0.05cm}.$$ (3)  Damit erhält man für die Transinformation zwischen Quelle und Sinke: $$I(X; Y) = h(Y) \hspace{-0.05cm}-\hspace{-0.05cm} h(N) = (-1\,{\rm bit/Symbol})\hspace{-0.05cm} -\hspace{-0.05cm}(-2\,{\rm bit/Symbol}) \hspace{0.15cm}\underline{= +1\,{\rm bit/Symbol}}\hspace{0.05cm}.$$ (4)  Alle Lösungsvorschläge sind zutreffend:

  • Für jedes A ≤ 1 gilt

$$ h(Y) = {\rm log}_2 \hspace{0.1cm} (4A) = {\rm log}_2 \hspace{0.1cm} (2A) + {\rm log}_2 \hspace{0.1cm} (2)\hspace{0.05cm},$$ $$h(N) = {\rm log}_2 \hspace{0.1cm} (2A)$$ $$\Rightarrow \hspace{0.3cm} I(X; Y) = h(Y) \hspace{-0.05cm}- \hspace{-0.05cm}h(N) = {\rm log}_2 \hspace{0.1cm} (2) \hspace{0.15cm}\underline{= +1\,{\rm bit/Symbol}}\hspace{0.05cm}.$$

  • An diesem Prinzip ändert sich auch bei anderer WDF fN(n) nichts, solange die Störung auf den Bereich |N| ≤ 1 begrenzt ist.
  • Überlappen sich jedoch die beiden bedingten Wahrscheinlichkeitsdichtefunktionen, so ergibt sich für h(Y) ein kleinerer Wert als oben berechnet und damit auch eine kleinere Transinformation.
P ID2951 Inf Z 4 9e.png

(5)  Richtig ist der Lösungsvorschlag 2:

  • Die Gaußfunktion klingt zwar sehr schnell ab, sie wird aber nie exakt gleich 0.
  • Deshalb kommt es hier immer zu einer Überlappung der bedingten Wahrscheinlichkeitsdichtefunktionen fY|X(y|–1) und fY|X(y|+1.)
  • Entsprechend der Teilaufgabe (d) ist deshalb CBPSK(EB/N0) ≡ 1 bit/Symbol nicht möglich.