Difference between revisions of "Aufgaben:Exercise 4.7Z: About the Water Filling Algorithm"

From LNTwww
Line 3: Line 3:
 
}}
 
}}
  
[[File:P_ID2903__Inf_T_4_2_S4d.png|right|]]
+
[[File:P_ID2903__Inf_T_4_2_S4d.png|right|frame|Water–Filling–Algorithmus mit <i>K</i> = 4]]
Wir betrachten <i>K</i> parallele Gaußsche Kanäle (AWGN) mit unterschiedlichen Störleistungen <i>&sigma;<sub>k</sub></i><sup>2</sup> (1 &#8804; <i>k</i> &#8804; <i>K</i>), wie in der nebenstehenden Grafik am Beispiel <i>K</i> = 4 verdeutlicht ist. Die Sendeleistung in den einzelnen Kanälen wird mit <i>P<sub>k</sub></i> bezeichnet, deren Summe den vorgegebenen Wert <i>P<sub>X</sub></i> nicht überschreiten darf:
+
Wir betrachten $K$ parallele Gaußsche Kanäle (AWGN) mit unterschiedlichen Störleistungen $\sigma_k^2$, wobei  $1 \le k \le K$ gelten soll. Die Grafik verdeutlicht diese Konstellation am Beispiel $K = 4$.  
$$P_1 + ... \hspace{0.05cm}+ P_K = \hspace{0.1cm} \sum_{k= 1}^K  
+
 
 +
Die Sendeleistung in den einzelnen Kanälen wird mit $P_k$ bezeichnet, deren Summe den vorgegebenen Wert $P_X$ nicht überschreiten darf:
 +
:$$P_1 +\text{...}\hspace{0.05cm}+ P_K = \hspace{0.1cm} \sum_{k= 1}^K  
 
  \hspace{0.1cm}{\rm E} \left [ X_k^2\right ] \le P_{X} \hspace{0.05cm}.$$
 
  \hspace{0.1cm}{\rm E} \left [ X_k^2\right ] \le P_{X} \hspace{0.05cm}.$$
Sind die Zufallsgrößen <i>X</i><sub>1</sub>, ..., <i>X<sub>k</sub></i> gaußisch, so kann für die (gesamte) Transinformation zwischen dem Eingang <i>X</i> und dem Ausgang <i>Y</i> geschrieben werden:
+
Sind die Zufallsgrößen $X_1$, \text{...} , $X_K$ gaußisch, so kann für die (gesamte) Transinformation zwischen dem Eingang $X$ und dem Ausgang $Y$ geschrieben werden:
$$I(X_1, ... \hspace{0.05cm}, X_K\hspace{0.05cm};\hspace{0.05cm}Y_1, ... \hspace{0.05cm}, Y_K)  
+
:$$I(X_1,\text{...} \hspace{0.05cm}, X_K\hspace{0.05cm};\hspace{0.05cm}Y_1, \text{...}\hspace{0.05cm}, Y_K)  
 
=  1/2 \cdot \sum_{k= 1}^K  \hspace{0.1cm} {\rm log}_2 \hspace{0.1cm} ( 1 + \frac{P_k}{\sigma_k^2})\hspace{0.05cm},\hspace{0.5cm}
 
=  1/2 \cdot \sum_{k= 1}^K  \hspace{0.1cm} {\rm log}_2 \hspace{0.1cm} ( 1 + \frac{P_k}{\sigma_k^2})\hspace{0.05cm},\hspace{0.5cm}
 
{\rm Ergebnis\hspace{0.15cm} in \hspace{0.15cm} bit}
 
{\rm Ergebnis\hspace{0.15cm} in \hspace{0.15cm} bit}
 
\hspace{0.05cm}.$$
 
\hspace{0.05cm}.$$
Das Maximum hierfür ist die Kanalkapazität des Gesamtsystems, wobei sich die Maximierung auf die Aufteilung der Gesamtleistung <i>P<sub>X</sub></i> auf die einzelnen Kanäle bezieht.
 
$$C_K(P_X) = \max_{P_k\hspace{0.05cm},\hspace{0.15cm}{\rm mit} \hspace{0.15cm}P_1 + ... \hspace{0.05cm}+ P_K = P_X} \hspace{-0.5cm} I(X_1, ... \hspace{0.05cm}, X_K\hspace{0.05cm};\hspace{0.05cm}Y_1, ... \hspace{0.05cm}, Y_K) \hspace{0.05cm}.$$
 
Diese Maximierung kann mit dem Water&ndash;Filling&ndash;Algorithmus geschehen, der in obiger Grafik für <i>K</i> = 4 dargestellt ist. Eine genaue Beschreibung finden Sie im [http://en.lntwww.de/Informationstheorie/AWGN–Kanalkapazität_bei_wertkontinuierlichem_Eingang#Parallele_Gau.C3.9Fsche_Kan.C3.A4le '''Theorieteil''']
 
In der vorliegenden Aufgabe soll dieser Algorithmus angewendet werden, wobei von folgenden Voraussetzungen auszugehen ist:
 
:* Zwei parallele Gaußkanäle &nbsp;&#8658;&nbsp; <i>K</i> = 2,
 
:* Normierte Störleistungen <i>&sigma;</i><sub>1</sub><sup>2</sup> = 1 und <i>&sigma;</i><sub>2</sub><sup>2</sup> = 4, 
 
:*Normierte Sendeleistungen <i>P<sub>X</sub></i> = 10 bzw. <i>P<sub>X</sub></i> = 3.
 
  
<b>Hinweis:</b> Die Aufgabe bezieht sich auf das Themengebiet von [http://en.lntwww.de/Informationstheorie/AWGN–Kanalkapazität_bei_wertkontinuierlichem_Eingang '''Kapitel 4.2.''']
+
Das Maximum hierfür ist die Kanalkapazität des Gesamtsystems, wobei sich die Maximierung auf die Aufteilung der Gesamtleistung $P_X$ auf die einzelnen Kanäle bezieht:
 +
:$$C_K(P_X) = \max_{P_k\hspace{0.05cm},\hspace{0.15cm}{\rm mit} \hspace{0.15cm}P_1 + ... \hspace{0.05cm}+ P_K = P_X} \hspace{-0.5cm} I(X_1, \text{...} \hspace{0.05cm}, X_K\hspace{0.05cm};\hspace{0.05cm}Y_1, \text{...}\hspace{0.05cm}, Y_K) \hspace{0.05cm}.$$
 +
 
 +
Diese Maximierung kann mit dem Water&ndash;Filling&ndash;Algorithmus geschehen, der in obiger Grafik für $K = 4$ dargestellt ist. In der vorliegenden Aufgabe soll dieser Algorithmus angewendet werden, wobei von folgenden Voraussetzungen auszugehen ist:
 +
* Zwei parallele Gaußkanäle &nbsp; &#8658; &nbsp; $K = 2$,
 +
* Normierte Störleistungen $\sigma_1^2 = 1$ und $\sigma_2^2 = 4$, 
 +
*Normierte Sendeleistungen $P_X = 10$ bzw. $P_X = 3$.
 +
 
 +
 
 +
''Hinweise:''
 +
*Die Aufgabe gehört zum  Kapitel [[Informationstheorie/AWGN–Kanalkapazität_bei_wertkontinuierlichem_Eingang|AWGN–Kanalkapazität bei wertkontinuierlichem Eingang]].
 +
*Bezug genommen wird insbesondere auf die Seite [[Informationstheorie/AWGN–Kanalkapazität_bei_wertkontinuierlichem_Eingang#Parallele_Gau.C3.9Fsche_Kan.C3.A4le|Parallele Gaußkanäle]].
 +
*Da die Ergebnisse in &bdquo;bit&rdquo; angegeben werden sollen, wird in den Gleichungen  &bdquo;log&rdquo; &nbsp;&#8658;&nbsp; &bdquo;log<sub>2</sub>&rdquo; verwendet.
 +
*Sollte die Eingabe des Zahlenwertes &bdquo;0&rdquo; erforderlich sein, so geben Sie bitte &bdquo;0.&rdquo; ein.
 +
 
  
 
===Fragebogen===
 
===Fragebogen===
Line 67: Line 76:
 
\hspace{0.05cm}.$$
 
\hspace{0.05cm}.$$
  
[[File:P_ID2906__Inf_Z_4_7b_neu.png|right|]]
+
[[File:P_ID2906__Inf_Z_4_7b_neu.png|right|frame|Leistungsaufteilung für <i>P<sub>X</sub></i> = 10]]
 
'''3.'''  Entsprechend nebenstehender Skizze muss gelten:
 
'''3.'''  Entsprechend nebenstehender Skizze muss gelten:
  
Line 92: Line 101:
 
\hspace{0.05cm}.$$
 
\hspace{0.05cm}.$$
  
[[File:P_ID2907__Inf_Z_4_7e_neu.png|right|]]
+
[[File:P_ID2907__Inf_Z_4_7e_neu.png|right|frame|Leistungsaufteilung für <i>P<sub>X</sub></i> = 3]]
 
Entsprechend dem Water&ndash;Filling&ndash;Algorithmus wird die gesamte zur Verfügung stehende Sendeleistung <i>P<sub>X</sub></i> = 3 nun dem ersten Kanal zugewiesen:
 
Entsprechend dem Water&ndash;Filling&ndash;Algorithmus wird die gesamte zur Verfügung stehende Sendeleistung <i>P<sub>X</sub></i> = 3 nun dem ersten Kanal zugewiesen:
 
$${P_1 = 3}\hspace{0.05cm},
 
$${P_1 = 3}\hspace{0.05cm},

Revision as of 15:23, 12 June 2017

Water–Filling–Algorithmus mit K = 4

Wir betrachten $K$ parallele Gaußsche Kanäle (AWGN) mit unterschiedlichen Störleistungen $\sigma_k^2$, wobei $1 \le k \le K$ gelten soll. Die Grafik verdeutlicht diese Konstellation am Beispiel $K = 4$.

Die Sendeleistung in den einzelnen Kanälen wird mit $P_k$ bezeichnet, deren Summe den vorgegebenen Wert $P_X$ nicht überschreiten darf:

$$P_1 +\text{...}\hspace{0.05cm}+ P_K = \hspace{0.1cm} \sum_{k= 1}^K \hspace{0.1cm}{\rm E} \left [ X_k^2\right ] \le P_{X} \hspace{0.05cm}.$$

Sind die Zufallsgrößen $X_1$, \text{...} , $X_K$ gaußisch, so kann für die (gesamte) Transinformation zwischen dem Eingang $X$ und dem Ausgang $Y$ geschrieben werden:

$$I(X_1,\text{...} \hspace{0.05cm}, X_K\hspace{0.05cm};\hspace{0.05cm}Y_1, \text{...}\hspace{0.05cm}, Y_K) = 1/2 \cdot \sum_{k= 1}^K \hspace{0.1cm} {\rm log}_2 \hspace{0.1cm} ( 1 + \frac{P_k}{\sigma_k^2})\hspace{0.05cm},\hspace{0.5cm} {\rm Ergebnis\hspace{0.15cm} in \hspace{0.15cm} bit} \hspace{0.05cm}.$$

Das Maximum hierfür ist die Kanalkapazität des Gesamtsystems, wobei sich die Maximierung auf die Aufteilung der Gesamtleistung $P_X$ auf die einzelnen Kanäle bezieht:

$$C_K(P_X) = \max_{P_k\hspace{0.05cm},\hspace{0.15cm}{\rm mit} \hspace{0.15cm}P_1 + ... \hspace{0.05cm}+ P_K = P_X} \hspace{-0.5cm} I(X_1, \text{...} \hspace{0.05cm}, X_K\hspace{0.05cm};\hspace{0.05cm}Y_1, \text{...}\hspace{0.05cm}, Y_K) \hspace{0.05cm}.$$

Diese Maximierung kann mit dem Water–Filling–Algorithmus geschehen, der in obiger Grafik für $K = 4$ dargestellt ist. In der vorliegenden Aufgabe soll dieser Algorithmus angewendet werden, wobei von folgenden Voraussetzungen auszugehen ist:

  • Zwei parallele Gaußkanäle   ⇒   $K = 2$,
  • Normierte Störleistungen $\sigma_1^2 = 1$ und $\sigma_2^2 = 4$,
  • Normierte Sendeleistungen $P_X = 10$ bzw. $P_X = 3$.


Hinweise:


Fragebogen

1

Welche Strategien der Leistungszuteilung sind sinnvoll?

Einem stark gestörten Kanal k (mit großer Störleistung σk2) sollte eine große Nutzleistung Pk zugewiesen werden.
Einem stark gestörten Kanal k (mit großer Störleistung σk2) sollte nur eine kleine Nutzleistung Pk zugewiesen werden.
Bei K gleich guten Kanälen  ⇒  σ12 = ... = σK2 = σN2 sollte die Leistung gleichmäßig verteilt werden.

2

Welche Transinformation I = I(X1, X2; Y1, Y2) ergibt sich, wenn man die Sendeleistung PX = 10 gleichmäßig auf beide Kanäle verteilt?

$P1 = P2 = 5: I$ =

3

Es gelte weiter PX = 10. Welche optimale Leistungsaufteilung ergibt sich nach dem Water–Filling–Algorithmus?

$PX = 10: P1$ =

$P1 = P2 = 5: I$ =

4

Wie groß ist die Kanalkapazität für K = 2 und PX = 10?

$C2(PX = 10)$ =

5

Welche Ergebnisse erhält man mit K = 2 und PX = 3?

$P1 = P2 = 1.5: I$ =

$C2(PX = 3)$ =


Musterlösung

1. Nach den Ausführungen im im Theorieteil ist die Strategie „Water–Filling”  ⇒  Vorschlag 2 anzuwenden, wenn ungleiche Bedingungen vorliegen. Lösungsvorschlag 3 ist aber ebenfalls richtig: Bei gleich guten Kanälen spricht nichts dagegen, alle K Kanäle mit der gleichen Leistung P1 = ... = PK = PX/K zu versorgen.

2. Für die Transinformation gilt bei gleicher Leistungsaufteilung: $$I = I(X_1, X_2\hspace{0.05cm};\hspace{0.05cm}Y_1, Y_2) \ = \ \frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{5}{1} \right ) +\frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{5}{4} \right )=\\$$$$\hspace{-0.15cm} 1.292\,{\rm bit}+ 0.585\,{\rm bit} \hspace{0.15cm}\underline{= 1.877\,{\rm bit}} \hspace{0.05cm}.$$

Leistungsaufteilung für PX = 10

3. Entsprechend nebenstehender Skizze muss gelten:

$$P_2 \hspace{-0.15cm} = \hspace{-0.15cm} P_1 - (\sigma_2^2 - \sigma_1^2) = P_1 -3\hspace{0.05cm},$$$$P_1 + P_2 \hspace{-0.15cm} = \hspace{-0.15cm} P_X = 10$$ $$\Rightarrow \hspace{0.3cm} P_1 + (P_1 -3) = 10 \hspace{0.3cm}\Rightarrow \hspace{0.3cm} 2 \cdot P_1 = 13$$ $$\Rightarrow \hspace{0.3cm} \underline{P_1 = 6.5}\hspace{0.05cm}, \hspace{0.3cm}\underline{P_2 = 3.5}\hspace{0.05cm}.$$ 4. Die Kanalkapazität gibt die maximale Transinformation an. Das Maximum liegt durch die bestmögliche Leistungsaufteilung gemäß der Teilaufgabe (c) bereits fest. Es gilt PX = 10: $$C_2\hspace{-0.15cm} = \hspace{-0.15cm} \frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{6.5}{1} \right ) +\frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{3.5}{4} \right )=\\ = \hspace{-0.15cm} 1.453\,{\rm bit}+ 0.453\,{\rm bit} \hspace{0.15cm}\underline{= 1.906\,{\rm bit}} \hspace{0.05cm}$$.

5. Für PX = 3 erhält man bei gleicher Leistungsaufteilung (P1 = P2 = 1.5): $$I = I(X_1, X_2\hspace{0.05cm};\hspace{0.05cm}Y_1, Y_2) \hspace{-0.15cm} = \hspace{-0.15cm} \frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{1.5}{1} \right ) +\frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{1.5}{4} \right )=\\ = \hspace{-0.15cm} 0661\,{\rm bit}+ 0.230\,{\rm bit} \hspace{0.15cm}\underline{= 0.891\,{\rm bit}} \hspace{0.05cm}.$$

Leistungsaufteilung für PX = 3

Entsprechend dem Water–Filling–Algorithmus wird die gesamte zur Verfügung stehende Sendeleistung PX = 3 nun dem ersten Kanal zugewiesen: $${P_1 = 3}\hspace{0.05cm}, \hspace{0.3cm}{P_2 = 0}\hspace{0.05cm}.$$

Damit erhält man für die Kanalkapazität: $$C_2 \hspace{-0.15cm} = \hspace{-0.15cm} \frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{3}{1} \right ) +\frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{0}{4} \right )=\\ = \hspace{-0.15cm} 1\,{\rm bit}+ 0\,{\rm bit} \hspace{0.15cm}\underline{= 1\,{\rm bit}} \hspace{0.05cm}.$$ Während für PX = 10 die Differenz zwischen gleichmäßiger und bester Leistungsaufteilung nur 0.03 bit betragen hat, ist bei PX = 3 die Differenz größer, nämlich 0.109 bit. Bei noch größerem PX > 10 wird der Abstand zwischen gleichmäßiger und bestmöglicher Leistungsaufteilung noch geringer: Zum Beispiel beträgt die Differenz für PX = 100 nur noch 0.001 bit:

  • P1 = P2 = 50:

$$I = I(X_1, X_2\hspace{0.05cm};\hspace{0.05cm}Y_1, Y_2) \hspace{-0.15cm} = \hspace{-0.15cm} \frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{50}{1} \right ) +\frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{50}{4} \right )=\\ = \hspace{-0.15cm} 2.836\,{\rm bit}+ 1.877\,{\rm bit} \hspace{0.15cm}\underline{= 4.713\,{\rm bit}} \hspace{0.05cm}.$$

  • P1 = 51.5, P2 = 48.5:

$$C_2\hspace{-0.15cm} = \hspace{-0.15cm} \frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{51.5}{1} \right ) +\frac{1}{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{48.5}{4} \right )=\\ = \hspace{-0.15cm} 2.857\,{\rm bit}+ 1.857\,{\rm bit} \hspace{0.15cm}\underline{= 4.714\,{\rm bit}} \hspace{0.05cm}.$$