Exercise 3.8Z: Tuples from Ternary Random Variables

• Return to book

Wir betrachten das Tupel $Z = (X, Y)$, wobei die Einzelkomponenten $X$ und $Y$ jeweils ternäre Zufallsgrößen darstellen $\Rightarrow$ Symbolumfang $|X| = |Y| = 3$. Die gemeinsame Wahrscheinlichkeitsfunktion $P_{ XY }(X, Y)$ ist rechts angegeben.

In dieser Aufgabe sind zu berechnen:

• die Verbundentropie $H(XY)$ und die Transinformation $I(X; Y)$,
• die Verbundentropie $H(XZ)$ und die Transinformation $I(X; Z)$,
• die bedingten Entropien $H(Z|X)$ und $H(X|Z)$.

Hinweis: Die Aufgabe bezieht sich auf das Themengebiet von Kapitel 3.2.

Fragebogen

1

Berechnen Sie die folgenden Entropien.

$H(X)$ = $bit$

$H(Y)$ = $bit$

$ H(XY)$ = $bit$

2

Welche Transinformationen besteht zwischen den Zufallsgrößen $X$ und $Y$?

$I(X; Y)$ = $bit$

3

Welche Transinformationen besteht zwischen den Zufallsgrößen $X$ und $Z$?

$I(X; Z)$ = $bit$

4

Welche bedingten Entropien bestehen zwischen $X$ und $Z$?

$H(Z|X)$ = $bit$

$ H(X|Z)$ = $bit$

Musterlösung

Solution

1. 2. 3. 4. 5. 6. 7.