Exercise 3.8Z: Tuples from Ternary Random Variables

From LNTwww
Revision as of 17:56, 26 November 2016 by Safwen (talk | contribs)

P ID2771 Inf Z 3 7.png

Wir betrachten das Tupel $Z = (X, Y)$, wobei die Einzelkomponenten $X$ und $Y$ jeweils ternäre Zufallsgrößen darstellen $\Rightarrow$ Symbolumfang $|X| = |Y| = 3$. Die gemeinsame Wahrscheinlichkeitsfunktion $P_{ XY }(X, Y)$ ist rechts angegeben.

In dieser Aufgabe sind zu berechnen:

  • die Verbundentropie $H(XY)$ und die Transinformation $I(X; Y)$,
  • die Verbundentropie $H(XZ)$ und die Transinformation $I(X; Z)$,
  • die bedingten Entropien $H(Z|X)$ und $H(X|Z)$.

Hinweis: Die Aufgabe bezieht sich auf das Themengebiet von Kapitel 3.2.


Fragebogen

Berechnen Sie die folgenden Entropien.

$ H(X)$ =


Musterlösung

1. 2. 3. 4. 5. 6. 7.