Loading [MathJax]/jax/output/HTML-CSS/fonts/TeX/fontdata.js

Difference between revisions of "Aufgaben:Exercise 3.2Z: Two-dimensional Probability Mass Function"

From LNTwww
m (Text replacement - "Category:Aufgaben zu Informationstheorie" to "Category:Information Theory: Exercises")
 
(6 intermediate revisions by 2 users not shown)
Line 1: Line 1:
  
{{quiz-Header|Buchseite=Informationstheorie/Einige Vorbemerkungen zu zweidimensionalen Zufallsgrößen
+
{{quiz-Header|Buchseite=Information_Theory/Some_Preliminary_Remarks_on_Two-Dimensional_Random_Variables
 
}}
 
}}
  
[[File:P_ID2752__Inf_Z_3_2_neu.png|right|frame|Wahrscheinlichkeitsfunktion der 2D–Zufallsgröße  XY]]
+
[[File:P_ID2752__Inf_Z_3_2_neu.png|right|frame|PMF of the two-dimensional  random variable  XY]]
Wir betrachten die Zufallsgrößen  X={0, 1, 2, 3}  und  Y={0, 1, 2}, deren gemeinsame Wahrscheinlichkeitsfunktion  PXY(X, Y)  gegeben ist.  
+
We consider the random variables  X={0, 1, 2, 3}  and  Y={0, 1, 2}, whose joint probability mass function  PXY(X, Y)  is given.
*Aus dieser 2D–Wahrscheinlichkeitsfunktion sollen die eindimensionalen Wahrscheinlichkeitsfunktionen  PX(X)  und  PY(Y)  ermittelt werden.
+
*From this two-dimensional  probability mass function  (PMF),  the one-dimensional probability mass functions  PX(X)  and  PY(Y)  are to be determined.
*Man nennt eine solche 1D–Wahrscheinlichkeitsfunktion manchmal auch Randwahrscheinlichkeit  (englisch:  ''Marginal Probability'').
+
*Such a one-dimensional probability mass function is sometimes also called  "marginal probability".
  
  
Gilt   PXY(X, Y)=PX(X)PY(Y), so sind die beiden Zufallsgrößen  X  und  Y  statistisch unabhängig.  Andernfalls bestehen zwischen diesen statistische Bindungen.
+
If  PXY(X, Y)=PX(X)PY(Y), the two random variables  X  and  Y  are statistically independent.  Otherwise, there are statistical dependencies between them.
  
Im zweiten Teil der Aufgabe betrachten wir die Zufallsgrößen  U={0, 1}  und  V={0, 1}, die sich aus  X  und  Y  durch Modulo–2–Operationen ergeben:
+
In the second part of the task we consider the random variables  U={0, 1}  and  V={0, 1},  which result from  X  and  Y  by modulo-2 operations:
  
 
:U=Xmod2,V=Ymod2.
 
:U=Xmod2,V=Ymod2.
Line 22: Line 22:
  
  
''Hinweise:''
+
<u>Hints:</u>
*Die Aufgabe gehört zum  Kapitel&nbsp; [[Information_Theory/Einige_Vorbemerkungen_zu_zweidimensionalen_Zufallsgrößen|Einige Vorbemerkungen zu den 2D-Zufallsgrößen]].
+
*The exercise belongs to the chapter&nbsp; [[Information_Theory/Einige_Vorbemerkungen_zu_zweidimensionalen_Zufallsgrößen|Some preliminary remarks on two-dimensional random variables]].
*Ausgegangen wird hier von der gleichen Konstellation wie in&nbsp; [[Aufgaben:Aufgabe_3.2:_Erwartungswertberechnungen|Aufgabe 3.2]].
+
*The same constellation is assumed here as in&nbsp; [[Aufgaben:Aufgabe_3.2:_Erwartungswertberechnungen|Exercise 3.2]].
*Dort wurde die Zufallsgrößen&nbsp;  Y={0, 1, 2, 3}&nbsp;  betrachtet, allerdings mit dem Zusatz&nbsp; Pr(Y=3)=0.  
+
*There the random variables&nbsp;  Y={0, 1, 2, 3}&nbsp;  were considered, but with the addition&nbsp; Pr(Y=3)=0.  
*Die so erzwungene Eigenschaft&nbsp; |X|=|Y|&nbsp;   war in der vorherigen Aufgabe zur formalen Berechnung des Erwartungswertes&nbsp; E[PX(X)]&nbsp; von Vorteil.
+
*The property&nbsp; |X|=|Y|&nbsp; forced in this way was advantageous in the previous task for the formal calculation of the expected value.
 
   
 
   
  
  
===Fragebogen===
+
===Questions===
  
 
<quiz display=simple>
 
<quiz display=simple>
  
{Wie lautet die Wahrscheinlichkeitsfunktion&nbsp; PX(X)?
+
{What is the probability mass function&nbsp; PX(X)?
 
|type="{}"}
 
|type="{}"}
 
PX(0) =  { 0.5 3% }
 
PX(0) =  { 0.5 3% }
Line 41: Line 41:
 
PX(3) = { 0.375 3% }
 
PX(3) = { 0.375 3% }
  
{Wie lautet die Wahrscheinlichkeitsfunktion&nbsp; PY(Y)?
+
{What is the probability mass function&nbsp; PY(Y)?
 
|type="{}"}
 
|type="{}"}
 
PY(0) =  { 0.5 3% }
 
PY(0) =  { 0.5 3% }
Line 47: Line 47:
 
PY(2) =  { 0.25 3% }
 
PY(2) =  { 0.25 3% }
  
{Sind die Zufallsgrößen&nbsp; X&nbsp; und&nbsp; Y&nbsp; statistisch unabhängig?
+
{Are the random variables&nbsp; X&nbsp; and&nbsp; Y&nbsp; statistically independent?
 +
 
 
|type="()"}
 
|type="()"}
- Ja,
+
- Yes,
+ Nein.
+
+ No.
  
  
{Ermitteln Sie die Wahrscheinlichkeiten&nbsp; PUV(U, V).
+
{Determine the probabilities&nbsp; PUV(U, V).
 
|type="{}"}
 
|type="{}"}
 
PUV(U=0, V=0) =  { 0.375 3% }
 
PUV(U=0, V=0) =  { 0.375 3% }
Line 60: Line 61:
 
PUV(U=1, V=1) =  { 0.125 3% }
 
PUV(U=1, V=1) =  { 0.125 3% }
  
{Sind die Zufallsgrößen&nbsp; U&nbsp; und&nbsp; V&nbsp; statistisch unabhängig?
+
{Are the random variables&nbsp; U&nbsp; and&nbsp; V&nbsp; statistically independent?
 
|type="()"}
 
|type="()"}
+ Ja,
+
+ Yes,
- Nein.
+
- No.
  
  
Line 69: Line 70:
 
</quiz>
 
</quiz>
  
===Musterlösung===
+
===Solution===
 
{{ML-Kopf}}
 
{{ML-Kopf}}
'''(1)'''&nbsp; Man kommt von&nbsp;  PXY(X, Y)&nbsp; zur 1D–Wahrscheinlichkeitsfunktion&nbsp; PX(X), indem man alle&nbsp; Y-Wahrscheinlichkeiten aufsummiert:
+
'''(1)'''&nbsp; You get from&nbsp;  PXY(X, Y)&nbsp; to the one-dimensional probability mass function&nbsp; PX(X) by summing up all&nbsp; Y probabilities:
 
:PX(X=xμ)=yYPXY(xμ,y).
 
:PX(X=xμ)=yYPXY(xμ,y).
*Man erhält somit folgende Zahlenwerte:
+
*One thus obtains the following numerical values:
 
:PX(X=0)=1/4+1/8+1/8=1/2=0.500_,
 
:PX(X=0)=1/4+1/8+1/8=1/2=0.500_,
 
:PX(X=1)=0+0+1/8=1/8=0.125_,
 
:PX(X=1)=0+0+1/8=1/8=0.125_,
Line 81: Line 82:
  
  
'''(2)'''&nbsp; Analog zur Teilaufgabe&nbsp; '''(1)'''&nbsp; gilt nun:  
+
'''(2)'''&nbsp; Analogous to sub-task &nbsp; '''(1)'''&nbsp;, the following now holds:
 
:PY(Y=yκ)=xXPXY(x,yκ)
 
:PY(Y=yκ)=xXPXY(x,yκ)
 
:PY(Y=0)=1/4+0+0+1/4=1/2=0.500_,
 
:PY(Y=0)=1/4+0+0+1/4=1/2=0.500_,
Line 89: Line 90:
  
  
'''(3)'''&nbsp; Bei statistischer Unabhängigkeit sollte&nbsp;  PXY(X,Y)=PX(X)PY(Y)&nbsp; sein.  
+
'''(3)'''&nbsp; With statistical independence,&nbsp;  PXY(X,Y)=PX(X)PY(Y)&nbsp; should be.
*Dies trifft hier nicht zu: &nbsp; &nbsp;  Antwort &nbsp; <u>'''Nein'''</u>.
+
*This does not apply here: &nbsp; &nbsp;  answer &nbsp; <u>'''NO'''</u>.
  
  
  
'''(4)'''&nbsp; Ausgehend von  der linken Tabelle &nbsp; &rArr; &nbsp;  PXY(X,Y)&nbsp; kommt man zur mittlere Tabelle &nbsp; &rArr; &nbsp; PUY(U,Y), <br>indem man gewisse Wahrscheinlichkeiten entsprechend&nbsp; U=Xmod2&nbsp; zusammenfasst.  
+
'''(4)'''&nbsp; Starting from the left-hand table &nbsp; &rArr; &nbsp;  PXY(X,Y),&nbsp; we arrive at the middle table &nbsp; &rArr; &nbsp; PUY(U,Y), <br>by combining certain probabilities according to&nbsp; U=Xmod2.  
  
[[File:P_ID2753__Inf_Z_3_2d_neu.png|right|frame|Verschiedene Wahrscheinlichkeitsfunktionen]]
+
If one also takes into account&nbsp; V=Ymod2, one obtains the probabilities sought according to the right-hand table:
 +
[[File:P_ID2753__Inf_Z_3_2d_neu.png|right|frame|Different probability functions]]
  
Berücksichtigt man noch&nbsp; V=Ymod2, so erhält man die gesuchten Wahrscheinlichkeiten entsprechend der rechten Tabelle:
 
 
:PUV(U=0,V=0)=3/8=0.375_,
 
:PUV(U=0,V=0)=3/8=0.375_,
 
:PUV(U=0,V=1)=3/8=0.375_,
 
:PUV(U=0,V=1)=3/8=0.375_,
Line 106: Line 107:
  
  
'''(5)'''&nbsp; Richtig ist die Antwort &nbsp; <u>'''Ja'''</u>:
+
'''(5)'''&nbsp; The correct answer is &nbsp; <u>'''YES'''</u>:
*Die zugehörigen 1D–Wahrscheinlichkeitsfunktionen lauten: &nbsp;  
+
*The corresponding one-dimensional probability mass functions are:   &nbsp;  
 
:PU(U)=[1/2, 1/2],
 
:PU(U)=[1/2, 1/2],
 
:PV(V)=[3/4, 1/4].   
 
:PV(V)=[3/4, 1/4].   
*Damit gilt:&nbsp; PUV(U,V)=PU(U)PV(V)  &nbsp; &rArr;  &nbsp;  U&nbsp; und&nbsp; V&nbsp; sind statistisch unabhängig.
+
*Thus:&nbsp; PUV(U,V)=PU(U)PV(V)  &nbsp; &rArr;  &nbsp;  U&nbsp; and&nbsp; V&nbsp; are statistically independent.  
  
  
Line 124: Line 125:
  
  
[[Category:Information Theory: Exercises|^3.1 Allgemeines zu 2D-Zufallsgrößen^]]
+
[[Category:Information Theory: Exercises|^3.1 General Information on 2D Random Variables^]]

Latest revision as of 10:12, 24 September 2021

PMF of the two-dimensional random variable  XY

We consider the random variables  X={0, 1, 2, 3}  and  Y={0, 1, 2}, whose joint probability mass function  PXY(X, Y)  is given.

  • From this two-dimensional probability mass function  (PMF),  the one-dimensional probability mass functions  PX(X)  and  PY(Y)  are to be determined.
  • Such a one-dimensional probability mass function is sometimes also called  "marginal probability".


If  PXY(X, Y)=PX(X)PY(Y), the two random variables  X  and  Y  are statistically independent.  Otherwise, there are statistical dependencies between them.

In the second part of the task we consider the random variables  U={0, 1}  and  V={0, 1},  which result from  X  and  Y  by modulo-2 operations:

U=Xmod2,V=Ymod2.





Hints:

  • The exercise belongs to the chapter  Some preliminary remarks on two-dimensional random variables.
  • The same constellation is assumed here as in  Exercise 3.2.
  • There the random variables  Y={0, 1, 2, 3}  were considered, but with the addition  Pr(Y=3)=0.
  • The property  |X|=|Y|  forced in this way was advantageous in the previous task for the formal calculation of the expected value.


Questions

1

What is the probability mass function  PX(X)?

PX(0) = 

PX(1) = 

PX(2) = 

PX(3) = 

2

What is the probability mass function  PY(Y)?

PY(0) = 

PY(1) = 

PY(2) = 

3

Are the random variables  X  and  Y  statistically independent?

Yes,
No.

4

Determine the probabilities  PUV(U, V).

PUV(U=0, V=0) = 

PUV(U=0, V=1) = 

PUV(U=1, V=0) = 

PUV(U=1, V=1) = 

5

Are the random variables  U  and  V  statistically independent?

Yes,
No.


Solution

(1)  You get from  PXY(X, Y)  to the one-dimensional probability mass function  PX(X) by summing up all  Y probabilities:

PX(X=xμ)=yYPXY(xμ,y).
  • One thus obtains the following numerical values:
PX(X=0)=1/4+1/8+1/8=1/2=0.500_,
PX(X=1)=0+0+1/8=1/8=0.125_,
PX(X=2)=0+0+0=0_
PX(X=3)=1/4+1/8+0=3/8=0.375_PX(X)=[1/2, 1/8, 0, 3/8].


(2)  Analogous to sub-task   (1) , the following now holds:

PY(Y=yκ)=xXPXY(x,yκ)
PY(Y=0)=1/4+0+0+1/4=1/2=0.500_,
PY(Y=1)=1/8+0+0+1/8=1/4=0.250_,
PY(Y=2)=1/8+1/8+0+0=1/4=0.250_PY(Y=0)=[1/2, 1/4, 1/4].


(3)  With statistical independence,  PXY(X,Y)=PX(X)PY(Y)  should be.

  • This does not apply here:     answer   NO.


(4)  Starting from the left-hand table   ⇒   PXY(X,Y),  we arrive at the middle table   ⇒   PUY(U,Y),
by combining certain probabilities according to  U=Xmod2.

If one also takes into account  V=Ymod2, one obtains the probabilities sought according to the right-hand table:

Different probability functions
PUV(U=0,V=0)=3/8=0.375_,
PUV(U=0,V=1)=3/8=0.375_,
PUV(U=1,V=0)=1/8=0.125_,
PUV(U=1,V=1)=1/8=0.125_.


(5)  The correct answer is   YES:

  • The corresponding one-dimensional probability mass functions are:  
PU(U)=[1/2, 1/2],
PV(V)=[3/4, 1/4].
  • Thus:  PUV(U,V)=PU(U)PV(V)   ⇒   U  and  V  are statistically independent.