Difference between revisions of "Theory of Stochastic Signals/Exponentially Distributed Random Variables"

From LNTwww
Line 55: Line 55:
  
 
==Erzeugung einer exponentialverteilten Zufallsgröße==
 
==Erzeugung einer exponentialverteilten Zufallsgröße==
Es wird nun vorausgesetzt, dass die zu transformierende Zufallsgröße $u$ gleichverteilt zwischen $0$ (inklusive) und $1$ (exklusive) ist. Dazu betrachten wir monoton steigende Kennlinie  
+
Es wird nun vorausgesetzt, dass die zu transformierende Zufallsgröße $u$ gleichverteilt zwischen $0$ (inklusive) und $1$ (exklusive) ist. Dazu betrachten wir die monoton steigende Kennlinie  
 
$$x=g_1(u) =\frac{1}{\lambda}\cdot \rm ln(\frac{1}{1-\it u}).$$
 
$$x=g_1(u) =\frac{1}{\lambda}\cdot \rm ln(\frac{1}{1-\it u}).$$
  
Line 71: Line 71:
 
*Verwendet man die zweite Transformationskennlinie $x=g_2(u)$, so muss der Wert $u =0$ ausgeschlossen werden.  
 
*Verwendet man die zweite Transformationskennlinie $x=g_2(u)$, so muss der Wert $u =0$ ausgeschlossen werden.  
  
Zur Verdeutlichung der hier abgeleiteten Transformation bieten wir Ihnen ein Lernvideo an:
+
Das Lernvideo [[Erzeugung einer Exponentialverteilung]] soll die hier abgeleiteten Transformation vVerdeutlichen.
Erzeugung einer Exponentialverteilung
 
 
 
In einem engen Zusammenhang mit der Exponentialverteilung steht die sogenannte [https://de.wikipedia.org/wiki/Pierre-Simon_Laplace Laplace] - Verteilung mit der Wahrscheinlichkeitsdichtefunktion
 
$$f_{\rm x}(x)=\frac{\lambda}{2}\cdot\rm e^{\it -\lambda \hspace{0.05cm} \cdot \hspace{0.05cm} | x|}.$$
 
 
 
Diese ist eine ''zweiseitige Exponentialverteilung,'' die insbesondere die Amplitudenverteilung von Sprach- und Musiksignalen ausreichend gut approximiert. Zur Generierung verwendet man eine zwischen ±1 gleichverteilte Zufallsgröße $υ$ (0 ausgeschlossen) und die Transformationskennlinie
 
$$x=\frac{{\rm sign}(v)}{\lambda}\cdot \rm ln(\it v \rm ).$$
 
 
 
Mit dem folgenden Berechnungstool können Sie sich unter Anderem die Kenngrößen (WDF, VTF, Momente) der Exponential- und der Laplaceverteilung anzeigen lassen:
 
WDF, VTF und Momente spezieller Verteilungen 
 
 
 
Im zweiten Teil des unten aufgeführten Lernvideos wird an Beispielen gezeigt, dass die Laplace-Verteilung für die Beschreibung von Sprach- und Musiksignalen eine große Bedeutung besitzt:
 
Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion  (Dauer 6:30)
 
  
 
==Herleitung der zugehörigen Transformationskennlinie==
 
==Herleitung der zugehörigen Transformationskennlinie==
 
  
 
Es soll eine geeignete Transformationskennlinie $x = g(u)$ ermittelt werden, die aus einer zwischen 0 und 1 gleichverteilten Zufallsgröße $u$ eine einseitig exponentialverteilte Zufallsgröße $x$ formt:  
 
Es soll eine geeignete Transformationskennlinie $x = g(u)$ ermittelt werden, die aus einer zwischen 0 und 1 gleichverteilten Zufallsgröße $u$ eine einseitig exponentialverteilte Zufallsgröße $x$ formt:  
Line 108: Line 94:
  
 
q.e.d.
 
q.e.d.
 +
 +
==Zweiseitige Exponentialverteilung – Laplaceverteilung==
 +
In einem engen Zusammenhang mit der Exponentialverteilung steht die sogenannte [https://de.wikipedia.org/wiki/Pierre-Simon_Laplace Laplace] - Verteilung mit der Wahrscheinlichkeitsdichtefunktion
 +
$$f_{\rm x}(x)=\frac{\lambda}{2}\cdot\rm e^{\it -\lambda \hspace{0.05cm} \cdot \hspace{0.05cm} | x|}.$$
 +
 +
Diese ist eine ''zweiseitige Exponentialverteilung,'' die insbesondere die Amplitudenverteilung von Sprach- und Musiksignalen ausreichend gut approximiert. Zur Generierung verwendet man eine zwischen ±1 gleichverteilte Zufallsgröße $υ$ (0 ausgeschlossen) und die Transformationskennlinie
 +
$$x=\frac{{\rm sign}(v)}{\lambda}\cdot \rm ln(\it v \rm ).$$
 +
 +
Mit dem folgenden Berechnungstool können Sie sich unter Anderem die Kenngrößen (WDF, VTF, Momente) der Exponential- und der Laplaceverteilung anzeigen lassen:
 +
WDF, VTF und Momente spezieller Verteilungen 
 +
 +
Im zweiten Teil des unten aufgeführten Lernvideos wird an Beispielen gezeigt, dass die Laplace-Verteilung für die Beschreibung von Sprach- und Musiksignalen eine große Bedeutung besitzt:
 +
Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion  (Dauer 6:30)
  
 
==Aufgaben zum Kapitel==
 
==Aufgaben zum Kapitel==

Revision as of 14:15, 14 March 2017

Einseitige Exponentialverteilung

Eine kontinuierliche Zufallsgröße $x$ nennt man (einseitig) exponentialverteilt, wenn sie nur nicht-negative Werte annehmen kann und die WDF für $x>0$ den folgenden Verlauf hat: $$f_x(x)=\it \lambda\cdot\rm e^{\it -\lambda \hspace{0.05cm}\cdot \hspace{0.03cm} x}.$$


WDF und VTF einer exponentialverteilten Zufallsgröße

Das linke Bild zeigt die Wahrscheinlichkeitsdichtefunktion (WDF) einer exponentialverteilten Zufallsgröße $x$. Hervorzuheben ist:

  • Je größer der Verteilungsparameter $λ$ ist, um so steiler erfolgt der Abfall.
  • Definitionsgemäß gilt $f_{x}(0) = λ/2$, also der Mittelwert aus linksseitigem Grenzwert $(0)$ und rechtsseitigem Grenzwert $(\lambda)$.


Für die Verteilungsfunktion (rechtes Bild) erhält man für $r > 0$ durch Integration über die WDF: $$F_{x}(r)=1-\rm e^{\it -\lambda\hspace{0.05cm}\cdot \hspace{0.03cm} r}.$$

Die Momente der einseitigen Exponentialverteilung sind allgemein gleich $m_k = k!/λ^k.$ Daraus und aus dem Satz von Steiner ergibt sich für den Mittelwert und die Streuung: $$m_1={1}/{\lambda},$$ $$\sigma=\sqrt{m_2-m_1^2}=\sqrt{\frac{2}{\lambda^2}-\frac{1}{\lambda^2}}={1}/{\lambda}.$$

Die Exponentialverteilung hat große Bedeutung für Zuverlässigkeitsuntersuchungen, wobei in diesem Zusammenhang auch der Begriff „Lebensdauerverteilung” üblich ist.

  • Bei diesen Anwendungen ist die Zufallsgröße oft die Zeit $t$, die bis zum Ausfall einer Komponente vergeht.
  • Desweiteren ist anzumerken, dass die Exponentialverteilung eng mit der Poissonverteilung in Zusammenhang steht.

Transformation von Zufallsgrößen

Zur Erzeugung einer solchen exponentialverteilten Zufallsgröße an einem Digitalrechner kann zum Beispiel eine nichtlineare Transformation verwendet werden. Das zugrunde liegende Prinzip wird hier zunächst allgemein angegeben.

Besitzt eine kontinuierliche Zufallsgröße $u$ die WDF $f_{u}(u)$, so gilt für die Wahrscheinlichkeitsdichtefunktion der an der nichtlinearen Kennlinie $x = g(u)$ transformierten Zufallsgröße $x$: $$f_{x}(x)=\frac{f_u(u)}{\mid g'(u)\mid}\Bigg |_{\hspace{0.1cm} u=h(x)}.$$

Hierbei bezeichnet $g'(u)$ die Ableitung der Kennlinie und $h(x)$ gibt die Umkehrfunktion zu $g(u)$ an.

  • Diese Gleichung gilt allerdings nur unter der Voraussetzung, dass die Ableitung $g'(u) \ne 0$ ist.
  • Bei einer Kennlinie mit horizontalen Abschnitten $(g'(u) = 0$) treten in der WDF zusätzliche Diracfunktionen auf, wenn die Eingangsgröße in diesem Bereich Anteile besitzt.
  • Die Gewichte dieser Diracfunktionen sind gleich den Wahrscheinlichkeiten, dass die Eingangsgröße in diesen Bereichen liegt.


rechts Gibt man eine zwischen $–2$ und $+2$ dreieckverteilte Zufallsgröße $u$ auf eine Nichtlinerität mit der Kennlinie $x = g(u)$, die im Bereich $|u| ≤ 1$ die Eingangswerte um den Faktor $3$ verstärkt und alle Werte $|u| > 1$ je nach Vorzeichen auf $x ±3$ abbildet, so ergibt sich die rechts skizzierte WDF $f_{x}(x)$. Bitte beachten Sie:

  • Aufgrund der Verstärkung um den Faktor 3 ist die WDF $f_{x}(x)$ um diesen Faktor breiter und niedriger als $f_{u}(u).$
  • Die horizontalen Begrenzungen der Kennlinie bei $u = ±1$ führen zu den beiden Diracfunktionen bei $x = ±3$, jeweils mit Gewicht $1/8$   ⇒   grüne Flächen in der WDF $f_{u}(u).$


Erzeugung einer exponentialverteilten Zufallsgröße

Es wird nun vorausgesetzt, dass die zu transformierende Zufallsgröße $u$ gleichverteilt zwischen $0$ (inklusive) und $1$ (exklusive) ist. Dazu betrachten wir die monoton steigende Kennlinie $$x=g_1(u) =\frac{1}{\lambda}\cdot \rm ln(\frac{1}{1-\it u}).$$

Es kann gezeigt werden, dass durch diese Kennlinie $x=g_1(u)$ eine einseitig exponentialverteilte Zufallsgröße $x$ mit folgender WDF entsteht: $$f_{\rm x}(x)=\lambda\cdot\rm e^{\it -\lambda x}\hspace{0.2cm}{\rm f\ddot{u}r}\hspace{0.2cm} {\it x}>0.$$

  • Für $x = 0$ ist der WDF-Wert nur halb so groß $(\lambda/2)$.
  • Negative $x$-Werte treten nicht auf, da für $0 ≤ u < 1$ das Argument der (natürlichen) Logarithmus–Funktion nicht kleiner wird als $1$.


Die gleiche WDF erhält man übrigens mit der monoton fallenden Kennlinie $$x=g_2(u)=\frac{1}{\lambda}\cdot \rm ln(\frac{1}{\it u})=-\frac{1}{\lambda}\cdot \rm ln(\it u \rm ).$$

Bitte beachten Sie:

  • Bei einer Rechnerimplementierung entsprechend der ersten Transformationskennlinie $x=g_1(u)$ ist der Wert $u =$ 1 auszuschließen.
  • Verwendet man die zweite Transformationskennlinie $x=g_2(u)$, so muss der Wert $u =0$ ausgeschlossen werden.

Das Lernvideo Erzeugung einer Exponentialverteilung soll die hier abgeleiteten Transformation vVerdeutlichen.

Herleitung der zugehörigen Transformationskennlinie

Es soll eine geeignete Transformationskennlinie $x = g(u)$ ermittelt werden, die aus einer zwischen 0 und 1 gleichverteilten Zufallsgröße $u$ eine einseitig exponentialverteilte Zufallsgröße $x$ formt: $$f_{\rm u}(u)= \left\{ \begin{array}{*{2}{c}} 1 & \rm falls\hspace{0.3cm} 0 < {\it u} < 1,\\ 0.5 & \rm falls\hspace{0.3cm} {\it u} = 0, {\it u} = 1,\\ 0 & \rm sonst, \\ \end{array} \right.$$ $$ f_{\rm x}(x)= \left\{ \begin{array}{*{2}{c}} \lambda\cdot\rm e^{\it -\lambda x} & \rm falls\hspace{0.3cm} {\it x} > 1,\\ \lambda/2 & \rm falls\hspace{0.3cm} {\it x} = 0 ,\\ 0 & \rm falls\hspace{0.3cm} {\it x} < 1. \\ \end{array} \right.$$

Ausgehend von der allgemeinen Transformationsgleichung $$f_{\rm x}(x)=\frac{f_{\rm u}(u)}{\mid g'(u) \mid }\Bigg |_{\hspace{0.1cm} u=h(x)}$$ erhält man durch Umstellen und Einsetzen der gegebenen WDF $f_{\rm x}(x):$ $$\mid g'(u)\mid\hspace{0.1cm}=\frac{f_{\rm u}(u)}{f_{\rm x}(x)}\Bigg |_{\hspace{0.1cm} x=g(u)}= {1}/{\lambda} \cdot {\rm e}^{\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}g(u)}.$$ Hierbei gibt $x = g'(u)$ die Ableitung der Kennlinie an, die wir als monoton steigend voraussetzen. Mit dieser Annahme erhält man $|g'(u)| = g'(u) = dx/du$ und die Differentialgleichung $${\rm d}u = \lambda\ \cdot {\rm e}^{-\lambda x}\, {\rm d}x$$ mit der Lösung $$u = K - {\rm e}^{-\lambda x}.$$ Aus der Bedingung, dass die Eingangsgröße $u =$ 0 zum Ausgangswert $x =$ 0 führen soll, erhält man für die Konstante $K =$ 1 und damit $$u = 1- {\rm e}^{-\lambda x}.$$ Löst man diese Gleichung nach $x$ auf, so ergibt sich die vorne angegebene Gleichung: $$x = \frac{1}{\lambda} \cdot {\rm ln} \left(\frac{1}{1 - u} \right) .$$ Bei einer Rechnerimplementierung ist allerdings sicherzustellen, dass für die gleichverteilte Eingangsgröße $u$ der kritische Wert 1 ausgeschlossen wird. Dies wirkt sich jedoch auf das Endergebnis nicht aus.

q.e.d.

Zweiseitige Exponentialverteilung – Laplaceverteilung

In einem engen Zusammenhang mit der Exponentialverteilung steht die sogenannte Laplace - Verteilung mit der Wahrscheinlichkeitsdichtefunktion $$f_{\rm x}(x)=\frac{\lambda}{2}\cdot\rm e^{\it -\lambda \hspace{0.05cm} \cdot \hspace{0.05cm} | x|}.$$

Diese ist eine zweiseitige Exponentialverteilung, die insbesondere die Amplitudenverteilung von Sprach- und Musiksignalen ausreichend gut approximiert. Zur Generierung verwendet man eine zwischen ±1 gleichverteilte Zufallsgröße $υ$ (0 ausgeschlossen) und die Transformationskennlinie $$x=\frac{{\rm sign}(v)}{\lambda}\cdot \rm ln(\it v \rm ).$$

Mit dem folgenden Berechnungstool können Sie sich unter Anderem die Kenngrößen (WDF, VTF, Momente) der Exponential- und der Laplaceverteilung anzeigen lassen: WDF, VTF und Momente spezieller Verteilungen

Im zweiten Teil des unten aufgeführten Lernvideos wird an Beispielen gezeigt, dass die Laplace-Verteilung für die Beschreibung von Sprach- und Musiksignalen eine große Bedeutung besitzt: Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion (Dauer 6:30)

Aufgaben zum Kapitel

Aufgabe 3.6:   Verrauschtes Gleichsignal

Zusatzaufgabe 3.6Z:   Prüfungskorrektur

Aufgabe 3.7:   Bitfehlerquote (BER)

Zusatzaufgabe 3.7Z:   Error Performance