Exercise 4.5: Irrelevance Theorem
Untersucht werden soll das durch die Grafik vorgegebene Kommunikationssystem. Die binäre Nachricht $m ∈ \{m_0, m_1\}$ mit gleichen Auftrittswahrscheinlichkeiten
- $${\rm Pr} (m_0 ) = {\rm Pr} (m_1 ) = 0.5$$
wird durch die beiden Signale
- $$s_0 = \sqrt{E_s} \hspace{0.05cm},\hspace{0.2cm}s_1 = -\sqrt{E_s}$$
dargestellt, wobei die Zuordnungen $m_0 ⇔ s_0$ und $m_1 ⇔ s_1$ eineindeutig sind.
Der Detektor (im Bild grün hinterlegt) liefert zwei Entscheidungswerte
- $$r_1 \hspace{-0.1cm} \ = \ \hspace{-0.1cm} s + n_1\hspace{0.05cm},$$
- $$r_2 \hspace{-0.1cm} \ = \ \hspace{-0.1cm} n_1 + n_2\hspace{0.05cm},$$
aus denen der Entscheider die Schätzwerte $\mu ∈ \{m_0, m_1\}$ für die gesendete Nachricht $m$ bildet. Der Entscheider beinhaltet
- zwei Gewichtungsfaktoren $K_1$ und $K_2$,
- eine Summationsstelle, und
- einen Schwellenwertentscheider mit der Schwelle bei $0$.
Betrachtet werden in dieser Aufgabe drei Auswertungen:
- Entscheidung basierend auf $r_1$ ($K_1 ≠ 0, K_2 = 0$),
- Entscheidung basierend auf $r_2$ ($K_1 = 0, K_2 ≠ 0$),
- gemeinsame Auswertung von $r_1$ und $r_2$ $(K_1 ≠ 0, K_2 ≠ 0)$.
Die zwei Rauschquellen $n_1$ und $n_2$ seien voneinander unabhängig und auch unabhängig vom Sendesignal $s ∈ \{s_0, s_1\}$.
$n_1$ und $n_2$ können jeweils durch AWGN–Rauschquellen $($weiß, gaußverteilt, mittelwertfrei, Varianz $\sigma^2 = N_0/2)$ modelliert werden. Verwenden Sie für numerische Berechnungen die Werte
- $$E_s = 8 \cdot 10^{-6}\,{\rm Ws}\hspace{0.05cm},\hspace{0.2cm}N_0 = 10^{-6}\,{\rm W/Hz} \hspace{0.05cm}.$$
Die komplementäre Gaußsche Fehlerfunktion liefert folgende Ergebnisse:
- $${\rm Q}(0) \hspace{-0.1cm} \ = \ \hspace{-0.1cm} 0.5\hspace{0.05cm},\hspace{1.35cm}{\rm Q}(2^{0.5}) = 0.786 \cdot 10^{-1}\hspace{0.05cm},\hspace{1.1cm}{\rm Q}(2) = 0.227 \cdot 10^{-1}\hspace{0.05cm},$$
- $${\rm Q}(2 \cdot 2^{0.5}) \hspace{-0.1cm} \ = \ \hspace{-0.1cm} 0.234 \cdot 10^{-2}\hspace{0.05cm},\hspace{0.2cm}{\rm Q}(4) = 0.317 \cdot 10^{-4} \hspace{0.05cm},\hspace{0.2cm}{\rm Q}(4 \cdot 2^{0.5}) = 0.771 \cdot 10^{-8}\hspace{0.05cm}.$$
Hinweise:
- Die Aufgabe gehört zum Kapitel Struktur des optimalen Empfängers dieses Buches.
- Insbesondere wird hier auf das Theorem der Irrelevanz Bezug genommen, daneben aber auch auf den Optimalen Empfänger für den AWGN–Kanal.
- Weitere Informationen zu den für diese Aufgabe relevanten Themen finden Sie unter folgenden Links:
- Für die Fehlerwahrscheinlichkeit eines Systems $r = s + n$ (wegen $N = 1$ sind hier $s, n, r$ Skalare) gilt
- $$p_{\rm S} = {\rm Pr} ({\rm Symbolfehler} ) = {\rm Q} \left ( \sqrt{{2 E_s}/{N_0}}\right ) \hspace{0.05cm},$$
- wobei ein binäres Nachrichtensignal $s ∈ \{s_0, s_1\}$ mit
- $$s_0 = \sqrt{E_s} \hspace{0.05cm},\hspace{0.2cm}s_1 = -\sqrt{E_s}$$
- vorausgesetzt wird und die zweiseitige Rauschleistungsdichte der Größe $n$ konstant gleich $\sigma^2 = N_0/2$ ist.
Fragebogen
Musterlösung
- Im Allgemeinen führt der MAP–Empfänger zu einer kleineren Fehlerwahrscheinlichkeit.
- Sind aber die Auftrittswahrscheinlichkeiten ${\rm Pr}(m = m_0) = {\rm Pr}(m = m_1) = 0.5$ gleich, so liefern beide Empfänger das gleiche Ergebnis.
(2) Mit $K_2 = 0$ und $K_1 = 1$ ergibt sich
- $$r = r_1 = s + n_1\hspace{0.05cm}.$$
Bei bipolarem (antipodischem) Sendesignal und AWGN–Rauschen ist die Fehlerwahrscheinlichkeit des optimalen Empfängers (egal, ob als Korrelations– oder Matched–Filter–Empfänger realisiert) gleich
- $$p_{\rm S} = {\rm Pr} ({\rm Symbolfehler} ) = {\rm Q} \left ( \sqrt{ E_s /{\sigma}}\right ) = {\rm Q} \left ( \sqrt{2 E_s /N_0}\right ) \hspace{0.05cm}.$$
Mit $E_s = 8 \cdot 10^{\rm –6} \ \rm Ws$ und $N_0 = 10^{\rm –6} \ \rm W/Hz$ erhält man weiter:
- $$p_{\rm S} = {\rm Pr} ({\rm Symbolfehler} ) = {\rm Q} \left ( \sqrt{\frac{2 \cdot 8 \cdot 10^{-6}\,{\rm Ws}}{10^{-6}\,{\rm W/Hz} }}\right ) = {\rm Q} (4) \hspace{0.05cm}\hspace{0.15cm}\underline {= 0.00317 \%}\hspace{0.05cm}.$$
Dieses Ergebnis ist unabhängig von $K_1$, da durch eine Verstärkung oder Dämpfung die Nutzleistung in gleicher Weise verändert wird wie die Rauschleistung.
(3) Mit $K_1 = 0$ und $K_2 = 1$ gilt für die Entscheidungsgröße:
- $$r = r_2 = n_1 + n_2\hspace{0.05cm}.$$
Diese beinhaltet keine Informationen über das Nutzsignal, sondern nur Rauschen, und es gilt unabhängig von $K_2$:
- $$p_{\rm S} = {\rm Pr} ({\rm Symbolfehler} ) = {\rm Q} (0) \hspace{0.15cm}\underline {= 50\%} \hspace{0.05cm}.$$
(4) Die Entscheidungsregel des optimalen Empfängers (egal, ob als MAP oder als ML realisiert) lautet wegen ${\rm Pr}(m = m_0) = {\rm Pr}(m = m_1)$:
- $$\hat{m} \hspace{-0.1cm} \ = \ \hspace{-0.1cm} {\rm arg} \max_i \hspace{0.1cm} [ p_{m \hspace{0.05cm}|\hspace{0.05cm}r_1, \hspace{0.05cm}r_2 } \hspace{0.05cm} (m_i \hspace{0.05cm}|\hspace{0.05cm}\rho_1, \hspace{0.05cm}\rho_2 ) ] = {\rm arg} \max_i \hspace{0.1cm} [ p_{r_1, \hspace{0.05cm}r_2 \hspace{0.05cm}|\hspace{0.05cm} m} \hspace{0.05cm} ( \rho_1, \hspace{0.05cm}\rho_2 \hspace{0.05cm}|\hspace{0.05cm} m_i ) \cdot {\rm Pr} (m = m_i)] = {\rm arg} \max_i \hspace{0.1cm} [ p_{r_1, \hspace{0.05cm}r_2 \hspace{0.05cm}|\hspace{0.05cm} s} \hspace{0.05cm} ( \rho_1, \hspace{0.05cm}\rho_2 \hspace{0.05cm}|\hspace{0.05cm} s_i ) ] \hspace{0.05cm}.$$
Diese Verbundwahrscheinlichkeitsdichte kann wie folgt umgeschrieben werden:
- $$\hat{m} ={\rm arg} \max_i \hspace{0.1cm} [ p_{r_1 \hspace{0.05cm}|\hspace{0.05cm} s} \hspace{0.05cm} ( \rho_1 \hspace{0.05cm}|\hspace{0.05cm} s_i ) \cdot p_{r_2 \hspace{0.05cm}|\hspace{0.05cm} r_1, \hspace{0.05cm}s} \hspace{0.05cm} ( \rho_2 \hspace{0.05cm}|\hspace{0.05cm} \rho_1, \hspace{0.05cm}s_i ) ] \hspace{0.05cm}.$$
Da nun auch der zweite Multiplikand von der Nachricht ($s_i$) abhängt, sollte $r_2$ auf jeden Fall in den Entscheidungsprozess eingebunden werden. Richtig ist also: JA.
(5) Bei AWGN–Rauschen mit der Varianz $\sigma^2$ ergeben sich für die beiden in (4) eingeführten Verbunddichten und deren Produkt $P$:
- $$p_{r_1\hspace{0.05cm}|\hspace{0.05cm} s}(\rho_1\hspace{0.05cm}|\hspace{0.05cm}s_i) \hspace{-0.1cm} \ = \ \hspace{-0.1cm} \frac{1}{\sqrt{2\pi} \cdot \sigma}\cdot {\rm exp} \left [ - \frac{(\rho_1 - s_i)^2}{2 \sigma^2}\right ]\hspace{0.05cm},\hspace{1cm} p_{r_2\hspace{0.05cm}|\hspace{0.05cm}r_1,\hspace{0.05cm} s}(\rho_2\hspace{0.05cm}|\hspace{0.05cm}\rho_1, \hspace{0.05cm}s_i) \hspace{-0.1cm} \ = \ \hspace{-0.1cm} \frac{1}{\sqrt{2\pi} \cdot \sigma}\cdot {\rm exp} \left [ - \frac{(\rho_2 - (\rho_1 - s_i))^2}{2 \sigma^2}\right ]\hspace{0.05cm}$$
- $$ \Rightarrow \hspace{0.3cm} P \hspace{-0.1cm} \ = \ \hspace{-0.1cm} \frac{1}{{2\pi} \cdot \sigma^2}\cdot {\rm exp} \left [ - \frac{1}{2 \sigma^2} \cdot \left \{ (\rho_1 - s_i)^2 + (\rho_2 - (\rho_1 - s_i))^2\right \}\right ]\hspace{0.05cm}.$$
Gesucht wird dasjenige Argument, das dieses Produkt $P$ maximiert, was gleichzeitig bedeutet, dass der Ausdruck in den geschweiften Klammern den kleinstmöglichen Wert annehmen soll:
- $$\mu = \hat{m} \hspace{-0.1cm} \ = \ \hspace{-0.1cm}{\rm arg} \max_i \hspace{0.1cm} P = {\rm arg} \min _i \hspace{0.1cm} \left \{ (\rho_1 - s_i)^2 + (\rho_2 - (\rho_1 - s_i))^2\right \} $$
- $$\Rightarrow \hspace{0.3cm} \mu = \hat{m} \hspace{-0.1cm} \ = \ \hspace{-0.1cm}{\rm arg} \min _i \hspace{0.1cm}\left \{ \rho_1^2 - 2\rho_1 s_i + s_i^2 + \rho_2^2 - 2\rho_1 \rho_2 + 2\rho_2 s_i+ \rho_1^2 - 2\rho_1 s_i + s_i^2\right \} \hspace{0.05cm}.$$
Dabei bezeichnet $\mu$ den Schätzwert der Nachricht. Bei dieser Minimierung kann nun auf alle Terme verzichtet werden, die nicht von der Nachricht $s_i$ abhängen. Ebenso unberücksichtigt bleiben die Terme $s_i^2$, da $s_0^2 = s_1^2$ gilt. Somit erhält man die deutlich einfachere Entscheidungsregel:
- $$\mu = {\rm arg} \min _i \hspace{0.1cm}\left \{ - 4\rho_1 s_i + 2\rho_2 s_i \right \}={\rm arg} \min _i \hspace{0.1cm}\left \{ (\rho_2 - 2\rho_1) \cdot s_i \right \} \hspace{0.05cm}.$$
Richtig ist also schon mal der Lösungsvorschlag 2. Aber nach Multiplikation mit $–1/2$ erhält man auch die zuletzt genannte Entscheidungsregel:
- $$\mu = {\rm arg} \max_i \hspace{0.1cm}\left \{ (\rho_1 - \rho_2/2) \cdot s_i \right \} \hspace{0.05cm}.$$
Richtig sind somit die Lösungsvorschläge 2 und 3.
(6) Setzt man $K_1 = 1$ und $\underline {K_2 = \, -0.5}$, so lautet die optimale Entscheidungsregel mit der Realisierung $\rho = \rho_1 \, – \rho_2/2$:
- $$\mu = \left\{ \begin{array}{c} m_0 \\ m_1 \end{array} \right.\quad \begin{array}{*{1}c} {\rm f{\rm \ddot{u}r}} \hspace{0.15cm} \rho > 0 \hspace{0.05cm}, \\ {\rm f{\rm \ddot{u}r}} \hspace{0.15cm} \rho < 0 \hspace{0.05cm}.\\ \end{array}$$
Da $\rho = 0$ nur mit der Wahrscheinlichkeit $0$ auftritt, ist es im Sinne der Wahrscheinlichkeitsrechnung egal, ob man diesem Ereignis „$\rho = 0$” die Nachricht $\mu = m_0$ oder $\mu = m_1$ zuordnet.
(7) Mit $K_2 = \, -0.5$ erhält man für den Eingangswert des Entscheiders:
- $$r = r_1 - r_2/2 = s + n_1 - (n_1 + n_2)/2 = s + n \hspace{0.3cm} \Rightarrow \hspace{0.3cm} n = \frac{n_1 - n_2}{2}\hspace{0.05cm}.$$
Die Varianz dieser Zufallsgröße ist
- $$\sigma_n^2 = {1}/{4} \cdot \left [ \sigma^2 + \sigma^2 \right ] = {\sigma^2}/{2}= {N_0}/{4}\hspace{0.05cm}.$$
Daraus ergibt sich für die Fehlerwahrscheinlichkeit analog zur Teilaufgabe (2):
- $${\rm Pr} ({\rm Symbolfehler} ) = {\rm Q} \left ( \sqrt{\frac{E_s}{N_0/4}}\right ) = {\rm Q} \left ( 4 \cdot \sqrt{2}\right ) = {1}/{2} \cdot {\rm erfc}(4) \hspace{0.05cm}\hspace{0.15cm}\underline {= 0.771 \cdot 10^{-8}} \hspace{0.05cm}.$$
- Durch Berücksichtigung von $r_2$ lässt sich also die Fehlerwahrscheinlichkeit von $0.317 \cdot 10^{\rm –4}$ auf den deutlich kleineren Wert $0.771 \cdot 10^{-8}$ absenken, obwohl die Entscheidungskomponente $r_2$ nur Rauschen beinhaltet. Dieses Rauschen $r_2$ erlaubt aber eine Schätzung der Rauschkomponente $n_1$ von $r_1$.
- Halbiert man die Sendeenergie von $8 \cdot 10^{\rm –6} \ \rm Ws$ auf $4 \cdot 10^{\rm –6} \ \rm Ws$, so ergibt sich hier immer noch die Fehlerwahrscheinlichkeit $0.317 \cdot 10^{\rm –4}$, wie in der Teilaufgabe (2) berechnet. Bei alleiniger Auswertung von $r_1$ würde die Fehlerwahrscheinlichkeit dagegen $0.234 \cdot 10^{\rm –2}$ betragen.
