Approximation of the Error Probability

1 Optimale Entscheidung bei binärer Übertragung (1)
2 Optimale Entscheidung bei binärer Übertragung (2)
3 Gleichwahrscheinliche Binärsymbole – Fehlerwahrscheinlichkeit (1)
4 Gleichwahrscheinliche Binärsymbole – Fehlerwahrscheinlichkeit (2)
5 Gleichwahrscheinliche Binärsymbole – Fehlerwahrscheinlichkeit (3)
6 Nicht gleichwahrscheinliche Binärsymbole – Schwellenoptimierung (1)
7 Nicht gleichwahrscheinliche Binärsymbole – Schwellenoptimierung (2)
8 Entscheidungsregionen im nichtbinären Fall (M > 2)
9 Fehlerwahrscheinlichkeitsberechnung im nichtbinären Fall (1)
10 Fehlerwahrscheinlichkeitsberechnung im nichtbinären Fall (2)
11 Union Bound - Obere Schranke für die Fehlerwahrscheinlichkeit (1)
12 Union Bound - Obere Schranke für die Fehlerwahrscheinlichkeit (2)
13 Union Bound - Obere Schranke für die Fehlerwahrscheinlichkeit (3)

Optimale Entscheidung bei binärer Übertragung (1)

Wir gehen hier von einem Übertragungssystem aus, das wie folgt charakterisiert werden kann: r = s + n:

Der das Übertragungssystem vollständig beschreibende Vektorraum wird von N = 2 zueinander orthogonalen Basisfunktionen φ₁(t) und φ₂(t) aufgespannt.

Demzufolge ist auch die Wahrscheinlichkeitsdichtefunktion des additiven und weißen Gaußschen Rauschens zweidimensional anzusetzen, gekennzeichnet durch den Vektor n = (n₁, n₂).

Es gibt nur zwei mögliche Sendesignale (M = 2), die durch die beiden Vektoren s₀ = (s₀₁, s₀₂) und s₁ = (s₁₁, s₁₂) beschrieben werden:

\[s_0(t) \hspace{-0.1cm} = \hspace{-0.1cm} s_{01} \cdot \varphi_1(t) + s_{02} \cdot \varphi_2(t) \hspace{0.05cm},\]

\[s_1(t) \hspace{-0.1cm} = \hspace{-0.1cm} s_{11} \cdot \varphi_1(t) + s_{12} \cdot \varphi_2(t) \hspace{0.05cm}.\]

Die beiden Nachrichten m₀ ⇔ s₀ und m₁ ⇔ s₁ sind nicht notwendigermaßen gleichwahrscheinlich.

Aufgabe des Entscheiders ist es nun, für den gegebenen Empfangsvektor r einen Schätzwert nach der MAP–Entscheidungsregel anzugeben. Diese lautet im vorliegenden Fall:

\[\hat{m} = {\rm arg} \max_i \hspace{0.1cm} [ {\rm Pr}( m_i) \cdot p_{\boldsymbol{ r} \hspace{0.05cm}|\hspace{0.05cm}m } (\boldsymbol{ \rho } |m_i ) ] \hspace{0.15cm} \in \hspace{0.15cm}\{ m_i\}\hspace{0.3cm}{\rm mit}\hspace{0.3cm} \boldsymbol{ r } = \boldsymbol{ \rho } = (\rho_1, \rho_2) \hspace{0.05cm}.\]

Im hier betrachteten Sonderfall N = 2 und M = 2 partitioniert der Entscheider den zweidimensionalen Raum in die zwei disjunkten Gebiete I₀ und I₁, wie in der nachfolgenden Grafik verdeutlicht. Liegt der Empfangswert in I₀, so wird als Schätzwert m₀ ausgegeben, andernfalls m₁.

Die Herleitung und Bildbeschreibung folgt auf der nächsten Seite.

Optimale Entscheidung bei binärer Übertragung (2)

Beim AWGN–Kanal und M = 2 lautet somit die Entscheidungsregel: Man entscheide sich immer dann für die Nachricht m₀, falls folgende Bedingung erfüllt ist:

\[{\rm Pr}( m_0) \cdot {\rm exp} \left [ - \frac{1}{2 \sigma_n^2} \cdot || \boldsymbol{ \rho } - \boldsymbol{ s }_0 ||^2 \right ] > {\rm Pr}( m_1) \cdot {\rm exp} \left [ - \frac{1}{2 \sigma_n^2} \cdot || \boldsymbol{ \rho } - \boldsymbol{ s }_1 ||^2 \right ] \hspace{0.05cm}.\]

Die Grenzlinie zwischen den beiden Entscheidungsregionen I₀ und I₁ erhält man, wenn man in obiger Gleichung das Größerzeichen durch das Gleichheitszeichen ersetzt und die Gleichung etwas umformt:

\[|| \boldsymbol{ \rho } - \boldsymbol{ s }_0 ||^2 - 2 \sigma_n^2 \cdot {\rm ln} \hspace{0.15cm}[{\rm Pr}( m_0)] = || \boldsymbol{ \rho } - \boldsymbol{ s }_1 ||^2 - 2 \sigma_n^2 \cdot {\rm ln} \hspace{0.15cm}[{\rm Pr}( m_1)] \]

\[\Rightarrow \hspace{0.3cm} || \boldsymbol{ s }_1 ||^2 - || \boldsymbol{ s }_0 ||^2 + 2 \sigma_n^2 \cdot {\rm ln} \hspace{0.15cm} \frac{{\rm Pr}( m_0)}{{\rm Pr}( m_1)} = 2 \cdot \boldsymbol{ \rho }^{\rm T} \cdot (\boldsymbol{ s }_1 - \boldsymbol{ s }_0)\hspace{0.05cm}.\]

Aus dieser Gleichung erkennt man:

Die Grenzkurve zwischen den Regionen I₀ und I₁ ist eine Gerade, da die Bestimmungsgleichung linear im Empfangsvektor ρ = (ρ₁, ρ₂) ist.

Bei gleichwahrscheinlichen Symbolen verläuft die Grenze genau in der Mitte zwischen s₀ und s₁ und um 90° verdreht gegenüber der Verbindungslinie zwischen den Sendepunkten (linke Grafik):

\[|| \boldsymbol{ s }_1 ||^2 - || \boldsymbol{ s }_0 ||^2 = 2 \cdot \boldsymbol{ \rho }^{\rm T} \cdot (\boldsymbol{ s }_1 - \boldsymbol{ s }_0)\hspace{0.05cm}.\]

Für Pr(m₀) > Pr(m₁) ist die Entscheidungsgrenze in Richtung des unwahrscheinlicheren Symbols (s₁) verschoben, und zwar um so mehr, je größer die AWGN–Streuung σ_n ist.

Die grün–durchgezogene Entscheidungsgrenze im rechten Bild sowie die Entscheidungsregionen I₀ (rot) und I₁ (blau) gelten für die Streuung σ_n = 1 und die gestrichelten Grenzlinien für σ_n = 0 bzw. σ_n = 2.

Gleichwahrscheinliche Binärsymbole – Fehlerwahrscheinlichkeit (1)

Wir gehen weiterhin von einem Binärsystem aus (M = 2), betrachten aber nun den einfachen Fall, dass dieses durch eine einzige Basisfunktion beschrieben werden kann (N = 1). Die Fehlerwahrscheinlichkeit hierfür wurde bereits in Kapitel 1.2 berechnet.

Mit der für Kapitel 4 gewählten Nomenklatur und Darstellungsform ergibt sich folgende Konstellation:

Der Empfangswert r = s + n – nunmehr ein Skalar – setzt sich aus dem Sendesignal s ∈ {s₀, s₁} und dem Rauschterm n zusammen. Die Abszisse ρ bezeichnet eine Realisierung von r.

Die Abszisse ist auf die Bezugsgröße E^1/2 normiert, wobei die Normierungsenergie E keine herausgehobene physikalische Bedeutung hat.

Der Rauschterm n ist gaußverteilt mit dem Mittelwert 0 und der Varianz σ_n². Die Wurzel aus der Varianz (σ_n) wird als Effektivwert oder Streuung bezeichnet.

Die Entscheidergrenze G unterteilt den gesamten Wertebereich von r in die beiden Teilbereiche I₀ (in dem unter anderem s₀ liegt) und I₁ (mit dem Signalwert s₁).

Ist ρ > G, so liefert der Entscheider den Schätzwert m₀, andernfalls m₁. Hierbei ist vorausgesetzt, dass die Nachricht m_i mit dem Sendesignal s_i eineindeutig zusammenhängt: m_i ⇔ s_i.

Bedingte Dichtefunktionen bei gleichwahrscheinlichen Symbolen

Die Grafik zeigt die bedingten (eindimensionalen) Wahrscheinlichkeitsdichtefunktionen p_r|m₀ und p_r|m₁ für den hier betrachteten AWGN–Kanal, wobei gleiche Symbolwahrscheinlichkeiten vorausgesetzt sind: Pr(m₀) = Pr(m₁) = 0.5. Dementsprechend ist die (optimale) Entscheidergrenze G = 0.

Man erkennt aus dieser Darstellung:

Ist m = m₀ und damit s = s₀ = 2 · E^1/2, so kommt es nur dann zu einer Fehlentscheidung, wenn η, die Realisierung der Rauschgröße n, kleiner ist als –2 · E^1/2.

In diesem Fall ist ρ < 0, wobei ρ eine Realisierung des Empfangswertes r bezeichnet.

Die Bildbeschreibung wird auf der nächsten Seite fortgesetzt.

Gleichwahrscheinliche Binärsymbole – Fehlerwahrscheinlichkeit (2)

Kommen wir nun zur Berechnung der Fehlerwahrscheinlichkeit:

Bei AWGN–Rauschen mit dem Effektivwert (Streuung) σ_n erhält man in diesem Fall, wie bereits in Kapitel 1.2 mit anderer Nomenklatur berechnet wurde:

\[{\rm Pr}({ \cal E} | m_0) \hspace{-0.1cm} = \hspace{-0.1cm} \int_{-\infty}^{G = 0} p_{r \hspace{0.05cm}|\hspace{0.05cm}m_0 } ({ \rho } |m_0 ) \,{\rm d} \rho = \int_{-\infty}^{- s_0 } p_{{ n} \hspace{0.05cm}|\hspace{0.05cm}m_0 } ({ \eta } |m_0 ) \,{\rm d} \eta = \]

\[\hspace{-0.05cm} = \hspace{-0.1cm}\int_{-\infty}^{- s_0 } p_{{ n} } ({ \eta } ) \,{\rm d} \eta = \int_{ s_0 }^{\infty} p_{{ n} } ({ \eta } ) \,{\rm d} \eta = {\rm Q} \left ( {s_0 }/{\sigma_n} \right ) \hspace{0.05cm}.\]

Bei der Herleitung der Gleichung wurde berücksichtigt, dass das AWGN–Rauschen η unabhängig vom Signal (m₀ oder m₁) ist und eine symmetrische WDF besitzt. Verwendet wurde zudem das komplementäre Gaußsche Fehlerintegral

\[{\rm Q}(x) = \frac{1}{\sqrt{2\pi}} \int_{x}^{\infty} {\rm e}^{-u^2/2} \,{\rm d} u \hspace{0.05cm}.\]

Entsprechend gilt für m = m₁ ⇔ s = s₁ = –2 · E^1/2:

\[{\rm Pr}({ \cal E} | m_1) = \int_{0}^{\infty} p_{{ r} \hspace{0.05cm}|\hspace{0.05cm}m_1 } ({ \rho } |m_1 ) \,{\rm d} \rho = \int_{- s_1 }^{\infty} p_{{ n} } (\boldsymbol{ \eta } ) \,{\rm d} \eta = {\rm Q} \left ( {- s_1 }/{\sigma_n} \right ) \hspace{0.05cm}.\]

Mit dem Abstand d = s₁ – s₀ der zwei Signalraumpunkte lassen sich die beiden Ergebnisse zusammenfassen, wobei noch Pr(m₀) + Pr(m₁) = 1 zu berücksichtigen ist:

\[{\rm Pr}({ \cal E} | m_0) = {\rm Pr}({ \cal E} | m_1) = {\rm Q} \left ( {d}/(2{\sigma_n}) \right )\]

\[\Rightarrow \hspace{0.3cm}{\rm Pr}({ \cal E} ) \hspace{-0.1cm} = \hspace{-0.1cm} {\rm Pr}(m_0) \cdot {\rm Pr}({ \cal E} | m_0) + {\rm Pr}(m_1) \cdot {\rm Pr}({ \cal E} | m_1)=\]

\[ \hspace{0.2cm}\hspace{-0.1cm} = \hspace{-0.1cm} \left [ {\rm Pr}(m_0) + {\rm Pr}(m_1) \right ] \cdot {\rm Q} \left ( {d}/(2{\sigma_n}) \right ) = {\rm Q} \left ( {d}/(2{\sigma_n}) \right ) \hspace{0.05cm}.\]

Diese Gleichung gilt unter der Voraussetzung G = 0 ganz allgemein, also auch für Pr(m₀) ≠ Pr(m₁). Bei nicht gleichwahrscheinlichen Symbolen lässt sich allerdings die Symbolfehlerwahrscheinlichkeit durch eine andere Entscheidergrenze verkleinern.

Hinweis: Die hier genannte Gleichung gilt auch dann, wenn die Signalraumpunkte keine Skalare sind, sondern durch die Vektoren s₀ und s₁ beschrieben werden. Der Abstand d ergibt sich dann als die Norm des Differenzvektors:

\[d = || \hspace{0.05cm} \boldsymbol{ s}_1 - \boldsymbol{ s}_0 \hspace{0.05cm} || \hspace{0.05cm}.\]

Gleichwahrscheinliche Binärsymbole – Fehlerwahrscheinlichkeit (3)

Betrachten wir nun nochmals die Signalraumkonstellation von der ersten Seite dieses Kapitels mit den Werten s₀/E^1/2 = (3.6, 0.8) und s₁/E^1/2 = (0.4, 3.2). Hier beträgt der Abstand der Signalraumpunkte

\[d = || s_1 - s_0 || = \sqrt{E \cdot (0.4 - 3.6)^2 + E \cdot (3.2 - 0.8)^2} = 4 \cdot \sqrt {E} \hspace{0.05cm},\]

also der genau gleiche Wert wie für s₀/E^1/2 = (2, 0) und s₁/E^1/2 = (–2, 0). Die AWGN–Rauschvarianz beträgt jeweils σ_n² = N₀/2.

Die Abbildungen zeigen diese beiden Konstellationen und lassen folgende Gemeinsamkeiten bzw. Unterschiede erkennen:

Wie bereits gesagt, sind sowohl der Abstand der Signalpunkte von der Entscheidungsgeraden (d/2 = 2 · E^1/2) als auch der AWGN–Kennwert σ_n in beiden Fällen gleich.

Daraus folgt: Die beiden Anordnungen führen zur gleichen Fehlerwahrscheinlichkeit, wenn man den Parameter E (eine Art Normierungsenergie) konstant lässt:

\[{\rm Pr} ({\rm Symbolfehler}) = {\rm Pr}({ \cal E} ) = {\rm Q} \left ( {d}/(2{\sigma_n}) \right )\hspace{0.05cm}.\]

Bei gegebener mittlerer Energie pro Symbol (E_s) ist jedoch die linke Konstellation (E_s = 4 · E) der rechten (E_s = 24 · E) deutlich überlegen: Die gleiche Fehlerwahrscheinlichkeit ergibt sich mit weniger Energie.

Auf diesen Sachverhalt wird in der Aufgabe Z4.6 noch im Detail eingegangen. Die Kreise in obiger Grafik veranschaulichen die zirkuläre Symmetrie von 2D–AWGN–Rauschen.

Nicht gleichwahrscheinliche Binärsymbole – Schwellenoptimierung (1)

Gilt Pr(m₀) ≠ Pr(m₁), so kann man durch eine Verschiebung der Entscheidungsgrenze G eine etwas kleinere Fehlerwahrscheinlichkeit erreichen. Die nachfolgenden Ergebnisse werden ausführlich in der Musterlösung zur Aufgabe A4.7 hergeleitet:

Bei ungleichen Symbolwahrscheinlichkeiten liegt die optimale Entscheidungsgrenze G_opt zwischen den Regionen I₀ und I₁ näher beim unwahrscheinlicheren Symbol.

Die normierte optimale Verschiebung gegenüber der Grenze G = 0 bei gleichwahrscheinlichen Symbolen beträgt

\[\gamma_{\rm opt} = \frac{G_{\rm opt}}{s_0 } = 2 \cdot \frac{ \sigma_n^2}{d^2} \cdot {\rm ln} \hspace{0.15cm} \frac{{\rm Pr}( m_1)}{{\rm Pr}( m_0)} \hspace{0.05cm}.\]

Die Fehlerwahrscheinlichkeit ist dann gleich

\[{\rm Pr}({ \cal E} ) = {\rm Pr}(m_0) \cdot {\rm Q} \left[ {d}/(2{\sigma_n}) \cdot (1 - \gamma_{\rm opt}) \right ] + {\rm Pr}(m_1) \cdot {\rm Q} \left [ {d}/(2{\sigma_n}) \cdot (1 + \gamma_{\rm opt}) \right ]\hspace{0.05cm}.\]

: Für das Folgende gelte

\[\boldsymbol{ s }_0 = (2 \cdot \sqrt{E}, \hspace{0.1cm} 0), \hspace{0.2cm} \boldsymbol{ s }_1 = (- 2 \cdot \sqrt{E}, \hspace{0.1cm} 0), \hspace{0.2cm} \Rightarrow \hspace{0.2cm} d = 2 \cdot \sqrt{E}, \hspace{0.2cm} \sigma_n = \sqrt{E} \hspace{0.05cm}.\]

Bei gleichwahrscheinlichen Symbolen ergibt sich die optimale Entscheidergrenze zu G_opt = 0. Damit erhält man für die Fehlerwahrscheinlichkeit:

\[{\rm Pr}({ \cal E} ) = {\rm Q} \left ( {d}/(2{\sigma_n}) \right ) = {\rm Q} (2) \approx 2.26\% \hspace{0.05cm}.\]

Die Beschreibung der unteren Grafik folgt auf der nächsten Seite.

Nicht gleichwahrscheinliche Binärsymbole – Schwellenoptimierung (2)

: Wir betrachten nun ungleiche Symbolwahrscheinlichkeiten, wie für das untere Bild vorausgesetzt:

\[{\rm Pr}( m_0) = 3/4\hspace{0.05cm},\hspace{0.3cm}{\rm Pr}( m_1) = 1/4\hspace{0.05cm}.\]

Die weiteren Systemgrößen seien gegenüber der oberen Grafik unverändert:

\[\boldsymbol{ s }_0 = (2 \cdot \sqrt{E}, \hspace{0.1cm} 0), \hspace{0.2cm} \boldsymbol{ s }_1 = (- 2 \cdot \sqrt{E}, \hspace{0.1cm} 0), \hspace{0.2cm} \Rightarrow \hspace{0.2cm} d = 2 \cdot \sqrt{E}, \hspace{0.2cm} \sigma_n = \sqrt{E} \hspace{0.05cm}.\]

In diesem Fall beträgt der optimale (normierte) Verschiebungsfaktor

\[\gamma = 2 \cdot \frac{ \sigma_n^2}{d^2} \cdot {\rm ln} \hspace{0.15cm} \frac{{\rm Pr}( m_1)}{{\rm Pr}( m_0)} = 2 \cdot \frac{ E}{16 \cdot E} \cdot {\rm ln} \hspace{0.15cm} \frac{1/4}{3/4 } \approx - 0.14 \hspace{0.05cm},\]

was einer Verschiebung um 14% hin zum unwahrscheinlicheren Symbol s₁ (also nach links) bedeutet. Dadurch wird die Fehlerwahrscheinlichkeit geringfügig kleiner als bei gleichwahrscheinlichen Symbolen:

\[{\rm Pr}({ \cal E} ) \hspace{-0.1cm} = \hspace{-0.1cm} 0.75 \cdot {\rm Q} \left ( 2 \cdot 1.14 \right ) + 0.25 \cdot {\rm Q} \left ( 2 \cdot 0.86 \right ) = \]

\[ \hspace{-0.2cm} = \hspace{-0.1cm}0.75 \cdot 0.0113 + 0.25 \cdot 0.0427 \approx 1.92\% \hspace{0.05cm}.\]

Man erkennt aus diesen Zahlenwerten: Durch die Schwellenverschiebung wird nun zwar das Symbol s₁ stärker verfälscht, das wahrscheinlichere Symbol s₀ jedoch überproportional weniger.

Das Ergebnis sollte nicht zu Fehlinterpretationen führen. Im unsymmetrischen Fall ⇒ Pr(m₀) ≠ Pr(m₁) ergibt sich zwar eine kleinere Fehlerwahrscheinlichkeit als für Pr(m₀) = Pr(m₁) = 0.5, aber mit jedem Symbol kann auch nur weniger Information übertragen werden, bei den gewählten Zahlenwerten 0.81 bit/Symbol statt 1 bit/Symbol. Aus informationstheoretischer Sicht ist Pr(m₀) = Pr(m₁) optimal.

Anmerkung: Bei Pr(m₀) ≠ Pr(m₁) müssen nun die absoluten Wahrscheinlichkeitsdichefunktionen Pr(m_i) · p_{r|m_i}(ρ | m_i) betrachtet werden. Der formale Parameter ρ gibt dabei wieder eine Realisierung der AWGN–Zufallsgröße r = s + n an. Im Folgenden wird dieser Sachverhalt berücksichtigt.

Entscheidungsregionen im nichtbinären Fall (M > 2)

Allgemein partitionieren die Entscheidungsregionen I_i den N–dimensionalen reellen Raum in M zueinander disjunkte Gebiete. I_i ist definiert als die Menge aller Punkte, die zum Schätzwert m_i führen:

\[\boldsymbol{ \rho } \in I_i \hspace{0.2cm} \Longleftrightarrow \hspace{0.2cm} \hat{m} = m_i, \hspace{0.15cm}{\rm wobei}\]

\[I_i = \left \{ \boldsymbol{ \rho } \in { \cal R}^N \hspace{0.05cm} | \hspace{0.05cm} {\rm Pr}( m_i) \cdot p_{\boldsymbol{ r} \hspace{0.05cm}|\hspace{0.05cm}m } (\boldsymbol{ \rho } |m_i ) > {\rm Pr}( m_k) \cdot p_{\boldsymbol{ r} \hspace{0.05cm}|\hspace{0.05cm}m } (\boldsymbol{ \rho } |m_k )\hspace{0.15cm} \forall k \ne i \right \} \hspace{0.05cm}.\]

Die Form der Entscheidungsregionen I_i (i = 0, ... , M –1) im N–dimensionalen Raum hängen von den bedingten Wahrscheinlichkeitsdichtefunktionen p_r|m ab, also vom betrachteten Kanal. In vielen Fällen – so auch beim AWGN–Kanal – sind die Entscheidungsgrenzen zwischen je zwei Signalpunkten Gerade, was die weiteren Betrachtungen deutlich vereinfacht.

: Die Grafik zeigt die Entscheidungsregionen I₀, I₁ und I₂ für ein Übertragungssystem mit den Parametern N = 2 und M = 3. Die normierten Sendevektoren sind dabei

\[\boldsymbol{ s }_0 = (2,\hspace{0.05cm} 2), \hspace{0.2cm} \hspace{0.01cm} \boldsymbol{ s }_1 = (1,\hspace{0.05cm} 3), \hspace{0.01cm} \hspace{0.2cm} \boldsymbol{ s }_2 = (1,\hspace{0.05cm} -1) \hspace{0.05cm}.\]

Es sind nun zwei Fälle zu unterscheiden:

Bei gleichen Symbolwahrscheinlichkeiten,

\[{\rm Pr}( m_0) = {\rm Pr}( m_1) ={\rm Pr}( m_2) = 1/3 \hspace{0.05cm},\]

verlaufen die Grenzen zwischen jeweils zwei Regionen stets geradlinig, mittig und rechtwinklig zu den Verbindungsgeraden.

Bei ungleichen Symbolwahrscheinlichkeiten sind die Entscheidungsgrenzen dagegen jeweils in Richtung des unwahrscheinlicheren Symbols (parallel) zu verschieben, und zwar umso weiter, je größer die AWGN–Streuung σ_n ist.

Nachdem die Entscheidungsregionen I_i festliegen, kann man die Symbolfehlerwahrscheinlichkeit des Gesamtsystems berechnen. Auf den nächsten Seiten benutzen wir folgende Bezeichnungen, wobei wir aufgrund der Einschränkungen durch den verwendeten HTML–Zeichensatz im Fließtext manchmal andere Namen als in Gleichungen verwenden müssen:

Symbolfehlerwahrscheinlichkeit:

\[{\rm Pr}({ \cal E} ) = {\rm Pr(Symbolfehler)} \hspace{0.05cm},\]

Wahrscheinlichkeit für korrekte Entscheidung:

\[{\rm Pr}({ \cal C} ) = 1 - {\rm Pr}({ \cal E} ) = {\rm Pr(korrekte \hspace{0.15cm} Entscheidung)} \hspace{0.05cm},\]

Bedingte Wahrscheinlichkeit einer korrekten Entscheidung unter der Bedingung m = m_i:

\[{\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_i ) = 1 - {\rm Pr}({ \cal E} \hspace{0.05cm}|\hspace{0.05cm} m_i) \hspace{0.05cm}.\]

Fehlerwahrscheinlichkeitsberechnung im nichtbinären Fall (1)

Mit den Definitionen der letzten Seite gilt für die Wahrscheinlichkeit einer korrekten Entscheidung:

\[{\rm Pr}({ \cal C} ) \hspace{-0.1cm} = \hspace{-0.1cm} \sum\limits_{i = 0}^{M-1} {\rm Pr}(m_i) \cdot {\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_i ) = \sum\limits_{i = 0}^{M-1} {\rm Pr}(m_i) \cdot {\rm Pr}(\boldsymbol{ r } \in I_i\hspace{0.05cm}|\hspace{0.05cm} m_i ) = \]

\[ \hspace{-0.1cm} = \hspace{-0.1cm} \sum_{i = 0}^{M-1} {\rm Pr}(m_i) \cdot \int_{I_i} p_{{ \boldsymbol{ r }} \hspace{0.05cm}|\hspace{0.05cm}m } (\boldsymbol {\rho } \hspace{0.05cm}|\hspace{0.05cm} m_i ) \,{\rm d} \boldsymbol {\rho } \hspace{0.05cm}.\]

Für den AWGN–Kanal gilt dabei entsprechend Kapitel 4.2:

\[{\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_i ) = 1 - {\rm Pr}({ \cal E} \hspace{0.05cm}|\hspace{0.05cm} m_i) = \frac{1}{(\sqrt{2\pi} \cdot \sigma_n)^N} \cdot \int_{I_i} {\rm exp} \left [ - \frac{1}{2 \sigma_n^2} \cdot || \boldsymbol{ \rho } - \boldsymbol{ s }_i ||^2 \right ] \,{\rm d} \boldsymbol {\rho }\hspace{0.05cm}.\]

Dieses Integral muss im allgemeinen Fall numerisch berechnet werden. Nur bei einigen wenigen, einfach beschreibbaren Entscheidungsregionen {I_i} ist eine analytische Lösung möglich.

: Beim AWGN–Kanal liegt eine 2D–Gaußglocke um den Sendepunkt s_i, in der linken Grafik erkennbar an den konzentrischen Höhenlinien. Etwas willkürlich ist zudem die Entscheidungsgerade G eingezeichnet. Rechts dargestellt ist in einem anderen Koordinatensystem (verschoben und gedreht) allein die WDF der Rauschkomponente.

Die Grafik lässt sich wie folgt interpretieren:

Die Wahrscheinlichkeit, dass der Empfangsvektor nicht in das Gebiet I_i fällt, sondern in das rot hinterlegte Gebiet I_k, ist Q(A/σ_n). A ist der Abstand zwischen s_i und G und σ_n der Effektivwert (Wurzel aus der Varianz) des AWGN–Rauschens. Q(x) ist die Gaußsche Fehlerfunktion.

Entsprechend ist die Wahrscheinlichkeit für das Ereignis r ∈ I_i gleich dem Komplementärwert

\[{\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_i ) = {\rm Pr}(\boldsymbol{ r } \in I_i\hspace{0.05cm}|\hspace{0.05cm} m_i ) = 1 - {\rm Q} (A/\sigma_n)\hspace{0.05cm}.\]

Fehlerwahrscheinlichkeitsberechnung im nichtbinären Fall (2)

Wir betrachten nun die auf der letzten Seite angegebenen Gleichungen

\[{\rm Pr}({ \cal C} ) = \sum\limits_{i = 0}^{M-1} {\rm Pr}(m_i) \cdot {\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_i ) \hspace{0.3cm}{\rm mit} \hspace{0.3cm} {\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_i ) = \int_{I_i} p_{{ \boldsymbol{ r }} \hspace{0.05cm}|\hspace{0.05cm}m } (\boldsymbol {\rho } \hspace{0.05cm}|\hspace{0.05cm} m_i ) \,{\rm d} \boldsymbol {\rho } \hspace{0.05cm}\]

etwas genauer, wobei wir wieder von zwei Basisfunktionen (N = 2) und den drei Signalraumpunkten s₀, s₁ und s₂ (also M = 3) ausgehen. Die Entscheidungsregionen I₀, I₁ und I₂ sind bestmöglich gewählt. Das AWGN–Rauschen ist in der Skizze durch jeweils drei kreisförmige Höhenlinien angedeutet.

Man erkennt aus dieser Darstellung:

Unter der Voraussetzung, dass m = m_i ⇔ s = s_i gesendet wurde, wird nur dann eine richtige Entscheidung getroffen, wenn der Empfangswert r in der Region I_i liegt.

Die Wahrscheinlichkeit Pr(r ∈ I_i | m₂) für eine ist für i = 2 (weitaus) am größten ⇒ richtige Entscheidung. Pr(r ∈ I₀ | m₂) ist deutlich kleiner. Nahezu vernachlässigbar ist Pr(r ∈ I₁ | m₂) .

Die Verfälschungswahrscheinlichkeiten für m = m₀ bzw. m = m₁ lauten:

\[{\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_0 ) \hspace{-0.1cm} = \hspace{-0.1cm} {\rm Pr}(\boldsymbol{ r } \in I_1\hspace{0.05cm}|\hspace{0.05cm} m_0 ) + {\rm Pr}(\boldsymbol{ r } \in I_2\hspace{0.05cm}|\hspace{0.05cm} m_0 ),\]

\[ {\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_1 ) \hspace{-0.1cm} = \hspace{-0.1cm} {\rm Pr}(\boldsymbol{ r } \in I_0\hspace{0.05cm}|\hspace{0.05cm} m_1 ) + {\rm Pr}(\boldsymbol{ r } \in I_2\hspace{0.05cm}|\hspace{0.05cm} m_1 ) \hspace{0.05cm}.\]

Die größte Verfälschungswahrscheinlichkeit ergibt sich für m = m₀. Wegen

\[{\rm Pr}(\boldsymbol{ r } \in I_1\hspace{0.05cm}|\hspace{0.05cm} m_0 ) \approx {\rm Pr}(\boldsymbol{ r } \in I_0\hspace{0.05cm}|\hspace{0.05cm} m_1 ) \hspace{0.05cm}, \hspace{0.2cm} {\rm Pr}(\boldsymbol{ r } \in I_2\hspace{0.05cm}|\hspace{0.05cm} m_0 ) >> {\rm Pr}(\boldsymbol{ r } \in I_2\hspace{0.05cm}|\hspace{0.05cm} m_1 ) \hspace{0.05cm}\]

gelten folgende Relationen:

\[{\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_0 ) > {\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_1 ) >{\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_2 )\hspace{0.05cm}. \]

Diese Ergebnisse lassen sich wie folgt zusammenfassen:

Zur Berechnung der (mittleren) Fehlerwahrscheinlichkeit muss auch bei gleichwahrscheinlichen Symbolen allgemein über alle M Terme gemittelt werden. Ausnahme: Symmetrische Anordnung.

Im Fall gleichwahrscheinlicher Symbole kann Pr(m_i) = 1/M vor die Summation gezogen werden, was allerdings den Rechengang nicht sonderlich vereinfacht.

Union Bound - Obere Schranke für die Fehlerwahrscheinlichkeit (1)

Bei beliebigen Werten von M gilt für die Verfälschungswahrscheinlichkeit unter der Voraussetzung, dass die Nachricht m_i (bzw. das Signal s_i) gesendet wurde:

\[{\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_i ) = {\rm Pr} \left [ \bigcup_{k \ne i} { \cal E}_{ik}\right ] \hspace{0.05cm},\hspace{0.2cm}{ \cal E}_{ik}: \boldsymbol{ r }{\rm \hspace{0.15cm}liegt \hspace{0.15cm}n\ddot{a}her \hspace{0.15cm}bei \hspace{0.15cm}}\boldsymbol{ s }_k {\rm \hspace{0.15cm}als \hspace{0.15cm}beim \hspace{0.15cm}Sollwert \hspace{0.15cm}}\boldsymbol{ s }_i \hspace{0.05cm}. \]

Für diesen Ausdruck lässt sich mit einer Booleschen Ungleichung, der so genannten Union Bound, eine obere Schranke angeben:

\[{\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_i ) \le \sum\limits_{k = 0, \hspace{0.1cm}k \ne i}^{M-1} {\rm Pr}({ \cal E}_{ik}) = \sum\limits_{k = 0, \hspace{0.1cm}k \ne i}^{M-1}{\rm Q} \left [ d_{ik}/(2{\sigma_n}) \right ]\hspace{0.05cm}. \]

Hierzu ist anzumerken:

Es ist d_ik = ||s_i – s_k|| der Abstand der Signalraumpunkte s_i und s_k, und σ_n gibt den Effektivwert des AWGN–Rauschens an.

Die Union Bound ist nur bei gleichwahrscheinlichen Symbolen (Pr(m_i) = 1/M) anwendbar. Auch dann muss zur Berechnung der (mittleren) Fehlerwahrscheinlichkeit über alle m_i gemittelt werden.

Auf der nächsten Seite folgt ein Beispiel zur Anwendung der Union Bound. Auf der übernächsten Seite wird die hier angegebene Union Bound weiter vereinfacht.

Union Bound - Obere Schranke für die Fehlerwahrscheinlichkeit (2)

: Die Grafik verdeutlicht die Union Bound am Beispiel M = 3 mit gleichwahrscheinlichen Symbolen: Pr(m₀) = Pr(m₁) = Pr(m₂) = 1/3.

Zu diesen Darstellungen ist anzumerken:

Für die Symbolfehlerwahrscheinlichkeit gilt:

\[{\rm Pr}({ \cal E} ) = 1 - {\rm Pr}({ \cal C} ) \hspace{0.05cm},\hspace{0.2cm}{\rm Pr}({ \cal C} ) = {1}/{3} \cdot \left [ {\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_0 ) + {\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_1 ) + {\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_2 ) \right ]\hspace{0.05cm}.\]

Der erste Term im Klammerausdruck unter der Voraussetzung m = m₀ ⇔ s = s₀ ist in der linken Grafik visualisiert. Dieser Term Pr(r ∈ I₀ | m₀) beschreibt die rot ausgefüllte Region I₀.

Die Komplementärregion „r ∉ I₀ | m₀” ist in der linken Grafik entweder blau oder grün oder blau–grün schraffiert markiert. Es gilt:

\[{\rm Pr}({ \cal C}\hspace{0.05cm}|\hspace{0.05cm} m_0 ) \hspace{-0.1cm} = \hspace{-0.1cm} 1 - {\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_0 ) \hspace{0.05cm}, \hspace{0.2cm}{\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_0 ) = {\rm Pr}(\boldsymbol{ r } \in I_1 \hspace{0.05cm}\cup \hspace{0.05cm} \boldsymbol{ r } \in I_2 \hspace{0.05cm}|\hspace{0.05cm} m_0 ) \le \]

\[ \hspace{0.6cm} \le \hspace{-0.1cm} {\rm Pr}(\boldsymbol{ r } \in I_1 \hspace{0.05cm}|\hspace{0.05cm} m_0 ) + {\rm Pr}(\boldsymbol{ r } \in I_2 \hspace{0.05cm}|\hspace{0.05cm} m_0 ) ={\rm Q} \left [ d_{01}/(2{\sigma_n}) \right ]+ {\rm Q} \left [ d_{02}/(2{\sigma_n}) \right ] \hspace{0.05cm}.\]

Das „≤”–Zeichen berücksichtigt hier, dass die blau–grün schraffierte Fläche sowohl zum Gebiet „r ∈ I₁” als auch zum Gebiet „r ∈ I₂” gehört, so dass die Summe einen zu großen Wert liefert. Das heißt: Die Union Bound liefert stets eine obere Schranke.

Die mittlere Grafik verdeutlicht die Berechnung der Union Bound unter der Voraussetzung, dass m₁ ⇔ s₁ gesendet wurde. Für das rechte Bild ist m = m₂ ⇔ s = s₂ zugrundegelegt.

Union Bound - Obere Schranke für die Fehlerwahrscheinlichkeit (3)

Die Abschätzung nach der „Union Bound” lässt sich verbessern, indem man nur solche Signalraumpunkte berücksichtigt, die direkte Nachbarn des aktuellen Sendevektors s_i sind:

\[{\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_i ) = \sum\limits_{k = 0, \hspace{0.1cm} k \ne i}^{M-1}{\rm Q}\left [ d_{ik}/(2{\sigma_n}) \right ] \hspace{0.2cm} \Rightarrow \hspace{0.2cm} {\rm Pr}({ \cal E}\hspace{0.05cm}|\hspace{0.05cm} m_i ) = \sum\limits_{k = 0, \hspace{0.1cm} k \hspace{0.05cm}\in \hspace{0.05cm}N(i)}^{M-1}\hspace{-0.4cm}{\rm Q} \left [ d_{ik}/(2{\sigma_n}) \right ] \hspace{0.05cm}. \]

Dazu definieren wir die Nachbarn von s_i als

\[N(i) = \left \{ k \in \left \{ i = 0, 1, 2, ... \hspace{0.05cm}, M-1 \right \}\hspace{0.05cm}|\hspace{0.05cm} I_i {\rm \hspace{0.15cm}grenzt \hspace{0.15cm}direkt \hspace{0.15cm}an \hspace{0.15cm}}I_k \right \} \hspace{0.05cm}. \]

Die Grafik verdeutlicht diese Definiton am Beispiel M = 5. Die Regionen I₀ und I₃ haben jeweils nur zwei direkte Nachbarn, während I₄ an alle anderen Entscheidungsregionen angrenzt.

Durch die Einführung der Nachbarmengen N(i) wird die Qualität der Union Bound–Approximation verbessert, das heißt, die Schranke liegt dann näher an der tatsächlichen Fehlerwahrscheinlichkeit, wird also nach unten verschoben.

Eine weitere und häufig verwendete Schranke benutzt nur den minimalen Abstand d_min zwischen zwei Signalpunkten. Im obigen Beispiel tritt dieser zwischen s₁ und s₂ auf.

Dann gilt für gleichwahrscheinliche Symbole ⇒ Pr(m_i) = 1/M die folgende Abschätzung:

\[{\rm Pr}({ \cal E} ) \hspace{-0.1cm} \le \hspace{-0.1cm} \sum\limits_{i = 0 }^{M-1} \left [ {\rm Pr}(m_i) \cdot \sum\limits_{k \ne i }{\rm Q} [d_{ik}/(2{\sigma_n})] \right ] \le \frac{1}{M} \cdot \sum\limits_{i = 0 }^{M-1} \left [ \sum\limits_{k \ne i } {\rm Q} [d_{\rm min}/(2{\sigma_n})] \right ] =\]

\[ \hspace{-0.1cm} = \hspace{-0.1cm} \sum\limits_{k \ne i }{\rm Q} [d_{\rm min}/(2{\sigma_n})] = (M-1) \cdot {\rm Q} [d_{\rm min}/(2{\sigma_n})] \hspace{0.05cm}. \]