Consideration of Channel Distortion and Equalization

Ideal channel equalizer

For a transmission system whose channel frequency response $H_{\rm K}(f)$ causes severe distortion, we assume the following block diagram (upper graph) and equivalent circuit (lower graph).

Block diagram and equivalent circuit diagram for consideration of a channel frequency response

To these representations the following is to be noted:

The receiver filter $H_{\rm E}(f)$ is – at least mentally – composed of an ideal equalizer $1/H_{\rm K}(f)$ and a low-pass filter $H_{\rm G}(f)$. For the latter we use in this chapter exemplarily a Gaussian low-pass with the cutoff frequency $f_{\rm G}$.

If we now move the ideal equalizer – again purely mentally – to the left side of the noise addition point, nothing changes with respect to the S/N ratio at the sink and with respect to the error probability compared to the block diagram drawn above.

From the equivalent circuit below it can be seen that the channel frequency response $H_{\rm K}(f)$ does not change anything with respect to the signal component of the detection signal $d_{\rm S}(t)$ – originating from the transmitted signal $s(t)$ – if it is fully compensated with $1/H_{\rm K}(f)$. Thus, the signal component has exactly the same shape as calculated in the chapter Error Probability with Intersymbol Interference.

The degradation due to the channel frequency response $H_{\rm K}(f)$ is rather shown by a significant increase of the detection noise power, i.e. the variance of the signal $d_{\rm N}(t)$ – originating from the noise signal $n(t)$:

$$\sigma_d^2 = \frac{N_0}{2} \cdot \int_{-\infty}^{+\infty} |H_{\rm E}(f)|^2 \,{\rm d} f = \frac{N_0}{2} \cdot \int_{-\infty}^{+\infty} \frac{1}{|H_{\rm K}(f)|^2}\cdot |H_{\rm G}(f)|^2 \,{\rm d} f \hspace{0.05cm}.$$

The prerequisite for a finite noise power $\sigma_d^2$ is that the low-pass $H_{\rm G}(f)$ attenuates the noise $n(t)$ at (very) high frequencies more than it is raised by the ideal equalizer $1/H_{\rm K}(f)$.

Note: The channel frequency response $H_{\rm K}(f)$ can be equalized according to magnitude and phase, but only in a limited frequency range given by $H_{\rm G}(f)$. However, a complete phase equalization is only possible at the expense of a (frequency-independent) running time, which will not be considered further in the following.

$\text{Example 1:}$ We consider again a binary system with NRZ rectangular pulses and Gaussian receiver filter $H_{\rm E}(f) = H_{\rm G}(f)$ with (normalized) cutoff frequency $f_\text{G, opt} \cdot T = 0.4$.

The middle graph shows the eye diagram of the signal component of the detection signal $d_{\rm S}(t)$ for this case – i.e. without taking the noise into account.
This is identical with the eye diagram shown in the chapter Definition and statements of the eye diagram in $\text{example 3}$ (right diagram).

Binary eye diagrams with intersymbol interferences

The left eye diagram is obtained for ideal channel, i.e., for $H_{\rm K}(f) = 1$ ⇒ $1/H_{\rm K}(f) = 1$. It takes into account the AWGN noise, but here it was assumed to be very small, $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 30 \ \rm dB$. For this configuration, it was determined by simulation:

$$10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U}\approx 26.8\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}< 10^{-40}\hspace{0.05cm}.$$

In contrast, the right diagram applies to a coaxial cable, where the characteristic cable attenuation $a_\star = 40 \ \rm dB$. This results in significantly worse system sizes for the same $E_{\rm B}/N_0$:

$$10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U}\approx -4.6\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 0.28\hspace{0.05cm}.$$

This result can be interpreted as follows:

Assuming an ideal channel equalizer $1/H_{\rm K}(f)$, the same "eye diagram without noise" (left graph) results for the distorting channel as for the ideal channel $H_{\rm K}(f) = 1$ (middle graph).

Channel equalization $1/H_{\rm K}(f)$ extremely amplifies the noise component. In the right-hand example, equally strong equalization is required over a wide frequency range because of the strong distortion.
The noise power $\sigma_d^2$ here is larger by a factor of $1300$ than in the left constellation (no distortion ⇒ no equalization). Thus, the error probability results in $p_{\rm S}\approx p_{\rm U}\approx 50 \%$.

An acceptable error probability results only with smaller noise power density $N_0$. For example, with $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 50 \ \rm dB$ $($instead of $30 \ \rm dB)$ the following result is obtained:

$$10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U} = -4.6 +20 \approx 15.4\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 2 \cdot 10^{-9} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm S} \ge p_{\rm U}/4 \approx 0.5 \cdot 10^{-9}\hspace{0.05cm}.$$

Increase of the noise power by linear equalization

The eye diagrams on the last section impressively document the increase of the noise power $\sigma_d^2$ with unchanged vertical eye opening, if one compensates the channel frequency response $H_{\rm K}(f)$ on the receiving side by its inverse. This result shall now be interpreted in terms of the noise power density ${\it \Phi}_{d{\rm N}}(f)$ after the receiver filter (before the decision), with the following settings:

Let the channel be a coaxial cable with the magnitude frequency response

$$|H_{\rm K}(f)| = {\rm exp}\left [- a_{\star}\cdot \sqrt{2 f T}\hspace{0.05cm} \right ]\hspace{0.2cm}{\rm with}\hspace{0.2cm} a_{\star} = 1.7\,\,{\rm Np}\hspace{0.2cm} ({\rm corresponding to} \hspace{0.2cm} 15\,\,{\rm dB}) \hspace{0.05cm}.$$

The ideal channel equalizer $1/H_{\rm K}(f)$ compensates the channel frequency response completely. No statement is made here about the realization of the attenuation and phase equalization.

For noise power limitation a Gaussian low-pass filter eingesetzt:

$$|H_{\rm G}(f)| = {\rm exp}\left [- \pi \cdot \left (\frac{f }{2 f_{\rm G}}\right )^2 \right ]\hspace{0.2cm}{\rm mit}\hspace{0.2cm} f_{\rm G} = 0.8/T \hspace{0.2cm} {\rm bzw.} \hspace{0.2cm} f_{\rm G} = 0.4/T \hspace{0.05cm}.$$

Damit gilt für die Rauschleistungsdichte vor dem Entscheider:

$${\it \Phi}_{d{\rm N}}(f) = \frac{N_0}{2} \cdot \frac{|H_{\rm G }(f)|^2}{|H_{\rm K}(f)|^2} = \frac{N_0}{2} \cdot {\rm exp}\left [2 \cdot a_{\star}\cdot \sqrt{2 f T} - {\pi}/{2} \cdot \left ({f }/{f_{\rm G}}\right )^2 \right ] \hspace{0.05cm}.$$

Rauschüberhöhung durch verzerrenden Kanal

Dieser Verlauf ist nebenstehend dargestellt für die beiden (normierten) Grenzfrequenzen

$f_\text{G} \cdot T = 0.8$ (links) bzw.
$f_\text{G} \cdot T = 0.4$ (rechts)

Beachten Sie, dass hier aus Darstellungsgründen die charakteristische Kabeldämpfung mit $a_\star = 15 \ \rm dB$ $($entsprechend $1.7 \ \rm Np)$ deutlich kleiner gewählt ist als beim rechten Augendiagramm im $\text{Beispiel 1}$ auf der letzten Seite $($gültig für $a_\star = 40 \ \rm dB)$.
Betrachten wir zunächst die linke Grafik für die (normierte) Grenzfrequenz $f_\text{G} \cdot T = 0.8$, die nach den Berechnungen im letzten Kapitel für den idealen Kanal ⇒ $H_{\rm K}(f) = 1$ das Optimum darstellt.

Gelb hinterlegt ist die konstante Rauschleistungsdichte $N_0/2$ am Empfängereingang. Bei idealem Kanal wird diese durch das gaußförmige Empfangsfilter $H_{\rm E}(f) = H_{\rm G}(f)$ begrenzt und ergibt die Detektionsrauschleistung $\sigma_d^2$ (in der Grafik durch die blaue Fläche gekennzeichnet).

Werden – wie bei leitungsgebundener Übertragung üblich – höhere Frequenzen stark gedämpft, so steigt $|H_{\rm E}(f)| = |H_{\rm G}(f)|/|H_{\rm K}(f)|$ aufgrund des idealen Kanalentzerrers sehr stark an, bevor für $f \cdot T \ge 0.6$ $($nur gültig für $a_\star = 15 \ \rm dB$ und $f_\text{G} \cdot T = 0.8)$ der dämpfende Einfluss des Gaußfilters wirksam wird.

Die Rauschleistung $\sigma_d^2$ ist nun gleich der Fläche unter der roten Kurve, die etwa um den Faktor $28$ größer ist als die blaue Fläche. Die Auswirkungen dieser unterschiedlichen Rauschleistungen erkennt man auch in den Augendiagrammen auf der letzten Seite, allerdings für $a_\star = 40 \ \rm dB$.

Die rechte Grafik zeigt die Rauschleistungsdichte ${\it \Phi}_{d{\rm N}}(f)$ für die normierte Grenzfrequenz $f_\text{G} \cdot T = 0.4$. Hier wird die Rauschleistung durch den idealen Kanalentzerrer nur noch um den Faktor $9$ vergrößert (Verhältnis zwischen der Fläche unter der roten Kurve und der blauen Fläche).

$\text{Fazit:}$ Aus obiger Grafik und den bisherigen Erläuterungen geht bereits hervor, dass bei verzerrendem Kanal ⇒ $H_{\rm K}(f) \ne 1$ die Grenzfrequenz $f_\text{G} \cdot T = 0.8$ des Gaußtiefpasses $H_{\rm G}(f)$ nach dem idealen Kanalentzerrer $1/H_{\rm K}(f)$ nicht mehr optimal sein wird.

Optimierung der Grenzfrequenz

Die Grafik zeigt die Störabstände in Abhängigkeit der Grenzfrequenz $f_{\rm G}$ des gaußförmigen Gesamtfrequenzgangs $H_{\rm G}(f) = H_{\rm K}(f) \cdot H_{\rm E}(f)$. Dieses Bild gilt für

einen koaxialen Übertragungskanal mit der charakteristischen Kabeldämpfung $a_\star = 15 \ \rm dB$,
AWGN–Rauschen mit $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 27 \ \rm dB$, wobei $E_{\rm B} = s_0^2 \cdot T$ zu setzen ist ⇒ NRZ–Rechteckimpulse.

Optimale Grenzfrequenz des GTP bei verzerrendem Kanal $(a_\star = 15 \ \rm dB)$

Anmerkungen:

Die Kreise zeigen die dB–Werte für $10 \cdot {\rm lg}\hspace{0.1cm} \rho_d$ ⇒ "mittleres" Detektions–SNR (Maß für die mittlere Fehlerwahrscheinlichkeit $p_{\rm S})$.
Die Quadrate zeigen die dB–Werte für $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{\rm U}$ ⇒ "ungünstigstes" SNR $($Maß für die ungünstigste Fehlerwahrscheinlichkeit $p_{\rm U})$.

Man erkennt aus dieser Darstellung und durch Vergleich mit der entsprechenden Grafik im letzten Kapitel, die für $H_{\rm K}(f) = 1$ und $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 13 \ \rm dB$ gegolten hat:

Auch bei stark verzerrendem Kanal ist $\rho_{\rm U}$ eine geeignete untere Schranke für $\rho_d$ ⇒ $\rho_{d} \ge \rho_{\rm U}$. Entsprechend ist auch $p_{\rm U} \ge p_{\rm S} $ eine sinnvolle obere Schranke für $p_{\rm S}$.

Bei der betrachteten Kabeldämpfung $a_\star = 15 \ \rm dB$ ist die Grenzfrequenz $f_\text{G} \cdot T \approx 0.55$ optimal und es gilt $\ddot{o}/s_0 \approx 1.327$ sowie $\sigma_d/s_0 \approx 0.106$.
Daraus ergeben sich der (ungünstigste) Störabstand $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{\rm U} \approx \ \rm 15.9 \ dB$ und die Worst–Case–Fehlerwahrscheinlichkeit $p_{\rm U} \approx 2 \cdot 10^{-9}.$

Eine kleinere Grenzfrequenz hätte eine deutlich kleinere Augenöffnung zur Folge, ohne dass dadurch auch $\sigma_d$ gleichermaßen verkleinert würde. Für $f_\text{G} \cdot T = 0.4$ gilt:

$$\ddot{o}/s_0 \approx 0.735,\hspace{0.2cm}\sigma_d/s_0 \approx 0.072\hspace{0.3cm}\Rightarrow \hspace{0.3cm} 10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U}\approx 14.1\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 1.8 \cdot 10^{-7}\hspace{0.05cm}.$$

Ist die Grenzfrequenz $f_\text{G}$ zu groß, so wird das Rauschen weniger effektiv begrenzt. Beispielsweise lauten die Werte für die Grenzfrequenz $f_\text{G} \cdot T =0.8$:

$$\ddot{o}/s_0 \approx 1.819,\hspace{0.2cm}\sigma_d/s_0 \approx 0.178\hspace{0.3cm}\Rightarrow \hspace{0.3cm} 10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U}\approx 14.2\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 1.7 \cdot 10^{-7}\hspace{0.05cm}.$$

Die optimalen Werte sind mit $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{d} \approx 16.2 \ \rm dB$ und $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{\rm U} \approx \ \rm 15.9 dB$ deutlich ausgeprägter als bei idealem Kanal.

Bei einem Vergleich der Störabstände ist allerdings zu berücksichtigen, dass hier $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 27 \ \rm dB$ zugrunde liegt; in der entsprechenden Grafik für den idealen Kanal wurde dagegen von $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 13 \ \rm dB$ ausgegangen.

Optimale Grenzfrequenz in Abhängigkeit der Kabeldämpfung

Optimale Grenzfrequenz und Systemwirkungsgrad in Abhängigkeit der charakteristischen Kabeldämpfung. Insbesondere gilt:
$\hspace{0.8cm} 10 · \lg \eta\hspace{0.05cm}(a_\star = 0 \ \rm dB) = -1.4 \ dB;$ $\hspace{0.8cm} 10 · \lg \eta\hspace{0.05cm}(a_\star = 80 \ \rm dB) = -78.2 \ dB;$

Wir betrachten weiter

ein Binärsystem mit NRZ–Sendeimpulsen ⇒ $E_{\rm B} = s_0^2 \cdot T$,
ein Koaxialkabel $H_{\rm K}(f)$, charakteristische Dämpfung $a_\star$,
einen Gauß–Gesamtfrequenzgang $H_{\rm G}(f) = H_{\rm K}(f) \cdot H_{\rm E}(f)$.

Die blauen Kreise (linke Achsenbeschriftung) markieren die optimale Grenzfrequenzen $f_\text{G, opt}$ für die jeweilige Kabeldämpfung $a_\star$.

Zusätzlich ist in der Grafik mit roten Quadraten der Systemwirkungsgrad (bei Spitzenwertbegrenzung) $\eta$ dargestellt, der das Verhältnis des mit der betrachteten Konfiguration erreichbaren SNR $\rho_{d}$ zum maximal möglichen S/N-Verhältnis $\rho_{d, \ {\rm max}}$ angibt.

Ersetzt man $\rho_d$ durch $\rho_{\rm U}$, also $p_{\rm S}$ durch $p_{\rm U}$, so kann der Systemwirkungsgrad wie folgt dargestellt werden:

$$\eta = \eta_{\rm A}=\frac{\rho_d}{\rho_{d, \hspace{0.05cm}{\rm max \hspace{0.05cm}|\hspace{0.05cm} A}}}= \frac{\rho_d}{2 \cdot E_{\rm B}/N_0}\approx \frac{\rho_{\rm U}}{2 \cdot E_{\rm B}/N_0}.$$

Man erkennt aus der Anordnung der blauen Kreise:

Die optimale Grenzfrequenz $f_\text{G, opt}$ hängt signifikant ab von der Stärke der Verzerrungen des Koaxialkabels, genauer gesagt: ausschließlich von der charakteristischen Kabeldämpfung $a_\star$ bei der halben Bitrate.
Je größer die Kabeldämpfung $a_\star$ und damit der Rauscheinfluss ist, um so niedriger ist die optimale Grenzfrequenz $f_\text{G, opt}$.
Allerdings ist stets $f_\text{G, opt} > 0.27/T$. Andernfalls wäre das Auge geschlossen, gleichbedeutend mit der "Worst–case"–Fehlerwahrscheinlichkeit $p_{\rm U} = 0.5$.

Diskutieren wir nun die Abhängigkeit des Systemwirkungsgrads $\eta$ (rote Quadrate) von der charakteristischen Kabeldämpfung $a_\star$. Die rechte Ordinate beginnt oben bei $0 \ \rm dB$ und erstreckt sich nach unten bis $-100 \ \rm dB$.

Wie nun an einigen Zahlenbeispielen verdeutlicht werden soll, vermeidet die Darstellung $\eta = \eta\hspace{0.05cm}(a_\star)$ einige Probleme, die sich aus dem großen Wertebereich von S/N–Verhältnissen ergeben:

Der Ordinatenwert $10 \cdot {\rm lg}\hspace{0.1cm} \eta\hspace{0.05cm}(a_\star = 0 \ \rm dB) = -1.4 \ \rm dB$ sagt aus, dass der bei idealem Kanal bestmögliche Gaußtiefpass mit Grenzfrequenz $f_\text{G} \cdot T = 0.8$ um $1.4 \ \rm dB$ schlechter ist als der optimale (Matched–Filter–) Empfänger.

Gehen wir von idealem Kanal $(a_\star = 0 \ \rm dB)$ und $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 10 \ \rm dB$ aus, so besagt die obige Gleichung auch, dass diese Konfiguration zu folgender (worst-case) Fehlerwahrscheinlichkeit führen wird:

$$10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U} = 10 \cdot {\rm lg}\hspace{0.1cm}{E_{\rm B}}/{N_0} + 10 \cdot {\rm lg}\hspace{0.1cm}(2) + 10 \cdot {\rm lg}\hspace{0.1cm}(\eta) \approx \approx 10\,{\rm dB} \hspace{0.1cm}+\hspace{0.1cm}3\,{\rm dB} \hspace{0.1cm}-\hspace{0.1cm}1.4\, {\rm dB}= 11.6\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 7 \cdot 10^{-5}\hspace{0.05cm}.$$

Soll diese (ungünstigste) Fehlerwahrscheinlichkeit $p_{\rm U} = 7 \cdot 10^{-5}$ ⇒ $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{\rm U} = 11.6 \ \rm dB$ beim Kanal mit der charakteristischen Kabeldämpfung $a_\star = 80 \ \rm dB$ nicht überschritten werden, so muss demnach für das Verhältnis $E_{\rm B}/N_0$ gelten:

\[10 \cdot {\rm lg}\hspace{0.1cm}{E_{\rm B}}/{N_0} \ge 11.6\,{\rm dB} \hspace{0.1cm}-3\,{\rm dB} \hspace{0.1cm}-\hspace{0.1cm}(-78.2)\,{\rm dB}= 86.8\,{\rm dB} \hspace{0.2cm} \Rightarrow \hspace{0.2cm}{E_{\rm B}}/{N_0}\approx 5 \cdot 10^{8}\hspace{0.05cm}.\]

Um dies zu erreichen, muss allerdings die Grenzfrequenz des Gaußtiefpasses entsprechend den blauen Kreisen in der Grafik auf $f_{\rm G}= 0.33/T$ herabgesetzt werden.

Aufgaben zum Kapitel

Aufgabe 3.3: Rauschen bei Kanalentzerrung

Aufgabe 3.3Z: Optimierung eines Koaxialkabelsystems