Digital Signal Transmission/Consideration of Channel Distortion and Equalization

1. Digital Signal Transmission
2. Impulsinterferenzen und Entzerrungsverfahren
3. Consideration of Channel Distortion and Equalization

• Previous page
• Next page

• Previous page
• Next page

Ideal channel equalizer

For a transmission system whose channel frequency response  $H_{\rm K}(f)$  causes severe distortion, we assume the following block diagram (upper graph) and equivalent circuit (lower graph).

Block diagram and equivalent circuit diagram for consideration of a channel frequency response

To these representations the following is to be noted:

• The receiver filter  $H_{\rm E}(f)$  is – at least mentally – composed of an  ideal equalizer  $1/H_{\rm K}(f)$  and a low-pass filter  $H_{\rm G}(f)$.  For the latter we use in this chapter exemplarily a Gaussian low-pass with the cutoff frequency  $f_{\rm G}$.
  

• If we now move the ideal equalizer – again purely mentally – to the left side of the noise addition point, nothing changes with respect to the S/N ratio at the sink and with respect to the error probability compared to the block diagram drawn above.
  

• From the equivalent circuit below it can be seen that the channel frequency response  $H_{\rm K}(f)$  does not change anything with respect to the signal component of the detection signal  $d_{\rm S}(t)$  – originating from the transmitted signal  $s(t)$  – if it is fully compensated with  $1/H_{\rm K}(f)$.  Thus, the signal component has exactly the same shape as calculated in the chapter  Error Probability with Intersymbol Interference. 
  

• The degradation due to the channel frequency response  $H_{\rm K}(f)$  is rather shown by a significant increase of the detection noise power, i.e. the variance of the signal  $d_{\rm N}(t)$  – originating from the noise signal  $n(t)$:

$$\sigma_d^2 = \frac{N_0}{2} \cdot \int_{-\infty}^{+\infty} |H_{\rm E}(f)|^2 \,{\rm d} f = \frac{N_0}{2} \cdot \int_{-\infty}^{+\infty} \frac{1}{|H_{\rm K}(f)|^2}\cdot |H_{\rm G}(f)|^2 \,{\rm d} f \hspace{0.05cm}.$$

• The prerequisite for a finite noise power  $\sigma_d^2$  is that the low-pass  $H_{\rm G}(f)$  attenuates the noise  $n(t)$  at (very) high frequencies more than it is raised by the ideal equalizer  $1/H_{\rm K}(f)$. 
  
  

Note:   The channel frequency response  $H_{\rm K}(f)$  can be equalized according to magnitude and phase, but only in a limited frequency range given by  $H_{\rm G}(f)$.  However, a complete phase equalization is only possible at the expense of a (frequency-independent) running time, which will not be considered further in the following.

$\text{Example 1:}$  We consider again a binary system with NRZ rectangular pulses and Gaussian receiver filter  $H_{\rm E}(f) = H_{\rm G}(f)$  with (normalized) cutoff frequency  $f_\text{G, opt} \cdot T = 0.4$.

• The middle graph shows the eye diagram of the signal component of the detection signal  $d_{\rm S}(t)$  for this case – i.e. without taking the noise into account.
• This is identical with the eye diagram shown in the chapter   Definition and statements of the eye diagram  in $\text{example 3}$ (right diagram).
  

Binary eye diagrams with intersymbol interferences

The left eye diagram is obtained for ideal channel, i.e., for  $H_{\rm K}(f) = 1$   ⇒   $1/H_{\rm K}(f) = 1$. It takes into account the AWGN noise, but here it was assumed to be very small,  $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 30 \ \rm dB$.  For this configuration, it was determined by simulation:

$$10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U}\approx 26.8\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}< 10^{-40}\hspace{0.05cm}.$$

In contrast, the right diagram applies to a   coaxial cable, where the characteristic cable attenuation  $a_\star = 40 \ \rm dB$.  This results in significantly worse system sizes for the same  $E_{\rm B}/N_0$: 

$$10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U}\approx -4.6\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 0.28\hspace{0.05cm}.$$

This result can be interpreted as follows:

• Assuming an ideal channel equalizer  $1/H_{\rm K}(f)$,  the same "eye diagram without noise" (left graph) results for the distorting channel as for the ideal channel  $H_{\rm K}(f) = 1$  (middle graph).
  

• Channel equalization  $1/H_{\rm K}(f)$  extremely amplifies the noise component. In the right-hand example, equally strong equalization is required over a wide frequency range because of the strong distortion.
• The noise power  $\sigma_d^2$  here is larger by a factor of  $1300$  than in the left constellation (no distortion   ⇒   no equalization). Thus, the error probability results in  $p_{\rm S}\approx p_{\rm U}\approx 50 \%$.
  

• An acceptable error probability results only with smaller noise power density  $N_0$. For example, with  $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 50 \ \rm dB$  $($instead of $30 \ \rm dB)$  the following result is obtained:

$$10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U} = -4.6 +20 \approx 15.4\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 2 \cdot 10^{-9} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm S} \ge p_{\rm U}/4 \approx 0.5 \cdot 10^{-9}\hspace{0.05cm}.$$

Increase of the noise power by linear equalization

The eye diagrams on the last section impressively document the increase of the noise power  $\sigma_d^2$  with unchanged vertical eye opening, if one compensates the channel frequency response  $H_{\rm K}(f)$  on the receiving side by its inverse. This result shall now be interpreted in terms of the noise power density  ${\it \Phi}_{d{\rm N}}(f)$  after the receiver filter (before the decision), with the following settings:

• Let the channel be a   coaxial cable  with the magnitude frequency response

$$|H_{\rm K}(f)| = {\rm exp}\left [- a_{\star}\cdot \sqrt{2 f T}\hspace{0.05cm} \right ]\hspace{0.2cm}{\rm with}\hspace{0.2cm} a_{\star} = 1.7\,\,{\rm Np}\hspace{0.2cm} ({\rm corresponding to} \hspace{0.2cm} 15\,\,{\rm dB}) \hspace{0.05cm}.$$

• The  ideal channel equalizer  $1/H_{\rm K}(f)$  compensates the channel frequency response completely. No statement is made here about the realization of the attenuation and phase equalization.
  

• For noise power limitation a  Gaussian low-pass filter  eingesetzt:

$$|H_{\rm G}(f)| = {\rm exp}\left [- \pi \cdot \left (\frac{f }{2 f_{\rm G}}\right )^2 \right ]\hspace{0.2cm}{\rm mit}\hspace{0.2cm} f_{\rm G} = 0.8/T \hspace{0.2cm} {\rm bzw.} \hspace{0.2cm} f_{\rm G} = 0.4/T \hspace{0.05cm}.$$

Damit gilt für die Rauschleistungsdichte vor dem Entscheider:

$${\it \Phi}_{d{\rm N}}(f) = \frac{N_0}{2} \cdot \frac{|H_{\rm G }(f)|^2}{|H_{\rm K}(f)|^2} = \frac{N_0}{2} \cdot {\rm exp}\left [2 \cdot a_{\star}\cdot \sqrt{2 f T} - {\pi}/{2} \cdot \left ({f }/{f_{\rm G}}\right )^2 \right ] \hspace{0.05cm}.$$

Rauschüberhöhung durch verzerrenden Kanal

Dieser Verlauf ist nebenstehend dargestellt für die beiden (normierten) Grenzfrequenzen

• $f_\text{G} \cdot T = 0.8$ (links) bzw.
• $f_\text{G} \cdot T = 0.4$ (rechts)

Beachten Sie, dass hier aus Darstellungsgründen die charakteristische Kabeldämpfung mit  $a_\star = 15 \ \rm dB$   $($entsprechend  $1.7 \ \rm Np)$  deutlich kleiner gewählt ist als beim rechten Augendiagramm im   $\text{Beispiel 1}$  auf der letzten Seite  $($gültig für  $a_\star = 40 \ \rm dB)$.
Betrachten wir zunächst die linke Grafik für die (normierte) Grenzfrequenz  $f_\text{G} \cdot T = 0.8$, die nach den Berechnungen im  letzten Kapitel  für den idealen Kanal   ⇒   $H_{\rm K}(f) = 1$  das Optimum darstellt.

• Gelb hinterlegt ist die konstante Rauschleistungsdichte  $N_0/2$  am Empfängereingang. Bei idealem Kanal wird diese durch das gaußförmige Empfangsfilter  $H_{\rm E}(f) = H_{\rm G}(f)$  begrenzt und ergibt die Detektionsrauschleistung  $\sigma_d^2$  (in der Grafik durch die blaue Fläche gekennzeichnet).
  

• Werden – wie bei leitungsgebundener Übertragung üblich – höhere Frequenzen stark gedämpft, so steigt  $|H_{\rm E}(f)| = |H_{\rm G}(f)|/|H_{\rm K}(f)|$  aufgrund des idealen Kanalentzerrers sehr stark an, bevor für  $f \cdot T \ge 0.6$  $($nur gültig für  $a_\star = 15 \ \rm dB$  und  $f_\text{G} \cdot T = 0.8)$  der dämpfende Einfluss des Gaußfilters wirksam wird.
  

• Die Rauschleistung  $\sigma_d^2$  ist nun gleich der Fläche unter der roten Kurve, die etwa um den Faktor  $28$  größer ist als die blaue Fläche. Die Auswirkungen dieser unterschiedlichen Rauschleistungen erkennt man auch in den Augendiagrammen auf der letzten Seite, allerdings für  $a_\star = 40 \ \rm dB$.
  
  

Die rechte Grafik zeigt die Rauschleistungsdichte  ${\it \Phi}_{d{\rm N}}(f)$  für die normierte Grenzfrequenz  $f_\text{G} \cdot T = 0.4$. Hier wird die Rauschleistung durch den idealen Kanalentzerrer nur noch um den Faktor  $9$  vergrößert (Verhältnis zwischen der Fläche unter der roten Kurve und der blauen Fläche).

$\text{Fazit:}$  Aus obiger Grafik und den bisherigen Erläuterungen geht bereits hervor, dass bei verzerrendem Kanal   ⇒   $H_{\rm K}(f) \ne 1$ die Grenzfrequenz  $f_\text{G} \cdot T = 0.8$  des Gaußtiefpasses $H_{\rm G}(f)$ nach dem idealen Kanalentzerrer  $1/H_{\rm K}(f)$  nicht mehr optimal sein wird.

Optimierung der Grenzfrequenz

Die Grafik zeigt die Störabstände in Abhängigkeit der Grenzfrequenz  $f_{\rm G}$  des gaußförmigen Gesamtfrequenzgangs  $H_{\rm G}(f) = H_{\rm K}(f) \cdot H_{\rm E}(f)$. Dieses Bild gilt für

• einen   koaxialen Übertragungskanal  mit der charakteristischen Kabeldämpfung  $a_\star = 15 \ \rm dB$,
  
• AWGN–Rauschen mit  $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 27 \ \rm dB$, wobei  $E_{\rm B} = s_0^2 \cdot T$  zu setzen ist   ⇒   NRZ–Rechteckimpulse.
  
  

Optimale Grenzfrequenz des GTP bei verzerrendem Kanal  $(a_\star = 15 \ \rm dB)$

Anmerkungen:

• Die Kreise zeigen die dB–Werte für  $10 \cdot {\rm lg}\hspace{0.1cm} \rho_d$   ⇒   "mittleres" Detektions–SNR (Maß für die mittlere Fehlerwahrscheinlichkeit  $p_{\rm S})$.
• Die Quadrate zeigen die dB–Werte für  $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{\rm U}$   ⇒   "ungünstigstes" SNR  $($Maß für die ungünstigste Fehlerwahrscheinlichkeit  $p_{\rm U})$.

Man erkennt aus dieser Darstellung und durch Vergleich mit der  entsprechenden Grafik  im letzten Kapitel, die für  $H_{\rm K}(f) = 1$  und  $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 13 \ \rm dB$  gegolten hat:

• Auch bei stark verzerrendem Kanal ist  $\rho_{\rm U}$  eine geeignete untere Schranke für  $\rho_d$   ⇒   $\rho_{d} \ge \rho_{\rm U}$. Entsprechend ist auch  $p_{\rm U} \ge p_{\rm S} $  eine sinnvolle obere Schranke für  $p_{\rm S}$.

• Bei der betrachteten Kabeldämpfung  $a_\star = 15 \ \rm dB$  ist die Grenzfrequenz  $f_\text{G} \cdot T \approx 0.55$  optimal und es gilt  $\ddot{o}/s_0 \approx 1.327$  sowie  $\sigma_d/s_0 \approx 0.106$.
• Daraus ergeben sich der (ungünstigste) Störabstand  $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{\rm U} \approx \ \rm 15.9 \ dB$  und die Worst–Case–Fehlerwahrscheinlichkeit  $p_{\rm U} \approx 2 \cdot 10^{-9}.$
  

• Eine kleinere Grenzfrequenz hätte eine deutlich kleinere Augenöffnung zur Folge, ohne dass dadurch auch  $\sigma_d$  gleichermaßen verkleinert würde. Für  $f_\text{G} \cdot T = 0.4$  gilt:

$$\ddot{o}/s_0 \approx 0.735,\hspace{0.2cm}\sigma_d/s_0 \approx 0.072\hspace{0.3cm}\Rightarrow \hspace{0.3cm} 10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U}\approx 14.1\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 1.8 \cdot 10^{-7}\hspace{0.05cm}.$$

• Ist die Grenzfrequenz  $f_\text{G}$  zu groß, so wird das Rauschen weniger effektiv begrenzt. Beispielsweise lauten die Werte für die Grenzfrequenz  $f_\text{G} \cdot T =0.8$:

$$\ddot{o}/s_0 \approx 1.819,\hspace{0.2cm}\sigma_d/s_0 \approx 0.178\hspace{0.3cm}\Rightarrow \hspace{0.3cm} 10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U}\approx 14.2\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 1.7 \cdot 10^{-7}\hspace{0.05cm}.$$

• Die optimalen Werte sind mit  $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{d} \approx 16.2 \ \rm dB$  und  $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{\rm U} \approx \ \rm 15.9 dB$  deutlich ausgeprägter als bei idealem Kanal.

Bei einem Vergleich der Störabstände ist allerdings zu berücksichtigen, dass hier  $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 27 \ \rm dB$  zugrunde liegt; in der  entsprechenden Grafik  für den idealen Kanal wurde dagegen von  $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 13 \ \rm dB$  ausgegangen.

Optimale Grenzfrequenz in Abhängigkeit der Kabeldämpfung

Optimale Grenzfrequenz und Systemwirkungsgrad in Abhängigkeit der charakteristischen Kabeldämpfung. Insbesondere gilt:
$\hspace{0.8cm} 10 · \lg \eta\hspace{0.05cm}(a_\star = 0 \ \rm dB) = -1.4 \ dB;$   $\hspace{0.8cm} 10 · \lg \eta\hspace{0.05cm}(a_\star = 80 \ \rm dB) = -78.2 \ dB;$

Wir betrachten weiter

• ein Binärsystem mit NRZ–Sendeimpulsen   ⇒   $E_{\rm B} = s_0^2 \cdot T$,
  
• ein Koaxialkabel $H_{\rm K}(f)$, charakteristische Dämpfung  $a_\star$,
  
• einen Gauß–Gesamtfrequenzgang  $H_{\rm G}(f) = H_{\rm K}(f) \cdot H_{\rm E}(f)$.

Die blauen Kreise (linke Achsenbeschriftung) markieren die optimale Grenzfrequenzen  $f_\text{G, opt}$  für die jeweilige Kabeldämpfung  $a_\star$.

Zusätzlich ist in der Grafik mit roten Quadraten der  Systemwirkungsgrad  (bei Spitzenwertbegrenzung)  $\eta$  dargestellt, der das Verhältnis des mit der betrachteten Konfiguration erreichbaren SNR  $\rho_{d}$  zum maximal möglichen S/N-Verhältnis  $\rho_{d, \ {\rm max}}$  angibt.

Ersetzt man  $\rho_d$  durch  $\rho_{\rm U}$, also  $p_{\rm S}$  durch  $p_{\rm U}$, so kann der Systemwirkungsgrad wie folgt dargestellt werden:

$$\eta = \eta_{\rm A}=\frac{\rho_d}{\rho_{d, \hspace{0.05cm}{\rm max \hspace{0.05cm}|\hspace{0.05cm} A}}}= \frac{\rho_d}{2 \cdot E_{\rm B}/N_0}\approx \frac{\rho_{\rm U}}{2 \cdot E_{\rm B}/N_0}.$$

Man erkennt aus der Anordnung der blauen Kreise:

• Die optimale Grenzfrequenz  $f_\text{G, opt}$  hängt signifikant ab von der Stärke der Verzerrungen des Koaxialkabels, genauer gesagt:   ausschließlich von der charakteristischen Kabeldämpfung  $a_\star$  bei der halben Bitrate.
• Je größer die Kabeldämpfung  $a_\star$  und damit der Rauscheinfluss ist, um so niedriger ist die optimale Grenzfrequenz  $f_\text{G, opt}$.
  
• Allerdings ist stets  $f_\text{G, opt} > 0.27/T$. Andernfalls wäre das Auge geschlossen, gleichbedeutend mit der "Worst–case"–Fehlerwahrscheinlichkeit  $p_{\rm U} = 0.5$.

Diskutieren wir nun die Abhängigkeit des Systemwirkungsgrads  $\eta$  (rote Quadrate) von der charakteristischen Kabeldämpfung  $a_\star$. Die rechte Ordinate beginnt oben bei  $0 \ \rm dB$  und erstreckt sich nach unten bis  $-100 \ \rm dB$.

Wie nun an einigen Zahlenbeispielen verdeutlicht werden soll, vermeidet die Darstellung  $\eta = \eta\hspace{0.05cm}(a_\star)$  einige Probleme, die sich aus dem großen Wertebereich von S/N–Verhältnissen ergeben:

• Der Ordinatenwert  $10 \cdot {\rm lg}\hspace{0.1cm} \eta\hspace{0.05cm}(a_\star = 0 \ \rm dB) = -1.4 \ \rm dB$  sagt aus, dass der bei idealem Kanal bestmögliche Gaußtiefpass mit Grenzfrequenz  $f_\text{G} \cdot T = 0.8$  um  $1.4 \ \rm dB$  schlechter ist als der optimale (Matched–Filter–) Empfänger.
  

• Gehen wir von idealem Kanal  $(a_\star = 0 \ \rm dB)$  und  $10 \cdot {\rm lg}\hspace{0.1cm} E_{\rm B}/N_0 = 10 \ \rm dB$  aus, so besagt die obige Gleichung auch, dass diese Konfiguration zu folgender (worst-case) Fehlerwahrscheinlichkeit führen wird:

$$10 \cdot {\rm lg}\hspace{0.1cm}\rho_{\rm U} = 10 \cdot {\rm lg}\hspace{0.1cm}{E_{\rm B}}/{N_0} + 10 \cdot {\rm lg}\hspace{0.1cm}(2) + 10 \cdot {\rm lg}\hspace{0.1cm}(\eta) \approx \approx 10\,{\rm dB} \hspace{0.1cm}+\hspace{0.1cm}3\,{\rm dB} \hspace{0.1cm}-\hspace{0.1cm}1.4\, {\rm dB}= 11.6\,{\rm dB} \hspace{0.3cm}\Rightarrow \hspace{0.3cm} p_{\rm U}\approx 7 \cdot 10^{-5}\hspace{0.05cm}.$$

• Soll diese (ungünstigste) Fehlerwahrscheinlichkeit  $p_{\rm U} = 7 \cdot 10^{-5}$   ⇒   $10 \cdot {\rm lg}\hspace{0.1cm} \rho_{\rm U} = 11.6 \ \rm dB$  beim Kanal mit der charakteristischen Kabeldämpfung  $a_\star = 80 \ \rm dB$  nicht überschritten werden, so muss demnach für das Verhältnis  $E_{\rm B}/N_0$  gelten:

\[10 \cdot {\rm lg}\hspace{0.1cm}{E_{\rm B}}/{N_0} \ge 11.6\,{\rm dB} \hspace{0.1cm}-3\,{\rm dB} \hspace{0.1cm}-\hspace{0.1cm}(-78.2)\,{\rm dB}= 86.8\,{\rm dB} \hspace{0.2cm} \Rightarrow \hspace{0.2cm}{E_{\rm B}}/{N_0}\approx 5 \cdot 10^{8}\hspace{0.05cm}.\]

• Um dies zu erreichen, muss allerdings die Grenzfrequenz des Gaußtiefpasses entsprechend den blauen Kreisen in der Grafik auf  $f_{\rm G}= 0.33/T$  herabgesetzt werden.
  

Aufgaben zum Kapitel

Aufgabe 3.3: Rauschen bei Kanalentzerrung

Aufgabe 3.3Z: Optimierung eines Koaxialkabelsystems