Difference between revisions of "Channel Coding/The Basics of Turbo Codes"

From LNTwww
m (Text replacement - "”" to """)
Line 1: Line 1:
 
   
 
   
 
{{Header
 
{{Header
|Untermenü=Iterative Decodierverfahren
+
|Untermenü=Iterative Decoding Methods
|Vorherige Seite=Grundlegendes zu den Produktcodes
+
|Vorherige Seite=The Basics of Product Codes
|Nächste Seite=Grundlegendes zu den Low–density Parity–check Codes
+
|Nächste Seite=The Basics of Low-Density Parity Check Codes
 
}}
 
}}
  
== Grundstruktur eines Turbocodes ==
+
== Basic structure of a turbo code ==
 
<br>
 
<br>
Alle heute (2017) aktuellen Kommunikationssysteme wie&nbsp; [[Examples_of_Communication_Systems/Allgemeine_Beschreibung_von_UMTS#.23_.C3.9CBERBLICK_ZUM_VIERTEN_HAUPTKAPITEL_.23|UMTS]]&nbsp; (<i>Universal Mobile Telecommunications System</i> &nbsp; &rArr; &nbsp;   3. Mobilfunkgeneration) und&nbsp; [[Mobile_Communications/Allgemeines_zum_Mobilfunkstandard_LTE#.23_.C3.9CBERSICHT_ZUM_VIERTEN_HAUPTKAPITEL_.23|LTE]]&nbsp; (<i>Long Term Evolution</i>&nbsp; &rArr; &nbsp; 4. Mobilfunkgeneration) verwenden das Konzept der&nbsp; [[Channel_Coding/Soft–in_Soft–out_Decoder#Symbolweise_Soft.E2.80.93in_Soft.E2.80.93out_Decodierung| symbolweisen iterativen Decodierung]]. Dass dies so ist, steht unmittelbar mit der Erfindung der&nbsp; ''Turbocodes''&nbsp; im Jahre 1993 durch&nbsp; [https://de.wikipedia.org/wiki/Claude_Berrou Claude Berrou],&nbsp; [https://de.wikipedia.org/wiki/Alain_Glavieux Alain Glavieux]&nbsp; und&nbsp; [https://scholar.google.com/citations?user=-UZolIAAAAAJ Punya Thitimajshima]&nbsp; in Zusammenhang, denn erst mit diesen Codes konnte man sich der Shannon&ndash;Grenze mit vertretbarem Decodieraufwand annähern.<br>
+
All communications systems current today (2017), such as&nbsp; [[Examples_of_Communication_Systems/General_Description_of_UMTS#.23_.C3.9CBERBLICK_ZUM_VIERTEN_HAUPTKAPITEL_.23|"UMTS"]]&nbsp; (<i>Universal Mobile Telecommunications System</i> &nbsp; &rArr; &nbsp; 3rd generation mobile communications) and&nbsp; [[Mobile_Communications/General_Information_on_the_LTE_Mobile_Communications_Standard#.23_OVERVIEW_OF_THE_FOURTH_MAIN_CHAPTER_.23|"LTE"]]&nbsp; (<i>Long Term Evolution</i>&nbsp; &rArr; &nbsp; 4th generation mobile communications) use the concept of&nbsp; [[Channel_Coding/Soft-in_Soft-Out_Decoder#Symbol-wise_soft-in_soft-out_decoding| "symbol-wise iterative decoding"]]. That this is so is directly related to the invention of&nbsp; ''turbo codes'''&nbsp; in 1993 by&nbsp; [https://en.wikipedia.org/wiki/Claude_Berrou "Claude Berrou"],&nbsp; [https://en.wikipedia.org/wiki/Alain_Glavieux "Alain Glavieux"]&nbsp; and&nbsp; [https://scholar.google.com/citations?user=-UZolIAAAAAJ "Punya Thitimajshima"]&nbsp; because it was only with these codes that the Shannon bound could be approached with reasonable decoding effort.<br>
  
Turbocodes ergeben sich durch die parallele oder serielle Verkettung von Faltungscodes. Die Grafik zeigt die parallele Verkettung zweier Codes, jeweils mit den Parametern&nbsp; $k = 1, \ n = 2$ &nbsp; &#8658; &nbsp; Rate $R = 1/2$.<br>
+
Turbo codes result from the parallel or serial concatenation of convolutional codes. The graphic shows the parallel concatenation of two codes, each with the parameters&nbsp; $k = 1, \ n = 2$ &nbsp; &#8658; &nbsp; Rate $R = 1/2$.<br>
  
[[File:P ID3034 KC T 4 3 S1a v1.png|center|frame|Parallele Verkettung zweier Rate–$1/2$–Codes|class=fit]]
+
[[File:P ID3034 KC T 4 3 S1a v1.png|center|frame|Parallel concatenation of two rate $1/2$ codes|class=fit]]
  
In dieser Darstellung bezeichnet:
+
In this representation:
* $u$&nbsp; das aktuell betrachtete Bit der Informationssequenz&nbsp; $\underline{u}$,<br>
+
* $u$&nbsp; the currently considered bit of the information sequence&nbsp; $\underline{u}$,<br>
  
* $x_{i,\hspace{0.03cm}j}$&nbsp; das aktuell betrachtete Bit am Ausgang&nbsp; $j$&nbsp; von Coder&nbsp; $i$&nbsp; $($mit&nbsp; $1 &#8804; i &#8804; 2, \ 1 &#8804; j &#8804; 2)$,<br>
+
* $x_{i,\hspace{0.03cm}j}$&nbsp; the currently considered bit at the output&nbsp; $j$&nbsp; of encoder&nbsp; $i$&nbsp; $($with&nbsp; $1 &#8804; i &#8804; 2, \ 1 &#8804; j &#8804; 2)$,<br>
  
* $\underline{X} = (x_{1,\hspace{0.03cm}1}, \ x_{1,\hspace{0.03cm}2}, \ x_{2,\hspace{0.03cm}1}, \ x_{2,\hspace{0.03cm}2})$&nbsp; das Codewort für das aktuelle Informationsbit&nbsp; $u$.<br><br>
+
* $\underline{X} = (x_{1,\hspace{0.03cm}1}, \ x_{1,\hspace{0.03cm}2}, \ x_{2,\hspace{0.03cm}1}, \ x_{2,\hspace{0.03cm}2})$&nbsp; the code word for the current information bit&nbsp; $u$.<br><br>
  
Die resultierende Rate des verketteten Codiersystems ist somit&nbsp; $R = 1/4$.<br>
+
The resulting rate of the concatenated coding system is thus&nbsp; $R = 1/4$.<br>
  
Verwendet man systematische Komponentencodes, so ergibt sich das folgende Modell:<br>
+
If systematic component codes are used, the following model results:<br>
  
[[File:P ID3035 KC T 4 3 S1b v1.png|center|frame|Rate–1/3–Turbocodierer (parallele Verkettung zweier Rate–$1/2$–Faltungscodes) |class=fit]]
+
[[File:P ID3035 KC T 4 3 S1b v1.png|center|frame|Rate $1/3$ turbo encoder (parallel concatenation of two rate $1/2$ convolutional codes) |class=fit]]
  
Die Modifikationen gegenüber der oberen Grafik lassen sich wie folgt begründen:
+
The modifications from the top graph can be justified as follows:
*Bei systematischen Codes&nbsp; $C_1$&nbsp; und&nbsp; $C_2$&nbsp; ist sowohl&nbsp; $x_{1,\hspace{0.03cm}1} = u$&nbsp; als auch&nbsp; $x_{2,\hspace{0.03cm}1} = u$. Deshalb kann man auf die Übertragung eines redundanten Bits&nbsp; $($zum Beispiel $x_{2,\hspace{0.03cm}2})$&nbsp; verzichten.
+
*For systematic codes&nbsp; $C_1$&nbsp; and&nbsp; $C_2$&nbsp; both&nbsp; $x_{1,\hspace{0.03cm}1} = u$&nbsp; and&nbsp; $x_{2,\hspace{0.03cm}1} = u$. Therefore, one can dispense with the transmission of a redundant bit&nbsp; $($for example $x_{2,\hspace{0.03cm}2})$&nbsp;.
  
*Mit dieser Reduktion ergibt sich ein Rate&ndash;$1/3$&ndash;Turbocode mit&nbsp; $k = 1$&nbsp; und&nbsp; $n = 3$. Das Codewort lautet mit den Paritybits&nbsp; $p_1$&nbsp; (Coder 1) und&nbsp; $p_2$&nbsp; (Coder 2):  
+
*With this reduction, the result is a rate&ndash;$1/3$&ndash;turbo code with&nbsp; $k = 1$&nbsp; and&nbsp; $n = 3$. The code word with the parity bits is&nbsp; $p_1$&nbsp; (encoder 1) and&nbsp; $p_2$&nbsp; (encoder 2):  
 
:$$\underline{X} = \left (u, \ p_1, \ p_2 \right )\hspace{0.05cm}.$$
 
:$$\underline{X} = \left (u, \ p_1, \ p_2 \right )\hspace{0.05cm}.$$
  
  
== Weitere Modifizierung der Turbocode&ndash;Grundstruktur ==
+
== Further modification of the basic structure of the turbo code==
 
<br>
 
<br>
Im Folgenden gehen wir stets von einem noch etwas weiter modifizierten Turbocoder&ndash;Modell aus:
+
In the following we always assume a still somewhat further modified turbo encoder model:
*Wie es für die Beschreibung von Faltungscodes erforderlich ist, liegt nun am Eingang anstelle des isolierten Informationsbits&nbsp; $u$&nbsp; die Informationssequenz&nbsp; $\underline{u} = (u_1, \ u_2, \ \text{...}\hspace{0.05cm} , \ u_i , \ \text{...}\hspace{0.05cm} )$&nbsp; an.<br>
+
*As required for the description of convolutional codes, now at the input instead of the isolated information bit&nbsp; $u$&nbsp; the information sequence&nbsp; $\underline{u} = (u_1, \ u_2, \ \text{...}\hspace{0.05cm} , \ u_i , \ \text{...}\hspace{0.05cm} )$&nbsp; an.<br>
  
*Die Codewortsequenz wird mit&nbsp; $\underline{x} = (\underline{X}_1, \underline{X}_2, \ \text{...}\hspace{0.05cm}  , \ \underline{X}_i, \ \text{...}\hspace{0.05cm} )$&nbsp; bezeichnet. Um Verwechslungen zu vermeiden, wurden vorne die Codeworte&nbsp; $\underline{X}_i = (u, \ p_1, \ p_2)$&nbsp; mit Großbuchstaben eingeführt.<br>
+
*The code word sequence is generated with&nbsp; $\underline{x} = (\underline{X}_1, \underline{X}_2, \ \text{...}\hspace{0.05cm}  , \ \underline{X}_i, \ \text{...}\hspace{0.05cm} )$&nbsp; denoted. To avoid confusion, the code words&nbsp; $\underline{X}_i = (u, \ p_1, \ p_2)$&nbsp; with capital letters were introduced in front.<br>
  
[[File:P ID3036 KC T 4 3 S1c v1.png|center|frame|Rate–$1/3$–Turbocodierer mit Interleaver|class=fit]]
+
[[File:P ID3036 KC T 4 3 S1c v1.png|center|frame|Rate $1/3$ turbo encoder with interleaver|class=fit]]
  
*Die Coder&nbsp; $\mathcal{C}_1$&nbsp; und&nbsp; $\mathcal{C}_2$&nbsp; werden (zumindest gedanklich) als&nbsp; [[Theory_of_Stochastic_Signals/Digitale_Filter| Digitale Filter]]&nbsp; konzipiert und sind somit durch die&nbsp; [[Channel_Coding/Algebraische_und_polynomische_Beschreibung#Anwendung_der_D.E2.80.93Transformation_auf_Rate.E2.80.931.2Fn.E2.80.93Faltungscoder| Übertragungsfunktionen]]&nbsp; $G_1(D)$&nbsp; und&nbsp; $G_2(D)$&nbsp; darstellbar.<br>
+
*The encoders&nbsp; $\mathcal{C}_1$&nbsp; and&nbsp; $\mathcal{C}_2$&nbsp; are conceived (at least in thought) as&nbsp; [[Theory_of_Stochastic_Signals/Digital_Filters| "digital filters"]]&nbsp; and are thus characterized by the&nbsp; [[Channel_Coding/Algebraic_and_Polynomial_Description#Application_of_the_D. E2.80.93transform_to_rate_.7F.27 .22.60UNIQ-MathJax160-QINU.60.22.27.7F_convolution_encoders| "transfer functions"]]&nbsp; $G_1(D)$&nbsp; and&nbsp; $G_2(D)$&nbsp; representable.<br>
  
*Aus verschiedenen Gründen &nbsp; &#8658; &nbsp; siehe&nbsp; [[Channel_Coding/Grundlegendes_zu_den_Turbocodes#Zweite_Voraussetzung_f.C3.BCr_Turbocodes:_Interleaving| übernächste Seite]]&nbsp; sollte die Eingangssequenz des zweiten Coders &nbsp; &#8658; &nbsp; $\underline{u}_{\pi}$&nbsp; gegenüber der Sequenz&nbsp; $\underline{u}$&nbsp; durch einen Interleaver&nbsp; $(\Pi)$&nbsp; verwürfelt sein.<br>
+
*For various reasons &nbsp; &#8658; &nbsp; see&nbsp; [[Channel_Coding/The_Basics_of_Turbo_Codes#Second_Requirement_f.C3. BCr_Turbocodes:_Interleaving| "two pages ahead"]]&nbsp; the input sequence of the second encoder &nbsp; &#8658; &nbsp; $\underline{u}_{\pi}$&nbsp; should be scrambled with respect to the sequence&nbsp; $\underline{u}$&nbsp; by an interleaver&nbsp; $(\Pi)$&nbsp; .<br>
  
*Somit spricht nichts dagegen, beide Coder gleich zu wählen: &nbsp; $G_1(D) = G_2(D) = G(D)$. Ohne Interleaver würde die Korrekturfähigkeit extrem eingeschränkt sein.<br><br>
+
*Thereby there is nothing against choosing both encoders the same: $G_1(D) = G_2(D) = G(D)$. Without interleaver the correction capability would be extremely limited.<br><br>
  
 
{{GraueBox|TEXT=   
 
{{GraueBox|TEXT=   
$\text{Beispiel 1:}$&nbsp; Die Grafik zeigt die verschiedenen Sequenzen in angepassten Farben. Anzumerken ist:
+
$\text{Example 1:}$&nbsp; The graph shows the different sequences in matched colors. To note:
#&nbsp;&nbsp; Für&nbsp; $\underline{u}_{\pi}$&nbsp; ist eine&nbsp; $3×4$&ndash;Interleaver&ndash;Matrix entsprechend&nbsp; [[Aufgaben:Aufgabe_4.08Z:_Grundlegendes_zum_Interleaving|Aufgabe 4.8Z]]&nbsp; berücksichtigt.
+
#&nbsp;&nbsp; For&nbsp; $\underline{u}_{\pi}$&nbsp; a&nbsp; $3×4$&ndash;interleaver matrix is considered according to&nbsp; [[Aufgaben:Exercise_4.08Z:_Basics_about_Interleaving|"Exercise 4.8Z"]]&nbsp;.
# &nbsp;&nbsp;<sub>&nbsp;</sub>Die Paritysequenzen ergeben sich gemäß&nbsp; $G_1(D) = G_2(D) = 1 + D^2$ &nbsp; &#8658; &nbsp; siehe&nbsp; [[Aufgaben:Aufgabe_4.08:_Wiederholung_zu_den_Faltungscodes|Aufgabe 4.8]].<br>
+
# &nbsp;&nbsp;<sub>&nbsp;</sub>The parity sequences are obtained according to&nbsp; $G_1(D) = G_2(D) = 1 + D^2$ &nbsp; &#8658; &nbsp; see&nbsp; [[Aufgaben:Exercise_4.08:_Repetition_to_the_Convolutional_Codes|"Exercise 4.8"]].<br>
  
[[File:P ID3037 KC T 4 3 S1d v2.png|center|frame|Beispielhafte Sequenzen beim Rate–$1/3$–Turbocodierer|class=fit]]}}
+
[[File:P ID3037 KC T 4 3 S1d v2.png|center|frame|Example sequences at the rate $1/3$ turbo encoder|class=fit]]}}
  
== Erste Voraussetzung für Turbocodes: Rekursive Komponentencodes ==
+
== First requirement for turbo codes: Recursive component codes ==
 
<br>
 
<br>
Nichtrekursive Übertragungsfunktionen zur Erzeugung der Paritysequenzen bewirken einen Turbocode mit unzureichend kleiner Minimaldistanz. Grund für diese Unzulänglichkeit ist die endliche Impulsantwort&nbsp; $\underline{g} = (1, \ g_2, \ \text{...}\hspace{0.05cm}  , \ g_m, \ 0, \ 0, \ \text{...}\hspace{0.05cm} )$&nbsp; mit&nbsp; $g_2, \ \text{...}\hspace{0.05cm}  , \ g_m &#8712; \{0, 1\}$. Hierbei  bezeichnet&nbsp; $m$&nbsp; das Codegedächtnis.<br>
+
Non-recursive transfer functions for generating the parity sequences cause a turbo code with insufficiently small minimum distance. The reason for this inadequacy is the finite impulse response&nbsp; $\underline{g} = (1, \ g_2, \ \text{...}\hspace{0.05cm}  , \ g_m, \ 0, \ 0, \ \text{...}\hspace{0.05cm} )$&nbsp; with&nbsp; $g_2, \ \text{...}\hspace{0.05cm}  , \ g_m &#8712; \{0, 1\}$. Here&nbsp; $m$&nbsp; denotes the code memory.<br>
  
Die Grafik zeigt das Zustandsübergangsdiagramm für das Beispiel&nbsp; $\mathbf{G}(D) = \big [1, \ 1 + D^2 \big ]$. Die Übergänge sind mit "$u_i\hspace{0.05cm}|\hspace{0.05cm}u_i p_i$" beschriftet.  
+
The graph shows the state transition diagram for the example&nbsp; $\mathbf{G}(D) = \big [1, \ 1 + D^2 \big ]$. The transitions are labeled "$u_i\hspace{0.05cm}|\hspace{0.05cm}u_i p_i$".  
*Die Abfolge&nbsp; $S_0 &#8594; S_1 &#8594; S_2 &#8594; S_0 &#8594; S_0 &#8594; S_0 &#8594; \ \text{...}\hspace{0.05cm} \ $&nbsp; führt bezüglich des Eingangs zur Informationssequenz&nbsp; $\underline{u} = (1, 0, 0, 0, 0, \ \text{...}\hspace{0.05cm})$&nbsp;  
+
*The sequence&nbsp; $S_0 &#8594; S_1 &#8594; S_2 &#8594; S_0 &#8594; S_0 &#8594; \ \text{...}\hspace{0.05cm} \ $&nbsp; with respect to the input, leads to the information sequence&nbsp; $\underline{u} = (1, 0, 0, 0, 0, \ \text{...}\hspace{0.05cm})$&nbsp;  
*und bezüglich des jeweils zweiten Codesymbols zur Paritysequenz &nbsp; $\underline{p} = (1, 0, 1, 0, 0, \ \text{...}\hspace{0.05cm})$&nbsp; &nbsp; &#8658; &nbsp; identisch mit der Impulsantwort&nbsp; $\underline{g}$ &nbsp; &#8658; &nbsp; Gedächtnis $m = 2$.<br>
+
*and with respect to the respective second code symbol to the parity sequence &nbsp; $\underline{p} = (1, 0, 1, 0, 0, \ \text{...}\hspace{0.05cm})$&nbsp; &nbsp; &#8658; &nbsp; identical to the impulse response&nbsp; $\underline{g}$ &nbsp; &#8658; &nbsp; memory $m = 2$.<br>
  
  
[[File:P ID3044 KC T 4 3 S2a v2.png|center|frame|Nichtrekursiver systematischer Turbocode und Zustandsübergangsdiagramm|class=fit]]
+
[[File:P ID3044 KC T 4 3 S2a v2.png|center|frame|Non-recursive systematic turbo code and state transition diagram|class=fit]]
  
Die untere Grafik gilt für einen so genannten&nbsp; '''RSC&ndash;Code'''&nbsp; (<i>Recursive Systematic Convolutional</i>) entsprechend&nbsp; $\mathbf{G}(D) = \big [1, \ (1+ D^2)/(1 + D + D^2)\big ]$.  
+
The lower graph applies to a so-called&nbsp; '''RSC code'''&nbsp; (<i>Recursive Systematic Convolutional</i>) correspondingly&nbsp; $\mathbf{G}(D) = \big [1, \ (1+ D^2)/(1 + D + D^2)\big ]$.  
*Hier führt die Folge&nbsp; $S_0 &#8594; S_1 &#8594; S_3 &#8594; S_2 &#8594; S_1 &#8594; S_3 &#8594; S_2 &#8594; \ \text{...}\hspace{0.05cm} \ $&nbsp; zur Impulsantwort&nbsp; $\underline{g} = (1, 1, 1, 0, 1, 1, 0, 1, 1, \ \text{...}\hspace{0.05cm})$.  
+
*Here the sequence&nbsp; $S_0 &#8594; S_1 &#8594; S_3 &#8594; S_2 &#8594; S_1 &#8594; S_3 &#8594; S_2 &#8594; \ \text{...}\hspace{0.05cm} \ $&nbsp; to the impulse response&nbsp; $\underline{g} = (1, 1, 1, 0, 1, 1, 0, 1, 1, \ \text{...}\hspace{0.05cm})$.  
*Diese Impulsantwort setzt sich aufgrund der Schleife&nbsp; $S_1 &#8594; S_3 &#8594; S_2 &#8594; S_1$ bis ins Unendliche fort. Dies ermöglicht bzw. erleichtert die iterative Decodierung.<br>
+
*This impulse response continues to infinity due to the loop&nbsp; $S_1 &#8594; S_3 &#8594; S_2 &#8594; S_1$. This enables or facilitates the iterative decoding.<br>
  
  
[[File:P ID3045 KC T 4 3 S2b v2.png|center|frame|Nichtrekursiver systematischer Turbocode und Zustandsübergangsdiagramm|class=fit]]
+
[[File:P ID3045 KC T 4 3 S2b v2.png|center|frame|Non-recursive systematic turbo code and state transition diagram|class=fit]]
  
Mehr Details zu den Beispielen auf dieser Seite finden Sie in der&nbsp; [[Aufgaben:Aufgabe_4.08Z:_Grundlegendes_zum_Interleaving|Aufgabe 4.8]]&nbsp; und der&nbsp; [[Aufgaben:Aufgabe_4.09:_Recursive_Systematic_Convolutional_Codes|Aufgabe 4.9]].<br>
+
More details on the examples on this page can be found in the&nbsp; [[Aufgaben:Exercise_4.08Z:_Basics_about_Interleaving|"Exercise 4.8"]]&nbsp; and the&nbsp; [[Aufgaben:Exercise_4.09:_Recursive_Systematic_Convolutional_Codes|"Exercise 4.9"]].<br>
  
== Zweite Voraussetzung für Turbocodes: Interleaving ==
+
== Second requirement for turbo codes: Interleaving ==
 
<br>
 
<br>
Es ist offensichtlich, dass bei&nbsp; $G_1(D) = G_2(D)$&nbsp; ein Interleaver&nbsp; $(\Pi)$&nbsp; unerlässlich ist. Ein weiterer Grund ist, dass die Apriori&ndash;Information als unabhängig vorausgesetzt wird. Somit sollten benachbarte (und somit möglicherweise stark abhängige) Bits für den jeweils anderen Teilcode weit auseinander liegen.<br>
+
It is obvious that for&nbsp; $G_1(D) = G_2(D)$&nbsp; an interleaver&nbsp; $(\Pi)$&nbsp; is essential. Another reason is that the apriori information is assumed to be independent. Thus, adjacent (and thus possibly strongly dependent) bits for the other subcode should be far apart.<br>
  
Für jeden RSC&ndash;Code &nbsp; &#8658; &nbsp; unendliche Impulsantwort&nbsp; $\underline{g}$ &nbsp; &#8658; &nbsp; gebrochen&ndash;rationale Übertragungsfunktion&nbsp; $G(D)$&nbsp; gibt es nämlich gewisse Eingangssequenzen&nbsp; $\underline{u}$, die zu sehr kurzen Paritysequenzen&nbsp; $\underline{p} = \underline{u} &#8727; \underline{g}$&nbsp; mit geringem Hamming&ndash;Gewicht&nbsp; $w_{\rm H}(\underline{p})$&nbsp; führen.   
+
Indeed, for any RSC code &nbsp; &#8658; &nbsp; infinite impulse response&nbsp; $\underline{g}$ &nbsp; &#8658; &nbsp; fractional&ndash;rational transfer function&nbsp; $G(D)$&nbsp; there are certain input sequences&nbsp; $\underline{u}$, which lead to very short parity sequences&nbsp; $\underline{p} = \underline{u} &#8727; \underline{g}$&nbsp; with low Hamming weight&nbsp; $w_{\rm H}(\underline{p})$&nbsp;.   
  
Eine solche Sequenz ist beispielsweise in der unteren Grafik auf der&nbsp; [[Channel_Coding/Grundlegendes_zu_den_Turbocodes#Erste_Voraussetzung_f.C3.BCr_Turbocodes:_Rekursive_Komponentencodes| letzten Seite]]&nbsp; angegeben: &nbsp; $\underline{u} = (1, 1, 1, 0, 0, \ \text{...}\hspace{0.05cm})$. Dann gilt für die Ausgangssequenz:
+
Eine solche Sequenz ist beispielsweise in der unteren Grafik auf der&nbsp; [[Channel_Coding/Grundlegendes_zu_den_Turbocodes#Erste_Voraussetzung_f.C3.BCr_Turbocodes:_Rekursive_Komponentencodes| "letzten Seite"]]&nbsp; angegeben: &nbsp; $\underline{u} = (1, 1, 1, 0, 0, \ \text{...}\hspace{0.05cm})$. Dann gilt für die Ausgangssequenz:
  
 
::<math>P(D) = U(D) \cdot G(D) = (1+D+D^2) \cdot \frac{1+D^2}{1+D+D^2}= 1+D^2\hspace{0.3cm}\Rightarrow\hspace{0.3cm}  \underline{p}= (\hspace{0.05cm}1\hspace{0.05cm},\hspace{0.05cm} 0\hspace{0.05cm},\hspace{0.05cm} 1\hspace{0.05cm},\hspace{0.05cm} 0\hspace{0.05cm},\hspace{0.05cm} 0\hspace{0.05cm},\hspace{0.05cm} \text{...}\hspace{0.05cm}\hspace{0.05cm})\hspace{0.05cm}. </math>
 
::<math>P(D) = U(D) \cdot G(D) = (1+D+D^2) \cdot \frac{1+D^2}{1+D+D^2}= 1+D^2\hspace{0.3cm}\Rightarrow\hspace{0.3cm}  \underline{p}= (\hspace{0.05cm}1\hspace{0.05cm},\hspace{0.05cm} 0\hspace{0.05cm},\hspace{0.05cm} 1\hspace{0.05cm},\hspace{0.05cm} 0\hspace{0.05cm},\hspace{0.05cm} 0\hspace{0.05cm},\hspace{0.05cm} \text{...}\hspace{0.05cm}\hspace{0.05cm})\hspace{0.05cm}. </math>

Revision as of 22:34, 14 November 2022

Basic structure of a turbo code


All communications systems current today (2017), such as  "UMTS"  (Universal Mobile Telecommunications System   ⇒   3rd generation mobile communications) and  "LTE"  (Long Term Evolution  ⇒   4th generation mobile communications) use the concept of  "symbol-wise iterative decoding". That this is so is directly related to the invention of  turbo codes'  in 1993 by  "Claude Berrou""Alain Glavieux"  and  "Punya Thitimajshima"  because it was only with these codes that the Shannon bound could be approached with reasonable decoding effort.

Turbo codes result from the parallel or serial concatenation of convolutional codes. The graphic shows the parallel concatenation of two codes, each with the parameters  $k = 1, \ n = 2$   ⇒   Rate $R = 1/2$.

Parallel concatenation of two rate $1/2$ codes

In this representation:

  • $u$  the currently considered bit of the information sequence  $\underline{u}$,
  • $x_{i,\hspace{0.03cm}j}$  the currently considered bit at the output  $j$  of encoder  $i$  $($with  $1 ≤ i ≤ 2, \ 1 ≤ j ≤ 2)$,
  • $\underline{X} = (x_{1,\hspace{0.03cm}1}, \ x_{1,\hspace{0.03cm}2}, \ x_{2,\hspace{0.03cm}1}, \ x_{2,\hspace{0.03cm}2})$  the code word for the current information bit  $u$.

The resulting rate of the concatenated coding system is thus  $R = 1/4$.

If systematic component codes are used, the following model results:

Rate $1/3$ turbo encoder (parallel concatenation of two rate $1/2$ convolutional codes)

The modifications from the top graph can be justified as follows:

  • For systematic codes  $C_1$  and  $C_2$  both  $x_{1,\hspace{0.03cm}1} = u$  and  $x_{2,\hspace{0.03cm}1} = u$. Therefore, one can dispense with the transmission of a redundant bit  $($for example $x_{2,\hspace{0.03cm}2})$ .
  • With this reduction, the result is a rate–$1/3$–turbo code with  $k = 1$  and  $n = 3$. The code word with the parity bits is  $p_1$  (encoder 1) and  $p_2$  (encoder 2):
$$\underline{X} = \left (u, \ p_1, \ p_2 \right )\hspace{0.05cm}.$$


Further modification of the basic structure of the turbo code


In the following we always assume a still somewhat further modified turbo encoder model:

  • As required for the description of convolutional codes, now at the input instead of the isolated information bit  $u$  the information sequence  $\underline{u} = (u_1, \ u_2, \ \text{...}\hspace{0.05cm} , \ u_i , \ \text{...}\hspace{0.05cm} )$  an.
  • The code word sequence is generated with  $\underline{x} = (\underline{X}_1, \underline{X}_2, \ \text{...}\hspace{0.05cm} , \ \underline{X}_i, \ \text{...}\hspace{0.05cm} )$  denoted. To avoid confusion, the code words  $\underline{X}_i = (u, \ p_1, \ p_2)$  with capital letters were introduced in front.
Rate $1/3$ turbo encoder with interleaver
  • The encoders  $\mathcal{C}_1$  and  $\mathcal{C}_2$  are conceived (at least in thought) as  "digital filters"  and are thus characterized by the  "transfer functions"  $G_1(D)$  and  $G_2(D)$  representable.
  • For various reasons   ⇒   see  "two pages ahead"  the input sequence of the second encoder   ⇒   $\underline{u}_{\pi}$  should be scrambled with respect to the sequence  $\underline{u}$  by an interleaver  $(\Pi)$  .
  • Thereby there is nothing against choosing both encoders the same: $G_1(D) = G_2(D) = G(D)$. Without interleaver the correction capability would be extremely limited.

$\text{Example 1:}$  The graph shows the different sequences in matched colors. To note:

  1.    For  $\underline{u}_{\pi}$  a  $3×4$–interleaver matrix is considered according to  "Exercise 4.8Z" .
  2.    The parity sequences are obtained according to  $G_1(D) = G_2(D) = 1 + D^2$   ⇒   see  "Exercise 4.8".
Example sequences at the rate $1/3$ turbo encoder

First requirement for turbo codes: Recursive component codes


Non-recursive transfer functions for generating the parity sequences cause a turbo code with insufficiently small minimum distance. The reason for this inadequacy is the finite impulse response  $\underline{g} = (1, \ g_2, \ \text{...}\hspace{0.05cm} , \ g_m, \ 0, \ 0, \ \text{...}\hspace{0.05cm} )$  with  $g_2, \ \text{...}\hspace{0.05cm} , \ g_m ∈ \{0, 1\}$. Here  $m$  denotes the code memory.

The graph shows the state transition diagram for the example  $\mathbf{G}(D) = \big [1, \ 1 + D^2 \big ]$. The transitions are labeled "$u_i\hspace{0.05cm}|\hspace{0.05cm}u_i p_i$".

  • The sequence  $S_0 → S_1 → S_2 → S_0 → S_0 → \ \text{...}\hspace{0.05cm} \ $  with respect to the input, leads to the information sequence  $\underline{u} = (1, 0, 0, 0, 0, \ \text{...}\hspace{0.05cm})$ 
  • and with respect to the respective second code symbol to the parity sequence   $\underline{p} = (1, 0, 1, 0, 0, \ \text{...}\hspace{0.05cm})$    ⇒   identical to the impulse response  $\underline{g}$   ⇒   memory $m = 2$.


Non-recursive systematic turbo code and state transition diagram

The lower graph applies to a so-called  RSC code  (Recursive Systematic Convolutional) correspondingly  $\mathbf{G}(D) = \big [1, \ (1+ D^2)/(1 + D + D^2)\big ]$.

  • Here the sequence  $S_0 → S_1 → S_3 → S_2 → S_1 → S_3 → S_2 → \ \text{...}\hspace{0.05cm} \ $  to the impulse response  $\underline{g} = (1, 1, 1, 0, 1, 1, 0, 1, 1, \ \text{...}\hspace{0.05cm})$.
  • This impulse response continues to infinity due to the loop  $S_1 → S_3 → S_2 → S_1$. This enables or facilitates the iterative decoding.


Non-recursive systematic turbo code and state transition diagram

More details on the examples on this page can be found in the  "Exercise 4.8"  and the  "Exercise 4.9".

Second requirement for turbo codes: Interleaving


It is obvious that for  $G_1(D) = G_2(D)$  an interleaver  $(\Pi)$  is essential. Another reason is that the apriori information is assumed to be independent. Thus, adjacent (and thus possibly strongly dependent) bits for the other subcode should be far apart.

Indeed, for any RSC code   ⇒   infinite impulse response  $\underline{g}$   ⇒   fractional–rational transfer function  $G(D)$  there are certain input sequences  $\underline{u}$, which lead to very short parity sequences  $\underline{p} = \underline{u} ∗ \underline{g}$  with low Hamming weight  $w_{\rm H}(\underline{p})$ .

Eine solche Sequenz ist beispielsweise in der unteren Grafik auf der  "letzten Seite"  angegeben:   $\underline{u} = (1, 1, 1, 0, 0, \ \text{...}\hspace{0.05cm})$. Dann gilt für die Ausgangssequenz:

\[P(D) = U(D) \cdot G(D) = (1+D+D^2) \cdot \frac{1+D^2}{1+D+D^2}= 1+D^2\hspace{0.3cm}\Rightarrow\hspace{0.3cm} \underline{p}= (\hspace{0.05cm}1\hspace{0.05cm},\hspace{0.05cm} 0\hspace{0.05cm},\hspace{0.05cm} 1\hspace{0.05cm},\hspace{0.05cm} 0\hspace{0.05cm},\hspace{0.05cm} 0\hspace{0.05cm},\hspace{0.05cm} \text{...}\hspace{0.05cm}\hspace{0.05cm})\hspace{0.05cm}. \]

$\text{Sinn und Zweck:}$  Durch  $\rm Interleaving$  (deutsch:   Verwürfelung) wird nun mit großer Wahrscheinlichkeit sichergestellt, dass diese Sequenz  $\underline{u} = (1, 1, 1, 0, 0, \ \text{...}\hspace{0.05cm})$  in eine Sequenz  $\underline{u}_{\pi}$  gewandelt wird,

  • die zwar ebenfalls nur drei Einsen beinhaltet,
  • deren Ausgangssequenz aber durch ein großes Hamming–Gewicht  $w_{\rm H}(\underline{p})$  gekennzeichnet ist.

Somit gelingt es dem Decoder, solche "Problemsequenzen" iterativ aufzulösen.


Zur Verdeutlichung von Block–Interleaving

Zur folgenden Beschreibung der Interleaver verwendet wir die Zuordnung  $I_{\rm In} → I_{\rm Out}$. Diese Bezeichnungen stehen für die Indizes von Ausgangs– bzw. Eingangsfolge. Die Interleavergröße wird mit  $I_{\rm max}$  benannt.

Es gibt mehrere, grundsätzlich verschiedene Interleaver–Konzepte:

Bei einem  Block–Interleaver  füllt man eine Matrix mit  $S$  Spalten und  $Z$  Zeilen spaltenweise und liest die Matrix zeilenweise aus. Damit wird ein Informationsblock mit  $I_{\rm max} = S \cdot Z$  Bit deterministisch verwürfelt.

Die rechte Grafik verdeutlicht das Prinzip für  $I_{\rm max} = 64$   ⇒   $1 ≤ I_{\rm In} \le 64$  und  $1 ≤ I_{\rm Out} \le 64$. Die Reihenfolge der Ausgangsbits lautet dann:   $1, 9, 17, 25, 33, 41, 49, 57, 2, 10, 18, \ \text{...}\hspace{0.05cm} , 48, 56, 64.$

Mehr Informationen zum Block–Interleaving gibt es in der  Aufgabe 4.8Z.

Zur Verdeutlichung von  $S$–Random–Interleaving





Turbocodes verwenden oft den  $S$–Random–Interleaver. Dieser pseudozufällige Algorithmus mit dem Parameter "$S$" garantiert, dass zwei am Eingang weniger als  $S$  auseinander liegende Indizes am Ausgang mindestens im Abstand  $S + 1$  auftreten. Die linke Grafik zeigt die  $S$–Random–Kennlinie  $I_{\rm Out}(I_{\rm In})$  für  $I_{\rm max} = 640$.

  • Auch dieser Algorithmus ist deterministisch, und man kann die Verwürfelung im Decoder rückgängig machen ⇒ De–Interleaving.
  • Die Verteilung wirkt trotzdem "zufälliger" als bei Block–Interleaving.


Symbolweise iterative Decodierung eines Turbocodes


Die Decodierung eines Turbocodes geschieht grundsätzlich wie im Abschnitt  Symbolweise Soft–in Soft–out_Decodierung  beschrieben. Aus der folgenden Grafik erkennt man aber auch einige nur für den Turbodecoder zutreffende Besonderheiten.

Iterativer Turbodecoder für die Rate  $R = 1/3$

Vorausgesetzt ist ein Rate–$1/3$–Turbocode entsprechend der Beschreibung auf der  ersten Seite dieses Abschnitts. Auch die Farbgebung für die Informationssequenz  $\underline{u}$  und die beiden Paritysequenzen  $\underline{p}_1$  und  $\underline{p}_2$  sind an die früheren Grafiken angepasst. Weiter ist zu bemerken:

  • Die Empfangsvektoren  $\underline{y}_0, \underline{y}_1$  und  $\underline{y}_2$  sind reellwertig und liefern die jeweilige Soft–Information bezüglich der Informationssequenz  $\underline{u}$  sowie der Sequenzen  $\underline{p}_1$  (Parity für Coder 1) und  $\underline{p}_2$  (Parity für Coder 2).
  • Der Decoder 1 erhält die erforderliche intrinsische Information in Form der  $L$–Werte $L_{\rm K,\hspace{0.03cm} 0}$  $($aus  $\underline{y}_0)$  und  $L_{\rm K,\hspace{0.03cm}1}$ $($aus  $\underline{y}_1)$  über jedes einzelne Bit der Sequenzen  $\underline{u}$  und  $\underline{p}_1$. Beim zweiten Decoder ist die Verwürfelung der Informationssequenz  $\underline{u}$  zu berücksichtigen. Die zu verarbeitenden  $L$–Werte sind somit  $\pi(L_{\rm K, \hspace{0.03cm}0})$  und  $L_{\rm K, \hspace{0.03cm}2}$.
  • Beim allgemeinen  SISO–Decoder  wurde der Informationsaustausch zwischen den beiden Komponentendecodern mit  $\underline{L}_{\rm A, \hspace{0.03cm}2} = \underline{L}_{\rm E, \hspace{0.03cm}1}$  sowie  $\underline{L}_{\rm A, \hspace{0.03cm}1} = \underline{L}_{\rm E, \hspace{0.03cm}2}$  angegeben. Ausgeschrieben auf Bitebene bedeuten diese Gleichungen mit  $1 ≤ i ≤ n$:
\[L_{\rm A, \hspace{0.03cm}2}(i) = L_{\rm E, \hspace{0.03cm}1}(i) \hspace{0.5cm}{\rm bzw.}\hspace{0.5cm} L_{\rm A, \hspace{0.03cm}1}(i) = L_{\rm E, \hspace{0.03cm}2}(i) \hspace{0.03cm}.\]
  • Beim Turbodecoder muss bei diesem Informationsaustausch auch der Interleaver berücksichtigt werden. Dann gilt für  $i = 1, \ \text{...}\hspace{0.05cm} , \ n$:
\[L_{\rm A, \hspace{0.03cm}2}\left ({\rm \pi}(i) \right ) = L_{\rm E, \hspace{0.03cm}1}(i) \hspace{0.5cm}{\rm bzw.}\hspace{0.5cm} L_{\rm A, \hspace{0.03cm}1}(i) = L_{\rm E, \hspace{0.03cm}2}\left ({\rm \pi}(i) \right ) \hspace{0.05cm}.\]
  • Der Aposteriori–$L$–Wert wird in obigem Modell (willkürlich) vom Decoder 1 abgegeben. Dies lässt sich damit begründen, dass eine Iteration für einen zweifachen Informationsaustausch steht.

Leistungsfähigkeit der Turbocodes


Bit– und Blockfehlerwahrscheinlichkeit von Turbocodes beim AWGN–Kanal

Wir betrachten wie auf den letzten Seiten den Rate–$1/$3–Turbocode

  • mit gleichen Filterfunktionen  $G_1(D) = G_2(D) = (1 + D^2)/(1 + D + D^2)$   ⇒   Gedächtnis  $m = 2$,
  • mit der Interleavergröße  $K$; zunächst gelte  $K = 10000,$
  • eine ausreichende Anzahl an Iterationen  $(I = 20)$, vom Ergebnis her nahezu gleichzusetzen mit "$I → ∞$".

Die beiden RSC–Komponentencodes sind jeweils auf  $K$  Bit terminiert. Deshalb gruppieren wir

  • die Informationssequenz  $\underline{u}$  zu Blöcken mit je  $K$  Informationsbits, und
  • die Codesequenz $\underline{x}$ zu Blöcken mit je  $N = 3 \cdot K$  Codebits.

Alle Ergebnisse gelten für den  AWGN–Kanal. Die Daten entstammen dem Vorlesungsskript  [Liv15][1].

Die Grafik zeigt als grüne Kurve die  Blockfehlerwahrscheinlichkeit   ⇒   ${\rm Pr(Blockfehler)}$  in doppelt–logarithmischer Darstellung in Abhängigkeit der AWGN–Kenngröße  $10 \cdot {\rm lg} \, (E_{\rm B}/N_0)$. Man erkennt:

  • Die mit Kreuzen markierten Punkte ergaben sich aus den Gewichtsfunktionen des Turbocodes mit Hilfe der  "Union Bound". Die Simulationsergebnisse – in der Grafik durch Kreise markiert – sind nahezu deckungsgleich mit den analytisch berechneten Werten.
  • Die "Union Bound" ist nur eine obere Schranke, basierend auf Maximum–Likelihood–Decodierung ("ML"). Der iterative Decoder ist suboptimal (also schlecher als "ML"). Diese beiden Effekte heben sich scheinbar nahezu auf.
  • Etwa bei  $10 \cdot {\rm lg} \, (E_{\rm B}/N_0) = 1 \ \rm dB$  ist ein Knick im (grünen) Kurvenverlauf festzustellen, der mit der Steigungsänderung von  ${\rm Pr(Bitfehler)}$   ⇒   blaue Kurve korrespondiert.

Die blauen Kreuze (Berechnung) und die blauen Kreise (Simulation) bezeichnen die  Bitfehlerwahrscheinlichkeit  für die Interleavergröße  $K = 10000$ . Als Vergleichskurve eingezeichnet ist die (strichpunktierte) Kurve für uncodierte Übertragung. Zu diesen blauen Kurven ist anzumerken:

  • Bei kleinen Abszissenwerten ist der Kurvenabfall in der gewählten Darstellung nahezu linear und ausreichend steil. Zum Beispiel benötigt man für  ${\rm Pr(Bitfehler)} = 10^{-5}$  mindestens  $10 \cdot {\rm lg} \, (E_{\rm B}/N_0) \approx \, 0.8 \ \rm dB$.
  • Im Vergleich zur  Shannon–Grenze, die sich für die Coderate  $R = 1/3$  zu  $10 \cdot {\rm lg} \, (E_{\rm B}/N_0) \approx \, –0.55 \ \rm dB$  ergibt, liegt unser Standard–Turbocode  $($mit Gedächtnis  $m = 2)$  nur etwa  $1.35 \ \rm dB$  entfernt.
  • Ab  $10 \cdot {\rm lg} \, (E_{\rm B}/N_0) \approx 0.5 \ \rm dB$  verläuft die Kurve flacher. Ab ca.  $1.5 \ \rm dB$  ist der Verlauf wieder (nahezu) linear mit geringerer Steigung. Für  ${\rm Pr(Bitfehler)} = 10^{-7}$  benötigt man etwa  $10 \cdot {\rm lg} \, (E_{\rm B}/N_0) = 3 \ \rm dB$.

Wir versuchen nun, den flacheren Abfall der Bitfehlerwahrscheinlichkeit bei größerem  $E_{\rm B}/N_0$  zu erklären. Man spricht von einem  $\text{Error Floor}$:

  • Der Grund für dieses asymptotisch schlechtere Verhalten bei besserem Kanal  $($im Beispiel:   ab  $10 \cdot {\rm lg} \, E_{\rm B}/N_0 \approx 2 \ \rm dB)$  ist die Periode  $P$  der Coderimpulsantwort  $\underline{g}$, wie auf der Seite  Interleaving  nachgewiesen und in der  Aufgabe 4.10  an Beispielen erläutert.
  • Für  $m = 2$  ist die Periode $P = 2^m -1 = 3$. Dadurch ist für $\underline{u} = (1, 1, 1) ⇒ w_{\rm H}(\underline{u}) = 3$  trotz unbegrenzter Impulsantwort  $\underline{g}$  die Paritysequenz begrenzt:   $\underline{p} = (1, 0, 1)$   ⇒   $w_{\rm H}(\underline{p}) = 2$.
  • Die Sequenz  $\underline{u} = (0, \ \text{...}\hspace{0.05cm} , \ 0, \ 1, \ 0, \ 0, \ 1, \ 0, \ \text{...}\hspace{0.05cm})$   ⇒   $U(D) = D^x \cdot (1 + D^P)$  führt ebenfalls zu einem kleinen Hamming–Gewicht  $w_{\rm H}(\underline{p})$  am Ausgang, was den iterativen Decodierprozess erschwert.
  • Eine gewisse Abhilfe schafft der Interleaver, der dafür sorgt, dass nicht die beiden Sequenzen  $\underline{p}_1$  und  $\underline{p}_2$  gleichzeitig durch sehr kleine Hamming–Gewichte  $w_{\rm H}(\underline{p}_1)$  und  $w_{\rm H}(\underline{p}_2)$  belastet sind.
  • Aus der Grafik erkennt man auch, dass die Bitfehlerwahrscheinlichkeit umgekehrt proportional zur Interleavergröße  $K$  ist. Das heißt:   Bei großem  $K$  funktioniert die Entspreizung ungünstiger Eingangssequenzen besser.
  • Allerdings gilt die Näherung  $K \cdot {\rm Pr(Bitfehler) = const.}$  nur für größere  $E_{\rm B}/N_0$–Werte   ⇒   kleine Bitfehlerwahrscheinlichkeiten. Der beschriebene Effekt tritt zwar auch bei kleinerem  $E_{\rm B}/N_0$  auf, doch sind dann die Auswirkungen auf die Bitfehlerwahrscheinlichkeit geringer.

Dagegen gilt der flachere Verlauf der Blockfehlerwahrscheinlichkeit (grüne Kurve) weitgehend unabhängig von der Interleavergröße  $K$, also sowohl für  $K = 1000$  als auch für  $K = 10000$. Im Bereich ab  $10 \cdot {\rm lg} \, E_{\rm B}/N_0 > 2 \ \rm dB$  dominieren nämlich Einzelfehler, so dass hier die Näherung  ${\rm Pr(Blockfehler)} \approx {\rm Pr(Bitfehler)} \cdot K$  gültig ist.

$\text{Fazit:}$  Die beispielhaft gezeigten Kurven für Bitfehlerwahrscheinlichkeit und Blockfehlerwahrscheinlichkeit gelten qualitativ auch für  $m > 2$, zum Beispiel für den Turbocode von UMTS und LTE  $($jeweils mit  $m = 3)$, der in der  Aufgabe 4.10  analysiert wird. Es ergeben sich aber einige quantitative Unterschiede:

  • Die Kurve verläuft bei kleinem  $E_{\rm B}/N_0$  steiler und der Abstand von der Shannongrenze ist etwas geringer als im hier gezeigten Beispiel für  $m = 2$.
  • Auch für größeres  $m$  gibt es einen Error Floor. Der Knick in den dargestellten Kurven erfolgt dann aber später, also bei kleineren Fehlerwahrscheinlichkeiten.


Seriell verkettete Turbocodes – SCCC


Die bisher betrachteten Turbocodes werden manchmal auch als  Parallel Concatenated Convolutional Codes  (PCCC) bezeichnet.

Einige Jahre nach Berrou's Erfindung wurden von anderen Autoren auch  Serial Concatenated Convolutional Codes  (SCCC) entsprechend der folgenden Grafik vorgeschlagen.

  • Die Informationssequenz  $\underline{u}$  liegt am äußeren Faltungscoder  $\mathcal{C}_1$  an. Dessen Ausgangssequenz sei  $\underline{c}$.
  • Nach dem Interleaver  $(\Pi)$  folgt der innere Faltungscoder  $\mathcal{C}_2$. Die Codesequenz wird hier  $\underline{x}$  genannt.
  • Die resultierende Coderate ist  $R = R_1 \cdot R_2$. Bei Rate–$1/2$–Komponentencodes ist  $R = 1/4$.

Serial Concatenated Convolutional Codes (SCCC): Coder und Decoder

Die untere Grafik zeigt den SCCC–Decoder und verdeutlicht die Verarbeitung der  $L$–Werte und den Austausch der extrinsischen Information zwischen den beiden Komponentencoder:

  • Der innere Decoder  (für den Code  $\mathcal{C}_2)$  erhält vom Kanal die intrinsische Information  $\underline{L}_{\rm K}(\underline{x})$  und vom äußeren Decoder (nach Interleaving) die Apriori–Information  $\underline{L}_{\rm A}(\underline{w})$  mit  $\underline{w} = \pi(\underline{c})$. An den äußeren Decoder wird die extrinsische Information  $\underline{L}_{\rm E}(\underline{w})$  abgegeben.
  • Der äußere Decoder $($für  $\mathcal{C}_1)$  verarbeitet die Apriori–Information  $\underline{L}_{\rm A}(\underline{c})$, also die extrinsische Information  $\underline{L}_{\rm E}(\underline{w})$  nach dem De–Interleaving. Er liefert die extrinsische Information  $\underline{L}_{\rm E}(\underline{c})$.
  • Nach hinreichend vielen Iterationen ergibt sich das das gewünschte Decodierergebnis in Form der Aposteriori–$L$–Werte  $\underline{L}_{\rm APP}(\underline{u})$  der Informationssequenz  $\underline{u}$.

$\text{Fazit:}$  Wichtig für Serial Concatenated Convolutional Codes (SCCC) ist, dass der innere Code  $\mathcal{C}_2$  rekursiv ist (also ein RSC–Code). Der äußere Code  $\mathcal{C}_1$  kann auch nichtrekursiv sein.

Zur Leistungsfähigkeit solcher Codes ist anzumerken:

  • Ein SCCC ist bei großem  $E_{\rm B}/N_0$  oft besser als ein PCCC  ⇒  niedrigerer Error Floor. Die Aussage gilt schon für SCCC–Komponentencodes mit Gedächtnis  $m = 2$  (nur vier Trelliszustände), während bei PCCC das Gedächtnis  $m = 3$  bzw.  $m = 4$  (acht bzw. sechzehn Trelliszustände) sein sollte.
  • Im unteren Bereich $($kleines  $E_{\rm B}/N_0)$  ist dagegen der beste seriell verkettete Faltungscode (SCCC) um einige Zehntel Dezibel schlechter als der vergleichbare Turbocode gemäß Berrou (PCCC). Entsprechend größer ist auch der Abstand von der Shannongrenze.



Einige Anwendungsgebiete für Turbocodes


Einige standardisierte Turbocodes im Vergleich zur Shannon–Grenze

In fast allen neueren Kommunikationssystemen werden Turbocodes eingesetzt. Die Grafik zeigt deren Leistungsfähigkeit beim AWGN–Kanal im Vergleich zur  Shannonschen Kanalkapazität  (blaue Kurve).

Der grün hinterlegte Bereich "BPSK" gibt die Shannongrenze für Nachrichtensysteme mit binärem Eingang an, mit der nach dem  Kanalcodierungstheorem  eine fehlerfreie Übertragung gerade noch möglich ist.

Anzumerken ist, dass hier für die eingezeichneten Kanalcodes von standardisierten Systemen die Fehlerrate  $10^{-5}$  zugrunde liegt, während die informationstheoretischen Kapazitätskurven (Shannon, BPSK) für die Fehlerwahrscheinlichkeit  $0$  gelten.

  • Die blauen Rechtecke markieren die Turbocodes für UMTS. Diese sind Rate–$1/3$–Codes mit Gedächtnis  $m = 3$. Die Leistungsfähigkeit hängt stark von der Interleavergröße ab. Mit  $K = 6144$  liegt dieser Code nur etwa  $1 \ \rm dB$  rechts von der Shannon–Grenze. LTE verwendet die gleichen Turbocodes. Geringfügige Unterschiede ergeben sich aufgrund des unterschiedlichen Interleavers.
  • Die roten Kreuze markieren die Turbocodes nach CCSDS (Consultative Comittee for Space Data Systems), entwickelt für den Einsatz bei Weltraummissionen. Diese Klasse geht von der festen Interleavergröße  $K = 6920$  aus und stellt Codes der Rate  $1/6$,  $1/4$,  $1/3$  und  $1/2$  bereit. Die niedrigsten Coderaten erlauben einen Betrieb mit  $10 \cdot {\rm lg} \, (E_{\rm B}/N_0) \approx 0 \ \rm dB$.
  • Der grüne Kreis steht für einen sehr einfachen  Repeat–Accumulate  (RA) Code, einem seriell–verketteten Turbocode. Nachfolgend ist dessen Struktur skizziert:   Der äußere Decoder verwendet einen  Wiederholungscode  (englisch:  Repetition Code), im gezeichneten Beispiel mit der Rate  $R = 1/3$. Nach dem Interleaver folgt ein RSC–Code mit  $G(D) = 1/(1 + D)$   ⇒   Gedächtnis  $m = 1$. Bei systematischer Ausführung ist die Gesamtcoderate  $R = 1/4$  (zu jedem Informationsbit werden noch drei Paritybit hinzugefügt).
Repeat Accumulate (RA) Code der Rate $1/4$

Aus der Grafik rechts oben erkennt man, dass dieser einfache RA–Code überraschend gut ist. Mit der Interleavergröße  $K = 300000$  beträgt der Abstand von der Shannon–Grenze lediglich etwa  $1.5 \ \rm dB$  (grüner Punkt).

Ähnliche Repeat Accumulate Codes sind für den Standard DVB Return Channel Terrestrial (RCS) sowie für den WiMax–Standard (IEEE 802.16) vorgesehen.



Aufgaben zum Kapitel


Aufgabe 4.8: Wiederholung zu den Faltungscodes

Aufgabe 4.8Z: Grundlegendes zum Interleaving

Aufgabe 4.9: Recursive Systematic Convolutional Codes

Aufgabe 4.10: Turbocoder für UMTS und LTE

Quellenverzeichnis

  1. Liva, G.: Channels Codes for Iterative Decoding. Vorlesungsmanuskript, Lehrstuhl für Nachrichtentechnik, TU München und DLR Oberpfaffenhofen, 2015.