Exercise 4.16Z: Multi-dimensional Data Reduction

Wir betrachten Gaußsche mittelwertfreie Zufallsgrößen x, y und z mit den Dimensionen N = 1, N = 2 und N = 3:

Die eindimensionale Zufallsgröße x ist durch die Varianz σ² = 1 bzw. die Streuung σ = 1 charakterisiert. Wegen der Dimension N = 1 gilt x = x.

Der Korrelationskoeffizient zwischen den Komponenten y₁ und y₂ der 2D-Zufallsgröße y beträgt ρ = 1/3 (siehe Matrix K_y). y₁ und y₂ weisen ebenfalls die Streuung σ = 1 auf.

Die Statistik der dreidimensionalen Zufallsgröße z ist durch die Korrelationsmatrix K_z vollständig bestimmt.

Quantisiert man die Zufallsgröße x im Bereich zwischen –4 und +4 mit Intervallbreite Δ_x = 1/32, so gibt es insgesamt N₁ = 256 unterschiedliche Quantisierungswerte, für deren Übertragung somit n₁ = 8 Bit benötigt würden.

Analog ergeben sich bei der Zufallsgröße y insgesamt N₂ = 256² = 65536 unterschiedliche quantisierte Wertepaare, wenn man die Korrelation zwischen y₁ und y₂ nicht berücksichtigt. Durch Ausnutzung dieser Korrelation – zum Beispiel durch Koordinatentransformation vom Ursprungsystem (y₁, y₂) zum neuen System (η₁, η₂) – ergibt sich eine geringere Zahl N₂' quantisierter Wertepaare.

Hierbei ist zu berücksichtigen, dass jede Komponente entsprechend ihrer jeweiligen Streuung (σ₁ bzw. σ₂) im Bereich von –4σ_i bis +4σ_i zu quantisieren ist und die Quantisierungsintervalle in beiden Richtungen gleich sein sollen: Δ_x = Δ_y = 1/32.

Den Quotienten N₂'/N₂ bezeichnen wir als Datenreduktionsfaktor bezüglich der 2D-Zufallsgröße y. In analoger Definition ist N₃'/N₃ der entsprechende Reduktionsfaktor der 3D-Zufallsgröße z für Δ_x = Δ_y = Δ_z = 1/32. Anzumerken ist, dass in beiden Fällen ein möglichst kleiner Wert günstig ist.

Hinweis: Diese Aufgabe bezieht sich auf die Seite Eigenwerte und Eigenvektoren im Kapitel 4.7. Die Bestimmungsgleichung der Eigenwerte von K_z lautet:

$$\lambda^3 - 3 \lambda^2 + \frac{24}{9}\lambda - \frac{20}{27} = 0.$$

Eine der drei Lösungen dieser Gleichung ist λ₁ = 5/3.

Fragebogen

Musterlösung

Solution

1. Aus der Bedingung K_y – λ · E = 0 folgt:

$${\rm det}\left[ \begin{array}{cc} 1- \lambda & 1/3 \\ 1/3 & 1- \lambda \end{array} \right] = (1-\lambda)^2 -\frac{1}{9} = 0$$

$$\Rightarrow \hspace{0.3cm}\lambda^2 -2\lambda+ \frac{8}{9}= 0 \hspace{0.3cm}\Rightarrow \hspace{0.3cm}\lambda_{1/2}= 1 \pm \sqrt{1-\frac{8}{9}}= 1 \pm \frac{1}{3}.$$

Die Eigenwerte dieser 2×2-Matrix sind somit λ₁ = 4/3 und λ₂ = 2/3.

2. Ohne Berücksichtigung von Korrelationen gibt es

$$N_2 = \left( \frac{8}{\it \Delta_x}\right)^2= 256^2 = 65536$$

verschiedene Wertepaare. Unter Berücksichtigung der Korrelationen und des Sachverhaltes, dass die beiden durch Koordinatendrehung entstandenen Komponenten η₁ und η₂ jeweils im Bereich von –4σ₁ bis +4σ₁ (bzw. von –4σ₂ bis +4σ₂) zu quantisieren sind, erhält man

$$N_2' = \frac{8 \hspace{0.05cm}\sigma_1}{\it \Delta_x}\cdot\frac{8 \hspace{0.05cm}\sigma_2}{\it \Delta_y}= N_2 \cdot \sigma_1 \cdot \sigma_2 .$$

Der Quotient lautet somit mit σ₁² = λ₁ und σ₂² = λ₂:

$$\frac{N_2'}{N_2} = \sigma_1 \cdot \sigma_2 = \sqrt{{4}/{3}} \cdot \sqrt{{2}/{3}} = \frac{2 \cdot \sqrt{2}}{3} \hspace{0.15cm}\underline{ \approx 0.943}.$$

3. Die Bestimmungsgleichung der Eigenwerte von K_z lautet:

$${\rm det} \left[ \begin{array}{ccc} 1-\lambda & 1/3 & 1/3\\ 1/3 & 1-\lambda & 1/3\\ 1/3 & 1/3 & 1-\lambda \end{array}\right] = 0$$

$$\Rightarrow \hspace{0.3cm}(1- \lambda) \left[(1- \lambda)^2 - \frac{1}{9} \right]- \frac{1}{3} \left[\frac{1}{3}(1- \lambda) - \frac{1}{9} \right] + \frac{1}{3} \left[\frac{1}{9} - \frac{1}{3}(1- \lambda) \right] = 0$$

$$\Rightarrow \hspace{0.3cm}(1- \lambda) (\lambda^2 -2\lambda+ \frac{8}{9})- \frac{1}{9} (\frac{2}{3}- \lambda )+ \frac{1}{9} ( \lambda - \frac{2}{3})= 0$$

$$\Rightarrow \hspace{0.3cm}\lambda^2 - 2\lambda + \frac{8}{9} - \lambda^3 + 2 \lambda^2 - \frac{8}{9}\lambda - \frac{4}{27} + \frac{2}{9}\lambda = 0$$

$$\Rightarrow \hspace{0.3cm}\lambda^3 - 3 \lambda^2 + \frac{24}{9}\lambda - \frac{20}{27} = 0.$$

Diese Gleichung wurde bereits als Lösungshinweis angegeben, ebenso wie eine der Lösungen: <nobr>λ₁ = 5/3.</nobr> Damit ergibt sich die Bestimmungsgleichung für die weiteren Eigenwerte λ₂ und λ₃ zu

$$\frac{\lambda^3 - 3 \lambda^2 + {24}/{9}\lambda - {20}/{27}}{\lambda -{5}/{3}} = \lambda^2 - {4}/{3} \cdot \lambda + {4}/{9} =0.$$

Diese Bestimmungsgleichung lässt sich wie folgt umformen:

$$(\lambda - {2}/{3})^2 =0.$$

Die weiteren Eigenwerte neben λ₁ = 5/3 sind somit gleich und ergeben sich zu λ₂ = λ₃ = 2/3.

4. Analog zur Vorgehensweise unter Punkt b) ergibt sich hier:

$$\frac{N_3'}{N_3} = \sqrt{\lambda_1 \cdot \lambda_2\cdot \lambda_3} = \sqrt{\frac{5}{3} \cdot \frac{2}{3}\cdot \frac{2}{3}} = \sqrt{\frac{20}{27}} \hspace{0.15cm}\underline{ \approx 0.861}.$$