4 Zufallsprozesse

4.1 Einführung
4.2 Autokorrelationsfunktion
4.3 Kreuzkorrelationsfunktion
4.4 Spektrale Leistungsdichte
4.5 Spektrale Energiedichte
4.6 Kreuzleistungs- und Energiedichten

4.1 Einführung

Das Modell des Zufallsprozesses geht davon aus, daß beliebig viele stochastische Vorgänge X(𝑡) in der Zeit gleichzeitig ablaufen. Für stationäre und ergodische Prozesse gilt einschränkend, daß die beschreibenden Prozeßparameter vom Betrachtungszeitpunkt 𝑡 unabhängig sind (Stationarität) und eine ausgewählte Realisierung 𝑋(𝑡) des Prozesses X(𝑡) zur Bestimmung seiner statistischen Parameter ausreicht (Ergodensatz von BIRKHOff-CHINTCHIN [4, § 57]). Dies bedeutet unter anderem, daß alle statistischen Kenngrößen (Momente, wie Erwartungswert, Varianz usw. ) des Ensembles zu einem Zeitpunkt 𝑡0 mit denselben Größen einer Realisierung 𝑋(𝑡), über die Zeit betrachtet, übereinstimmen müssen [3, 9, 5, 8].25

pict

4.2 Autokorrelationsfunktion

Nehmen wir nun an, wir betrachten eine Realisierung 𝑋(𝑡) zu zwei Zeitpunkten 𝑡0 und 𝑡0 +𝜏. Obwohl für stationäre Zufallsprozesse der Zeitpunkt 𝑡 keine Rolle spielt, wird trotzdem (zumindest unter dem Blickwinkel der Allgemeinheit) eine stochastische Abhängigkeitsbeziehung zwischen 𝑋(𝑡0) und 𝑋(𝑡0 + 𝜏) bestehen. Bezeichnen wir nun zwei Zufallsvariablen mit 𝑋1 = 𝑋(𝑡0) und 𝑋2 = 𝑋(𝑡0 + 𝜏) und stellen die Frage nach einer der wesentlichsten Eigenschaften des Zufallsvektors (𝑋1,𝑋2) – nämlich der Abhängigkeit (bzw. Unabhängigkeit) von 𝑋1 und 𝑋2. Dazu haben wir schon geeignete Maße kennengelernt, nämlich die Kovarianz und den Korrelationskoeffizienten. Um ausgehend von deren Definition jedoch fortfahren zu können, müssen wir noch Existenz und Kenntnis der verbundenen Wahrscheinlichkeitsdichte des zweidimensionalen Vektors 𝑝𝑋(𝑋1,𝑋2) voraussetzen. Nun definieren wir eine neue (aber dennoch mit Corr(·) und Cov(·) eng verwandte) Größe und bezeichnen sie als Korrelation 𝑟(𝑋1,𝑋2) zweier Zufallsgrößen:26

𝑟(𝑋1, 𝑋2)= E(𝑋1 𝑋2)

Gleichbedeutend ist auch der folgende Ausdruck, wenn man Formel 24 berücksichtigt.

𝑟(𝑋1,𝑋2)= Cov(𝑋1,𝑋2)+ E(𝑋1)E( 𝑋2)

Erinnern wir uns an den Ausgangspunkt und ersetzen die (zur besseren Anschauung eingeführten) Zufallsgrößen 𝑋1 und 𝑋2 wieder durch die Realisierung 𝑋(𝑡).

𝑟[𝑋( 𝑡0),𝑋(𝑡0 + 𝜏)]= E [𝑋(𝑡0)𝑋( 𝑡0 + 𝜏)]

Ferner berücksichtigen wir, daß für stationäre Zufallsprozesse der Zeitpunkt 𝑡0 keine Bedeutung hat – und definieren die sogenannte Autokorrelationsfunktion von 𝑋(𝑡).

𝜑 (𝜏)= E[𝑋( 𝑡)𝑋( 𝑡 + 𝜏)]E(𝑋)==0 Cov[𝑋( 𝑡),𝑋(𝑡 + 𝜏)] 𝑥𝑥

Für eine kontinuierliche Realisierung 𝑋(𝑡) des Zufallsprozesses X(𝑡) berechnet sich dieser Erwartungswert wiefolgt (vgl. Abschnitt 3.4):

∫︁ ∞ ∫︁ ∞ 𝜑 𝑥𝑥(𝜏)= 𝑥(𝑡)𝑥(𝑡 + 𝜏)𝑝𝑋 [𝑥(𝑡)𝑥(𝑡 + 𝜏)]d 𝑥(𝑡)d𝑥(𝑡 + 𝜏). −∞ −∞

Für ergodische Prozesse nimmt man nun zusätzlich noch an, daß der Erwartungswert E [𝑋( 𝑡)𝑋(𝑡 + 𝜏)] aus der Zeitfunktion 𝑥(𝑡) als (Selbst-) Ähnlichkeitsmaß folgendermaßen bestimmt werden kann.

-1∫︁ ----------- 𝜑 𝑥𝑥(𝜏)= E [𝑥(𝑡)𝑥(𝑡 + 𝜏)]= l𝑇i→m∞𝑇 𝑥(𝑡)𝑥(𝑡 + 𝜏)d𝑡 = 𝑥(𝑡)𝑥(𝑡 + 𝜏) 𝑇
(52)

Die dadurch definierte Autokorrelationsfunktion (AKF) hat folgende Eigenschaften:

  1. Die AKF ist bezüglich 𝜏 eine gerade Funktion, d. h. 𝜑𝑥𝑥(−𝜏) = 𝜑𝑥𝑥(𝜏).

    1-∫︁ 𝜑 𝑥𝑥(− 𝜏) = 𝑇l→im∞ 𝑇 𝑥(𝑡)𝑥(𝑡 − 𝜏)d𝑡 ∫︁𝑇 𝑢:==𝑡−𝜏 lim 1- 𝑥(𝑢 + 𝜏)𝑥(𝑢)d 𝑢 = 𝜑 𝑥𝑥(𝜏) 𝑇→ ∞ 𝑇 𝑇

  2. Für 𝜏 → 0 ist ist sie gleich dem Quadrat des Effektivwertes (bzw. der mittleren Leistung 𝑃 des Signals), vorausgesetzt 𝑋(𝑡) ist keine aperiodische oder determinierte Funktion, sondern ein echter Zufallsprozeß.

    ∫︁ [ ] 𝜑𝑥𝑥(0)= lim 1- 𝑥2(𝑡)d𝑡 = E 𝑋2(𝑡) = 𝑋˜2 = 𝑃 𝑇→ ∞ 𝑇 𝑇
    		(53)

    In der Umgebung von 𝜏 = 0 ist insbesondere der Abfall von 𝜑𝑥𝑥(𝜏) ein Maß für die Regellosigkeit des Prozesses.

    Ist 𝑋(𝑡) aber ein determiniertes Energiesignal (charakterisiert durch ∫ −∞∞𝑥2(𝑡)d𝑡 < ∞), dann wird üblicherweise die Definition der AKF (sowie aller daraus abgeleiteten Größen) geringfügig modifiziert.27

    ∫︁ ∞ 𝜑(𝐸)(𝜏)= 𝑥(𝑡)𝑥(𝑡 + 𝜏)d 𝑡 𝑥𝑥 −∞
    		(54)

  3. Für 𝜏 → ±∞ kann man annehmen, daß 𝑥(𝑡) und 𝑥(𝑡+𝜏) vollständig unabhängig sind, weshalb dann

    ∫︁ ∫︁ [ ∫︁ ]2 1- 1- ----2 𝜏li→m±∞ 𝜑𝑥𝑥(𝜏)= 𝑇lim→∞ 𝑇 𝑇 𝑥(𝑡)d𝑡 𝑇 𝑥(𝑡)d𝑡 = 𝑇li→m∞ 𝑇 𝑇 𝑥(𝑡)d𝑡 = 𝑥(𝑡)

    gilt. Hat der Zufallsprozeß keine systematischen (oder determinierte) Anteile und außerdem einen zeitlichen Mittelwert 𝑥(𝑡) = 0, dann verschwindet die Autokorrelationsfunktion im Unendlichen: lim 𝜏→±∞𝜑𝑥𝑥(𝜏) = 0.

  4. Wegen Punkt 2 gilt immer die Relation | | |𝜑 𝑥𝑥(𝜏)|≤ 𝜑𝑥𝑥(0).28

  5. Aus Eigenschaft 1 ergibt sich die Ausdrucksmöglichkeit der AKF als Faltung.

    pict
    𝜑𝑥𝑥(𝜏)= lim 1(𝑥 ∗𝑥∗)(𝜏) 𝑇→ ∞ 𝑇
    		(55)

    Für (determinierte) Energiesignale entfällt der Limes, d. h. die “Energie-AKF” ist ganz einfach die Faltung

    (𝐸) ∗ 𝜑𝑥𝑥 (𝜏)= (𝑥 ∗ 𝑥 )(𝜏).

4.3 Kreuzkorrelationsfunktion

Mit ähnlichem Hintergrund wie bei der Autokorrelationsfunktion kann man auch den Zusammenhang zwischen zwei Zufallsprozessen X(𝑡) und Y(𝑡) durch ein Ähnlichkeitsmaß erklären, welches Kreuzkorrelationsfunktion 𝜑𝑥𝑦(𝜏) genannt wird.

∫︁ 1- 𝜑𝑥𝑦(𝜏)= E [𝑋(𝑡)𝑌 (𝑡 + 𝜏)]= l𝑇im→∞ 𝑇 𝑇 𝑥(𝑡)𝑦(𝑡 + 𝜏)d 𝑡
(56)

Verschwindet die Kreuzkorrelationsfunktion für jedes 𝜏, dann besteht keine Korrelation zwischen den Zufallsprozessen X(𝑡) und Y(𝑡). Liegt jedoch Korrelation vor, dann gibt es typischerweise ein 𝜏, für daß die Kreuzkorrelationsfunktion maximal wird.

Für Energiesignale existiert wieder eine abgewandelte Form (ohne Limes) von Gleichung 56, die auch als Faltung dargestellt werden kann.

∫︁ ∞ 𝜑(𝑥𝐸𝑦)(𝜏)= 𝑥(𝑡)𝑦(𝑡 + 𝜏)d𝑡 = (𝑥 ∗ 𝑦∗)(𝜏) −∞

4.4 Spektrale Leistungsdichte

Machen wir nun einen weiteren Schritt von den Zufallsprozessen zu Zufallssignalen, der aber eher eine Notationsfrage als etwas Grundsätzliches ist.29 Dabei stellen wir die Frage nach der spektralen Leistungsdichte eines stationären, ergodischen Zufallsprozesses, also nach infinitesimalen Leistungsanteilen in einem Frequenzbereich d𝑓 (bzw. d𝜔), der einem Zufallssignal 𝑥(𝑡) zugeordnet ist. Von Gleichung 53 wissen wir, daß für die Gesamtleistung 𝑃 von 𝑥(𝑡) die Formel

1∫︁ 𝑃 = 𝜑𝑥𝑥(0)= lim -- 𝑥2(𝑡)d𝑡 𝑇→ ∞ 𝑇 𝑇

gilt. Aus dem Gebiet der Harmonischen Analyse ist außerdem bekannt, daß die spektrale “Leistungsamplitude” an der (Kreis-) Frequenz 𝜔 durch |𝑋(j𝜔) |2 = |F {𝑥(𝑡)}|2 gekennzeichnet ist. Die FOURIER-Transformation als uneigentliches Integral

∫︁ ∞ −j𝜔𝑡 𝑋(𝜔)= 𝑥(𝑡)e d𝑡 −∞

muß für die Existenz von 𝑋(𝜔) aber konvergieren, was man bei Zufallsprozessen wegen ∫ −∞∞𝑥2(𝑡)d𝑥(𝑡) ⇒ ∞ normalerweise nicht gewährleisten kann. Trotzdem kann man für diesen Fall (mitunter durch Einsatz der DIRAC-Funktion) eine Größe entwickeln, die spektrale Leistungsdichte S 𝑥𝑥(𝜔) des Zufallsprozesses X(𝑡) genannt wird. Dazu bilden wir die FOURIER-Transformierte der Autokorrelationsfunktion

∫︁ 𝑇/2 F { 𝜑 (𝜏)}= lim 𝜑 (𝜏)e−j𝜔𝜏 d𝜏 𝑥𝑥 𝑇→ ∞ −𝑇/2 𝑥𝑥

und ersetzen mit Hilfe von Formel 52 formal 𝜑𝑥𝑥(𝜏).

pict

Nun wird die Integrationsreihenfolge vertauscht und danach 𝑢 = 𝑡 + 𝜏 substituiert.30

pict

Auch wenn das FOURIER-Integral 𝑋(j𝜔) selbst nicht konvergiert, so ist doch lim 𝑇→∞𝑇−1|𝑋(j𝜔)|2 bzw. lim 𝑇→∞𝑇−1 ∫ 𝑥2(𝑡)d𝑡 endlich.31

{ } F 𝜑𝑥𝑥(𝜏) = lim 1-|𝑋(j𝜔)|2 = S𝑥𝑥(𝜔) 𝑇→∞ 𝑇
(57)

Man nennt den so gewonnen Ausdruck die spektrale Leistungsdichte S 𝑥𝑥(𝜔) des Zufallsprozesses bzw. das WIENER-CHINTCHIN-Theorem [6, S. 7.2], [12, S. 7.3]. Interessant ist auch, daß sich diese Gleichung (57) ganz einfach ergibt, wenn man den Faltungssatz32 der Fourier-Transformation auf die Form der Autokorrelationsfunktion von Formel 55 anwendet.

{ } F {𝜑 (𝜏)} = F lim 1-𝑥(𝑡)∗ 𝑥(−𝑡)| = lim 1-F {𝑥(𝑡)∗ 𝑥(−𝑡)}= lim 1𝑋( −j𝜔) 𝑋(j𝜔) 𝑥𝑥 𝑇→∞ 𝑇 𝑡=𝜏 𝑇→ ∞ 𝑇 𝑇→ ∞ 𝑇

Die Grundaussage des Satzes von WIENER und CHINTCHIN, nämlich das die spektrale Leistungsdichte mit der Autokorrelationsfunktion über die FOURIER-Transformation verbunden ist, rechtfertigt natürlich auch die Umkehrformel:

(−1) F {S𝑥𝑥(𝜔)} = 𝜑𝑥𝑥(𝜏)

bzw. symbolische Darstellung der FOURIER-Transformation.

F 𝜑𝑥𝑥(𝜏) o--o S𝑥𝑥(𝜔)

Die spektrale Leistungsdichte eines Zufallsprozesses hat einige interessante Eigenschaften:

  1. Da (schon) die Autokorrelationsfunktion eine gerade Funktion ist, muß die spektrale Leistungsdichte S 𝑥𝑥(𝜔) reelwertig und positiv sein.33

  2. Die mittlere Leistung 𝑃 des stochastischen Prozesses kann durch Integration über die gesamte spektrale Leistungsdichte S 𝑥𝑥(𝜔) gewonnen werden.

    ∫︁ ∞ 𝑃 = 1-- S𝑥𝑥(𝜔)d𝜔 2𝜋 −∞

    Für diesen Nachweis geht man am Besten von der bekannten Beziehung 𝑃 = 𝜑𝑥𝑥(0) aus.

    ∫︁ ∫︁ (−1) 1-- ∞ j𝜔𝜏 -1- ∞ 𝑃 = 𝜑𝑥𝑥(0)= l𝜏i→m0 F {S𝑥𝑥(𝜔)} = l𝜏im→0 2𝜋 −∞ S𝑥𝑥(𝜔)e d𝜔 = 2𝜋 −∞ S𝑥𝑥(𝜔)d 𝜔

  3. Nach Punkt 2 kann man S 𝑥𝑥(𝜔) auch wirklich als Leistungsdichte auffassen, wenn man den Hauptsatz der Differential- und Integralrechnung hinzuzieht.34

    d-𝑃 = S𝑥𝑥(𝜔)-= S𝑥𝑥(𝑓) d𝜔 2𝜋

Weißes Rauschen

Weißes Rauschen hat sowohl für die Theorie als auch in praktischen Anwendungen eine große Bedeutung. Diese liegt vor allem in der gleichmäßigen spektralen Verteilung, die sich über das gesamte (theoretische) Frequenzband mit konstanter Leistungsdichte (die mit S 0 bezeichnet sein soll) zieht.35

S𝑥𝑥(𝜔)= S0

FOURIER-Rücktransformation der spektralen Leistungsdichte ergibt nach dem WIENER-CHINTCHIN-Theorem die Autokorrelationsfunktion und bei Umkehrung wieder die spektrale Leistungsdichte.

F o--o S 𝑥𝑥(𝜔)= S0 𝜑𝑥𝑥(𝜏)= S0 𝛿(𝜏)

4.5 Spektrale Energiedichte

Bei Anwendung der modifizierten Formel 54 für die Autokorrelationsfunktion von Energiesignalen entfällt der Limes in Gleichung 57 und man erhält für die spektrale Energiedichte:

{ } S(𝑥𝐸𝑥)(𝜔)= |𝑋(j𝜔)|2 = F 𝜑(𝑥𝐸𝑥)(𝜏) .

Wenn nach dem PARSEVAL’schen Theorem für die Gesamt-Signalenergie 𝐸 gilt:

∫︁ ∫︁ -1- ∞ 2 -1- ∞ (𝐸) 𝐸 = 2𝜋 −∞ |𝑋(j𝜔)| d𝜔 = 2𝜋 −∞ S𝑥𝑥 (𝜔)d𝜔,

dann bestätigt uns das Differential

d𝐸-= S(𝐸)(𝜔) d𝜔 𝑥𝑥

in der Korrektheit des Begriffs einer Energiedichte.

4.6 Kreuzleistungs- und Energiedichten

Eine Verallgemeinerung zur spektralen Leistungsdichte (eines Zufallssignals) stellt die Kreuzleistungsdichte S 𝑥𝑦(j𝜔) dar. Sie beschreibt den Zusammenhang zwischen zwei Zufallssignalen 𝑥(𝑡) und 𝑦(𝑡) im Frequenzbereich und ist als

S𝑥𝑦(j𝜔)= lim 1-𝑋(j𝜔)𝑌∗(j𝜔) 𝑇→∞ 𝑇

definiert. Im Gegensatz zur spektralen “Auto”-Leistungsdichte S 𝑥𝑥(𝜔) ist sie eine komplexe Größe.

Was den Zusammenhang mit den zeitlichen Zufallsprozessen angeht, ist auch sie eine FOURIER-Transformierte,36 nämlich der Kreuzkorrelationsfunktion von 𝑥(𝑡) und 𝑦(𝑡) (vgl. Formel 56).

{ } S𝑥𝑦(j𝜔)= F 𝜑 𝑥𝑦(𝜏)

Für Energiesignale (∫ −∞∞𝑥2(𝑡)d𝑡 < ∞) ist die Kreuzenergiedichte, in ähnlicher Art und Weise wie auch schon die Kreuzkorrelationsfunktion, in einer modifizierten Form definiert.

(𝐸) ∗ oF--o (𝐸) S𝑥𝑦 (j𝜔)= 𝑋(j𝜔) 𝑌 (j𝜔) 𝜑 𝑥𝑦 (𝜏)