Mehrdimensionale Zufallsgroßen

2 Mehrdimensionale Zufallsgrößen

2.1 Definition und Eigenschaften
2.2 Unabhängigkeit
2.3 Kenngrößen

2.1 Definition und Eigenschaften

Ein Vektor X = (𝑋₁,𝑋₂,…,𝑋_𝑛) wird 𝑛-dimensionale Zufallsgröße genannt, wenn jede der Einzelgrößen 𝑋_𝑘 eine Zufallsgröße (über der gleichen Ereignisalgebra⁸) ist. Die verbundene bzw. gemeinsame Verteilungsfunktion des Zufallsvektors X

𝐹𝑋 (𝑥1,𝑥2,...,𝑥𝑛)= Pr(𝑋1 < 𝑥1,𝑋2 < 𝑥2,...,𝑋 𝑛 < 𝑥𝑛)

liefert zu jedem Tupel (𝑥₁,𝑥₂,…,𝑥_𝑛) die Wahrscheinlichkeit Pr[(𝑋₁ < 𝑥₁)∩(𝑋₂ < 𝑥₂)∩ ··· ∩(𝑋_𝑛 < 𝑥_𝑛)].

Der Zusammenhang zwischen Dichte- und Verteilungsfunktion hat auch für den Fall einer mehrdimensionalen Zufallsgröße Bestand, nur daß die Wahrscheinlichkeitsdichte 𝑝_𝑋(𝑥₁,𝑥₂,…,𝑥_𝑛) ebenfalls mehrdimensional ist. Für kontinuierliche Zufallsgrößen gibt sie die Wahrscheinlichkeit dafür, daß X im differentiellen Intervall (𝑥₁ ±d𝑥₁/2,𝑥₂ ±d𝑥₂/2,…,𝑥_𝑛 ±d𝑥_𝑛/2) liegt. Integration dieser infinitesimalen Wahrscheinlichkeiten von −∞ bis x ergibt dann wieder die Verteilungsfunktion von X.

∫︁ 𝑥1∫︁ 𝑥2 ∫︁ 𝑥𝑛 𝐹𝑋 (𝑥1,𝑥2,...,𝑥𝑛)= ··· 𝑝 𝑋(𝑢1,𝑢2,...,𝑢𝑛)d𝑢 𝑛···d𝑢2d𝑢1 −∞ −∞ −∞

(17)

Umgekehrt läßt sich durch partielle Differentiation nach allen 𝑥_𝑖 daraus die Dichtefunktion ermitteln.

𝑛 𝑝𝑋(𝑥1,𝑥2,...,𝑥𝑛)= 𝜕-𝐹𝑋(𝑥1,𝑥2,...,𝑥𝑛) 𝜕𝑥1 𝜕𝑥2···𝜕𝑥𝑛

(18)

Ähnlich zum eindimensionalen Fall lassen sich deshalb die folgenden Eigenschaften von 𝐹_𝑋(𝑥₁,𝑥₂,…,𝑥_𝑛) feststellen:

Für alle 𝑥_𝑖 (mit 1 ≤ 𝑖 ≤ 𝑛) gilt: 0 ≤ 𝐹_𝑋(𝑥₁,𝑥₂,…,𝑥_𝑛) ≤ 1.
Es existiert der Grenzwert lim _{𝑥₁→−∞}𝐹_𝑋(𝑥₁,𝑥₂,…,𝑥_𝑛) = lim _{𝑥₂→−∞}𝐹_𝑋(𝑥₁,𝑥₂,…,𝑥_𝑛) = = lim _{𝑥_𝑛→−∞}𝐹_𝑋(𝑥₁,𝑥₂,…,𝑥_𝑛) = 0.
Für 𝑥₁,𝑥₂,…,𝑥_𝑖−1,𝑥_𝑖+1,…,𝑥_𝑛 → ∞ (d. h. alle, außer 𝑥_𝑖) entartet 𝐹_𝑋(𝑥₁,𝑥₂,…,𝑥_𝑛) zu einer eindimensionalen Randverteilung 𝐹_𝑖(𝑥_𝑖), die nur noch von 𝑥_𝑖 abhängt und die Wahrscheinlichkeit Pr(𝑋_𝑖 < 𝑥_𝑖) ausdrückt.⁹

Partielle Differentiation der Randverteilung 𝐹_𝑖(𝑥_𝑖) nach 𝑥_𝑖 führt zur (Rand-) Wahrscheinlichkeitsdichte.

$𝜕𝐹𝑖(𝑥𝑖) ∫︁ ∞ ∫︁ ∞ ∫︁ ∞ ∫︁ ∞ 𝑝𝑖(𝑥𝑖)= -------= ··· ··· 𝑝𝑋 (𝑥1,𝑥2,...,𝑥𝑛)d𝑥𝑛···d𝑥𝑖+1d𝑥𝑖−1 ···d𝑥2 d𝑥1 𝜕𝑥𝑖 −∞ −∞ −∞ −∞$
Für den zweidimensionalen Fall (𝑛 = 2) lassen sich die Gleichungen folgendermaßen konkretisieren:

2.2 Unabhängigkeit

Als (vollständig) unabhängig werden Zufallsgrößen bezeichnet, wenn deren Verteilungsfunktion vollständig faktorisierbar ist.

Grundvoraussetzung für diese Äquivalenz ist die Definition der bedingten Wahrscheinlichkeit zweier Ereignisse (beispielsweise 𝐴 und 𝐵), welche lautet:

Pr(𝐴-∩𝐵)- Pr(𝐵 |𝐴)= Pr(𝐴) .

(21)

Dabei ist Pr(𝐵∣𝐴) die (bedingte) Wahrscheinlichkeit daß Ereignis 𝐵 eintritt, unter der Voraussetzung das 𝐴 schon eingetreten ist. Pr(𝐴 ∩𝐵) ist die Wahrscheinlichkeit, daß 𝐴 UND 𝐵 eintreten und Pr(𝐴) die Wahrscheinlichkeit für das (bedingungslose) Eintreten von Ereignis 𝐴.

Umgestellt nach Pr(𝐴 ∩𝐵) ergibt sich der sogenannte Multiplikationssatz.

Pr(𝐴 ∩ 𝐵)= Pr(𝐴)Pr( 𝐵 |𝐴)= Pr(𝐵)Pr(𝐴 |𝐵)

(22)

Mit dieser Formel wird auch anschaulich klar, weshalb die bedingte Wahrscheinlichkeit genau so wie in Gleichung 21 definiert ist – sie bestimmt die Wahrscheinlichkeit des Eintretens von Ereignis 𝐴 UND 𝐵 unter der Voraussetzung, daß 𝐴 eingetreten und von 𝐵 (unter dieser Bedingung) gefolgt ist.

Besteht eine solche Abhängigkeit nicht, dann gilt Pr(𝐴∣𝐵) = Pr(𝐴) bzw. Pr(𝐵∣𝐴) = Pr(𝐵) und deshalb:¹⁰

Pr(𝐴 ∩ 𝐵)= Pr(𝐴)Pr( 𝐵).

2.3 Kenngrößen

2.3.1 Erwartungswert

Konsequent kann man auch die Definition des Erwartungswertes einer 𝑛-dimensionalen Zufallsgröße aus dem der eindimensionalen Größe ableiten, wenn man außerdem Gleichung 17 bzw. den Ideenkreis um sie herum, berücksichtigt [4, § 25 ff.].

∫︁ ∫︁ ∫︁ ∞ ∞ ∞ E( 𝑋𝑖)= −∞ −∞ ··· −∞ 𝑥𝑖𝑝𝑋(𝑥1,𝑥2,...,𝑥𝑛)d 𝑥𝑛...d𝑥2d𝑥1 1 ≤ 𝑖 ≤ 𝑛

Man muß allerdings hinzufügen, daß es sich um den Erwartungswert der Randverteilung für 𝑋_𝑖 handelt. Praktisch ergibt sich dadurch ein Erwartungswerte-Vektor.

⎛ E(𝑋1) ⎞ ⎜⎜ E(𝑋2) ⎟⎟ ⎜⎜ .. ⎟⎟ E(X )= ⎜⎜ . ⎟⎟ i ⎜ E(𝑋𝑖) ⎟ ⎜⎜ .. ⎟⎟ ⎜⎜ . ⎟⎟ E(𝑋𝑛) ⎝ ⎠

2.3.2 Varianz

Die Varianz(en) einer 𝑛-dimensionalen Zufallsgröße können aus der allgemeinen Definitionsgleichung 2 in Verbindung mit dem Erwartungswert (von eben) ermittelt werden.

Var(𝑋𝑖)= E [𝑋𝑖 − E(𝑋 𝑖)]2 1 ≤ 𝑖 ≤ 𝑛

Auch hier muß man hinzufügen, daß es sich um die Varianz einer Randverteilung handelt.

2.3.3 Kovarianz

Sind 𝑋₁ und 𝑋₂ zwei (nicht notwendigerweise unabhängige) Zufallsgrößen, dann nennt man die folgende Größe Kovarianz von 𝑋₁und 𝑋₂.

Cov(𝑋 ,𝑋 )= E{[𝑋 − E(𝑋 )][𝑋 − E( 𝑋 )]} 1 2 1 1 2 2

(23)

Die Kovarianz Cov(𝑋₁,𝑋₂) kann auch noch anders ausgedrückt werden (Verschiebungssatz), wenn man

die Formeln 43 und 50 für den Erwartungswert von Produkten bzw. Summen von Zufallsgrößen berücksichtigt;
bedenkt, daß E(𝑋₁) und E(𝑋₂) quasi konstante Faktoren sind;
die Trivialität E(1) = 1 anwendet.

Ist eine der beiden Zufallsgrößen mittelwertfrei, dann entspricht die Kovarianz dem Erwartungswert des Produktes der beiden Größen.

E𝑋 =0 Cov(𝑋1, 𝑋2) 𝑖= E(𝑋1 𝑋2), 𝑖 = 1,2

(25)

Unter diesen Bedingungen spricht man auch von der Korrelation beider Zufallsgrößen (vgl. Abschnitte 3.4 und 4).

Im Fall 𝑋 = 𝑋₁ = 𝑋₂ entartet die Kovarianz zur Varianz (siehe Formel 11).

Cov(𝑋,𝑋)= Var(𝑋)

Für kontinuierliche Zufallsgrößen kann die Kovarianz wiefolgt konkretisiert werden:

∫︁ ∫︁ ∞ ∞ Cov(𝑋1,𝑋2)= −∞ −∞ [𝑥1 − E(𝑋1)][𝑥2 − E( 𝑋2)]𝑝𝑋 (𝑥1,𝑥2)d𝑥1 d𝑥2

(26)

Dabei geht man davon aus, daß der Vektor X = (𝑋₁,𝑋₂) eine zweidimensionale Zufallsgröße mit der Dichtefunktion 𝑝(𝑥₁,𝑥₂) ist. Sind die Zufallsgrößen 𝑋₁ und 𝑋₂ stochastisch unabhängig, dann ist die Wahrscheinlichkeitsdichte faktorisierbar in

𝑝 𝑋(𝑥1,𝑥2)= 𝑝1(𝑥1)𝑝2(𝑥2)

und deshalb auch das Doppelintegral von Gleichung 26.

Wegen der allgemeingültigen Beziehung

verschwinden aber beide Faktoren, d. h. die Kovarianz (und der Korrelationskoeffizient) unabhängiger Zufallsgrößen ist grundsätzlich Null. Aus Gleichung 24 folgt unter dieser Bedingung ferner:

Cov(𝑋1,𝑋2)=0 E(𝑋1𝑋2) = E(𝑋1)E( 𝑋2),

(27)

was als Kriterium unkorrelierter Zufallsgrößen in seiner Umkehrung ebenfalls verwendbar ist.

2.3.4 Varianz-Kovarianz-Matrix

Für einen mehrdimensionalen Zufallsvektor X = (𝑋₁,𝑋₂,…,𝑋_𝑛) kann man eine sogenannte Varianz-Kovarianz-Matrix C angeben,

𝑐 = Cov(𝑋 ,𝑋 )= E{[𝑋 − E(𝑋 )][𝑋 − E(𝑋 )]} 𝑖,𝑘 𝑖 𝑘 𝑖 𝑖 𝑘 𝑘

deren Elemente 𝑐_𝑖,𝑘 die Kovarianz zwischen der Zufallsgröße 𝑋_𝑖 und 𝑋_𝑘 repräsentieren.

Var(𝑋1) Cov(𝑋2, 𝑋1) ··· Cov(𝑋 𝑛,𝑋1) ⎛⎜ ⎞⎟ C = ⎜⎜ Cov(𝑋1,𝑋2) Var(𝑋2) ··· Cov(𝑋 𝑛,𝑋2) ⎟⎟ ⎜⎜ ... ... ... ... ⎟⎟ ⎜ ⎟ ⎝ Cov(𝑋1,𝑋𝑛) Cov(𝑋2, 𝑋𝑛) ··· Var(𝑋𝑛) ⎠

Die Matrix C ist

quadratisch,
symmetrisch (wegen Cov(𝑋_𝑖,𝑋_𝑘) = Cov(𝑋_𝑘,𝑋_𝑖)),
und hat die Hauptdiagonalwerte Cov(𝑋_𝑖,𝑋_𝑖) = Var(𝑋_𝑖).

2.3.5 Korrelationskoeffizient

Der Korrelationskoeffizient ist ein Maß für die Abhängigkeit zweier Zufallsgrößen.¹¹

--Cov(𝑋1,-𝑋2)--- Corr(𝑋1,𝑋2)= √︁Var(𝑋-)Var(𝑋-)- 1 2

(28)

Zu den Eigenschaften des Korrelationskoeffizienten:

Wegen der Ungleichung ≤ gilt immer: −1 ≤ Corr(𝑋₁,𝑋₂) ≤ +1.
Linear abhängige Zufallsgrößen (𝑋₂ = 𝑎𝑋₁ +𝑏) führen immer zu: Corr(𝑋₁,𝑋₂) = ±1.
Von unkorrelierten Zufallsgrößen spricht man, wenn der Korrelationskoeffizient identisch Null ist: Corr(𝑋₁,𝑋₂) = 0.¹²

Für mittelwertfreie Zufallsgrößen reduzieren sich Kovarianz und Varianz entsprechend der Formeln 27 und 13 auf Cov(𝑋₁,𝑋₂) = E(𝑋₁𝑋₂) und Var(𝑋) = E(𝑋²) = ² und deshalb der Korrelationskoeffizient auf

E𝑋𝑖=0 E(𝑋1𝑋2) Corr(𝑋1,𝑋2) = √︃-------------. E(𝑋21)E( 𝑋22)

(29)