2 Diskrete und stetige W-Räume

2.1 Uniforme und geometrische Verteilung

Anmerkung. Beim schwachen Gesetz der großen Zahl haben wir die Grenzen der bisher als Modelle betrachteten endlichen W-Räume erreicht. Die in Bezeichnung 1.20.6 eingeführten projektiven Systeme (Ω_{n}, P_{n}pr_{n}) endlicher W-Räume sind umständlich zu handhaben und nicht allgemein genug:

– Man müßte Produkte, Bildverteilungen, Bedingte Verteilungen … für projektive Systeme erklären. Wie verhalten sich projektive Systeme von projektiven Systemen?

– Interpretiert in einem projektiven System den Parameter n ∈ ℕ als Zeitpunkte, in denen die Experimente durchgeführt werden, so könnte man auch an kontinuierliche Zeitparameter t ∈ ℝ denken.

Der elegante und auch anschauliche Ausweg sind unendliche W-Räume.

Wir wollen hier zwei einfache Bespiele unendlicher W-Räume mit anschaulichen Hilfsmitteln vorführen. Im Beispiel 2.1.2 erhalten wir eine stetige W-Verteilung auf dem Intervall [0, 1). im zweiten Beispiel 2.1.3 einen diskretes W-Maß auf ℕ. Für beide Beispiele geben wir jeweils zwei Herleitungen an,

– als projektive Limes eines projektiven Systems endlicher W-Räume,

– als Grenzwerte einer Folge endlicher Verteilungen auf [0, 1] bzw. auf ℕ.

2.1.1 Bem. (Projektiver Limes) Es sei (Ω_{n}, P_{n}, pr_{n} ein projektives System endlicher W-Räume. Die Frage ist, kann man nicht ein W-Raum (Ω, P) finden, derart daß die Räume (Ω_{n}, P_{n}) Bilder von (Ω, P) mit der Bildverteilung sind. D.h., es gibt eine Folge von Zufallsvariablen

π_{n} : (Ω, P) → (Ω_{n}, P_{n})

mit den folgenden Eigenschaften:

(i) Das Diagramm

Ω

π_{n+1}↓
Ω_{n+1} ⟶^{pr_{n}} Ω_{n} [figure] π^{n}

kommutiert für alle n ∈ ℕ,

(ii) P_{n} = P_{π_{n}}.

Häufig kommt man mit den beiden Eigenschaften (i) und (ii) aus. Zur Definition des projektiven Limes gehört noch die Eindeutigkeit, die wir der Vollständigkeit halber hier mit aufführen. Die Eindeutigkeit folgt aus einer universellen Eigenschaft. Zur Formulierung dieser universellen Eigenschaft benötigt man den Begriff der meßbaren Abbildung, den wir hier ohne Erklärung verwenden.

(iii) Man nennt (Ω, P, π_{n}) den projektiven Limes des projektiven Systems (Ω_{n}, P_{n}, pr_{n}), wenn (Ω, P, π_{n}) die folgende universelle Eigenschaft hat:

Ist Ω̃, P̃, π̃_{n}) ein weiterer W-Raum mit den Eigenschaften (i) und (ii), so gibt es eine eindeutig bestimmte meßbare Abbildung

ρ : Ω̃ → Ω mit π̃_{n} = π_{n} ∘ ρ.

D.h. Ω ist in diesem Sinne minimal.

2.1.2 Bsp. (Münzwurf-Raum) Das immerwährende Werfen einer fairen Münze beschreiben wir durch das projektive System

(Ω_{n}, P_{n}, pr_{n}) := ({0, 1}^{n}, P^{⊗n}, pr_{n}).

Dabei ist P die Laplace-Wahrscheinlichkeit auf {0, 1} und pr_{n} : {0, 1}^{n+1} → {0, 1}^{n} die Projektion auf die ersten n Komponenten.

Als projektiver Limes (Ω, P) bietet sich hier ein guter Bekannter aus der Analysis an, das Intervall [0, 1) ⊂ ℝ. Wir beschränken uns auf die Eigenschaften Bemerkung 2.1.1 (i) und (ii).

Die universelle Eigenschaft (iii) gilt auch. Wir zeigen sie aber nicht, da man für den Nachweis etwas Maßtheorie benötigt.

Damit die folgenden Formeln schön symmetrisch sind, lassen wir bei allen Intervalle den rechten Endpunkt weg, was aber nicht weiter wichtig ist. Die Wahrscheinlichkeit eines Teilintervalls [a, b) ⊂ [0, 1) ist seine Länge:

𝒰([a, b]) := b − a.

Für endliche Vereingungen disjunkter Intervalle addiere man die Längen. Man bezeichnet diese Wahrscheinlichkeitsverteilung mit 𝒰 := 𝒰_{[0,1)} und nennt sie die Gleichverteilung oder uniforme Verteilung auf [0, 1).

Die Teilmengen

A_{n} := [\frac{1}{2^{n}} , \frac{2}{2^{n}} ) ∪ [\frac{3}{2^{n}} , \frac{4}{2^{n}} ) ∪ ⋯ ∪ [\frac{2^{n} − 1}{2^{n}}, \frac{2^{n}}{2^{n}} )

sind unabhängig, da für alle {ν_{1}, …, ν_{k}} ⊂ {1, …, n} gilt:

𝒰( ⋂_{i=1}^{k} A_{ν_{i}}) = 2^{−k} = ∏_{i=1}^{k} 𝒰(A_{ν_{i}}).

Die Indikatorfunktionen 1l_{A_{n}}, (n ∈ ℕ) sind n-fach Bernoulli-verteilt mit Parameter p = \frac{1}{2}. Es gilt also:

(i) Die Bildverteilung von

π_{n} := (1l_{A_{1}}, …, 1l_{A_{n}})

ist die Produktverteilung P^{⊗n} auf {0, 1}^{n}.

(ii) Nach Konstruktion ist π_{n} = pr_{n} ∘ π_{n+1}.

Auf ([0, 1), 𝒰) gibt es eine abzählbare Familie (1l_{A_{n}})_{n} unabhängiger und identisch verteilter reeller Zufallsvariabler. Diese beschreiben den unendlichen Münzwurf.

Anmerkung. Man fragt sich, ob man nicht statt ([0, 1), 𝒰) den unendlichen Produktraum {0, 1}^{ℕ} versehen mit einem unendlichen Produktmaß P^{⊗ℕ} nehmen kann? In der Maßtheorie zeigt man, daß das geht und daß die W-Räume ([0, 1), 𝒰) und ({0, 1}^{ℕ}, P^{⊗ℕ}) in einem noch zu präzisierenden Sinne isomorph sind. Beide Räume repräsentieren den sogenannten projektiven Limes des projektiven Systems:

lim proj_{n→∞} ({0, 1}^{n}, P^{⊗n}, pr_{n}),

was wir hier aber mangels Maßtheorie nicht beweisen können.

2.1.3 Bsp. (geometrische Verteilung) In einem n-fachen Bernoulli-Experiment mit Erfolgswahrscheinlichkeit p > 0 ist die Wahrscheinlichkeit, den ersten Erfolg genau im k + 1-ten Teilversuch zu haben, d.h. man hat zuvor k Mißerfolge

𝒢_{n;p}\{k\} := \begin{cases}p(1 − p)^{k} & für k = 0, …, n − 1, \\ (1 − p)^{n} & wenn gar kein Erfolg eintritt. \end{cases}

Wir werden den letzteren Fall, daß kein Erfolg eintritt, mit k = n kodieren. Da nach der geometrischen Summenformel

∑_{k=0}^{n−1} p(1 − p)^{k} = (1 − p)^{n}.

gilt, ist 𝒢_{n;p} ein W-Maß auf Ω_{n} := ({1, …, n, n + 1}, 𝒢_{n;p}). Man nennt daher 𝒢_{n;p} die gestoppte n-te geometrische Verteilung. ”gestoppt“, da man ja weiter experimentieren kann, bis ein Erfolg eintritt. Mit der Projektion pr_{n} : Ω_{n+1} → Ω_{n},

pr_{n} : k ↦ \begin{cases}k & für k = 1, …, n, \\ n & für k = n + 1, n + 2. \end{cases}

erhält man ein projektives System (Ω_{n}, 𝒢_{n;p}, pr_{n}) von endlichen W-Räumen (→ Bezeichnung 1.20.6).

Den projektiven Limes kann man in diesem Fall sofort erraten, es ist der Raum ℕ der natürlichen Zahlen mit der geometrischen Verteilung

𝒢_{p}{k} = p(1 − p)^{k} für k ∈ ℕ_{0}.

Mit der geometrischen Reihe überprüft man

∑_{k=0}^{∞} P \{k\} = p ∑_{k=0}^{∞}(1 − p)^{k} = p\frac{1}{1 − (1 − p)} = 1.

Die gestoppten W-Räume (Ω_{n}.𝒢_{n;p}) sind die Bilder von (ℕ, 𝒢_{p}) unter der Projektion

π_{n} : ℕ_{0} → {0, …, n}

mit

π_{n} : k ↦ \begin{cases}k & für k = 1, …, n, \\ n & für k = n + 1, n + 2, . . .. \end{cases}

Das System (ℕ_{0}, 𝒢_{p}, π_{n}) erfüllt also die Bedingen (i) und (ii) von Bemerkung 2.1.1.

Man sieht leicht, daß auch die universelle Eigenschaft → Bemerkung 2.1.1 (iii) erfüllt ist:

Ist (Ω̃P̃, π̃_{n}) ein weiteres System mit (i) und (ii), so bilde man ρ : Ω̃ → ℕ mit

ρ(ω̃) := lim_{n→∞} π̃_{n}(ω̃).

Man beachte, daß die Folge (π̃_{n}(ω̃))_{n} moton wächst und schließlich konstant ist.

Anmerkung. In der folgenden Feststellung verwenden wir bereits einige Eigenschaften diskreter W-Räume, die erst im folgenden Kapiteln sauber definiert werden.

2.1.4 Bez. (Geometrische Verteilung) (i) Die geometrische Verteilung auf ℕ_{0} mit dem Parameter p ∈ (0, 1) ist gegeben durch

𝒢_{p}{k} := p(1 − p)^{k} für k ∈ ℕ_{0}.

(ii) Eine Zufallsvariable X mit Werten in ℕ ist geometrisch verteilt mit Parameter p, (0 < p < 1), wenn ihre Bildverteilung auf ℕ die geometrische Verteilung 𝒢_{p} ist:

P {X = k} = p(1 − p)^{k−1} für k ∈ ℕ_{0}.

2.2 Diskrete W-Räume

2.2.1 Def. (diskreter W-Raum) Es sei Ω eine beliebige Menge und {ω_{n} | n ∈ ℕ} eine abzählbare Teilmenge von Ω. Jedem ω_{n} sei eine Wahrscheinlichkeit p_{n} zugeordnet, derart daß

0 ≤ p_{n} ≤ 1 für n ∈ ℕ,  (2.2.1)
∑_{n=1}^{∞} p_{n} = 1.  (2.2.2)

Man definiert dann die Wahrscheinlichkeit einer Teilmenge A ∈ 2^{Ω}, indem man die Wahrscheinlichkeiten der ω_{n} ∈ A aufaddiert.

P (A) := ∑_{n=1}^{∞} p_{n}1l_{A}(ω_{n}).  (2.2.3)

Man nennt dann P : 2^{Ω} → [0, 1] ein diskretes W-Maß auf Ω, daß auf die abzählbare Menge {ω_{n} | n ∈ ℕ} konzentriert ist.

Anmerkung. (Diskrete W-Räume) 1. Eine konvergente Reihe mit positiven Summanden kann man beliebig umsortieren. Es kommt also auf die Reihenfolge der Punkte ω_{n} nicht an. Man schreibt daher auch

∑_{n∈ℕ}p_{n} := ∑_{n=1}^{∞} p_{n}.  (2.2.4)

Da es auf die Reihenfolge nicht ankommt, kann man auch andere abzählbare Indexmengen I = {i_{n} | n ∈ ℕ} zulassen. Für die Summe schreibt man dann ∑_{i∈I} p_{i} := ∑_{n=1}^{∞} p_{i_{n}}.

2. In den theoretischen Aussagen werden wir die abzählbar vielen ω_{n} immer mit n = 1, 2, … durchnummerieren. Es können aber auch andere abzählbare Indexmengen auftreten, wie

– die ganzen Zahlen Z. Diese kann man folgendermaßen abzählen: ℤ = 0, 1, −1, 2, −2, 3, −3, . . .. Man schreibt in diesem Fall für die Summe der Wahrscheinlichkeiten ∑_{n=−∞}^{∞} p_{n}.

– doppelt indizierte Punkte ω_{m,n} mit m, n ∈ ℕ. Mit dem Cantorschen Diagonalverfahren kann man die Punkte folgendermaßen zeilenweise durchzählen:

ω_{11}

ω_{12} ω_{21}
ω_{13} ω_{22} ω_{31}
ω_{14} ω_{23} ω_{32} ω_{41}
⋮  ⋮  ⋮  ⋮ ...

– Allgemeiner gilt: Wenn I, J abzählbar sind, so ist auch I × J abzählbar.

3. Häufig wird Ω = {ω_{n} | n ∈ ℕ} sein. Es wird sich als praktisch erweisen, auch solche Fälle zuzulassen, wie Ω = ℝ und {ω_{1}, ω_{2}, … } = ℤ.

4. Eigentlich gehören die endlichen W-Räume ebenfalls zu den diskreten W-Räumen. Man sollte die Definition 2.2.1 eigentlich so formulieren:

2 DISKRETE UND STETIGE W-RÄUME 46

2.2.2 Def. (alternative Definition: diskrete W-Räume) Es sei Ω eine beliebige Menge, I eine höchstens abzählbar unendliche Indexmenge und {ω_{i} | n ∈ I} eine Teilmenge von Ω. Jedem ω_{i} sei eine Wahrscheinlichkeit p_{i} zugeordnet, derart daß

0 ≤ p_{i} ≤ 1 für i ∈ I,  (2.2.5)
∑_{i∈I} p_{i} = 1.  (2.2.6)

Man definiert dann die Wahrscheinlichkeit einer Teilmenge A ∈ 2^{Ω}, indem man die Wahrscheinlichkeiten der ω_{i} ∈ A aufaddiert.

P (A) := ∑_{i∈I∩A} p_{i}1l_{A}(ω_{i}).  (2.2.7)

Man nennt dann P : 2^{Ω} → [0, 1] ein diskretes W-Maß auf Ω.

Konvention: Wir werden i. a. die einfachere Formulierung der Definition 2.2.1 benutzen und stillschweigens bemerken, daß alle Folgerungen natürlich auch für endliche W-Räume gelten. Anmerkung. (diskretes W-Maß ist σ-additiv) Ein diskreter W-Raum erfüllt die beiden Axiome (i) und (ii) aus der Definition 1.1.5 eines endlichen W-Raumes. In einem unendlichen diskreten W-Raum (Ω, P) kann man abzählbare paarweise disjunkte Teilmengen A_{n} ∈ 2^{Ω}, (n ∈ ℕ), betrachten und die Aussage in Feststellung 1.1.6 Gleichung (1.1.1) über die Additivität von P verschärfen.

2.2.3 Satz (diskretes W-Maß ist σ-additiv) Es sei (Ω, P) ein diskreter W-Raum. Dann gilt für jede Familie (A_{n})_{n∈ℕ} paarweise disjunkter Mengen A_{n} ∈ 2^{Ω}

P ( ⋃_{n=1}^{∞} A_{n}) = ∑_{n=1}^{∞} P (A_{n}).  (2.2.8)

Diese Eigenschaft heißt σ-Additivität.

Anmerkung. Mit dem Zusatz σ Bezeichnet man kurz Regeln über abzählbare Vereinigungen oder Summen. Ebenso ist das Kürzel δ für abzählbare Durchschnitte oder Prodkte im Gebrauch.

Beweis. P sei konzentriert auf die Menge {ω_{i} | i ∈ ℕ}.

P ( ⋃_{n=1}^{∞} A_{n}) = ∑_{i=1} p_{i}1l_{⋃_{n=1}^{∞} A_{n}}(ω_{i})

Da die A_{n} paarweise disjunkt sind, gilt

= ∑_{i=1} p_{i} ∑_{n=1}^{∞} 1l_{A_{n}}(ω_{i})

wobei in der Summe ∑_{n=1}^{∞} 1l_{A_{n}}(ω_{i}) alle Summanden bis auf höchstens einen gleich 0 sind. Da alle Terme nichtnegativ sind, darf man die Summationsreihenfolge vertauschen:

P ( ⋃_{n=1}^{∞} A_{n}) = ∑_{n=1}^{∞} ∑_{i=1} p_{i}1l_{A_{n}}(ω_{i})

= ∑_{n=1}^{∞} P (A_{n}).

2.2.4 Festst. (Resultate aus Kap. 1.) 1. Für einen abzählbar unendlichen diskreten W-Raum (Ω, P), wobei P auf {ω_{n} | n ∈ ℕ konzentriert ist, gelten alle Definitionen und Ergebnisse, die wir in Abschnitt 1 getroffen bzw. hergeleitet haben sinngemäß weiter, da für ihre Herleitung nur endliche Operationen – Vereinigung, Durchschnitt, Komplement von Mengen, Summe, Produkt, Quotient von Zahlen – verwendet werden; diese gelten mit der Definition 2.2.1, Gleichung (2.2.3) weiter.

2. Bei der Bildung des Erwartungswertes einer reellen Zufallsvariablen X : (Ω, P) → ℝ muß man immer die Zusatzvoraussetzung machen, daß die Reihe

E(|X|) := ∑_{n=1}^{∞}|X(ω_{n})|P {ω_{n}}  (2.2.9)

absolut konvergent ist. Wir schreiben hierfür kurz E(|X|) < ∞.

Dann konvergiert auch die Reihe

E(X) := ∑_{n=1}^{∞} X(ω_{n})P {ω_{n}}  (2.2.10)

und die Summanden dürfen beliebig umsortiert werden. D.h., man kann mit absolutkonvergenten Reihen bedenkenlos rechnen.

3. Wenn die Varianz auftritt, muß vorausgesetzt werden, daß E(|X|^{2}) < ∞ ist. Aus der Schwarzschen Ungleichung folgt

E(|X|) = E(|1 · X|) ≤ \sqrt{E(1)}\sqrt{E(|X|^{2})} < ∞.

Dann ist auch

Var(X) = E(X^{2}) − (E(X))^{2} < ∞.

Die Kovarianz bildet man nur für reelle Zufallsvariablen X, Y, für die

E(|X|^{2}) < ∞ und E|(|Y^{2}) < ∞

ist.

2.2.5 Festst. (Erwartungswert der geomtr. V) Für eine geometrisch verteilte Zufallsvariable gilt:

(i) Der Erwartungswert ist

E(X) = \frac{1 − p}{p} = \frac{1}{p} − 1.

(ii) Die Varianz ist

Var(X) = \frac{1 − p}{p^{2}}

Anmerkung. Beim wiederholten Würfeln mit einem fairen Würfel hat man also im Mittel

E(X) = ( \frac{1}{6} )^{−1} − 1 = 5

Fehlversuche, bis die erste 6 fällt. Die Varianz von X ist

Var(X) = \frac{5}{6} ( \frac{1}{6} )^{−2} = 30.

Die Standardabweichung ist σ(X) = \sqrt{30}.

Beweis. (i) Da man Potenzreihen innerhalb Ihres Konvergenzbereiches gliedweise differenzieren kann, gilt

E(X) = ∑_{k=0}^{∞} kp(1 − p)^{k}

= −p(1 − p) \frac{d}{dp} ∑_{k=0}^{∞}(1 − p)^{k}

= −p(1 − p) \frac{d}{dp} \frac{1}{1 − (1 − p)} = p(1 − p) \frac{1}{p^{2}}

= \frac{1}{p} − 1.

(ii) Aus Feststellung 1.18.3 (ii) folgt

Var(X) = E(X(X − 1)) + E(X) − (E(X))^{2}.

E(X(X − 1)) = ∑_{k=0}^{∞} k(k − 1)p(1 − p)^{k}

= p(1 − p)^{2} ∑_{k=2}^{∞} k(k − 1)(1 − p)^{k−2}

= p(1 − p)^{2} \frac{d^{2}}{dp^{2}} ∑_{k=0}^{∞}(1 − p)^{k}

= p(1 − p)^{2} \frac{d^{2}}{dp^{2}} \frac{1}{1 − (1 − p)}

= p(1 − p)^{2} \frac{2}{p^{3}}

= \frac{2(1 − p)^{2}}{p^{2}}

Somit ist

Var(X) = \frac{2(1 − p)^{2}}{p^{2}} + \frac{1 − p}{p} − \frac{(1 − p)^{2}}{p^{2}} = \frac{1 − p}{p^{2}} .

Bsp. (St. Peterburger Paradoxon) Das Rechnen und argumentieren mit Zufallsvariablen X, für die E(|X|) = ∞ ist, führt leicht zu paradoxen Ergebnissen. Hier ist ein Beispiel, das auf einen Artikel zurückgeht, den J. Bernoulli 1738 in der Zeitschrift der St. Petersburger Akademie publizierte.

In einem Glückspiel wird eine faire Münze geworfen. Fäll Kopf, so erhält der Spieler den doppelten Einsatz, anderenfalls ist der Einsatz verloren. Ein Spieler mit unbegrenztem Kapital (und Zeit) entscheidet sich für die folgende Strategie:

Er setzt beim ersten Spiel 1 Euro; gewinnt er, so hört er auf zu spielen. Anderenfalls verdoppelt er seinen Einsatz. Dies macht er so lange, bis er das erste mal gewinnt.

Gewinnt er beim n-ten Spiel, so hat er bis dahin

∑_{ν=1}^{n} 2^{ν} = 2^{n} − 1

Euro gesetzt und 2^{n} Euro gewonnen. Der Reingewinn ist 1 Euro. die Wahrscheinlichkeit, daß er erstmals im n-ten Spiel gewinnt ist

𝒢_{1/2}\{n − 1\} = \frac{1}{2} ( \frac{1}{2} )^{n−1} = 2^{−n}.

Die Wahrscheinlichkeit, daß er nie gewinnt ist also kleiner als 2^{−n} für alle (n = 1, 2, …), d.h. gleich 0.

Obwohl das Spiel fair ist, liefert die Methode mit Sicherheit den Reingewinn 1 Euro!

Das Problem liegt darin begründet, daß bei beliebig langer Spielzeit der Gewinn – ohne Berücksichtigung des Einsatzes – unendlichen Erwartungswert besitzt.

Der Grundraum ℕ mit der geometrischen Wahrscheinlichkeit 𝒢_{1/2} beschreibt die Situation, daß der Gewinn im n-ten Spiel eintritt. Die Zufallsvariable

X : ℕ → ℕ mit X(n) = 2^{n}

beschreibt den Gewinn. X hat aber unendlichen Erwartungswert:

E(X) = ∑_{n=1}^{∞} X(n)𝒢_{1/2}{n} = ∑_{n=1}^{∞} 2^{n}2^{−n} = ∞.

Ebenso hat das Eingesetzte Kapital Y = X − 1 unendlichen Erwartungswert.

In einem Spiel ist der Erwartungswert des Gewinnes, sofern er endlich ist, der faire Preis, den man zu Beginn des Spieles setzen kann. Ist der Erwartungswert unendlich, so gibt es keinen sinnvollen fairen Preis. In dem obigen Spiel müßte der Spieler vorab unendlich viel Kapital als Einsatz zahlen!.

Anmerkung. Das Produkt endlich vieler diskreter W-Räume ist wieder diskret:

2.2.6 Bez. (endl. Produkte diskreter WR.) (i) Es seien (Ω_{i}, P_{i}), (i = 1, …, k) endlich viele diskrete W-Räume. Die W-Maße seien jeweils auf die Mengen

M_{i} = {ω_{n}^{(i)} | n ∈ ℕ}

konzentriert.

Ω := Ω_{1} × ⋯ × Ω_{k}.

Man erklärt das Produktmaß P := P_{1} ⊗ ⋯ ⊗ P_{k} auf

Ω := Ω_{1} × ⋯ × Ω_{k}.

durch

P (A) = ∑_{(n_{1},...,n_{k})∈ℕ^{k}} p_{n_{1}} ⋯ p_{n_{k}}1l_{A}(ω_{n_{1}}^{(1)}, …, ω_{n_{k}}^{(k)}) (2.2.11)

= ∑_{n_{1}=1}^{∞} ⋯ ∑_{n_{k}=1}^{∞} p_{n_{1}} ⋯ p_{n_{k}}1l_{A}(ω_{n_{1}}^{(1)}, …, ω_{n_{k}}^{(k)}) (2.2.12)

für A ∈ 2^{Ω}.

(ii) Aus Gleichung (2.2.12) folgt die Produkteigenschaft:

P (A_{1} × … A_{k}) = P_{1}(A_{1}) ⋯ P_{k}(A_{k})

für A_{i} ∈ 2^{Ω_{i}}, (i = 1, …, k).

(iii) M := M_{1} × ⋯ × M_{k} eine abzählbare Teilmenge von Ω_{1} × ⋯ × Ω_{n} und das Produktmaß ist auf M konzentriert.

(iv) (iv) Mit dieser Definition des Produktmaßes gelten alle Resultate aus Kapitel 1 unveränder fort.

2.2.7 Bez. (Bildverteilung einer ZV) Es sei (Ω, P) ein diskreter W-Raum und P sei konzentriert auf die abzählbare Menge {ω_{n} | n ∈ ℕ}. Für eine Zufallsvariable X : (Ω, P) → M ist dann das Bildmaß

P_{X}(B) := P {X ∈ B} für B ∈ 2^{M}

auf die höchsten abzählbare Menge {X := X(ω_{n}) | n ∈ ℕ} konzentriert; diese kann auch endlich sein. Also ist (M, P_{X}) wieder ein diskreter W-Raum.

2.2.8 Folg. (Bildverteilungen) Mit dieser Definition des Bildmaßes (→ Bezeichnung 2.2.7) gelten alle Resultate aus Kapitel 1 weiter. Insbesondere gilt:

(i) Endlich viele Zufallsvariable X = (X_{1}, …, X_{n}) sind unabhängig, wenn ihre gemeinsame Verteilung P_{X} gleich dem Produkt ihrer Randverteilungen ist:

P_{X} = P_{X_{1}} ⊗ ⋯ ⊗ P_{X_{n}}.

(ii) Für den Erwartungswert einer reellen Zufallsvariablen (Ω, P) → ℝ mit E(|X|) < ∞ gilt

E(X) = ∑_{x∈𝒳} xP_{X}{x}

Anmerkung. Daß das Bild eines diskreten W-Raumes wieder ein diskreter W-Raum ist, sieht sehr ansprechend aus, schränkt aber die Anwendbarkeit der diskreten W-Räume zur Modellbildung stark ein:

Es gibt auf einem diskreten W-Raum keine abzählbare Folge (X_{n})_{n} identisch verteilter unabhängiger Zufallsvariabler.

Wir wollen das Begründung kurz skizzieren: Annahme, (X_{n})_{n} sei eine abzählbare Folge identisch verteilter unabhängiger Zufallsvariabler. Man wähle B_{n} ∈ X_{n}(Ω) so, daß P {X_{n}}(B_{n}) = p ∈ (0, 1) für n ∈ ℕ. Die Zufallsvariablen 1l_{X_{n}^{−1}(B_{n})} bilden eine abzählbare Folge von unabhängigen Bernoulli-Variablen mit Parameter p ∈ (0, 1).

Ähnlich wie im Beispiel 2.1.2 des unendlichen Münzwurfs zeigt man, daß der projektive Limes dieses System das Intervall [0, 1) mit der uniformen Verteilung 𝒰 ist. Der Raum ([0, 1), 𝒰) ist aber kein diskreter W-Raum.

2.3 Konvergenz gegen geomtr. Vertlng.

Anmerkung. Wir interessieren uns für konvergente Folgen diskreter W-Maße, die alle auf dieselbe abzählbare menge konzentriert sind. Dann ist der Grenzwert wieder ein diskretes W-Maß, In diesem Abschnitt betrachten wir ein relativ einfaches und anschauliches Beispiel, in dem der Grenzwert die geometrische Verteilung ist. In den folgenden Abschnitten untersuchen wir dann die Konvergenz der Binomialverteilung bei wachsendem n und zeigen:

Bei geeigneter Parameterwahl konvergiert die Binomialverteilung ℬ_{n,p} einerseits gegen die

→ Poisson-Verteilung auf ℕ, also wieder eine diskrete Verteilung.

und bei anderer Wahl der Parameter gegen die

→ Normalverteilung auf ℝ, also eine Verteilung mit stetiger Dichte.

2.3.1 Bsp. (Konvergenz gegen die geom. V.) Wir betrachten zunächst Zufallsexperimente mit einem endlichen Ergebnisraum. Aus einer Urne mit K schwarzen Kugeln und N − K roten Kugeln wird eine geordnete Stichprobe ω := (ω_{1}, …, ω_{n}) vom Umfang N gezogen. Es werden also alle Kugeln gezogen. Der Raum Ω_{ord} der geordneten Stichproben sei mit Laplace-Wahrscheinlichkeit versehen. Es gibt \binom{N}{K} mögliche Plätze für die schwarzen Kugeln, die roten kommen auf die restlichen Plätze. Also ist:

|Ω_{ord}| = \binom{N}{K}.

Die Zufallsvariable X : Ω_{ord} → ℕ gibt an, wieviele rote Kugeln gezogen werden, bevor die erste schwarze kommt:

X : ω ↦ max{i | 0 ≤ i ≤ N − K, ω_{1}, …, ω_{i} rot}

Wenn die erste schwarze Kugel im k + 1-ten Zug erschien, sind bereits k rote Kugeln und eine schwarze gezogen worden. Es verbleiben also noch \binom{N−k−1}{K−1} mögliche Plätze für die verbleibenden K − 1 schwarzen Kugeln. Also ist

P_{N,K}\{X = k\} = \begin{matrix}( & {N−k−1 \atop K−1} & ) \\ ( & {N \atop K} & ) \end{matrix} für k = 0, … N − K.

Wir betrachten den Raum ℕ_{0} mit dem diskreten W-Maß P_{N,K}. Es gilt also

P_{N,K}{X = k}

= \frac{(N − k − 1)!}{(K − 1)!(N − K − k)!} \frac{K!(N − K)!}{N!}

= \frac{K}{N − k} ∏_{i=0}^{k−1} \frac{N − K − i}{N − i}  (2.3.1)

für k = 0, … N − K und 0 sonst.

Man kann die Gleichung (2.3.1) auch direkt interpretieren, als die Wahrscheinlichkeit, zunächst k rote Kugeln zu ziehen und dann eine schwarze.

Grenzübergang: Wie verhält sich die Verteilung P_{N,K} wenn man immer mehr Kugeln in der Urne hat?

Man führe einen Grenzübergang N, K → ∞ derart aus, daß der Anteil der schwarzen Kugeln \frac{K}{N} → p ∈ (0, 1) konvergiert. D.h. man wähle eine Folge (K_{N})_{N} so daß

lim_{N→∞} \frac{K_{N}}{N} = p mit 0 < p < 1.

Aus der Gleichung (2.3.1) erhält man in diesem Fall

lim_{N→∞} P_{N,K_{N}} {k} = p(1 − p)^{k}.

Der Grenzwert ist die geometrische Wahrscheinlichkeit zum Parameter p:

lim_{N→∞} P_{N.K} = 𝒢_{p}  (2.3.2)

Das Ergebnis ist anschauulich zu verstehen. Bei festem k wähle man N und K_{N} ≈ pN sehr groß. Dann ändert sich beim Ziehen von k Kugeln aus der Urne der Restbestand praktisch nicht und folglich sind die Wahrschenlichkeiten für die Farbe der nächsten Kugeln annähernd konstant p bzw. 1 − p. Die Wahrscheinlichkeit, erst k rote und dann eine schwarze Kugel zu ziehen ist also ≈ (1 − p)^{k}p.

Anmerkung. (Bose-Einstein-Statistik) Man kann das W-Maß in dem obigen Beispiel 2.3.1 auch als die Verteilung der Anzahl der Objekte in einer Zelle bei einer Belegung mit nichtunterscheidbaen Objekten interpretieren (→ Bezeichnung 1.2.5).

R rote Kugeln werden durch einen Zufallsmechanismus auf K +1 Zellen mit den Nummern 0, 1, …, K verteilt. Als Zufallsmechanismus verwende man ein Urne mit K schwarzen Kugeln und R = N −K roten Kugeln, aus der man alle Kugeln der Reihe nach entnimmt. Man hat also eine geordnete Stichprobe von roten und schwarzen Kugeln. Die roten Kugeln werden dann nach folgender Regel auf die K + 1 Zellen verteilt:

Begint die Stichprobe mit einer roten Kugel, so kommt diese und die folgenden roten Kugeln solange in die Zelle mit der Nummer 0, bis eine schwarze Kugel gezogen wird, andernfalls bleibt die Zelle mit der Nummer 0 leer. Die schwarzen Kugeln bilden nun die Trennwände zwischen den folgenden Zellen mit den Nummern 1, …, K − 1. Die roten Kugeln zwischen der i-ten und der i + 1-ten schwarzen Kugel kommen in die Zelle mit der Nummer i. Die roten Kugeln, die auf die K-te schwarze Kugel folgen, kommen in die letzte Zelle mit der Nummer K.

Ein Beispiel sagt mehr als tausend Worte: Es sei K = 5, R = 6. Die Stichprobe

r, r, s, s, r, r, r, s, s, r, s

ergibt die Belegungszahlen 2, 0, 3, 0, 1, 0.

Da alle \binom{R+K}{R} Anordnungen von R roten und K schwarzen Kugeln gleichwahrscheinlich sind, bewirkt dieser Zufallsmechanismus, daß alle so erzeugten Belegungen der Zellen gleichwahrscheinlich sind. Die Zufallsvariable X mit der durch die Gleichung (2.3.1) gegebene Verteilung gibt die Anzahl der roten Kugeln in der Zelle mit der Nummer 0 an.

P_{R,K}\{X = k\} := \frac{K}{R + K − k} ∏_{i=0}^{k−1} \frac{R − i}{R + K − i} für k = 0, …, R.

Für R, K → ∞ mit \frac{R}{K} → λ ist

lim_{R,K→∞} P_{R,K}\{k\} = \frac{1}{λ + 1} ( \frac{λ}{1 + λ} )^{k} = 𝒢_{p}\{k\},  (2.3.3)

wobei p = \frac{λ}{1+λ} und λ der Erwartungswert von 𝒢_{p} ist.

Aus Symmetriegründen hat die Anzahl der Kugeln in jeder anderen Zelle die gleiche Verteilung wie X und ist also aprroximativ geometrisch verteilt.

\binom{R+K}{R} ist die Anzahl Belegungen von K + 1 Zellen mit R nicht unterscheidbaren Objekten (→ Folgerung 1.2.6). In der Physik heißt diese Laplace-Wahrscheinlichkeit auf den Belegungen die Bose-Einstein Statistik. Man findet sie in der Quantenmechanik bei der Beschreibung der sogenannten Bose-Teilchen. Elementarteilchen von diesem Typ sind ununterscheidbar, d.h. der Austausch zweier Teilchen ändert nichts am Zustand des Systems.

Es können mehrere Bose-Teilchen in der selben Zelle sein oder physikalisch ausgedrückt, denselben Zustand haben. Ein anderer Typ sind die Fermi-Dirac-Teilchen, die ebenfalls ununterscheidbar sind, von denen aber immer höchsten eines in einer Zelle sein kann. Die Gleichverteilung auf den möglichen Belegungen impliziert also, das die die Zahl der Teilchen in der gleichen Zelle annähernd geometrisch verteilt ist.

Anmerkung. Im allgemeinen hat man bei Belegungenmit mit unterscheidbaren Objekten nicht die Gleichverteilung (Bose-Einstein-Statistik), sondern die Multinomialverteilung. Die Anzahl der Objekte in einer Zelle ist dann die Randverteilung, also binomialverteilt (→ Beispiel 1.8.5).

Wir werden analog zum Vorgehen im Beispiel 2.3.1 für Zufallsvariable X_{n}, die ℬ_{n,p} verteilt sind, den Grenzwert der Verteilung für n → ∞ unter der Nebenbedingung E(X_{n}) → λ untersuchen. Dabei stoßen wir die auf die → Poissonverteilung auf ℕ.

2.4 Poisson-Verteilung

Anmerkung. Die Exponentialfunktion e^{x} gilt

e^{x} = lim_{n→∞} (1 + \frac{x}{n} )^{n} für x ∈ ℝ.  (2.4.1)

e^{x} hat die Potenzreihenentwicklung

e^{x} = ∑_{n=0}^{∞} \frac{x^{n}}{n!} für x ∈ ℝ.  (2.4.2)

Für λ > 0 ist e^{−λ} \frac{λ^{n}}{n!} > 0 und

∑_{n=0}^{∞} e^{−λ} \frac{λ^{n}}{n!} = 1.  (2.4.3)

Man kann also mit diesen Werten ein diskretes W-Maß auf ℕ_{0} bilden.

2.4.1 Bez. (Poisson-Verteilung) 1. Für λ > 0 heißt das Wahrscheinlichkeitsmaß 𝒫_{λ} auf ℕ_{0} mit

𝒫_{λ}\{k\} = e^{−λ} \frac{λ^{k}}{k}

die Poisson-Verteilung zum Parameter λ

2. Eine Zufallsvariable X heißt Poisson-verteilt, wenn sie ihre Werte in ℕ_{0} annnimt und

P \{X = k\} = e^{−λ} \frac{λ^{k}}{k}

ist.

2.4.2 Festst. (Eigenschaften: Poisson-Verteilung) Eine Poisson-verteilte Zufallsvariable X hat den Erwartungswert

E(X) = λ

und die Varianz

V ar(X) = λ.

λ ist also zugleich der Erwartungswert und die Varianz ein 𝒫_{λ}-verteilten Zufallsvariablen.

Beweis.

E(X) = ∑_{k=0}^{∞} ke^{−λ} \frac{λ^{k}}{k!} = λe^{−λ} ∑_{k=1}^{∞} \frac{λ^{k−1}}{(k − 1)!} = λe^{−λ}e^{λ} = λ.

Aus Feststellung 1.18.3 (ii) folgt

Var(X) = E(X(X − 1)) + E(X) − (E(X))^{2}.

E(X(X − 1)) = ∑_{k=0}^{∞} k(k − 1)e^{−λ} \frac{λ^{k}}{k!}

= λ^{2}e^{−λ} ∑_{k=2}^{∞} \frac{λ^{k−2}}{(k − 2)!} = λ^{2}e^{−λ}e^{λ} = λ^{2}

und somit

Var(X) = λ^{2} + λ − λ^{2} = λ.

2.4.3 Satz (Konvergenz gegen Poisson-Verteilung) Für eine Folge von Binomialverteilungen ℬ_{n,p_{n}}, (n ∈ ℕ), deren Mittelwerte μ_{n} := np_{n} konvergieren:

lim_{n→∞} μ_{n} =: λ  (2.4.4)

gilt

lim_{n→∞} ℬ_{n,p_{n}}\{k\} = e^{−λ} \frac{λ^{k}}{k!} .  (2.4.5)

Unter der Nebenbedingung (2.4.4) konvergiert die Binomialverteilung gegen die Poissonverteilung.

Beweis. Es ist

ℬ_{n,p_{n}}\{k\} = \binom{n}{k}p_{n}^{k}(1 − p_{n})^{n−k}

= \frac{1}{k!} n(n − 1) ⋯ (n − k + 1)p_{n}^{k}(1 − p_{n})^{n−k}

= \frac{1}{k!} \frac{n}{n} \frac{n − 1}{n} ⋯ \frac{n − k + 1}{n} μ_{n}^{k}(1 − \frac{μ_{n}}{n} )^{n−k}

= \frac{1}{k!} \frac{n}{n} \frac{n − 1}{n} ⋯ \frac{n − k + 1}{n} μ_{n}^{k}(1 − \frac{μ_{n}}{n} )^{−k}(1 − \frac{μ_{n}}{n} )^{n}

Letzteres konvergiert für n → ∞ gegen

ℬ_{n,p_{n}}\{k\} → \frac{1}{k!} e^{−λ}.

Dabei haben wir das folgende Bemerkung 2.4.4 benutzt:

2.4.4 Bem. Man kann die Gleichung (2.4.1) noch etwas verschärfen: Für 0 ≤ μ_{n} → λ gilt

(1 − \frac{μ_{n}}{n} )^{n} → e^{−λ}

Dies sieht man folgendermaßen ein: Da der natürliche Logarithmus log x die Ableitung \frac{d}{dx} log x = 1/x hat, folgt aus dem Mittelwertsatz der Differentialrechnung

log (1 − \frac{μ_{n}}{n} ) − log 1 = − \frac{μ_{n}}{n} \frac{1}{1 − ξ_{n}}

mit 0 < ξ_{n} < μ_{n}/n. Also gilt ξ_{n} → 0 für n → ∞. Da log 1 = 0 ist folgt hieraus

(1 − \frac{μ_{n}}{n} )^{n} = exp (n log (1 − \frac{μ_{n}}{n} ))

= exp (n( − \frac{μ_{n}}{n} \frac{1}{1 − ξ_{n}} ))

→ exp(−λ).

Anmerkung. Die Approximation der Binomialverteilung ℬ_{n,p} durch die Poisson-Verteilung 𝒫_{λ} mit λ = np findet ihre Anwendung für große Werte von n und sehr kleine Werte von p. Das ist aus folgenden Gründen angebracht:

– Die Binomialkoeffizienten \binom{n}{k} werden schnell sehr groß und die Werte der Binomialverteilung lassen sich für große n und kleine p nicht gut berechnen. Die Poisson-Verteilung kann gut rekursiv berechnen:

𝒫_{λ}(0) = e^{−λ}, 𝒫_{λ}(k) = \frac{λ}{k} 𝒫_{λ}k − 1

– Manchmal sind n und p nicht genau bekannt, man weiß nur, daß n groß und p klein ist. Wenn man den Erwartungswert λ = np schätzen schätzen, kann man die Verteilung trotzdem gut approximieren.

2.4.5 Bsp. (Verteilung der Schadensmeldungen) Die Anzahl der Schadensmeldungen in einem Zeitraum (0, t], t > 0, sei proportional zur Länge des Intervalls (0, t], also gleich αt mit einem empirisch zu ermittelnden Faktor α. Die Schadensmeldungen treffen zufällig ein, z.B. bei einer Versicherung. Wie ist die Verteilung X der Schadensmeldungen in einem festen Zeitraum (0, t] anzusetzen?

Klar ist, X nimmt seine Werte in ℕ_{0} an. Wir zerlegen das Intervall (0, t] in n gleichlange Teilintervalle. Wenn n groß ist und somit die Teilintervalle kurz sind, ist anzunehmen, daß in jedem Teilintervall höchstens ein Schadenfall eintritt. Weiterhin nehmen wir an, daß das Auftreten eines Schadens in einem Teilintervall nicht davon abhängt, ob und in welchen anderen Teilintervallen Schäden auftreten. D.h., man kann so tun, als ob die Schadensfälle in den einzelnen gleichlangen Teilintervallen n-fach Bernoulli-verteilt mit dem Parameter p = αt/n sind Die Zufallsvariable X ist die Summe der ”Erfolge“. und folglich annähernd binomialverteilt mit den Parametern n und p ≈ αt/n.

Diese Überlegung kann man für alle hinreichen großen n ∈ ℕ anstellen. Das liefert den Ansatz für die Verteilung von X:

P {X = k} = lim_{n→∞} ℬ_{n,αt/n}{k}

= 𝒫_{αt}\{k\} = e^{−αt} \frac{(αt)^{k}}{k!} für k ∈ ℕ_{0}. (2.4.6)

für k ∈ ℕ_{0}.

Anmerkung. Wir halten fest, die Poisson-Verteilung 𝒫_{λ} ist ein Modell für die Anzahl rein zufällig auftretender Zeitpunkte in einem Zeitintervall. Man denke an die Zeitpunkte, in denen im Beispiel 2.4.5) ein Schaden eintritt. Andere typische Beispiele sind die in einem Callcenter eingehenden Anrufe, die über einen Mail-Server weiterzuleitenden Emails, die Anzahl der Kunden an einem Schalter, die Anzahl der Zeitpunkte, in denen ein Atom einer radioaktiven Substanz zerfällt. Das Intervall kann auch eine andere Dimension haben, z.B. die Anzahl der Fahrzeuge auf einem Straßenabschnitt.

Anmerkung. (zum Beispiel 2.4.5 Schadensmeldungen) In der obigen Diskussion haben wir darauf verzichtet, einen formalen W-Raum (Ω, P) für X : (Ω, P) → ℕ_{0} anzugeben. Wir gehen mal davon aus, daß einen solchen Raum gibt und wollen die Herleitung der Gleichung (2.4.6) etwas präzisieren:

1. Man zerlegt das Intervall (0, t] in n-Teile und bezeichnet mit X_{n,j}, (j = 1, …, n) die Anzahl der Schadensmeldungen im j-ten Teilintervall. Dann ist

X = X_{n,1} + … X_{n,n}.

Wir haben vorausgesetzt:

X_{n,1}, …, X_{n,n} unabhängig und identisch verteilt. (∗)

2. Dann haben wir X_{n,j} durch die Indikatorvariable 1l_{{X_{n,j} ≥1}} ersetzt und X durch die Summe

S_{n} := ∑_{j=1}^{n} 1l_{{X_{n,j} ≥1}}.

angenähert. Da die Ereignisse {X_{n,j}} > 1} unabhängig sind und die gleiche Wahrscheinlichkeit p_{n} := P {X_{n,1} ≥ 1} besitzen, ist S_{n} eine ℬ_{n,p_{n}} verteilte Zufallsvariable. Aus

1l_{{X_{n,1}≥1}} ≤ X_{n,1}

folgt

p_{n} = E(1l_{\{X_{n,1}≥1\}}) ≤ E(X_{n,1}) = \frac{αt}{n} .

3. Wir haben dann mit ”munteren Worten“ p_{n} ≈ αt/n gesetzt, d.h. wir setzen voraus, daß

lim_{n→∞} np_{n} = lim_{n→∞} E(S_{n}) =^{!} E(X) = αt  (∗∗)

Hiermit folgt aus Satz 2.4.3

lim_{n→∞} P {S_{n} = k} = lim_{n→∞} ℬ_{n,p_{n}}{k} = 𝒫_{αt}.  (2.4.7)

Wir wollen nun schließen, daß X ebenfalls Poissson-verteilt mit dem Parameter αt ist.

4. Dazu zeigen wir die folgende Aussage:

Aus (∗∗) folgt

lim_{n→∞} P ( ⋃_{j=1}^{n}{X_{n,j} ≥ 2}) = 0.  (2.4.8)

D.h. bei immer feiner werdender Zerlegung wird das Auftreten von mehr als einem Schaden immer unwahrscheinlicher. Dies sieht man folgendermaßen ein:

Wir benutzen in der folgenden Gleichung die σ-Additivität des nicht genauer angegebenen Wahrscheinlichkeitsmaßes P. Im Falle diskreter W-Räume hatten wir die σ-Additivität in Satz 2.2.3 gezeigt.

E(S_{n}) = ∑_{j=1}^{n} P {1l_{{X_{n,j} ≥1}} = ∑_{j=1}^{n} ∑_{k=1}^{∞} P {X_{n,j} = k}

≤ ∑_{j=1}^{n} ∑_{k=1}^{∞} kP {X_{n,j} = k} =^{!} ∑_{j=1}^{n} E(X_{n.j}) = E(X).

Aus (∗∗) folgt somit

lim_{n→∞} ∑_{j=1}^{n} ∑_{k=2}^{∞}(k − 1)P {X_{n,j} = k} = 0.

Aus der σ-Additivität von P folgt nun

P ( ⋃_{j=1}^{n}{X_{n,j} ≥ 2}) ≤ ∑_{j=1}^{n} ∑_{k=2}^{∞} P {X_{n,j} = k}

≤ ∑_{j=1}^{n} ∑_{k=2}^{∞}(k − 1)P {X_{n,j} = k} → 0

und somit die die Gleichung (2.4.8).

5. Aus den Gleichungen (2.4.7) und (2.4.8) erhalten wir nun die Verteilung von X. Wir zerlegen dazu die Menge {X = k} in die folgenden Fälle:

P {X = k} = P ({X = k} ∩ {X = S_{n}}) + P ({X = k} ∩ {X ≠ S_{n}})
= P ({S_{n} = k} ∩ {X = S_{n}}) + P ({X = k} ∩ {X ≠ S_{n}})
= P {S_{n} = k} − P ({S_{n} = k} ∩ {X ≠ S_{n}})
+ P ({X = k} ∩ {X ≠ S_{n}})

Da

{X ≠ S_{n}} ⊂ ⋃_{j=1}^{n}{X_{n,j} ≥ 2}

ist, folgt aus (2.4.8)

lim_{n→∞} P ({S_{n} = k} ∩ {X ≠ S_{n}}) = 0,
lim_{n→∞} P ({X = k} ∩ {X ≠ S_{n}}) = 0.

Also ist P {X = k} = lim_{n→∞} P {S_{n} = k} = 𝒫_{αt}{k}.

Anmerkung. Bei der Herleitung der Poisson-Verteilung in der obigen Anmerkung haben wir vorausgesetzt, daß sich X als Summe von n unabhängigen, identisch verteilten Zufallsvariablen schreiben läßt. Wir wollen zeigen, daß dies für eine Poissonverteilte Zufallsvariable für jedes n einzeln möglich ist, indem wir X durch eine passende Zufallsvariable X̃ mit der gleichen Verteilung ersetzen. Eigentlich benötigen wir einen W-Raum, auf dem dies für alle n zugleich möglich ist.

In der Übung wird gezeigt, daß für unabhängig Zufallsvariable X und Y, die Poisson-verteilt sind mit den Parametern λ bzw μ, die Summe X + Y wieder Poisson-verteilt ist mit dem Parameter λ + μ.

Es sei X Poisson-verteilt mit dem Parameter λ. Man wähle eine Zufallsvariable Y die Poisson-verteilt mit dem Parameter λ/n ist. Z.B. die identische Abbildung von (Ω, P) := (ℕ_{0}, 𝒫_{λ/n}).

Man bilde nun das n-fache Produkt (Ω^{n}, P^{⊗n}) mit den Projektionen pr_{ν} : Ω^{n} → Ω und setze

X_{ν} = Y ∘ pr_{ν} für ν = 1, …, n.

Die X_{ν} sind unabhängig und 𝒫_{λ/n} verteilt. Also ist

X̃ := ∑_{ν=1}^{n} X_{ν}

𝒫_{λ} verteilt.

Da X und X̃ dieselbe Verteilung haben, kann man X durch X̃ ersetzen. Die letztere Zufallsvariable ist die Summe von n identisch verteilten unabhängigen Zufallsvariablen.

2.5 Allgemeine W-Räume

Anmerkung. Wir geben die formale Definition eines W-Raumes. Die diskreten W-Räume ordnen sich hier als wichtiges Beispiel ein. Wir werden keine tieferliegenden Ergebnisse über allgemeine W-Räume herleiten, sondern benötigen die Definition im wesentlichen, um in den folgenden Beispielen die übliche Terminologie verwenden zu können.

Es erweist sich als zweckmäßig und vielfach aus Gründen der Logik als notwendig, daß man bei überabzählbaren Ereignisräumen, wie z.B. bei den reellen Zahlen ℝ, als Ereignisse nicht mehr alle Teilmengen des Grundraumes zuläßt, sondern sich auf eine kleineres Mengensystem beschränkt, daß alle ”interessierenden“ Ereignisse enthält. Im Fall der reellen Zahlen wird man z. B. die Wahrscheinlichkeit von Intervallen berechnen wollen.

Wie wir bei der Untersuchung diskreter W-Räume bereits gesehen haben, ist das wesentliche theoretische und rechnerische Hilfsmittel die Approximation durch einfachere Modelle. Der Übergang zu Grenzwerten vereinfacht einerseits die Theorie aber auch die praktische Berechnung. Der Grenzwert ist der ideale genaue Wert, mit den man jede Approximation vergleichen kann. Die Kenntnis des Grenzwertes ermöglicht es oft andere, bessere Näherungen zu finden, als die, mit denen man zunächst die Existenz des Grenzwertes und seine Eigenschaften gefunden hat.

Um Grenzwerte bilden zu können, müssen wir für die Ereignisse abzählbare Mengenoperationen (Vereinigung, Durchschnitt, Komplement) zulassen. Im Falle der reellen zahlen kommt man also nicht umhin, auch all die Teilmengen zu betrachten, die sich durch ”beliebig wiederholte“ abzählbare Mengenoperationen aus Intervallen bilden lassen. Man nennt dies das System der Borel-Mengen B(ℝ) auf ℝ. Es wird sehr aufwendig und ist auch nicht nötig, dieses Mengensystem durch Konstruktionsvorschriften zu beschreiben. Man charakterisiert die Borel-Mengen B(ℝ) als das kleinste Mengensystem, das alle Intervalle enthält und aus dem abzählbaren Mengenoperationen nicht hinausführen.

Um diese Gedanken zu präzisieren gibt man eine axiomatische Charakterisierung und gelangt so zum Begriff der σ-Algebra:

2.5.1 Def. (σ-Algebra) Es sei Ω eine Menge. eine Teilmenge A ⊂ 2^{Ω} heißt ein Mengensystem auf Ω.

Ein Mengensystem A heißt eine σ-Algebra, wenn folgendes gilt:

1. Ω ∈ A

2. Mit A ∈ A ist auch das komplementäre Menge A^{c} ∈ A.

3. Ist (A)_{n∈ℕ} in A, so ist auch

⋃_{n=1}^{∞} A_{n} ∈ A.

In der W-Theorie nennt das Paar (Ω, A) einen Ereignisraum und die Elemente von A Ereignisse. In der Maßtheorie sagt man Meßraum oder meßbarer Raum dazu.

Anmerkung.

1. Man beachte, es nicht gefordert wird, daß eine σ-Algebra für beliebige Familien (A_{i})_{i∈I} die Vereingungen ⋃_{i∈I} A_{i} enthält. Diese Eigenschaft ist i.a. auch falsch.

Ein einfaches Beispiel ist die – sonst nicht weiter interessante – σ-Algebra

A := {A ⊂ ℝ | A oder A^{c} höchstens abzählbar}.

Es sind alle einpunktigen Mengen {a} ∈ A. Jede Menge ist Vereinigung ihrer Punkte. Da ℝ überabzählbar ist, ist A ≠ 2^{ℝ}, z.B. ist das Intervall [0, ∞) ∉ A.

2. In den Axiomen einer σ-Algebra steht auch nicht, daß die einpunktigen Mengen zu A gehören. Das wird aber häufig der Fall sein.

2.5.2 Festst. (Rechenregeln: σ-Algebren) Es sei A eine σ-Algebra auf der Menge Ω.

(i) Es ist ∅ = Ω^{c} ∈ A.

(ii) Sind A_{1}, …, A_{n} ∈ A, so ergänze man sie durch ∅ = A_{n+1} = A_{n+2} = … zu einer Folge. Somit ist die endliche Vereinigung A_{1} ∪ ⋯ ∪ A_{n} = ⋃_{n=1}^{∞} A_{n} ∈ A.

(iii) Es sei (A_{n})_{n∈ℕ} in A. Nach der de Morganschen Regel gilt:

⋂_{n=1}^{∞} A_{n} = ( ⋃_{n=1}^{∞} A_{n}^{c})^{c} ∈ A.

(iv) Analog zum Punkt (ii) ist mit A_{1}, …, A_{n} ∈ A auch der Durchschnitt A_{1} ∩ ⋯ ∩ A_{n} ∈ A.

(v) Ist (A_{n})_{n∈ℕ} in A eine fallende Folge, d.h.

A_{1} ⊃ A_{2} ⋯ A_{n} ⊃ A_{n+1} ⋯,

dann kann man A_{k} als disjunkte Vereinigung schreiben:

A_{k} = ( ⋂_{n=1}^{∞} A_{n}) ∪ ⋃_{n=k}^{∞}(A_{n} \ A_{n+1}),

Das System ⋂_{j=1}^{∞} A_{j} und (A_{n}\A_{n+1})_{n} besteht aus paarweise disjunkten Mengen. Ist (A_{n})_{n} eine beliebige Folge in A, dann kann man die Vereinigung der A_{n} als disjunkte Vereinigung schreiben:

⋃_{n=k}^{∞} A_{n} = ⋃_{n=1}^{∞} (A_{n} \ ⋃_{i=1}^{n−1} A_{i})

Also

⋃_{n=k}^{∞} A_{n} = A_{1} ∪ (A_{2} \ A_{1}) ∪ (A_{3} \ (A_{1} ∪ A_{2})) ∪ …

2.5.3 Bsp. (σ-Algebren) 1. Für eine beliebige Menge ist die Potenzmenge 2^{Ω} eine σ-Algebra auf Ω. 2^{Ω} ist offensichtlich die größte σ-Algebra auf Ω. Sie ist i.a. viel zu groß. Die kleinste σ-Algebra auf Ω ist {Ω, ∅}.

2. Der Durchschnitt einer beliebigen Familie von σ-Algebren auf Ω ist eine σ-Algebra.

3. Wenn Ω = {ω_{n} | n ∈ ℕ} höchstens abzählbar unendlich ist, so ist 2^{Ω} die kleinste σ-Algebra auf Ω, die alle einelementigen Teilmengen (Punkte) von Ω enthält. Aus diesem Grunde rechnet man bei diskreten W-Räum-en immer mit der vollen Potenzmenge.

4. Zu M ⊂ 2^{Ω} gibt es eine kleinste M umfassende σ-Algebra, die man mit σ(M) bezeichnet.

Beweis. Die Potenzmenge 2^{Ω} ist eine σ-Algebra ist, die M enthält. Nun bilde man den Durchschnitt aller σ-Algebren, die M enthalten. Dieser Durchschnitt ist nicht leer, ist eine σ-Algebra, und enthält M.

5. Ist insbesondere Ω = ℝ, so bezeichnet man mit B(ℝ) die kleinste σ-Algebra auf ℝ, die alle offenen Mengen enthält. B(ℝ) heißt die Borel-Algebra von ℝ.

Jedes abgeschlossene oder halbabgeschlossene Intervall ist Durchschnitt von abzählbar vielen offenen Intervallen:

[a, b] = ⋂_{n=1}^{∞}(a − \frac{1}{n}, b + \frac{1}{n}),

[a, b) = ⋂_{n=1}^{∞}(a − \frac{1}{n}, b).

Weiterhin ist jede offene Menge in ℝ die Vereinigung von höchstens abzählbar vielen offenen Intervallen. Daher ist B(ℝ) auch die kleinste σ-Algebra die alle beschränkten Intervalle enthält.

B(ℝ) ist auch die kleinste σ-Algebra, die alle Intervalle der Form (−∞, a] enthält.

Weiterhin ist jede einpunktige Menge {a} = [a, a] ∈ B(ℝ) und somit auch jede abzählbare Menge in B(ℝ)).

Wenn man von dem Ereignisraum ℝ spricht, ist immer (ℝ, B(ℝ)) gemeint.

6. Für ein Intervall I ⊂ ℝ sei

B(I) := {A | A ∈ B(ℝ) und A ⊂ I}.

B(I) ist die kleinste σ-Algebra auf I, die alle Teilintervalle von I enthält.

7. Die Borel-Algebra B(ℝ^{d}) ist die kleinste σ-Algebra, die alle offenen Teilmengen des ℝ^{d} enthält. Wie im Falle n = 1 zeigt man, daß B(R^{n}) die kleinste σ-Algebra ist, die alle offenen oder alle halboffenen oder alle abgeschlossenen achsenparallelen Quader enthält.

Weiterhin ist B(ℝ^{d}) die kleinste σ-Algebra, die alle Mengen der Form

(−∞, a_{1}] × (−∞, a_{2}] × ⋯ × (−∞, a_{n}]

enthält.

2.5.4 Bem. (Bild und Urbild einer σ-Algebra) 1. Es seien (Ω, A) ein Meßraum, Ω̃ eine Menge und X : Ω → Ω̃ eine Abbildung. Dann ist

Ã:= {B ∈ 2Ω̃ | X^{−1}(B) ∈ A}

eine σ-Algebra.

Man beachte, das das Mengensystem {X(A) | A ∈ A} i.a. keine σ-Algebra ist, selbst wenn X surjektiv ist, da i.a. X(A)^{c} ≠ X(A^{c}) ist.

2. Es seien Ω eine Menge, (Ω̃, Ã) eine Meßraum und X : Ω → Ω̃ eine Abbildung. Dann ist

X^{−1}(A) := {A ∈ 2^{Ω} | A = X^{−1}(B) für ein B ∈ Ã}

eine σ-Algebra.

Anmerkung. Wir definieren nun den allgemeinste Version eines W-Raumes.

2.5.5 Def. (W-Maß auf einer σ-Algebra) Es sei (Ω, A) ein Meßraum. Eine Abbildung P : A → [0, 1] heißt ein W-Maß, wenn die Axiome von Kolmogorov gelten:

1. P (Ω) = 1.

2. Für eine Folge (A_{n})_{n∈ℕ} paarweise disjunkter Ereignisse in A gilt

P ( ⋃_{n=1}^{∞} A_{n}) = ∑_{n=1}^{∞} P (A_{n}) (σ-additiv)

Das Tripel (Ω, A, P) heißt ein W-Raum.

2.5.6 Satz (Rechenregeln: W-Maße) Es sei (Ω, A, P) ein W-Raum (→ Definition 2.5.5). Dann gilt

(i) Für zwei disjunkte Mengen A, B ∈ A ist

P (A ∪ B) = P (A) + P (B) (additiv)

Es gelten also alle Rechenregeln aus Feststellung 1.1.6 über endliche Mengenoperationen.

(ii) Für eine beliebige Folge (A_{n})_{n} in A gilt

P ( ⋃_{n=1}^{∞} A_{n}) ≤ ∑_{n=1}^{∞} P (A_{n}) (σ-subadditiv)

(iii) Für eine monoton fallende Folge (A_{n})_{n∈ℕ} in A gilt

P ( ⋂_{n=1}^{∞} ) = lim_{n→∞} P (A_{n}). (von oben stetig)

(iv) Für eine monoton wachsende Folge (A_{n})_{n∈ℕ} in A gilt

P ( ⋃_{n=1}^{∞} ) = lim_{n→∞} P (A_{n}). (von unten stetig)

2.5.7 Bsp. (Uniforme Verteilung) 1. Man zeigt in allen gängigen Lehrbüchern zur Analysis III, daß es genau eine W-Maß 𝒰 auf den Borel-Mengen B([0, 1]) gibt, so das

𝒰[a, b] := b − a für 0 ≤ a ≤ b < 1.

gilt. Aus Stetigkeit von oben bzw. unten folgt dann

𝒰[a, b) = 𝒰(a, b] = 𝒰(a, b) = 𝒰[a, b]

Man nennt diese W-Maß die uniforme Verteilung auf [0, 1]. In den Lehrbüchern zur Analysis heißt diese W-Maß das Lebesgue-Maß und wird mit λ bezeichnet. 2. Das Lebesgue-Maß λ existiert auch auf jedem anderen echten, beschränkten Intervall I ⊂ ℝ. Um die uniforme Verteilung auf I zu erhalten, muß man λ normieren. Man setzt

𝒰_{I}(A) := \frac{λ(A)}{λ(I)} für A ∈ B(I).

Ist I = [a, b], so gilt also

𝒰_{I}([c, d]) = \frac{d − c}{b − a} für a ≤ c < d ≤ b.

2.6 Zufallsvariable und ihre Verteilung

2.6.1 Def. (meßbare Abb, Zufallsvariable) 1. Es seien (Ω, A) und (Ω̃, Ã) Meßräume. Eine Abbildung X : Ω → Ω̃ heißt meßbar, wenn

X^{−1}(B) ∈ A für B ∈ Ã.

2. Ist (Ω, A, P) ein W-Raum und (Ω̃, Ã) ein Meßraum, dann heißt eine meßbare Abbildung X : Ω → Ω̃ eine Zufallsvariable.

Wir schreiben hierfür kurz X : (Ω, A, P) → (Ω̃, Ã).

Anmerkung. Für jede Zufallsvariable X : (Ω, A, P) → (Ω̃, Ã) definiert jedes B ∈ Ã ein Ereignis {X ∈ B} = X^{−1}(B) ∈ A, dessen Wahrscheinlichkeit P {X ∈ B} man bilden kann. Wie im endlichen und diskreten Fall (→ Satz 1.6.3) heißt

P_{X} : B ↦ P {X ∈ B} für B ∈ Ã

die Bildverteilung von X.

2.6.2 Festst. (Regeln: Zufallsvariable) (i) Es seien (Ω, A, P) ein W-Raum, (Ω̃, Ã) und (Ω̂, Â) Meßräume. Ist X : Ω → Ω̃ eine Zufallsvariable und φ : Ω̃ → Ω̂ meßbar, dann ist φ ∘ X wieder Meßbar, also eine Zufallsvariable.

(ii) Es seien (Ω, A, P) ein W-Raum, (Ω̃, Ã) ein Meßraum und Ist D ein Erzeugendensystem von Ã, d.h., σ(D) = A.

Eine Abbildung X : Ω → Ω̃ ist bereits eine Zufallsvariable, wenn

X^{−1}(D) ∈ A für alle D ∈ D gilt.

Beweis. (i) Nach Vorausetzung ist für alle C ∈ Â (φ ∘ X)^{−1}(C) = X^{−1}(φ^{−1}(C)) ∈ A.

(ii) Das Mengensystem

Â:= {A ∈ 2Ω̃ | X^{−1}(A) ∈ A}

ist eine σ-Algebra, die D umfaßt. Also ist Ã = σ(D) ⊂ Â.

2.6.3 Satz (Verteilung einer Zufallsvariablen) Es seien (Ω, A, P) ein W-Raum, (Ω̃, Ã) ein Meßraum und X : Ω → Ω̃ eine Zufallsvariable. Dann ist die Abbildung

P_{X} : Ã) → [0, 1],
P_{X} : B ↦ P (X^{−1}(B)) für B ∈ Ã

ein W-Maß auf Ã.

P_{X} heißt die Verteilung von X oder das Bildmaß von P unter X. (Ω̃, Ã, P_{X}) heißt der von X induzierte W-Raum.

Beweis. Wir weisen die Eigenschaften aus Definition 2.5.5 nach. P_{X} ist eine Abbildung von Ã in [0, 1] mit P_{X}(Ω̃) = 1. Wir zeigen die σ-Additivität: Für eine Folge (B_{n})_{n} paarweise disjunkter Mengen in Ã gilt

P_{X}( ⋃_{n=1}^{∞} B_{n}) = P (X^{−1}( ⋃_{n=1}^{∞} B_{n}))

= P ( ⋃_{n=1}^{∞} X^{−1}(B_{n}))

= ∑_{n=1}^{∞} P (X^{−1}(B_{n})) = ∑_{n=1}^{∞} P_{X}(B_{n}).

Man beachte, wenn B_{1}, B_{2} disjunkt sind, so sind auch die Urbilder X^{−1}(B_{1}) und X^{−1}(B_{2}) disjunkt.

Anmerkung. Die Feststellung 1.6.4 gilt sinngemäß weiter:

2.6.4 Bem. (Funktionen von Zufallsvariablen) Gegeben seien ein W-Raum (Ω, A, P), Meßräume (Ω̃, Ã) (Ω̂, Â) und Zufallsvariable

X : Ω → Ω̂, Y : Ω → Ω̃

und eine meßbare Abbildung Z : Ω̃ → Ω̂ so, daß

X = Z ∘ Y

ist. Man bilde den W-Raum (Ω̃, P_{Y}). Dann haben die Zufallsvariablen

X : (Ω, P) → Ω̂ und Z : (Ω̃, P_{Y}) → Ω̂

die gleiche Verteilung: (Ω̂, P_{X}) = (Ω̂; P_{Z}) oder kurz

(P_{Y})_{Z} = P_{Z∘Y} .  (2.6.1)

2.7 Eindeutigkeit eines W-Maßes

Anmerkung. (Problem: W-Funktion zu 𝒰 identisch 0)

1. Für die Uniforme Verteilung auf [0, 1] hat jede einpunktige Menge das Maß Null:

𝒰\{a\} = lim_{n→∞} 𝒰([a − \frac{1}{n} , a + \frac{1}{n}]) = 0.

Bei endlichen und diskreten W-Räumen (Ω, P) ist die W-Funktion p : ω ↦ P {ω} ein nützliches Hilfsmittel (→ Satz 1.1.7). Im Falle der uniformen Verteilung ist die W-Funktion identisch 0 und nützt nichts bei der Berechnung von 𝒰.

2. Da es i.a. nicht einfach ist, die Werte P (A) eines W-Maßes P für alle A ∈ A zu berechnen, sucht man nach einem möglichst einfachen Mengensystem D ⊂ A, derart daß P durch seine Werte auf D eindeutig festgelegt ist. Das obige Beispiel zeigt, daß die einpunktigen Mengen dazu i.a. nicht geeignet sind.

Der folgende Satz aus der Maßtheorie, den wir ohne Beweis angeben, sagt, wie ein solches Mengensystem D beschaffen sein muß. Für einen Beweis siehe z.B. [2, Anhang M.4 ].

3. In den Anwendungen rechnet man die meiste Zeit mit der Wahrscheinlichkeit von Ereignissen aus D. Aber ab und zu ist es doch wichtig, daß man nicht auf diese kleine Mengensystem beschränkt ist, sondern sich gedanklich in der von D erzeugten σ-Algebra frei bewegen kann.

2.7.1 Satz (Dynkin: Eindeutigkeit v. W-Maßen) Es seien (Ω, A) ein Meßraum und P, Q zwei W-Maße auf A. Ist D ⊂ A ein ⋂-stabiles Mengensystem und stimmen P und Q auf D überein, so stimmen sie auch auf der erzeugten σ-Algebra σ(D) überein. Wenn also σ(D) = A ist, so folgt P = Q.

Dabei bedeutet, D ist ⋂-stabil:

D ∩ E ∈ D für alle D, E ∈ D.

2.7.2 Bsp. (zum Satz von Dynkin) Das Mengensystem

D := {(−∞, x_{1}] × ⋯ × (−∞, x_{n}] | x ∈ ℝ^{d}}

ist ⋂-stabil und erzeugt die Borel-Algebra B(ℝ^{d}). Satz 2.7.1 führt zu der Definition 2.8.1 der Verteilungsfunktion F (x) := P ((−∞]) eines W-Maßes auf ℝ.

Bsp. Sei Ω = {1, 2, 3, 4} und D = {{1, 2}, {2, 3}}. Da

{1} = {1, 2} \ {2, 3},
{2} = {1, 2} ∩ {2, 3},
{3} = {2, 3} \ {1, 2},
{4} = Ω \ ({1, 2} ∪ {2, 3})

gilt, ist die von D erzeugte σ-Algebra gleich der Potenzmenge 2^{Ω}.

D ist nicht ⋂-stabil. Hier sind zwei verschieden W-Maße auf Ω, die auf D übereinstimmen:

P Laplace-W. auf Ω,

Q := P (·|{2, 4}).

Dieses Beispiel zeigt, daß im Satz 2.7.1 die Voraussetzung, das erzeugende System D ist ⋂-stabil, wirklich benötigt wird.

2.8 Verteilungsfunktion

Anmerkung. Das Beispiel 2.7.2 führt zu der folgenden Definition:

2.8.1 Def. (Verteilungsfunktion) Ein W-Maß P auf B(ℝ^{d}) ist eindeutig durch seine Verteilungsfunktion

F : ℝ^{d} → [0, 1],
F : x ↦ P ((−∞, x_{1}] × ⋯ × (−∞, x_{n}])

festgelegt.

Manchmal nennt man F auch kurz die Verteilung von P. Die Bezeichnung ”Verteilung“ wird aber ebenfalls für das Bildmaß einer Zufallsvariablen benutzt. Bei einer Zufallsvariablen X : (Ω, P) → ℝ^{d} muß man sorgfältig zwischen dem Bildmaß P_{X} und der Verteilungsfunktion F_{X} von P_{X} unterscheiden! Zur Unterscheidung wird für F_{X} auch die Bezeichnung kumulative Verteilung verwendet.

2.8.2 Festst. (Verteilungsfkt. rechtsseitig stetig) Es sei P ein W-Maß auf (ℝ, B(ℝ)) mit Verteilungsfunktion F. Dann gilt

(i) Für jede monoton fallende Folge (x_{n})_{n}, mit

lim_{n→∞} x_{n} = b gilt

lim_{n→∞} F (x_{n}) = P ( ⋂_{n=1}^{∞}(−∞, x_{n}]) = P ((−∞, b]) = F (b).

F ist also rechtsseitig stetig.

(ii) Für jede monoton fallende Folge (x_{n})_{n}, mit

lim_{n→∞} x_{n} = −∞ gilt

lim_{n→∞} F (x_{n}) = P ( ⋂_{n=1}^{∞}(−∞, x_{n}]) = P (∅) = 0.

Es ist also lim_{x→−∞} F (x) = 0.

(iii) Für jede monoton wachsende Folge (x_{n})_{n}, mit

lim_{n→∞} x_{n} = ∞ gilt

lim_{n→∞} F (x_{n}) = P ( ⋃_{n=1}^{∞}(−∞, x_{n}]) = P ((−∞, ∞) = 1.

Es ist also lim_{x→∞} F (x) = 1.

Anmerkung. In der Maßtheorie zeigt man die Umkehrung zu Feststellung 2.8.2.

2.8.3 Satz (Maß zu einer Verteilungsfkt.) Sei F : ℝ → [0, 1] eine monoton wachsende, rechtsseitig stetige Funktion mit

lim_{x→−∞} F (x) = 0 und lim_{x→∞} F (x) = 1.

Dann gibt es genau eine W-Maß P auf der Borel-Algebra B(ℝ), so daß F die Verteilungsfunktion von P ist:

P ((−∞, x]) = F (x) für x ∈ ℝ.

Anmerkung. (Zum Bew. von Satz 2.8.3) 1. Wir konstruieren das gesuchte Maß P als die Verteilung einer Zufallsvariablen

X : (0, 1) → ℝ,

die man die Quantilfunktion von F nennt.

Dabei trägt (0, 1) die uniforme Verteilung 𝒰 (→ Beispiel 2.5.7). und P ist das Bildmaß 𝒰_{X}. Die Abbildung X ist eine Art ”Umkehrfunktion“ zu F. Die genaue Konstruktion, die noch weitere Anwendungen findet, formulieren wir in Feststellung 2.8.4.

2. Wenn F : ℝ → (0, 1) stetig und streng monoton wachsend ist, und

lim_{x→−∞} F (x) = 0 und lim_{x→∞} F (x) = 1.

gilt, so folgt aus dem Zwischenwertsatz, daß das Bild F (ℝ) = (0, 1) ist. F ist also bijektiv und hat eine stetige Umkehrfunktion X : (0, 1) → ℝ, die die gewünschte Gleichung (2.8.2) erfüllt.

3. Wenn F nur monoton wachsend ist oder Sprungstellen hat, definiert man eine verallgemeinerte Umkehrfunktion, die sogenannte Quantilfunktion:

2.8.4 Festst. (Quantilfunktion) Sei F : ℝ → [0, 1] eine monoton wachsende, rechtsseitig stetige Funktion mit

lim_{x→−∞} F (x) = 0 und lim_{x→∞} F (x) = 1.

(i) Die Quantilfunktion (Quantil-Transformation) X zu F wird definiert durch

X(t) := min{x ∈ ℝ | F (x) ≥ t} für t ∈ (0, 1). (2.8.1)

Man beachte, da F rechtsseitig stetig ist, wird das Minimum in Gleichung (2.8.1) wirklich angenommen. Man zeichne ein Bild, das zeigt

– was in einer Sprungstelle von F passiert,

– was passiert, wenn F auf einem Teilintervall konstant ist

und wie X jeweils aussieht.

(ii) Nach Konstruktion der Quantilfunktion X gilt für t ∈ (0, 1), x ∈ ℝ

X(t) ≤ x ⇔ t ≤ F (x)
X^{−1}((−∞, x]) = (0, F (x)] ∈ B((0, 1),  (2.8.2)

Aus Gleichung (2.8.2) folgt, daß X : ((0, 1), B((0, 1)) → (ℝ, B(ℝ)) meßbar ist.

Anmerkung. Aus Gleichung (2.8.2) folgt für das Bildmaß der Quantilfunktion X:

2.8.5 Folg. (Verteilung der Quantilfunktion) Die Quantilfunktion X ist eine reelle Zufallsvariable auf dem W-Raum (0, 1) mit der uniformen Verteilung 𝒰 und es gilt

𝒰(X^{−1}(−∞, x]) = 𝒰((0, F (x)]) = F (x).

D.h. F ist die Verteilungsfunktion ihrer Quantilfunktion X.

Anmerkung. Da jedes W-Maß P auf (ℝ, B(ℝ)) durch seine Verteilungsfunktion F eindeutig bestimmt ist (→ Definition 2.8.1), kann man die Folgerung 2.8.5 auch so aussprechen:

2.8.6 Folg. Jedes W-Maß P auf (ℝ, B(ℝ)) ist Bildmaß einer reellen Zufallsvariablen auf dem Wahrscheinlichkeitsraum ((0, 1), B(0, 1), 𝒰_{(0,1)}).

Anmerkung. Da viele Programmiersprachen eine Funktion (random) bieten, die eine uniform auf (0, 1) verteilte Zufallsvariable nachbilden, ermöglicht die Konstruktion in Folgerung 2.8.6 die Simulation beliebiger reellwertiger Zufallsprozesse.

Anmerkung. (Quartile und Median) Mit der Quantilfunktion bestimmt man die sogenannten Quantile eines W-Maßes P, bzw einer Verteilungsfunktion F, bzw einer Zufallsvariablen X. Eine Zahl q ∈ ℝ heißt ein α-Quantil, 0 < α < 1, von P, wenn

P ((−∞, q]) ≥ α und P ([q, ∞)) ≥ 1 − α.

Ein \frac{1}{2} -Quantil q_{1/2} heißt ein Median. Ein Median ist ein Punkt in R, an dem die Verteilungsfunktion das Niveau 1/2 gerade übersteigt oder überspringt. Im Fall einer Sprungstelle zählt dieser Punkt sowohl bei der linken wie bei der rechten Hälfte mit. Wenn die Verteilungsfunktion in diesem Punkt nicht strikt monoton wächst, ist der Median nicht eindeutig bestimmt.

Ist P die Verteilung einer reellen Zufallsvariablen X, so besagt ” q ist ein α-Quantil von X“, daß die Wahrscheinlichkeit für Beobachtungen von X,

die ≤ q sind, mindestens α ist,

die ≥ q sind, mindestens (1 − α) ist.

Für eine reelle Zufallsvariable X auf einem Laplaceraum teilt das 1/4-Quantil q_{1/4} grob gesprochen die Anzahl der Beobachtungen von X in einer langen Beobachtungsreihe im Verhältnis 1/4 zu 3/4 auf.

2.9 Dichtefunktion, stetige Verteilungen

Anmerkung. (Lebesgue-Maß und Lebesgue-Integral)

1. Auf (ℝ, B(ℝ)) existiert eindeutig ein Maß λ so, daß das Maß λ(I) eines jeden beschränkten Intervalls I gleich seiner Länge ist. Dieses Maß λ heißt das Lebesgue-Maß auf den Borel-Mengen B(ℝ).

Definiert wird das Lebesgue-Maß auf B(ℝ) wie folgt: Ist G ⊂ ℝ offen, so ist G Vereinigung von abzählbar vielen offenen Intervallen

G = ⋃_{n=1}^{∞}(a_{n}, b_{n}), wobei −∞ ≤ a_{n} < b_{n} ≤ ∞ gilt. Man setzt dann

λ(G) = \begin{cases}∑_{n=1}^{∞}(b_{n} − a_{n}) & wenn alle a_{n}, b_{n} ∈ ℝ, \\ ∞ & sonst. \end{cases}

Für eine beliebige Menge A ∈ B(ℝ) betrachtet man alle offenen Mengen G, die A umfassen und setzt dann

λ(A) = inf_{A⊂G} λ(G).

Nun kann man zeigen, daß so ein eindeutiges, wohldefiniertes Maß λ auf B(ℝ) erklärt wird, und, daß für Intervalle I das Lebesgue-Maß λ(I) die Länge des Intervalls ist.

2. Analog gibt es auf dem (ℝ^{d}, B(R^{n})) eindeutig das ddimensionale Lebesgue-Maß λ^{d}, welches für Quader und andere elementare Körper den elementaren Inhalt angibt.

3. Da λ(ℝ) = ∞ ist, kann man durch Normierung aus ℝ keinen W-Raum machen. Um weitere Beispiel zu gewinnen, gehen wir folgendermaßen vor: Wenn f : ℝ → [0, ∞) eine intergrierbare, nichtnegative Funktion mit

∫_{−∞}^{∞} f(x) dx = 1  (∗)

ist, so setze man für Intervalle (a, b], −∞ ≤ a < b < ∞,

P_{f} ((a, b]) = ∫_{a}^{b} f(x) dx.  (∗∗)

Dies erzeugt dann ein eindeutig bestimmtes W-Maß P_{f} auf den Borel-Mengen B(ℝ). Man nennt f die Dichtefunktion dieses Maßes P_{f}.

4. Wir müssen noch ein paar Worte darüber verlieren, was integrierbare Funktion bedeutet und was das das Integral in der Gleichung (∗) bzw. (∗∗) eigentlich ist. Für eine tragkräftige Theorie braucht man hier das Lebesgue-Integral, Dieses ist eine Erweiterung des Riemann-Integrals mit vielen schönen und praktischen Eigenschaften, die man bei dem enger gefaßten Riemann-Integral noch nicht findet.

In vielen praktischen Fällen ist die Funktion f stetig oder stückweise stetig, so daß man die Integrale (∗) und (∗∗) mit Hilfe einer Stammfunktion F bilden kann:

P_{f} ((a, b]) = ∫_{a}^{b} f(x) dx = F (b) − F (a)  (∗∗′)
P_{f} (ℝ) = ∫_{−∞}^{∞} f(x) dx = lim_{x→∞} F (x) − lim_{y→−∞} F (y)  (∗′)

Aber auch in diesem einfachen Fall ist das Lebesgue-Integral, das natürlich den selben Wert hat, ein nützlicher Helfer.

5. Wir geben die allgemeine Definition einer Dichtefunktion, beschränken uns in den Beispielen dann aber auf den stückweise stetigen Fall.

2.9.1 Def. (Dichtefunktion, stetiges W-Maß) Eine integrierbare, nicht-negative Funktion f : ℝ → [0, ∞) heißt Dichtefunktion eines Wahrscheinlichkeitsmaßes P auf B(ℝ), wenn für alle a, b mit −∞ ≤ a < b < ∞ gilt

P ((a, b]) = ∫_{a}^{b} f(x) dx.  (2.9.1)

Man nennt f auch Wahrscheinlichkeitsdichte oder kurz Dichte von P.

Ein Wahrscheinlichkeitsmaß auf B(ℝ) mit Dichtefunktion heißt ein stetiges W-Maß.

Anmerkung.

1. Wir benötigen im folgenden nur den Fall, daß f stetig oder stückweise ist.

2. Wenn ein W-Maß P auf B(ℝ) eine Dichtefunktion f hat, so ist diese nicht ganz eindeutig bestimmt. So kann man f in endlich vielen Punkten abändern, ohne den Wert des Integrals (2.9.1) zu verändern.

Man kann zeigen, sind f_{1} und f_{2} Dichtefunktionen von P, so ist die Menge {f_{1} ≠ f_{2}} eine Lebesgue-Nullmenge:

λ{f_{1} ≠ f_{2}} = 0.

Dann ist auch P {f_{1} ≠ f_{2}} = 0.

2.9.2 Festst. (Verteilungs- und Dichtefunktion) Es sei P ein W-Maß auf ℝ mit Verteilungsfunktion F.

1. f ist genau dann die Dichtfunktion von P, wenn

F (x) = ∫_{−∞}^{x} f(ξ) dξ für x ∈ ℝ  (2.9.2)

gilt.

2. Man kann den Begriff der Ableitung einer Funktion dahingehend verallgemeinern, daß man die Gleichung (2.9.2) als F′ = f schreiben kann. Wir wollen diese Verallgemeinerung nicht weiter verfolgen. Aus dem Hauptsatz der Differential und Integralrechnung folgt:

Ist die Verteilungsfunktion F bis auf endlich viele Ausnahmepunkte stetig differenzierbar und gilt F′ = f, so ist f die Dichtefunktion von P.

2.9.3 Bsp. (Dichtfnkt. der uniform. Verteilng.) 1. Ein W-Maße P auf einem Intervall I kann man als W-Maße auf ganz ℝ auffassen. Man setze

P (A) := P (A ∩ I) für A ∈ B(ℝ).

Das so fortgesetzte W-Maß P ist auf I konzentriert und die bedingte Wahrscheinlichkeit P (.|I) = P.

2. Faßt man die uniforme Verteilung 𝒰_{[0,1]} im obigen Sinne als W-Maß auf ℝ auf, so hat 𝒰_{[0,1]} die Verteilungsfunktion

F (x) := \begin{cases}0 & für x < 0, \\ x & für 0 ≤ x ≤ 1, \\ 1 & für x > 1. \end{cases}

und die Dichtefunktion

f(x) := \begin{cases}0 & für x < 0, \\ 1 & für 0 ≤ x ≤ 1, \\ 0 & für x > 1. \end{cases}

Da es auf einzelne Werte der Dichtefunktion nicht ankommt, kann man auch f in den Punkten 0 und 1 auf den Wert 0 setzen. D.h, f = 1l_{[0,1]} oder f = 1l_{[0,1)} usw.

2.9.4 Bem. (Dichtefunktion auf ℝ^{d}) Es sei P ein W-Maß auf (ℝ^{d}, B(ℝ^{d})) mit Verteilungsfunktion

F (x_{1}, …, x_{d}) = P ((−∞, x_{1}] × ⋯ × (−∞, x_{d}])

für x = (x_{i})_{i=1}^{d} ∈ ℝ^{d}. Eine integrierbare, nichtnegative Funktion f : ℝ^{d} → [0, ∞) ist die Dichtefunktion des W-Maßes P, wenn für alle x = (x_{i})_{i=1}^{d} ∈ ℝ^{d} gilt

F (x_{1}, …, x_{d}) = ∫_{−∞}^{x_{1}} ⋯ ∫_{−∞}^{x_{d}} f(ξ_{1}, …, ξ_{d}) dξ_{1} ⋯ dξ_{d}.

Dann gilt für alle Quader A = (a_{1}, b_{1}] × (a_{d}, b_{d}]

P (a) = ∫_{a_{1}}^{b_{1}} ⋯ ∫_{a_{d}}^{b_{d}} f(ξ_{1}, …, ξ_{d}) dξ_{1} ⋯ dξ_{d}.

2.10 Exponentialverteilung

2.10.1 Bez. (Exponentialverteilung) Die Exponentialverteilung ist das kontinuierliche Analogon zur geometrischen Verteilung (→ Beispiel 2.1.3).

(i) Die Exponentialverteilung mit dem Parameter λ > 0 hat die Dichtefunktion

f(x) = \begin{cases}λe^{−λx} & für x > 0, \\ 0 & für x ≤ 0 \end{cases}
= λe^{−λx}1l_{(0,∞)}(x).

und die Verteilungsfunktion

F (x) = \begin{cases}1 − e^{−λx} & für x > 0, \\ 0 & für x ≤ 0 \end{cases}
= (1 − e^{−λx})1l_{(0,∞)}(x).

Für die Quantilfunktion erhält man

X(t) := −\frac{log(1 − t)}{λ} für t ∈ (0, 1).

(ii) Die Bedeutung des Parameters λ > 0 erklärt sich aus dem → Erwartungswert und der → Varianz einer exponentialverteilten Zufallsvariablen X:

E(X) = ∫_{0}^{∞} xλe^{−λx} dx = \frac{1}{λ},
Var(X) = E(X^{2}) − (EX)^{2} = \frac{1}{λ^{2}} .

Anmerkung. In den folgenden beiden Bemerkungen diskutieren wir Zufallsexperimente, in denen die Exponentialverteilung typischerweise auftritt.

2.10.2 Bem. (geom. Vert. → exp.Vert.) Um den Zusammenhang zur geometrischen Verteilung (→ Beispiel 2.1.3) herzustellen, sei (X_{n})_{n} eine Folge geometrisch verteilter Zufallsvariabler mit den Parametern p_{n}. Wir setzen voraus, daß lim_{n→∞} np_{n} = λ ist. Der Grenzwert der Erwartungswerte der Variablen X_{n}/n ist dann (→ Feststellung 2.2.5)

E(\frac{X_{n}}{n} ) = \frac{1}{np_{n}} − \frac{1}{n} → \frac{1}{λ}.

Für x > 0 betrachten wir die Wahrscheinlichkeit der Menge

\{\frac{X_{n}}{n} ≤ x\} = \{X_{n} ≤ nx\}

Da die geometrische Verteilung auf ℕ_{0} konzentriert ist, haben {X_{n} ≤ nx} und {X_{n} ≤ ⌊nx⌋} die gleiche Wahrscheinlichkeit, wobei ⌊nx⌋ die größte ganze Zahl ≤ nx ist. Für die Verteilungsfunktion von X_{n}/n folgt nun

P_{X_{n}/n}((−∞, x]) = P_{X_{n}}((−∞, ⌊nx⌋])

= ∑_{k=0}^{⌊nx⌋} (1 − p_{n})^{k}p_{n}

= 1 − (1 − p_{n})^{⌊nx⌋+1}

= 1 − (1 − \frac{np_{n}}{n} )^{⌊nx⌋+1}.

Für n → ∞ konvergiert dies gegen 1 − e^{−λx} (→ Bemerkung 2.4.4) Somit ist X_{n}/n für große n annähernd exponentialverteilt mit dem Parameter λ = lim_{n→∞} np_{n}.

Anmerkung. (Interpretation der Rechnung in Bem. 2.10.2) Die geometrische Verteilung 𝒢_{p}{k}, k ∈ ℕ_{0}, gibt die Wahrscheinlichkeit an, daß in einem oft genug wiederholten Bernoulli-Experiment mit Erfolgswahrscheinlichkeit p der erste Erfolg nach k Mißerfolgen eintritt. Man stelle sich vor, daß die einzelnen Bernoulli-Experimente in einem festen Takt mit Taktzeit 1 durchgeführt werden. Verkürzt man die Taktzeit auf 1/n, n ∈ ℕ, so sei die Erfolgswahrscheinlichkeit p_{n}. Die Zufallsvariable X_{n} gebe an, wieviele Takte der Länge 1/n vergangen sind, bis der erste Erfolg eintritt. Die Zufallsvariable X_{n}/n gibt grob gesagt die Zeit an, die verstrichen ist, bis der erste Erfolg eintritt.

Die getroffene Voraussetzung np_{n} → λ besagt, daß der Erwartungswert für die Zeit bis zum ersten Erfolg gegen 1/λ konvergiert. Die Rechnung zeigt, daß dann die Verteilungsfunktion von X_{n}/n gegen die Verteilungsfunktion der Exponentialverteilung zum Parameter λ konvergiert.

2.10.3 Bem. Wir erinnern an das Beispiel 2.4.5 der Anzahl der Schadensmeldungen, die bei einer Versicherung nach dem Zeitpunkt 0 bis einschließlich zum Zeitpunkt t > 0 eingehen. Wenn λ > 0 die durchschnittliche Zahl der Schadensmeldungen in einem Zeitraum der Länge 1 ist, so ist die Anzahl der Schadensmeldungen im Zeitraum (0, t] Poisson-verteilt mit dem Parameter λt.

Wir fragen nun nach der Wahrscheinlichkeit P ((0, t]), daß im Zeitraum (0, t], (t > 0), mindestens ein Schaden gemeldet wurde:

P ((0, t]) = ∑_{k=1}^{∞} 𝒫_{λt}{k} = 1 − 𝒫_{λt}{0} = 1 − e^{−λt}.

Da wir erst die Schäden nach dem Zeitpunkt 0 registrieren, ist P ((−∞, 0]) = 0. Die Wahrscheinlichkeit für mindestens einen Schadensfall bis zum Zeitpunkt t ist also exponentialverteilt mit Parameter λ:

P ((−∞, t]) = \begin{cases}1 − e^{−λt} & (t > 0), \\ 0 & (t ≤ 0). \end{cases}

Anmerkung. Wir halten fest, bei einem Experiment mit rein zufällig auftretenden Zeitpunkten, ist die Anzahl der Zeitpunkte im Zeitintervall (0, t] Poisson-verteilt mit Parameter λt und die Wartezeit auf den ersten Zeitpunkt exponentialverteilt mit Parameter λ. Dabei ist λ die durchschnittliche Anzahl der Zeitpunkte pro Zeiteinheit und 1/λ die durchschnitliche Wartezeit.

Eine exakte Untersuchung findet man in den Lehrbüchern zur Wahrscheinlichkeitstheorie unter dem Stichwort Poisson-Prozess.

2.11 Normalverteilung

Anmerkung. (Formeln zur Normalverteilung) Die Funktion

φ : x ↦ \frac{1}{\sqrt{2π}} e^{−x^{2}/2} für x ∈ ℝ  (2.11.1)

ist positiv und symmetrisch um den Nullpunkt. Die Funktion φ fällt sehr schnell, so daß für alle Potenzen k ∈ ℕ_{0}

lim_{x→±∞} x^{k}φ(x) = 0  (2.11.2)

ist. Man kann zeigen, daß diese Funktion keine Stammfunktion innerhalb der elementaren Funktionen (x^{y}, log x, e^{x}, sin x, cos x, …) hat. Man bezeichnet die Stammfunktion mit

Φ : x ↦ ∫_{−∞}^{x} e^{−ξ^{2}/2} dξ für x ∈ ℝ.  (2.11.3)

und nennt sie die Gaußsche Fehlerfunktion oder wegen der Form ihres Graphens auch die Gaußsche Glockenfunktion. Dabei ist die Integrationskonstante so gewählt, daß

lim_{x→−∞} Φ(x) = 0  (2.11.4)

ist. Der Faktor 1/\sqrt{2π} in der Definition von φ ist so gewählt, daß

lim_{x→∞} Φ(x) = \frac{1}{\sqrt{2π}} ∫_{−∞}^{∞} e^{−ξ^{2}/2} dξ = 1  (2.11.5)

wird. Φ ist stetig differenzierbar mit Ableitung Φ′ = φ. Da φ > 0 ist, ist

Φ strikt monoton wachsend.  (2.11.6)

Die Gleichung (2.11.4),(2.11.4) und (2.11.6) besagen, daß Φ Verteilungsfunktion eines W-Maßes auf ℝ ist (→ Satz 2.8.3).

Da φ symmetrisch um den Nullpunkt ist, ist der Mittelwert dieses W-Maßes

∫_{−∞}^{∞} xφ(x) dx = 0.  (2.11.7)

Es ist \frac{d}{dx} φ(x) = −xφ(x). Durch partielle Integration erhält man

∫_{−∞}^{∞} x^{2}φ(x)) dx = −{x · φ(x)|_{−∞}^{∞} + ∫_{−∞}^{∞} φ(x) dx = 1 (2.11.8)

und somit ist die Varianz = 1.

Einige Werte von Φ

\begin{matrix}x & 0 & 0.67 & 1, 00 & 1, 28 & 1, 64 & 1, 96 & 2, 33 & 3, 008 \\ Φ(x) & 0, 5 & 0, 75 & 0, 84 & 0, 90 & 0, 95 & 0, 975 & 0, 99 & 0, 999 \end{matrix}

(2.11.9)

Die Werte für x < 0 erhält man aus der Symmetrie Φ(−x) = 1 − Φ(x).

2.11.1 Bez. (Standard-Normalverteilung) Das Wahrscheinlichkeitsmaß auf (ℝ, B(ℝ)) mit der Dichtefunktion

φ(x) := \frac{1}{\sqrt{2π}} e^{−x^{2}/2} für x ∈ ℝ

und der Verteilungsfunktion

Φ : x ↦ ∫_{−∞}^{x} e^{−ξ^{2}/2} dξ für x ∈ ℝ.

heißt die Standard-Normalverteilung auf ℝ.

Der Erwartungswert der Standard-Normalverteilung ist 0 und die Varianz ist 1. Daher wird die Standard-Normalverteilung mit 𝒩_{0,1} bezeichnet.

Anmerkung. Durch Substitution

x = \frac{ξ − μ}{σ} und dx = \frac{1}{σ} dξ

folgt aus den Gleichungen (2.11.5) –(2.11.8)

∫_{−∞}^{∞} \frac{1}{σ} φ( \frac{ξ − μ}{σ} ) dξ = 1,

∫_{−∞}^{∞} ξ \frac{1}{σ} φ( \frac{ξ − μ}{σ} ) dξ = μ

∫_{−∞}^{∞} ξ^{2} \frac{1}{σ} φ( \frac{ξ − μ}{σ} ) dξσ^{2} + μ^{2}.

Also ist x \frac{1}{σ} ↦ φ( \frac{ξ−μ}{σ} ) die Dichtefunktion eines W-Maßes mit

Mittelwert μ und Varianz σ^{2}.

Für die zugehörige Verteilungsfunktion erhält man mit der Substitution ξ = σt + μ

∫_{−∞}^{x} \frac{1}{σ} φ( \frac{ξ − μ}{σ} ) dξ = ∫−∞^{\frac{x−μ}{σ}} φ(t) dt = Φ( \frac{x − μ}{σ} ). (2.11.10)

Durch Verschiebung und Skalierung erhält man aus der Standard-Normalverteilung eine ganze Familie von W-Maßen.

2.11.2 Bez. (Normalverteilungen 𝒩_{μ,σ2}) Das W-Maß auf (ℝ, B(ℝ)) mit der Dichtefunktion

\frac{1}{σ} φ(\frac{ξ − μ}{σ}) = \frac{1}{\sqrt{2πσ^{2}}} exp ( − \frac{(x − μ)^{2}}{2σ^{2}} )

heißt die Normalverteilung mit Mittelwert μ und Varianz σ^{2}. Es wird mit 𝒩_{μ,σ^{2}} bezeicnet. Die zugehörige Verteilungsfunktion ist

∫_{−∞}^{x} \frac{1}{σ} φ(\frac{ξ − μ}{σ}) dξ = Φ(\frac{x − μ}{σ}),

wobei Φ die Verteilungsfunktion von 𝒩_{0,1} ist.

2.11.3 Festst. (affine Transform. normalvertl. ZV) (i) Es sei X eine Zufallsvariable mit der Verteilung 𝒩_{μ,σ^{2}}. Für α, β ∈ ℝ, α ≠ 0 hat dann Y := αX + β die Verteilung 𝒩_{αμ+β,(ασ)^{2}}.

(ii) Es seien α, β ∈ ℝ, α > 0. Dann gilt für x ∈ ℝ

N_{μ,σ^{2}}\{−∞, \frac{x − β}{α} \} = N_{αμ+β,(ασ)^{2}}\{−∞, t\}.

(iii) Wenn X normalverteilt mit den Parametern μ und σ^{2} ist, dann ist die zentrierte normalisierte Zufallsvariable X^{∗} = (X − μ)/σ standard-normalverteilt (→ Bezeichnung 2.12.1)

(iv) Für μ, σ ∈ ℝ, σ > 0

N_{0,1}\{−∞, \frac{x − μ}{σ}\} = N_{μ,σ^{2}}\{−∞, x\}.

Beweis. (i) Klar ist, daß

E(αX + β) = αE(X) + β,
Var(αX + β) = α^{2} Var(X)

ist. Zu zeigen ist, daß Y normalverteilt ist. Es sei zunächst α > 0

Da

\{Y ≤ y\} = \{αX + β ≤ y\} = \{X ≤ \frac{y − β}{α} \}

hat die Verteilungsfunktion F_{Y} die Gestalt

F_{Y} (y) = ∫−∞^{\frac{y−β}{α}} \frac{1}{σ} φ( \frac{ξ − μ}{σ} ) dξ

= ∫_{−∞}^{y} \frac{1}{ασ} φ( \frac{η − (αμ + β)}{ασ} ) dη

wobei ξ = \frac{η−β}{α} substituiert wurde. Die Dichtefunktion von F_{Y} ist also

y ↦ \frac{1}{ασ} φ( \frac{y − (αμ + β)}{ασ} )

und folglich ist Y normalverteilt mit Erwartungswert αμ + β und Varianz (ασ)^{2}.

Die Aussagen (ii) , (iii) und (iv) folgen nun aus (i)

2.12 Grenzwertsatz von Moivre-Laplace

2.12.1 Bez. (normierte zentrierte ZV) Um Zufallsvariable bsser vergleichen zu können verschiebt und skaliert man ihre Werte so, daß der Erwartungswert zu 0 und die Varianz zu 1 wird:

zentrieren: Zu einer Zufallsvariablen X mit Erwartungswert μ bilde man Y = X − μ. Dann ist E(Y) = 0.

normieren: Zu einer Zufallsvariablen Y mit Varianz σ^{2} bilde man Z = Y/σ. Dann ist Var(Z) = 1.

normieren-zentrieren Zu einer Zufallsvariablen X mit Erwartungswert μ und Varianz σ^{2} bilde man

X^{∗} := \frac{X − μ}{σ}.

X^{∗} ist dann zentriert und normiert:

E(X^{∗}) = 0, Var(X^{∗}) = 1.

2.12.2 Satz (Moivre-Laplace) Es sei (X_{k})_{k} eine Folge binomialverteilter Zufallsvariabler mit dem jeweiligen Parameter n_{k} ∈ ℕ, p_{k} ∈ (0, 1). Wenn

lim_{k→∞} Var(X_{k}) = ∞

ist, dann konvergieren die Verteilungsfunktionen F_{X_{k}^{∗}} der normierten und zentrierten Zufallsvariablen

X_{k}^{∗} := \frac{X_{k} − E(X_{k})}{\sqrt{Var(X_{k})}} = \frac{X_{k} − n_{k}p_{k}}{\sqrt{n_{k}p_{k}(1 − p_{k})}}

gegen die Standard-Normalverteilung. Die Konvergenz ist gleichmäßig auf ℝ:

lim_{k→∞} sup_{x∈ℝ} |F_{X_{k}^{∗}}(x) − Φ(x)| = 0.

2.12.3 Folg. (Moivre-Laplace) Es seien 0 < p < 1 und (S_{n})_{n} eine Folge ℬ_{n,p}-verteilter Zufallsvariablen. Dann gilt

lim_{n→∞} sup_{a<b} |P {a < S_{n}^{∗} ≤ b} − Φ(b) − Φ(a)| = 0.

Anmerkung. (zum Satz von Moivre-Laplace) 1. Der Satz von Moivre-Laplace ist ein Spezialfall des zentralen Grenzwertsatzes.

2. Man benötigt nur die Voraussetzung, daß die X_{k} binomialverteilt sind und ihre Varianzen

Var(X_{k}) = n_{k}p_{k}(1 − p_{k}) → ∞ für k → ∞.

Dann konvergieren auch die Erwartungswerte

E(X_{k}) = n_{k}p_{k} ≥ n_{k}p_{k}(1 − p_{k}) → ∞

und die Anzahlen n_{k} → ∞. Die p_{k} müssen nur 0 < p_{k} < 1 erfüllen, ansonsten ist ihr Verhalten für k → ∞ unwichtig.

3. Man beachte, daß die Verteilungen F_{X_{k}^{∗}} konvergieren. Es wird nichts über die Konvergenz der Zufallsvariablen X_{k}^{∗} gesagt. Letzteres macht auch keinen Sinn, denn die X_{k} haben zwar alle ihre Werte in ℕ_{0} ⊂ ℝ, sie können aber ganz unterschiedliche Definitionsbereiche haben: X_{k} : (Ω_{k}, P_{k}) → ℕ_{0}.

4. Der Satz sagt etwas über die Konvergenz der Bildmaße (P_{k})_{X_{k}^{∗}} aus. Die Zufallsvariablen sind eigentlich überflüssig, machen aber die Formulierung anschaulicher.

Man kann den Satz von Moivre-Laplace auch als Grenzwertsatz für Folgen (ℬ_{n_{k},p_{k}})_{k} von Binomialverteilungen formulieren. Bei dem Bewesis eines vorbereitenden Hilfssatzes, des lokalen Grenzwertsatzes, werden wir diesen Standpunkt auch einnehmen.

2.12.4 Folg. (Approximation der BinomialV.) Es sei 0 < p < 1. Dann gilt für n → ∞

sup_{t∈ℝ} |ℬ_{n,p}((−∞, t]) − 𝒩_{np,np(1−p)}((−∞, t])| → 0.

Also ist für k, l ∈ ℕ_{0}

ℬ_{n,p}((−∞, k]) ≈ Φ(\frac{k − np}{\sqrt{np(1 − p)}})

und

B_{n,p}\{k, …, l\} = Φ(\frac{l − np}{\sqrt{np(1 − p)}}) − Φ(\frac{k − np}{\sqrt{np(1 − p)}}).

Die Approximation wird noch etwas besser, wenn man die sogenannte Stetigkeitskorrektur vornimmt:

ℬ_{n,p}((−∞, k]) ≈ Φ( \frac{k + \frac{1}{2} − np}{\sqrt{np(1 − p)}} )

und

B_{n,p}\{k, …, l\} = Φ( \frac{l + \frac{1}{2} − np}{\sqrt{np(1 − p)}} ) − Φ( \frac{k − \frac{1}{2} − np}{\sqrt{np(1 − p)}} ).

Mit heutigen Computeralgebraprogrammen kann man ℬ_{n,p} auch für große n recht genau berechnen. Für formelmäßige Rechnungen ist aber die Näherung durch die Gaußsche Fehlerfunktion überlegen.

Anmerkung. Das folgende Bsp. ist dem Lehrbuch [1] von Krengel entnommen:

2.12.5 Bsp. (Bestimmung: Stichprobenumfang) Wir wollen den Prozentsatz der Wähler einer Partei A schätzen. Werden n Wähler befragt und sind darunter S_{n} Wähler der Partei A, so sei S_{n}/n der Schätzer für die Wahrscheinlichkeit p, daß ein zufällig ausgewählter Wähler für die Partei A stimmt.

Wie groß muß n sein, damit die Wahrscheinlichkeit eines Irrtums in der Schätzung von p von mehr als 1% kleiner als 0, 05 ist?. Es soll also gelten

P \{ − 0, 01 ≤ \frac{S_{n}}{n} − p ≤ 0, 01\} ≈ 0, 95.

Wir nehmen an, daß die Befragungen unabhängig sind und somit die S_{n} ℬ_{n,p} verteilt sind.

Mit μ_{n} = np und σ_{n} = \sqrt{np(1 − p)} ergibt sich mit Folgerung 2.12.3

0, 95 ≈ P \{ − \frac{0, 01n}{σ_{n}} ≤ S_{n}^{∗} ≤ \frac{0, 01n}{σ_{n}}\}

≈ Φ(\frac{0, 01n}{σ_{n}}) − Φ( − \frac{0, 01n}{σ_{n}})

= 2Φ(\frac{0, 01n}{σ_{n}}) − 1.

Also Φ(0, 01n/σ_{n}) ≈ 0, 975.

Aus der Tabelle (2.11.9) entnimmt man Φ^{−1}(0, 975) = 1.96. Also muß

\frac{0, 01}{\sqrt{np(1 − p)}} ≈ 1, 96 ⇔ n ≈ p(1 − p)10.000 · 1, 96^{2}

sein.

Nun ist p leider unbekannt. Da aber max_{0<p<1} p(1 − p) =

0, 25 ist kommt man in jedem Fall mit

n = 0.25 · 10.000 · 1.96^{2} = 9600

Befragungen aus. Hat man von vorneherein die Information, daß p ≤ 0, 1 ist, so ist max_{0<p<0,1} p(1 − p) = 0, 1 · 0, 9 =

0, 09. Man kommt nun mit

n = 0, 09 · 10.000 · 1, 96^{2} = 3450

Befragungen aus.