Die Stein'sche Methode und Anwendungen

50 Pages·2012·0.6 MB·German

Die Stein’sche Methode und Anwendungen
Bachelorarbeit
im Studiengang Wirtschaftsmathematik
am Fachbereich Mathematik und Informatik
der Philipps-Universit¨at Marburg
eingereicht von
Tim Josek
Marburg, September 2012
betreut durch
Prof. Dr. Hajo Holzmann
Inhaltsverzeichnis
Einleitung 1
1 Grundlagen der Wahrscheinlichkeitstheorie 3
2 Grundlagen der Stein’schen Methode 10
3 Erste Anwendung fu¨r Summen unabh¨angiger Zufallsvariablen 23
4 Austauschbare Paare 26
4.1 Grundlagen zum bedingten Erwartungswert . . . . . . . . . . . . . . 26
4.2 Zugang mittels austauschbarer Paare . . . . . . . . . . . . . . . . . . 28
4.3 Der unabh¨angige Fall . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
5 Berry-Esseen via Stein’scher Methode 39
Fazit 46
Literaturverzeichnis 47
2
Einleitung
In der Wahrscheinlichkeitstheorie und der Stochastik kommen Grenzwerts¨atzen, wie
dem Zentralen Grenzwertsatz oder dem starken Gesetz der großen Zahlen, eine ent-
scheidende Bedeutung zu. Sie werden beispielsweise in der Statistik angewandt, um
die Verteilungen von Teststatistiken zu studieren. In diesem Zusammenhang findet
meist die Theorie der charakteristischen Funktion und der Fourier-Transformierten
Anwendung, welche jedoch fu¨r gew¨ohnlich den Nachteil mitsichbringt, dass sie keine
Konvergenzraten liefert. Den Mathematikern A. C. Berry und C.-G. Esseen gelang
es 1941 einen Satz zu beweisen, welcher eine Aussage u¨ber die Gu¨te der Konvergenz,
in Form einer exakten Schranke, im Zentralen Grenzwertsatz der Wahrscheinlich-
keitstheorie trifft. Heute ist diese Aussage als Satz von Berry-Esseen bekannt.
Im Jahr 1972 entwickelte Charles Stein, ein amerikanischer Statistiker, ein neues
Verfahren zur Bestimmung von Schranken fu¨r die Entfernung zweier Wahrschein-
lichkeitsverteilungen bezu¨glich einer entsprechenden Wahrscheinlichkeitsmetrik, die
so genannte Stein’sche Methode. Urspru¨nglich verwand Charles Stein seine Methode
zum Beweis des Zentralen Grenzwertsatzes und fu¨r die Herleitung von Konvergenz-
geschwindigkeiten. Im Jahr 1975 studierte Louis H. Y. Chen, ein Student von Stein,
dessen Methode fu¨r die Poissonapproximation. In den folgenden Jahren wurde die
Stein’sche Methode fu¨r einige weitere Bereiche, wie die stochastischen Prozesse oder
denmultivariatenZentralenGerenzwertsatz,weiterentwickelt.IndieserArbeit,wel-
che auf der Grundlage von zwei Papern von Peter Eichelsbacher ([5],[6]) erarbeitet
wurde, stellen wir die Stein’sche Methode fu¨r die Normalenapproximation vor.
Im ersten Kapitel dieser Arbeit geben wir eine Wiederholung der grundlegenden
S¨atze und Definitionen der Wahrscheinlichkeitstheorie, welche im Folgenden als
Grundlage fu¨r unsere Berechnungen dienen wird.
1
Inhaltsverzeichnis
Das zweite Kapitel stellt die Grundlagen der Stein’schen Methode vor.
ImfolgendendrittenKapitelwendenwirdanndieerarbeiteteTheoriederStein’schen
Methode fu¨r unabh¨angig verteilte Zufallsvariablen an.
Das vierte Kapitel besch¨aftigt sich mit der Thematik der sogenannten austauschba-
ren Paare, eine von mehreren allgemeinen Techniken zur Berechnung der Stein’schen
Schranken, welche auch fu¨r nicht unabh¨angige Summanden anwendbar ist.
Im abschließenden fu¨nften Kapitel geben wir mittels Stein’scher Methode einen Be-
weis, welcher auf E. Bolthausen zuru¨ckgeht, fu¨r den klassischen Satz von Berry-
Esseen aus dem 2. Kapitel. Hierbei wird uns eine Verbesserung der universellen
Konstanten von 25 auf 14 (sogar 13 kann erreicht werden) gelingen.
2
1 Grundlagen der Wahrscheinlichkeitstheorie
In diesem ersten einleitenden Kapitel werden wir zun¨achst einige wichtige Defini-
tionen nennen und grundlegende S¨atze der klassischen Wahrscheinlichkeitstheorie
erl¨autern, welche wir im weiteren Verlauf nutzen werden. Im Anschluss besch¨aftigen
wir uns kurz mit dem Zentralen Grenzwertsatz und gehen auf die klassischen Be-
weismethoden ein.
Definition 1.0.1. (Wahrscheinlichkeitsraum, Zufallsvariable)
a) Das Tripel (Ω,F,P) heißt Wahrscheinlichkeitsraum, genau dann wenn gilt
1. Ω (cid:54)= ∅
2. F ist σ-Algebra u¨ber Ω
3. P ist Wahrscheinlichkeitsmaß auf F, also
P : F → [0,1], P(∅) = 0, P(Ω) = 1.
b) Sei (Ω,F,P) ein Wahrscheinlichkeitsraum und (Ω(cid:48),F(cid:48)) ein Messraum. Dann
heißt eine (F,F(cid:48))-messbare Funktion X : Ω → Ω(cid:48) eine Ω(cid:48)-Zufallsvariable auf
Ω (bei reellen Zufallsvariablen spreche ich in Folge von Zufallsgr¨oßen).
c) F(t) : (P ≤ t) heißt dann die zu X zugeh¨orige Verteilungsfunktion.
Definition 1.0.2. (Erwartungswert, Varianz)
a) Ist X ∈ L1(P), so heißt X integrierbar und der Erwartungswert von X ist
definiert durch
(cid:90) ∞
E[X] := XdP.
−∞
Falls X eine reelle Zufallsvariable mit Wahrscheinlichkeitsdichte f ist, so gilt
3
KAPITEL 1. GRUNDLAGEN DER WAHRSCHEINLICHKEITSTHEORIE
(cid:90) ∞
E[X] := xf(x)dx,
−∞
wenn das Integral existiert.
Falls E[X] = 0 gilt, dann heißt X zentriert.
b) Die Varianz einer Zufallsvariablen X ist ein Streumaß von X, also ein Maß fu¨r
die Abweichung einer Zufallsvariablen X von ihrem Erwartungswert E[X]. Sie
ist definiert als
Var(X) := E(cid:2)(X −E[X])2(cid:3).
Im Folgenden wollen wir einige Rechenregeln fu¨r den Erwartungswert und die Vari-
anzerl¨autern,welcheeinewichtigeGrundlagefu¨runsereBerechnungenderStein’schen
Methode darstellen.
Satz 1.0.3. (Rechenregeln fu¨r den Erwartungswert)
Seien X,Y,X , fu¨r n ∈ N reelle integrierbare Zufallsvariablen auf (Ω,A,P). Dann
n
gilt
a) Falls P = P , so gilt E[X] = E[Y].
X Y
b) Ist X ≥ 0 fast sicher, so gilt
E[X] = 0 ⇔ X = 0 fast sicher.
c) (Linearit¨at) Sei c ∈ R. Dann gilt cX ∈ L1(P) und X +Y ∈ L1(P) sowie
E[cX +Y] = cE[X]+E[Y].
d) (Monotonie) Falls X ≤ Y fast sicher gilt, folgt E[X] ≤ E[Y].
e) (Betragsungleichung) Es gilt |E[X]| ≤ E[|X|].
(cid:20) (cid:21)
∞ ∞
f) Ist X ≥ 0 fast sicher fu¨r jedes n ∈ N, so gilt E (cid:80) X = (cid:80) E[X ].
n n n
n=1 n=1
4
KAPITEL 1. GRUNDLAGEN DER WAHRSCHEINLICHKEITSTHEORIE
g) (Multiplikationseigenschaft) Seien X ,...,X ∈ L1(P) unabh¨angig, dann ist
1 n
(X ∗...∗X ) ∈ L1(P) und es gilt
1 n
E[X ∗...∗X ] = E[X ]∗...∗E[X ].
1 n 1 n
Beweis. a)-f) Auf diese Beweise wollen wir an diesen Stelle nicht explizit eingehen,
da sie direkt aus der Definition des Erwartungswertes und den Integraleigen-
schaften folgen (vgl [7]).
g) Sei P die gemeinsame Verteilung der X und P die Verteilung von
(X1,...,Xn) i Xi
X . Nach Voraussetzung gilt P = P ⊗ ... ⊗ P . Mit der Transfor-
i (X1,...,Xn) X1 Xn
mationsformel und dem Satz von Fubini erhalten wir fu¨r
g(x ,...,x ) = |x ∗...∗x | zun¨achst
1 n 1 n
(cid:90)
E[|X ∗...∗X |] = gdP
1 n (X1,...,Xn)
Rn
(cid:90)
= gd(P ⊗...⊗P )
X1 Xn
Rn
(cid:90) (cid:90)
= ... |x ∗...∗x |dP ...dP
1 n X1 Xn
R R
(cid:90) (cid:90)
= |x |∗...∗ |x |
1 n
R R
= E[|X |]∗...∗E[|X |] < ∞.
1 n
Somitgilt(X ∗...∗X ) ∈ L1(P).Analogzeigtsichmitg(x ,...,x ) = x ∗...∗x ,
1 n 1 n 1 n
dass E[X ∗...∗X ] = E[X ]∗...∗E[X ] gilt.
1 n 1 n
Satz 1.0.4. (Rechenregeln fu¨r die Varianz)
a) Fu¨r die Varianz einer Zufallsvariablen X gilt
Var(X) := E(cid:2)(X −E[X])2(cid:3) = E[X2]−(E[X])2.
b) Sei X eine reelle integrierbare Zufallsvariable auf (Ω,A,P) und a,b ∈ R. Dann
gilt
5
KAPITEL 1. GRUNDLAGEN DER WAHRSCHEINLICHKEITSTHEORIE
Var(aX +b) = a2Var(X).
c) Var(−X) = Var(X)
Beweis. a) Folgt nach dem Verschiebungssatz.
b) Var(aX +b) = E(cid:2)(aX +b−E(aX +b))2(cid:3)
= E(cid:2)(aX +b−b−aE(X))2(cid:3)
= E(cid:2)a2(X −E(X))2(cid:3)
= a2E(cid:2)(X −E(X))2(cid:3)
= a2Var(X)
c) Folgt direkt aus (b) mit a = −1.
Im Folgenden werden wir einige Konvergenz- und Gleichheitsbegriffe fu¨r Zufallsva-
riablen betrachten.
Definition 1.0.5. (Gleichheitsbegriffe)
a) (Gleichheit in Verteilung)
Seien X : (Ω,A,P) → (Ω(cid:48),A(cid:48)) und Y : (Ω ,A ,P ) → (Ω(cid:48),A(cid:48)) Zufallsvaria-
1 1 1
blen. X und Y heißen in Verteilung gleich oder identisch verteilt, falls sie die
gleiche Verteilung besitzen, d.h. wenn P = P , bzw.
X Y
P (A(cid:48)) = P(X ∈ A(cid:48)) = P (Y ∈ A(cid:48)) = P (A(cid:48)), A(cid:48) ∈ A(cid:48).
X 1 Y
d
(schreibe X = Y)
b) (fast sichere Gleichheit)
Seien X,Y : (Ω,A,P) → (Ω(cid:48),A(cid:48)) Zufallsvariablen. Dann nennt man X und Y
fast sicher gleich, falls
P(X = Y) = P(ω ∈ Ω : X(ω) = Y(ω)) = 1.
(schreibe X=Y f.s.)
6
KAPITEL 1. GRUNDLAGEN DER WAHRSCHEINLICHKEITSTHEORIE
d
Bemerkung 1.0.6. Wenn X=Y f.s. gilt, so folgt X = Y. Die Umkehrung gilt im
Allgemeinen nicht.
Die Existenz verschiedener Gleiheitsbegriffe legt die Vermutung nahe, dass es auch
verschiedene Konvergenzbegriffe gibt. Einige dieser Konvergenzbegriffe und deren
Eigenschaften wollen wir nun genauer betrachten.
Definition 1.0.7. (Konvergenzbegriffe)
Seien X ,X ,... eine Folge von Zufallsvariablen definiert auf einem Wahrscheinlich-
1 2
keitsraum (Ω,A,P). Dann sagt man
a) X → X fast sicher, falls
n
P {ω ∈ Ω : X (ω) → X(ω)n → ∞} = 1.
n
f.s.
(schreibe X → X)
n
b) X → X in Wahrscheinlichkeit, falls
n
P(|X −X| > (cid:15)) → 0 ,fu¨r n → ∞.
n
P
(schreibe X → X)
n
c) X → X in Verteilung, falls
n
P(X ≤ x) → P(X ≤ x), fu¨r n → ∞
n
an allen Punkten x ∈ R, an denen F (x) = P(X ≤ x) stetig ist.
X
d
(schreibe X → X)
n
Satz 1.0.8. Zwischen den Konvergenzarten gelten die folgenden Zusammenh¨ange
f.s. P d
• X → X ⇒ X → X ⇒ X → X.
n n n
• Falls X →d c, c ∈ R dann gilt auch X →P c.
n n
7
KAPITEL 1. GRUNDLAGEN DER WAHRSCHEINLICHKEITSTHEORIE
Satz 1.0.9. Sei X →d X und f : R → R stetig. Dann gilt
n
d
f(X ) → f(X).
n
Beweis. Nach dem Repr¨asentationssatz von Skorokhod existiert ein Wahrscheinlich-
keitsraum (Ω(cid:48),A(cid:48),P) und Zufallsvariablen Y , Y ,so dass Y , Y die selben Vertei-
n n
f.s.
lungsfunktion besitzen wie X , X, und es gilt Y → Y. Wegen der Stetigkeit von f
n n
f.s.
gilt nun ω : f(Y (ω)) → f(Y(ω)) ⊇ ω : Y (ω) → Y(ω). Damit folgt f(Y ) → f(Y)
n n n
d
und somit nach dem vorangegangenen Satz f(Y ) → f(Y). Da aber f(Y ),f(Y) die
n n
gleiche Verteilung besitzen wie f(X ),f(X) folgt die Behauptung.
n
An dieser Stelle betrachten wir noch einen wichtigen Satz, der unsere getroffenen
Definitionen in ein Verh¨altnis setzt.
Lemma 1.0.10. (Portmanteau) Fu¨r beliebige Zufallsvektoren sind die folgenden
Aussagen ¨aquivalent:
d
1. P(X ≤ x) → P(X ≤ x) fu¨r alle Stetigkeitspunkte von x (cid:55)→ P(X ≤ x),
n
2. E[f(X ] →d E[f(X)] fu¨r alle beschr¨ankten, stetigen Funktionen f,
n
3. E[f(X ] →d E[f(X)] fu¨r alle beschr¨ankten, Lipschitz-stetigen Funktionen f,
n
4. lim inf E[f(X ] ≥ E[f(X)] fu¨r alle nicht negative, stetige Funktionen f,
n
x→∞
5. lim inf P(X ∈ G) ≥ P(X ∈ G) fu¨r alle offenen Mengen G,
n
x→∞
6. lim supP(X ∈ F) ≥ P(X ∈ F) fu¨r alle abgeschlossenen Mengen F,
n
x→∞
d
7. P(X ∈ B → P(X ∈ B) fu¨r alle Borelleangen B mit P(X ∈ δB) = 0.
n
Beweis. Der Beweis dieses Satzes kann z.B. in [11] nachgelesen werden.
Nun wollen wir zum Abschluss dieses Kapitels den Zentralen Grenzwertsatz formu-
lieren und kurz auf die meißt verwandten Beweismethoden eingehen.
8