Kapitel 5

Schwache Konvergenz von W-Verteilungen auf der Zahlengeraden 5.1

Schwache Konvergenz bzw. Verteilungskonvergenz

Bezeichne W(R, B1 ) die Menge aller W-Verteilungen auf (R, B 1 ) . Definition 5.1 (Schwache Konvergenz von W-Verteilungen) Seien Pn ∈ W(R, B1 ) ∀ n ∈ N und P ∈ W(R, B1 ) . Bezeichne Fn die Verteilungsfunktion von Pn f¨ ur jedes n ∈ N, bezeichne F die Verteilungsfunktion von P unf CF die Menge aller Stetigkeitsstellen von F . w

Die Folge Pn (n ∈ N) heißt schwach konvergent gegen P , abk¨ urzende Schreibweise: Pn → P , wenn gilt: lim Fn (x) = F (x) ∀ x ∈ CF . n→∞

Bemerkung: Eindeutigkeit der Limesverteilung w w Wenn Pn → P und auch Pn → Q f¨ ur eine Folge Pn ∈ W(R, B 1 ) (n ∈ N) und zwei W-Verteilungen 1 P, Q ∈ W(R, B ), dann folgt P = Q. Mit Definition 5.1 folgt n¨amlich FP (x) = FQ (x)

∀ x ∈ CFP ∩ CFQ .

Die Komplemente (CFP )c und (CFQ )c sind abz¨ ahlbar, woraus man unschwer schließt: FP = FQ , also P = Q. Beispiel: Dirac-Verteilungen F¨ ur ein b ∈ R ist die Dirac-Verteilung (oder Einpunkt-Verteilung) im Punkt b gegeben durch δb (A) = 1 A (b) ∀ A ∈ B 1 , und bekanntlich ist δb ∈ W(R, B1 ). ¨ Seien nun an (n ∈ N) eine Folge in R und a ∈ R. Dann ergibt sich aus Definition 5.1 die Aquivalenz: lim an = a

n→∞

⇐⇒

38

w

δan → δa .

Norbert Gaffke: Vorlesung “Einf¨ uhrung in die Wahrscheinlichkeitstheorie und Statistik”, Wintersemester 2012/13

Kapitel 5: Schwache Konvergenz von W-Verteilungen auf der Zahlengeraden Beispiel: Diskrete Approximation der R(0, 1)-Verteilung Betrachte P = R(0, 1)

und

Pn =

39

n 1 X δj/n . n j=1

w

Man zeigt leicht: Pn → R(0, 1). w

Bemerkung: Pn → P ist schw¨ acher als punktweise Konvergenz von Pn gegen P Ein anderer – zun¨achst vielleicht n¨aher liegender – Konvergenzbegriff f¨ ur W-Verteilungen auf (R, B1 ) ist die punktweise Konvergenz im Sinne reeller Funktionen auf B 1 , d.h. lim Pn (A) = P (A) ∀ A ∈ B 1 .

n→∞

w

Die Beispiele von oben zeigen aber, dass die schwache Konvergenz Pn → P nicht die punktweise Konvergenz impliziert. In der Tat ist die punktweise Konvergenz st¨ arker als die schwache Konvergenz: Wenn

w

lim Pn (A) = P (A) ∀ A ∈ B 1 , dann Pn → P ,

n→∞

(nicht aber umgekehrt). w

Wenn Pn → P mit einer stetigen Limesverteilung (d.h. mit stetiger Verteilungsfunktion F ), dann ist die (punktweise) Konvergenz der Verteilungsfunktionen Fn in Definition 5.1 sogar gleichm¨ aßig : Lemma 5.2 (Stetige Limesverteilung) Seien Pn ∈ W(R, B 1 ) ∀ n ∈ N und P ∈ W(R, B 1 ) . w Wenn Pn → P und die Verteilungsfunktion F von P stetig ist, dann gilt (mit Fn = Verteilungsfunktion von Pn ∀ n ∈ N) : ³ ¯ ¯´ lim sup ¯ Fn (x) − F (x) ¯ = 0 . n→∞

x∈R

Lemma 5.3 (Eine schwach konvergente Folge ist straff, engl. tight) w

Seien Pn ∈ W(R, B 1 ) ∀ n ∈ N und P ∈ W(R, B 1 ) mit Pn → P . Dann gilt: Zu jedem ε > 0 existiert ein kompaktes Intervall I ⊆ R , so dass Pn (I) ≥ 1 − ε ∀ n ∈ N .

Definition 5.4 (Verteilungskonvergenz von reellen Zufallsvariablen) Seien (Ω, C, P) ein W-Raum, Xn (n ∈ N) eine Folge reeller Zufallsvariablen auf Ω und P ∈ W(R, B1 ) . d

(i) Die Folge Xn heißt konvergent in Verteilung gegen P , abk¨ urzende Schreibweise: Xn → P , w X n → P . wenn gilt: P d

(ii) Die Folge Xn heißt konvergent in Verteilung gegen X, abk¨ urzende Schreibweise: Xn → X , w X X n wenn gilt: P → P .

Norbert Gaffke: Vorlesung “Einf¨ uhrung in die Wahrscheinlichkeitstheorie und Statistik”, Wintersemester 2012/13

Kapitel 5: Schwache Konvergenz von W-Verteilungen auf der Zahlengeraden Bemerkung d

Hinsichtlich der Konvergenz in Verteilung in (ii), Xn → X , sei angemerkt, dass die Limesvariable X keineswegs eindeutig bestimmt ist (auch nicht P-f.s.), sondern nur ihre Verteilung PX ist eindeutig d

bestimmt. Der Konvergenzbegriff Xn → X ist nur virtuell ein Konvergenzbegriff f¨ ur Zufallsvariablen, tats¨achlich handelt es sich um einen Konvergenzbegriff (schwache Konvergenz) f¨ ur die Verteilungen der Zufallsvariablen. Lemma 5.5 (Stochastische Konvergenz impliziert Konvergenz in Verteilung) Seien Xn (n ∈ N) eine Folge reeller Zufallsvariablen auf Ω und X eine reelle Zufallsvariable auf Ω. Es gilt: st

d

(a) Wenn Xn → X , dann Xn → X . (b) Im Fall, dass X eine Konstante ist, gilt auch die Umkehrung in (a), d.h. f¨ ur x0 ∈ R gilt die ¨ Aquivalenz: st

Xn → x 0

5.2

⇐⇒

d

Xn → x0

( ⇐⇒

w

PXn → δx0 ) .

Weitere Beschreibungen der schwachen Konvergenz

F¨ ur eine messbare Funktion g : R −→ R und P ∈ W(R, B1 ) sagen wir, g sei P -fast u ¨berall stetig, wenn P (Cg ) = 1, wobei Cg die Menge aller Stetigkeitsstellen von g bezeichnet. ¨ Theorem 5.6 (Aquivalente Bedingungen fu ¨ r schwache Konvergenz) Seien Pn ∈ W(R, B1 ) ∀ n ∈ N und P ∈ W(R, B1 ) . Bezeichne ϕn die charakteristische Funktion von Pn (f¨ur jedes n ∈ N) und ϕ die charakteristische Funktion von P . Die folgenden vier Bedingungen (i) - (iv) sind ¨aquivalent. w

(i) Pn → P . (ii)

lim ϕn (t) = ϕ(t) ∀ t ∈ R . Z Z (iii) lim h dPn = h dP f¨ ur jede stetige beschr¨ ankte Funktion h : R −→ R. n→∞ R R Z Z (iv) lim h dPn = h dP f¨ ur jede messbare beschr¨ ankte und P -fast u ¨berall stetige n→∞

n→∞ R

R

Funktion h : R −→ R.

Bemerkung: Konvergenz in Verteilung Sei (Ω, C, P) ein W-Raum. F¨ ur eine Folge Xn , n ∈ N, von reellen Zufallsvariablen auf Ω und 1 P ∈ W(R, B ) lassen sich die ¨aquivalenten Bedingungen (i) - (iv) auch so formulieren (mit Verwendung der Transformationsformel von Theorem 3.10) : d

(i) Xn → P . (ii) (iii)

lim ϕXn (t) = ϕP (t) ∀ t ∈ R .

n→∞

lim EP (h ◦ Xn ) = EP (h) f¨ ur jede stetige beschr¨ ankte Funktion h : R −→ R.

n→∞

40

Norbert Gaffke: Vorlesung “Einf¨ uhrung in die Wahrscheinlichkeitstheorie und Statistik”, Wintersemester 2012/13

Kapitel 5: Schwache Konvergenz von W-Verteilungen auf der Zahlengeraden (iv)

41

lim EP (h ◦ Xn ) = EP (h) f¨ ur jede messbare beschr¨ ankte und P -fast u ¨berall stetige Funktion h : R −→ R.

n→∞

Theorem 5.7 (CMT fu ¨ r schwache Konvergenz bzw. Konvergenz in Verteilung) w

(a) Seien Pn ∈ W(R, B 1 ) ∀ n ∈ N und P ∈ W(R, B 1 ) mit Pn → P . w Sei g : R −→ R eine P -fast u ¨berall stetige Funktion. Dann: (Pn )g → P g . d

(b) Seien (Ω, C, P) ein W-Raum und Xn ∀ n ∈ N und X reelle Zufallsvariablen auf Ω mit Xn → X . w Sei g : R −→ R eine PX -fast u ¨berall stetige Funktion. Dann: g ◦ Xn → g ◦ X .

Lemma 5.8 Seien (Ω, C, P) ein W-Raum, Xn , n ∈ N, und Yn , n ∈ N, zwei Folgen reeller Zufallsvariablen auf Ω und P ∈ W(R, B 1 ) . Es gilt: d

st

dann Xn + Yn → P und Xn Yn → 0 .

d

st

dann Xn Yn → P .

(a) Wenn Xn → P und Yn → 0 , (b) Wenn Xn → P und Yn → 1 ,

5.3

d

st

d

Zentraler Grenzwertsatz

Sei (Ω, C, P) ein W-Raum, und sei Xi ∈ L2 (P), i ∈ N, eine Folge von stochastisch unabh¨ angigen und identisch verteilten (u.i.v.) reellen Zufallsvariablen auf Ω. Bezeichne p β := E(Xi ) und σ := Var(Xi ) , und es sei σ > 0. Unser Interesse ist auf das asymptotische (n → ∞) Verhalten der Verteilung der Summenvariablen n X Sn = Xi , n ∈ N , i=1

gerichtet. Um Verteilungskonvergenz zu erhalten, betrachten wir die standardisierten Summenvariablen: Sn − nβ √ , n ∈ N. nσ Offensichtlich haben die standardisierten Summenvariablen alle den Erwartungswert 0 und Varianz gleich 1.

Norbert Gaffke: Vorlesung “Einf¨ uhrung in die Wahrscheinlichkeitstheorie und Statistik”, Wintersemester 2012/13

Kapitel 5: Schwache Konvergenz von W-Verteilungen auf der Zahlengeraden Lemma 5.9 (Taylor-Approximation zweiter Ordnung der charakteristischen Funktion) F¨ ur die charakteristische Funktion ϕ = ϕX1 gilt: ϕ(t) = 1 + iβt − 12 (σ 2 + β 2 )t2 + o(t2 )

f¨ ur t → 0 ,

oder anders ausgedr¨ uckt: lim

t→0 , t6=0

£ ¤´ 1³ 2 2 2 1 ϕ(t) − 1 + iβt − (σ + β )t = 0. 2 t2

Theorem 5.10 (Zentraler Grenzwertsatz, Standard-Version) F¨ ur die Folge der standardisierten Summenvariablen gilt:

Sn − nβ d √ → N(0, 1) . nσ

Bemerkung: Gleichm¨ aßige Konvergenz der Verteilungsfunktionen Gem¨aß Definition 5.1 sagt der zentrale Grenzwertsatz: ³ S − nβ ´ n √ lim P ≤ z = Φ(z) , n→∞ nσ

∀z ∈ R ,

wobei Φ die Verteilungsfunktion von N(0, 1) bezeichnet. Nach Lemma 5.2 ist die Konvergenz gleichm¨ aßig in z ∈ R , d.h. ¯ (n→∞) ¯ ³ S − nβ ´ ¯ ¯ n √ sup ¯ P ≤ z − Φ(z) ¯ −→ 0 . n σ z∈R Daraus ergibt sich das folgende Korollar. Korollar 5.11 (Asymptotik der Verteilung der Summenvariablen) ¯ ¡ ³ z − nβ ´ ¯ ¢ ¯ ¯ sup ¯ P Sn ≤ z − Φ √ ¯ nσ z∈R

(n→∞)

−→

0.

Anmerkung: F¨ ur großes n haben wir daher als Approximation f¨ ur die Verteilungsfunktion der Summenvariablen: ³ z − nβ ´ ¡ ¢ ∀ z ∈ R. P Sn ≤ z ≈ Φ √ nσ

Beispiel: Normal-Approximation von Binomial-Verteilungen Betrachten wir den Spezialfall von u.i.v. 0-1-wertigen Zufallsvariablen: Xi ∼ Bi(1, p) ∀ i ∈ N , u.i.v. , mit einem p ∈ ( 0 , 1 ) . p Dann ist β = p und σ = p(1 − p). Also haben wir (f¨ ur großes n) die Approximation ³ z − np ´ ¡ ¢ P Sn ≤ z ≈ Φ p . np(1 − p)

42

Norbert Gaffke: Vorlesung “Einf¨ uhrung in die Wahrscheinlichkeitstheorie und Statistik”, Wintersemester 2012/13

Kapitel 5: Schwache Konvergenz von W-Verteilungen auf der Zahlengeraden

43

Wegen Sn ∼ Bi(n, p) ist dies die Normal-Approximation der Bi(n, p)-Verteilung. Da die Verteilungsfunktion von Bi(n, p) auf den Intervallen z ∈ [ k , k + 1 ) jeweils konstant gleich P ( Sn ≤ k ) ist (f¨ur jedes k = 0, 1, . . . , n − 1), ergibt sich f¨ ur die Wahl z = k + 21 : ³ k + 1 − np ´ P( Sn ≤ k ) ≈ Φ p 2 f¨ ur k = 0, 1, . . . , n − 1 , np(1 − p) (“Normalapproximation der Binomialverteilung mit Ganzzahligkeitskorrektur”).

Im folgenden weiteren Korollar wird bei der Standardisierung der Summenvariablen Sn nicht die exakte Standardabweichung σ verwendet, sondern eine “konsistente Folge von Sch¨ atzern” σ bn (n ∈ N). Korollar 5.12 st

Sei außerdem σ bn , n ∈ N, eine Folge positiver reeller Zufallsvariablen auf Ω mit σ bn → σ . Dann gilt: Sn − nβ d √ → N(0, 1) . nσ bn