Willkommen in dieser Lehre.
Ich habe zwei Slides vorbereitet, die ein paar der Konzepte und
Ergebnisse der letzten Lesung beschreiben.
Das erste Konzept ist das Limitsuperiore einer Sequenz von Events a n.
Das ist so geschrieben, das Limitsuperiore.
Und das ist definiert, ihr seht es, als die Intersektion, eine
infinite Intersektion über m von 1 bis in die Infinität.
Und dann gibt es die Union über k von n bis in die Infinität des a k.
Und das ist nichts anderes als das Set aller Omega in unserem
Samplespaß, die zu a n für unendlich viele n gehören.
Ihr könnt das als das Set aller Omega schreiben, für das eine randome
Variante die Infinität umfasst.
Und diese n zählt die Zahl der Events, die passieren.
Also ist es die Summe der Indikator.
Dann haben wir das Limitsuperiore definiert, das Limitsuperiore einer
Sequenz a n.
Und in dieser Definition ist die Ordnung der Intersektion und der
Union umgekehrt.
Ihr seht, das ist eine Union über n von 1 bis in die Infinität.
Und dann gibt es die Intersektion k von n bis in die Infinität des a
k.
Und das ist nichts anderes als das Set aller Omega, das die
Eigenschaft hat, dass sie zu a n gehören, für jede, aber unendlich
viele n.
Also nur unendlich viele exzeptionelle Werte.
Dann haben wir zwei Lemmas.
Das erste Borek-Kantelli-Lemma, wir nennen es Teil a, sagt, wenn die
Serie oder die Wahrscheinlichkeit von a n vergleichbar ist, dann ist
die Wahrscheinlichkeit der Limitsuperiore von a n 0.
Und das zweite Borek-Kantelli-Lemma benutzt die Independenz der a n.
Also, wenn dies Independenz-Ereignisse sind, dann, wenn die Serie
vergleichbar ist, dann ist die Wahrscheinlichkeit der Limitsuperiore
von a n 1.
Also, für das erste Lemma brauchten wir keine Independenz.
Dann haben wir eine fast sichere Konvergenz einer Sequenz von randomen
Variablen definiert.
Sie sehen, xn vergleichbar ist fast sicher a s zu x, wenn und nur wenn
die Wahrscheinlichkeit 1 ist, dass xn zu x vergleichbar ist.
In anderen Wörtern, mit dem Ausdruck eines Null-Satzes, gibt es eine
punktuelle Konvergenz von xn a s zu x a s.
Also, dies ist die Verwechslung, die Verwechslung einer punktuellen
Konvergenz.
Also haben wir, dies war auch das Ergebnis, wir haben eine fast
sichere Konvergenz, wenn und nur wenn für jeden positiven Epsilon die
Wahrscheinlichkeit, dass wir das Supremum sehen, über alle k,
zumindest n, der Modulus von x a minus x, größer als Epsilon, diese
Wahrscheinlichkeit verlängert sich zu 0, sofern n bis infinitätig ist.
Eine genügende Bedingung ist die Verlängerung dieser Serie.
Sie sehen, wenn die Summe der Wahrscheinlichkeiten ist, dass der
Modulus von xn minus x größer als Epsilon verlängert, dann haben wir
für jeden positiven Epsilon, dies ist wichtig, dann haben wir fast
eine sichere Konvergenz.
Dies folgt leicht vom ersten Lemma von Bohrl-Cantelli.
Die zweite Notion von Verlängerung, Verlängerung in
Wahrscheinlichkeit, dies wird von diesem p geschrieben, xn verlängert
sich zu x in Wahrscheinlichkeit, nur wenn die Wahrscheinlichkeit, dass
der Modulus von xn minus x größer als Epsilon ist, die Grenze ist 0
für jeden positiven Epsilon.
Sie sehen, dies ist stärker als fast eine sichere Verlängerung, weil
es das Supremum war.
Wir sahen, wenn wir fast eine sichere Verlängerung haben, dann haben
wir eine Verlängerung in Wahrscheinlichkeit.
Im Allgemeinen hält die Verlängerung nicht.
Also hatten wir ein Gegensatzbeispiel.
Wir haben eine Verlängerung in Wahrscheinlichkeit, wenn und nur wenn,
und jetzt verlinken wir dies zu einer fast sicheren Verlängerung, jede
Subsequenz, sagen wir xnk von der Sequenz xn, enthält eine weitere
Subsequenz, xnk', such that this subsequence converges almost surely
to x.
So this is a very important criterion for stochastic convergence, and
we see that it will, let's say, give us very simple proofs for some
results.
Okay, das war so das Wesentliche der letzten Stunde, und ich möchte
jetzt noch ein bisschen mit der stochastischen Konvergenz weitermachen
und noch einen weiteren Konvergenzbegriff besprechen.
Zunächst mal sollte man erkennen, dass die Verallgemeinerung dieser
beiden Konvergenzbegriffe auf Zufallsvektoren gar kein Problem ist.
Das bedeutet, wenn wir jetzt eine Folge haben, x1, x2 von
Zufallsvektoren, alle natürlich definiert auf dem gleichen
Wahrscheinlichkeitsrahmen und noch an Zufallsvektor x, die seien jetzt
d -dimensional, diese Zufallsvektoren.
Ich verwende gerne den Buchstaben d, weil er eben für Dimension steht.
Alle auf dem gleichen Wahrscheinlichkeitsraum definiert.
Dann müssen wir natürlich den Betrag, der tritt auf bei der
stochastischen Konvergenz, den müssen wir durch irgendwas ersetzen auf
dem R&D.
Wir nehmen eine beliebige Norm auf dem R&D.
Wir werden gleich sehen, warum die beliebig sein kann für die
Konvergenzbegriffe.
Sie wissen, so eine Norm ist eine Abbildung vom R&D in die reellen
Zahlen.
Wenn ich dort ein x einsetze, Norm von x ist immer größer, gleich Null
und ist genau dann Null, wenn x gleich Null ist.
Dann gibt es diese Homogenität, Norm von konstante Alpha mal x ist
Alpha -Betrag mal Norm von x.
Und dann gibt es noch die 3x-Umgleichung, Norm von x plus y, kleiner
gleich Norm von x plus Norm von y.
Also das wäre eine beliebige Norm erstmal auf dem R&D.
Und dann definiert man die fast sichere Konvergenz genauso wie bisher.
Da sieht man gar keinen Unterschied, nämlich die Wahrscheinlichkeit
für punktweise Konvergenz jetzt von Vektoren im R&D ist 1.
Sie sehen, das ist Konvergenz von Vektoren im R&D im Sinne der
Analysis.
xn von Omega ist ein Vektor im R&D und x von Omega auch.
Und Sie wissen, das ist äquivalent zur koordinatenweise Konvergenz
jeder einzelne Komponente des Vektors.
Das wäre die fast sichere Konvergenz.
Und bei der stochastischen Konvergenz sehen Sie, jetzt habe ich die
Betragsstriche xn minus x Betrag ersetzt durch die Norm.
Aber ansonsten soll das natürlich auch gelten, das ist wichtig für
jedes positive y.
Also die beiden Begriffe übertragen sich direkt.
Warum die Norm jetzt beliebig ist oder beliebig sein kann, wenn ich
eine andere Norm hätte, dass dann nichts anderes rauskäme für diesen
Konvergenzbegriff, sieht man an folgendem, das sollte man mal gesehen
haben, vielleicht haben Sie es schon bewiesen, aber vielleicht werden
Sie es dann später auch beweisen, wenn ich eine andere Norm hätte,
nennen wir die Norm Strich, dann ist die Äquivalenz zu dieser Norm in
folgendem Sinn, die sind äquivalent, die beiden Normen.
Es gibt Konstanten, positive Konstanten a und b mit folgender
Eigenschaft.
Wenn Sie hier a mal die Norm von x nehmen, dann ist das immer, ganz
egal wie das x ist, kleiner oder gleich, die Norm von x Strich, die
andere Norm, die Strichnorm von x.
Das heißt, ich habe diese Abschätzung, ich kann aber auch diese Norm
wieder abschätzen durch eine andere Konstante b mal die Norm von x.
Und das gilt eben für jedes x aus dem R auf d.
Und Sie sehen natürlich, dass Sie sofort rechts haben Sie b mal Norm
von x, teilen Sie durch b, sehen Sie sofort, ich kann die Norm von x
abschätzen durch Konstante 1 durch b mal Norm von x Strich.
Genauso, wenn Sie die andere Ungleichung teilen durch a nach links,
dann können Sie die Norm von x wieder abschätzen durch 1 durch a mal
Norm von x Strich.
Und da oben, diese Eigenschaft für jedes positive epsilon gelten soll,
sehen Sie mithilfe dieser Ungleichung, dass da nichts anderes bei
rauskommt.
Das ist also eine wichtige Einsicht.
Ganz egal, welche Norm Sie nehmen.
Bequem, also Folgerung erstmal, die konkrete Norm ist irrelevant bei
dieser Definition aufgrund dieser Ungleichung.
Sie können das immer in das epsilon einbauen.
Das ist hier wichtig.
Und eine bequeme Wahl ist die Maximumnorm.
Sie sehen also diese Norm und dann als Index unendlich dran, also
Maximum der Beträge, natürlich sind diese x1 bis xd nichts anderes als
die Komponenten dieses Vektors x.
Das wäre eine bequeme Norm dafür.
Vor allen Dingen, die liefert dann direkt Zusammenhänge für die
Komponenten.
Wenn man sich jetzt ansieht, wenn ich die Komponenten einführe, Sie
sehen, ich muss mich ein bisschen hier kaprizieren.
Normalerweise würde ich die jetzt unten hinschreiben auch, aber das
Entscheidende ist, Sie brauchen das auch für xn.
Und Sie sehen, ich habe jetzt die Komponenten nach oben geschrieben
und damit es keine Exponenten sind, habe ich natürlich Klammern noch
drum gesetzt.
Das heißt, die Komponenten des Vektors x sind eben diese x oben 1 bis
x oben d in Klammern und die Komponenten von xn sind eben die xn oben
1 in Klammern und so weiter bis xn oben d in Klammern.
Und jetzt kann ich die Konvergenzen dort oben in Zusammenhang setzen
mit den Konvergenzen für die einzelnen Komponenten.
Nämlich, also das gelten gilt, sehr einfache Aufgabe, eigentlich
weniger als eine Übungsaufgabe, fast sichere Konvergenz von xn gegen x
besteht, dann und nur dann, wenn ich für jede feste Komponente, für
jedes j von 1 bis d fast sichere Konvergenz habe von xn oben j gegen
x.
Also was Sie kennen von der Analysis, punktweise Konvergenz, also
Konvergenz von Vektoren im R auf D, überträgt sich hier direkt, wobei
wir natürlich immer auf die Nullmengen achtgeben müssen.
Auf diese Nullmengen braucht das nicht zu gelten.
Wenn Sie zum Beispiel von rechts nach links kommen wollen, wenn Sie
nur für jedes feste j fast sichere Konvergenz haben, haben Sie für
jedes feste j eine Einsmenge.
Die hängt von j ab.
Auf der Sie dann punktweise Konvergenz haben.
Dann haben Sie endlich viele Einsmengen, wenn Sie die alle schneiden,
haben Sie immer noch eine Einsmenge und auf der haben Sie dann
Konvergenz des Vektors.
Das war schon die eine Richtung.
Für die stochastische Konvergenz gilt das Gleiche.
Die stochastische Konvergenz xn gegen x genau dann, wenn ich
stochastische Konvergenz in jeder einzelnen Komponente habe, wie jedes
j von 1 bis D.
Das ist also relativ einfach.
Ich sagte ja schon, man kann sich eigentlich sofort überlegen, ich
brauche ja nur, wenn ich das als allgemeinere Zufallsobjekte überlege,
die vielleicht Werte in irgendeinem anderen Raum annehmen.
Ein Funktionenraum zum Beispiel.
Ich brauche nur Nähe.
Ich brauche nur einen Konvergenzbegriff.
Und die gibt es natürlich auch allgemeiner über den R hoch D hinaus.
Und das wäre jetzt eine sehr simple Fallgemeinung.
Das ist das Memo nochmal.
xn konvergiert stochastisch gegen x.
Jetzt kommt nochmal dieses Teilfolgen-Kriterium.
Genau dann, wenn zu jeder Teilfolge xnk von xn gibt es eine weitere
Teilfolge xnk' mit der Eigenschaft, dass xnk' fast sicher gegen x
konvergiert.
Also wichtiges Kriterium.
Wir können das jetzt anwenden für Rechenregeln.
Rechenregeln für stochastische Konvergenz.
Und zwar jetzt von Vektoren.
Ich habe jetzt Zufallsvektoren.
Wir sehen x, x1, x2 und so weiter.
Alle auf einem Wahrscheinlichkeitsraum definiert.
Und ich habe eine beliebige stetige Funktion.
Auch hier ist natürlich die Frage, inwieweit kann ich das abschwächen?
Aber ich nehme eine stetige Funktion, die ist auf dem r hoch d
definiert und geht in den r hoch s.
Da kann s durchaus größer gleich 2 sein.
Wichtiger Spezialfall ist vielleicht s gleich 1.
Stetige Funktion.
Und wir haben eine Zahlenfolge an, die gegen a konvergiert.
Und jetzt gelten, zum Beispiel, wenn ich stochastische Konvergenz
habe, xn gegen x, dann folgt auch h von xn konvergiert stochastisch
gegen h von x.
Das bedeutet, stochastische Konvergenz überträgt sich mit Hilfe von
stetigen Funktionen.
Hier, das sieht ein bisschen anders aus, wenn ich stochastische
Konvergenz habe in b, dann kann ich natürlich Zufallsvariablen skalar
multiplizieren, wenn ich hier natürlich ein festes a hätte.
Das wäre eine sehr simple stetige Funktion, aber ich kann auch an den
stetigen Funktionen wackeln.
Ich brauche also nur eine Folge an, die gegen a konvergiert und das
überträgt sich auch.
Sie können sich auch überlegen, wenn die x in Spaltenvektoren sind,
dann kann ich ja auch von links mit einer Matrix ran multiplizieren.
Vielleicht könnte ich auch hier eine Folge von Matrizen haben, Groß a
n, die gegen a konvergiert.
Das sind alles Dinge, die man sich jetzt hier überlegen kann.
Es dreht sich um das Prinzip.
Wir wollen das Kriterium oben anwenden.
Sehen wir uns mal a an.
So, wir müssen zeigen, h von xn konvergiert stochastisch gegen h von
xn.
Oben in dem Memo sehen wir, wir müssen mit Teilfolgen arbeiten oder
wir können mit Teilfolgen arbeiten.
Machen wir das mal.
Wir verwenden also dieses Teilfolgenkriterium.
Das war eben 3,8.
Siehe Memo, was oben in der ersten Zeile steht.
Das verwenden wir.
Jetzt nehmen wir eine beliebige Teilfolge her.
Sie sehen von h von xn.
Die nennen wir h von xnk.
Okay.
Jetzt kommt dieses Teilfolgenkriterium.
Wir haben natürlich als Voraussetzung die stochastische Konvergenz.
Die stecken wir rein.
Und das bedeutet, wir haben eine Teilfolge xnk' von dieser Teilfolge
mit der Eigenschaft, dass diese Teilfolge fast sicher konvergiert.
Wir nutzen also jetzt die stochastische Konvergenz aus, die wir dort
oben haben.
Was bedeutet diese fast sichere Konvergenz von xnk' gegen x?
Jetzt gehen wir nochmal rein.
Das heißt, Konvergenz auf eine Einsmenge.
Also es gibt eine Menge Omega Null in unserer Sigma-Algebra.
Diese Menge hat die Wahrscheinlichkeit 1 und für jedes kleine Omega in
dieser Menge habe ich Konvergenz.
Das bedeutet, limes xnk' von Omega für k gegen und endlich ist x von
Omega für jedes Omega aus dieser Menge Omega Null.
Irgendwann muss ich mal verwenden, dass unsere Abbildung h stetig ist.
Bei stetigen Abbildungen wissen wir, wir haben hier Folgen im r hoch
d, eine Folge xnk' von Omega konvergiert gegen x von Omega und wenn
die Funktion h stetig ist, dann überträgt sich die Konvergenz.
Das bedeutet, wegen der Stetigkeit von h ist dann auch limes für k
gegen und endlich h von xnk' von Omega gleich h von x von Omega für
jedes Omega aus Omega Null.
Das heißt, wir haben aus der ursprünglichen Teilfolge h von xn eine
weitere gefunden, die fast sicher konvergiert gegen h von x von Omega
und damit haben wir aufgrund unseres Teilfolgenkriteriums die
stochastische Konvergenz.
Das heißt, Teil a ist damit gezeigt.
Wir sehen also, wie schön das ist, dass wir uns wirklich über die fast
sichere Konvergenz auf Konvergenz im Sinne der Analysis zurückziehen
können.
Und völlig analog beweist man die hier.
Also bitte kleine eigene Überlegung.
Damit wäre das hier gezeigt.
Also Rechenregeln für stochastische Konvergenz.
Okay.
Folgerung.
Jetzt ganz elementare Folgerung.
Jetzt wird es konkreter.
x, xn, y, yn seien reelle Zufallsvariablen, also x1, x2, dann kannst
du folgen und y auch.
Alle wieder auf dem gleichen Wahrscheinlichkeitsraum definiert.
Und wir wissen, xn konvergiert stochastisch gegen x und yn konvergiert
stochastisch gegen y.
Und wir können jetzt sofort schließen, Teil a, zum Beispiel so eine
Linearkombination a mal xn plus b mal yn konvergiert stochastisch
gegen a mal x plus b mal y.
Beträgt sich auch auf endlich viele Summan.
Oder, das gilt für jede Wahl von a, b aus r.
Oder xn mal yn, das Produkt konvergiert stochastisch gegen x mal y.
Oder xn-Betrag konvergiert stochastisch gegen x-Betrag.
Das sind alles nur Spezialfälle von dem, was wir eben hatten.
Dann sehen wir uns kurz den Beweis an von a.
Aufgrund der stochastischen Konvergenz von xn gegen x und yn gegen y
wissen wir, dass dann auch der bivariate Vektor xn yn stochastisch
konvergiert gegen xy.
Das war das Komponentenweise Konvergenz.
Ist äquivalent zur Konvergenz des Vektors.
Ganz egal, ob ich stochastische Konvergenz habe, oder ob ich fast
sichere Konvergenz habe.
Naja, und was man da oben macht, man schaltet natürlich auf den Vektor
eine stetige Funktion.
Die Funktion h geht jetzt vom r2 nach r.
Sie ordnet zu dem par xy nichts anderes als h von xy und das ist ax
plus by.
Das ist eine stetige Funktion.
Die geht vom r2 in den r1 und ich wende nur an, was ich eben hatte.
Die ist stetig und die Behauptung folgt dann direkt aus dem, was wir
eben hatten.
Man sieht natürlich auch b, das Produkt, ist auch eine stetige
Funktion.
Auch hier gehe ich über von xn yn zum Produkt.
Bilde den r2 auf den r1 ab.
Ist auch eine stetige Abbildung.
Das heißt, ich habe dann auch b und natürlich hier c ist besonders
einfach, da habe ich eben wirklich nur eine Abbildung vom r1 in den
r1.
x geht über auf x-Betrag.
Das ist eine stetige Funktion.
Das heißt, genau so habe ich dann b und c.
Das wären Rechenregeln über Stochastische Konvergenz, mit denen man
dann auch später immer wieder arbeitet, über die man irgendwann nicht
mehr nachdenkt.
Okay.
Jetzt kommt ein Demo.
Es kommt ein Funktionenraum L oben P. Den haben Sie in der Analyse 3
kennengelernt.
Ich werde die gleiche Bezeichnung verwenden.
L oben P. P ist eine positive reelle Zahl.
Ausgeschrieben ist das L oben P von Omega a P. Früher war da eben ein
Mü in der Maßtheorie.
Und was sind das für Funktionen?
Das sind diejenigen, ich schreibe jetzt Groß X und nicht Klein F.
In der Maßtheorie war das Klein F.
Von Omega nach R.
Mit der Eigenschaft, dass der Erwartungswert, Sie sehen x-Betrag hoch
P, endlich ist, existiert.
Hier P ist fest, positiv, ein endlicher Wert.
In der Maßtheorie stand statt Erwartungswert Integral, F-Betrag hoch P
demü, das ist bei uns einfach der Erwartungswert.
Das sind also diejenigen Zufallsvariablen, deren P-tes absolutes
Moment existiert.
Wichtiger Spezialfall P gleich 1 zum Beispiel, der Erwartungswert
existiert.
Oder P gleich 2, die sind quadratisch integrierbar, das zweite Moment
existiert.
Also ein wichtiger Raum.
Ich habe Reellwärtigkeit angenommen, man könnte natürlich auch
zulassen, Werte Plus und Minus und Endlich, da muss man immer
aufpassen bei Rechenregeln, wenn ich die addiere, aber durch die
Existenz des Erwartungswertes wissen wir, dass Werte Plus und Minus
und Endlich nur mit Wahrscheinlichkeit Null angenommen werden können.
Sonst kann der Erwartungswert gar nicht existieren.
Wenn die Reellwärtig sind, jetzt ist das ein Vektorraum.
Zum Beispiel.
Okay.
Konvergenz im p-ten Mittel, Sie sehen also dort dieses P. Ich brauche
also für diesen Konvergenzbegriff den Erwartungswert.
Wie ist das definiert?
Nun eine Folge, xn, von Zufallsvariablen, die liegen jetzt alle in lp,
das x auch.
Man sagt, xn konvergiert gegen x im p-ten Mittel und schreibt oben
drüber das lp, natürlich n gegen und endlich, genau dann wenn, jetzt
sehen Sie, für n gegen und endlich, der Erwartungswert von xn minus x,
Betrag hoch p, der Erwartungswert hiervon im Limes Null ist.
Das heißt Konvergenz im p-ten Mittel.
Ist also ein sehr anderer Konvergenzbegriff, als bisher.
Bisher haben wir Momente überhaupt nicht gebraucht.
Einmal ging es um punktweise Konvergenz, fast überall.
Und einmal ging es um Konvergenz in Wahrscheinlichkeit, da musste nur
eine Wahrscheinlichkeit gegen Null gehen für Abweichungsmengen.
xn minus x, Betrag größer y.
Das war schwächer noch gewesen.
Jetzt haben wir Integrale, Erwartungswerte.
Also man sagt in Worten, xn konvergiert im p-ten Mittel gegen x.
Das ist die Sprechweise.
Wenn p gleich 1 ist, beziehungsweise p gleich 2, sagt man auch kurz
bei p gleich 1 Konvergenz im Mittel.
Und für p gleich 2 sagt man Konvergenz im quadratischen Mittel.
Also die Folge xn konvergiert im quadratischen Mittel gegen x.
Das sind also hier Sprechweisen.
Also folgendes sollte man beachten, im Gegensatz zur versicheren
Konvergenz, die wir zuerst hatten und auch zur Stochastischen
Konvergenz müssen bei dieser Konvergenz im p-ten Mittel die p-ten
absoluten Momente existieren.
Also hier eine Grundvoraussetzung.
Sonst kann ich das gar nicht machen.
Sehen wir uns mal an, Beziehungen zwischen diesen Konvergenzbegriffen,
die wir bis jetzt hatten.
Nun wir haben einmal die LP-Konvergenz jetzt neu und wir haben die
Stochastische Konvergenz und wir werden sehen, sehr einfach einsehen,
aus der LP-Konvergenz folgt die Stochastische Konvergenz.
Und wir haben noch die fast sichere Konvergenz.
Sehen wir uns das mal an.
Aus der LP-Konvergenz folgt im Allgemeinen nicht die fast sichere
Konvergenz.
Umgekehrt natürlich auch nicht, weil ich hier schon bei der LP
-Konvergenz Momente brauche, aber selbst wenn die existieren, folgt
das nicht.
Wir werden gleich ein Gegenbeispiel sehen.
Aus der fast sicheren Konvergenz folgt im Allgemeinen nicht die LP
-Konvergenz.
Die sind also nicht vergleichbar.
Die fast sichere Konvergenz ist stärker als die Stochastische
Konvergenz.
Auch die LP-Konvergenz ist stärker als die Stochastische, aber
zwischen LP und fast sicherer Konvergenz, die stehen sozusagen auf der
gleichen Ebene, da gibt es keine Implikationen dazwischen.
Nun das A, diese erste Aussage folgt aus einer sehr einfachen
Ungleichung.
Ich muss ja zeigen für die Stochastische Konvergenz, dass diese
Wahrscheinlichkeit, Y ist positiv, beliebig, gegen Null konvergiert.
Und ich muss die Wahrscheinlichkeiten abschätzen nach oben, irgendwie
durch etwas, wo ich die LP-Konvergenz verwenden kann.
Und wir haben da eine sehr schöne Ungleichung und die Ungleichung
sieht hier so aus, ist die Markov-Ungleichung.
Diese Wahrscheinlichkeit lässt sich nach oben abschätzen durch den
Erwartungswert von Xn minus X-Betrag hoch P durch Y hoch P. Denken Sie
an den Spezialfall P gleich 2, da war das die Chebyshev- Ungleichung.
Der Erwartungswert von Xn, Entschuldigung, wenn natürlich das X im
Spezialfall, wenn X der Erwartungswert wäre von Xn, dann ist es die
Chebyshev - Ungleichung.
Aber solche Ungleichungen mit P gleich 2 haben wir schon gehabt.
Das ist die Markov-Ungleichung.
Und man sieht natürlich jetzt sofort aus der LP-Konvergenz folgt, oder
nach Definition, der Zähler dort geht gegen 0 auf der rechten Seite, Y
ist fest, die rechte Seite konvergiert gegen 0 und damit auch die
linke, denn Wahrscheinlichkeiten sind immer nicht negativ.
Ich habe sofort, dass aus der LP-Konvergenz die stochastische
Konvergenz folgt.
So ein Beispiel, genauer sollte man sagen Gegenbeispiel für B, das
haben wir gehabt, das war 3,7.
Also aus der LP-Konvergenz folgt im Allgemeinen nicht die fast sichere
Konvergenz.
Nur was war das?
Wir haben da auch so ein Bild gehabt.
Wir haben die Zufallsvariable xn als eine Indikatorfunktion angesetzt
auf eine Menge an.
Als Indikatorfunktion ist der Wert nur 1 oder 0.
Und die Menge an war ein Intervall und das wurde immer kürzer.
Die Länge ging gegen 0, für n ging unendlich.
Das Intervall sah so aus.
Wir sehen ein Intervall j durch 2 hoch k bis j plus 1 durch 2 hoch k.
Intervall ist also 1 durch 2 hoch k und das n ergab sich gerade als 2
hoch k plus j j von 0 bis k minus 1, strikt kleiner k bis k minus 1.
So war das gemacht.
Die ersten Funktionen hatte ich Ihnen sogar gezeigt.
Das x ist hier identisch 0, die 0-Funktion.
Das ist hier das Beispiel.
Auf jeden Fall wissen wir, hier liegt der Beispiel für b.
Beachte, wir rechnen mal aus, dass wir lp-Konvergenz haben.
Was ist der Erwartungswert von xn Betrag hoch p?
xn ist der Indikator.
Indikator ist immer nicht negativ.
Betrag kann ich weglassen.
Das heißt, ich habe Indikator an hoch p.
Indikator an nimmt nur 1 und 0 an.
1 hoch p ist 1 und 0 hoch p ist 0.
Das heißt, ich kann das p völlig vergessen.
Das ist nichts anderes als der Erwartungswert des Indikators von an.
Und der Erwartungswert vom Indikator wissen wir, schon seit der
Einführungsvorlesung, ist immer die Wahrscheinlichkeit von an.
Wir haben das Intervall so gemacht, dass die Wahrscheinlichkeit gegen
0 konvergiert.
Das bedeutet, wir haben auf jeden Fall lp-Konvergenz von diesem xn
gegen die 0-Funktion.
x liegt vor.
Aber wir haben keine fast sichere Konvergenz, denn diese an's, mal
gesehen, zunächst war das das ganze Intervall, dann hatten wir von 0
bis ein Halb, ein Halb bis 1, und dann ging es vorne wieder los, von 0
bis ein Viertel und so weiter.
Die ziehen sich immer wieder durch, werden zwar klein, aber ich habe
Konvergenz für kein einziges Omega im Einheitsintervall.
Deshalb erst recht keine fast sichere Konvergenz.
Das war schon ein Beispiel dafür, aus stochastischer Konvergenz folgt
keine fast sichere Konvergenz.
Und wir sehen, die Folge konvergiert auch im p-Mittel gegen 0.
Das heißt, wir haben hier ein sehr einfaches Gegenbeispiel.
So sehen wir uns mal c an.
Wir nehmen den gleichen Wahrscheinlichkeitsraum wie in 3.7 und
modifizieren das jetzt ein kleines bisschen.
Wir setzen jetzt, jetzt sehen wir, wir haben eine Potenz dran.
xn ist jetzt n hoch 2 durch p mal dieser Indikator.
Das heißt, wo der Indikator vorher 1 war, ich vergrößere.
Wenn n gegen unendlich geht, geht das gegen unendlich.
Aber ansonsten nehme ich die gleichen Intervalle.
Ich nehme ein anderes Intervall, werden wir gleich sehen.
Das Intervall setze ich an von 0 bis 1 durch n.
Wir sehen also, diese Länge ist 1 durch n, die geht gegen 0.
Was habe ich erreicht?
Ich setze wieder x gleich 0, das ist die Nullfunktion.
So, ich habe fast sichere Konvergenz.
Nämlich, Sie sehen, das Intervall, wo die Funktion xn überhaupt von x
verschieden ist, ist nur auf dem Intervall von 0 bis an.
Und ganz egal, welches x Sie haben, außer 0, sofern es noch positiv
ist, haben Sie Konvergenz, punktweise Konvergenz.
Sie haben fast sichere Konvergenz.
Das ist also die erste Einsicht, die man haben sollte.
Und jetzt ist natürlich die Frage, was ist mit lp gegen die
Nullfunktion?
Na ja, ich muss jetzt ausrechnen.
Also, was ist der Erwartungswert von xn-Betrag hoch p?
Der darf jetzt nicht gegen 0 gehen.
Und was ist das aber?
Jetzt setzen wir ein.
xn-Betrag, also das xn ist die Indikator, da sehen Sie n hoch 2 durch
p.
Das habe ich jetzt hoch p genommen.
Dann habe ich n Quadrat und den Indikator wieder hoch p ist der
Indikator selbst.
Da ändert sich nichts.
Also habe ich das.
Jetzt können wir die konstante n Quadrat nach vorne ziehen.
Und haben dann den Erwartungswert des Indikators, das ist die
Wahrscheinlichkeit des Ereignisses.
Und Sie sehen, das ist das Intervall von 0 bis 1 durch n.
Wir haben das Lebesgue-Maß zugrunde gelegt.
Das heißt, wir haben hier 1 durch n und n Quadrat mal 1 durch n.
Also die Wahrscheinlichkeit des 1 durch n ist n und das geht gegen
unendlich.
Das heißt, ich habe keine LP- Konvergenz.
Das ist hier ein schönes Beispiel.
Sie können also dann auch so einen Indikator können Sie immer größer
machen.
Das ist das Entscheidende hier.
Aber dann sogar fast sichere Konvergenz.
Hier gehen die Intervalle nicht immer wieder durch, zyklisch, werden
kleiner, sondern ich nehme einfach nur von 0 bis 1 durch n und lasse
den gegen unendlich gehen.
Ich hoffe, dass diese Beispiele instruktiv sind, dass man also
wirklich die Botschaft behält.
LP-Konvergenz und fast sichere Konvergenz sind in gewisser Weise
unverträglich.
Ich kann aus dem einen nicht auf das andere schließen.
Da gibt es immer Gegenbeispiele.
Aber sowohl die fast sichere als auch die LP-Konvergenz jeweils für
sich implizieren die stochastische Konvergenz.
Die ist untergeordnet.
Wir werden später noch einen weiteren Konvergenzbegriff kennenlernen,
der noch weiter untergeordnet ist und dann kommt auch nochmal ein
Bild, wo man das dann schön sehen kann, wie die Konvergenzbegriffe
zusammenhängen.
Wir beginnen mit einem neuen Kapitel.
Wir sehen Gesetze großer Zahlen.
Wenn wir uns erinnern an die Einführungsvorlesung, da hatten wir schon
ein Gesetz großer Zahlen gehabt und das möchte ich gleich erstmal in
Erinnerung rufen.
Zunächst mal durch die Situation schildern.
Wir haben hier reelle Zufallsvariablen, x, x1, x2, auf dem gleichen
Wahrscheinlichkeitsraum.
Und was wir hier machen, zunächst mal noch als Erinnerung, wir sagen,
wir haben eine UIV-Folge.
U steht für unabhängig, I steht für identisch und V steht für
verteilt, wenn folgendes gilt, wenn eben diese Zufallsvariablen x1, x2
stochastisch unabhängig sind und identisch verteilt sind.
Sie gehen, da geht das x oben gar nicht ein, das tritt gleich mal als
Grenzwert auf.
Eine UIV-Folge.
Also die Verteilung ist bestimmt dort eindeutig durch die Verteilung
von x1, die muss ich festlegen, die kann beliebig sein, ansonsten habe
ich nur stochastische Unabhängigkeit und identische Verteilung.
Wir werden im Folgenden immer mit Sn, es steht für Summe, bezeichnen
die Summe der ersten x, von 1 bis n und setzen erstmal für n größer
gleich 1, das sei die sogenannte n-te Partialsumme dieser Folge.
Die Summenbildung ist eben wirklich eine ganz häufige Operation,
insbesondere werden wir gleich mitteln.
Also Sn ist die Summe.
So, Gesetze großer Zahlen betreffen jetzt folgendes, betreffen die
stochastische oder fast sichere Konvergenz, das sind jetzt die beiden
Konvergenzbegriffe, und zwar des arithmetischen Mittels, dafür
schreibe ich gern xnq, jetzt muss man ein bisschen flexibel sein, ich
werde da auch mal wechseln, xnq ist nichts anderes als 1 durch n mal
Summe xj, zufällige arithmetische Mittel, oder, das ist natürlich dann
gleichbedeutend mit Sn durch n.
Sn ist die Summe.
Und zwar kommt es jetzt darauf an, ob wir stochastische Konvergenz
oder fast sichere haben, wenn wir stochastische Konvergenz vorliegen
haben, dann sprechen wir vor einem schwachen Gesetz der großen Zahlen.
Wenn wir dann den stärkeren Konvergenzbegriff haben, der fast sicheren
Konvergenz, dann sprechen wir von einem starken Gesetz der großen
Zahlen.
Also das erstmal zur Sprechweise.
Wir werden uns gerade in das Hauptergebnis in diesem Kapitel, wird ein
starkes Gesetz großer Zahlen sein.
Was letztlich die Existenz des Erwartungswertes charakterisiert.
Das folgende schwache Gesetz kennen wir schon aus der
Einführungsvorlesung und zwar wie folgt.
Nun hier haben wir eine UIV-Folge, das ist die Grundvoraussetzung,
unabhängig identisch verteilt.
Und wir setzen voraus, dass das zweite Moment existiert.
Also e von x1 Quadrat ist ein endlicher Wert.
Dann gilt, das arithmetische Mittel konvergiert stochastisch gegen e
von x1.
Stochastisch, wir haben stochastische Konvergenz, schwaches Gesetz.
So, wenn Sie sich an den Beweis erinnern, das war ein Einseiler.
Nämlich, da die alle unabhängig identisch verteilt sind und das zweite
Moment existiert, existiert auch der Erwartungswert.
Wir haben den damals µ genannt, abgekürzt, e von x1 haben wir µ
gesetzt.
Dann haben wir ausgerechnet, der Erwartungswert des arithmetischen
Mittels ist das µ.
Das arithmetische Mittel hat den gleichen Erwartungswert, wie die
einzelnen Zufallsvariablen.
Und dann haben wir gesehen, die Wahrscheinlichkeit, dass sich das
arithmetische Mittel von µ, was der Erwartungswert ist, betragsmäßig
um mehr als epsilon unterscheidet.
Jetzt kommt die Chebyshev-Ungleichung.
Kleiner gleich, Varianz des arithmetischen Mittels durch epsilon
Quadrat.
Aber die Varianz des arithmetischen Mittels nach Rechenregeln über
Varianzen, der Vorfaktor 1 durch n geht quadratisch ein, also 1 durch
n Quadrat.
Und die Varianz der Summe, weil die unabhängig sind, ist Summe der
Varianzen.
Also n mal die Einzelvarianz, weil die alle identisch verteilt sind.
Und n mal die Einzelvarianz durch n Quadrat ist die Einzelvarianz
durch n und das geht gegen 0.
Das bedeutet, wir haben sofort stochastische Konvergenz vom
arithmetischen Mittel gegen den Erwartungswert aufgrund der Chebyshev
-Ungleichung.
Und das haben wir gehabt.
So, und jetzt kommt wirklich was, was auf den ersten Augenblick
aussieht, als könnte es was gar nicht geben.
Nämlich eines der Hauptergebnisse der klassischen
Wahrscheinlichkeitstheorie.
Das starke Gesetz der großen Zahlen.
Was besagt es von Kolmogorov?
Das besagt, naja, wenn ich eine UIV-Folge habe, ich setze jetzt
überhaupt erstmal nichts voraus über Momente.
Zweites Moment oder erstes Moment.
Sondern ich zeige, dass zwei Aussagen äquivalent sind.
Die erste Aussage ist die, es existiert eine Zufallsvariable X, von
der ich zunächst mal überhaupt noch nichts weiß.
Es existiert ein X mit der Eigenschaft, dass dieses arithmetische
Mittel, ich schreibe jetzt Sn durch n, fast sicher gegen X
konvergiert.
Es gibt ein X konvergiert, fast sicher gegen X.
Zweite Aussage, der Erwartungswert existiert.
Schwächere Bedingung als zweites Moment existiert.
Was war oben mal?
Ein schwacher Gesetz.
Schwächere Bedingung.
Diese beiden Aussagen sind äquivalent.
So, wenn aber eine der beiden Aussagen gilt, zum Beispiel B, der
Erwartungswert existiert, dann folgt, ich kann die Zufallsvariable X
sogar identifizieren.
Sie ist mit Wahrscheinlichkeit 1 eine konstante, ausgeartete
Verteilung.
Die Konstante ist der Erwartungswert.
Das bedeutet, ich kann sagen, das arithmetische Mittel konvergiert mit
Wahrscheinlichkeit 1 gegen den Erwartungswert.
Also insbesondere sieht man, wenn überhaupt nur der Erwartungswert
existiert, dann konvergiert sogar das arithmetische Mittel mit
Wahrscheinlichkeit 1 gegen den Erwartungswert.
Eine viel stärkere Aussage als das schwache Gesetz.
Da habe ich sogar noch mehr angenommen.
Zweites Moment existiert.
Das ist eine viel stringentere Forderung, als nur der Erwartungswert
existiert.
Als ich das hier zum ersten Mal gesehen habe und kannte den Beweis
noch nicht, habe ich mich so ad hoc gefragt, was ist denn hier die
schwierigere Beweisrichtung?
Von A nach B oder von B nach A?
Intuitiv hatte ich gedacht, naja, wenn ich den Erwartungswert habe,
dann kann ich vielleicht relativ leicht A beweisen, aber nur aus der
Konvergenz von arithmetischen Mitteln fasse ich ja gegen ein X, was
ich gar nicht kenne, zu schließen auf die Existenz des
Erwartungswertes, hatte ich damals gedacht, sei die schwierige
Richtung im Beweis.
Aber denkste, das ist die einfache.
Das heißt, wir werden jetzt relativ schnell beweisen aus A folgt B.
Also die Existenz des Erwartungswertes ist eine notwendige Bedingung.
Dann werden wir gewisse Techniken entwickeln und dann etwas später in
diesem Kapitel, nicht mehr in der heutigen Stunde, sondern nächste
Woche, werden wir dann auch B, die Richtung von B nach A beweisen.
Also sehen wir uns erstmal A nach B an.
Beweis.
A nach B.
Wir nehmen also an, S n ist die Summe, S n durch n ist das
arithmetische Mittel.
Wir nehmen an, es konvergiert fast sicher gegen eine Zufallsvariante
X, von der wir erstmal gar nichts wissen.
Folgendes sollte man jetzt beachten.
Betrachten Sie mal X n durch n.
Wir werden jetzt eine Aussage treffen über X n durch n.
Und X n durch n ist nichts anderes als S n minus S n minus 1 durch n,
denn S n ist die Summe der X j von 1 bis n und S n minus 1 ist die
Summe der X j von 1 bis n minus 1.
Sie subtrahieren das.
Dann bleibt X n über.
Okay.
Jetzt ziehen wir das mal auseinander.
Wir haben erstmal S n durch n.
Und jetzt ziehen wir ab, S n minus 1 durch n.
Aber das machen wir jetzt so, mit einem kleinen Trick.
Ich betrachte erst den Quotienten n minus 1 durch n.
Das 1 durch n habe ich schon erledigt und oben habe ich n minus 1
hingeschrieben.
Das mache ich rückgängig, indem ich jetzt durch n minus 1 teile.
So.
Jetzt da oben steht S n durch n konvergiert fast sicher gegen X.
Das nutzen wir jetzt aus.
Es gibt eine Einsmenge.
Nehmen wir die Omega 0.
Für jedes kleine Omega in Omega 0 konvergiert wirklich punktweise S n
von Omega dividiert durch n gegen X von Omega.
So.
Auf der Einsmenge sehen Sie jetzt auf der rechten Seite, wir haben
erst mal stehen S n durch n.
Das konvergiert auf diese Einsmenge punktweise gegen X.
S n von Omega durch n geht gegen X von Omega.
Das macht die rechte Seite.
n minus 1 durch n geht gegen 1.
Und S n minus 1, das ist ja nur eine Indexverschiebung von Omega durch
n minus 1 konvergiert auch gegen X von Omega.
Also diese rechte Seite konvergiert für jedes Omega aus dieser
Einsmenge gegen 0.
Das heißt dass X n durch n konvergiert mit Wahrscheinlichkeit 1 gegen
0.
Okay?
Wenn wir das eingesehen haben, dass das mit Wahrscheinlichkeit 1 gegen
0 konvergiert, betrachten wir mal das Ereignis a n, dass X n dem
Betrage nach größer gleich n ist.
Das kann ich so schreiben, ich dividiere mal durch n, dann ist es das
Ereignis, dass X n durch n dem Betrage nach größer gleich 1 ist.
Das mache ich für jedes n größer gleich 1.
So.
Oben steht, dieser Quotient X n durch n konvergiert mit
Wahrscheinlichkeit 1 gegen 0.
So, das heißt auf einer Einsmenge dann für jedes kleine Omega habe ich
im Sinne der reellen Zahlen X n von Omega dividiert durch n
konvergiert gegen 0.
Betrachten Sie mal das Ereignis a n und fragen Sie sich, wie oft das
eintreten kann für so ein Omega.
Steht jetzt X n von Omega durch n größer gleich 1.
Soll ja gegen 0 gehen, X n durch n, also betragsmäßig größer gleich 1
zu sein, kann nur endlich oft eintreten.
Denn für jedes positive Y, insbesondere die Y kleiner 1, muss ja
konvergieren, X n von Omega dividiert durch n muss gegen 0 gehen, also
betragsmäßig größer Y kann nur endlich oft passieren.
Das heißt, wir erkennen die Wahrscheinlichkeit, dass unendlich viele
dieser a ns eintreten, ist 0.
Unendlich viele eintreten heißt gerade Limes Superior.
Der a n ist 0, sonst kann das nicht passieren.
Simpele Überlegung.
Gut.
Nun p von a n, schauen Sie sich dort oben p von a n an, das brauchen
wir auch gleich.
Da haben Sie jetzt ein n bei dem x stehen und dann nochmal Betrag
größer gleich n.
Die Frage ist, was ist mit dem n bei dem x?
Die Zufallsvariablen haben alle die gleiche Verteilung.
Ob ich hier x n schreibe oder x 1 schreibe oder x 2 schreibe, die
Wahrscheinlichkeit ist für festes n immer die gleiche.
Das bedeutet, diese Wahrscheinlichkeit ist gleich der
Wahrscheinlichkeit, dass x 1 Betrag größer gleich n ist.
Hier geht die identische Verteilung ein.
Also wichtiger Gesichtspunkt.
So, das war schon die Antwort auf die Frage warum, mit der Sie sich
vielleicht schon beschäftigt haben.
Das war die Antwort.
Jetzt kommt Teil b des Lemmas von Borel-Cantelli, nämlich die
Ereignisse a n, die da stehen, sind stochastisch unabhängig, denn in
dem Ereignis a n tritt nur x n auf.
Das Ereignis a n ist nur durch x n gebildet und jetzt kommt die
stochastische Unabhängigkeit ins Spiel.
Also sind das unabhängige Ereignisse.
Und was sagt das Lemma von Borel-Cantelli?
Ich schreibe es erstmal hin, liefert somit, wir werden gleich nochmal
drüber nachdenken kurz, die Summe n von 1 bis und endlich p von x 1
Betrag größer gleich n muss konvergieren.
Hier ist jetzt die Frage nochmal warum?
Warum muss das konvergieren?
Also erstmal sollte man erkennen, statt x 1 könnte ich dort auch x n
schreiben.
Da steht da Summe, weil die Wahrscheinlichkeit x 1 Betrag größer
gleich n gleich der gleichen ist mit x n Betrag größer gleich n, weil
x 1 und x n die gleiche Verteilung haben.
So dann habe ich also hier Summe und da oben steht das Ereignis, ich
habe Summe von p von a n konvergiert.
Warum?
Das Entscheidende ist eben der zweite Teil des Lemmas von Borel
-Cantelli.
Die Alternative wäre doch nur, dass sie divergieren würde.
Aber wenn die Reihe divergieren würde, zweiter Teil des Lemmas von
Borel -Cantelli, dann müsste die Wahrscheinlichkeit vom Limes-Superior
der a n gleich 1 sein.
Sie ist aber 0.
Also kann sie nicht divergieren, sie muss konvergieren.
Jetzt sehen wir uns an, was das bedeutet, dass diese Reihe
konvergiert.
Jetzt verwenden wir eine Darstellungsformel für den Erwartungswert,
das ist jetzt schon eine Weile her, war im ersten Kapitel, Satz 1,39
und was besagte die?
Naja, der Erwartungswert von x 1 Betrag, wir müssen jetzt zeigen, dass
der existiert.
So, wie kann man den erstmal darstellen?
Den kann ich so darstellen, ich brauche die Verteilungsfunktion von
dem x 1 Betrag und x 1 Betrag ist immer eine Zufallsvariable, die
größer und gleich 0 ist und dann war die Darstellungsformel die, das
ist ein Integral von 0 bis unendlich.
Jetzt kommt 1 minus Verteilungsfunktion von x 1 Betrag an der Stelle t
dt.
So, aber 1 minus Verteilungsfunktion ist nichts anderes als die
Wahrscheinlichkeit x 1 Betrag größer t.
1 minus Wahrscheinlichkeit x 1 Betrag kleiner gleich t und das wäre,
kleiner gleich t ist die Verteilungsfunktion.
So, das dt.
Sehen wir uns das an.
Ich behaupte, das kann ich so schreiben als Summe n von 1 bis
unendlich.
Jetzt zerlege ich den Integrationsbereich von 0 bis unendlich und
integriere über das Intervall, Sie sehen dort, halb offen, n minus 1
ist mit drin, n ist nicht mit drin, das erste Intervall wäre also von
0, 0 mit drin und dann aber die 1 nicht, beim nächsten wäre natürlich
die 1 drin, dann geht es bis 2, die 2 nicht und so weiter, diese
Wahrscheinlichkeit.
Da steckt ein Satz hinter der Maßtheorie, das ist der Satz der
monotonen Konvergenz.
Machen Sie sich das klar, dass der dahinter steckt.
Denn ich habe hier eigentlich Integral und Summe vertauscht.
Ziehen Sie mal das Integral vor, das Integral über diese Menge, Sie
können immer den Indikator rein multiplizieren.
Das ist ein Integral über die nicht negativen reellen Zahlen.
Die haben wir ja links.
Dann sollten Sie erkennen, dass Sie hier Integral und Summe vertauscht
haben.
Jetzt schätzen wir ab nach oben.
Sie sehen, ich habe die Summe genommen, n von 1 bis unendlich und
jetzt schauen Sie sich mal den Integrationsbereich an und die
Wahrscheinlichkeit.
Das t ist größer gleich n minus 1.
Das heißt, wenn ich hier weiß, wenn x1 Betrag größer t ist, dann
folgt, dass x1 Betrag größer gleich n minus 1 ist.
Wenn aus einem Ereignis ein anderes folgt, kann die Wahrscheinlichkeit
nur zunehmen.
Das bedeutet, Integrationsbereich hat die Länge 1, den Integranten
kann ich nach oben abschätzen auf der Menge durch die
Wahrscheinlichkeit x1 Betrag größer gleich n minus 1 und dann habe ich
das als obere Schranke.
So, und jetzt sieht man, ich kann n gleich 1 laufen lassen, x1 Betrag
größer gleich 0 ist natürlich 1, aber Sie sehen dort bei dem Warum,
wir haben nichts anderes als diese Reihe.
Da haben wir Konvergenz vorausgesetzt.
Das bedeutet, das war schon der ganze Beweis.
Wir sehen, der Erwartungswert existiert.
Daraus folgt b.
Also das ist eine relativ einfache Überlegung mit Hilfe des Borel
-Cantelli -Lemmas, von dem man vielleicht meint, das sei eben
schwierig, aber wir sehen, wenn überhaupt eine Zufallsvariable
existiert, x, der hat, dass das arithmetische Mittel fast sicher gegen
x konvergiert, haben wir eine notwendige Bedingung, der Erwartungswert
muss existieren.
Und ich sagte Ihnen, der andere Teil, b nach a, das ist komplizierter.
Das ist durchaus komplizierter, es fehlt uns sozusagen, eigentlich
würde man sagen, es fehlt uns sozusagen.
Das erste Moment ist vielleicht zu wenig, dass nur der Erwartungswert
existiert.
Nein, da braucht man ein bisschen Technik und dann wird man sehen, es
geht.
Ja, ich denke, an dieser Stelle machen wir eine Pause und fangen dann
um sieben vor neun wieder an.
Ja, machen wir hier an der Stelle weiter.
Wir sehen hier ein Beispiel, Borels Satz über normale Zahlen.
Ich werde hier einen Spezialfall vorführen.
Man kann das also noch deutlich allgemeiner machen.
Wir werden dazu dann auch eine Übungsaufgabe formulieren.
Wir nehmen als Grundraum das Intervall von 0 bis 1.
Sie sehen hier halb offen.
Wir haben das schon mal gehabt.
Als Sigma-Algebra nehmen wir die borelischen Teilmengen in diesem
Intervall.
Wir nehmen als Wahrscheinlichkeitsmaß das Borele-Beck-Maß, also die
Gleichverteilung auf diesem Intervall.
Und dann wissen wir, wir haben das früher schon gehabt, jedes Omega
hier hat eine eindeutige, nicht abbrechende, dualische Darstellung.
Wir nehmen also die Nachkommastellen folgender Form.
Omega gleich, und diese Reihe kennen Sie schon, Summe j von 1 bis
unendlich, dj von Omega durch 2 hoch j, wobei diese dj entweder 0 oder
1 sind.
Das heißt hier bei der dualischen Darstellung nur die beiden Ziffern 0
und 1.
Und sie bricht nicht ab.
Das heißt, es gibt unendlich viele Einsen.
Das ist da ganz einfach drin.
Und wir wissen schon, wenn das Omega eine Realisierung der
Gleichverteilung ist, dann sind die dj, sind dann unabhängig und sind
binomial verteilt.
Man nennt erstmal eine Zahl Omega normal, falls gilt.
Das arithmetische Mittel, Sie sehen, der relative Anteil
der...
Ich summiere die Nullen und Einsen auf, aber dadurch, dass ich die
Nullen nicht zähle, sind es die Einsen.
Der relative Anteil der Einsen, wenn ich von relativem Anteil spreche,
unter den ersten N-Stellen in der dualischen Entwicklung, und wir
haben natürlich keine Dezimalentwicklung, sondern dualische
Entwicklung, das ist immer ein Halb.
Also der relative Anteil ist ein Halb.
Dann heißt so eine Zahl normal.
Sowohl Nullen und Einsen gleichen sich insofern aus.
Für die Nullen wäre natürlich dann auch der relative Anteil der Nullen
ein Halb.
Iblimes.
Und hier, wir wissen, diese sind unabhängige Zufallsvariable.
Direkt als Funktion auf Omega, erste Nachkommastelle, ist mit
Wahrscheinlichkeit ein Halb, 0 oder 1, die zweite auch, die dritte
auch, und ich habe noch stochastische Unabhängigkeit, hatten wir auf
dem Übungsblatt.
Und Sie haben eine Binomialverteilung, Trephanite, mit
Wahrscheinlichkeit ein Halb jeweils.
Das heißt, ich habe die Situation, nur anstelle der xj stehen jetzt
dj.
Eine uiv-Folge.
Der Erwartungswert ist ein Halb.
Der Erwartungswert der Binomialverteilung.
N mal p, n ist 1, p ist ein Halb.
So, nach dem starken Gesetz der großen Zahlen, der Erwartungswert ist
ein Halb, folgt aus dem starken Gesetz der großen Zahlen die
Wahrscheinlichkeit für die Menge aller Omega, also in dem
Einheitsintervall Zahlen, derart, dass da das arithmetische Mittel
gegen ein Halb konvergiert, ist die Wahrscheinlichkeit 1.
Das bedeutet, p fast sicher, also fast sicher, ist jede Zahl in diesem
Sinne normal.
Das wäre eine direkte Anwendung des starken Gesetzes der großen
Zahlen.
Das wäre die Botschaft.
Fast jede Zahl.
Fast jede im Sinne des Lebesgmaßes auf dem Einheitsintervall.
Man kann sich jetzt fragen, wie ist das bei der Dezimalentwicklung?
Ich könnte mich auch fragen, was ist denn, wenn ich Ziffernblöcke
betrachte, Dezimalentwicklung, da haben wir so einen Block 70048, so
ein Fünferblock.
Wie oft kommt denn der vor, wenn ich so die ersten Endziffern
durchgehe?
Dazu formulieren wir mal eine Übungsaufgabe.
Anwendung des starken Gesetzes der großen Zahlen.
Um jetzt weiterzukommen von der Technik her, dass wir später auch B
nach A beweisen können, starken Gesetz der großen Zahlen, benötigen
wir eine Ungleichung, die auf Kolmogorov zurückgeht.
Sie heißt Maximalungleichung.
Und warum sie so heißt, werden wir jetzt sehen.
Wir haben unabhängige Zufallsvariante.
Wir setzen hier nicht voraus, dass sie identisch verteilt sind.
Nur stochastische Unabhängigkeit.
Wir setzen aber hier voraus, erstmal sind sie alle auf einem
Wahrscheinlichkeitsraum definiert.
Das ist klar.
Und wir setzen voraus, sie haben zweite Momente.
Also hier ist durchaus eine Verschärfung der Momentbedingungen.
Ist mehr als erwartungswert.
Aber, sie brauchen nicht mehr identisch verteilt zu sein.
J von 1 bis N.
Jetzt definiere ich Sk, sei wieder die Summe, und jetzt sehen Sie, ich
habe zentriert.
Ich habe von xj den Erwartungswert, der existiert, subtrahiert, der
existiert, weil das zweite Moment existiert.
Jetzt sehen Sie, summiere ich Zufallsvarianten auf, die den
Erwartungswert 0 haben.
xj minus e von xj hat den Erwartungswert 0.
Das kann ich machen für jedes k von 1 bis N.
Dann gilt für jedes positive y folgende Ungleichung.
Und Sie sehen, die Wahrscheinlichkeit, dass das Maximum über alle k
von 1 bis N des Betrages der Sk größer gleich Epsilon ist, deshalb
heißt das Maximalungleichung, Maximum der Beträge, größer gleich
Epsilon, ist kleiner oder gleich 1 durch Epsilon Quadrat mal die
Varianz von Sn.
Das Überraschende an dieser Ungleichung ist, wenn Sie die S1, S2 und
so weiter, Sn als Stochastische Folge begreifen, Sie können das
vielleicht die Realisierung auftragen im Koordinatensystem.
Die Zeitläufe von 1, 2, 3 und so weiter diskret.
Dann können Sie die Sk-Betrag aufzeichnen und bekommen Sie so einen
Polygonzug.
Der schwankt irgendwie.
Alles ist stochastisch.
Das Entscheidende ist, die maximale betragsmäßige Schwankung, wenn Sie
so wollen, das ist der maximale betragsmäßige Abstand von der x-Achse
vom Nullniveau größer gleich Epsilon.
Da haben Sie eine obere Schranke.
Allein durch die Fluktuation die Varianz des letzten Summanden Sn.
Das, was zum letzten Zeitpunkt passiert, wenn Sie das als Zeit deuten,
1 bis N.
Das ist also durchaus überraschend.
Ich bekomme hier die Fluktuation, sozusagen das Maximum der Sk-Betrag
in den Griff.
Nehmen Sie mal N gleich 1.
Was passiert denn bei N gleich 1?
Da haben Sie ein Summanden, haben Sie x1 minus E von x1.
Haben Sie kein Maximum mehr.
Dann steht da die Wahrscheinlichkeit x1 minus E von x1, Betrag größer
gleich Epsilon, kleiner oder gleich 1 durch Epsilon Quadrat mal
Varianz von x1 minus E von x1.
Aber die Varianz ist unbeeinflusst gegenüber Verschiebung, das ist die
Varianz von x1.
Sie haben die Chebyshev-Ungleichung.
Das bedeutet, diese Maximalungleichung ist eine erhebliche
Verschärfung der Chebyshev-Ungleichung.
Ist das klar geworden?
Für N gleich 1 haben Sie die Ungleichung, die wir schon kennen aus der
Einführungsvorlesung.
Sehen wir uns mal den Beweis an.
Erste Überlegung ist, ohne Beschränkung der Allgemeinheit können wir
annehmen, dass die Zufallswerten schon den Erwartungswert 0 haben.
Die Frage, warum, lässt sich schnell beantworten.
Nämlich, Sk ist eine Summe von Zufallsvarianten, die den
Erwartungswert 0 haben.
Das heißt, wir subtrahieren ja gerade den Erwartungswert.
Und die Varianz ist nicht beeinflusst von Verschiebungen.
So, aus dem Grunde können wir von vornherein annehmen, die
Erwartungswerte sind alle 0.
Wenn man sich das klar gemacht hat, kommt jetzt der entscheidende
Trick.
Ich definiere ein Ereignis AK
wie folgt.
Es sei das Ereignis, Sk-Betrag soll größer gleich Epsilon sein, aber
S1 -Betrag kleiner Epsilon, S2-Betrag kleiner Epsilon und so weiter
bis Sk-1-Betrag kleiner Epsilon.
Das kann ich machen für jedes K von 1 bis N.
Für K gleich 1 würde natürlich nur stehen S1-Betrag größer gleich
Epsilon, da fällt der Rest weg, weil es keine Indizes mehr gibt davor.
So, ich kann das Ereignis so beschreiben, Sk-Betrag größer gleich
Epsilon tritt erstmals zum Zeitpunkt K ein.
Also ich deute das wirklich als diskrete Zeitpunkte von 1 bis N.
Und Sie sehen, Sk-Betrag größer gleich Epsilon, aber bei den anderen
davor nicht.
Ich kann es so interpretieren.
Man sieht sofort, diese Ereignisse sind paarweise disjunkt
aufgrund der Definition.
Erstmalig zum Zeitpunkt K habe ich Sk-Betrag größer gleich Epsilon.
Also ich habe paarweise disjunkte Ereignisse.
Das ist die erste Überlegung.
So, was habe ich noch?
Nun, die Vereinigung der Ereignisse, ich darf Summe schreiben, weil
die paarweise disjunkt sind, ist auf jeden Fall eine Teilmenge von
Omega.
Jetzt habe ich schon geschrieben, folgt.
Wir werden sehen, ob da was folgt.
Und was soll folgen?
Und die Varianz von Sn, da oben steht sie, drinnen auf der rechten
Seite.
Also um die Ungleichung zu beweisen, müsste ich versuchen, die Varianz
nach unten abzuschätzen.
Bringen Sie gedanklich das Epsilon-Quadrat drüber.
Ich müsste zeigen, Varianz von Sn ist größer gleich Epsilon-Quadrat
mal diese Wahrscheinlichkeit, die da steht.
Also sehen wir uns die Varianz von Sn an.
Nun, die Varianz von Sn ist der Erwartungswert von Sn-Quadrat.
Und zwar, weil der Erwartungswert von Sn Null ist.
Hier geht eben die Annahme rein, dass wir gesagt haben OBDA Null.
Erwartungswert von Sn ist Null.
Auch nach Konstruktion.
Also haben wir E von Sn-Quadrat.
Nun, ich könnte jetzt ran multiplizieren und dann nach unten
abschätzen.
Sn -Quadrat könnte ich noch ran multiplizieren mit diesem Indikator
der Vereinigung der Aj, die da paarweise disjunkt sind.
Aber das ist Summe der Indikatoren.
Ich weiß, Indikator A plus B ist Indikator A plus Indikator B, wenn
die Ereignisse disjunkt sind.
Also kann ich nach unten abschätzen und ich ziehe schon gleich die
Summe raus.
Summe K von 1 bis N.
Und jetzt steht da Erwartungswert von Sn-Quadrat mal Indikator Ak.
Denken Sie sich im Schritt davor den Erwartungswert nach vorne, die
Summe rein und Summe Indikator Ak ist Teilmenge von Omega.
Ist kleiner gleich 1, weil die Summe der Indikatoren der Ak, weil die
Vereinigung Teilmenge von Omega ist.
Also habe ich das.
Okay, was nützt mir das?
Nun, ich mache mal weiter.
Summe K von 1 bis N.
Und was ich jetzt mache ist folgendes.
Sie sehen, ich schreibe nicht Sn, sondern ich schreibe Sk.
Ich mache das jetzt so, ich muss das rückgängig machen.
Ich schreibe plus Sn minus Sk.
Jetzt habe ich das Sk wieder erwischt.
Zum Quadrat, das ist das gleiche wie Sn-Quadrat.
Sk plus Sn minus Sk.
Das Ganze dann in Klammern zum Quadrat.
Da hebt sich das Sk weg.
Mal Indikator Ak.
Okay.
Der nächste Schritt ist der, ich verwende für dieses Quadrat, da steht
ja a plus b in Klammern zum Quadrat, verwende ich die binomische
Formel.
a Quadrat plus 2ab plus b Quadrat.
Ich schätze aber gleich nach unten ab, größer gleich.
Nehmen wir mal das erste.
Das wäre Summe K von 1 bis N.
Und jetzt habe ich den Erwartungswert von Sk Quadrat mal Indikator
plus 2 mal Sk mal Sn minus Sk.
Schreibe jetzt mal Indikator.
Was habe ich weggelassen?
Ich habe von der binomischen Formel was weggelassen, nämlich Sn minus
Sk zum Quadrat mal Indikator.
Aber das ist größer gleich 0.
Der Erwartungswert von etwas, was größer gleich 0 ist, ist größer
gleich 0.
Ich habe nach unten abgeschätzt.
Ich habe den dritten Term weggelassen in der binomischen Formel.
Jetzt sehen wir uns an, was wir hier erreicht haben.
Nun, das ist Summe K von 1 bis N.
Dann haben wir erstmal Erwartungswert Sk Quadrat mal diesen Indikator.
Und dann kann ich den Faktor 2 rausziehen plus 2 mal Summe K von 1 bis
N.
Und dann haben wir den Erwartungswert von Sk mal Sn minus Sk mal
Indikator Ak.
Da haben wir jetzt eine untere Schranke erreicht.
Wir werden also sehen, dass der zweite Term, der da steht, 0 ist.
Das wird also noch erheblich verallgemeinert, vereinfacht und dann
sind wir gleich fertig.
So, sehen wir uns das an.
Ich habe das als Memo nochmal aufgeschrieben.
Unabhängige Zufallsvariablen.
Zweite Momente existieren und Erwartungswert haben wir gesehen.
OBDA gleich 0.
Zu zeigen, das müssen wir zeigen, diese Wahrscheinlichkeit, dass das
Maximum der Sk-Betrag über K von 1 bis N größer gleich Epsilon ist.
Höchstens Varianz durch Epsilon Quadrat und das haben wir schon
gezeigt.
Erstmal haben wir definiert, Ereignisse Ak in dieser Weise.
Erstmalig zum Zeitpunkt K ist Sk-Betrag immer größer gleich Epsilon
und die Vereinigung dieser Aks ist eine Teilmenge von Omega und
bislang haben wir gezeigt und da schreibe ich jetzt nochmal hin, diese
Varianz ist größer oder gleich dieser Summe plus dieser Summe.
Das ist also das Ergebnis bisher.
Ich habe nochmal zusammengefasst, was wir bislang haben.
Aber wir sind jetzt auch im Wesentlichen fertig.
Schauen Sie sich das erste an.
Das kann ich nach unten abschätzen.
Nämlich dort ist ein Erwartungswert der integriert wird nur über die
Menge Ak.
Sie sehen aber auf der Menge Ak ist Sk-Betrag größer gleich Epsilon.
Nach Definition von Ak.
Das bedeutet, da steht Sk Quadrat.
Auf dieser Menge ist Sk Quadrat größer gleich Epsilon Quadrat.
Ich kann also nach unten abschätzen.
Epsilon Quadrat und da muss ich nur noch integrieren über den
Indikator Ak.
Das ist aber die Wahrscheinlichkeit von Ak.
Das ist der Erwartungswert.
Also ist das erste größer gleich Epsilon Quadrat mal die
Wahrscheinlichkeit von Ak.
So, was ist bei diesem zweiten Summan?
Da hinten, da achte.
Sehen wir uns den mal an.
Nun, was ist Sn minus Sk?
Nun, Sn ist die Summe der xj von 1 bis n.
Sk ist die Summe der xj von 1 bis k.
Wenn ich die voneinander abziehe, bleibt über die Summe der xj von k
plus 1 bis n.
Also das ist nur eine Funktion von xk plus 1 bis xn.
Im Skriptum habe ich es ein bisschen anders formuliert.
Wir werden später sehen, dass diese Formulierung auf das gleiche
rauskommt.
Also das ist nichts anderes als eine Funktion von xk plus 1 bis xn.
Einfach die Summe.
Ich könnte die Funktion sogar hinschreiben.
Ich brauche das F.
Aber nicht konkret.
Das ist scheinbar nur eine Funktion von x1 von xk plus 1 bis xn.
Was ist denn das andere?
Was ist denn Sk mal Indikator ak?
Was steckt in dem Sk drin?
Sk ist die Summe der xj von 1 bis k.
Und in dem Indikator ak da stehen nur drin, schaut sich die Definition
an, da steht nur drin Sk, das beinhaltet die xj von 1 bis k.
S1 beinhaltet nur x1.
S2 beinhaltet nur x1 und x2.
xk minus 1 nur x1 bis xk minus 1.
Das bedeutet, dieses Produkt ist nur eine Funktion der anderen xn, das
irgendeine, nenne ich jetzt mal g, von x1 bis xk.
Das entscheidende ist, alle xn waren unabhängig und jetzt haben wir
ein Blockungslemma und das Blockungslemma besagt, wenn ich die
aufspalte in x1 bis xk und den Rest und schalte eine Funktion f auf
den Rest und eine Funktion g auf den Anfang x1 bis xk, dann sind die
stochastisch unabhängig.
So, das bedeutet sn minus sk und sk mal Indikator ak sind stochastisch
unabhängig.
Hier steht da oben, ich brauche den Erwartungswert des Produktes sn
minus sk mal, da haben wir gesehen, wenn wir die unabhängig sind, ist
der Erwartungswert des Produktes Produkt der Erwartungswerte.
Das war die wichtige Multiplikationsregel für Erwartungswerte.
Also, das sagt mir das Blockungslemma, dieser Erwartungswert ist
nichts anderes als der Erwartungswert von sn minus sk mal
Erwartungswert sk mal Indikator ak.
So, der erste Erwartungswert, der ist 0.
Der Erwartungswert von sn ist 0, die einzelnen Summanden haben den
Erwartungswert 0 zentriert und sk auch.
Das heißt, hier kommt 0 raus.
So, das bedeutet, der Rattenschwanz dort mit dem Faktor 2 fällt
komplett weg.
Und wir erhalten die Varianz von sn, jetzt sehen Sie noch diese
Abschätzung mit dem Epsilon-Quadrat größer oder gleich Epsilon-Quadrat
mal Summe der p von ak.
Die ak sind das jüngste Ereignis, also paarweise des jüngst.
Und die Summe der Wahrscheinlichkeiten ist natürlich die
Wahrscheinlichkeit der Vereinigung der ak.
Aber jetzt schauen Sie sich mal das Ereignis ak an.
Und wenn Sie die alle vereinigen, dann ist das nichts anderes als
unser Ereignis, dass das Maximum der sk Betrag größer gleich epsilon
ist.
Sie zerlegen das Ereignis danach, bei welchem Zeitpunkt erstmalig,
erstmalig sk Betrag größer gleich epsilon ist.
Das bedeutet, diese Wahrscheinlichkeit ist nichts anderes als die
Wahrscheinlichkeit Maximum sk Betrag größer gleich epsilon.
Und das wollten wir zeigen.
Und bringen wir wieder Epsilon-Quadrat auf die andere Seite, dann
haben wir genau die Ungleichung.
Also hier haben wir wirklich eine wichtige Ungleichung von Kolmogorov,
Wiesn, die werden wir später dann auch nochmal anwenden.
Maximalungleichung.
Wichtige Botschaft war, machen Sie sich klar, ist eine Verschärfung
der Chebyschev- Ungleichung.
Machen Sie sich auch die Bedeutung klar, dass wir über eine
stochastische Folge, Sie können das einem diskreten stochastischen
Prozess ansehen, über Zeitpunkte von 1 bis n.
Und Sie haben sozusagen dessen maximale Fluktuation im Sinne von die
Beträge alle im Griff, im Sinne von der Ungleichung über die
Wahrscheinlichkeit, dass das Maximum dieser Beträge, größer gleich
Epsilon, ist nur aufgrund der Varianz des letzten Summan, ganz am
Ende, Zeitend.
Diese Varianz liefert Ihnen natürlich dann auch mit 1 durch Epsilon
-Quadrat eine obere Schranke.
Hier geht natürlich die Unabhängigkeit gegen entscheidend ein.
Okay.
Um jetzt weiterzumachen, benötigen wir zwei Lemmata.
Das sind reine analytische Lemmata, die werden Sie aber garantiert
nicht in der Analyse 1 gehabt haben.
Das eine ist das Lemma von Chizau, das besagt folgendes.
Sie haben Folgen reeller Zahlen, a n nennen wir die eine, b n nennen
wir die andere.
Sie wissen, die eine Folge konvergiert, b n konvergiert gegen b.
Und bei der anderen Folge wissen Sie, diese Folgen sind alle strikt
positiv, a n größer 0 und Sie wissen auch noch, a n, a n kleiner
gleich a n plus 1 für jedes n und der Limes der n ist unendlich.
Das meine ich mit a n Pfeil nach oben unendlich.
Konvergiert von unten, monoton.
Gegen unendlich oder divergiert.
Das ist also die Voraussetzung.
So, dann gilt, jetzt setzen wir a 0 und b 0 noch als 0 an.
Dann gilt folgendes, Limes 1 durch a n, jetzt sehen Sie Summe j von 1
bis n, a j minus a j minus 1 in Klammern mal b j minus 1 ist auch b.
So, das bedeutet, diese Folge hat dann den gleichen Grenzwert wie die
Folge b n.
So, ich kann jetzt in den Gesichtern nicht erkennen, dass das bekannt
wäre.
Also sehen wir uns das mal kurz an.
Das ist aber gar nicht schwer zu beweisen.
Beweis, erstmal nutzen wir aus, dass b n gegen b konvergiert.
Was bedeutet das?
Zu jedem positiven Epsilon, lassen wir dann fest, später lassen wir
Epsilon gegen 0 gehen von oben, gibt es ein K, ein Index K, der hängt
von Epsilon ab.
Mit folgender Eigenschaft, b minus Epsilon, kleiner oder gleich b j,
kleiner gleich b plus Epsilon für jedes genügend große j, sagen wir j
größer gleich K.
Ich nenne diese Umgleichung mal, die Umgleichung hier 4 1.
Das heißt einfach nur Konvergenz von b n gegen b.
Gut.
Jetzt sehen wir uns an, ich definiere mal als c n das Wort, was dort
oben hinter dem Limit steht.
Also 1 durch n mal Summe j von 1 bis n aj minus aj minus 1 in Klammern
mal b j minus.
Also ich muss zeigen, c n soll auch gegen b konvergieren.
Das ist das, was gefordert wird.
Nun sehen wir uns das mal an.
Ich wähle mal n größer als K, erstmal K und n fest und mache
folgendes, ich spalte das Ganze hier auf.
Ich schreibe erstmal c n gleich, 1 durch a n und jetzt diese Summe,
die da von 1 bis n geht, lasse ich erstmal nur von 1 bis K laufen.
Schreibe das hin und dann kommt der Rest.
Das heißt, ich habe hier 1 durch a n und jetzt kommt die Summe j von K
plus 1 bis n.
aj minus aj minus 1 mal b j minus 1.
Und K ist fest.
Jetzt passiert folgendes.
Sehen wir uns drei Terme an.
Hier links und da.
So, das erste.
K ist fest, das ist wichtig.
Jetzt lassen wir n gegen unendlich gehen.
Das Entscheidende ist, wir haben hier eine endliche Summe j von 1 bis
K, aber wir haben den Vorfaktor 1 durch a n.
Oben ist die Voraussetzung a n.
Divergiert die Folge.
Also, da steht 1 durch a n.
Das konvergiert gegen 0 für n gegen unendlich.
Das steht auf der rechten Seite.
Stellen Sie sich vor, Sie hätten das b j minus 1 nicht oder es wäre
eine Konstante.
Betrachten Sie nur mal diese erste Summe, dann ist das eine
Teleskopsumme.
aj minus aj minus 1.
Wenn Sie die aufsummieren, von j von K plus 1 bis n, dann bleibt über
a n minus a K.
Nur diese Summe.
Das Entscheidende ist aber, dass b j minus 1, jetzt sehen Sie, j läuft
von K plus 1 bis n.
j minus 1 ist größer gleich K.
Schauen Sie in die Ungleichung 4.1.
4.1 besagt, naja, wenn j größer gleich K ist, ist das b j immer
abschätzbar nach oben durch b plus y.
Also haben wir, das ist kleiner gleich b plus y.
Jetzt schätzen wir nach oben ab.
Wir sehen, bei der Summe können wir immer das b j durch b plus y
abschätzen.
Also ist die Summe wirklich nur noch a n minus a K.
So, jetzt mal bei n gegen unendlich.
Was bedeutet das?
Limes superior c n.
Und c n war hier dazu aufgespalten.
Der erste Summand geht gegen 0.
Also Limes superior c n ist kleiner oder gleich, wir schätzen mal nach
oben ab, b plus y.
Warum?
Nun, b plus y ist hinten die obere Schanke.
Was macht denn a n minus a K dividiert durch a n?
Nun, a n durch a n ist 1.
Minus a K, K ist fest, durch a n geht gegen 0, weil a n unendlich
geht.
Das bedeutet a n minus a K durch a n geht gegen 1.
Also habe ich hier wirklich der Limes superior, der von c n ist
höchstens b plus y und das y war beliebig positiv.
Damit ist der Limes superior der c n kleiner gleich b.
Wir haben jetzt in 4.1 nur diese obere Schanke ausgenutzt, die da
steht.
Man sieht unschwer, wenn ich die untere Schanke ausnutzen würde,
erhalte ich völlig analog, dass der Limes inferior der c n größer
gleich b ist.
Ich kann mit dem gleichen Gleichheitszeichen starten.
Da habe ich nur die letzte Summe abgeschätzt nach unten.
Da steht b minus y.
Und damit ist natürlich der Limes der c n gleich b und das war zu
zeigen.
Also sehr einfaches Lemma eigentlich aus der Analyse.
Es hätte dort eine Übungsaufgabe sein können, aber war mit ziemlicher
Sicherheit keine Übungsaufgabe.
So, sehen wir uns ein zweites Lemma an.
Das ist das Lemma von Kronecker.
Was besagt das Lemma von Kronecker?
Ich habe wieder reelle Fäulen, ich nenne sie mal x n und a n.
Jetzt weiß ich wieder, a n ist strikt positiv und a n wie eben
konvergiert, in diesem Sinne monoton gegen unendlich, a n kleiner
gleich a n plus 1 für jedes n und Limes a n ist unendlich.
Dann gilt, wenn diese Reihe konvergiert, Sie sehen Summe x j durch a
j, wenn die konvergent ist, dann wird behauptet, dass der Limes 1
durch a n mal Summe der x j, j von 1 bis n, null ist.
Auch rein analytisch, wir werden dieses zurückführen auf das Lemma von
Cesaro, was wir eben hatten.
So, wie folgt.
Beweis.
Und ich definiere mal b n als Summe dieser x j durch a j, j von 1 bis
n.
Schauen Sie in die Voraussetzung, da steht nichts anderes, die Reihe
konvergiert heißt, die Folge b n konvergiert.
Das ist meine Voraussetzung.
b null setze ich mal null.
Die Voraussetzung besagt, naja, es existiert ein b derart, dass b n
gegen b konvergiert.
Da steht dann nur die Reihe konvergiert.
Das ist meine Voraussetzung.
Das ist schon so formuliert, das war eine der Voraussetzungen im Lemma
von Cesaro.
b n konvergiert gegen b und ich habe eine positive Folge a n, die
monoton gegen unendlich geht.
Das waren da die Voraussetzungen.
Sehen wir uns an, was ist denn b n minus b n minus 1?
Sie sehen, b n ist so eine Summe, j von 1 bis n der x j durch a j b n
minus 1.
Die gleiche Summe, da geht j nur von 1 bis n minus 1.
Was überbleibt bei der Subtraktion ist x n durch a n.
Was ich mache, ich löse diese Gleichung nach x n auf, aber ich
schreibe nicht n, ich schreibe jetzt j.
Ich ändere den Index.
Also das bedeutet, x j ist gleich, wir sehen, ich muss das a n, da
steht jetzt auch für n wieder j, rüberbringen.
Das heißt, x j ist nichts anderes als a j mal b j minus b j minus 1.
Das ist das x j.
Okay.
Das kann ich weiterschließen.
Nun, ich betrachte mal die Summe der x j.
Denn die Summe der x j tritt ja dort auf der rechten Seite, da steht
das so, folgt Line ist 1 durch a n mal Summe der x j.
Also die Summe der x j muss ich irgendwie jetzt in den Griff bekommen.
Nun, was ist das?
Die Summe der x j ist die Summe, ich habe nur für x j eingesetzt, a j
mal, Klammer auf, b j minus b j minus 1.
Und jetzt kommt eine kleine Darstellung.
Ich behaupte, das ist erstmal a n mal b n.
Sie sehen a n mal b n.
Nun, das sehen Sie natürlich, vorne steht a j mal b j und wenn Sie j
gleich n einsetzen, dann haben Sie a n mal b n, das steckt da drin.
Aber ich behaupte, da wird auch noch was abgezogen, minus a j minus a
j minus 1 b j minus 1.
So können wir das irgendwie wiederentdecken.
Nun, das Entscheidende ist, wenn Sie sich ansehen, auf der rechten
Seite steht a n mal b n, links steht aber die gesamte Summe a j mal b
j, von 1 bis n.
Ich müsste also die andere Summe auch entdecken auf der rechten Seite.
Und auf der rechten Seite haben Sie hier ein Minuszeichen, haben Sie
noch ein Minuszeichen und dann haben Sie a j minus 1 mal b j minus 1.
Minus, ein Minus ist Plus.
Und Sie sehen, wenn Sie j von 1 bis n summieren, dann haben Sie genau
das, was links fehlt, nämlich die Summe j von 1 bis n minus 1 der a j
mal b j.
Die haben Sie auch.
Was haben wir denn links noch?
Links haben wir stehen a j mal b j minus 1 mit einem Minuszeichen.
Finden wir das auch rechts?
Naja, gut.
Sie sehen, das erste Minuszeichen, das haben wir hier.
Das haben wir da.
Und dann haben Sie natürlich hier das a j mal b minus 1, haben Sie
hier das a j und da haben Sie auch das b j minus 1.
Das heißt, Sie finden wirklich alles wieder auf der rechten Seite.
Das Identische.
Okay.
So, sehen wir uns an.
Nochmal das Memo.
Jetzt kommt das Memo vom Lemma von Cesaro.
Also da war die Voraussetzung b n, wenn b n gegen b konvergiert.
Und eine positive Folge a n ist, die monoton gegen unendlich
konvergiert, dann haben wir, können wir schließen, dass 1 durch n mal
Summe j von 1 bis n a j minus a j minus 1 mal b j minus 1 auch gegen b
konvergiert.
Jetzt schauen Sie sich an, was wir hier da oben stehen.
Da haben wir die Zeile drüber.
Summe x j.
Da oben müssen wir Summe x j bilden und durch a n teilen.
Das muss gegen 0 gehen.
Teilen wir doch mal die Summe der x j durch a n.
Und wenn wir das durch a n teilen, da steht Summe x j, schauen Sie
sich die rechte Seite an.
a n mal b n minus was.
Wenn wir durch a n teilen, dann steht auf der rechten Seite erstmal b
n.
Okay.
Und wir wissen, b n konvergiert gegen b.
Das war die Voraussetzung hier.
Und dann minus und dann haben wir 1 durch a n mal diese Summe.
Aber nach diesem Memo unten konvergiert gerade 1 durch a n mal diese
Summe auch gegen b.
Also haben wir b minus b und das ist 0.
Und da oben sollte das auch rauskommen.
So, das bedeutet, wir machen einfach nur Folgendes.
Wir teilen durch a n und wenden an, was wir eben haben, das Lemma von
Cesaro und erhalten hiermit sofort die Behauptung und sind dann
fertig.
Also Lemma von Kronecker.
Also zwei rein analytische Lemmata.
Aber die werden vielleicht sehr gut gebraucht können, wenn wir das
starke Gesetz der großen Zahlen beweisen.
Okay.
Ich möchte Ihnen hier noch ein Kriterium vorstellen von Kolmogorov.
Wir können den Beweis beginnen.
Das Kriterium besagt, ein wichtiges Kriterium.
Ich habe eine Folge unabhängiger Zufallsvariante.
Wenn Sie das sehen, kommt jetzt nichts weiter.
Heißt das immer, die müssen nicht notwendig identisch verteilt sein.
Nur Unabhängigkeit.
So, was haben wir noch?
Ich fordere aber, dass zweite Momente existieren.
E von xn² soll endlich sein, für jedes n größer gleich 1.
Damit existieren auch die Varianzen.
Jetzt setze ich folgendes voraus, gilt oder jetzt kommt erstmal die
Voraussetzung, gilt für eine Folge an positiver, reeller Zahlen, die
dann wieder gegen unendlich konvergiert monoton, folgende Aussage,
Summe der Varianzen der xn dividiert durch an² diese Reihe
konvergiert.
So mit anderen Worten, die Varianzen gehen hinreichend schnell gegen 0
in Bezug auf die Folge an, die dort quadratisch eingeht im Nenner.
Wichtiger Spezialfall ist an gleich n.
Ist aber nur ein Spezialfall.
Konvergenz.
So folgt, wir sehen 1 durch an und jetzt kommt die Partialsumme und
zwar zentriert, Summe j von 1 bis n, xj minus Erwartungswert von xj.
Das konvergiert gegen 0 mit Wahrscheinlichkeit 1.
Sie sehen, Sie haben ein hinreichendes Kriterium für diese fast
sichere Konvergenz.
Nochmal, der wichtigste Spezialfall wäre an gleich n.
Aber wir haben hier ein allgemeineres Resultat, was sozusagen in
gewissen Fällen auch sieht, es sind andere
Konvergenzgeschwindigkeiten.
Es muss nicht immer was mit 1 durch n sein.
Aber wenn wir an unser Gesetz großer Zahlen denken, dann will man
natürlich sofort sagen, okay, das ist jetzt eine schöne hinreichende
Bedingung, wenn die Varianzen dann hinreichend schnell gegen 0 gehen,
aber ich habe ja im Gesetz großer Zahlen von Konvergenz noch keine
Varianz.
Ich muss also irgendwie sehen, wie kann ich das überhaupt anwenden.
Also das ist erst mal das Resultat.
Die zentrierten Partialsummen, dividiert durch an, konvergieren fast
sicher gegen 0.
Schauen wir uns mal den Anfang des Beweises an.
Ich könnte auch hier sofort sagen, ich kann OBDA voraussetzen,
Erwartungswerte sind 0.
Das habe ich jetzt hier in der Notation gar nicht angedeutet.
Ich führe mal Zufallsvarianten 1, y, j, die seien nichts anderes als
diese zentrierten x, j.
x, j minus Erwartungswert von x, j, dividiert durch aj.
Diese Zufallsvariante.
Das mache ich mal von j von 1 bis n.
Sie sollten erkennen, das y, j ist nur eine Funktion von x, j.
Auch die y, j sind stochastisch unabhängig.
Ich habe unabhängige Zufallsvariante.
Jetzt mache ich folgendes.
Ich betrachte auch die Summen jetzt dieser y, j und ich möchte gerne
die Maximalungleichung von Kolmogorov anwenden.
Das ist jetzt das Ziel.
Die wende ich jetzt an und das ist der Trick.
Ich setze noch s0 gleich 0.
Ich nehme zwei Zahlen m und k her.
m größer k und die nehme ich erstmal fest.
Die wähle ich fest.
Und jetzt wende ich die Maximalungleichung von Kolmogorov an auf
folgende Zufallsvariante auf y, k plus 1 bis y, m wende ich die an.
Das heißt, ich beginne bei der Zeit bei k plus 1.
Aber die Maximalungleichung besagte ja nur, ich muss irgendwelche
unabhängigen Zufallsvarianten haben und dann brauche ich Maxima von
Beträgen von solchen Partialsummen.
Was liefert die Ungleichung?
Die liefert die Wahrscheinlichkeit.
Jetzt sehen Sie, Maximum, das läuft jetzt über n und zwar n von k bis
m.
Das steht jetzt nicht von 1 bis irgendwo hin, sondern nur von k bis m.
Das ist der einzige Unterschied.
Jetzt sehen Sie hier aber auch, ich habe schon sk abgezogen.
Das bedeutet, für n gleich k steht da sk minus sk, das ist 0.
Und das Nächste wäre wirklich sk plus 1 minus sk.
Da habe ich nur einen einzigen Summanden drin.
y, k plus 1.
Das Nächste wäre sk plus 2 minus sk.
Da habe ich y, 1 plus y, 2 drin.
Entschuldigung.
y, k plus 1 und y, k plus 2 drin.
Das heißt, diese Abschätzung liefert, na, was war die obere Schranke?
1 durch y Quadrat.
Und jetzt habe ich die Varianz, und zwar muss ich jetzt den letzten
Zeitpunkt betrachten, der ist hier m.
Das heißt, ich habe die Varianz von sm minus sk.
Das ist die obere Schranke.
Ich habe einfach die Umgleichung angewandt auf y, k plus 1 bis y, m.
Ich habe hier eine obere Schranke und die kann ich direkt ausrechnen.
Da stecken drin y, k plus 1 bis y, m und die Varianz ist additiv, weil
die unabhängig sind, also ist das nichts anderes als Summe der
Varianzen der y, n.
n von k plus 1 bis k plus 1 bis m.
Jetzt im zweiten Schritt lasse ich m gegen unendlich gehen.
Dann habe ich hier eine aufsteigende Ereignisfolge.
Da muss ich Maximum durch Supremum ersetzen auf der linken Seite.
Das heißt, ich habe die Wahrscheinlichkeit Supremum, dann ist nur noch
ein n über n wird das gebildet, n größer gleich k, sn minus sk betrag
größer gleich y und auf der rechten Seite muss ich auch m gegen
unendlich gehen lassen.
Das heißt, ich habe das.
Da ist das m.
Dann durch unendlich ersetzt worden.
Jetzt sehen Sie sich noch an, die Summe der Varianzen der y, n bei den
y, n sehen Sie natürlich immer y, j ist definiert, da steht das aj im
Nenner.
Das heißt, da haben Sie genau das aj Quadrat.
Jetzt schauen Sie sich die Reihenbedingungen an, Konvergenz.
Diese Reihe konvergiert und für k gegen unendlich muss dann dieses n
Stück der konvergenten Reihe gegen 0 gehen.
Das heißt, Sie erhalten, das ist die Voraussetzung, die Summe der
Varianzen ist endlich nach Definition dieser von y, n.
Das ist xn minus e von xn durch an.
Da kommt an Quadrat in den Nenner.
Und aus dem Grunde kann ich schließen, die Wahrscheinlichkeit, das
Supremum hier konvergiert stochastisch gegen 0 für k gegen unendlich.
Denn die Wahrscheinlichkeit, dass hier das Supremum größer gleich
epsilon ist, für k gegen unendlich konvergiert die rechte Seite gegen
0 und das ist stochastische Konvergenz gegen 0.
Das Entscheidende ist, das war eine Zufallsvariante, die heißt hier
eben nur Supremum n größer gleich k.
In Abhängigkeit von k habe ich stochastische Konvergenz gegen 0.
Also das ist hier der erste Ausgangspunkt, dass ich das habe.
Ich möchte jetzt aber im Grunde noch auf mehr schließen, muss noch ein
bisschen überlegen und werde dann wirklich rausbekommen.
Ich komme auf eine Cauchy-Folgen-Eigenschaft, aber das machen wir
heute nicht mehr.
Ich werde das dann noch sinnvoll zusammenfassen beim nächsten Mal und
dann machen wir dann in der nächsten Woche den Beweis weiter.
Ich bedanke mich erstmal ganz herzlich für die Aufmerksamkeit.
Schließe dann die heutige Stunde.
Soweit ich jetzt weiß, ist am Mittwoch Übung.
Am nächsten Montag dürfen wir alle feiern und am nächsten Mittwoch ist
dann wieder Vorlesung.
Das heißt, wir sehen uns erst heute in neun Tagen.
Da kann man viel vergessen.
Das ist alles erlaubt.
Ich versuche dann eben, möglichst kompakt uns wieder auf den Stand zu
bringen, dass wir an dieser Stelle dann weitermachen können.
Dankeschön.