Das Hauptthema war eine generierende Funktion.
Wir definieren die generierende Funktion einer Sequenz von echten
Zahlen, die Sequenz A genannt wird, als Power-Serie.
Sie sehen, dass die Funktion G, indexiert durch A, eine formelle Power
-Serie ist.
Die Koeffizienten sind die Elemente der Sequenz.
Und wir betrachten, dass diese Power-Serie eine positive
Konvergenzradius hat.
Das bedeutet, dass das Modul T weniger als T0 ist, das positiv ist,
aber vielleicht infinitiv.
Das ist unsere Definition einer generierenden Funktion einer Sequenz
A.
Dann verwenden wir das zu der berühmten Sequenz von Fibonacci-Nummern,
die von zwei Initialbedingungen definiert wird.
Also A0, A1 ist 1.
Und dann gibt es eine rückwärtsgelegte Equation.
An ist die Summe der beiden vorliegenden Elemente.
An-1 plus An-2.
Und dann sahen wir, dass wir eine explizite Ausdruckung für diese
generierende Funktion in Bezug auf eine Ratio generieren können.
Und wenn Sie sich den Polynomial im Denominator anschauen, finden Sie
die Gründe, die 0s, und machen eine Partikel-Fraktion-Dekomposition.
Und dann benutzen Sie die geometrische Serie, und Sie bekommen eine
explizite Ausdruckung für diese Fibonacci-Nummern.
Dann definieren wir die generierende Funktion einer nicht-negativen
Integerwerte, einer randomen Variante X.
Und das ist nichts anderes als diese Power-Serie.
Also ist jetzt der Index die randome Variante X.
Und jetzt sind die Koeffiziente die Wahrscheinlichkeiten, dass X eine
K -Werte nimmt.
Natürlich ist die Radius der Konvergenz mindestens 1, weil wenn Sie 1
einsetzen, ist es die Summe der Wahrscheinlichkeiten, die 1 ist.
Das ist eine wichtige Äquation, also durch die sogenannte
Repräsentationsformel für Erwartungen oder Funktionen von randomen
Varianten.
Das ist nichts anderes als die Erwartung von T zu der Kraft X.
Wir haben das Unikens-Theorem.
Also sind die beiden generierenden Funktionen gleich, also koennen
sie, wenn und nur wenn die Distributionen gleich sind.
Das folgt also von dem Unikens-Theorem der Power-Serie.
Dann haben wir diese Multiplikation, die Regel der Multiplikation,
wenn Sie unabhängige randome Varianten haben.
Die generierende Funktion der Summe ist das Produkt, das Produkt der
jeweiligen generierenden Funktionen.
Das folgt also sofort von dieser Repräsentation von Erwartungen T zu
der Kraft X.
Und letztlich gibt es eine Verbindung mit Momenten, generierenden
Funktionen und Momenten.
Sie sehen auf der linken Seite, das ist der sogenannte kth-faktoriale
Moment eines randomen Variablen X.
Und wenn er existiert, dann kann er auf der linken Grenze der kth
-Derivative der generierenden Funktionen auf 1 evaluiert werden.
Das folgt also von einem Theorem der Power-Serie aufgrund von Abel.
Abels Limit-Theorem der Power-Serie.
Das waren also die Hauptresultate der letzten Lesung.
Ich möchte das auch nochmal kurz wiederholen.
Sie sehen dort nochmal diese Darstellung.
Ich sage jetzt das Erte-Moment.
Das liegt einfach daran, dass man das Erte-Moment auf Englisch ganz
schwer aussprechen kann.
Das heißt, da bin ich eben zum Taten übergegangen.
Das lässt sich leichter sprechen als das Erte-Moment.
Können Sie selbst mal ausprobieren.
Okay, wir hatten schon gehabt, der Erwartungswert ist dann die erste
Ableitung, also immer linksseitig, wir müssen vorsichtig sein.
Das hier, das zweite Faktele-Moment, ist dann diese zweite Ableitung.
Und daraus können wir die Varianz ausrechnen.
Das haben wir schon gesehen.
Die Varianz ist nichts anderes als E von x² minus E von x in Klammern
zum Quadrat.
Und das kann man eben schreiben als E von x mal x minus 1.
Jetzt müssen wir E von x addieren.
Jetzt haben wir E von x².
Und jetzt subtrahieren wir E von x in Klammern zum Quadrat.
Und alle diese drei Ausdrücke können wir jetzt mit Hilfe der Ableitung
bestimmen.
Das heißt, das ist die zweite Ableitung plus die erste minus die erste
zum Quadrat.
Und wenn wir weitermachen wollen, können wir zum Beispiel das dritte
Faktele -Moment ausrechnen.
Und das wäre dann die dritte Ableitung an der Stelle 1.
In den Beispielen, die wir haben, haben wir wirklich
Differenzierbarkeit, sodass ich ab jetzt das linkseitige weglasse.
Machen wir ein sehr einfaches Beispiel.
Die Poissonverteilung.
Bei der Poissonverteilung, wenn so eine zufallsverjahende
Poissonverteilung hat, haben wir die erzeugende Funktion ausgerechnet.
Hat eine sehr einfache Gestalt.
Ich lasse das x weg.
Steht nur kurz g von t, damit wir uns Schreibaufwand sparen.
Also E hoch Lambda mal t minus 1 hier für jedes t aus R.
Überall differenzierbar.
Und wenn Sie sehen, die Ableitung der E-Funktion liefert die E
-Funktion selbst.
Aber bei jeder Ableitung kommt durch die innere Ableitung ein Faktor
Lambda nach vorn.
Sodass man sofort sieht, okay, wenn ich jetzt die Erteableitung bilde,
also hier ausführlich, die Erteableitung, dann kommt der Faktor Lambda
hoch R raus.
Ansonsten bleibt es die E-Funktion.
Und jetzt setzen wir t gleich 1 und haben sofort das Ertefaktor im
Moment.
Das heißt, wir haben dann, das ist nichts anderes als Lambda hoch R.
Für die Verteilung ist es besonders einfach.
Sodass wir jetzt speziell nochmal sehen, E von x, das hatten wir
früher natürlich auch schon, ist nichts anderes als Lambda.
Die Varianz sollte sich auch zu Lambda ergeben.
Wie erhalten wir das jetzt?
Nach der Gleichung dort oben.
Zweite Ableitung ist Lambda Quadrat.
Plus erste Ableitung ist Lambda.
Minus erste zum Quadrat.
Es bleibt Lambda über, wie es sein sollte.
Und wenn wir jetzt höhere Momente möchten, wenn wir zum Beispiel das
hier haben, ist nichts anderes als Lambda hoch 3.
Und Sie können natürlich das, was in der eckigen Klammer steht, jetzt
ausmultiplizieren.
Da steckt unter anderem x hoch 3 drin, wenn Sie multiplizieren und
nutzen die Additivität der Erwartungswertbildung aus.
So können Sie zum Beispiel auch, wenn Sie möchten, E von x hoch 3
ausrechnen.
Wenn Sie E von x hoch 4 wollen, müssen Sie nochmal differenzieren.
Das vierte faktuelle Moment ist eben Lambda hoch 4.
Und da steckt x hoch 4 drin.
Hier kann man also dann auch höhere Momente von solchen Verteilungen
bestimmen.
Gut, ja, ich möchte jetzt diesen Teil verlassen und möchte zunächst
eine Bemerkung vorausschicken.
Da fordere ich wieder ein oder ich hoffe auf ein wenig Kredit bei
Ihnen, nämlich Bemerkung unendlich viele unabhängige Zufallsvariablen.
Wir betrachten in Zukunft häufig unendlich viele stochastisch
unabhängige Zufallsvariablen auf einem Wahrscheinlichkeitsraum, nennen
wir sie y1, y2.
Erstmal muss ich definieren, wann sind unendlich viele
Zufallsvariablen unabhängig?
Das haben wir bislang nicht gehabt.
Nur die Definition ist ganz simpel.
Unendlich viele sind unabhängig, wenn jeweils endlich viele unabhängig
sind.
Ganz egal, welche ich rausgreife.
Das ist dann aber gleichbedeutend damit, dass für jedes n größer
gleich 2 y1 bis yn unabhängig sind.
Kann man sich leicht überlegen.
Das heißt, es wird immer auf den endlichen Fall zurückgespielt.
Wenn Sie sich jetzt erinnern, wir haben unabhängige Ereignisse
konstruiert in Produkträumen, in endlichen Produkträumen.
Das war so eine kanonische Konstruktion.
Man kann das machen, mathematisch, über unendliche Produkträume.
Das lernen wir später kennen.
Das kommt in der Wahrscheinlichkeitstheorie dann vor, in dieser
Vorlesung.
Das heißt, es gibt hinreichend reichhaltige Wahrscheinlichkeitsräume,
auf denen das möglich ist.
Aber das möchte ich jetzt nicht weiter thematisieren.
Sie müssen mir einfach glauben, dass das geht.
Unendlich viele unabhängige und die existieren im Allgemeinen,
insbesondere, wenn sie die gleiche Verteilung haben sollen, nicht mehr
auf diskreten Wahrscheinlichkeitsräumen.
Sie haben eine Übungsaufgabe gehabt, dass Sie gesehen haben, im
diskreten Wahrscheinlichkeitsraum gibt es keine Folge unabhängiger
Ereignisse mit gleicher Wahrscheinlichkeit ein Halb.
Das geht nicht mehr im diskreten Wahrscheinlichkeitsraum.
So unabhängige Ereignisse mit gleicher Wahrscheinlichkeit ein Halb ist
gleichbedeutend mit unabhängige Indikatorvariablen, die jeweils die
Werte 1 und 0 annehmen können, mit gleicher Wahrscheinlichkeit ein
Halb zu den Ereignissen.
Das heißt, wir haben sowas schon erkannt.
Diskrete Wahrscheinlichkeitsräume sind da etwas zu eng, zu schmal, um
das zu schaffen.
Aber wir müssen dann auch ein bisschen in die Maßtheorie einsteigen.
Sie lernen das im Augenblick in der Analyse 3.
Und wenn das neue Jahr beginnt, dann sind Sie weit genug, sodass wir
das dann machen können.
Dann lernen wir auch noch allgemeine Modelle kennen.
Also genaueres später.
Also, wir glauben jetzt, dass sowas existiert.
Und jetzt kommt nochmal der Begriff der randomisierten Summe.
Den haben wir schon mal gehabt.
Sie erinnern sich bei diesem Würfelwurf, wo die erste Augenzahl
bestimmt hat, wie viele weitere Würfe ich noch mache.
Da kam eine randomisierte Summe vor.
N, Sie sehen hier ein N.
Und dann habe ich eine Folge, x1, x2.
Das sind unabhängige, N-Nullwertige Zufallsvariablen.
Und ich definiere S0 als Null und definiere die Summe der ersten N,
wenn N größer gleich 1 ist, also hier als x1 plus xn.
Und dann mache ich folgendes.
Jetzt definiere ich ein S-Index N.
Und das wird die randomisierte Summe sein.
Und S-Index N ist definiert als die Summe der xj.
Und jetzt sehen Sie, der obere Summationsindex ist zufällig.
Der kann Null sein.
Wenn j von 1 bis 0 geht, dann habe ich die leere Summe, die ist als
Null definiert.
Das bedeutet, um es auszuschreiben, für ein kleinen Omega Sn von
kleinen Omega auf dem Wahrscheinlichkeitsraum ist nichts anderes als
diese Summe.
Sie sehen, j von 1 bis... Ah, der Zufall realisiert jetzt N von Omega
und dann habe ich noch die xj von Omega.
Wenn ich wüsste, dass die Zufallswahl N, dieses N, mit
Wahrscheinlichkeit 1 nur endlich viele Werte annimmt, dann brauche ich
auch nur endlich viele unabhängige Zufallswahlen.
Aber wir werden gleich ein Beispiel haben, da ist dieses N Poisson
verteilt.
Und wenn es Poisson verteilt ist, kann es mit positiver
Wahrscheinlichkeit und nimmt es sogar mit positiver
Wahrscheinlichkeit, blieb ich große Werte an.
Das ist jetzt der Unterschied zu dem Beispiel mit dem Würfelwurf, mit
der zufälligen Anzahl von Würfen, die ich mache.
Okay, das Sn nennt sich randomisierte Summe.
So heißt das, weil eben dort die Anzahl der Summanden zufällig ist.
Denken Sie zum Beispiel ans Versicherungswesen.
Die Anzahl der Schadensfälle in irgendeiner Sparte in einem Jahr ist
eine Zufallsvariable.
Aber die Schadenhöhen auch, sodass randomisierte Summen sofort bei
Versicherungen vorkommen.
Das könnte, interpretieren Sie das als Gesamtschadenshöhe, die
produziert wird.
In irgendeiner Sparte im Jahr ist eine randomisierte Summe.
Folgende Annahmen machen wir.
Diese x, j sind identisch verteilt.
Und wenn sie identisch verteilt sind, sie sind jetzt n-Nullwertig,
haben sie die gleiche erzeugende Funktion und die nennen wir g. Also g
von t ist der Erwartungswert t hoch x1.
Gleiche erzeugende Funktion.
Nun, die Zufallsvariable n hat natürlich auch eine erzeugende
Funktion, weil sie n-Nullwertig ist.
Da nehme ich jetzt mal einen ganz anderen Buchstaben, um mich da
abzusetzen.
Das sei jetzt f von t, sei die erzeugende Funktion von dem n.
Und jetzt dreht es sich darum, an die Verteilung zu kommen von dieser
randomisierten Summe.
Wir werden sehen, die erzeugende Funktion kann ich sofort angeben.
Und wenn ich die kenne, dann wissen wir im Prinzip, muss ich nur eine
Potenzreihenentwicklung machen, dann kann ich die Koeffizienten
ablesen.
Die geben die Verteilung an.
Die erzeugende Funktion dieser randomisierten Summe, also dieses g
index sn, jetzt schreibe ich mal die Zufallsvariable dran als Index,
ist nichts anderes als die Komposition von phi mit g. Also erst g von
t und dann phi von g von t.
Auf jeden Fall kann ich sagen, für t betracht kleiner gleich eins kann
ich das machen.
So, sehen wir uns an, warum das der Fall ist.
Und dann wenden wir das an auf ein instruktives Beispiel.
Das heißt, ich mache mal noch hier als Memo, wir haben also, das ist
die erzeugende Funktion von n, das ist die erzeugende Funktion von x1,
das ist die randomisierte Summe und das wäre die Anzahl, die Summe,
wenn n fest ist, feste Anzahl von Summen.
Okay, zweites Memo, was müssen wir zeigen?
Wir müssen zeigen, die erzeugende Funktion von sn, und jetzt schreibe
ich nochmal hin, was das ist, was war das nochmal?
Das ist die Potenzreihe Summe k von 0 bis unendlich, jetzt die
Wahrscheinlichkeit, dass sIndexN den Wert k annimmt mal t hoch k.
Wir müssen zeigen, dieser Ausdruck ist nichts anderes als phi von g
von t.
Das ist zu zeigen.
Aber nochmal zur Erinnerung, das ist die erzeugende Funktion von
sIndexN.
Jetzt kommt Folgendes, wir machen uns mal Gedanken, also nur darum
dreht es sich, wie kann ich diese Wahrscheinlichkeit sIndexN gleich k
ausdrücken?
Und Sie sehen, das Problem ist, hier steckt der Zufall in dem n und
dann nochmal in dieser Summe, der ist also doppelt drin, und es gibt
ein tolles Prinzip in der Stochastik, wenn zu viel Zufall da ist, dann
versuche ich sozusagen zu zerlegen, manchmal auch zu bedingen.
Also wenn ich wüsste, welchen Wert N annimmt, dann wäre ich vielleicht
ein Stück weiter.
Also zerlegen wir einfach dieses Ereignis danach, welchen Wert das N
annimmt, das sind die Werte klein n von 0 bis unendlich.
Das heißt, das ist nichts anderes, unsere
Wahrscheinlichkeitsverteilung ist sigma-additiv, nichts anderes als
die Wahrscheinlichkeit sN gleich k geschnitten mit N klein n.
Und das Schöne ist, das Schöne ist, was steckt da drin?
Das sind die Mengen aller kleinen Omegas mit sIndexN N von Omega ist k
und N von Omega ist n.
Das ist das gleiche Ereignis wie das, was daneben steht und Sie sehen,
was passiert ist.
Aus dem N hier ist ein n geworden.
Das ist interessant.
Da haben wir den N und da ist jetzt ein n draus geworden.
Gleiche Ereignisse.
Wenn ein Omega in der rechten Seite ist, dann ist N von Omega gleich
klein n und dann ist s klein n von Omega gleich k.
Wenn das dann auch noch ist, dann kann ich auch schließen, dass N von
Omega gleich klein n und sIndexN von Omega gleich k.
Wir müssen sehen, dass das gleiche Ereignisse sind.
Das Schöne ist, dass jetzt hier ein klein n steht und das s klein n
ist die Summe von x1 bis xn und hier steht das Ereignis N gleich k.
Das heißt, das Ereignis ist ein Ereignis, was durch N bestimmt wird.
Das ist ein Ereignis, was von x1 bis xn bestimmt wird und jetzt haben
wir Folgendes gehabt.
Alle Zufallsvariablen waren als unabhängig vorausgesetzt.
Und jetzt hatten wir ein berühmtes Blockungslemma und das
Blockungslemma sagt, okay, ich kann jetzt meine ganzen unabhängigen
Ereignisse in zwei Blöcke aufteilen.
Bei uns ist der erste Block nur das n.
Der zweite Block sind die x1 bis xn.
So, jetzt habe ich eine Funktion von x1 bis xn und ich habe das n.
Das heißt, es muss auch das N stochastisch unabhängig sein von x1 und
so weiter plus xn.
Sodass hier ich einen Schnitt von zwei Ereignissen habe, die
stochastisch unabhängig sind.
Das ist das Schöne.
Also kann ich Produkt der Wahrscheinlichkeiten schreiben.
Nun machen wir das malig.
Ich schreibe also Produkt der beiden Wahrscheinlichkeiten.
Ja, und das kann ich jetzt einsetzen.
Wir haben also nur diesen Ausdruck so geschrieben.
Wir setzen ihn jetzt da oben ein.
In das zweite Memo.
Das heißt, das ist nach dem Blockungslemma nochmal die Begründung, was
wir hatten.
Und jetzt kommt die Implikation.
Die erzeugende Funktion von diesem sn ist nichts anderes als, jetzt
kommt die Potenzreihe, und jetzt setze ich für diese
Wahrscheinlichkeit ein, die Memo steht, das, was wir jetzt haben,
diesen Ausdruck mal t hoch k.
Nur eingesetzt.
Jetzt müssen wir irgendwie weiterkommen.
Und wenn man Doppelsummen hat, dann kommt man meistens dann weiter,
wenn man die Summationsreihenfolge vertauscht.
Also was anderes bleibt einem kaum übrig.
Machen wir das.
Das heißt, wir summieren jetzt erst über n.
Und wenn wir nämlich über n summieren, dann sehen Sie jetzt in dieser
Summe dieser Faktor p von N gleich kleinen hängt nicht von k ab.
Den kann ich jetzt vor die Summe ziehen, die danach kommt, über k.
Das heißt, ich ziehe den mal raus, schreibe hier Wahrscheinlichkeit
groß n gleich klein n, und jetzt summiere ich über k.
Und dann bleibt das über.
Aber was dann steht, das ist eine Potenzreihe, Summe k von 0 bis
unendlich, Wahrscheinlichkeit, dass eine Zufallsvariable den Wert k
annimmt, mal t hoch k, das erinnert einen an die Definition der
erzeugenden Funktion.
Das hier ist nichts anderes als die erzeugende Funktion von Sn an der
Stelle t.
Und jetzt kommt das Schöne, Sn ist x1 plus plus xn und die sind alle
unabhängig.
Und wir haben gesehen, das gilt natürlich nicht nur für Zweisummern,
die erzeugende Funktion einer Summe von unabhängigen Zufallsvariablen
ist das Produkt der erzeugenden Funktion.
Also ist das das Produkt der erzeugenden Funktion von x1 und zwar n
mal mit sich selbst.
Die haben ja alle die gleiche erzeugende Funktion.
Also ist das nichts anderes als die erzeugende Funktion von x1 hoch n.
So, und was steht jetzt da?
Da steht Summe n von null bis unendlich.
Wahrscheinlichkeit, eine Zufallsvariable nimmt den Wert klein n an mal
ein z hoch n.
Z ist nur g von t.
Das ist nach Definition die erzeugende Funktion von diesem groß n an
der Stelle z.
Und z ist bei uns g von t.
Also ist das nichts anderes als phi von g von t.
Und das war alles.
Sie sehen ein sehr durchsichtiger Beweis.
Der entscheidende Punkt war nur, dass wir zerlegt haben nach den
Werten von N.
Wir wenden das Resultat jetzt einfach mal direkt an.
Radioaktives Präparat.
Jetzt wollen wir doch mal sehen, ob wir das hier irgendwie wieder
kriegen.
N sei die Anzahl der in einem Zeitintervall imitierten Teilchen.
Irgendein Zeitintervall.
Jetzt werden natürlich gewisse Annahmen gemacht.
Wir nehmen erst mal an als Modellannahme, dass N hat eine Poisson
-Verteilung mit Parameter Lambda.
Das bedeutet, theoretisch können in dem Zeitintervall beliebig viele
Teilchen imitiert werden, was natürlich physikalisch nicht möglich
ist.
Es ist eine Approximation, die wir machen.
Eine Modellapproximation.
Sie sollten sich auch immer klar machen, jedes Modell ist im Prinzip
falsch.
Es ist immer eine Approximation an die Wirklichkeit, mehr oder weniger
gut.
Die erzeugende Funktion von diesem N haben wir da oben.
E hoch Lambda mal T minus 1, die brauchen wir gleich.
So, was haben wir dann?
Ein Messgerät registriert jetzt jedes Teilchen unabhängig voneinander
mit gleicher Wahrscheinlichkeit P. Die wird im Allgemeinen groß sein,
aber es wird nicht immer jedes imitierte Teilchen registriert.
So, wir haben jetzt die Annahme gemacht, in dem, was wir davor hatten,
alles stochastisch unabhängig voneinander.
Auch darüber kann man diskutieren, aber die Annahme machen wir jetzt.
xj sei die Indikatorvariable, dass das j-Teilchen registriert wird.
Treffer, ja oder nein?
Wir sehen, wir haben ein Bernoulli-Experiment dann.
Das können wir machen, für jedes j größer gleich 1 und Sn, diese
randomisierte Summe, können Sie dann deuten als die Anzahl der
registrierten Teilchen.
Die Annahme ist jetzt, alle sind stochastisch unabhängig.
Jetzt können wir natürlich dann gleich das anwenden, was wir eben
hatten.
Und xj ist binomialverteilt, also Treffer, Niete mit 1 und p.
Und Sie sehen die, oben im Memo sehen Sie nochmal, was ist die
erzeugende Funktion g dieser Binomialverteilung mit n gleich 1 ist 1
minus p plus p mal t.
Und jetzt können wir einsetzen.
Das heißt, jetzt machen wir das, was wir eben haben, nach diesem Satz,
den wir gerade bewiesen haben, ist die erzeugende Funktion dieser
randomisierten Summe nichts anderes als phi von g von t.
phi haben wir da oben.
Das heißt, wir sehen e hoch lambda für das t muss ich jetzt g von t
minus 1 einsetzen.
Und jetzt setze ich ein, was g von t ist, nämlich dieses 1 minus p
plus p mal t.
Und wenn ich das mache, da hinten, dann sieht man, die Einsen heben
sich weg.
Vorne steht plus 1, hinten steht minus 1.
Und dann steht da noch pt minus p, da kann ich das p ausklammern und
nach vorne ziehen.
Und ich erhalte e hoch lambda p mal t minus 1.
Gut, aber die erzeugende Funktion vom Typ e hoch µ mal t minus 1 ist
die Poissonverteilung mit Parameter µ, Eindeutigkeitssatz.
Das heißt, wir sehen nach diesem Eindeutigkeitssatz und wie eben
Poissonverteilte Zufallszahlungen wie die erzeugenden Funktionen
aussehen, wir haben eine Poissonverteilung, die Anzahl der
registrierten Teilchen hat eine Poissonverteilung, die ist nur
ausgedünnt gegenüber vorher.
Vorher war noch der Erwartungswert lambda, jetzt ist er lambda p.
Aber wir bleiben hier im Bereich der Poissonverteilung.
Das kann man erheblich verallgemeinern.
Es gibt Bücher über Poissonprozesse und sowas nennt man dann eine
Ausdünnung, ganz allgemein.
Es gibt Poissonprozesse von geometrischen Objekten, geraden Ebenen und
das ist sozusagen hier nur das Phänomen mal gesehen in einem ganz
einfachen Beispiel.
Okay, ich möchte jetzt zu einem neuen Kapitel kommen.
Das Kapitel heißt Grenzwertsätze.
Was machen wir in diesem Kapitel?
Nun, wir behandeln erstmal ein schwaches Gesetz der großen Zahlen.
Nur das schwache Gesetz der großen Zahlen, wir werden sehen, das ist
ganz einfach zu beweisen.
Wenn Sie hören, schwaches Gesetz der großen Zahlen, werden Sie fragen,
gibt es nicht dann auch noch ein starkes Gesetz der großen Zahlen?
Das gibt es auch, aber das gibt es erst in der Vorlesung
Wahrscheinlichkeitstheorie.
Das beinhaltet dann das hier, aber der Aufwand ist etwas höher von der
Technik her, um das zu beweisen.
Liegt auch ein anderer Konvergenzbegriff darunter.
Wir werden gleich hier einen Konvergenzbegriff kennenlernen.
Wir behandeln auch noch zentrale Grenzwertsätze.
Da werde ich Ihnen klar machen, was abläuft.
Die beiden Sätze, die ich dann vorstelle, sind Spezialfälle eines
Satzes, der in der Wahrscheinlichkeitstheorie bewiesen wird.
Wir machen das hier im Zusammenhang mit diskreten Verteilungen.
Es wurde auch nach stetigen Verteilungen gefragt, die kommen dann nach
Weihnachten, wenn wir allgemeine Wahrscheinlichkeitsräume betrachten.
Also diese Resultate sind wirklich ganz wichtige Ergebnisse der
klassischen Wahrscheinlichkeitstheorie, haben viele Anwendungen,
insbesondere auch in der Statistik.
Wir werden also am Donnerstag beginnen mit Statistik.
Das ist hier wichtig.
Beide Resultate beziehen sich auf Summen von unabhängigen
Zufallsvariablen.
Und ich schreibe kurz xn quer für das arithmetische Mittel von n
Zufallsvariablen, x1 bis xn.
Das ist eine abkürzende Schreibweise, ähnlich wie wir das schon bei
der Datenanalyse gemacht haben, in Kapitel 1, bei der deskreptiven
Statistik.
Also schwaches Gesetz der großen Zahlen.
Was läuft da ab?
Nun, ich habe unabhängige Zufallsvariablen.
Die müssen nicht notwendig die gleiche Verteilung haben, aber ich
fordere, sie sollen den gleichen Erwartungswert haben, der muss also
existieren.
Und sie sollen auch noch die gleiche Varianz haben.
Die soll auch existieren.
Das ist die Voraussetzung, die ich mache.
Unabhängigkeit, gleicher Erwartungswert, gleiche Varianz.
Also insbesondere, wenn ich die gleiche Verteilung unterstelle, deren
Varianz existieren soll, ist das natürlich erfüllt, aber die gleiche
Verteilung brauchen wir gar nicht.
Werden wir jetzt sofort sehen.
So, dann wird folgendes behauptet.
Ganz egal, wie klein ein positives Epsilon ist, die
Wahrscheinlichkeit, dass sich das arithmetische Mittel von diesem
Erwartungswert µ betragsmäßig um mindestens Epsilon unterscheidet,
konvergiert gegen Null, für N gegen unendlich.
Das ist die Aussage des schwachen Gesetzes der großen Zahlen.
Also es hat was zu tun mit arithmetischen Mitteln auf lange Sicht,
großes N, und es hat was zu tun mit dem Erwartungswert.
Wenn Sie sich erinnern an dieses empirische Gesetz großer Zahlen, dann
schließt sich jetzt hier irgendwie der Kreis.
Wir haben jetzt mathematische Begriffe kennengelernt, wie
Unabhängigkeit, Erwartungswert, Varianz, und hier finden wir etwas
wieder, was wir aus der Erfahrung vielleicht schon mal kennengelernt
haben.
Der Beweis ist ganz simpel.
Der Beweis, Epsilon größer Null beliebig, okay.
Nun, ich rechne erstmal den Erwartungswert von X entquer aus.
X entquer ist ein arithmetisches Mittel, da weiß ich, ich darf einen
Faktor nach vorne ziehen, ich darf eine Summe nach vorne ziehen, und
schon erkennt man, der Faktor ist 1 durch N, die Summe darf ich auch
nach vorne ziehen, und dann habe ich immer den gleichen
Erwartungswert, E von XJ ist immer µ, also summiere ich N mal das µ
auf und teile durch N, und da kommt µ raus.
Das heißt, der Erwartungswert des arithmetischen Mittels ist µ.
Rechenregeln über Erwartungswerte.
So, was die Varianz des arithmetischen Mittels, die braucht man
nämlich jetzt, denn wenn µ der Erwartungswert X von X entquer, dann
habe ich hier eine Chebyshev-Ungleichung, die besagt, die
Wahrscheinlichkeit, Zufallsvariable minus Erwartungswert, betragsmäßig
größer gleich Epsilon, ist höchstens Varianz der Zufallsvariable, und
hier Varianz von X entquer, durch Y².
Das ist die Chebyshev-Ungleichung.
Also muss ich nur noch die Varianz von X entquer haben.
Na gut, also 1 durch Y² kann ich erstmal nach vorne ziehen.
Nun, da steht jetzt 1 durch N mal was, Summe.
Wir wissen, Vorfaktoren gehen quadratisch in die Varianz ein.
Das bedeutet, hier kommt jetzt raus, 1 durch N² kann ich nach vorne
ziehen, und dann bleibt die Varianz der Summe über.
Das ist diese Regel, Varianz konstante mal Zufallsvariable ist
konstante Quadrat mal Varianz.
Und jetzt kommt aber die Unabhängigkeit.
Die Varianz der Summe ist Summe der Varianzen, wegen der
Unabhängigkeit.
Und die sind auch noch alle gleich.
Die sind alle Sigma-Quadrate, also habe ich 1 durch Y² mal N² mal
Summe der Varianzen, das ist die Unabhängigkeit, und jetzt habe ich
das schon vorweggenommen, was jetzt kommt, naja, das ist eben N mal
Sigma -Quadrat.
Und Sie sehen, es bleibt ein N im Nenner über, das geht gegen Null,
für N gegen N endlich, und das war der ganze Beweis.
Man erkennt auch sofort, dass hier Möglichkeiten bestehen, die
Unabhängigkeit abzuschwächen.
Das Entscheidende ist, wir müssen nur wissen, die Varianz der Summe
oder die Varianz der Summe muss in Bezug auf N², was im Nenner steht,
gegen Null gehen.
Allgemein wissen wir, Varianzen von Summen sind Summen von Varianzen,
und da kommen aber auch noch Kovarianzen vor.
Wenn nicht zu viele Kovarianzen vorkommen, ist plausibel, dass das
Gesetz gültig bleibt.
Das wird Gegenstand einer Übungsaufgabe sein.
Wir können das sofort abschwächen.
Entscheidend ist, dass im Limes was noch gegen Null konvergiert.
Okay, ist das klar geworden?
Es sind wirklich nur elementarste Rechenregeln, die wir hatten für
Erwartungswerte und für Varianzen.
Gut.
Also machen wir einen Haken dran.
So, das ist das, was ich eben schon sagte.
Dieses schwache Gesetz der großen Zahl stellt einen Zusammenhang her
zwischen einem zufälligen arithmetischen Mittel und dem
Erwartungswert, und Sie können noch mal darüber nachdenken.
Ich sage, vergleiche dieses empirische Gesetz über die Stabilisierung
von relativen Häufigkeiten.
Um Ihnen das jetzt mal plastisch vor Augen zu führen, habe ich
Folgendes gemacht.
Ich habe drei Simulationen gemacht.
Das sind hier Anzahlen von Versuchen, das geht bis 300, und nach oben
habe ich aufgetragen, Sie sehen hier 1, 2, 3, 4, 5, 6, das riecht nach
Würfelwurf.
So, ich habe 300 Mal einen Würfel geworfen, und ich habe nach oben
aufgetragen, in Abhängigkeit der Anzahl der Male, die ich geworfen
habe, habe ich das arithmetische Mittel der Wurfergebnisse nach oben
aufgetragen.
Das habe ich jetzt nicht in Realita gemacht, sondern ich habe dort
einen Computer angeworfen und habe mit Pseudo-Zufallszahlen
gearbeitet, die sozusagen das simulieren sollen, diese Situation.
Also so viel Zeit hatte ich in dem Fall nicht.
So, beim ersten Mal kam das vor.
Sie sehen, da schwankt das noch am ersten ganz stark, und dann scheint
sich das zu stabilisieren.
Wir wissen natürlich, wenn der Würfel echt ist, ist der Erwartungswert
3,5.
Da habe ich das nochmal gemacht mit einem anderen Startwert des
Generators und habe das erhalten und noch ein drittes Mal.
Sie sehen, da stabilisiert sich was, und wenn Sie das hier hinten
sehen, das ist sozusagen das µ, das ist die Höhe 3,5.
Und wenn ich jetzt dort ein kleines µ zugebe und ein kleines µ
wegnehme, habe ich hier so ein kleines Intervall.
Und Sie sehen, bei n gleich 300, 300 ist groß, ist das arithmetische
Mittel jedes Mal bei diesen drei Realisierungen, zumindest geht es
durch das kleine Fenster.
Natürlich, theoretisch ist nicht auszuschließen, dass ich eben 300 mal
eine 6 werfe, auch beim echten Würfel.
Nur das ist so unwahrscheinlich, so unwahrscheinlich, dass man das
nicht beobachtet.
Das wäre sozusagen das Gesetz in Aktion.
Folgerung, unmittelbare Folgerung.
Spezialfall, das schwache Gesetz der großen Zahlen von Jakob
Bernoulli.
Nun hier habe ich unabhängige Ereignisse.
Die Wahrscheinlichkeit ist p.
Wenn man sowas hat, denkt man sofort an die Binomialverteilung.
Trephonite, unabhängige Ereignisse, gleiche Wahrscheinlichkeit ist p.
Die Summe der Indikatorvariablen ist binomialverteilt.
Das muss sofort klick machen.
So weit müssen sie jetzt sein.
Dann gilt, ja, Limes, endgegenunendlich.
Jetzt sehen Sie, für xj, was wir eben hatten, steht da nur
Indikatoraj.
Der Erwartungswert ist p.
Das heißt, diese Wahrscheinlichkeit, und ich kann es so
interpretieren, dass sich die zufällige relative Trefferhäufigkeit,
denn so kann ich das arithmetische Mittel interpretieren, wenn ich
immer an Trephonite denke, sich vom Wert p, von der
Trefferwahrscheinlichkeit betragsmäßig um mindestens Epsilon
unterscheidet, konvergiert gegen Null, für jedes noch so kleine
positive Epsilon-Spezialfall.
Das ist das Hauptergebnis des ersten systematischen Werks über
Wahrscheinlichkeitsrechnung von Jakob Pernulli aus dem Jahr 1713.
Er war damals ganz stolz auf das Ergebnis.
Da gab es noch keine Chabbage-Umleichung und andere Dinge, da musste
er wirklich noch ganz anders rangehen.
Okay.
Ich kürze mal das ab, dies TN, das können Sie interpretieren eben als
zufällige relative Trefferhäufigkeit.
Und ich formuliere das mal in die Sprache der Analysis um.
Hier steht jetzt oben betragsmäßig größer gleich Epsilon.
Wenn ich hier kleiner Epsilon schreiben würde, dann würde das das
komplementäre Ereignis und dessen Wahrscheinlichkeit muss natürlich
dann gegen 1 gehen.
Also, was bedeutet das?
Zu jedem Epsilon, das ist das, was da oben steht, nun gegen 1 gehen
heißt jetzt, jetzt kommt die Konvergenz im Sinne der Analyse, und zu
jedem positiven Eta, noch so klein, gibt es ein N0, das darf abhängen
von Epsilon und Eta.
Okay.
Nun, sodass Folgendes gilt, sodass gilt für jedes feste N größer
gleich N0 und das ist hier wichtig, jedes feste N größer gleich N0,
die Wahrscheinlichkeit, dass sich dies TN von P betragsmäßig um
weniger als Epsilon unterscheidet.
Nun, die geht ja gegen 1 für N gegen N, also ist sie größer gleich 1
minus Eta.
Das wäre das in die Sprache der Analyse übersetzt, aber das
Entscheidende ist, für ein festes N, stellen Sie sich vor, Sie wollten
jetzt, dass die Wahrscheinlichkeit groß ist, größer gleich 1 minus
Eta, sagen wir größer gleich 0,99, simultan für jedes N größer gleich
N0, das heißt, es soll sozusagen für jedes N größer gleich N0 dieses
Ereignis eintreten, dann haben Sie natürlich einen Schnitt von
Ereignissen.
Das liefert dieses Gesetz nicht.
Das liefert das Starkgesetz der großen Zahlen, was dann in der
Wahrscheinlichkeitstheorie behandelt wird.
Das gilt sozusagen noch wesentlich mehr, nur der Aufwand ist natürlich
dann dementsprechend größer.
Das sollten Sie schon wissen.
Hier ist nur für jedes feste.
Wir hatten eben das Fenster bei N gleich 300, kleines Intervall für
dieses N.
Ich kann es so nochmal formulieren, in der Sprache der Statistik, in
einer Bernoulli-Kette mit unbekannter Trefferwahrscheinlichkeit P ist
die zufällige relative Trefferhäufigkeit ein sinnvoller Schätzer für
das P, in diesem Sinn.
Stellen Sie sich vor, Sie würden P nicht kennen.
Es ist plausibel, dass man natürlich dann, wenn man N-Versuche macht,
dass man die relative Trefferhäufigkeit nimmt als Schätzwert.
Die Qualität dieses Schätzverfahrens ist natürlich gegeben über die
zufällige arithmetische Mittel.
Und da oben steht es eben.
Bei wachsendem N, wenn die Datenbasis immer besser wird, die
Wahrscheinlichkeit, dass sich dieses zufällige arithmetische Mittel
von dem unbekannten Wert P betragsmäßig um mindestens Y unterscheidet,
wird immer kleiner, bei wachsendem N geht gegen Null, für N gegen
unendlich.
Okay?
In diesem Zusammenhang jetzt haben wir einen Konvergenzbegriff, und
zwar der Konvergenzbegriff ist der der stochastischen Konvergenz.
Was besagt der?
Nun, dieser Konvergenzbegriff besagt, wenn ich Zufallsvariablen habe,
alle auf dem gleichen Wahrscheinlichkeitsraum, Y, Y1, Y2, dann sagt
man, diese Folge Yn konvergiert gegen Y stochastisch.
Wir sehen das P oben drüber, stochastisch.
Genau dann, wenn folgendes gilt, wenn der Grenzwert Limes n gegen
unendlich, Wahrscheinlichkeit, dass sich Yn von Y betragsmäßig um
mindestens Y unterscheidet, dass das gegen Null geht für jedes
positive Y.
So sehr häufig wird das Y, was da hinten steht, eine Konstante sein,
in dem Sinne, wenn eben, also man sagt erstmal, diese Folge
konvergiert stochastisch gegen Y, ist also ein wichtiger
Konvergenzbegriff in der Stochastik, und wenn eben diese Zufallswahl Y
nur einen einzigen Wert annimmt, eine Konstante mit Wahrscheinlichkeit
1, dann sagt man auch, oder schreibt, Yn konvergiert stochastisch
gegen A für N gegen unendlich.
Das ist dann gleichbedeutend damit, dass sich oben in der Definition
das Groß-Y durch A ersetzen kann.
Und wir haben natürlich das in dem Sinne eben gehabt, nämlich die
beiden Sätze, die wir hatten, das schwache Gesetz der großen Zahlen
und der Spezialfall, den wir eben hatten bei der zufälligen relativen
Trefferhäufigkeit, besagen also unter diesen jeweiligen
Voraussetzungen, die wir hatten, gilt einmal, das arithmetische Mittel
konvergiert für N gegen unendlich stochastisch gegen Y, gegen diesen
Erwartungswert, und die zufällige relative Trefferhäufigkeit
konvergiert für N gegen unendlich stochastisch gegen P.
Das gibt uns Möglichkeiten, Erwartungswerte zu schätzen und solche
Wahrscheinlichkeiten.
Das hat also direkt eine Bewandtnis für die Statistik.
Schauen Sie sich den Konvergenzbegriff an.
Ich behaupte, den haben Sie schon in der Analysis 3 gehabt.
Nicht in der Vorlesung.
Aber auf einem Übungsblatt.
So stellen Sie sich vor, anstelle von Groß P schreiben Sie µ.
Anstelle von Yn schreiben Sie klein fn und anstelle von Groß Y
schreiben Sie klein f.
µ von Y.
Betrag fn minus f Betrag größer gleich Y.
Das haben Sie gehabt.
Das heißt Konvergenz dem Maße nach.
Querverbindung.
Ja, ich habe mir Ihre Übungsblätter alle angesehen.
Ich weiß Bescheid, was Sie gemacht haben.
Konvergenz dem Maße nach.
Also das ist wichtig.
Sie sehen die Querverbindung hier zur Analysis.
Okay.
Für die stochastische Konvergenz haben wir analoge Rechenregeln wie
bei der Konvergenz von Zahlenfolgen.
Machen wir ein Beispiel.
Zum Beispiel.
Also Rechenregel.
Wenn Sie zwei Folgen haben, sagen wir xn konvergiert stochastisch
gegen x und yn konvergiert stochastisch gegen y und Sie haben reelle
Zahlen, sagen wir a und b, dann folgt eben a mal xn plus b mal yn
konvergiert auch stochastisch gegen a mal x plus b mal y.
Man hat mehrere Möglichkeiten, daran zu gehen.
Also ein ganz elementarer Beweis ist folgender.
Also erstmal, das soll der Grenzwert sein.
Ganz egal, a und b aus R.
Also der Beweis ist recht einfach.
Erstmal kann man sagen, wir nehmen an, ohne Beschränkung der
Allgemeinheit, a und b sind von Null verschieden.
Wenn mindestens 1 Null ist, wird alles einfacher.
Kann man sich überlegen.
Gut.
Y größer Null beliebig.
Was müssen wir zeigen?
Wir müssen diese stochastische Konvergenz nachweisen.
Das bedeutet, nach Definition ist zu zeigen, der Grenzwert, der
Wahrscheinlichkeit, dass der Betrag von a xn plus b plus b yn minus,
und jetzt kommt der Grenzwert, a x plus b y, der Betrag nach Größe
gleich y ist, das soll im Limes Null sein.
Das ist zu zeigen.
Nun, das Entscheidende ist natürlich sofort, also man erkennt, hier
kann ich ein bisschen was zusammenfassen.
Vorne steht a mal xn, dann wird a mal x abgezogen.
Ich könnte das also dann das a ausklammern.
a mal xn minus x.
Und was habe ich dann noch?
b yn.
Hinten steht minus b mal y.
Ich könnte auch das b ausklammern.
Plus b mal yn minus y.
Und man weiß ja, ich weiß doch was über xn minus x.
xn geht stochastisch gegen x.
Und über yn minus y weiß ich auch was.
Nämlich yn geht stochastisch gegen y.
Das bedeutet, der Trick ist einfach der, wir wenden die
Dreiecksungleichung an.
Und die Dreiecksungleichung sagt natürlich, okay, dieses ist nichts
anderes als nach oben abschätzbar durch a Betrag sogar mal xn minus x
Betrag plus b Betrag mal yn minus y Betrag.
Einfach nur die Dreiecksungleichung angewendet.
Also die Überlegung ist jetzt die, wir wollen das Ereignis
untersuchen, dass das, was links von der Dreiecksungleichung steht,
was eben kleiner gleich dem sein soll, das soll größer gleich y sein.
Wenn das aber größer gleich y ist aufgrund der Dreiecksungleichung,
dann sehen Sie, rechts haben Sie zwei Summanden.
Da muss mindestens eins dieser Summanden mindestens y halb sein.
Denn wenn sie beide strikt kleiner werden als y halbe, dann kann das,
was links davor steht, nicht mehr größer gleich y sein.
Das bedeutet, wir haben eine ganz einfache Ungleichung.
Nämlich, wenn das Ereignis eintritt, dann muss mindestens eins dieser
beiden Ereignisse eintreten.
Entweder ist das größer gleich y halbe oder das ist größer gleich y
halbe.
Das ist eine Folge aus der Dreiecksungleichung.
Machen Sie sich klar, was links steht.
Links steht ein Ereignis, das ist eine Teilmenge von Omega.
Links steht die Menge aller kleinen Omega aus Großomega mit der
Eigenschaft a mal xn von Omega plus b mal yn von Omega minus, Klammer
auf, a mal x von Omega plus b mal y von Omega, Klammer zu, Betrag
größer gleich y.
Und entsprechend haben Sie auch rechtsgedanklich die kleinen Omegas
drin.
So, das bedeutet aber, wenn ein Ereignis Teilmenge ist, der
Vereinigung von zwei, jetzt kommt die Monotonie der
Wahrscheinlichkeit, also folgt sofort die Wahrscheinlichkeit von dem
linken, ist kleiner gleich der Summe der beiden Wahrscheinlichkeiten
rechts.
Also kleiner gleich p von dem ersten und Sie sehen, ich habe das a
-Betrag runtergebracht nach rechts, ich habe die Umgleichung geteilt,
beide Seiten durch a-Betrag.
Das habe ich da auch gemacht.
Und jetzt nutzen wir natürlich aus die stochastische Konvergenz von xn
gegen x, so das bedeutet, das hier geht gegen null, denn ganz egal,
was rechts steht, größer gleich, sofern das noch positiv ist, und das
ist positiv, die Wahrscheinlichkeit, dass xn minus x-Betrag größer
gleich irgendwas ist, was da steht und fest ist, geht gegen null.
Das ist die stochastische Konvergenz.
Und genauso geht das auch gegen null.
Und damit habe ich zwei Summanen, die gehen beide gegen null, also
geht die obere Schranke gegen null und links steht etwas, was größer
gleich null ist als Wahrscheinlichkeit, also bleibt dem nichts anderes
übrig, als auch gegen null zu gehen und das war zu zeigen.
Das ist die stochastische Konvergenz.
Sie sehen, nichts anderes hier als die Dreiecksumgleichung und sich
klar gemacht, dass diese Kurzschreibweise natürlich immer elegant, für
was ist das?
Da stecken immer die kleinen Omegas hinter, aus Großomega.
Ich bin einfach schreibfaul, ich schreibe die nicht mit und da sollten
wir uns dran gewöhnen.
Okay, zweite Regel, nein, noch keine zweite Regel.
Erstmal wichtige Bemerkung, hier wird jetzt auch geübt.
Falls der Erwartungswert von yn, der möge natürlich immer existieren,
gegen a konvergiert und die Varianz gegen null geht, also Konvergenz
des Erwartungswertes und Varianz gegen null, das ist hinreichend für
die stochastische Konvergenz, Übungsaufgabe.
Ist auch plausibel.
Sollte zumindest plausibel sein.
Wir interpretieren auch den Erwartungswert als Schwerpunkt der
Verteilung.
Die Varianz hat was mit Konzentration zu tun.
Man denkt natürlich an die Chebyshev-Ungleichung, aber hier habe ich
nur Konvergenz des Erwartungswertes, also ich muss ein kleines
bisschen arbeiten, aber das ist nicht so schwierig.
Wenn ich stochastische Konvergenz habe, folgt nicht unbedingt
Konvergenz der Folge von Erwartungswerten, auch wenn sie existieren.
Ein sehr simples Beispiel und instruktiv ist folgendes Gegenbeispiel.
Stellen Sie sich vor, wir definieren die Verteilung von Y so, dass Y
an den Wert A mit großer Wahrscheinlichkeit annimmt.
Sagen wir mit Wahrscheinlichkeit 1, minus 1 durch n.
Hiermit ist sofort klar, ganz egal was Y sonst macht, es konvergiert
stochastisch gegen A, denn die Wahrscheinlichkeit, dass es von A
betragsmäßig wo mindestens Y weg ist, das heißt hier erst nicht diesen
Wert A an.
Aber wenn der Wert A schon im Limes mit Wahrscheinlichkeit 1
angenommen wird, ist sofort klar, hiermit habe ich schon stochastische
Konvergenz.
Ganz egal, wie ich jetzt weiter definiere, ich definiere jetzt so
weiter, dass ich sage, es soll einen sehr großen Wert annehmen mit der
Wahrscheinlichkeit, die noch überbleibt, 1 durch n.
Das ist die Konstruktion und damit habe ich sofort die
Wahrscheinlichkeit, ganz egal, wie klein das Y ist, dass es sich
betragsmäßig um A unterscheidet, das geht nur, wenn es den Wert n²
annimmt.
Das heißt, die Wahrscheinlichkeit ist kleiner gleich der, dass es den
Wert n² annimmt und das ist 1 durch n, das heißt, die
Wahrscheinlichkeit geht gegen 0 und damit habe ich stochastische
Konvergenz.
Aber was passiert mit den Erwartungswerten?
Den Erwartungswert kann ich sofort angeben, der Erwartungswert, nun
ich habe zwei Werte, der Wert A wird angenommen mit Wahrscheinlichkeit
1 durch n, also Wert mal Wahrscheinlichkeit und der andere Wert n²
wird angenommen mit der Wahrscheinlichkeit 1 durch n und hier sehen
Sie, geht das sofort gegen unendlich.
Sie hätten statt n² auch was anderes nehmen können.
Die Botschaft ist hier, mit großer Wahrscheinlichkeit kann sozusagen
irgendwas schön sein, aber mit kleiner Wahrscheinlichkeit können Sie
ziemlich viel kaputt machen.
Also hier definieren Sie einfach das yn, dann nimmt es den Wert n² an.
n hoch 3 halber hätte auch gereicht.
n hoch 1 plus Delta hätte gereicht für ein positives Delta, damit es
gegen unendlich geht.
Okay?
Wenn es aber eine konstante k gibt, derart, dass die Zufallswerten
alle gleichmäßig beschränkt sind, das heißt, die Werte liegen nur im
Intervall von minus k bis k.
Dann können Sie schließen, das ist auch eine Übungsaufgabe, aus der
stochastischen Konvergenz folgt dann auch die Konvergenz der
Erwartungswerte.
Jetzt kann sowas nicht passieren.
Das Gegenbeispiel geht jetzt nicht mehr, weil Sie für, unabhängig von
dem n, ein kompaktes Intervall haben.
Bei der Definition von yn, eine kleine Wahrscheinlichkeitsmasse, 1
durch n, die haut ab, die geht nach unendlich.
Das haben Sie hier nicht mehr.
Das heißt, unter dieser Zusatzvoraussetzung kann man zeigen, dass ich
dann auch Konvergenz habe.
Ich möchte Ihnen noch eine Rechenregel angeben mit stochastischer
Konvergenz, die auch ganz einfach mit der Definition der Stetigkeit zu
beweisen ist.
Stochastische Konvergenz und stetige Abbildung.
Und zwar folgende Voraussetzungen stellen sich vor, eine Folge yn
konvergiert stochastisch gegen eine Funktion a für n gegen unendlich
und eine Funktion g sei stetig an der Stelle a.
Das ist die Voraussetzung.
Dann kann man sagen, dann konvergiert auch g von yn stochastisch gegen
g von a.
Lässt sich also leicht merken.
Ist auch etwas, was man von Folgen kennt.
Und der Beweis ist eben so, wir nutzen einfach die Definition der
Stetigkeit aus.
Das heißt, wenn wir epsilon beliebig haben, also uns vorgeben, dann
können wir sagen, es gibt ein von dieser Stelle a, an der die Funktion
g stetig sein soll und epsilon abhängendes Delta mit folgender
Eigenschaft.
Für jedes y aus R, wenn ich weiß, dass y minus a den Betrag nach
kleiner als Delta ist, dann muss gelten g von y minus g von a den
Betrag nach kleiner epsilon.
Das ist jetzt Analysis 1, die Definition der Stetigkeit einer Funktion
g an der Stelle a.
Gut, nennen wir das mal 19.1, brauche ich gleich noch weiter.
So jetzt, das müssen wir zeigen.
g von y n soll stochastisch gegen g von a konvergieren.
Epsilon war positiv, beliebig, also die Wahrscheinlichkeit, dass g von
y n minus g von a sich betragsmäßig um mindestens epsilon
unterscheidet soll gegen null gehen.
Gut.
Nun, ich schreibe mal diese Wahrscheinlichkeit auf.
Wir müssen natürlich jetzt irgendwie ausnutzen diese Möglichkeit,
dass, na hier steht y minus a Betrag kleiner Delta.
Das riecht jetzt nach, dass wir dieses Ereignis, was da steht, dessen
Wahrscheinlichkeit gegen null gehen soll, schneiden.
Nämlich einmal mit dem Ereignis, wir sehen hier y n minus a Betrag
größer gleich Delta.
Schnitt.
Und da müssen wir natürlich noch addieren, die Wahrscheinlichkeit
geschnitten mit dem Ereignis y n minus a Betrag kleiner Delta.
Ich habe nur die Additivität von p ausgenutzt.
Die Regel p von a ist p von a geschnitten b plus p von a geschnitten b
Kompliment.
Mehr habe ich nicht gemacht.
Aber jetzt ist das Schöne, können wir sehen, was steht oben in der
ersten Zeile steht, Wahrscheinlichkeit von a geschnitten b, das ist
immer kleiner gleich p von b, also kann ich sofort abschätzen, kleiner
gleich p von y n minus a Betrag größer gleich Delta.
So, und die zweite, das zweite Ereignis und dessen Wahrscheinlichkeit
ist null.
Und warum?
Jetzt schauen Sie sich an, was in 19.1 steht, nach 19.1 gilt doch
gerade, nun, wenn das eintritt, ich habe also einen kleinen Omega mit
y n von Omega, das ist dann mein kleiner y minus a Betrag kleiner
Delta, dann kann nicht zugleich gelten, g von y n von Omega minus g
von a Betrag größer gleich y.
Das geht nicht, denn da oben steht die Implikation, wenn es
betragsmäßig kleiner ist als Delta, dann ist das andere kleiner y.
Das heißt, die Wahrscheinlichkeit ist null.
Nun, jetzt kommt die Voraussetzung, Delta ist positiv, die
Wahrscheinlichkeit, dass y n minus a dem Betrag nach größer gleich
Delta ist, geht gegen null.
Und damit auch die Wahrscheinlichkeit, die wir eigentlich untersuchen
wollen, die ist ja noch kleiner gleich der.
Also sehen, wieder ein ganz wichtiges Konzept, schneiden.
Wenn ein Ereignis zu kompliziert ist, a ist kompliziert, schneiden Sie
das mit b, schneiden Sie das mit b Komplement, da haben Sie nur zwei
Summanden, vielleicht sind die einfacher zu handhaben.
Ich möchte Sie nicht langweilen, aber ich hoffe wirklich, dass das
klar ist.
Das ist wirklich letztlich nur eine Anwendung der Definition und hier
haben wir gar nicht viel Stochastik gebraucht.
Okay, also das ist die leere Menge, das habe ich noch unterschlagen.
Gibt es nicht nach 19.1.
Aus dem Grunde und p von der leeren Menge ist null.
Und das war ja alles.
Okay, können wir nachher dann machen.
So, jetzt möchte ich zu etwas anderem kommen.
Ich habe gesagt zu Beginn des Kapitels schwaches Gesetz großer Zahlen,
das haben wir jetzt gehabt.
In dem Zusammenhang haben wir einen Konvergenzbegriff kennengelernt,
Stochastische Konvergenz, und haben jetzt ein kleines bisschen mit dem
Begriff gearbeitet.
Was jetzt kommt, ist das Thema zentraler Grenzversatz.
Ich möchte Sie einstimmen mit einer binomial verteilten
Zufallsvariable, also Gymnasium zehnte Klasse, s, n.
n will dann gegen unendlich gehen, Grenzwertsatz.
Habe eine Binomialverteilung mit n und p.
Sie können das immer deuten als Anzahl der Treffer in einer
Benullikette der Länge n mit Trefferwahrscheinlichkeit p.
Was wir machen jetzt ist folgendes.
Wir subtrahieren von s, n den Erwartungswert n mal p und dividieren
durch die Wurzel aus der Varianz, die ja n mal p mal 1 minus p ist.
Wir standardisieren die Zufallsvariable s, n.
Die nenne ich jetzt mal s, n-Schlange.
Wir wissen, diese standardisierte Zufallsvariable hat den
Erwartungswert 0 und sie hat die Varianz 1.
Wir sehen auch sofort, dass s, n kann nur die Werte annehmen 0, 1, 2,
3 bis n.
Nun, das s, n-Schlange nimmt dann die Werte an, wenn s, n die Werte k
annimmt, k von 0 bis n, nimmt natürlich das s, n-Schlange die Werte
an, nennen wir sie mal xnk, k minus n mal p durch Wurzel np mal 1
minus p.
Das heißt, auch die Werte transformieren sich natürlich mit.
Diese Definition, die da oben steht, die will ich sogar für jedes k
aus z zulassen.
Das Entscheidende für uns ist Folgendes, diese Zufallsvariable s, n
-Schlange, die standardisierte, nimmt diesen Wert xnk an, mit der
gleichen Wahrscheinlichkeit, mit der s, n den Wert k annimmt.
Das ist eine Binomialwahrscheinlichkeit.
Das bedeutet, die Wahrscheinlichkeit, kürze ich mal ab, b-Index n von
k und p, das ist nichts anderes als n über k mal p hoch k mal Klammer
auf 1 minus p hoch n minus k.
Und das gilt für jedes k von 0 bis n.
Diese Werte nimmt die standardisierte Zufallsvariable an.
Jetzt mache ich Folgendes, Sie werden gleich Bilder sehen.
Das soll ein Teil der Zahlen gerade sein.
Ich trage mal hier auf xnk.
Ich gehe jetzt mal zu einem benachbarten Wert über, ich erhöhe k um 1.
Das heißt, dann komme ich hier zu xnk plus 1.
Wodurch unterscheiden sich diese beiden Werte?
Ich nehme mal die Differenz.
Ich nehme mal xnk plus 1 minus xnk.
Schauen Sie in die Definition.
Einmal haben Sie im Zähler k plus 1.
Einmal haben Sie im Zähler k, der Nenner ist der gleiche.
Wenn Sie das subtrahieren, bleibt über 1 dividiert durch Wurzel np mal
1 minus p.
Für uns ist nur wichtig, für n gegen und endlich wird das immer
kleiner.
Das geht gegen 0.
Größenordnung 1 durch Wurzel n.
Das ist wichtig.
Jetzt mache ich Folgendes.
Ich errichte hier ein Rechteck und die Breite des Rechtecks soll genau
die gleiche Differenz sein zwischen xnk und xnk plus 1.
Das ist also 1 durch Wurzel np mal 1 minus p.
Die Fläche des Rechtecks soll die Wahrscheinlichkeit sein, die
Binomialwahrscheinlichkeit, die da oben mit b index n kp abgekürzt
ist.
Das bedeutet, ich muss diese Höhe jetzt so nehmen als Wurzel np mal bn
von kp.
Jetzt ist die Fläche des Rechtecks exakt die Wahrscheinlichkeit.
bn von kp.
So, was ich jetzt mache.
Ich zeige Ihnen für p gleich 0,3 jetzt Histogramme dieser
standardisierten binomialen Verteilung auf der nächsten Seite.
Das heißt, so sehen jetzt diese Rechteckflächen aus.
Machen wir das.
Machen wir das im einfachen Fall n gleich 5.
Im Fall n gleich 5 sieht man also hier, man sieht, obwohl es
eigentlich 6 Flächen sind, sehen Sie nur 5.
Nämlich diese linke Fläche, ganz links ist die gleiche
Wahrscheinlichkeit, mit der diese binomialverteilte Zufallszahl mit n
gleich 5 und p gleich 0,3 den Wert 0 annimmt.
Die nächste Rechteckfläche rechts daneben ist die Wahrscheinlichkeit,
mit der sie den Wert 1 annimmt.
Dann diese Fläche ist die Wahrscheinlichkeit, dass sie den Wert 2
annimmt und so weiter, 3,4 und die Wahrscheinlichkeit mit 5 ist so
klein, dass Sie nichts mehr sehen.
Denn wenn die Erfolgswahrscheinlichkeit 0,3 ist, das ist 3 Zehntel und
Sie sollen nur Erfolge haben.
Nehmen Sie mal 3 Zehntel hoch 5.
10 hoch 5 sind 100.000, steht im Nenner.
Und 3 hoch 5 ist nicht so viel.
Ich glaube, das sind 243 oder so.
27 mal 3,81, 243.
Durch 100.000.
Sie sehen nichts mehr.
Die Wahrscheinlichkeit ist schon recht klein.
Ich erhöhe das n.
Ich nehme mal n gleich 20.
Sie sehen, die Breiten der Rechtecke sind schmaler geworden.
Die Breite ist ja 1 durch Wurzel n p mal 1 minus p.
Ich erhöhe das n nochmal auf 50.
Das sieht dann so aus.
Und ich erhöhe es nochmal auf 100.
Das sieht dann so aus.
Jetzt mache ich noch Folgendes.
Ich überlagere dieses letzte Histogramm noch mit einer Funktion.
Die lege ich drüber und Sie werden sehen, das passt ganz gut.
Die Frage ist, was ist das für eine mysteriöse Funktion?
Ich kann Ihnen gleich erstmal sagen, wenn ich mit einem anderen p
gestartet wäre, selbst p gleich 0,05 bei genügend großen n, sähe das
hier genauso aus.
Ob ich p gleich 0,8 genommen hätte, das sähe genauso aus.
Das ist interessant.
Was entsteht da?
Diese ominöse Funktion, die sieht so aus.
Definition, Dichte der Standard Normalverteilung.
Sie haben in der Analyse 3 schon den Begriff der Dichte kennengelernt,
ganz allgemein.
Das wäre jetzt hier Dichte bezüglich des Lebesgmaßes.
Ich definiere das erstmal.
Was ist das?
Klein phi von x ist definiert als 1 durch Wurzel 2pi e hoch minus x
Quadrat Halbe für jedes x aus R.
Diese Funktion nennt man, geht von R nach R, nennt man Dichte der
Standard Normalverteilung.
Ich habe noch nicht definiert, was eine Standard Normalverteilung ist,
machen wir später.
Erstmal nur die Namensgebung, heißt Dichte der Standard
Normalverteilung oder manche sagen auch Gauss'sche Glockenkurve.
Wichtig ist, wir sehen, die Funktion ist nicht negativ und das
uneigentliche Integral von Minus und Endlich bis und Endlich phi von x
dx ist 1.
Das haben Sie gehabt auf dem Übungsblatt.
Analyse 3, da haben Sie das ausgerechnet mit dem Wallis-Produkt.
Sie haben es ein bisschen anders formuliert, da kam dann nicht 1 raus.
Denken Sie an den Faktor, war auf einem frühen Übungsblatt.
Es ist auch Äquivalent dazu, dass die Gamma-Funktion an der Stelle 1
Halb gleich Wurzel Pi ist.
Wenn Sie das ein bisschen transformieren, ist das Äquivalent dazu.
Gut, aber das hat jetzt mit Stochastik nichts zu tun.
Hier ein bisschen Nostalgie, als es noch hier eine eigene Währung gab
in Deutschland.
Da erkennt man hier bei dem Carl Friedrich Gauss, sieht man hier,
sogar sehr allgemein, viel allgemeiner als da oben.
Da steht auch ein µ drin und ein Sigma-Quadrat.
Wir werden die Funktion auch später allgemein kennenlernen.
Wir werden eine Normalverteilung kennenlernen mit zwei Parametern, µ
und Sigma-Quadrat.
Und das ist nur der Spezialfall, µ gleich 0 und Sigma-Quadrat gleich
1.
Also die Gauss'sche Glockenkurve wird die dann auch genannt.
Okay.
Gut, jetzt gilt folgender Satz, das ist hier interessant, der zentrale
Grenzwertsatz von De Moivre und Laplace.
Den Laplace kennen wir schon vom Laplace-Modell.
De Moivre hat viel früher noch gelebt und der besagt folgendes.
Wenn man mit so einer binomialverteilten Zufallswahl startet, dann
gelten, und das ist jetzt interessant, für die standardisierte
Zufallswahl, der Satz bezieht sich auf die standardisierte
Zufallswahl.
Es ist eben das S in Schlange.
Folgendes gilt.
Erste Aussage, die Wahrscheinlichkeit, dass diese standardisierte
Zufallswahl in ein kompaktes Intervallfeld in den Grenzen von A bis B
konvergiert für entgegen und endlich gegen das Integral über diese
Gausche -Glockenkurve in den Grenzen von A bis B.
Ganz egal, wie A und B sind.
A kleiner B.
Man sieht sofort an der Darstellung, Sie sehen das Integral da links,
die Funktion, das hängt stetig natürlich von den Grenzen ab.
Man sollte sofort erkennen, wenn ich hier statt A kleiner gleich
geschrieben hätte, A kleiner oder vielleicht das kleiner gleich bei
dem B durch kleiner ersetzt hätte, es kommt der gleiche Grenzwert
raus, kann man sich leicht überlegen.
Ich kann durchaus kleiner gleich durch strikt kleiner ersetzen.
Zweite Eigenschaft, wenn ich ein reelles x habe, ist die
Wahrscheinlichkeit, dass diese standardisierte Zufallswahl einen Wert
annimmt im Intervall von minus und endlich bis x, mit anderen Worten
kleiner gleich x ist, konvergiert gegen das Integral jetzt von minus
und endlich bis x über diese Gausche-Glockenkurve, wie der phi von t
dt für jedes x aus R.
Dieser Satz ist Spezialfall eines Satzes, den wir gleich haben werden
und der Satz, den wir gleich haben werden, ist wieder Spezialfall
eines Satzes, den wir in der Wahrscheinlichkeitstheorie beweisen
werden.
Also insofern gehe ich jetzt hier auf den Beweis nicht ein.
Den kann man durchaus mit Mitteln der Analysis, die Sie bis jetzt
kennen, beweisen, rein analytisch.
Aber man hat dann eigentlich keine höhere Einsicht, warum ein viel
allgemeineres Resultat gilt mit den gleichen Grenzwerten.
Erste Bemerkung, das habe ich eben schon gemacht, wir können in a und
b jedes der kleiner Gleichzeichen auch durch ein kleiner Zeichen
ersetzen, es ändert sich nichts an den Grenzwerten.
Dann a folgt aus b, denn die Wahrscheinlichkeit, jetzt habe ich hier
kleiner geschrieben, kleiner gleich, wir wissen, diese
Wahrscheinlichkeit, dass eine Zufallsvariable, ganz egal wie sie
aussieht, dass sie größer als a ist und kleiner gleich b, ist die
Wahrscheinlichkeit, dass sie kleiner gleich b ist, minus
Wahrscheinlichkeit, dass sie kleiner gleich a ist.
Und wenn beides konvergiert, jetzt sehen wir auf den Teil b, dann
kommt da raus, ist die Wahrscheinlichkeit S in Schlange kleiner gleich
b, minus Wahrscheinlichkeit S in Schlange kleiner gleich a.
Und das ist hier wichtig, die Wahrscheinlichkeit S in Schlange gleich
a geht gegen null.
Das kann man sich leicht überlegen und damit folgt a wirklich aus b.
Wenn ich b habe, kann ich durch Differenzbildung das in a bekommen.
Also interessant ist insbesondere dieses Integral, was in b steht, von
minus unendlich bis x über diese Gauss'sche Glockenkurve, das ist
besonders wichtig und das erhält als Funktion von diesem x auch eine
eigene Bezeichnung, einen eigenen Namen.
Das in b stehende Integral, was wir da haben, hat eine eigene
Bezeichnung und die ist jetzt wirklich wichtig, nämlich das ist diese
Definition, der Begriff Verteilungsfunktion kommt hier vor.
Den werden wir später allgemein kennenlernen.
Hier ist es erstmal nur eine Begriffsbildung für diese Funktion.
Verteilungsfunktion der Standardnormalverteilung.
Und zwar, Sie sehen hier ein Großphi.
Großphi von x ist nichts anderes als das Integral über das Kleinphi
von minus unendlich bis x.
Hier sehen Sie Kleinphi von t dt.
Das kann ich machen für jedes x aus R und diese Funktion, die ist auf
ganz R definiert, geht nach R.
Die Werte, die Sie annehmen, sind natürlich nur Werte im
Einheitsintervall, weil wir gesehen, das Integral über das Kleinphi
von minus unendlich bis unendlich ist 1.
Das heißt, alle diese Werte sind strikt kleiner 1 und strikt positiv,
die rauskommen können bei diesem uneigentlichen Integral.
So dass diese Funktion heißt Verteilungsfunktion der
Standardnormalverteilung.
Das ist also erstmal wirklich nur eine Definition.
So, sehen wir uns das mal an, wie die aussehen kann.
Also hier läuft t, hier läuft nach oben Phi von t.
Das Entscheidende ist, ich nehme hier t, weil ich gleich den Wert x
brauche.
So, hier Sie sehen, das spielt sich im Wesentlichen in einem Intervall
ab von minus 3 bis 3.
Die Achsen sind jetzt unterschiedlich, ganz einfach skaliert.
Sie sehen, hier ist ein Halb, oben soll die Linie 1 sein.
Und die Funktion sieht so aus, wenn hier die 1 ist.
So, das ist also die Gestalt dieser Funktion Phi.
Die kommt von 0, die geht nach 1, steht die Strengmonoton wachsend.
Wenn ich hier ein x habe, kann ich eben oben Phi von x ablesen.
Wir werden gleich eine Tabelle sehen auch dazu.
Die Funktion ist nicht mehr elementar integrierbar.
Das Klein-Phi, was immer das heißt, also an das Groß-Phi muss man
numerisch ran.
Aber es gibt eben, die Funktion gibt es eben in Programmpaketen, ist
die fest installiert.
So, ich kann das auch auf der Ebene der Dichte machen.
Das heißt, wenn ich hier das gleiche mache für das Phi von t, die
Gaussian -Glockenkurve, dann sieht man, ich kann es so interpretieren,
wenn hier die Stelle x ist, wir sehen oben, das ist das Integral von
minus und endlich bis x.
Also ist es hier die aufgelaufene Fläche unter der Gaussian
-Glockenkurve von minus und endlich bis x.
Das ist die Interpretation von Groß-Phi von x.
Okay?
So, wir sehen uns nochmal Eigenschaften an.
Das ist erstmal die Interpretation und die Eigenschaften sind die,
wenn ich natürlich von A bis B integriere, dann ist das gleiche, als
wenn ich von minus und endlich bis B integriere und dann das Integral
abziehe von minus und endlich bis A.
Das Groß-Phi von B war anschaulich die aufgelaufene Fläche bis B.
A ist kleiner B.
Ich ziehe die aufgelaufene Fläche bis A ab, also bleibt die
aufgelaufene Fläche, und zwar die Fläche zwischen A und B übrig.
Also dieses Integral ist Groß-Phi von B minus Groß-Phi von A.
Wenn ich also die Funktion Groß-Phi kenne, dann kenne ich auch diese
Flächen unter dieser Gaussian-Glockenkurve.
Okay.
Wegen der Symmetrie dieser Gaussian-Glockenkurve um null ist der Graph
von dem Groß-Phi punktsymmetrisch zu 0,5.
Wir werden den Graphen gleich nochmal sehen.
Das heißt, es gilt folgendes, Groß-Phi von minus x ist 1 minus Groß
-Phi von x.
Sehen wir uns das erst nochmal an den Bildern an.
Das war von eben.
Sie sehen, das ist Groß-Phi von x.
Wenn Sie natürlich hier von x übergehen würden und spiegeln das Ganze
hier dran, dann haben Sie minus x.
Dann ist dieses Stückchen da oben genau das, was da fehlt.
Mit anderen Worten, Sie müssen von Phi von x müssen Sie Phi von minus
x addieren, um zu 1 zu kommen.
Sie können das natürlich auch so sehen, wenn Sie hier minus x haben,
dann haben Sie natürlich hier eine Fläche, und diese Fläche ist gleich
der.
Das können Sie dort auch an der Gaussian-Glockenkurve sehen, eine
reine Symmetriebetrachtung.
Das bedeutet, ich habe Ihnen mal hier einige Werte angegeben, Tabelle,
ein Auszug aus der Tabelle dieser Funktion Groß-Phi, und unten drunter
sehen Sie, die Werte, die Sie oben sehen, das Argument ist ab 0 und
dann steigt das an.
Und ganz unten sehen Sie, dass der Auszug für x kleiner 0, verwendet
man die Beziehung Phi von minus x ist 1 minus Phi von x.
Das heißt, wenn ich Ihnen sagen würde, Phi von minus 1, dann müssen
Sie sagen, okay, minus 1 steht nicht da, aber 1 steht da, das ist 0
,8413.
Also ist Phi von minus 1,1 minus 0,8413 und dann rechnet man das kurz
aus.
So geht man an die Werte ran.
Sie sehen, die Funktion steigt recht schnell an.
Phi von 0 muss ein Halb sein, das war diese Punktsymmetrie.
Und dann steigt sie an, und Sie sehen an der Stelle 2,58 schon 0,9951.
Das heißt, Sie werden dann auch Möglichkeiten haben, vermutlich auch
in der Klausur, natürlich hier ein bisschen mitzurechnen, auch mit dem
zentralen Grenzwertsatz.
Okay.
Gut.
Wir wenden den Satz mal an.
Praktische Anwendung.
Stellen Sie sich vor, Sie haben so eine binomial verteilte
Zufallsvariable, und Sie haben ein großes N.
Großes N ist immer Approximation.
Sie werden fragen, gibt es denn da auch Aussagen über die
Konvergenzgeschwindigkeit?
Ja, gibt es.
Die Konvergenzgeschwindigkeit bei diesem Satz ist größenordnungsmäßig
eins durch Wurzel N.
Das kann ich aber hier nicht beweisen.
Das würde sogar die Wahrscheinlichkeitstheorie Vorlesung dann im
Sommersemester übersteigen.
Aber da gibt es Untersuchungen darüber.
Stellen Sie sich vor, Sie haben zwei nicht negative ganze Zahlen, K
und L.
K ist kleiner als L, und Sie möchten gern diese Wahrscheinlichkeit bei
großem N, dass eine binomial verteilte Zufallsvariable Werte annimmt,
die zwischen K und L liegen.
Sie können interpretieren, mindestens K-Treffer, höchstens L-Treffer.
In N wären nur die Experimenten.
N groß, vielleicht 500.
Wie würde man rangehen?
Man würde so rangehen, das wäre die exakte Wahrscheinlichkeit, die
Summe der binomial Wahrscheinlichkeiten von K bis L.
Denken Sie an große Fakultäten, binomialen Koeffizienten.
Okay, wir machen jetzt folgendes, wir standardisieren.
Sie sehen hier schon K-N mal P durch Wurzel NP mal 1-P.
Ein kleiner Gleich muss jetzt kommen.
Jetzt sehen Sie die Standardisierung.
Das heißt, dieses ist äquivalent dazu.
Sie können ja mit dem Nenner hochmultiplizieren und können N mal P
noch addieren.
Das ist das gleiche Ereignis wie SN größer gleich K.
Ich habe auf beiden Seiten der Ungleichung das Gleiche gemacht.
Um kleiner gleich L zu sein, kann ich so schreiben.
Sie sehen, das ist das gleiche Ereignis wie oben links.
Sie können mit dem Nenner hochmultiplizieren, die Ungleichung bleibt,
dann addieren Sie N mal P und schon haben Sie das gleiche Ereignis.
Jetzt machen wir folgendes, wir setzen das hier an als A und setzen
das an, das ist unser SN Schlange, standardisiert.
Das setzen wir an als B und der Grenzwert sagt, okay, das ist
approximativ Phi von B minus Phi von A.
So wird jetzt damit gerechnet.
Ganz konkret.
Also wir müssen Standardisierung standardisieren.
Es gibt in der Literatur hier eine Empfehlung, eine vielfach bessere
Nährung, eine sogenannte Stetigkeitskorrektur, die will ich Ihnen
gleich auch deutlich machen, die ist sehr einfach einzusehen.
Die Stetigkeitskorrektur besagt, okay, das ist ungefähr Phi von, sehen
Sie da oben, sehen Sie ja L, das B ist L minus N mal P durch Wurzel NP
1 minus P und was Sie hier sehen, ist im Zähler ein Pluseinhalb.
Das ist sozusagen was anderes, da kommt was dazu.
Pluseinhalb.
Warum das ominöse gleich da steht, dieses steht, werden wir gleich
sehen.
Abgezogen wird das Gleiche, Sie sehen Phi von K minus NP, oben sehen
Sie Minuseinhalb.
Das ist also jetzt was anderes, aber die Approximation ist vielfach
wirklich besser.
Das ist also nichts anderes als B plus 1 durch 2 Wurzel NP mal 1 minus
P und dann wird abgezogen A minus 1 durch 2 Wurzel NP mal 1 minus P.
Das sieht auf den ersten Blick ominös aus, ist aber ganz simpel.
Die Idee ist folgende bei dieser Stetigkeitskorrektur.
Das sind die Werte X, N, J, die unsere standardisierte Variable
annehmen kann.
Vorher war das X in K, jetzt schreibe ich mal X, N, J, damit wir
flexibel bleiben.
Also Sie sehen B, N, Index J, P, also diese
Binomialwahrscheinlichkeit, okay.
So, da können Sie sich dran erinnern.
Das war X, N, J, X, N, J plus 1.
Die Höhe ist so gemacht von diesem Rechteck, dass die Fläche eben
genau diese Binomialwahrscheinlichkeit ist.
Gut.
Also das war nochmal diese Differenz.
X, N, J plus 1 minus X, N, J, das ist genau dies 1 durch Wurzel NP mal
1 minus P. Ich nenne das mal Delta.
Kürzen wir das mal ab, damit das gleich übersichtlicher wird.
Die Rechteckfläche, sagte ich gerade schon, ist B, N von J und P. Und
das ist die Wahrscheinlichkeit, die wir haben wollen.
Die Wahrscheinlichkeit, dass S, N größer gleich K ist und kleiner
gleich L ist die Summe dieser Binomialwahrscheinlichkeiten.
Das wäre der exakte Wert.
Gut.
Jetzt kommt das Ganze.
Hier ist die X-Achse.
Hier haben wir X, N, K und ich zeichne jetzt diese Rechtecke darüber
und irgendwann habe ich bis X, N, L.
Das heißt, die Summe dieser Rechteckflecken ist der exakte Wert, den
ich haben möchte.
Das ist genau die Summe dieser Binomialwahrscheinlichkeiten.
Was passiert jetzt bei dieser Stetigkeitskorrektur?
Das X, N, K, der linke Wert, das ist genau das A und das X, N, L ist
genau das B.
Und die Approximation war jetzt, die erste war Großvieh von B minus
Großvieh von A.
Dann haben wir modifiziert.
Diese erste Approximation besagt aber, okay, wenn hier die Gauss'sche
Glockenkurve drüber liegt, das ist eben das Kleinvieh von X, dann ist
das nichts anderes als diese Fläche in diesen Grenzen.
Das ist das Integral in diesen Grenzen von A bis B.
Das heißt Großvieh von B minus Großvieh von A.
Und Sie sehen, an den Rändern steht jetzt was über.
Jetzt kommt diese Stetigkeitskorrektur.
Die Stetigkeitskorrektur besagt, okay, da diese Breite ist ja Delta,
genau die Breite zwischen XnK oder XnJ und XnJ plus 1, die ist Delta,
diese Breite.
Okay, das bedeutet, da ganz links ist aber gerade A minus Delta halbe,
denn diese Stückchen von dem A bis zu dem Pfeil, wo der an die X-Achse
kommt, ist genau die Hälfte von Delta.
Und an der anderen Seite da, das ist B plus Delta halbe.
Also sagt die Stetigkeitskorrektur, okay, das nehmen wir noch mit und
integrieren in den Grenzen von B plus Delta halbe, also B, A minus
Delta halbe bis B plus Delta halbe des Pfahles.
Das ist die Stetigkeitskorrektur.
Das heißt, wir, wenn man so will, approximieren eine diskrete
Verteilung durch das, was wir später auch eine stetige Verteilung
nennen werden, weil der Wunsch nach stetigen Verteilungen, diese
Normalverteilung wird eine ganz wichtige sein.
Das ist erst mal jetzt nur eine Aussage über Integrale.
Approximation einer Summe von Rechteckflächen durch ein Integral.
Ist das klar geworden, warum man das so macht?
Stetigkeitskorrektur und man kann jetzt mal vielleicht noch ein
konkretes Beispiel rechnen.
Sehen wir uns das an.
Würfelwurf 600 Mal.
600 Mal ist sehr schön, weil nämlich jetzt die Anzahl der Sechsten ist
ja binomial verteilt.
600 Versuche, die Wahrscheinlichkeit ist ein Sechstel, also ist der
Erwartungswert N mal P, 600 mal ein Sechstel ist 100.
Kommt eine schöne glatte Zahl raus.
Also Sn, die Anzahl der geworfenen Sechsten.
Wie groß ist die Wahrscheinlichkeit, dass ich in diesen 600 Würfen
zwischen 90 und 110 Sechsten habe?
Der Erwartungswert ist 100.
Also ich gehe ein bisschen runter vom Erwartungswert, gehe ein
bisschen hoch.
Also diese Wahrscheinlichkeit möchte ich haben.
Gut, das ist die Wahrscheinlichkeit.
Was haben wir gesagt?
Sn ist binomial verteilt.
Gut.
N mal P ist 100.
Ich brauche natürlich noch die Varianz.
Ist jetzt ein bisschen krumm, der Wert.
Die Varianz ist N mal P mal 1 minus P und dann brauche ich die Wurzel
beim Standardisieren.
Muss ich aus die Wurzel der Varianz teilen durch die
Standardabweichung.
Also Sigma n, das man nennen ist Wurzelnp mal 1 minus P und das ist
ungefähr 9,13 auf zwei Stellen.
Können Sie nachrechnen.
Gut.
Jetzt kommt die Approximation, also diese Wahrscheinlichkeit.
Ich standardisiere.
Sie sehen auch hier wieder, es hat sich erstmal nichts geändert.
Ich habe ein Gleichheitszeichen.
Ich kann mit den Nennern hoch multiplizieren und kann dann die 100
addieren und ich habe die gleiche Wahrscheinlichkeit.
Das Ereignis ist identisch.
Jetzt kommt die Approximation.
Das sagt also einmal V von 110 minus 100 ist 10 und Sigma n ist 9,13
minus V von linker Grenze und jetzt kommt es hier, sehen Sie, V von
minus etwas minus 10 durch 9,13 und das ist natürlich, also 10 durch 9
,13 ist ungefähr 1,1 und dann haben Sie minus 1 minus V von 1,1 und
wenn Sie das ausrechnen, kommt erstmal raus, zweimal V von 1,1 minus
1.
Jetzt schauen Sie in die Tabelle nach und stellen fest, das ist das
und da kommt ungefähr raus, knapp 73%.
Also mit ungefähr, das ist also unsere Approximation, knapp 73%iger
Wahrscheinlichkeit haben Sie bei 600 Würfelwürfen die Zahl der
Sechsten liegt zwischen 90 und 110.
Vielleicht hätte man a priori was anderes geschätzt, aber so hilft
einem dann der zentrale Grenzwertsatz und jetzt kommt die verbesserte
Approximation mit der Städigkeitskorrektur, da habe ich eben immer
dieses 0,5 dazu, ein Halb.
Wenn man das jetzt hier ausrechnet, kommt das raus und das ergibt dann
den Wert 0,75 auf zwei Stellen gerundet und man kann hier noch exakt
rechnen, hier funktioniert Maple noch, also bei dieser Größenordnung
und der exakte Wert ist 0,753.
Man sieht also zumindest, dass man bei der Städigkeitskorrektur näher
dran ist als ohne Städigkeitskorrektur.
Mehr wollte ich einfach hier nicht dann mitteilen.
Gut, also das war jetzt ein konkretes Beispiel mal zum zentralen
Grenzwertsatz und ja, ich denke schauen wir mal hier.
Ja, wir verallgemeinern den Satz.
Satz 19,8, das war dem Moave Laplace.
Beweis, da müssen Sie dann im Sommer wiederkommen, da wird das noch
allgemeiner bewiesen.
Der Satz ist schon frappierend genug, als ich das als Student sah, ich
war, wie man so schön sagt, geplättet.
Was spielt sich da ab?
Nun, der zentrale Grenzwertsatz von Lindebergh-Levy, zwei
Mathematiker, unabhängige Zufallsvariablen, eine Folge, okay,
identisch verteilt, aber ich sage über die Verteilung nichts.
Also die Allgemeinheit liegt in der Verteilung der Ys.
Ich brauche nur stochastische Unabhängigkeit und identische
Verteilung.
So, dann brauche ich noch, dass ich, das kürze ich in der Folge immer
ab mit UIV, unabhängig, identisch verteilt.
Wenn ich das mal englisch zusammenfasse später, wird für das U stehen
ein I und für das I wird auch ein I stehen und für das V wird ein D
stehen.
Das ist ein IID.
Independent Identically Distributed.
Im Deutschen sage ich immer UIV.
Unabhängig, identisch verteilt.
So, was haben wir noch?
Existierende Varianz, soll positiv sein, das ist wichtig, und dann
gilt.
Das ist die einzige Voraussetzung.
Und sehen Sie sich das an.
Ganz egal, welches X Sie hernehmen, im Limes ist die
Wahrscheinlichkeit, nun was steht da?
Die Y und J werden aufsummiert, J von 1 bis N.
Also wenn Sie so wollen, produzieren Sie den Zufall N mal in
unabhängiger Folge mit einer zugrundigen Verteilung der Y.
Sie addieren die Werte.
Dann subtrahieren Sie N mal den Erwartungswert von Y1.
Das ist aber nichts anderes als der Erwartungswert der Summe.
Der Erwartungswert der Summe ist Summe der Erwartungswerte.
Die sind alle gleich, weil die die gleiche Verteilung haben.
Also subtrahiere ich den Erwartungswert der Summe.
Und durch was teile ich?
Ich teile durch die Wurzel aus der Varianz der Summe, denn die Varianz
der Summe ist Summe der Varianzen, wegen der Unabhängigkeit.
Und die Varianzen sind alle gleich, ist die Varianz von Y1 N mal.
Ich habe die Summe standardisiert.
Sie sehen, hier steht nichts anderes als die Wahrscheinlichkeit, dass
die standardisierte Summe kleiner gleich X ist und die konvergiert für
endgegenunendlich gegen das Integral über die grausche Glockenkurve
von minusunendlich bis X, was unser Großvieh von X ist.
Völlig unabhängig von der Verteilung.
Die wird vergessen für endgegenunendlich.
Also eigentlich dürfte ich noch gar kein Beispiel... man muss erstmal
eigentlich eine Minute Pause machen, Gedenkminute.
Man sollte sofort sehen, unser Satz vorher ist ein Spezialfall.
Nämlich unser Spezialfall Sn ist auch eine Summe.
Da haben wir Indikatorvariablen, Ereignisse, Indikator A1 plus
Indikator A2 und so weiter.
Treffer, Miete, Bernoulli-Kette.
Ganz einfacher Spezialfall.
Hier haben wir eine beliebige Verteilung.
Machen wir ein Beispiel.
Negative Binomialverteilung.
Warum ist das ein Beispiel dafür?
Wie entsteht die negative Binomialverteilung?
Die entsteht als Verteilung der Anzahl der Nieten vor dem ersten
Treffer, haben wir damals genannt, in der Bernoulli-Kette,
Trefferwahrscheinlichkeit P. Und wir haben gesehen, die hat eine
additive Struktur.
Die Zahl der Nieten vorm ersten Treffer plus die Zahl der Nieten
zwischen dem ersten und zweiten Treffer, dann die Zahl der Nieten
zwischen dem zweiten und dritten Treffer und so weiter.
Und das sind unabhängige Zufallsvariablen, die jeweils die gleiche
Verteilung haben, geometrisch verteilt sind.
Gedächtnislosigkeit.
Das bedeutet, Y1 und so weiter, Yn stochastisch unabhängig und die
seien je geometrisch verteilt.
Sie beschreiben also jeweils die Zahl der Nieten vorm ersten Treffer
in so einer Bernoulli-Kette.
Wenn ich aber die ersten N aufsummiere, das haben wir gesehen, das war
das Additionsgesetz für diese negative Binomialverteilung, dann hat Sn
und das ist diese Summe, hat die negative Binomialverteilung mit
Parametern n und p.
Jetzt zähle ich die Zahl der Nieten vorm enden Treffer.
So, und hierauf kann ich direkt den Satz anwenden, der da oben steht.
Ich brauche also nur noch, wie sind Erwartungswert und Varianz?
Ich muss E von Y1 kennen und Varianz von Y1.
Ich muss also den Erwartungswert kennen der geometrischen Verteilung,
den haben wir gehabt.
Und die Varianz haben wir auch gehabt.
Die muss ich nur noch einsetzen.
Machen wir das.
Der Erwartungswert von Y1 war 1-p durch p.
Wenn ich den letzten Treffer mitzähle, nach diesen Nieten ist es 1
durch p.
Aber ich zähle die Nieten vorm ersten Treffer.
Und die Varianz war 1-p dividiert durch p².
Das war die Varianz dieser geometrischen Verteilung.
Jetzt setze ich ein.
Was sagt der Satz?
Okay.
Nun, jetzt mache ich das ein bisschen anders.
Sie sehen, wenn Sie den Satz sehen, ich multipliziere gedanklich bei
dem Limes das Wurzeln mal Varianz rüber zu dem X.
Das heißt, Sie sehen, ich ziehe hier nur den Erwartungswert ab.
Sn minus Erwartungswert.
Kleiner gleich.
Und jetzt habe ich an dem X den Faktor dran, Wurzel aus Varianz.
Ich hätte natürlich auch durchdividieren können, wieder oben.
Aber das Ereignis ist das gleiche.
Das Entscheidende ist, das ist im Limes, diese Wahrscheinlichkeit ist
phi von X, ganz egal, wie das X aus R ist.
Das heißt, Sie können hier zum Beispiel sofort approximativ sagen, wie
wahrscheinlich ist es.
Na, ich warte jetzt vielleicht mal.
Ich zähle die Nieten vor der tausendsten 6.
Natürlich kann ich sofort sagen, wie ist vielleicht der Erwartungswert
der Zahl der Nieten vor der tausendsten 6.
Aber Sie können sofort analog zu dem Beispiel, was wir eben hatten mit
der Binomialverteilung, jetzt für die negative Binomialverteilung
Zahlenbeispiele machen.
Die Struktur dieser Verteilung ist eben die einer Summe von
unabhängigen Zufallsvariablen.
Ja, ich denke, jetzt ist es Ihnen reichend feierlich, machen wir hier Schluss.