WEBVTT 00:11.220 --> 00:14.140 Willkommen zu dieser letzten Lesung. 00:17.040 --> 00:20.760 Eine kurze Summe von einigen Fakten aus der letzten Lektion. 00:21.140 --> 00:27.060 Wenn man unabhängige randome Variablen mit Densitäten hat, dann hat 00:27.060 --> 00:28.580 auch die Summe eine Densität. 00:29.100 --> 00:33.620 Und es gibt eine sogenannte Konvolution-Formel, die sagt, dass diese 00:33.620 --> 00:35.460 Densität von einem Integral gegeben wird. 00:35.460 --> 00:40.220 Man sieht die Densität von x, evaluiert bei s, mal die Densität von y, 00:40.880 --> 00:43.240 evaluiert bei t-s ds. 00:43.500 --> 00:44.740 Das ist Konvolution. 00:47.200 --> 00:51.760 Wenn man unabhängige randome Variablen hat, und sagen, dass x eine 00:51.760 --> 00:56.680 normale Distribution hat, mit einigen Parametern, μ und σ², und y hat 00:56.680 --> 01:02.580 auch eine normale Distribution mit μ und τ², dann hat die Summe auch 01:02.580 --> 01:05.440 eine normale Distribution, und die Parametern ergeben. 01:05.540 --> 01:10.960 Das heißt, das erste Parameter ist μ plus ν, und das zweite ist σ² 01:10.960 --> 01:12.240 plus τ². 01:12.980 --> 01:16.660 Das kann man mit der Konvolution-Formel ausdrücken. 01:17.800 --> 01:21.840 Wenn man einen randomen Vektor sieht, sehen wir, dass x ein n 01:21.840 --> 01:25.140 -dimensionaler randomer Vektor ist, der eine Densität hat, mit Bezug 01:25.140 --> 01:28.040 auf die Lebesgue-Mehrheit in den Euclidean-N-Spaß. 01:28.360 --> 01:32.540 Und wenn man eine measurable Funktion hat, die den Euclidean-Spaß in 01:32.540 --> 01:37.540 die echten Zahlen bildet, dann kann man die Erwartung der Summe, sagen 01:37.540 --> 01:43.640 wir mal, der Funktion hx, durch ein Integral, die Funktion hx mal 01:43.640 --> 01:50.360 Densität, dx, und zum Beispiel kann man so die Kovariante zwischen 01:50.360 --> 01:54.160 zwei randomen Variablen ausdrücken, die einen bi-variablen randomen 01:54.160 --> 01:54.860 Vektor bilden. 01:55.100 --> 01:59.880 Wir haben Momente ausgesucht, siehst du, für ein Integral-Nummer k, 02:00.100 --> 02:04.260 diese Erwartung von x zu der Kraft k nennt sich der k-Moment eines 02:04.260 --> 02:05.360 randomen Variablen x. 02:05.920 --> 02:11.260 Wir haben auch absolute Momente ausgesucht, wo wir statt x das Modulus 02:11.260 --> 02:15.960 von x haben, und dann, statt k, können wir eine positive echte Zahl 02:15.960 --> 02:15.960 nehmen. 02:16.660 --> 02:22.360 Wir haben auch zentrale Momente ausgesucht, also die Mehrheit von x 02:22.360 --> 02:24.120 abzuschneiden, und dann Kraft zu nehmen. 02:24.360 --> 02:25.600 Dies sind zentrale Momente. 02:26.390 --> 02:29.340 Wenn wir eine normale Verteilung haben, besonders haben wir 02:29.340 --> 02:35.080 festgestellt, dass Mu die Erwartung ist, und Sigma² die Variante ist. 02:35.380 --> 02:40.200 Dies gibt also zusätzlichen Sinn zu diesen Parametern. 02:40.720 --> 02:44.060 Dann haben wir die sogenannte Gamma-Verteilung ausgesucht, also eine 02:44.060 --> 02:47.640 randome Variable x, die positiv ist, hat eine solche Verteilung. 02:48.140 --> 02:52.520 Dies ist die Densität für positive t, und dies nennt sich die Gamma 02:52.520 --> 02:53.160 -Verteilung. 02:53.160 --> 02:58.160 Seht, wenn ihr Alpha equal zu 1 stellt, dann erhaltet ihr die 02:58.160 --> 03:00.700 exponentielle Verteilung mit der Parameter Lambda. 03:01.740 --> 03:05.560 Wenn wir eine unabhängige randome Verteilung haben, und die x eine 03:05.560 --> 03:09.960 Gamma -Verteilung hat, seht ihr, die Beta wird fixiert, aber die Alpha 03:09.960 --> 03:14.000 verändert sich, also sieht man, dass y auch eine Gamma-Verteilung hat, 03:14.140 --> 03:18.480 und jetzt ist die Parameter Alpha², und dann die Parameter addieren, 03:18.580 --> 03:20.080 wenn ihr die randomen Verteilungen addiert. 03:20.260 --> 03:24.060 Dies bedeutet, für eine fixierte Beta gibt es eine Konvolution-Formel 03:24.060 --> 03:25.420 in der ersten Parameter. 03:25.600 --> 03:28.880 Wir nennen auch diese Addition-Theorien. 03:29.040 --> 03:31.780 Also haben wir eine Addition-Theorie für die Gamma-Verteilung. 03:33.300 --> 03:39.140 Um dies zu verbessern, haben wir eine sogenannte Beta-Funktion. 03:39.340 --> 03:42.540 Dieser berühmte Intervall nennt sich die Beta-Funktion. 03:43.000 --> 03:47.880 Alpha und Beta sind positive Parameter, und sie können durch die Gamma 03:47.880 --> 03:48.340 -Funktion ausgesprochen werden. 03:48.880 --> 03:52.480 Dies ist also eine wichtige Funktion, und dies gibt auch einen 03:52.480 --> 03:55.760 Aufstieg zu einer neuen Verteilung, die Beta-Verteilung nennt. 03:56.120 --> 04:00.900 Die Densität ist also nichts mehr als das Integral, und man muss es 04:00.900 --> 04:06.520 durch das Reziprokal der rechten Seite verteilen, um ein Integral zu 04:06.520 --> 04:08.760 bekommen, welches ein ist, über den ganzen Raum. 04:09.360 --> 04:14.500 Wenn man identisch verteilte randome Verteilungen hat, z.B. 04:14.580 --> 04:21.200 Z1 und ZK, die normal verteilt sind, dann hat die Summe der 04:21.200 --> 04:26.360 Zehenspitzen eine sogenannte Chi-Zehenspitze-Verteilung mit K-Graden 04:26.360 --> 04:26.940 der Freiheit. 04:27.620 --> 04:29.200 Also diese griechische Zehenspitze-Verteilung. 04:32.940 --> 04:36.020 Dies ist ein besonderer Fall der Gamma-Verteilung. 04:36.260 --> 04:39.740 Wenn man das mit der Gamma-Densität vergleicht, ist es ein besonderer 04:39.740 --> 04:40.000 Fall. 04:40.480 --> 04:44.200 Wir hatten auch ein Konvolution-Theorem, in dem wir die Densität 04:44.200 --> 04:48.060 ausgewertet haben, und dann haben wir endlich die sogenannte 04:48.060 --> 04:53.820 Quantalsfunktion eingeführt, die jede Nummer p, die strikt positiv und 04:53.820 --> 05:00.720 weniger als 1 ist, in etwas, das f-1 von p ist, das das Infimum aller 05:00.720 --> 05:03.600 x ist, sodass f von x mindestens p ist. 05:03.720 --> 05:07.520 Das ist die Quantalsfunktion, und wir haben natürlich Quantale 05:07.520 --> 05:07.540 definiert. 05:07.960 --> 05:09.900 Wir haben spezielle Quantale definiert, z.B. 05:09.960 --> 05:16.000 das Median, das der Quantal ist, der p-einhalb oder 0,5. 05:16.240 --> 05:19.880 Und wenn die gewöhnliche Variante x eine Distribution hat, die 05:19.880 --> 05:24.480 symmetrisch um eine gewöhnliche Werte a ist, also das ist Symmetrie, 05:25.340 --> 05:31.520 dann haben wir gesehen, und das ist eine genügende Bedingung, wenn der 05:31.520 --> 05:37.060 Derivativ von f existiert, der Punkt a ist und positiv ist, dann ist 05:37.060 --> 05:42.300 die Erwartung a, dafür brauchen wir nicht das Derivativ, aber dann 05:42.300 --> 05:46.080 gibt es ein einzigartiges Median, und das ist also auch a. 05:47.260 --> 05:51.820 Diese Bedingung regt nur aus, sagen wir mal, ein konstantes Intervall 05:51.820 --> 05:52.400 von f. 05:53.500 --> 05:57.300 Okay, also das waren die Hauptergebnisse der letzten Lesung. 05:59.760 --> 06:05.200 Okay, wir starten mit einer neuen Verteilung, der Log 06:05.200 --> 06:07.640 -Normalverteilung, die große Bedeutung hat. 06:08.840 --> 06:12.920 In der Finanzmathematik z.B., wenn man an das sogenannte Black-Scholes 06:12.920 --> 06:16.000 -Modell glaubt, was Sie noch kennenlernen, dann folgen eben 06:16.000 --> 06:19.160 Aktienkurse solchen Log-Normalverteilungen. 06:19.880 --> 06:22.440 Das ist ein multiplikatives Modell, wie wir gleich sehen werden. 06:23.620 --> 06:26.800 Eine Zufallsvariable x hat eine Log-Normalverteilung, jetzt kommt 06:26.800 --> 06:30.500 etwas, was Sie gleich vergessen können, aber ich sage Ihnen, was 06:30.500 --> 06:31.060 wichtig ist. 06:31.100 --> 06:34.500 Die Parameter sind µ und σ², genau wie bei der Normalverteilung. 06:35.700 --> 06:38.240 Also µ beliebig, σ² positiv. 06:38.680 --> 06:41.480 Falls x folgende Dichte besitzt, die sieht so aus. 06:42.540 --> 06:48.020 Sie sehen, dort taucht das x auf im Vorfaktor, vorm Exponenten, im 06:48.020 --> 06:48.320 Nenner. 06:48.760 --> 06:51.840 Das ist also für x positiv und ansonsten ist die Dichte gleich null 06:51.840 --> 06:52.240 gesetzt. 06:52.660 --> 06:55.080 Also das wäre die Dichte dieser Log-Normalverteilung. 06:55.580 --> 06:58.580 Ich merke mir die nicht auswendig, aber ich kann sie jederzeit wieder 06:58.580 --> 07:00.180 herleiten und ich sage Ihnen, wie das geht. 07:00.880 --> 07:02.440 Das ist eine ganz einfache Geschichte. 07:02.580 --> 07:05.220 Die Verteilung entsteht nämlich aus der Normalverteilung. 07:05.300 --> 07:06.660 Das ist erstmal die Erzeugungsweise. 07:07.020 --> 07:11.680 Wir schreiben kurz x Schlange Ln Log-Normalverteilung. 07:12.160 --> 07:14.840 Sie hat nämlich was mit dem Logarithmus zu tun, den sieht man da oben 07:14.840 --> 07:15.980 schon, im Exponenten. 07:16.860 --> 07:21.540 Und zwar gilt folgendes, wenn y eine Normalverteilung hat mit µ und 07:21.540 --> 07:29.660 σ², genau dann hat x und x ist nichts anderes als e hoch y hat diese 07:29.660 --> 07:31.200 logarithmische Normalverteilung. 07:32.700 --> 07:35.640 Das heißt, wir haben einfach nur die e-Transformation aus einer 07:36.200 --> 07:36.600 Normalverteilung. 07:37.360 --> 07:40.740 Durch diese Transformation spielt sich dann die gesamte Verteilung nur 07:40.740 --> 07:43.620 ab auf der positiven Halbachse. 07:44.800 --> 07:46.860 Und Sie können auch umgekehrt schließen. 07:46.980 --> 07:50.300 Das heißt, wenn Sie mit so einer Log-Normalverteilung starten, bilden 07:50.300 --> 07:52.980 Sie den Logarithmus dieser Zufallsvariante, dann hat der eine 07:52.980 --> 07:53.920 Normalverteilung. 07:54.460 --> 07:59.980 Sie kommen von e hoch y zurück, von e hoch y zurück zu x, indem Sie 07:59.980 --> 08:02.140 dann einfach den natürlichen Logarithmus bilden. 08:02.140 --> 08:03.760 Das ist also die eine Aussage. 08:04.040 --> 08:06.960 Damit kann man sehr einfach die Verteilung herleiten, denn ich kenne 08:06.960 --> 08:10.940 die Verteilungsfunktion von x und damit kenne ich auch die von y. 08:11.140 --> 08:13.000 Das ist eine einfache monotone Transformation. 08:14.580 --> 08:16.420 Der Erwartungswert sieht so aus. 08:17.400 --> 08:19.300 Der Median ist e hoch µ. 08:19.400 --> 08:22.120 Sie sehen, der Erwartungswert ist größer als der Median. 08:23.300 --> 08:28.940 Und dann gibt es noch etwas, die Stelle, an der die Dichte f ihr 08:28.940 --> 08:34.600 Maximum annimmt, das ist argmax von f, ist e hoch µ minus σ². 08:34.800 --> 08:36.920 Sie sehen, das ist offenbar kleiner als der Median. 08:38.020 --> 08:39.880 Das ist der sogenannte Modalwert. 08:41.080 --> 08:46.640 Insbesondere spricht man von Modalwert bei sogenannten unimodalen 08:46.640 --> 08:50.620 Verteilungen, Dichten, die sozusagen nur ein Maximum haben. 08:52.240 --> 08:53.880 Wir werden gleich hier ein Bild sehen. 08:54.560 --> 08:57.940 Zum Beispiel bei der Normalverteilung wäre der Modalwert genau die 08:57.940 --> 09:00.340 Stelle, wo die Dichte ihr Maximum hat, und das ist µ. 09:01.100 --> 09:03.060 Das ist auf dem neuen Übungsblatt. 09:03.320 --> 09:04.880 Das sind also einfache Übungsaufgaben. 09:05.320 --> 09:07.520 Beim Erwartungswert müssen wir ein bisschen rechnen. 09:08.600 --> 09:12.360 Da ist immer einfach nur die Frage, wie kann ich geschickt dann 09:12.360 --> 09:16.100 substituieren, sodass ich auf irgendein Integral komme, das ich kenne. 09:17.600 --> 09:22.400 Hier nochmal der wichtige Zusammenhang, y normalverteilt, genau dann, 09:22.500 --> 09:25.600 wenn e hoch y, das nennen wir dann x, diese logarithmische 09:25.600 --> 09:26.800 Normalverteilung besitzt. 09:26.880 --> 09:30.720 Die Dichte sieht dann so aus, hier ist x, also das ist die typische 09:30.720 --> 09:33.780 Gestalt, das wäre f von x, für positives x. 09:34.420 --> 09:39.420 Also relativ schnelles Ansteigen und dann fällt es eben, das ist hier 09:39.420 --> 09:42.480 der Modalwert, wo das Maximum angenommen wird. 09:43.260 --> 09:46.600 Danach kommt der Median, also an dieser Stelle ist die Hälfte der 09:46.600 --> 09:47.760 Fläche aufgelaufen. 09:48.340 --> 09:49.620 So können Sie das interpretieren. 09:50.080 --> 09:53.480 Aber der Erwartungswert ist der Schwerpunkt dieser Verteilung und der 09:53.480 --> 09:56.420 Erwartungswert liegt noch rechts vom Median. 09:56.900 --> 09:59.620 Hier geht also wirklich die Masse ein, das geht ja bis unendlich. 09:59.720 --> 10:00.900 Das ist eben das Entscheidende. 10:02.080 --> 10:07.180 In den Erwartungswert geht die andere Masse rechts davon auch noch 10:07.180 --> 10:07.340 ein. 10:07.500 --> 10:09.880 Ich kann ja das nicht bis zu Ende zeichnen. 10:10.580 --> 10:13.420 Das ist hier, man nennt so eine Verteilung rechtsschief, die Dichte 10:13.880 --> 10:14.280 rechtsschief. 10:15.760 --> 10:20.700 Wenn Sie das zum Beispiel spiegeln würden an der Achse, wo der Median 10:20.700 --> 10:23.120 ist, dann hätten Sie eine sogenannte linksschiefe Verteilung. 10:23.600 --> 10:26.780 Die fängt erst langsam an, hat sie irgendwo ein Maximum, dann fällt 10:26.780 --> 10:27.460 sie schnell ab. 10:28.140 --> 10:29.940 Hier, die Verteilung nennt man rechtsschief. 10:30.300 --> 10:31.900 Ist jedenfalls keine symmetrische Dichte. 10:32.920 --> 10:35.240 Folgendes sollte man beachten, stellen Sie sich vor, Sie haben 10:35.240 --> 10:40.320 unabhängige Zufallsvariablen und die haben alle Log-Normalverteilungen 10:40.320 --> 10:45.000 mit unter Umständen unterschiedlichen Parameterpaaren, µj und σj². 10:45.620 --> 10:46.820 So gilt Folgendes. 10:47.220 --> 10:48.380 Nehmen Sie mal das Produkt. 10:50.260 --> 10:52.380 So, ich behaupte, das hat eine Log-Normalverteilung. 10:53.240 --> 10:56.000 Wir kommen also hier bei Produktbildung nicht aus der Klasse der Log 10:56.000 --> 10:57.060 -Normalverteilung raus. 10:57.180 --> 11:00.220 Nun, das ist äquivalent dazu, nachdem was ganz oben steht, wenn ich 11:00.220 --> 11:03.580 zeigen könnte, dass der Logarithmus davon eine Normalverteilung hat, 11:03.620 --> 11:04.280 wäre ich fertig. 11:04.940 --> 11:06.780 Bilden Sie den Logarithmus in Gedanken. 11:07.260 --> 11:09.760 Logarithmus eines Produktes ist Summe der Logarithmen. 11:11.480 --> 11:14.780 Die einzelnen Logarithmen sind normal verteilt und unabhängig. 11:15.000 --> 11:16.500 Und da haben wir das Additionsgesetz. 11:16.500 --> 11:23.000 Also hat das eine logarithmische Normalverteilung und da addieren sich 11:23.000 --> 11:27.840 jeweils auch die Parameter, die µs und die σj² addieren sich auf. 11:29.000 --> 11:32.120 Das heißt, das entspricht dem Additionsgesetz für die 11:32.120 --> 11:35.680 Normalverteilung, entspricht hier einem Multiplikationsgesetz im 11:35.680 --> 11:37.900 Bereich der logarithmischen Normalverteilung. 11:42.780 --> 11:47.060 Gut, hier nochmal das Memo, das war die Quantilfunktion, auf die 11:47.060 --> 11:48.300 möchte ich noch zu sprechen kommen. 11:49.100 --> 11:51.860 Jetzt und zwar mit zwei wichtigen Sätzen. 11:52.220 --> 11:56.980 Das eine ist nochmal die Quantiltransformation und zwar jetzt so, dass 11:56.980 --> 12:00.800 wenn ich mit einer Verteilungsfunktion f starte, dann kann ich 12:00.800 --> 12:04.880 folgendes machen, wenn ich eine Zufallsvariable habe, ich nenne sie u, 12:05.040 --> 12:07.860 die eine Gleichverteilung hat im Einheitsintervall und immer daran 12:07.860 --> 12:10.940 denken, diese Gleichverteilung können Sie simulieren mit Pseudo 12:10.940 --> 12:11.720 -Zufallszahlen. 12:11.720 --> 12:15.940 Dann ist das Entscheidende, diese Aussage, ich bekomme ein x, dadurch, 12:16.080 --> 12:20.480 dass ich einfach die Quantiltransformation auf das u anwende, f hoch 12:20.480 --> 12:24.080 minus 1 von u und hier entsteht eine Zufallsvariable, die die 12:24.080 --> 12:25.480 Verteilungsfunktion f besitzt. 12:26.500 --> 12:30.380 Das bedeutet, ganz konkret beim Simulieren, wenn ich das f hoch minus 12:30.380 --> 12:35.840 1 einfach erhalten kann, dann kann ich sofort, erzeuge erst ein u, 12:36.500 --> 12:39.620 dann bilde diesen Algorithmus f hoch minus 1 von dem u und dann hast 12:39.620 --> 12:43.160 du eine Pseudo-Zufallszahl, die diese Verteilungsfunktion f hat. 12:43.480 --> 12:48.440 Also Simulation von Verteilungen steckt hier hinter, als eine mögliche 12:48.440 --> 12:52.240 Anwendung und man nennt das manchmal auch in dem Bereich die 12:52.240 --> 12:53.700 Inversionsmethode. 12:54.700 --> 12:57.320 Denken Sie einfach auch an die Inverse, manchmal lässt sich eine 12:57.320 --> 13:01.380 Verteilungsfunktion, ist eben streng monoton wachsend und wir können 13:01.380 --> 13:03.020 direkt auch die Inverse bilden. 13:03.700 --> 13:07.060 So entsteht dann eine Zufallsvariable mit Verteilungsfunktion f. 13:07.060 --> 13:08.440 Der Beweis ist ganz einfach. 13:09.680 --> 13:13.840 Wenn ich ein beliebiges x aus R hernehme und ein p, Strick positiv, 13:13.980 --> 13:17.780 Strick kleiner 1, dann gilt folgendes, schauen Sie in die Definition 13:17.780 --> 13:22.580 dort, wenn f von x größer gleich p ist, dann muss notwendigerweise das 13:22.580 --> 13:26.200 x mindestens, also größer gleich f hoch minus 1 von p sein. 13:26.460 --> 13:27.640 Die Umkehrung gilt auch. 13:28.020 --> 13:31.980 Wenn x größer gleich f hoch minus 1 von p ist, dann ist f von x größer 13:31.980 --> 13:32.460 gleich p. 13:34.160 --> 13:38.080 Das heißt, diese Äquivalenz, das ist alles, was wir brauchen. 13:38.840 --> 13:42.320 Wenn wir uns das ansehen, dann können wir jetzt sagen, jetzt versuche 13:42.320 --> 13:44.780 ich mal die Verteilungsfunktion von der Zufallsvariable x zu 13:44.780 --> 13:45.220 bestimmen. 13:45.380 --> 13:48.020 Das ist die Wahrscheinlichkeit, dass dieses x ein Wert anmimmt, 13:48.100 --> 13:50.520 kleiner gleich x, als Funktion von dem kleiner gleich x. 13:50.640 --> 13:53.060 Jetzt setze ich für x ein, f hoch minus 1 von u. 13:53.500 --> 13:54.560 Das ist das, was da oben ist. 13:54.800 --> 13:56.040 Jetzt sehen Sie diese Ungleichung. 13:56.320 --> 13:58.840 Sie müssen jetzt die Ungleichheitszeichen woanders herum lesen. 13:58.920 --> 14:01.380 Ganz auf der rechten Seite steht f hoch minus 1 von p. 14:01.780 --> 14:04.040 Für das p setze ich jetzt ein u. 14:04.600 --> 14:07.580 Sie müssen immer daran denken, das ist ja nur die Abkürzung von die 14:07.580 --> 14:12.040 Wahrscheinlichkeit der Menge aller Klein-Omega aus Groß-Omega mit der 14:12.040 --> 14:16.880 Eigenschaft f hoch minus 1 von u von Omega kleiner gleich x. 14:17.040 --> 14:18.460 Das ist immer unsere Abkürzung. 14:19.360 --> 14:23.000 Und f hoch minus 1 von u von Omega kleiner gleich x, u von Omega ist 14:23.000 --> 14:26.440 unser Klein-x da drüben, in der Ungleichung direkt drüber. 14:27.140 --> 14:29.560 Das heißt, wenn ich das einsetze, dann sieht man, das ist die 14:29.560 --> 14:33.120 Wahrscheinlichkeit, dass das u das entspricht dem p, jetzt links vom 14:33.120 --> 14:35.720 Äquivalenzpfeil, kleiner gleich f von x ist. 14:37.000 --> 14:39.620 So, das u hat aber eine Gleichverteilung auf dem Einheitsintervall. 14:39.700 --> 14:42.820 Die Wahrscheinlichkeit, dass u kleiner gleich einem Wert ist, ist die 14:42.820 --> 14:45.060 Länge des Intervalls von 0 bis zu diesem Wert. 14:45.620 --> 14:46.840 Und der Wert ist f von x. 14:47.060 --> 14:50.940 Also kommt daraus f von x und damit sehen wir, das galt für jedes x 14:50.940 --> 14:54.480 aus R, die Verteilungsfunktion von dieser Zufallswahl ist das f. 14:55.780 --> 14:57.060 Ganz einfacher Beweis. 14:58.880 --> 15:00.500 Ok, direkte Anwendung. 15:00.840 --> 15:03.700 Wir haben das sogar schon gehabt, ohne die Quantiltransformation zu 15:03.700 --> 15:03.940 kennen. 15:04.820 --> 15:06.800 Exponentialverteilung, die kann man sehr einfach erzeugen. 15:07.520 --> 15:10.280 Die Verteilungsfunktion der Exponentialverteilung sieht so aus. 15:10.900 --> 15:12.780 Also 1 minus irgendein Lambda x. 15:13.020 --> 15:16.560 Das können Sie direkt, wenn Sie das gleich p setzen, können Sie direkt 15:16.560 --> 15:20.160 das p-Quantil ausrechnen, die Gleichung nach x auflösen. 15:20.260 --> 15:23.860 Das heißt, setzen wir das gleich p, f von x gleich p, dann sehen Sie, 15:23.980 --> 15:28.120 müssen das 1 minus rüberbringen, dann müssen Sie e hoch wegbringen, 15:28.260 --> 15:32.720 das heißt, Sie müssen den Logarithmus bilden und um dann an das x zu 15:32.720 --> 15:36.180 kommen, müssen Sie nochmal mit minus 1 multiplizieren und dann nochmal 15:36.180 --> 15:37.540 durch Lambda teilen. 15:37.640 --> 15:40.200 So kommen Sie an das x, das heißt, wir lösen das direkt auf und 15:40.200 --> 15:41.240 erhalten x ist das. 15:42.220 --> 15:43.120 Direkt aus dem p. 15:43.840 --> 15:46.560 Jetzt sehen Sie, Sie haben hier die Abbildung f von minus 1, Sie haben 15:46.560 --> 15:49.520 hier direkt die Umkehrabbildung und das bedeutet, wenn Sie jetzt 15:49.520 --> 15:53.120 starten, x ist jetzt minus 1 durch Lambda, sehen Sie, Logarithmus von 15:53.120 --> 15:55.900 1 minus u hat diese Exponentialverteilung. 15:55.980 --> 15:59.060 Sie können sie so einfach erzeugen und wir hatten das schon am Anfang 15:59.060 --> 16:03.320 gehabt, nachdem wir die Exponentialverteilung hatten, haben wir diesen 16:03.320 --> 16:05.340 Zusammenhang mit der Gleichverteilung schon gehabt. 16:06.200 --> 16:09.380 Also immer wenn Sie f auf minus 1 sehr einfach haben, dann haben Sie 16:09.380 --> 16:12.780 eine gute Möglichkeit, direkt eine Zufallsvariable zu erzeugen mit 16:12.780 --> 16:15.260 dieser Verteilungsfunktion f. 16:17.700 --> 16:21.660 Ja, nochmal das Ganze, eine weitere Folie und auch eine wichtige 16:21.660 --> 16:24.580 Transformation, jetzt geht es in die andere Richtung, die 16:26.520 --> 16:26.920 Wahrscheinlichkeitsintegraltransformation. 16:28.160 --> 16:31.640 So, hier sehen Sie etwas, was blau unterlegt ist. 16:31.920 --> 16:34.700 Sie haben eine Zufallsvariable mit stetiger Verteilungsfunktion. 16:34.820 --> 16:37.840 Das ist hier eine notwendige und hinreichende Bedingung für das, was 16:37.840 --> 16:38.400 jetzt kommt. 16:39.340 --> 16:40.140 Stetige Verteilungsfunktion. 16:40.820 --> 16:45.040 Dann hat, jetzt sehen Sie, jetzt bilden wir auf das x, lassen wir das 16:45.040 --> 16:45.620 f los. 16:47.020 --> 16:49.920 Und da f eine Verteilungsfunktion ist, die Werte, die rauskommen, sind 16:49.920 --> 16:51.040 Werte im Einheitsintervall. 16:51.140 --> 16:56.460 Das heißt, diese Zufallsvariable u als f von X hat, nimmt nur Werte an 16:56.460 --> 16:57.720 im Intervall von 0 bis 1. 16:57.880 --> 17:01.320 Und ich behaupte, da kommt die Gleichverteilung raus im 17:01.320 --> 17:02.140 Einheitsintervall. 17:05.910 --> 17:07.350 Hier brauche ich aber die Stetigkeit. 17:08.050 --> 17:09.930 Wenn ich die nicht hätte, sieht man sofort, wenn die 17:09.930 --> 17:12.030 Verteilungsfunktion unstetig ist, habe ich Sprungstellen. 17:12.570 --> 17:13.230 Mindestens eine. 17:14.030 --> 17:16.350 Und dann können gewisse Werte im Einheitsintervall gar nicht 17:16.350 --> 17:17.170 angenommen werden. 17:17.330 --> 17:19.550 Das kann überhaupt nicht die Gleichverteilung rauskommen. 17:19.650 --> 17:22.070 Es können nicht nur einzelne Werte, sondern ganze Intervalle können 17:22.070 --> 17:22.970 nicht angenommen werden. 17:23.610 --> 17:26.790 Das heißt, die Stetigkeit ist hier eine notwendige Bedingung, damit 17:26.790 --> 17:28.470 hier die Gleichverteilung rauskommen kann. 17:30.130 --> 17:31.770 Die Bedingung ist aber auch hinreichend. 17:32.070 --> 17:35.190 Man nennt erstmal diese Transformation, die dem x zuordnet, f von X 17:37.030 --> 17:37.450 Wahrscheinlichkeitsintegraltransformation. 17:37.750 --> 17:38.290 So heißt die. 17:39.930 --> 17:41.490 So sehen wir uns mal den Beweis an. 17:42.270 --> 17:46.710 Es gilt, das, was wir eben schon hatten, f von x größer gleich p, 17:46.830 --> 17:49.950 genau dann, wenn x größer gleich f hoch minus 1 von p ist. 17:50.250 --> 17:51.110 Das ist das eine. 17:51.710 --> 17:56.410 Dann die Verteilungsfunktion f, wenn ich sie auswerte an dieser 17:56.410 --> 18:00.530 Stelle, f hoch minus 1 von p, oben sehen, das ist das Infimum aller x 18:00.530 --> 18:02.090 mit f von x größer gleich p. 18:02.470 --> 18:04.470 Der Funktionswert ist auch größer gleich p. 18:04.570 --> 18:06.870 Ich habe rechtzeitige Stetigkeit, das ist wichtig. 18:07.110 --> 18:09.150 f an dieser Stelle ist größer gleich p. 18:10.110 --> 18:12.730 Es könnte Ihnen aber passieren, dass hier strikt größer steht. 18:14.870 --> 18:18.490 Wenn Sie dort mit dem p in einen Sprungintervall reinlaufen. 18:18.770 --> 18:20.650 Wir haben das schon bei der Quantilfunktion gehabt. 18:20.750 --> 18:21.630 Wir haben ein Bild gesehen. 18:22.170 --> 18:26.650 Es ist aber f von f hoch minus 1 von p gleich p, falls wirklich dort 18:26.650 --> 18:28.690 der Wert p angenommen wird. 18:29.010 --> 18:32.490 Falls es ein x gibt mit f von x gleich p, dann kommt da auch der Wert 18:32.490 --> 18:33.250 gleich p raus. 18:33.370 --> 18:33.930 Das brauchen wir. 18:33.990 --> 18:34.630 Mehr brauchen wir nicht. 18:35.170 --> 18:36.130 Jetzt mache ich Folgendes. 18:36.730 --> 18:40.470 Ich rechne erstmal die Wahrscheinlichkeit aus, dass dieses f von x 18:40.470 --> 18:41.850 kleiner ist als p. 18:41.970 --> 18:43.910 Das ist natürlich noch nicht die Verteilungsfunktion. 18:44.310 --> 18:45.910 Da müsste ich kleiner gleich haben. 18:46.710 --> 18:47.650 Ich mache erstmal kleiner. 18:48.050 --> 18:49.830 Kleiner ist insofern besonders einfach. 18:50.210 --> 18:55.030 Schauen Sie sich diese Ungleichungsäquivalenz an, wo der Beweis steht. 18:55.670 --> 18:59.370 Es gilt natürlich dann auch, f von x ist kleiner p, genau dann, wenn, 18:59.450 --> 19:01.950 jetzt müssen Sie auf der rechten Seite auch größer gleich durch 19:01.950 --> 19:06.050 kleiner ersetzen, wenn x kleiner f hoch minus 1 von p ist. 19:06.470 --> 19:09.530 Das heißt, das ist gleichbedeutend damit, ist die Wahrscheinlichkeit, 19:09.670 --> 19:12.350 dass x kleiner ist als f hoch minus 1 von p. 19:14.310 --> 19:17.210 Die Wahrscheinlichkeit, dass eine Zufallswert kleiner ist als ein 19:17.210 --> 19:20.610 Wert, wissen wir, ist der linksseitige Grenzwert der 19:20.610 --> 19:22.570 Verteilungsfunktion an dieser Stelle. 19:22.830 --> 19:25.930 Also ist das Verteilungsfunktion, jetzt sehen Sie den linksseitigen 19:25.930 --> 19:30.590 Grenzwert, f hoch minus 1 von p minus, heißt linksseitiger Grenzwert. 19:30.710 --> 19:33.530 Nun ist aber die Verteilungsfunktion f stetig. 19:34.030 --> 19:38.750 Der linksseitige Grenzwert ist gleich dem Funktionswert an der Stelle, 19:38.850 --> 19:43.430 das ist also f von f hoch minus 1 von p und f von f hoch minus 1 von p 19:43.430 --> 19:45.830 steht schräg links drüber, ist p. 19:46.510 --> 19:50.890 Das heißt, wir erhalten für jedes p, strikt zwischen 0 und 1, ist 19:50.890 --> 19:52.670 diese Wahrscheinlichkeit gleich p? 19:52.830 --> 19:54.350 Na, ich will aber auf das kleiner gleich kommen. 19:54.650 --> 19:57.110 Und dann nutze ich jetzt die Stetigkeit von oben aus, und 19:57.750 --> 19:58.970 Wahrscheinlichkeitsmaß ist stetig von oben. 19:59.390 --> 20:04.130 Das heißt, diese Wahrscheinlichkeit erhalte ich als ein Grenzwert der 20:04.130 --> 20:08.430 Wahrscheinlichkeiten f von x strikt kleiner p plus 1 durch n. 20:08.590 --> 20:11.010 Und wenn ich n gegen unendlich gehen lasse, erhalte ich das. 20:12.570 --> 20:15.790 Das heißt, das Wahrscheinlichkeitsmaß p, oder hier die Verteilung von 20:15.790 --> 20:18.590 x oder von f von x, stetig von oben. 20:19.010 --> 20:22.350 Und Sie sehen hier, bei kleiner habe ich natürlich immer den Wert, der 20:22.350 --> 20:24.290 da rechts steht, also p plus 1 durch n. 20:24.390 --> 20:27.230 Und der Lime ist p plus 1 durch n für n gegen unendliches p. 20:27.910 --> 20:31.570 Das heißt, wir sehen, ganz egal wie das p ist im Einheitsintervall, 20:31.570 --> 20:34.170 die Wahrscheinlichkeit f von x kleiner gleich p ist p. 20:34.650 --> 20:37.590 Und damit haben wir nachgewiesen, dass eine Gleichverteilung 20:37.590 --> 20:38.110 herauskommt. 20:38.930 --> 20:41.390 Diese Transformation ist wichtig, auch in der Statistik. 20:41.990 --> 20:47.710 Es gibt sehr viele Tests, die wenig Verteilungsvoraussetzungen machen, 20:48.610 --> 20:51.790 die dann nur auf sogenannten Rängen basieren, auf geordneten 20:51.790 --> 20:52.530 Stichproben. 20:52.890 --> 20:53.670 Wichtige Tests. 20:54.570 --> 20:58.630 Und die benutzen zur Behandlung der Theorie diese Transformation, 20:58.630 --> 21:00.550 diese Wahrscheinlichkeitsintegral-Transformation. 21:01.850 --> 21:03.530 Das ist also eine Reduktion. 21:06.830 --> 21:10.490 Ich möchte abschließend in dem Kapitel noch einen wichtigen Begriff 21:10.490 --> 21:12.930 ansprechen, nämlich den der Kovarianzmatrix. 21:14.950 --> 21:18.770 Wir werden alle Vektoren jetzt als Spaltenvektoren verstehen und für 21:18.770 --> 21:22.590 den Spaltenvektor x sei x oben transponiert der zu x transponierte 21:22.590 --> 21:23.350 Zeilenvektor. 21:23.630 --> 21:26.510 Spaltenvektoren deshalb, das ist manchmal bequem, wie schon mal 21:26.510 --> 21:29.870 gesagt, wenn wir dann mit Matrizen multiplizieren, also Matrix A mal 21:29.870 --> 21:31.010 ein Vektor. 21:31.190 --> 21:34.570 Das ist dann besonders schön, also Spaltenvektoren sein das ab jetzt. 21:35.410 --> 21:37.970 Jeder auftretende Erwartungswert möge existieren. 21:38.190 --> 21:39.750 Das muss man dann jeweils nachprüfen. 21:40.130 --> 21:41.630 Damit halte ich mich jetzt nicht auf. 21:41.850 --> 21:43.710 Und jetzt kommt folgendes. 21:44.790 --> 21:45.470 Eine Schreibweise. 21:45.910 --> 21:48.770 Stellen Sie sich vor, Z ist eine zufällige Matrix. 21:49.030 --> 21:52.950 Sie sehen, diese Zij sind Zufallsvariablen, reelle Zufallsvariablen, 21:53.030 --> 21:55.190 die wir jetzt in Form einer Matrix anordnen. 21:56.110 --> 21:58.690 Wenn Sie so wollen, ist das nichts anderes auch als ein Zufallsvektor. 21:59.370 --> 22:02.210 Ich kann die natürlich auch zahlenweise hintereinanderschreiben wie 22:02.210 --> 22:03.110 einen ganz langen Vektor. 22:03.190 --> 22:05.130 Das ist jetzt einfach eine zufällige Matrix. 22:06.650 --> 22:11.070 Also eine m kreuz n dimensionale Matrix hier. 22:11.670 --> 22:12.710 Zufallsvektor in der Form. 22:12.950 --> 22:17.070 Und jetzt definieren wir einfach der Erwartungswert von diesem Z, dass 22:17.070 --> 22:20.210 wir das komponentenweise machen, nämlich jeder Eintrag, bei jedem 22:20.210 --> 22:22.150 Eintrag wird der Erwartungswert gebildet. 22:22.310 --> 22:25.530 Erwartungswert einer Matrix ist Matrix der Erwartungswerte. 22:27.910 --> 22:31.250 Also insbesondere sieht man, ich habe jetzt auch den Erwartungswert 22:31.250 --> 22:34.570 eines Zufallsvektors definiert, ist einfach der Vektor der 22:34.570 --> 22:37.090 Erwartungswerte der Komponenten. 22:37.450 --> 22:39.690 Es ist also bequem, das so zu machen. 22:40.070 --> 22:44.090 Jetzt kommen die Begriffe Erwartungswert, Vektor und Kovariancematrix. 22:44.770 --> 22:47.350 Stellen Sie sich vor, Sie haben einen k-dimensionalen Zufallsvektor, 22:47.530 --> 22:51.290 die Einträge sind reellwertige Zufallsvariablen hier, die Komponenten. 22:51.670 --> 22:54.410 Dann ist eben E von X in dem Sinne oben. 22:54.830 --> 22:59.670 Ich nehme also nichts anderes als den Vektor der Erwartungswerte und 22:59.670 --> 23:01.210 schreibe ihn dann als Spaltenvektor. 23:01.650 --> 23:03.930 Das nennt man den Erwartungswertvektor von X. 23:04.630 --> 23:08.370 Und jetzt kommt eine Matrix, Sigma von X, wird die üblicherweise 23:08.370 --> 23:08.990 bezeichnen. 23:09.410 --> 23:12.870 Das ist nichts anderes als die Matrix, die aus den Kovarianzen 23:12.870 --> 23:13.290 besteht. 23:13.490 --> 23:17.490 Sie sehen in der Idenzeile und in der J-Spalte steht die Kovariance 23:17.490 --> 23:18.990 von XI und XJ. 23:19.350 --> 23:22.470 So erhalten Sie eine Matrix, in dem Fall eine K-Kreuz-K-Matrix. 23:22.810 --> 23:24.510 Das ist die Kovariancematrix von X. 23:25.270 --> 23:28.470 Speziell in der Diagonalen, wenn Sie I gleich J setzen bei dieser 23:28.470 --> 23:31.650 Kovariancematrix, die Kovariance von XI mit sich selbst ist die 23:31.650 --> 23:32.250 Varianz. 23:32.810 --> 23:34.630 In der Diagonalen stehen also die Varianzen. 23:36.110 --> 23:38.930 Und außerhalb der Diagonalen die echten Kovarianzen zwischen 23:38.930 --> 23:39.970 verschiedenen Komponenten. 23:40.890 --> 23:44.490 Sie können sofort sagen, naja, wenn die Komponenten unabhängig sind, 23:44.590 --> 23:47.070 dann sind die Kovarianzen alle null und schon erhalte ich eine 23:47.070 --> 23:48.190 Diagonalmatrix. 23:48.410 --> 23:50.530 Dann ist die Kovariancematrix eine Diagonalmatrix. 23:51.510 --> 23:54.230 Und wir wissen, bei Unabhängigkeit sind die Kovarianzen null. 23:55.910 --> 23:56.070 Okay. 23:56.570 --> 23:57.730 Also das wäre hier eine Bildung. 23:58.270 --> 23:59.290 So, nochmal das Memo. 23:59.710 --> 24:02.890 Das wäre die Kovariancematrix, die Matrix der Kovarianzen. 24:02.990 --> 24:04.770 Und wie war nochmal die Kovariance definiert? 24:05.450 --> 24:07.030 Sie sehen, es ist ein Erwartungswert. 24:07.130 --> 24:11.070 Ich habe vorher zentriert XI, davon wird der Erwartungswert 24:11.070 --> 24:14.070 subtrahiert, von XJ dort auch, dann nehme ich das Produkt und dann 24:14.070 --> 24:16.110 bilde ich den Erwartungswert. 24:16.830 --> 24:17.750 So war das definiert. 24:17.850 --> 24:18.870 Folgendes sollte man beachten. 24:19.690 --> 24:24.270 Man kann die Kovariancematrix kurz so schreiben als Erwartungswert. 24:25.270 --> 24:30.370 Jetzt sehen Sie, der Spaltenvektor X-EvanX ist ein Spaltenvektor, mal 24:30.370 --> 24:32.810 der Zeilenvektor X-EvanX. 24:36.910 --> 24:39.090 Wenn Sie das ausschreiben, sieht das so aus. 24:39.270 --> 24:40.350 Das wäre der Spaltenvektor. 24:40.950 --> 24:42.270 Da sehen Sie immer die Komponenten. 24:42.270 --> 24:44.670 X1-EvanX1 und so weiter. 24:44.770 --> 24:47.970 Xn-EvanXn mal und das ist der Zeilenvektor. 24:48.350 --> 24:49.990 Hier entsteht die zufällige Matrix. 24:50.810 --> 24:55.590 Nehmen Sie das oberste Element X1-EvanX1 mal jetzt sehen Sie dort von 24:55.590 --> 25:00.570 dem Zeilenvektor die erste Komponente X1-EvanX1 und Sie haben X1 25:00.570 --> 25:04.450 -EvanX1 in Klammern zum Quadrat und davon den Erwartungswert haben Sie 25:04.450 --> 25:05.030 die Varianz. 25:05.850 --> 25:09.150 Bilden Sie die oberste Komponente vom Spaltenvektor, multiplizieren 25:09.150 --> 25:12.470 Sie mit der zweiten Komponente des Zeilenvektors und Sie erhalten die 25:12.470 --> 25:14.250 Kovarianz von X1 und X2. 25:15.410 --> 25:18.870 Sie sollten insbesondere auch sehen, wenn ich dort gar keinen Vektor 25:18.870 --> 25:22.130 habe, sondern ich habe wirklich zufallsweise, dann ist natürlich 25:22.130 --> 25:24.890 transponiert überflüssig. 25:24.990 --> 25:29.430 Das heißt, da steht oben nichts anderes als X-EvanX mal X-EvanX und 25:29.430 --> 25:32.170 schon haben Sie X-EvanX in Klammern zum Quadrat und Sie haben die 25:32.170 --> 25:32.590 Varianz. 25:36.300 --> 25:39.720 Hieraus ergeben sich unmittelbar folgende Rechenregeln für Sie als 25:39.720 --> 25:40.440 Übungsaufgabe. 25:40.440 --> 25:44.160 Sie müssen einfach nur die Eigenschaften des Erwartungswertes 25:44.160 --> 25:47.560 ausnutzen als linearen Operator. 25:48.380 --> 25:52.980 Wir haben auch gesehen, die Kovarianz ist ein bilinearer Operator. 25:53.740 --> 25:58.080 Also wenn ich so einen Zufallsvektor habe, B sei ein Spaltenvektor aus 25:58.080 --> 26:03.140 dem RhoN und A sei eine n-Kreuz-K-Matrix, dann können Sie Folgendes 26:03.140 --> 26:03.640 bilden. 26:04.080 --> 26:07.340 Sie können den neuen Zufallsvektor A mal X plus B bilden. 26:07.580 --> 26:09.980 Das ist jetzt ein n-dimensionaler Zufallsvektor. 26:10.180 --> 26:12.800 Sie sehen die Matrizenmultiplikation harmoniert. 26:12.980 --> 26:16.200 A ist n-Kreuz-K und X ist ein K-Kreuz-1-Vektor. 26:17.360 --> 26:19.820 Und Sie können natürlich fragen, was ist der Erwartungswertvektor 26:19.820 --> 26:20.300 hiervon. 26:20.760 --> 26:22.760 Und die Regel ist wie im eindimensionalen. 26:23.000 --> 26:26.340 Die Matrix A ist wie eine Konstante, die ziehen Sie nach vorne und das 26:26.340 --> 26:27.160 B ist additiv. 26:27.260 --> 26:30.140 Das heißt nichts anderes als A mal E von X plus B. 26:31.160 --> 26:33.800 Bei der Kovarianzmatrix sieht das etwas anders aus. 26:33.860 --> 26:37.320 Wenn Sie die jetzt bilden, dann sieht man allein schon, durch diese 26:37.320 --> 26:40.840 Differenzbildung X minus E von X hebt sich das B weg. 26:40.960 --> 26:41.840 Das spielt gar keine Rolle. 26:43.040 --> 26:46.540 Und die Matrix A muss in irgendeiner Weise quadratisch eingehen. 26:47.140 --> 26:50.780 Sie wissen, die Varianz von klein A mal X wenn X eine Zufallsvariante 26:50.780 --> 26:52.500 ist, ist A-Quadrat mal Varianz von X. 26:53.220 --> 26:55.720 Das muss sich natürlich hier widerspiegeln, auch im Bereich der 26:55.720 --> 26:56.560 Zufallsvektoren. 26:57.340 --> 26:58.520 Und hier kommt Folgendes raus. 26:58.960 --> 27:03.260 Sie sehen, es ist die Matrix A mal die Kovarianzmatrix von X mal A 27:03.260 --> 27:04.060 transponiert. 27:05.160 --> 27:06.860 Das ist eben das Quadratische. 27:07.000 --> 27:11.500 A geht als Vorfaktor ein und noch die transponierte von A ganz hinten. 27:13.560 --> 27:15.700 Das wäre hier eine einfache Übungsaufgabe. 27:16.040 --> 27:18.940 Die Rechenregeln sind wichtig für Erwartungswertvektoren und 27:18.940 --> 27:19.840 Kovarianzmatrix. 27:21.440 --> 27:26.040 Folgendes ist jetzt bei Kovarianzmatrixen, also muss man wissen, das 27:26.040 --> 27:28.960 ist eine wichtige Eigenschaft, die Kovarianzmatrix ist positiv 27:28.960 --> 27:31.560 semidefinit, jede Kovarianzmatrix. 27:31.560 --> 27:33.580 Das sieht man wie folgt ein. 27:34.680 --> 27:39.140 Also, Sigma von X ist symmetrisch und positiv semidefinit. 27:39.920 --> 27:44.460 Es kann sein, dass die Matrix entartet ist, also nicht regulär, nicht 27:44.460 --> 27:45.260 invertierbar. 27:46.180 --> 27:46.740 Singulär. 27:46.980 --> 27:50.660 Die Matrix ist singulär, genau dann, wenn Folgendes passiert, wenn die 27:50.660 --> 27:53.880 Verteilung von X in irgendeiner Weise entartet ist. 27:54.520 --> 27:58.920 Also genau dann, wenn es gibt einen Vektor C aus dem RK, C ist vom 27:58.920 --> 28:03.300 Nullvektor verschieden, es gibt dann noch eine reelle Zahl Gamma, dass 28:03.300 --> 28:07.660 dann Folgendes passiert, die Wahrscheinlichkeit, dass diese Beziehung 28:07.660 --> 28:11.560 besteht, C transponiert mal X ist Gamma, die Wahrscheinlichkeit ist 1. 28:11.900 --> 28:18.280 Mit anderen Worten, die Komponenten des Zufallsvektors X, nämlich X1 28:18.280 --> 28:23.720 bis XK, liegen mit Wahrscheinlichkeit 1 in einer Hyper-Ebene des RK. 28:24.660 --> 28:27.840 K-1-dimensional, höchstens von der Dimension her. 28:28.240 --> 28:32.580 Das bedeutet, nicht invertierbar, genau dann, wenn ich so ein C habe 28:33.500 --> 28:35.600 und so ein Gamma, und das kann ich so beschreiben, die 28:35.600 --> 28:38.700 Wahrscheinlichkeit, dass X in so eine Hyper-Ebene H fällt, die 28:38.700 --> 28:41.280 natürlich beschrieben ist, dort oben durch diese Gleichung, es sind 28:41.280 --> 28:45.900 diejenigen kleinen X im RK mit der Eigenschaft C transponiert X ist 28:45.900 --> 28:46.260 Gamma. 28:47.620 --> 28:53.320 Das bedeutet, im RK kann das sein, eine Ebene, es kann aber noch 28:53.320 --> 28:56.900 weiter entartet sein, dass sich im RK alles nur auf einer Geraden 28:56.900 --> 28:57.500 abspielt. 28:58.280 --> 29:01.180 Schlimmstenfalls, dass ich eine degenerierte Verteilung habe, in einem 29:01.180 --> 29:01.580 Punkt. 29:03.960 --> 29:08.400 Aber die Kurvarianzmatrix ist eben nicht invertierbar, genau dann, 29:08.520 --> 29:14.620 wenn sich die Verteilung komplett konzentriert auf eine K-1 29:14.620 --> 29:17.820 -dimensionale Hyper-Ebene, und die wird eben H hier genannt. 29:18.720 --> 29:19.360 Beweis. 29:20.560 --> 29:24.600 Die Symmetrie ist klar, Kurvarianzmatrix, Sie sehen dort, Kurvarianz 29:24.600 --> 29:26.720 ist symmetrisch in XI und XJ. 29:27.000 --> 29:29.340 Wir haben eine symmetrische Matrix, das ist einfach. 29:29.920 --> 29:34.340 Wir nehmen uns einen beliebigen Vektor C her, aus dem RK, und 29:34.340 --> 29:39.220 betrachten jetzt mal diese Doppelsumme, CI mal CJ, Kurvarianz XI und 29:39.220 --> 29:39.640 XJ. 29:40.140 --> 29:42.940 Sie wissen, aus der linearen Algebra, ich muss nachweisen, hier kommt 29:42.940 --> 29:44.640 ein Wert raus, der größer gleich Null ist. 29:44.720 --> 29:48.340 Ganz egal, wie ich die Cs gewählt habe, dann habe ich positive 29:49.140 --> 29:49.620 Semidefinität. 29:50.260 --> 29:54.760 Nun aber, das ist nichts anderes als, die Kurvarianz ist bilinear, als 29:54.760 --> 30:01.000 die Kurvarianz von Summe CI XI, I von 1 bis K, und Summe J von 1 bis 30:01.000 --> 30:02.260 K, CJ XJ. 30:03.000 --> 30:05.440 Wir wissen, wir können die Summen nach vorne ziehen, die Konstanten 30:05.440 --> 30:09.020 nach vorne ziehen, aber Sie sehen, diese beiden Summen sind identisch, 30:09.100 --> 30:11.260 einmal wird nur über I summiert und einmal über J. 30:11.860 --> 30:15.420 Da steht also nichts anderes als Kurvarianz einer Zufallswahl mit sich 30:15.420 --> 30:17.940 selbst, und das ist eine Varianz. 30:17.940 --> 30:21.900 Das bedeutet, diese Kurvarianz ist die Varianz dieser Summe, und ich 30:21.900 --> 30:25.080 könnte jetzt kurz schreiben, für diese Summe CJ XJ ist das 30:25.080 --> 30:27.440 Skalarprodukt C transponiert X. 30:28.240 --> 30:30.980 Also habe ich eine Varianz, und die Varianz ist immer größer gleich 30:30.980 --> 30:31.200 Null. 30:31.820 --> 30:34.260 Damit haben wir die positive Semidefinität. 30:35.400 --> 30:37.960 Jetzt sieht man natürlich auch sofort, wann die Entartung kommt. 30:38.300 --> 30:41.800 Wir wissen, wann kann denn eine Varianz einer Zufallswahl Null sein? 30:42.260 --> 30:45.480 Die ist genau dann Null, wenn diese Zufallswahl mit Wahrscheinlichkeit 30:45.480 --> 30:47.380 1 nur einen einzigen Wert annimmt. 30:47.960 --> 30:53.360 Das heißt, diese Varianz ist Null, wenn C transponiert X einen 30:53.360 --> 30:54.420 einzigen Wert annimmt. 30:55.120 --> 31:00.280 Sigma ist singulär, genau dann, wenn es ein C gibt, aus dem RK, was 31:00.280 --> 31:03.240 nicht der Nullvektor ist, und jetzt kommt da Null raus. 31:08.740 --> 31:10.460 Nicht der Nullvektor, wohlgemerkt. 31:10.520 --> 31:13.840 Und das ist natürlich genau dann der Fall, wenn es ein C gibt, 31:14.100 --> 31:18.360 ungleich Null, und wenn es ein Gamma gibt, derart, dass C transponiert 31:18.360 --> 31:21.720 X diese Zufallswahl, deren Varianz Null ist, nur diesen Wert Gamma 31:21.720 --> 31:22.120 annimmt. 31:22.840 --> 31:23.640 Und das war zu zeigen. 31:25.040 --> 31:31.040 Sie sehen, Kurvarianzmatrizen sind im Allgemeinen strikt positiv 31:31.040 --> 31:34.180 definiert, es sei denn, es liegt ein Entartungsfall vor. 31:34.540 --> 31:35.500 Das ist die Warnung hier. 31:36.320 --> 31:38.240 Und man hat ein einfaches Beispiel hierzu. 31:40.240 --> 31:42.680 Nämlich Multinomialverteilung. 31:43.480 --> 31:48.700 Die haben wir gehabt, das ist lange her, war ein Zufallsvektor, den 31:48.700 --> 31:52.440 müssen Sie immer assoziieren mit Experimenten mit S verschiedenen 31:52.440 --> 31:55.440 Ausgängen, Treffer erster Art und so weiter, Treffer erster Art. 31:57.700 --> 32:00.480 das sei so ein Vektor X, der habe diese Multinomialverteilung, und 32:00.480 --> 32:03.540 damals haben wir hergeleitet, die Komponenten sind jeweils binomial 32:03.540 --> 32:06.940 verteilt, das heißt, die Varianzen, das haben wir in Kapitel 14 32:06.940 --> 32:11.260 gemacht von xj, ist N mal pj mal 1 minus pj, kommt von der 32:11.700 --> 32:12.320 Binomialverteilung her. 32:12.620 --> 32:16.640 Und die Kurvarianzen kennen wir auch, die sind N minus N mal pi mal 32:16.640 --> 32:17.040 pj. 32:18.180 --> 32:21.440 An die sind wir ohne große Rechnung gekommen, durch einen Trick, weil 32:21.440 --> 32:24.460 nämlich auch xj plus xj binomial verteilt ist. 32:24.820 --> 32:27.740 Das war der Hintergrund, um sehr schnell an diese Kurvarianz zu 32:27.740 --> 32:27.960 kommen. 32:28.500 --> 32:31.620 So, jetzt kann man das sofort hinschreiben, das gilt eben für alle i 32:31.620 --> 32:33.040 ungleich j, diese Kurvarianz. 32:33.560 --> 32:36.520 Also gilt sigma von x, jetzt sehen Sie, hier habe ich das kompakt 32:36.520 --> 32:40.840 geschrieben, N mal, und dann steht da Klammer auf pi mal delta ij, 32:40.940 --> 32:42.580 delta j ist das Kronecker-Symbol. 32:42.840 --> 32:47.100 Das bedeutet, es ist 1, wenn i gleich j ist und 0, wenn i ungleich j 32:47.100 --> 32:47.360 ist. 32:48.340 --> 32:50.920 Nehmen Sie erstmal den Fall i ungleich j, dann fällt das weg, dann 32:50.920 --> 32:54.120 würde da einfach stehen, minus N mal pi mal pj, das wäre dann die 32:54.120 --> 32:54.620 Kurvarianz. 32:55.780 --> 33:00.980 Setzen Sie mal i gleich j, dann würde da stehen, N mal pj mal 1 minus 33:00.980 --> 33:05.540 pj Quadrat, das ist N mal pj mal Klammer auf 1 minus pj, und das ist 33:05.540 --> 33:06.940 die Varianz, wie es sein muss. 33:07.040 --> 33:09.560 Das heißt, wir können die Kurvarianzmatrix so kompakt hinschreiben, 33:09.960 --> 33:13.140 und jetzt sollen Sie die Aufgabe lösen, zeigen Sie bitte, dass diese 33:13.140 --> 33:14.380 Matrix singulär ist. 33:15.380 --> 33:18.280 Wenn Sie das jetzt in der Linie ein Algebra vorgelegt bekommen, dann 33:18.280 --> 33:20.140 würden Sie vielleicht die Matrix mal hinschreiben und würden 33:20.140 --> 33:22.680 vielleicht überlegen, wie komme ich da irgendwie ran? 33:22.820 --> 33:26.120 Und bei uns ist das jetzt trivial, wir wissen, wann die singulär ist, 33:26.600 --> 33:28.080 wenn eine Entartung besteht. 33:28.300 --> 33:34.200 Nun, wir wissen, die Matrix ist singulär, ohne zu rechnen, weil die 33:34.200 --> 33:37.140 Wahrscheinlichkeit, die Summe der Komponenten gleich N ist, ist 1. 33:38.360 --> 33:41.860 Das war Bestandteil der Herleitung dieser Multinomialverteilung. 33:42.720 --> 33:45.140 Groß xj ist die Anzahl der Treffer jter Art. 33:47.080 --> 33:50.760 Und die Anzahlen, die Trefferanzahlen, addieren sich auf zur 33:50.760 --> 33:51.840 Gesamtanzahl N. 33:52.680 --> 33:57.120 Das war unser Modell für die Multinomialverteilung, die entstand eben 33:57.120 --> 34:01.080 bei N-unabhängigen Versuchen, wo ich Treffer erster, zweiter und so 34:01.080 --> 34:02.080 weiter jter Art habe. 34:02.360 --> 34:06.840 Das heißt, wir haben diese Beziehung, und 0 ist die Varianz dieser 34:06.840 --> 34:07.840 Summe. 34:08.480 --> 34:11.060 Weil die Summe mit Wahrscheinlichkeit 1 den Wert N annimmt. 34:11.380 --> 34:13.500 Also ist die 0, und jetzt können Sie natürlich das wieder schreiben 34:13.500 --> 34:16.040 als Kovarianz der Summe mit sich selbst. 34:16.180 --> 34:19.740 Ich habe jetzt also i und j genommen als Summationsindizes. 34:20.200 --> 34:21.480 Das können Sie wieder so schreiben. 34:21.980 --> 34:25.020 Die Vorfaktoren, die c, i, c, j, sind natürlich hier Einsen. 34:25.180 --> 34:29.620 Das ist nichts anderes als der Zeilenvektor 1 mal die Kovarianzmatrix 34:29.620 --> 34:31.760 mal der Spaltenvektor, der aus den Einsen besteht. 34:31.900 --> 34:34.440 Und der Vektor, der aus den Einsen besteht, ist nicht der Nullvektor. 34:34.540 --> 34:35.340 Sie kriegen 0 raus. 34:35.500 --> 34:39.440 Und damit haben Sie natürlich hier gezeigt, dass die Matrix singulär 34:39.440 --> 34:41.740 ist, ohne groß zu rechnen. 34:42.820 --> 34:42.860 Okay. 34:43.840 --> 34:46.060 Ja, damit möchte ich dieses Kapitel abschließen. 34:46.840 --> 34:49.960 Und wir haben noch ein relativ kurzes, letztes Kapitel. 34:50.780 --> 34:53.700 Und zwar ist das die multivariate Normalverteilung. 34:53.800 --> 34:58.660 Und ich sollte etwas vorsichtiger formulieren, es ist die nicht 34:58.660 --> 35:02.240 ausgeartete multivariate Normalverteilung. 35:02.240 --> 35:06.460 Es gibt dort im Bereich der Normalverteilung auch Ausartungen. 35:07.560 --> 35:09.620 Und auf die will ich aber jetzt nicht eingehen. 35:11.000 --> 35:12.360 Das ist unser Memo. 35:12.500 --> 35:13.760 Sie sehen das klein Vieh von T. 35:14.060 --> 35:17.340 Das war die Dichte der Standard-Normalverteilung. 35:17.400 --> 35:19.160 Wir haben das auch Gausche-Glockenkurve genannt. 35:19.420 --> 35:22.260 Die trat schon beim zentralen Grenzwertsatz auf. 35:23.360 --> 35:24.820 Die Dichte der Standard-Normalverteilung. 35:24.900 --> 35:26.820 So, wir starten mal mit folgender Situation. 35:27.660 --> 35:30.960 Y1 bis Yk seien unabhängige Zufallsvariablen. 35:30.960 --> 35:32.280 K haben mindestens zwei. 35:33.440 --> 35:35.960 Sonst macht es keinen Sinn, von Unabhängigkeit zu sprechen. 35:36.620 --> 35:38.140 Und zwar je Standard-Normalverteilung. 35:39.540 --> 35:42.680 Unabhängige je Standard-Normalverteilung der Zufallsvariablen. 35:42.820 --> 35:45.700 Das war auch der Ausgangspunkt für die Chi-Quadratverteilung. 35:46.820 --> 35:48.260 Damit sind wir gestartet. 35:48.720 --> 35:51.040 Dann haben wir die einzelnen Variablen quadriert und haben sie 35:51.040 --> 35:54.000 aufaddiert und so entstand die Chi-Quadratverteilung mit K 35:54.000 --> 35:54.620 -Freiheitsgrad. 35:54.740 --> 35:56.200 Also die Situation hatten wir schon mal. 35:57.540 --> 36:00.340 So, jetzt nehmen wir hier den Zufallsvektor mit diesen Komponenten, 36:00.480 --> 36:03.060 schreiben den als Spaltenvektor und nennen ihn Y. 36:04.920 --> 36:07.360 Komponentenweise unabhängige Standard-Normalverteilte 36:07.360 --> 36:08.280 Zufallsvariablen. 36:08.760 --> 36:13.700 Nach einem Satz, den wir vorher hatten, ich zitiere ihn, das war Satz 36:13.700 --> 36:18.420 24,16, hat er folgende Dichte, nämlich das Produkt der einzelnen 36:18.420 --> 36:18.800 Dichten. 36:18.940 --> 36:23.800 Das bedeutet, die Dichte von Y an der Stelle y ist das Produkt dieser 36:23.800 --> 36:24.600 einzelnen Dichten. 36:24.740 --> 36:29.080 Das y hat natürlich die Komponenten y1 bis yk. 36:30.100 --> 36:31.280 Das war nach diesem Satz. 36:31.320 --> 36:32.900 Jetzt schreiben wir hin, was da rauskommt. 36:33.440 --> 36:37.440 Wir sehen bei der Funktion Phi in dem Memo, es taucht immer der Faktor 36:37.440 --> 36:42.360 1 durch Wurzel 2π auf und ich habe ein Produkt mit K-Faktoren, also 36:42.360 --> 36:47.380 kann ich auf jeden Fall erstmal rausziehen, 1 durch Wurzel 2π hoch K 36:47.380 --> 36:49.440 oder 1 durch 2π hoch K halbe. 36:50.300 --> 36:51.940 So, was taucht dann in der Dichte auf? 36:51.960 --> 36:56.720 Phi von yj, das ist e hoch minus, jetzt sehen Sie 1 halb yj². 36:56.980 --> 36:58.500 Da muss ich ein Produkt bilden. 36:59.600 --> 37:03.360 Aber ein Produkt von Exponentialausdrücken ist Exponentialausdruck der 37:03.360 --> 37:03.740 Summe. 37:04.180 --> 37:08.780 Also bekomme ich ein e hoch minus 1 halb und jetzt summiere ich die 37:08.780 --> 37:11.380 yj² auf, j von 1 bis K. 37:12.560 --> 37:15.000 Das ist einfach nur Rechner mit der Exponentialfunktion. 37:15.740 --> 37:20.660 Also das ergibt sich als Dichte für jedes y, wieder als Spaltenvektor 37:20.660 --> 37:23.500 geschrieben mit diesen Komponenten y1 bis yk. 37:23.840 --> 37:24.600 Das ist die Dichte. 37:25.900 --> 37:32.380 Für spätere Zwecke sehen Sie diese Summe der yj², die kann ich ansehen 37:32.380 --> 37:37.580 als euclidische Norm dieses Vektors y zum Quadrat. 37:38.160 --> 37:39.900 Das ist hier die euclidische Norm. 37:41.700 --> 37:42.220 Zum Quadrat. 37:43.420 --> 37:47.180 Diese Verteilung von dem y nennt man Standardnormalverteilung im r 37:47.180 --> 37:47.580 hoch K. 37:47.840 --> 37:50.880 Und aus dieser Verteilung werden wir gleich eine allgemeine 37:51.600 --> 37:52.400 Standardnormalverteilung erzeugen. 37:52.840 --> 37:54.180 Durch eine simple Transformation. 37:55.180 --> 37:58.800 Erstmal die Bezeichnung hier Standardnormalverteilung im r hoch K. 38:00.260 --> 38:04.020 Also ein Vektor, dessen Komponenten unabhängig sind und je 38:04.020 --> 38:05.320 Standardnormal verteilt. 38:07.240 --> 38:10.360 Sie können jetzt sofort sagen, wie die Kovarianzmatrix von dem y 38:10.360 --> 38:11.060 aussieht. 38:11.720 --> 38:14.480 Nun, in der Kovarianzmatrix da stehen die Varianzen drin, auf der 38:14.480 --> 38:18.220 Diagonalen, die sind alle 1, weil die alle Standardnormal verteilt 38:18.220 --> 38:18.420 sind. 38:18.480 --> 38:20.520 Und weil die unabhängig sind, sind die Kovarianzen 0. 38:21.200 --> 38:25.300 Das heißt, dieses y hat die Einheitsmatrix, die k-Reihiger als 38:25.300 --> 38:26.260 Kovarianzmatrix. 38:31.260 --> 38:36.040 Diese Dichte da oben, Sie sehen, hängt nur ab vom Normquadrat von dem 38:36.040 --> 38:36.480 Vektor. 38:36.600 --> 38:38.300 Das heißt, sie ist konstant auf Kreisen. 38:38.500 --> 38:40.660 Und Kreis kann ich sprechen, wenn K gleich 2 ist. 38:41.140 --> 38:42.760 Wenn K gleich 3 ist, sind es Kugeln. 38:43.500 --> 38:44.500 Konstant auf Kugeln. 38:45.520 --> 38:47.020 Kugelschalen, sollte ich natürlich sagen. 38:48.120 --> 38:49.600 Konzentrisch, mit Mittelpunkt 0. 38:50.040 --> 38:52.600 Und das können Sie natürlich dort auch für höhere Dimensionen so 38:52.600 --> 38:52.900 ansehen. 38:52.980 --> 38:58.580 Sie haben jetzt einfach eine k-dimensionale Kugel und auf dem, bei 38:58.580 --> 39:02.000 festem Radius zentriert in 0 und darauf ist die Dichte konstant. 39:02.360 --> 39:09.520 Weil sie nur abhängt von der Norm des Punktes oder des Vektors y. 39:10.760 --> 39:11.780 Okay, Folgerung. 39:12.140 --> 39:15.520 Man kann sofort sehen, diese Verteilung von y ist invariant unter 39:15.520 --> 39:17.400 orthogonalen Transformationen. 39:18.280 --> 39:22.360 Das bedeutet, die Verteilung, Sie sehen, ich habe an das y eine 39:22.360 --> 39:25.160 orthogonale Matrix H ran multipliziert. 39:25.580 --> 39:28.120 Und diese Verteilung ist die gleiche wie die von y. 39:29.180 --> 39:32.960 Orthogonale Transformation, Funktionaldeterminante 1, denken Sie an 39:32.960 --> 39:34.160 den Transformationssatz. 39:34.720 --> 39:37.680 Und das Entscheidende ist, die Verteilung, die Dichte hängt nur ab von 39:37.680 --> 39:38.120 der Norm. 39:38.920 --> 39:43.420 Aus dem Grunde, ganz egal, wie Sie die orthogonale Matrix H wählen, 39:43.420 --> 39:45.400 hier kommt immer die gleiche Verteilung raus. 39:46.460 --> 39:47.060 Das ist wichtig. 39:47.740 --> 39:50.380 Da haben Sie eine Invarianz-Eigenschaft dieser Standard-Normal 39:50.380 --> 39:51.700 -Verteilung. 39:51.980 --> 39:53.420 So, und jetzt bauen wir... 39:54.760 --> 39:56.780 Sie können vielleicht nochmal einen Plot sehen. 39:57.360 --> 40:00.320 So könnte diese Standard-Normal-Verteilung im R2 aussehen. 40:00.380 --> 40:01.440 Das ist eine Dichte. 40:04.280 --> 40:06.940 der Gipfel ist wirklich über dem Ursprung. 40:07.560 --> 40:11.460 Und wenn Sie parallel zur x1, x2 Ebene dort einen Schnitt machen 40:11.460 --> 40:14.080 würden, würden Sie von oben drauf Kreise sehen. 40:16.500 --> 40:18.060 So sähe das aus. 40:19.080 --> 40:21.260 Wir betrachten jetzt folgende affine Abbildung. 40:21.540 --> 40:23.300 Sie müssen jetzt ein bisschen flexibel sein. 40:23.960 --> 40:26.720 Jetzt bilden wir ab Y auf T von Y. 40:26.980 --> 40:30.880 Und T von Y ist nichts anderes als Matrix mal Y plus µ. 40:31.820 --> 40:36.480 Wobei Y aus dem R auch K ist, also die affine Transformation ist auf 40:36.480 --> 40:37.380 dem ganzen R auch K. 40:38.060 --> 40:42.500 A ist eine reguläre K-Kreuz-K-Matrix, keine weiteren Voraussetzungen 40:42.500 --> 40:42.840 an A. 40:43.300 --> 40:44.600 Weder Symmetrie noch sonst was. 40:44.720 --> 40:46.300 Nur eine invertierbare Matrix. 40:48.060 --> 40:48.800 Plus µ. 40:50.120 --> 40:52.200 µ ist aus dem R auch K. 40:53.000 --> 40:55.480 Und wir setzen jetzt X gleich T von Y. 40:56.100 --> 40:59.520 Damals in dem Kapitel mit Dichten war Y gleich T von nichts, jetzt ist 40:59.520 --> 41:00.460 X T von Y. 41:00.660 --> 41:02.480 Wir starten mit dem Y und wollen auf den X. 41:02.900 --> 41:04.060 So flexibel sind wir alle. 41:05.880 --> 41:07.320 Also A mal Y plus µ. 41:07.320 --> 41:09.020 Jetzt kommt der Transformationssatz. 41:09.140 --> 41:11.960 Nach diesem Transformationssatz hat X folgende Dichte. 41:12.160 --> 41:13.800 Die Dichte von X und was war das? 41:14.200 --> 41:17.820 Das war die Dichte des Ausgangsvektors. 41:17.940 --> 41:22.840 In dem Fall ist das Y an der Stelle T minus 1 von 1 von X, dividiert 41:22.840 --> 41:28.620 durch den Betrag, der Determinante der Jacobi-Matrix, also T' an 41:28.620 --> 41:30.860 dieser Stelle T minus 1 von X. 41:30.940 --> 41:31.640 Das war die Dichte. 41:33.760 --> 41:35.480 Ich habe nur X und Y vertauscht. 41:35.480 --> 41:36.640 Das ist die Dichte. 41:36.880 --> 41:37.720 Jetzt setzen wir ein. 41:38.160 --> 41:40.380 Jetzt muss ich natürlich T auf minus 1 von X bilden. 41:40.460 --> 41:43.720 Sie sehen, das ist aber nichts anderes als A auf minus 1 mal X minus 41:43.720 --> 41:44.020 µ. 41:44.240 --> 41:46.060 Dann schauen Sie sich die Transformation an. 41:46.660 --> 41:50.060 Also T von Y ist ja X gesetzt, ist A Y plus µ. 41:50.140 --> 41:53.140 Und wenn Sie die Gleichung haben, X gleich A mal Y plus µ und wollen 41:53.140 --> 41:58.220 die nach dem Y auflösen, müssen Sie erst µ subtrahieren und dann von 41:58.220 --> 42:00.040 links multiplizieren mit A auf minus 1. 42:00.160 --> 42:02.580 Das heißt, Sie haben also diese Gleichung und die 42:03.620 --> 42:06.740 Funktionaldeterminante ist nichts anderes als die Funktionalmatrix ist 42:06.740 --> 42:07.720 A in diesem Fall. 42:08.120 --> 42:10.680 Das heißt, Sie haben den Betrag der Determinante von A. 42:10.960 --> 42:11.920 Das wäre die Dichte. 42:13.140 --> 42:15.240 So, mit der gehen wir jetzt gleich in einen Satz. 42:16.460 --> 42:21.260 Und dann werden wir sehen, wie die Dichte aussieht von X, ein X, was 42:21.260 --> 42:24.820 sich unter dieser Transformation ergibt oder aus dieser Transformation 42:24.820 --> 42:25.520 aus dem Y. 42:26.220 --> 42:27.420 Also das ist folgender Satz. 42:27.500 --> 42:30.780 Affine Transformation der Standardnormalverteilung. 42:30.780 --> 42:35.620 So, in dieser Situation, die wir gerade hatten, wir starten mit Y, was 42:35.620 --> 42:38.400 die Standardnormalverteilung hat und bilden eben diese affine 42:38.400 --> 42:39.040 Transformation. 42:39.260 --> 42:40.500 Das X hat folgende Dichte. 42:40.840 --> 42:41.320 F und X. 42:41.800 --> 42:43.280 Sie sehen, das ist der Vorfaktor. 42:44.400 --> 42:47.700 Da taucht jetzt auf die Wurzel aus der Determinante von Sigma. 42:49.180 --> 42:50.820 Ich muss Ihnen noch sagen, was Sigma ist. 42:50.860 --> 42:52.160 Sigma kam noch gar nicht vor. 42:53.660 --> 42:56.440 Jedenfalls tritt auf eine Wurzel aus der Determinante. 42:56.900 --> 42:58.360 Dann kommt hier E auf minus 1,5. 42:58.360 --> 43:02.700 Jetzt sehen Sie eine quadratische Form in der Inversen von Sigma. 43:03.060 --> 43:04.680 Sie wissen immer noch nicht, was Sigma ist. 43:05.000 --> 43:06.660 Wir haben oben nur das A stehen. 43:06.860 --> 43:08.880 Da oben steht X gleich A mal Y plus µ. 43:09.060 --> 43:12.460 Wenn das nicht mehr auftritt im Satz, ist irgendwie was faul. 43:12.660 --> 43:13.780 Aber das taucht auf. 43:14.400 --> 43:17.460 Und zwar, das Sigma ist nichts anderes als A mal A transponiert. 43:17.960 --> 43:20.360 Und schon kann es also alles wieder stimmen. 43:22.020 --> 43:22.260 Okay. 43:22.860 --> 43:23.580 Woran liegt das? 43:23.860 --> 43:24.300 Beweis? 43:25.740 --> 43:32.620 Nun, es ist die Dichte von Y, das haben wir eben gesehen, ist 1 durch 43:32.620 --> 43:33.840 2 Pi hoch K halbe. 43:34.140 --> 43:37.060 Und jetzt haben wir E auf minus 1,5 mal Norm von Y zum Quadrat. 43:37.180 --> 43:39.880 Das war die Darstellung eben, diese kompakte mit der Euclidischen 43:39.880 --> 43:40.140 Norm. 43:41.140 --> 43:42.860 So, und jetzt müssen wir nur einsetzen. 43:42.960 --> 43:47.320 Die Dichte von X war ja die Dichte von Y an dieser Stelle durch Betrag 43:47.320 --> 43:48.720 der Determinante von A. 43:49.220 --> 43:49.980 Nun fangen wir mal an. 43:50.840 --> 43:52.920 Also, die Dichte kommt später. 43:53.100 --> 43:56.440 Ich schreibe jetzt erst 1 dividiert durch Betrag der Determinante von 43:56.440 --> 43:56.580 A. 43:56.740 --> 43:58.280 Jetzt schauen Sie sich an, was Sigma ist. 43:58.500 --> 44:00.160 Sigma ist A mal A transponiert. 44:00.780 --> 44:04.980 Sie haben Rechenregeln gehabt für Determinanten. 44:06.200 --> 44:09.960 Die Determinante von Sigma ist Determinante von A mal Determinante von 44:09.960 --> 44:10.860 A transponiert. 44:11.640 --> 44:14.640 Die Determinante von A transponiert ist Determinante von A. 44:15.500 --> 44:17.660 Und die ist ungleich Null, weil A regulär ist. 44:18.040 --> 44:21.680 Also ist die Determinante von Sigma gleich der Determinante von A zum 44:21.680 --> 44:22.260 Quadrat. 44:24.780 --> 44:29.120 Also ist Betrag der Determinante von A nichts anderes als Wurzel aus 44:29.120 --> 44:30.880 der Determinante von Sigma. 44:31.500 --> 44:33.480 Das heißt, das kann ich jetzt einsetzen. 44:34.820 --> 44:36.760 Ich habe natürlich den Vorfaktor, den darf ich nicht vergessen. 44:37.600 --> 44:39.480 Da kommt die Determinante rein von Sigma. 44:42.300 --> 44:42.940 Das ist das Erste. 44:43.000 --> 44:45.160 Das Andere, jetzt haben wir den Exponentialausdruck. 44:45.460 --> 44:47.420 Ich muss jetzt für Y einsetzen. 44:47.500 --> 44:49.340 Oben steht Norm von Y zum Quadrat. 44:49.440 --> 44:53.060 Für das Y muss ich einsetzen A auf minus 1 mal X minus µ. 44:53.660 --> 44:55.780 Ich habe nichts anderes gemacht als das eingesetzt. 44:57.640 --> 44:58.620 Jetzt sehen wir uns das an. 44:59.120 --> 45:00.900 Den Vorfaktor lasse ich, wie er ist. 45:01.060 --> 45:03.600 Und jetzt ändere ich nur was im Exponenten ab. 45:03.940 --> 45:08.180 Nur Norm zum Quadrat von irgendeinem Vektor Z heißt ja Z transponiert 45:08.180 --> 45:08.680 mal Z. 45:09.340 --> 45:11.180 Das ist das Gleiche wie Norm von Z zum Quadrat. 45:11.280 --> 45:14.600 Z ist jetzt nichts anderes als A auf minus 1 X minus µ. 45:14.740 --> 45:19.460 Also steht da A auf minus 1 X minus µ in Klammern transponiert mal A 45:19.460 --> 45:20.860 auf minus 1 X minus µ. 45:22.380 --> 45:24.500 Da sehen Sie, jetzt wird die Rechnung ganz einfach. 45:24.700 --> 45:26.140 Schauen Sie sich diesen ersten Teil an. 45:26.280 --> 45:29.340 Man rechnet mit Transponierten, indem man jetzt die Faktoren 45:29.340 --> 45:29.860 vertauscht. 45:29.960 --> 45:34.400 Das ist X minus µ transponiert mal A auf minus 1 transponiert. 45:35.740 --> 45:38.200 Jetzt haben Sie schon, wenn Sie das oben ansehen, haben Sie schon X 45:38.200 --> 45:39.300 minus µ transponiert. 45:39.400 --> 45:40.980 Ganz rechts haben Sie auch X minus µ. 45:41.200 --> 45:43.520 Sie müssen nur noch auf Sigma auf minus 1 kommen. 45:43.940 --> 45:47.500 Das muss also sein, dies A auf minus 1 transponiert mal A auf minus 1. 45:47.500 --> 45:51.780 Aber das ist nichts anderes als, jetzt kommt die erste Rechenregel, A 45:51.780 --> 45:54.740 auf minus 1 transponiert ist A transponiert durch minus 1. 45:55.320 --> 45:56.420 Das heißt, dann kommt das ran. 45:56.800 --> 45:58.340 Und jetzt, wie rechne ich mit Inversen? 45:59.000 --> 46:02.480 Das ist nichts anderes als das Inverse des Produktes nur andersrum 46:02.480 --> 46:05.860 geschrieben, A mal A transponiert in Klammern auf minus 1 und A mal A 46:05.860 --> 46:08.400 transponiert habe ich oben Sigma getauft. 46:08.820 --> 46:10.820 Also ist das Sigma auf minus 1. 46:11.140 --> 46:12.400 Und das war der ganze Beweis. 46:13.560 --> 46:17.040 Sie sehen also, mit unserer Transformationsformel erhalten wir sehr 46:17.040 --> 46:26.160 schnell die Dichte eines mit einer Affinentransformation versehenen 46:26.780 --> 46:28.400 Standardnormalverteilten Zufallsvektors Y. 46:28.640 --> 46:32.260 Wenn wir mit dem starten und dann so eine Abbildung durchführen, eine 46:32.260 --> 46:35.500 reguläre Matrix, das ist wichtig, damit wir keinen Dimensionsverlust 46:36.040 --> 46:38.140 haben, dann erhalten wir diese Dichte. 46:38.840 --> 46:42.280 Jetzt kommt die Definition dieser nicht ausgearteten Normalverteilung. 46:42.340 --> 46:44.100 Ich schreibe im Grunde die Dichte nur nochmal hin. 46:45.160 --> 46:49.880 Wenn ich eine symmetrische, positiv definierte K-Kreuz-K-Matrix habe 46:49.880 --> 46:54.200 und µ aus dem R auch K, das ist der Ausgangspunkt, dann sagt man, ein 46:54.200 --> 46:57.620 Zufallsvektor X habe eine nicht ausgeartete K-dimensionale 46:57.620 --> 47:02.180 Normalverteilung mit Erwartungswertvektor µ und Covariancematrix 47:02.180 --> 47:04.760 Sigma, also hier steckt jetzt was hinter, hier steckt schon eine 47:04.760 --> 47:08.360 Behauptung hinter, µ ist der Erwartungswertvektor und Sigma ist die 47:08.360 --> 47:09.340 Covariancematrix. 47:09.560 --> 47:10.620 Das müssen wir noch begründen. 47:11.660 --> 47:15.600 Falls X diese Dichte besitzt, die hatten wir eben, also diesen 47:15.600 --> 47:20.080 Ausdruck ganz egal, X aus dem R auch K, keinerlei Einschränkung, diese 47:20.080 --> 47:23.680 Dichte besitzt und dafür schreibt man kurz X und jetzt sehen Sie diese 47:23.680 --> 47:26.740 Verteilungsgleichheit und dann an das N schreibt man die Dimension 47:26.740 --> 47:30.260 dran, N für Normalverteilung, K ist die Dimension und jetzt die 47:30.260 --> 47:34.460 Parameter sind jetzt einmal ein Vektor µ und eine Matrix. 47:37.220 --> 47:40.660 Formal enthält das auch den Fall K gleich 1, da wäre µ sozusagen nur 47:40.660 --> 47:46.120 eine Zahl und Sigma wäre die Varianz wäre da ein kleiner Sigma 47:46.120 --> 47:46.720 -Quadrat. 47:47.260 --> 47:52.280 Wenn K gleich 2 ist, haben Sie natürlich schon zwei µ´s, µ1 und µ2 und 47:52.280 --> 47:54.700 Sie haben wirklich eine Zwei-Kreuz-Zwei-Matrix. 47:55.840 --> 47:59.360 Das heißt, Sie haben zwei Parameter von µ und von der Matrix haben Sie 47:59.360 --> 48:02.560 nochmal drei Parameter das entscheidende ist, die Matrix ist 48:02.560 --> 48:07.260 symmetrisch, deshalb haben Sie nur fünf Parameter für eine 48:07.260 --> 48:09.240 zweidimensionale Normalverteilung. 48:10.920 --> 48:14.240 Nein, ein Parameter haben Sie in der Matrix nicht, weil die Matrix 48:14.240 --> 48:14.960 symmetrisch ist. 48:16.720 --> 48:21.440 Existenzsatz, zu jedem µ und zu jeder symmetrischen positiv 48:21.440 --> 48:24.480 definierten Matrix Sigma, K-Kreuz-Karambit, gibt es einen 48:24.480 --> 48:27.040 Zufallsvektor X, der diese Normalverteilung hat. 48:27.860 --> 48:29.880 Diesen Satz kann man später abschwächen. 48:30.760 --> 48:35.040 Also später werden Sie lernen, es reicht, wenn die Matrix symmetrisch 48:35.040 --> 48:37.280 ist und positive semi-definit. 48:38.140 --> 48:43.040 Wenn ich jetzt semi-definit sage und nicht definit, dann heißt das, da 48:43.040 --> 48:46.380 ist etwas nicht invertierbar und wir haben eben gesehen, das hat etwas 48:46.380 --> 48:47.780 mit Entartungen zu tun. 48:50.260 --> 48:52.720 So etwas gibt es auch, aber wir betrachten hier nur die nicht 48:52.720 --> 48:54.340 ausgeartete Normalverteilung. 48:54.700 --> 48:55.180 Beweis? 48:55.980 --> 48:59.860 Nun, Sie haben in der Numerik gelernt, es gibt die sogenannte Cholesky 48:59.860 --> 49:00.460 -Zerlegung. 49:00.540 --> 49:03.780 Wenn ich mit einer Matrix Sigma starte, die symmetrisch ist und 49:03.780 --> 49:08.900 positiv definit, dann gibt es immer eine Matrix A, das sich das Sigma 49:08.900 --> 49:11.480 so schreiben kann, als A mal A transponiert. 49:12.040 --> 49:15.500 Wir werden nachher auch sehen, wie man die Matrix dann konkret 49:15.500 --> 49:17.640 bekommen kann, die diese Eigenschaft hat. 49:18.540 --> 49:22.060 Es gibt eine Konstruktion mit den Eigenvektoren und Eigenwerten von 49:22.060 --> 49:22.320 Sigma. 49:23.260 --> 49:26.560 Jedenfalls so etwas gibt es und jetzt starten wir mit unabhängigen je 49:26.560 --> 49:28.980 standardnormal verteilten Zufallsvariablen, wie eben. 49:29.680 --> 49:34.400 Y nehmen wir als diesen Vektor und setzen an, nach dem Satz, den wir 49:34.400 --> 49:38.940 eben hatten, dieser Vektor X, der nichts anderes ist als A mal Y plus 49:38.940 --> 49:42.180 µ, hat diese Normalverteilung, das haben wir eben hergeleitet. 49:43.360 --> 49:46.940 Das bedeutet, die Konstruktion beinhaltet nur, dass wir auf die Matrix 49:46.940 --> 49:49.260 A kommen, wenn das Sigma gegeben ist. 49:49.880 --> 49:50.300 Das ist alles. 49:53.280 --> 49:56.600 Wenn ich das Sigma darstellen würde, vielleicht in einer anderen Form, 49:56.660 --> 49:59.340 mit einem B mal B transponiert, die Matrix muss nicht eindeutig 49:59.340 --> 50:00.940 bestimmt sein, mit dieser Darstellung. 50:01.460 --> 50:04.720 Dann kommt bei der Transformation, wenn ich dann mit X starte und sage 50:04.720 --> 50:06.940 B mal Y plus µ, die gleiche Verteilung raus. 50:07.340 --> 50:09.980 Man sieht, die Verteilung hängt nur ab von µ, schauen sich die Dichte 50:09.980 --> 50:11.280 an, und von Sigma. 50:15.070 --> 50:18.910 Obwohl die konkrete, affine Transformation diese Matrix A beinhaltet. 50:21.550 --> 50:21.990 Gut, 50:29.090 --> 50:31.590 das ist nochmal das Memo hier, das ist die Dichte. 50:32.390 --> 50:35.970 Diese Dichte ist konstant auf Ellipsoiden mit Zentrum µ. 50:36.130 --> 50:39.970 Sie sehen, sie ist konstant, wo die quadratische Form konstant ist. 50:42.350 --> 50:46.050 Konstant auf der Menge aller X, der das X minus µ transponiert, mal 50:46.050 --> 50:50.030 Sigma hoch minus 1 mal X minus µ, einen konstanten Wert annimmt. 50:50.330 --> 50:54.710 Das sind im R2 Ellipsen, im R3 Ellipsoide. 50:55.370 --> 50:58.230 Wir werden auch gleich sehen, wie das dann aussehen könnte. 50:58.230 --> 51:01.150 Hier könnt ihr zum Beispiel sehen, das ist hier so ein Gebirgsrücken, 51:01.530 --> 51:02.730 ziemlich langgestreckter. 51:03.390 --> 51:06.230 Vorher hatten wir bei der Standard-Normalverteilung, wenn ich Schnitte 51:06.230 --> 51:07.490 bilde, hatte ich eben Kreise. 51:07.550 --> 51:11.250 Wenn ich hier durchschneiden würde, würde von oben drauf sehen, hätte 51:11.250 --> 51:12.710 ich Ellipsen. 51:13.550 --> 51:14.430 Als Schnittfläche. 51:15.470 --> 51:18.270 Das wäre hier die Dichte der Zweidimensionalen Normalverteilung. 51:18.330 --> 51:22.650 Hier ist µ gleich dem Nullvektor, das heißt auch die Spitze des 51:22.650 --> 51:23.790 Gebirges ist im Nullpunkt. 51:25.370 --> 51:28.530 Sie sehen natürlich auch hier zwei ganz unterschiedliche Richtungen. 51:28.610 --> 51:33.230 Wenn ich jetzt in Richtung der Diagonalen wandern würde, x1 gleich x2, 51:33.350 --> 51:35.950 würde ich natürlich von dem Dichtegebirge runterkommen. 51:36.230 --> 51:40.270 Ich könnte natürlich auch in die andere Diagonale wandern, x1 gleich 51:40.270 --> 51:42.730 –x2, da geht es viel steiler runter. 51:45.790 --> 51:46.310 Anschaulich. 51:46.870 --> 51:49.850 Und hier wäre das die Kurvarianzmatrix. 51:50.130 --> 51:53.530 Sie sehen in der einen Richtung, die Varianz ist in der ersten 51:53.530 --> 51:57.510 Komponente 2,25, in der anderen ist sie wesentlich kleiner, ist sie 1. 51:58.170 --> 52:03.870 Also solche Gebilde ergeben sich da als Platz von solchen Dichten von 52:03.870 --> 52:05.130 Zweidimensionalen Normalverteilungen. 52:05.570 --> 52:08.290 Das µ würde natürlich nur eine Verschiebung bewirken. 52:08.390 --> 52:10.510 Das heißt, ich würde jetzt die Spitze nicht mehr haben über dem 52:10.510 --> 52:13.650 Ursprung, sondern dann wäre die Spitze über einem Punkt mit den 52:13.650 --> 52:15.210 Koordinaten µ1 und µ2. 52:15.350 --> 52:16.110 Ich kann das verschieben. 52:19.970 --> 52:20.930 Eine Folgerung. 52:21.710 --> 52:25.210 Wenn ich mit der Normalverteilung starte, dann ist das µ wirklich der 52:25.210 --> 52:28.470 Erwartungswertvektor und das Sigma ist wirklich die Kurvarianzmatrix. 52:28.570 --> 52:31.890 Das bedeutet, diese Beziehung rechtfertigen überhaupt erstmal die 52:31.890 --> 52:35.790 Sprechweise Normalverteilung mit Erwartungswertvektor µ und 52:35.790 --> 52:36.990 Kurvarianzmatrix Sigma. 52:38.170 --> 52:40.790 Und der Beweis ist auch hier ganz simpel. 52:41.070 --> 52:43.510 Wir starten mit dieser Verteilungsgleichheit. 52:43.650 --> 52:46.990 Wir haben gesehen, dieses x, was die Verteilung hat, hat die gleiche 52:46.990 --> 52:52.650 Verteilung wie Ay plus µ mit y und a wie in dem Beweis des Satzes, den 52:52.650 --> 52:53.230 wir eben hatten. 52:53.910 --> 52:57.690 Und Verteilungsgleichheit heißt immer, es müssen jetzt auch Momente 52:57.690 --> 52:58.470 übereinstimmen. 52:58.670 --> 53:02.030 Das heißt x muss die gleiche Kurvarianzmatrix haben wie A mal Y plus 53:02.030 --> 53:02.270 µ. 53:02.530 --> 53:05.250 Und den gleichen Erwartungswertvektor, weil die Verteilungen gleich 53:05.250 --> 53:05.530 sind. 53:06.230 --> 53:08.850 Wir wissen, wir brauchen bei Momenten noch nie auf den Grundraum 53:08.850 --> 53:12.070 runter, wir können immer mit den Verteilungen arbeiten. 53:12.350 --> 53:16.390 Das bedeutet, der Erwartungswertvektor von y, Der ist Null, weil 53:16.390 --> 53:20.410 nämlich die Komponenten unabhängig und je Standard normal verteilt 53:20.410 --> 53:20.710 sind. 53:21.390 --> 53:24.430 Und die Covariance Matrix, haben wir eben gesehen, ist die k-reihige 53:24.430 --> 53:25.790 Einheitsmatrix von dem Y. 53:26.610 --> 53:30.150 Und jetzt sehen wir natürlich, okay, der Erwartungswertvektor von X 53:30.150 --> 53:32.770 muss derjenige sein von A mal Y plus µ. 53:33.750 --> 53:35.190 Weil die die gleiche Verteilung haben. 53:36.350 --> 53:38.970 Und jetzt kommt die Rechenregel, ich kann das A rausziehen, das ist 53:38.970 --> 53:41.350 nichts anderes als A mal E von Y plus µ. 53:41.350 --> 53:44.890 Und E von Y ist der Nullvektor, also bleibt µ über. 53:45.830 --> 53:48.450 Also der Erwartungswertvektor von dem X ist das µ. 53:50.530 --> 53:52.230 Und wie ist es bei der Covariance Matrix? 53:52.430 --> 53:54.370 Die Covariance Matrix ist das gleiche. 53:54.650 --> 53:58.350 Die müssen die gleiche Covariance Matrix haben, das X und das A mal Y 53:58.350 --> 53:58.930 plus µ. 53:59.190 --> 54:01.970 Und jetzt haben wir die Rechenregel bei der Covariance, das µ fällt 54:01.970 --> 54:05.990 weg und das A geht so ein, dass es einmal nach vorne kommt, das ist 54:05.990 --> 54:08.930 also A mal Sigma Y mal A transponiert. 54:09.870 --> 54:11.650 Steht auf dem neuen Übungsblatt. 54:12.170 --> 54:16.270 Und Sigma Y ist die Einheitsmatrix, also steht da A mal A transponiert 54:16.270 --> 54:18.850 und das ist nach Konstruktion unser Sigma. 54:19.090 --> 54:20.830 Das heißt die Covariance Matrix ist Sigma. 54:21.450 --> 54:24.390 Ohne dass wir jetzt irgendwie mit der Dichte gerechnet hätten. 54:25.890 --> 54:28.650 Sie sehen, das ergibt sich strukturell aus der Erzeugungsweise der 54:28.650 --> 54:32.070 Verteilung und der Einsicht, dass sowas wie Erwartungswerte, 54:32.270 --> 54:34.270 Covariance nur abhängen von der Verteilung. 54:34.350 --> 54:38.190 Ich brauche nie auf den Grundraum, wo die Zufallsfeiern definiert 54:38.190 --> 54:39.130 sind, als Abbildung. 54:40.210 --> 54:41.310 Das ist gar nicht nötig. 54:45.640 --> 54:48.040 Zweite Folgerung, marginalen Verteilungen. 54:48.980 --> 54:52.280 Wenn ich mit der Normalverteilung starte, ich nenne sie wieder X, mit 54:52.280 --> 54:57.160 diesen Komponenten µ, habe die Komponenten µ1 bis µk, ich muss denen 54:57.160 --> 55:01.540 jetzt nur Namen geben, und die Covariance Matrix Sigma, ich habe die 55:01.540 --> 55:05.800 Einträge kleinen Sigma ij, ij von 1 bis k, dem muss ich jetzt auch 55:05.800 --> 55:06.420 Namen geben. 55:06.500 --> 55:10.980 Dann folgt, jede einzelne Komponente X, Y hat eine Normalverteilung 55:10.980 --> 55:14.140 mit Erwartungswert µj und Variant Sigma jj. 55:16.040 --> 55:20.560 So auch da, wenn Sie die Erzeugungsweise nicht wissen, müssen Sie sich 55:20.560 --> 55:24.200 die multivariante Dichte hernehmen und Marginalverteilungsbildung 55:24.200 --> 55:28.320 machen durch Integration über die nicht interessierenden Komponenten. 55:29.600 --> 55:33.420 Je nachdem, wie fit Sie da im Rechnen sind, kann das ein ziemlicher 55:33.420 --> 55:34.140 Aufwand sein. 55:34.740 --> 55:38.080 Aber wir brauchen gar nicht rechnen, wir sehen das wieder, Beweis, 55:38.200 --> 55:38.680 ganz simpel. 55:39.580 --> 55:42.600 A ist unsere Matrix, mit der wir die affine Transformation 55:42.600 --> 55:43.560 durchgeführt haben. 55:43.660 --> 55:49.420 Die habe ich jetzt, die Einträge aij und Y, und µ sei wie im Beweis 55:49.420 --> 55:50.960 von Satz 26.3. 55:50.960 --> 55:54.980 Aus dem Grund gilt, das ist der Ausgangspunkt, der Vektor X, den wir 55:54.980 --> 55:58.240 da oben haben, hat die gleiche Verteilung wie A mal Y plus µ. 55:58.800 --> 56:00.400 Sigma ist A mal A transponiert. 56:01.580 --> 56:02.620 Wir starten wieder damit. 56:02.860 --> 56:04.120 Also jetzt kommt der Clou. 56:04.680 --> 56:09.580 Wenn zwei Zufallsvektoren die gleiche Verteilung haben, dann müssen 56:09.580 --> 56:14.460 auch gleiche Funktionen des Zufallsvektors auch die gleiche Verteilung 56:14.460 --> 56:14.600 haben. 56:14.660 --> 56:17.240 Das heißt, wenn zwei Zufallsvektoren die gleiche Verteilung haben, 56:17.240 --> 56:22.680 muss insbesondere auch die J-Komponente des einen Zufallsvektors die 56:22.680 --> 56:25.100 gleiche Verteilung haben wie die J-Komponente des anderen 56:25.100 --> 56:25.380 Zufallsvektors. 56:26.020 --> 56:31.660 Also, hieraus folgt, XJ ist die J-Komponente von X, muss die gleiche 56:31.660 --> 56:34.460 Verteilung haben wie die J-Komponente von Y. 56:35.440 --> 56:37.580 So, wie kommen Sie an die J-Komponente von Y? 56:38.340 --> 56:40.600 Schon von A mal Y plus µ. 56:41.080 --> 56:44.720 Nun, die J-Komponente ergibt sich, indem Sie Skala A multiplizieren, 56:44.720 --> 56:49.400 die J-Zeile von A immer schön mit den Ys, das heißt, Sie erhalten eine 56:49.400 --> 56:56.960 Summe L von 1 bis K und dann haben Sie eben AJL mal YL und am Ende 56:56.960 --> 56:59.640 müssen Sie natürlich noch addieren µJ. 57:00.420 --> 57:04.180 Das heißt, XJ hat die gleiche Verteilung wie diese Summe. 57:05.340 --> 57:09.140 So, jetzt kommt es, diese YL, die da stehen, ich habe ja nur eine 57:09.140 --> 57:13.260 Linearkombination aus diesen YL, die sind unabhängige normal verteilte 57:13.260 --> 57:14.100 Zufallsvariablen. 57:15.500 --> 57:19.100 Auch AJL mal YL hat eine Normalverteilung. 57:21.360 --> 57:25.000 Der Erwartungswert bleibt 0 und die Varianz ist dann nur AJL². 57:25.660 --> 57:27.260 YL hat die Varianz 1. 57:27.620 --> 57:30.040 Wir haben ein Additionsgesetz für die Normalverteilung. 57:30.400 --> 57:33.480 Das heißt, diese Summe hat eine Normalverteilung und dann kann ich 57:33.480 --> 57:36.040 auch µJ addieren, das ist nur eine Verschiebung, es bleibt eine 57:36.040 --> 57:36.840 Normalverteilung. 57:37.200 --> 57:41.600 Das hat eine Normalverteilung und der Erwartungswert ist µJ und die 57:41.600 --> 57:45.220 Varianz ist Summe der einzelnen Varianzen und die sind AJL². 57:45.620 --> 57:48.880 Das ist nichts anderes als Anwendung des Additionsgesetzes für die 57:48.880 --> 57:50.180 Normalverteilung. 57:50.960 --> 57:55.240 Wenn wir das haben, dann ist natürlich nur die Frage, da wird 57:55.240 --> 58:00.060 behauptet, Sigma JJ, das ist natürlich die J-Komponente, also auf der 58:00.060 --> 58:02.500 Diagonalen das J-Element von links oben gesehen. 58:03.180 --> 58:05.640 Nun, aber Sigma ist A mal A transponiert. 58:06.260 --> 58:09.860 Aus dem Grund habe ich natürlich Sigma JJ, wie würde ich da rankommen, 58:10.580 --> 58:12.060 wenn das A mal A transponiert ist. 58:12.140 --> 58:15.760 Ich würde anzusummieren fangen, L von 1 bis K, dann würde ich jetzt 58:15.760 --> 58:19.660 bilden AJL und jetzt muss ich natürlich multiplizieren mit den 58:19.660 --> 58:22.820 betreffenden Elementen von A transponiert, das ist aber nichts anderes 58:22.820 --> 58:24.140 als AJL selbst. 58:24.540 --> 58:27.060 Das heißt, ich komme auf die Summe der Quadrate. 58:27.140 --> 58:31.200 Das ist das, was ich zeigen wollte, oben steht ja Summe der AJL², das 58:31.200 --> 58:33.240 ist die Varianz und das ist Sigma JJ. 58:33.860 --> 58:38.340 Also Sie sehen, auch hier haben wir versucht, eine Rechnung zu 58:38.340 --> 58:38.880 vermeiden. 58:40.220 --> 58:43.580 Wir haben die Verteilung erzeugt über eine affine Transformation, 58:44.200 --> 58:47.040 haben Rechenregeln für Erwartungswerte und Kurvvarianzmatrizen 58:47.040 --> 58:51.540 angewandt und haben sozusagen dieses Ergebnis fast ohne Rechnung 58:51.540 --> 58:51.980 erhalten. 58:52.560 --> 58:55.060 Das ist mir hier wirklich wichtig, dass Sie sehen, die Komponenten 58:55.060 --> 58:56.480 sind jetzt auch normal verteilt. 59:01.240 --> 59:05.100 Gut, ja, ich denke, wir machen... 59:05.100 --> 59:08.300 Die Frage ist, ich könnte auch durchlesen, wir sind sowieso früher 59:08.300 --> 59:09.540 fertig, es ist nicht mehr viel. 59:11.440 --> 59:12.260 Machen wir weiter. 59:13.120 --> 59:15.660 Also alternativer Beweis ist natürlich direkte Rechnung, 59:15.840 --> 59:16.920 Marginalverteilungsbildung. 59:17.420 --> 59:20.880 Also probieren Sie das mal, probieren Sie das einfach mal im Fall K 59:20.880 --> 59:21.360 gleich 2. 59:21.800 --> 59:24.060 Sie werden sehen, der Aufwand ist wesentlich größer. 59:26.900 --> 59:28.880 Unabhängigkeit und Unkorreliertheit. 59:28.980 --> 59:29.960 Auch ein weiterer Punkt. 59:30.520 --> 59:33.800 Wenn Sie so einen multivariat normal verteilten Zufallsvektor haben, 59:33.860 --> 59:37.080 das ist der Ausgangspunkt, Voraussetzung, das ist wichtig, dann gilt, 59:37.880 --> 59:43.240 die Komponenten sind stochastisch unabhängig, dann und nur dann, wenn 59:43.240 --> 59:45.100 die Kurvvarianzen alle verschwinden. 59:45.920 --> 59:47.480 Also eine Genau-Dann-Wenn-Beziehung. 59:49.940 --> 59:51.780 Das ist ja das Neue. 59:51.780 --> 59:55.520 Aber Sie setzen, die Voraussetzung ist multivariate Normalverteilung. 59:56.860 --> 01:00:00.540 So, die eine Richtung ist natürlich simpel, wenn Unabhängigkeit 01:00:00.540 --> 01:00:02.320 besteht, gilt immer Unkorreliertheit. 01:00:02.620 --> 01:00:05.340 Das heißt, dann muss die Matrix eine Diagonalmatrix sein. 01:00:06.200 --> 01:00:07.780 Die Kurvvarianzen müssen alle verschwinden. 01:00:08.940 --> 01:00:11.000 So, die Frage ist, gilt auch die Umkehrung? 01:00:11.220 --> 01:00:12.400 Nun, wie kann man das beweisen? 01:00:12.540 --> 01:00:13.440 Hier nochmal das Memo. 01:00:13.580 --> 01:00:16.700 Das ist die Dichte dieses normal verteilten Vektors. 01:00:16.760 --> 01:00:17.500 So sieht die aus. 01:00:18.100 --> 01:00:21.180 Jetzt kommt die Voraussetzung, die Kurvvarianzen sind 0. 01:00:22.060 --> 01:00:23.940 Wo treten die Kurvvarianzen auf? 01:00:24.080 --> 01:00:26.240 Die treten natürlich auf in der Matrix Sigma. 01:00:27.020 --> 01:00:31.560 Und die Matrix Sigma tritt auf im Exponenten als Inverse, Sigma hoch 01:00:31.560 --> 01:00:32.200 minus 1. 01:00:32.500 --> 01:00:35.500 So, die Voraussetzung ist jetzt die, dass Sigma ist eine 01:00:35.500 --> 01:00:36.520 Diagonalmatrix. 01:00:37.420 --> 01:00:40.720 In der Diagonal stehen die Sigma 1 Quadrat bis Sigma k Quadrat. 01:00:41.040 --> 01:00:42.740 Außerhalb der Diagonalen sind 0. 01:00:44.580 --> 01:00:47.460 Sigma j Quadrat, wissen wir auch, ist die Varianz von xj. 01:00:49.100 --> 01:00:50.120 Das haben wir eben gesehen. 01:00:50.920 --> 01:00:52.160 Für jedes j von 1 bis k. 01:00:52.240 --> 01:00:53.240 Das ist unsere Voraussetzung. 01:00:53.700 --> 01:00:55.460 So, jetzt müssen wir an Sigma hoch minus 1 kommen. 01:00:55.540 --> 01:00:59.120 Aber wenn Sigma diese Diagonalmatrix ist, ist Sigma hoch minus 1 die 01:00:59.120 --> 01:01:00.820 Inverse auch eine Diagonalmatrix. 01:01:01.100 --> 01:01:04.120 Die Einträge sind einfach nur die 1 durch Sigma 1 Quadrat und so 01:01:04.120 --> 01:01:06.320 weiter bis 1 durch Sigma k Quadrat. 01:01:07.480 --> 01:01:08.500 Was brauche ich noch? 01:01:08.560 --> 01:01:11.060 Ich brauche noch vorne die Determinante von Sigma. 01:01:11.060 --> 01:01:14.960 Und wenn Sigma diese Diagonalmatrix ist, ist die Determinante 01:01:14.960 --> 01:01:17.720 natürlich einfach Produkt der Sigma j Quadrat. 01:01:18.000 --> 01:01:19.100 Ich brauche dann die Wurzel. 01:01:19.660 --> 01:01:23.000 Das bedeutet, die Wurzel ist nichts anderes als Produkt der Sigma j. 01:01:23.800 --> 01:01:27.080 So, das bedeutet, jetzt kann ich die Dichte direkt hinschreiben mit 01:01:27.080 --> 01:01:28.020 dieser Information. 01:01:28.160 --> 01:01:29.020 Und zwar wie folgt. 01:01:29.640 --> 01:01:31.440 Die Dichte ist jetzt ein Produkt. 01:01:31.780 --> 01:01:36.060 Das Entscheidende ist eben, durch diese Diagonalmatrix faktorisiert 01:01:36.060 --> 01:01:37.160 das Ganze wunderbar. 01:01:37.420 --> 01:01:38.820 Und das Produkt sieht so aus. 01:01:39.320 --> 01:01:43.400 Ich kann immer ein Sigma j, packe ich rein als Faktor. 01:01:43.620 --> 01:01:46.840 Produkt dieser Sigma j ist nichts anderes als Wurzel aus der 01:01:46.840 --> 01:01:48.200 Determinante von Sigma im Nenner. 01:01:48.960 --> 01:01:51.860 Das Wurzel 2 Pi, was da steht, Sie sehen, es wird das Produkt 01:01:51.860 --> 01:01:53.240 gebildet, j von 1 bis k. 01:01:53.420 --> 01:01:58.080 Das führt natürlich bei dem Memo zu den 2 Pi hoch k Halbe. 01:01:58.100 --> 01:02:00.360 Zu dem ersten Vorfaktor, der im Nenner steht. 01:02:00.360 --> 01:02:03.340 Und jetzt haben wir natürlich nichts anderes als e hoch minus. 01:02:04.020 --> 01:02:08.320 Und jetzt steht immer xj minus µj² durch 2. 01:02:08.580 --> 01:02:11.360 Das ist der Faktor 2, der schon drüber steht im Exponenten. 01:02:11.560 --> 01:02:13.080 Und jetzt Sigma j². 01:02:13.280 --> 01:02:17.600 Das entspricht dem Sigma hoch minus 1, und zwar die Komponente in der 01:02:17.600 --> 01:02:19.700 Matrix auf der Diagonalen an der j-Stelle. 01:02:20.200 --> 01:02:21.440 Also so sieht die Dichte aus. 01:02:22.020 --> 01:02:26.040 Ganz konkret nur ausgenutzt, dass außerhalb der Diagonalen nichts mehr 01:02:26.040 --> 01:02:26.380 steht. 01:02:26.560 --> 01:02:27.240 Das ist die Dichte. 01:02:27.240 --> 01:02:31.760 So, jetzt haben wir aber gesehen in einem Satz, Unabhängigkeit besteht 01:02:31.760 --> 01:02:36.500 genau dann, wenn die Dichte faktorisiert, reicht es sogar fast 01:02:36.500 --> 01:02:39.360 überall, in das Produkt der marginalen Dichten. 01:02:40.800 --> 01:02:42.740 So, x hat jetzt genau die Dichte. 01:02:43.260 --> 01:02:45.460 Wir sehen also, dort habe ich genau diese Darstellung. 01:02:45.580 --> 01:02:50.500 Die gemeinsame Dichte ist das Produkt dieser einzelnen Dichten, und 01:02:50.500 --> 01:02:52.920 das ist ein Kriterium gewesen für Unabhängigkeit. 01:02:52.980 --> 01:02:54.300 Ganz egal, wie das x hier ist. 01:02:54.300 --> 01:02:58.960 Das heißt, das war der Satz 2416, und der garantiert uns, dass diese 01:02:58.960 --> 01:03:00.760 Komponenten stochastisch unabhängig sind. 01:03:00.840 --> 01:03:05.140 Ich arbeite also hier wirklich mit der konkreten Gestalt der Dichte. 01:03:05.800 --> 01:03:09.800 Im Allgemeinen gilt diese Umkehrung nicht, dass aus Unkorrelierter auf 01:03:09.800 --> 01:03:11.880 Unabhängigkeit geschlossen werden kann. 01:03:11.960 --> 01:03:12.560 Das ist wichtig. 01:03:12.880 --> 01:03:15.440 Aber durch diese konkrete Gestalt der Dichte kann ich das machen. 01:03:15.840 --> 01:03:17.000 Also kein Problem. 01:03:21.000 --> 01:03:23.340 Okay, jetzt kommt ein wenig lineare Algebra. 01:03:23.460 --> 01:03:25.320 Wir wollen noch etwas Struktur da reinbekommen. 01:03:25.400 --> 01:03:26.460 Was sagt die lineare Algebra? 01:03:26.640 --> 01:03:31.500 Die sagt, so eine positiv definierte symmetrische Matrix Sigma besitzt 01:03:31.500 --> 01:03:34.280 ein Orthonormalsystem von Eigenvektoren. 01:03:34.740 --> 01:03:36.440 Die nennen wir mal V1 bis Vk. 01:03:36.540 --> 01:03:38.020 Wir haben eine K-Kreuz-K-Matrix. 01:03:38.580 --> 01:03:42.400 Und wir haben auch zugehörige positive, strikt positive Eigenwerte 01:03:42.400 --> 01:03:43.760 Lambda 1 bis Lambda k. 01:03:44.160 --> 01:03:45.340 Es gilt dann Folgendes. 01:03:46.340 --> 01:03:49.980 Also sehen, Sigma mal Vj ist Lambda j mal Vj. 01:03:50.100 --> 01:03:53.880 Das heißt einfach nur, dass Vj ist ein Eigenvektor zum Eigenwert 01:03:53.880 --> 01:03:56.160 Lambda j für jedes j von 1 bis k. 01:03:57.280 --> 01:04:00.540 Wichtig ist, dass diese Vektoren auch aufeinander senkrecht stehen. 01:04:00.660 --> 01:04:03.140 In der linearen Algebra schreibt man gerne das Skalarprodukt auch so, 01:04:03.360 --> 01:04:04.700 mit solchen gewinkelten Klammern. 01:04:05.100 --> 01:04:08.980 Skalarprodukt von Vi und Vj ist nichts anderes als Vi transponiert mal 01:04:08.980 --> 01:04:11.160 Vj ist Kroneckers Delta. 01:04:11.480 --> 01:04:13.860 Also 1, falls i gleich j ist und ansonsten 0. 01:04:14.760 --> 01:04:18.220 Okay, das gilt für jedes i und j von 1 bis k. 01:04:19.300 --> 01:04:21.920 Und jetzt mache ich Folgendes, jetzt schreibe ich eine Matrix V hin 01:04:21.920 --> 01:04:25.660 und die einzelnen Spalten sind diese Eigenvektoren. 01:04:25.780 --> 01:04:27.840 V1 bis Vk als Spaltenvektoren. 01:04:28.240 --> 01:04:29.880 Ich erhalte eine orthogonale Matrix. 01:04:31.720 --> 01:04:35.180 Ich kann diese Gleichung, die da oben stehen, Sigma Vj gleich Lambda j 01:04:35.180 --> 01:04:39.580 mal Vj, jetzt mit dieser Diagonalmatrix D, die aus diesen Eigenwerten 01:04:39.580 --> 01:04:41.940 besteht, so schreiben. 01:04:41.940 --> 01:04:45.540 Also erstmal gilt V transponiert ist V minus 1, das ist die 01:04:45.540 --> 01:04:49.080 Orthogonalität dieser Matrix V aus den Eigenvektoren. 01:04:50.120 --> 01:04:54.000 Und dann habe ich diese Gleichung, Sigma mal V ist V mal 01:04:54.000 --> 01:04:55.040 Diagonalmatrix. 01:04:55.440 --> 01:04:57.580 Die ergibt sich aus diesen Gleichungen, die in der dritten Zeile 01:04:57.580 --> 01:05:00.060 stehen, aus diesen ersten Gleichungen, wenn ich die alle hinschreibe 01:05:00.060 --> 01:05:03.080 und das in Matrizenform schreibe. 01:05:03.720 --> 01:05:04.780 Also das sieht so aus. 01:05:05.500 --> 01:05:08.860 Jetzt mache ich folgendes, worauf ich hinaus will ist, ich will diese 01:05:08.860 --> 01:05:13.100 Matrix A konkret konstruieren, die die Eigenschaft hat, Sigma ist A 01:05:13.100 --> 01:05:14.100 mal A transponiert. 01:05:14.500 --> 01:05:17.100 Sie sehen, ich habe hier ein D hoch ein Halb, das ist nichts anderes 01:05:17.100 --> 01:05:20.740 als die Diagonalmatrix aus den Wurzeln, aus den Eigenwerten. 01:05:21.760 --> 01:05:26.340 Und die Matrix A setze ich mal an, als die Matrix V mal dieses D hoch 01:05:26.340 --> 01:05:26.900 ein Halb. 01:05:27.700 --> 01:05:31.760 Wenn ich das mache, bin ich damit fertig, denn es ist A mal A 01:05:31.760 --> 01:05:32.520 transponiert. 01:05:32.520 --> 01:05:34.040 Es soll Sigma rauskommen. 01:05:34.360 --> 01:05:38.280 Nun, ich setze ein, für das A setze ich ein, V mal D hoch ein Halb. 01:05:38.900 --> 01:05:42.260 Für das A transponiert, das müsste ich V mal D hoch ein Halb 01:05:42.260 --> 01:05:43.620 transponiert bilden. 01:05:43.680 --> 01:05:46.620 Das ist natürlich nichts anderes als D hoch ein Halb mal V 01:05:46.620 --> 01:05:47.380 transponiert. 01:05:48.340 --> 01:05:50.780 Aber D hoch ein Halb mal D hoch ein Halb, wenn ich die miteinander 01:05:50.780 --> 01:05:52.200 multipliziere, erhalte ich D. 01:05:52.500 --> 01:05:56.580 Das Produkt dieser beiden Diagonalmatrixen ist die Diagonalmatrix, die 01:05:56.580 --> 01:05:58.740 die Lambdas dann in der Diagonalen hat. 01:05:58.820 --> 01:06:01.560 Also ist das V mal D mal V minus 1. 01:06:01.560 --> 01:06:04.220 Und jetzt schauen Sie zwei Zeilen drüber nach rechts. 01:06:04.520 --> 01:06:07.940 Das V mal D, das ist nichts anderes als Sigma mal V. 01:06:08.740 --> 01:06:12.380 Also setze ich für V mal D das Sigma mal V ein, also habe ich Sigma 01:06:12.380 --> 01:06:14.360 mal V mal V minus 1. 01:06:14.480 --> 01:06:18.400 Aber V mal V minus 1 ist die Einheitsmatrix, also kommt daraus Sigma. 01:06:18.660 --> 01:06:19.540 Und das war zu zeigen. 01:06:20.220 --> 01:06:24.900 Sie sehen, ich habe hier aus der Matrix Sigma ganz konkret so eine 01:06:24.900 --> 01:06:26.720 Konstruktion gefunden, die ich brauche. 01:06:26.720 --> 01:06:30.120 A mal A transponiert gleich Sigma brauche ich ja für die affine 01:06:30.120 --> 01:06:33.900 Transformation, um die Normalverteilung zu erzeugen, brauche ich diese 01:06:33.900 --> 01:06:34.500 Matrix A. 01:06:34.560 --> 01:06:35.920 Die haben wir jetzt konkret konstruiert. 01:06:36.560 --> 01:06:41.480 Und nach diesem Satz 26a heißt das, das X hat die gleiche Verteilung 01:06:41.480 --> 01:06:45.340 wie V D hoch ein Halb, das ist das A mal Y. 01:06:46.560 --> 01:06:48.700 Natürlich plus µ, ich darf µ nicht vergessen. 01:06:49.280 --> 01:06:51.580 Das ist jetzt unsere konkrete affine Transformation. 01:06:51.580 --> 01:06:53.660 Und das kann ich jetzt so schreiben. 01:06:54.940 --> 01:06:58.360 Sie sehen, D hoch ein Halb ist die Diagonalmatrix, Y hat die 01:06:58.360 --> 01:07:01.660 Komponenten Y1 bis Yk. 01:07:02.560 --> 01:07:05.460 Und das ist hier eine endliche Summe J von 1 bis K. 01:07:05.800 --> 01:07:10.280 Und ich habe jetzt die Wurzeln aus Lambda J mal die J-Komponente von Y 01:07:10.280 --> 01:07:12.520 und jetzt kommt der Spaltenvektor VJ. 01:07:12.520 --> 01:07:18.360 Das heißt, die Summe dieser Spaltenvektoren mit den Vorfaktoren, die 01:07:18.360 --> 01:07:23.120 zum Teil fest sind, aber zum Teil zufällig, die YJ, das ist der 01:07:23.120 --> 01:07:25.540 Ausdruck, der darüber steht, V mal D hoch ein Halb mal Y. 01:07:26.180 --> 01:07:27.600 Und dann addiere ich noch das µ. 01:07:28.000 --> 01:07:30.700 Das heißt, X hat die gleiche Verteilung wie dieser Ausdruck. 01:07:32.560 --> 01:07:38.160 Das bedeutet, wenn Sie das X erzeugen wollen, auch in Simulationen, 01:07:38.180 --> 01:07:41.700 dann sehen Sie, Sie brauchen die Eigenvektoren. 01:07:41.700 --> 01:07:46.940 Sie brauchen die Lambdas und dann müssen Sie nur erzeugen diese YJ. 01:07:47.220 --> 01:07:49.820 Wenn Sie die erzeugen, wir wissen auch, wie man Normalverteilung 01:07:49.820 --> 01:07:53.460 erzeugt mit Pseudo-Zufallszahlen, da hat man diese Box-Muller-Methode. 01:07:53.920 --> 01:07:57.340 Das heißt, wir können hier uns doch eine ziemlich konkrete Vorstellung 01:07:57.340 --> 01:08:00.080 machen, wie jetzt so eine Normalverteilung entsteht. 01:08:00.440 --> 01:08:01.980 So machen wir das mal gleich am Bild. 01:08:03.260 --> 01:08:05.880 Das ist die Hauptkomponenten-Darstellung, nennt man die dann. 01:08:05.880 --> 01:08:08.160 X habe diese Normalverteilung. 01:08:09.640 --> 01:08:12.940 Und die normierten Eigenvektoren mit zugehörigen Eigenvektoren seien 01:08:12.940 --> 01:08:15.980 V1 bis Vk wie eben und Lambda 1 bis Lambda k. 01:08:17.060 --> 01:08:21.000 Und sind die Ys stochastisch unabhängig und je Standard normal 01:08:21.000 --> 01:08:24.140 verteilt, das ist jetzt der Punkt, dann hat eben X, jetzt schreibe ich 01:08:24.140 --> 01:08:28.700 die Darstellung von eben nochmal hin, ausführlich, Wurzel Lambda 1, Y1 01:08:28.700 --> 01:08:35.200 mal V1 und so weiter plus Wurzel Lambda k, Yk mal Vk plus µ hat diese 01:08:35.200 --> 01:08:39.480 Verteilung und man nennt das die sogenannte Hauptkomponenten 01:08:39.480 --> 01:08:40.500 -Darstellung von X. 01:08:42.000 --> 01:08:45.980 So kann man sich die Verzeilung erzeugt denken und vielleicht ein Bild 01:08:45.980 --> 01:08:48.000 dazu im R2, wie sieht das aus? 01:08:48.080 --> 01:08:51.400 Hier haben wir jetzt µ1, das ist der Erwartungswert der ersten 01:08:51.400 --> 01:08:52.160 Komponente. 01:08:52.620 --> 01:08:55.200 µ2 ist der Erwartungswert der zweiten Komponente. 01:08:55.720 --> 01:08:59.880 Das heißt, dort haben wir den Erwartungswertvektor, die Komponenten 01:08:59.880 --> 01:09:01.280 sind µ1 und µ2. 01:09:01.280 --> 01:09:05.360 Ok, jetzt brauche ich diese Eigenvektoren, die sind normiert, die 01:09:05.360 --> 01:09:09.460 haben die Länge 1, die trage ich jetzt an, das heißt, das wäre der 01:09:09.460 --> 01:09:13.560 erste Vektor V1, der liegt jetzt so ein bisschen schräg und der andere 01:09:13.560 --> 01:09:16.800 Vektor ist senkrecht dazu, hat die gleiche Länge 1, das ist hier ein 01:09:16.800 --> 01:09:17.400 rechter Winkel. 01:09:18.320 --> 01:09:20.720 Ich habe also die beiden Eigenvektoren angetragen hier. 01:09:21.960 --> 01:09:24.960 So, dann mache ich hier mal, ich verlänge einfach die Vektoren, ich 01:09:24.960 --> 01:09:28.300 mache sozusagen Achsen, ich kann sozusagen dort an die Achsen auch was 01:09:28.300 --> 01:09:32.720 heranschreiben, wo die Feilspitze endet von Y von V1, könnte ich an 01:09:32.720 --> 01:09:34.400 die Achse eine 1 heranschreiben. 01:09:34.860 --> 01:09:37.180 Ich könnte sozusagen auch diese schrägen Achsen beschriften. 01:09:37.880 --> 01:09:40.460 Und wenn ich jetzt einen Punkt erzeugen will, das sei zum Beispiel ein 01:09:40.460 --> 01:09:43.600 generierter Punkt dieser bivarianten Normalverteilung, wie kann ich 01:09:43.600 --> 01:09:44.380 mir das vorstellen? 01:09:44.760 --> 01:09:50.220 Nun, diese Strecke ist nichts anderes als Wurzellambda 1 mal Y1 und 01:09:50.220 --> 01:09:53.080 diese Strecke ist Wurzellambda 2 mal Y2. 01:09:53.080 --> 01:09:57.380 Sie sehen, angetragen ist das Ganze in Punkt µ1, µ2, also in Punkt µ. 01:09:58.300 --> 01:10:02.140 Das entspricht dieser Addition, dort in dem Satz oben. 01:10:02.860 --> 01:10:06.140 Und so sieht man, muss ich letztlich nur zwei unabhängige 01:10:06.140 --> 01:10:08.540 Standardnormalverteilte Zufallszweigungen erzeugen. 01:10:08.680 --> 01:10:12.600 Denken Sie an diese Cosinus-Sinus-Geschichte, Boxmuller, kann ich 01:10:12.600 --> 01:10:12.880 machen. 01:10:13.780 --> 01:10:17.840 Und je nachdem, bei mir sind jetzt die beiden Y1 und Y2 positiv 01:10:17.840 --> 01:10:20.140 ausgefallen als Realisierung. 01:10:20.140 --> 01:10:24.860 Wenn Y1 zum Beispiel negativ gewesen wäre, hätte ich natürlich nach 01:10:24.860 --> 01:10:26.880 links unten angetragen auf der Achse. 01:10:27.460 --> 01:10:31.220 Also so entsteht eine bivariante Normalverteilung. 01:10:31.560 --> 01:10:34.340 Also insbesondere sollte man erkennen, stellen Sie sich vor, 01:10:34.440 --> 01:10:39.220 Wurzellambda 1 ist wesentlich größer als Wurzellambda 2, wesentlich 01:10:39.220 --> 01:10:39.700 größer. 01:10:40.000 --> 01:10:44.120 Da würden Sie die Realisierung von Y1 viel stärker gewichten, das 01:10:44.120 --> 01:10:47.500 heißt in Richtung dieser schrägen Achse, die so langsam aufsteigt, 01:10:47.500 --> 01:10:50.820 hätten Sie eine viel größere Variabilität als in der anderen Achse. 01:10:51.440 --> 01:10:54.280 Und schon, wenn Sie das wiederholt machen, werden Sie sehen, es wird 01:10:54.280 --> 01:10:58.080 sich eine elliptische Punktwolke ergeben, wenn Sie das wiederholt 01:10:58.080 --> 01:11:04.560 machen, derart, dass die Ellipse ziemlich lang gestreckt ist. 01:11:04.760 --> 01:11:07.040 Stellen Sie sich vor, theoretisch sehen wir mal Wurzellambda 2 01:11:07.040 --> 01:11:10.860 vielleicht nur 0,1 und Wurzellambda 1 ist 10. 01:11:11.680 --> 01:11:15.780 Dann werden Sie eine sehr lang gezogene Wolke haben, die sich sehr nah 01:11:15.780 --> 01:11:17.900 um diese aufsteigende Gerade herum gruppiert. 01:11:18.060 --> 01:11:21.700 Das heißt, Sie sehen sofort an Lambda 1 und Lambda 2, wie diese 01:11:21.700 --> 01:11:22.360 Ellipse aussieht. 01:11:22.400 --> 01:11:25.380 Wenn Lambda 1 gleich Lambda 2 ist, werden Sie Kreise bekommen. 01:11:26.120 --> 01:11:29.800 Zentrum ist natürlich hier immer der Punkt mit den Komponenten µ1 und 01:11:29.800 --> 01:11:30.200 µ2. 01:11:30.480 --> 01:11:31.880 Also so entsteht die Verteilung. 01:11:33.340 --> 01:11:36.660 Ich möchte das vielleicht nochmal ganz konkret machen im R2, auch die 01:11:36.660 --> 01:11:40.320 Transformation, und zwar der Spezialfall k gleich 2. 01:11:41.220 --> 01:11:42.320 Die letzte Folie. 01:11:43.600 --> 01:11:47.320 Zwei Parameter, Sigma Tau strikt positiv, Sigma Quadrat wird die 01:11:47.320 --> 01:11:51.800 Varianz sein von x1 und Tau Quadrat die Varianz von x2. 01:11:52.880 --> 01:11:56.920 Dann ein Rho, Rho wird der Korrelationskoeffizient sein, werden wir 01:11:56.920 --> 01:11:57.100 sehen. 01:11:57.180 --> 01:12:01.220 Er muss betragsmäßig kleiner 1 sein, damit ich keine Entartung habe. 01:12:02.260 --> 01:12:06.220 So y1, y2 seien unabhängig und je Standard normal verteilt. 01:12:06.220 --> 01:12:08.300 Und jetzt kommt die konkrete Transformation. 01:12:08.580 --> 01:12:11.940 Ich setze einen Vektor an mit zwei Komponenten, jetzt kommt eine 01:12:11.940 --> 01:12:15.600 affine Transformation mit regulärer Matrix aus den Ys. 01:12:16.020 --> 01:12:16.780 Und zwar wie folgt. 01:12:16.920 --> 01:12:21.220 Wir sehen diese Matrix, wir sehen Sigma 0, die erste Zeile, und dann 01:12:21.220 --> 01:12:24.620 Sigma Tau mal und unten Tau mal Wurzel 1 minus Rho Quadrat. 01:12:24.660 --> 01:12:28.220 Sie erkennen sofort, Determinante ist von 0 verschieden, Matrix ist 01:12:28.220 --> 01:12:28.920 invertierbar. 01:12:31.500 --> 01:12:35.100 Mal y1, y2 und jetzt addieren Sie noch µ1, µ2. 01:12:35.100 --> 01:12:37.060 Die beiden Zahlen geben Sie sich auch vor. 01:12:37.140 --> 01:12:40.060 Und das nennen wir A, das ist unsere Matrix A, ganz konkret. 01:12:40.860 --> 01:12:43.140 Welche Verteilung erzeugen wir mit dieser Matrix? 01:12:45.120 --> 01:12:46.900 Wir erzeugen folgende Verteilung. 01:12:47.020 --> 01:12:50.740 Erstmal, wenn Sie A mal A transponiert ausrechnen, eine konkrete, 01:12:50.920 --> 01:12:53.680 einfache Rechnung, dann kommt eine Matrix Sigma raus. 01:12:54.160 --> 01:12:55.760 Und die besitzt folgende Gestalt. 01:12:55.760 --> 01:13:00.320 Zwei Kreuz Zwei Matrix, nämlich oben links Sigma Quadrat, dann Rho mal 01:13:00.320 --> 01:13:01.160 Sigma mal Tau. 01:13:01.680 --> 01:13:04.340 Da auch nochmal Rho mal Sigma mal Tau und Tau Quadrat. 01:13:05.500 --> 01:13:09.020 Sie erkennen oben links, das ist wunderbar, wenn das die Varianz von 01:13:09.020 --> 01:13:12.480 x1 sein soll, und unten rechts die Varianz von x2, haben Sie Sigma 01:13:12.480 --> 01:13:13.660 Quadrat und Tau Quadrat. 01:13:14.220 --> 01:13:17.520 Und wenn Rho der Korrelationskoeffizient sein soll, dann ist natürlich 01:13:17.520 --> 01:13:19.720 Rho mal Sigma mal Tau die Covarianz. 01:13:21.080 --> 01:13:24.380 Wenn Sie sich mal überlegen, wie der Korrelationskoeffizient definiert 01:13:24.380 --> 01:13:24.660 war. 01:13:25.440 --> 01:13:29.120 Als Covarianz dividiert durch Produkt der Standardabweichung war er 01:13:29.120 --> 01:13:29.640 definiert. 01:13:30.100 --> 01:13:33.880 Das heißt, das Rho mal Sigma mal Tau ist die Covarianz zwischen x1 und 01:13:33.880 --> 01:13:34.360 x2. 01:13:36.840 --> 01:13:39.360 Und das heißt, das Rho ist nichts anderes als der 01:13:39.360 --> 01:13:44.200 Korrelationskoeffizient, denn ich muss die Covarianz teilen durch das 01:13:44.200 --> 01:13:46.980 Produkt der Standardabweichung und die sind Sigma und Tau. 01:13:48.020 --> 01:13:52.700 Okay, x1, jetzt schreiben wir das nochmal ganz konkret hin, x1 ist 01:13:52.700 --> 01:13:57.980 also, schauen Sie auf die Matrix, Sigma mal y1 plus 0 mal y2 ist also 01:13:57.980 --> 01:14:03.180 einfach nur Sigma mal y1 und y1 hat die Standardnormalverteilung, also 01:14:03.180 --> 01:14:08.200 hat Sigma mal y1 die Normalverteilung mit 0, der Erwartungswert ändert 01:14:08.200 --> 01:14:10.860 sich nicht, aber die Varianz ändert sich quadratisch, Entschuldigung, 01:14:10.860 --> 01:14:12.580 Mü 1, ich habe Mü 1 vergessen. 01:14:13.520 --> 01:14:16.780 Das heißt, der Erwartungswert ist Mü 1 und die Varianz ist Sigma 01:14:16.780 --> 01:14:17.280 quadrat. 01:14:17.800 --> 01:14:22.220 Das heißt, x1 hat diese Normalverteilung mit Mü 1 und Sigma quadrat. 01:14:22.920 --> 01:14:25.660 Jetzt sehen Sie sich die zweite Komponente an, x2. 01:14:26.320 --> 01:14:29.780 Wenn Sie sich die Matrix ansehen, das ist Sigma Tau, also zweite 01:14:29.780 --> 01:14:35.860 Zeile, mal y1 plus, und jetzt die andere Komponente, Wurzel 1 minus 01:14:35.860 --> 01:14:40.800 Rho quadrat, ich habe das vorgezogen, mal Tau mal y2 plus Mü 2, so das 01:14:40.800 --> 01:14:45.160 hat natürlich auch eine Normalverteilung, nämlich y1 und y2 sind 01:14:45.160 --> 01:14:45.800 unabhängig. 01:14:46.720 --> 01:14:47.080 Standardnormalverteilt. 01:14:48.060 --> 01:14:49.400 Wir haben das Additionsgesetz. 01:14:50.220 --> 01:14:52.680 Es kommt eine Normalverteilung raus, ich muss nur die Parameter 01:14:52.680 --> 01:14:53.220 angeben. 01:14:54.060 --> 01:14:57.900 y1 und y2 haben die Erwartungswerte 0, das heißt, der Erwartungswert 01:14:57.900 --> 01:14:59.640 ist das, was da hinten steht, das Mü 2. 01:15:00.760 --> 01:15:02.840 Was ist die Varianz, und die habe ich schon hingeschrieben, Tau 01:15:02.840 --> 01:15:08.220 quadrat, die bekommen wir auch einfach raus, nämlich Mü 2 geht in die 01:15:08.220 --> 01:15:11.480 Varianz nicht ein, aber die Vorfaktoren gehen ein. 01:15:12.080 --> 01:15:16.380 Nun, da y1 und y2 unabhängig sind, sind die beiden Summanen 01:15:16.380 --> 01:15:17.040 unabhängig. 01:15:17.940 --> 01:15:20.860 Die Varianz einer Summe von unabhängigen Zufallsvarianten ist Summe 01:15:20.860 --> 01:15:21.480 der Varianzen. 01:15:22.220 --> 01:15:27.080 Varianz von Rho mal Tau y1, erster Summand, ist Rho quadrat mal Tau 01:15:27.080 --> 01:15:27.620 quadrat. 01:15:27.820 --> 01:15:29.360 Die Varianz von y1 ist 1. 01:15:30.280 --> 01:15:33.420 Varianz des zweiten Summanden ist das Quadrat vom Vorfaktor. 01:15:33.520 --> 01:15:36.440 Das wäre 1 minus Rho quadrat in Klammern mal Tau quadrat. 01:15:36.520 --> 01:15:38.840 Wenn Sie die beiden addieren, kommt Tau quadrat raus. 01:15:39.300 --> 01:15:40.460 So ergibt sich die Varianz. 01:15:40.840 --> 01:15:43.740 Das heißt, wir haben wirklich Verteilungen erzeugt, 01:15:44.100 --> 01:15:48.000 Normalverteilungen, also eine bivariante Normalverteilung erstmal als 01:15:48.000 --> 01:15:48.900 affine Transformation. 01:15:49.140 --> 01:15:52.620 Die Komponenten haben Normalverteilungen, die wir vorgeben, und wir 01:15:52.620 --> 01:15:57.420 haben auch ein Korrelationskoeffizient, den wir uns vorgeben, mit Rho. 01:15:57.420 --> 01:15:58.640 Rho betracht kleine 1. 01:15:59.320 --> 01:16:01.140 Das kann ich jetzt kurz so schreiben. 01:16:01.560 --> 01:16:03.980 Ich versuche, das y1 wegzubekommen. 01:16:04.460 --> 01:16:09.000 Schauen Sie in die Zeile drüber, da steht x1 ist Sigma mal y1 plus µ1. 01:16:09.100 --> 01:16:10.960 Das kann ich nach y1 auflösen. 01:16:11.780 --> 01:16:15.280 y1 ist nichts anderes als x1 minus µ1 durch Sigma. 01:16:15.800 --> 01:16:16.680 Und den Rest lasse ich. 01:16:16.880 --> 01:16:17.980 µ2 ziehe ich vor. 01:16:18.520 --> 01:16:19.280 Den Rest lasse ich. 01:16:20.340 --> 01:16:22.540 Jetzt sehen Sie, was wir erreicht haben. 01:16:22.540 --> 01:16:27.240 x2, diese zweite Komponente, worauf ich hinaus will, ist folgendes. 01:16:27.260 --> 01:16:30.460 Sie wollen auf die Abhängigkeit zwischen x1 und x2 raus. 01:16:30.880 --> 01:16:35.000 y1 und y2 waren unabhängig, aber nicht x1 und x2. 01:16:36.000 --> 01:16:40.380 Aber x2 haben wir jetzt geschrieben als einen ersten Term. 01:16:40.600 --> 01:16:42.540 Dieser, der hängt nur von x1 ab. 01:16:42.720 --> 01:16:44.000 Da sehen Sie kein x2. 01:16:50.160 --> 01:16:53.120 Das zweite vergessen Sie, der hängt nur von x1 ab. 01:16:53.120 --> 01:16:56.020 Ich nenne diesen Term mal h von x1. 01:16:56.540 --> 01:17:00.940 Das Entscheidende ist, dass x1, was da oben steht in der Zeile drüber, 01:17:01.060 --> 01:17:03.340 ist ja direkt eine Funktion von y1. 01:17:04.360 --> 01:17:07.380 Das heißt, dieser erste Summand, der da steht, der hängt nur von dem 01:17:07.380 --> 01:17:11.960 y1 ab und das y2, was davon unabhängig ist, taucht da hinten auf. 01:17:13.140 --> 01:17:16.640 Und das wird umso bedeutender, dieser zweite Summand, je näher das 01:17:16.640 --> 01:17:18.320 Rohquadrat an 1 ist. 01:17:18.360 --> 01:17:20.540 Denn da steht Wurzel 1 minus Rohquadrat. 01:17:20.540 --> 01:17:24.220 Sie sehen, wenn das ganz stark bei 1 ist oder bei minus 1, ist 01:17:24.220 --> 01:17:27.740 Rohquadrat in der Nähe von 1 und die Wurzel ist in der Nähe von 0. 01:17:28.260 --> 01:17:34.840 Das bedeutet, das x2 ist sehr stark bestimmend von h von x1 nur, wenn 01:17:34.840 --> 01:17:38.020 das Roh in der Nähe von plus oder minus 1 ist. 01:17:38.520 --> 01:17:41.720 Man nennt jetzt diese Zuordnung, Sie sehen hier diesen ersten Teil, 01:17:42.160 --> 01:17:46.620 Funktion x1 geht über in dieses h von x1, hat die Struktur einer 01:17:46.620 --> 01:17:48.020 Geraden im R2. 01:17:48.020 --> 01:17:54.020 Diese Gerade, die x1 abbildet auf h von x1, heißt Regressionsgrade von 01:17:54.020 --> 01:17:55.380 x2 auf x1. 01:17:55.860 --> 01:17:58.240 Jetzt schließt sich der Kreis, wir hatten das in der allerersten 01:17:58.240 --> 01:18:00.200 Stunde, zur deskriptiven Statistik. 01:18:01.980 --> 01:18:05.660 Das heißt, Sie können konkret eine bivariate Normalverteilung so 01:18:05.660 --> 01:18:09.140 erzeugen, aus unabhängigen standardnormal verteilten Zufallsvariablen. 01:18:10.040 --> 01:18:13.020 Hier habe ich nicht argumentiert mit Eigenwerten und Eigenvektoren, 01:18:13.020 --> 01:18:17.640 sondern wir haben uns ganz konkret Werte vorgegeben, µ1, µ2, Sigma 01:18:17.640 --> 01:18:19.260 -Quadrat, Tau-Quadrat und ein Roh. 01:18:19.740 --> 01:18:23.560 Und ich möchte gerne bivariate Normalverteilung haben mit diesen 01:18:23.560 --> 01:18:27.160 Erwartungswerten, diesen Varianzen und Korrelationskoeffizient Roh. 01:18:27.520 --> 01:18:29.800 Und das ist die konkrete Erzeugungsweise. 01:18:30.620 --> 01:18:36.580 Und wir sehen am Ende, dass x2 umso stärker nur durch x1 bestimmt ist, 01:18:36.900 --> 01:18:39.640 je näher das Roh bei plus und bei minus 1 liegt. 01:18:44.050 --> 01:18:48.150 Gut, an dieser Stelle, das war jetzt die letzte Folie, ist alles 01:18:48.150 --> 01:18:48.670 beendet. 01:18:49.790 --> 01:18:53.250 Also nochmal herzlichen Dank und alles Gute für Sie.