WEBVTT 00:05.790 --> 00:09.300 Jetzt steige ich inhaltlich ein zum Thema KI und Prüfungen aus einer 00:09.300 --> 00:11.740 rechtsperspektivischen Betrachtung. 00:13.400 --> 00:17.400 So, wir würden für unsere heutige Zwecke zwischen zwei Grundarten von 00:17.400 --> 00:21.540 KI unterscheiden, und zwar Generierende und Entscheidende. 00:21.900 --> 00:26.440 Die Generierende kann man sich vorstellen mit Chachabitty oder solche, 00:26.640 --> 00:27.600 die Bilder generieren. 00:28.140 --> 00:32.080 Die funktionieren so, dass man einen Input an Daten, wir nennen das 00:32.080 --> 00:33.620 auch Prompt, dazu reingibt. 00:33.620 --> 00:39.040 Die KI verarbeitet das aufgrund von Algorithmen und spuckt uns 00:39.040 --> 00:44.380 irgendeine Umformulierung, Umstrukturierung dieses Prompts raus. 00:45.360 --> 00:50.920 Im Gegensatz dazu sind die Entscheidende KI solche, die auf Basis 00:50.920 --> 00:54.520 unserer Inputs eine bewertende Entscheidung treffen. 00:54.520 --> 00:56.840 Das kennt man schon, das gibt es schon eigentlich längere Zeit, 00:56.940 --> 01:01.640 Softwares auch für Einschätzung der Kreditsicherheit oder der 01:01.640 --> 01:04.340 Versicherungsrisiken. 01:04.600 --> 01:07.620 Oder wie wir es in unserem Bereich vielleicht eher kennen, Learning 01:07.620 --> 01:08.200 Analytics. 01:08.840 --> 01:11.420 Solche KIs, die betrachten wir heute nicht, die sind auch viel 01:11.420 --> 01:15.980 komplexer in ihrer Arbeitsweise und auch rechtlich können sie viel 01:15.980 --> 01:19.580 mehr Probleme bereiten aufgrund dieser Komplexität. 01:19.580 --> 01:23.720 Aber das, was uns heute viel mehr interessiert, sind die großen 01:23.720 --> 01:26.960 Sprachmodelle oder solche, die Bilder generieren können, also 01:26.960 --> 01:28.000 generierende KIs. 01:31.960 --> 01:36.100 Dann werde ich zwischen diesen drei Situationen jetzt unterscheiden 01:36.100 --> 01:40.160 und dann genauer darin betrachten, was die KI macht und welche 01:40.160 --> 01:42.340 rechtlichen Anforderungen sich dabei ergeben. 01:42.340 --> 01:46.500 Beim Training ist es so, dass man sich das als eine Vorstufe schon 01:46.500 --> 01:49.960 vorstellen, das passiert nicht bei uns an den Hochschulen, sondern bei 01:49.960 --> 01:51.720 den Softwareentwicklern in den Unternehmen. 01:52.240 --> 01:55.720 Sie schreiben ein Code, sie haben Algorithmen und dann speisen sie das 01:55.720 --> 02:01.540 mit vielen, vielen Daten, damit die KI lernt auf Basis dieser Daten, 02:01.620 --> 02:05.000 wie sie richtig dann umformuliert, wie sie richtig Bilder generiert 02:05.000 --> 02:05.820 und so weiter und so fort. 02:05.820 --> 02:07.500 Das ist die Trainingsphase. 02:08.160 --> 02:12.160 Dabei ist natürlich sehr wichtig, Urheberrecht aus dieser Perspektive, 02:12.420 --> 02:17.360 dass in diesen Datenmengen mit Sicherheit oder mit einer sehr großen 02:17.360 --> 02:22.180 Wahrscheinlichkeit auch urheberrechtlich geschützte Werke dabei sind. 02:23.000 --> 02:26.680 Und damit man solche nutzen kann, bräuchte man eine 02:26.680 --> 02:29.600 Erlaubnisgrundlage, die könnte vertraglich erteilt sein. 02:29.600 --> 02:34.060 Das ist zu bezweifeln aufgrund der großen Mengen an Daten, die dann 02:34.060 --> 02:35.480 verwendet werden. 02:35.720 --> 02:37.920 Die könnte gesetzlich sein, jetzt nach dem deutschen Recht hier 02:37.920 --> 02:42.360 betrachtet, 44a, 44b oder 60d Urhebergesetz. 02:42.900 --> 02:45.300 Ich werde jetzt nicht in die Tiefe des Urheberrechts mit euch jetzt 02:45.300 --> 02:45.780 einsteigen. 02:45.780 --> 02:48.800 Ich wollte sie kurz erwähnen, die werden diskutiert, aber im Großen 02:48.800 --> 02:52.340 und Ganzen wird gesagt, dass diese drei Normen vom Wortlaut her und 02:52.340 --> 02:56.000 vom Sinn und Zweck der Normen nicht wirklich subsumbierbar sind oder 02:56.000 --> 02:58.920 nicht wirklich dafür passen, was jetzt zum Beispiel Chats, GPT oder 02:58.920 --> 03:02.980 ähnliche KIs genau machen mit den Daten, also auch mit möglichen 03:02.980 --> 03:04.400 urheberrechtlich geschützten Werken. 03:04.400 --> 03:08.780 Das heißt, die Normen können wir jetzt auch ausschließen als 03:08.780 --> 03:11.500 Ermächtigungsgrundlage oder Erlaubnis für die Verwendung dieser 03:11.500 --> 03:15.140 urheberrechtlich geschützten Werken und sagen, dass es wahrscheinlich 03:15.140 --> 03:17.720 zu urheberrechtlichen Bestößen beim Training kommt. 03:17.720 --> 03:21.420 Die Relevanz für uns an Hochschulen ist natürlich bei dieser Phase 03:21.420 --> 03:23.960 nicht, weil wir selbst die KIs trainieren, noch nicht. 03:24.160 --> 03:27.400 Vielleicht, wenn die Hochschulen bei uns innovativer werden und mit 03:27.400 --> 03:30.420 Zeit auch selbst KIs entwickeln, wird diese Phase auch bei uns 03:30.420 --> 03:35.160 stattfinden und dann muss man natürlich darauf achten, dass die Phase 03:35.160 --> 03:36.580 auch rechtlich sauber durchläuft. 03:36.580 --> 03:40.340 Aber zum jetzigen Zeitpunkt ist bei uns die Relevanz so insoweit, dass 03:40.340 --> 03:44.160 wir diese notwendigen Informationen den Studierenden, den Lehrenden, 03:44.240 --> 03:48.200 den Prüfenden weitergeben sollten, sie schulen sollen, was eigentlich 03:48.200 --> 03:51.360 im Voraus dieser ganzen Sprachmodelle passiert ist. 03:51.360 --> 03:54.360 Dass sie Sensibilität dafür entwickeln für die von mir jetzt gerade 03:54.360 --> 03:57.940 beschriebene mögliche Verstöße gegen Urheberrechte unter anderem. 03:58.640 --> 04:02.380 Und dass man weiß einfach, wenn ich jetzt mit einer KI später arbeite, 04:02.620 --> 04:06.140 die späteren Phasen werden wir gleich durchlaufen, was steckt dahinter 04:06.140 --> 04:10.540 und möglicherweise begehe ich auch weitere Verstöße aufgrund dieser 04:10.540 --> 04:15.040 bereits initiellen, nicht berücksichtigten urheberrechtlichen 04:15.040 --> 04:15.480 Vorgaben. 04:15.480 --> 04:21.180 Und auch die Problematik, dass möglicherweise die Prompting-Daten, das 04:21.180 --> 04:25.660 sehen wir gleich, wie Prompting funktioniert, auch von KIs zu Training 04:25.660 --> 04:26.480 benutzt werden. 04:26.640 --> 04:30.200 Das heißt, bei der Arbeit mit der KI werden unsere Daten, die wir da 04:30.200 --> 04:33.700 reingeben, auch benutzt, damit die KI dann sich weiterentwickelt. 04:34.160 --> 04:37.620 Und da müssen wir dann achten mit diesen Daten, was dann passiert. 04:37.620 --> 04:39.560 So sind wir schon beim Prompting. 04:39.860 --> 04:42.980 Wie ich schon beschrieben habe, jetzt haben wir die KI, sieht, können 04:42.980 --> 04:46.000 wir uns Chatschipitiso vor Augen führen, wir haben ein Fenster unten, 04:46.120 --> 04:50.040 da tippen wir eine Aufgabe, vielleicht eine Fragestellung und dann 04:50.040 --> 04:54.540 noch eine gewisse Struktur, wie wir die Outputs, die Ergebnisse zu 04:54.540 --> 04:58.240 bekommen sollen und vielleicht schmeißen wir noch sogar einige unserer 04:58.240 --> 05:01.300 selbstgeschriebenen Aufsätze rein, damit es urheberrechtlich sauber 05:01.300 --> 05:03.940 bleibt und dann spuckt uns die KI was raus. 05:03.940 --> 05:06.380 Was könnte jetzt aber dabei problematisch sein? 05:07.360 --> 05:11.320 Natürlich hier wieder an erster Stelle urheberrechtliche Fragen, wenn 05:11.320 --> 05:18.680 Werke dazu reingegeben werden im Prompt, die nicht meine eigene sind, 05:19.140 --> 05:22.140 urheberrechtlich geschützt sind und für die ich keine Erlaubnis habe 05:22.140 --> 05:25.680 zur Nutzung, weil die von der KI benutzt werden und wahrscheinlich 05:25.680 --> 05:28.080 auch zum Training weiterverwendet werden. 05:28.080 --> 05:31.220 Und dann verletze ich urheberrechtlich, indem ich diese Daten da 05:31.220 --> 05:31.540 reingebe. 05:31.640 --> 05:35.300 Das könnten Prüferinnen sein, die die Arbeiten von Studierenden da 05:35.300 --> 05:39.900 reingeben, um eine Vorüberprüfung durchführen zu lassen oder sich zu 05:39.900 --> 05:44.820 behelfen mit irgendwas an der Arbeit zu prüfen im Voraus. 05:44.820 --> 05:48.860 Das können aber Studierende sein, die bei der Lösung von Aufgaben die 05:48.860 --> 05:54.180 KI bieten, gewisse fremde Aufsätze vorzustrukturieren, 05:54.380 --> 05:57.080 zusammenzufassen oder irgendwie zu verarbeiten. 05:57.180 --> 06:00.700 Wenn sie keine Erlaubnis haben, diese Werke dann so zu verwenden, 06:01.000 --> 06:02.200 verletzen sie urheberrechtlich. 06:03.680 --> 06:07.780 Datenschutz spielt auch dabei eine Rolle, weil personenbezogene Daten 06:07.780 --> 06:13.400 dabei auch eine Rolle spielen könnten, wie wenn Prüferinnen ganze 06:13.400 --> 06:17.340 Arbeiten, die vielleicht Namen, Wohnort oder Kennung der Studierenden 06:17.340 --> 06:24.360 beinhalten, da reingeben, um eine Vorbewertung vorzubitten, die KI das 06:24.360 --> 06:25.080 durchzuführen. 06:26.200 --> 06:30.400 Das ist eine Verarbeitung der personenbezogenen Daten der Studierenden 06:30.400 --> 06:34.820 und das könnte datenschutzrechtlich problematisch sein, weil die 06:34.820 --> 06:37.560 Server gar nicht im DSGVO-Raum sind, zum Beispiel jetzt bei den 06:37.560 --> 06:40.840 jetzigen KI, sondern außerhalb von der EU. 06:41.600 --> 06:43.100 Die Fragen würde ich für nachher stellen. 06:43.220 --> 06:43.360 Danke. 06:44.480 --> 06:47.460 Außerdem Daten von Studierenden, wenn sie selbst das im Prompt 06:47.460 --> 06:50.300 reingeben, natürlich können sie das freiwillig tun, aber wir müssen 06:50.300 --> 06:54.440 uns bedenken, wenn wir KIs in unsere Lehre und Prüfungen aktiv 06:54.440 --> 06:57.720 einbeziehen wollen, dürfen wir die Studierenden nicht dazu 06:57.720 --> 07:01.920 verpflichten oder dazu animieren, ihre eigenen Daten verarbeiten zu 07:01.920 --> 07:04.480 lassen, wenn wir nicht gewährleisten können als Universität, dass 07:04.480 --> 07:06.600 diese Verarbeitung datenschutzkonform stattfindet. 07:06.600 --> 07:12.400 Und auch noch ein Aspekt ist, dass wenn Studierende oder wenn Menschen 07:12.400 --> 07:12.880 z.B. 07:12.960 --> 07:14.820 Chatty Pitty nutzen wollen, müssen sie sich erstmal ein Account 07:14.820 --> 07:15.260 zulegen. 07:15.660 --> 07:18.740 Dabei müssen sie auch einige personenbezogene Daten eingeben, um 07:18.740 --> 07:19.880 überhaupt Accounts zu bekommen. 07:20.620 --> 07:23.480 Das dürfen Universitäten auch nicht von ihren Studierenden verlangen, 07:23.620 --> 07:26.960 sondern man könnte entweder, also ohne weiteres nicht verlangen, man 07:26.960 --> 07:30.440 könnte entweder mit den Betreibern Vereinbarungen abschließen, dass 07:30.440 --> 07:34.320 die Verarbeitung dieser Daten oder sonstige Daten von Studierenden 07:34.320 --> 07:36.220 DSGVO -konform ablaufen soll. 07:36.220 --> 07:40.100 Wie wahrscheinlich es ist, dass jetzt OpenAI mit der Uni Heidelberg 07:40.100 --> 07:41.860 seine Vereinbarung abschließt, weiß ich nicht. 07:42.200 --> 07:44.840 Aber eine andere Lösung wäre, damit wir diese datenschutzrechtliche 07:44.840 --> 07:48.940 Höhe überwinden, dass man sagt, okay, ich als Uni mache einige Zugänge 07:48.940 --> 07:51.680 im Voraus und biete sie jetzt den Studierenden an, damit sie wissen 07:51.680 --> 07:55.600 und damit sie mit diesem KI datenschutzkonform arbeiten können, ohne 07:55.600 --> 07:57.780 dass ihre Daten da verwendet werden. 07:59.780 --> 08:03.040 Prüfungsrechtlich ist die Prompting-Phase aus dieser Perspektive 08:03.040 --> 08:03.620 vielleicht interessant. 08:04.000 --> 08:08.740 Man könnte sich jetzt fragen, das ist eine neue Art, könnte eine neue 08:08.740 --> 08:14.640 Art sein, zu denken, zu prüfen, zu arbeiten auch später. 08:14.960 --> 08:17.100 Also die Frage ist, ist es eine neue Kompetenz? 08:17.500 --> 08:19.340 Das kann ich als Jurist nicht beantworten. 08:19.420 --> 08:22.140 Das sind natürlich die DidaktikerInnen unter euch an erster Stelle 08:22.140 --> 08:22.500 gefragt. 08:22.500 --> 08:26.560 Aber wenn es so wäre, wenn man sich das sinnvoller so überlegen 08:26.560 --> 08:30.420 könnte, sollten wir das auch in Studien, Prüfungs- und Modulordnungen 08:30.420 --> 08:34.160 übersetzen, damit wir diese Kompetenz auch abfragen und an erster 08:34.160 --> 08:36.160 Stelle natürlich lehren und dann abfragen. 08:38.700 --> 08:45.120 Und die Frage, ob es nicht eine sinnvolle Einbeziehung dieser KIs in 08:45.120 --> 08:48.460 die Lehre geben sollte, gerade damit wir auch den Studierenden 08:48.460 --> 08:52.020 beibringen, was ist eine sinnvolle Nutzung, was ist eine nicht 08:52.020 --> 08:53.060 sinnvolle Nutzung. 08:53.060 --> 08:56.080 Weil diese KIs funktionieren, wie wir bereits schon wahrscheinlich 08:56.080 --> 09:00.780 wissen, nur auf einer Wahrscheinlichkeitsbasis, indem sie Sachen 09:00.780 --> 09:04.260 umformulieren, für die wahrscheinlichste Lösung, wie Silbenwörter 09:04.260 --> 09:05.880 gereiht werden sollen. 09:06.300 --> 09:09.720 Die beantworten mir keine Fragen, die generieren kein Wissen, sondern 09:09.720 --> 09:10.660 die formulieren nur um. 09:11.080 --> 09:14.480 Und solche Feinheiten müssen den Studierenden beigebracht werden. 09:14.480 --> 09:17.820 Wir können nicht verlangen, dass sie solche technischen Sachen 09:17.820 --> 09:20.840 vielleicht selbst oder gut beherrschen, sondern das müssen wir erstmal 09:20.840 --> 09:21.700 auch beibringen. 09:21.920 --> 09:24.660 Aber das nur, wenn wir das auch lehren und vielleicht auch 09:24.660 --> 09:25.640 möglicherweise prüfen. 09:26.680 --> 09:30.660 Dann die dritte Situation ist die Ergebnissnutzung. 09:30.780 --> 09:35.940 Nachdem jetzt die KI gefragt wurde, spuckt sie mir einiges raus und 09:35.940 --> 09:38.320 die Frage ist jetzt, wie nutze ich, wie könnte ich diese Ergebnisse 09:38.320 --> 09:38.780 nutzen. 09:39.780 --> 09:42.740 Dabei wieder das Urheberrecht jetzt an erster Stelle. 09:44.880 --> 09:50.840 Die Frage jetzt, wer Urheber dieser Werke ist, werde ich jetzt nicht 09:50.840 --> 09:54.860 im Detail betrachten, weil, wie wir schon alle wissen, 09:55.020 --> 09:58.060 urheberrechtlich sind nur Werke von Menschen geschützt. 09:58.060 --> 10:03.960 Weil Paragraph 2 Urhebergesetz sagt, ein Werk ist eine persönliche 10:03.960 --> 10:08.280 geistige Schöpfung und das kann eine KI nicht gewährleisten. 10:08.740 --> 10:13.320 Jetzt die Feinheit, ob ein Werk, wenn es nur KI gestützt und nicht 10:13.320 --> 10:17.880 ganz generiert ist, ob daran vielleicht die Person, die dieses Stützen 10:17.880 --> 10:21.560 gemacht hat, ob sie vielleicht Urheberin wird, aber soll sie dabei ein 10:21.560 --> 10:24.060 sehr cleveres Prompt ausgedacht haben oder soll sie sogar das 10:24.060 --> 10:27.180 Algorithmus noch geschrieben haben, das ist sehr schwammig, wie wir 10:27.180 --> 10:27.900 alle merken. 10:27.900 --> 10:30.940 Und gerade deswegen überlegt sich jetzt die EU, aber auch in 10:30.940 --> 10:34.840 Deutschland wird überlegt, dass gesetzgeberisch daran, die 10:34.840 --> 10:38.700 Gesetzgeberin ist gefragt, wir sollten jetzt das Urheberrecht 10:38.700 --> 10:42.980 überdenken und uns fragen, wer ab jetzt Urheber von Werken sein kann 10:42.980 --> 10:43.440 und nicht. 10:43.440 --> 10:46.120 Das müssen wir jetzt hier unter uns nicht besprechen, aber nur diese 10:46.120 --> 10:49.800 Sensibilität, dass wir sie haben und den Studierenden, Prüfen, 10:49.960 --> 10:51.340 Lehrenden auch weitergeben. 10:53.240 --> 10:59.060 Persönlichkeitsrechte sind betroffen, weil möglicherweise Daten von 10:59.060 --> 11:01.420 Personen schon im Prompt vorhanden waren. 11:01.920 --> 11:06.180 Wenn das nicht Personen des öffentlichen Lebens sind, ist es 11:06.180 --> 11:08.920 eigentlich ein Verstoß, dass die KI jetzt behauptet, Martin Drossos 11:08.920 --> 11:11.280 hätte dies und jenes vielleicht gemacht oder gegessen und so weiter 11:11.280 --> 11:11.740 und so fort. 11:12.200 --> 11:17.220 Und gerade auch DSGVO-konform müsste ich das Recht zur Berichtigung 11:17.220 --> 11:18.740 haben, zur Berichtigstellung. 11:18.740 --> 11:22.580 Das ist gerade bei einer komplexen neuronalen Netzwerkstruktur von 11:22.580 --> 11:28.000 solchen KIs bei weitem nicht so einfach, wenn Daten einmal 11:28.000 --> 11:32.000 reingefüttert wurden, dass ich das wieder rausradiere oder berichtige. 11:32.380 --> 11:36.040 Also das muss uns auch bewusst sein und das kann problematisch sein. 11:36.040 --> 11:41.120 Prüfungsrechtlich ist es, ich will jetzt nicht sagen eigentlich klar, 11:41.280 --> 11:42.340 aber eigentlich klar. 11:42.740 --> 11:46.900 Bis zur jetzigen Rechtslage ist die Nutzung solcher KIs eine Täuschung 11:46.900 --> 11:51.100 versucht, wenn die Prüfungsordnung das nicht explizit zulässt, weil 11:51.100 --> 11:55.860 das eine fremde Leistung, also pauschale Übernahme von solchen KI 11:55.860 --> 11:59.260 -generierten Werken sind nicht meine eigene Leistung. 11:59.260 --> 12:03.040 Und gerade wenn ich das nicht kennzeichne, ist es weiter gesehen als 12:03.040 --> 12:06.600 ein Urheberrechtsverstoß, weil ein Plagiat ist jede nicht 12:06.600 --> 12:09.700 gekennzeichnete Übernahme fremder Leistungen, egal ob sie 12:09.700 --> 12:12.160 urheberrechtlich geschützt ist oder nicht. 12:13.000 --> 12:18.240 Und wenn ich nicht erlaube, dass diese Leistungen benutzt werden und 12:18.240 --> 12:20.580 dann die Studierenden sie nicht kennzeichnen, ist es ein Verstoß. 12:20.580 --> 12:23.980 Aber wir wissen, wie wenig wir das kontrollieren können. 12:24.360 --> 12:27.700 Es gibt klar Softwares, die jetzt mehr und mehr das anbiegen, aber es 12:27.700 --> 12:29.120 wird einen Wettstreit der Softwares geben. 12:29.220 --> 12:31.540 Die einen werden es kontrollieren wollen, die anderen werden es 12:31.540 --> 12:35.200 ausgekleverter auch verhindern wollen, dass es kontrolliert wird. 12:35.520 --> 12:38.260 Also ich glaube, da ist die Lösung nicht, dass wir an der Kontrolle 12:38.260 --> 12:41.320 versuchen besser zu werden, sondern vielleicht müssen wir uns 12:41.320 --> 12:44.740 überlegen, wie wir die Prüfungskonzepte, die Lehrkonzepte 12:44.740 --> 12:46.860 weiterentwickeln, dann das Prüfungsrecht so anpassen. 12:46.860 --> 12:50.900 Ich sage jetzt nicht, ab jetzt sollte KI ein Riesenteil der Prüfungen 12:50.900 --> 12:51.140 sein. 12:51.340 --> 12:56.700 Natürlich, eigenständige Leistungen werden auch immer Kernstück der 12:56.700 --> 12:59.820 Prüfung sein, so wie wir sie verfassungsrechtlich haben. 13:00.020 --> 13:01.000 Das werden wir nicht ändern. 13:01.360 --> 13:03.720 Eigenständiges Denken, eigenständige Leistungen werden bleiben. 13:03.720 --> 13:06.720 Aber vielleicht können wir uns überlegen, wie wir im Voraus von 13:06.720 --> 13:10.500 solchen rechtlichen Prüfungen in Form von Assessments, in Form von 13:10.500 --> 13:15.440 Lernbegleitung oder Denkhilfe wir solche KI sinnvoll nutzen können, 13:15.620 --> 13:18.500 weil sie auch später im Berufsleben sie uns begleiten werden. 13:19.920 --> 13:23.700 Und dadurch vielleicht mein Appell, dass man sich überlegt, eine 13:23.700 --> 13:27.320 Kombination zwischen KI-robuster und KI-integrierter Szenarien bei 13:27.320 --> 13:28.280 Prüfungen zu machen. 13:28.700 --> 13:31.680 Ich sage nicht, dass alle Prüfungen im rechtlichen Sinne sein müssen, 13:32.040 --> 13:37.300 dass alle bewertet werden und dann in die Endnote fließen, aber das 13:37.300 --> 13:43.520 sind mögliche Lösungsansätze, an die ich interessiert wäre und die ich 13:43.520 --> 13:45.100 gerne mit euch gleich diskutieren würde. 13:46.420 --> 13:48.020 Das war jetzt meine Input-Phase. 13:48.160 --> 13:50.080 Ich würde jetzt bitten, dass wir die Aufnahme stoppen.