WEBVTT

00:01.920 --> 00:06.120
Hallo und herzlich willkommen bei Selbstbewusste KI, dem

00:06.120 --> 00:09.620
Forschungspodcast an der Grenze zwischen Mensch und Maschine.

00:11.040 --> 00:16.140
Ich finde immer wieder, dass wir uns völlig überschätzen, weil es

00:16.140 --> 00:17.820
heißt, heute geht alles exponentiell.

00:18.520 --> 00:21.360
Ja, aber was die Leute vergessen ist, die Probleme sind doch

00:21.360 --> 00:22.480
exponentiell kompliziert.

00:23.340 --> 00:25.260
Mein Name ist Carsten Wendland.

00:25.560 --> 00:28.740
Ich bin Forscher am Karlsruher Institut für Technologie und gehe

00:28.740 --> 00:33.100
Fragen nach, wie Technik, die gerade erst noch erforscht wird, morgen

00:33.100 --> 00:35.140
vielleicht schon unseren Alltag prägen könnte.

00:35.940 --> 00:39.280
Mein heutiger Gast ist ein echter Ingenieur, der nicht nur von der

00:39.280 --> 00:41.620
Technik spricht, sondern sie auch implementiert.

00:42.000 --> 00:45.160
Er kommt aus der Elektrotechnik und Informationstechnik und er

00:45.160 --> 00:48.740
arbeitete schon sehr früh wissenschaftlich zu künstlichen neuronalen

00:48.740 --> 00:52.800
Netzen und an der Entwicklung neuer Technologien und Algorithmen rund

00:52.800 --> 00:53.820
um das Gehirn.

00:54.340 --> 00:57.740
In der Schweiz leitete er eine Firma, die sich mit Fragen der

00:57.740 --> 01:01.120
Modellierung des Bewusstseins mit mathematischen und technischen

01:01.120 --> 01:02.200
Methoden beschäftigt.

01:02.880 --> 01:06.520
Heute ist er außerdem ein gefragter Hochschullehrer und Vortragsredner

01:06.520 --> 01:09.130
zu künstlicher Intelligenz auf verschiedenen Kontinenten.

01:10.260 --> 01:12.160
Schön, dass wir heute miteinander sprechen können.

01:12.480 --> 01:14.520
Herzlich willkommen, Ralf Otte.

01:15.060 --> 01:16.200
Ja, schönen guten Tag, Carsten.

01:16.260 --> 01:16.820
Ich freue mich.

01:16.940 --> 01:17.380
Danke dir.

01:17.380 --> 01:22.360
Wir sitzen hier zusammen bei leckerem Frühstück, Croissants und

01:22.360 --> 01:22.800
Kaffee.

01:24.300 --> 01:28.260
Und wie du weißt, Ralf, hält Essen und Trinken Leib und Seele

01:28.260 --> 01:28.600
zusammen.

01:30.340 --> 01:33.800
Und damit wären wir schon beim Geist-Körper-Problem angekommen.

01:34.020 --> 01:38.700
Was bedeutet das Geist-Körper-Problem für dich jenseits von Kaffee und

01:38.700 --> 01:39.200
Croissants?

01:40.040 --> 01:43.520
Ja, für mich bedeutet dieses Problem eines der größten Fragen der

01:43.520 --> 01:43.960
Menschheit.

01:44.680 --> 01:49.120
Eines, womit die Menschheit sich schon seit über 2000 Jahren

01:49.120 --> 01:49.380
beschäftigt.

01:50.400 --> 01:54.520
Und wenn man sich da reinliest in die Literatur, wird man feststellen,

01:54.820 --> 01:56.180
dass es bis heute ungelöst ist.

01:56.300 --> 01:59.260
Eines der großen Rätsel, die uns beschäftigen.

01:59.360 --> 02:02.260
Und die uns auch beschäftigen sollten, denn wir haben alle einen

02:02.260 --> 02:04.180
Körper, wir haben alle einen Geist.

02:04.520 --> 02:06.940
Und die Frage ist, wie kommt das zusammen?

02:06.940 --> 02:11.420
Und du hast einen Lösungsansatz, zu dem auch ein Buch erschienen ist

02:11.420 --> 02:16.680
mit dem Titel Vorschlag einer Systemtheorie des Geistes, nicht

02:16.680 --> 02:20.840
energetische Wellenfunktionen und Vorschlag zur Lösung des Geist

02:20.840 --> 02:21.940
-Körper -Problems.

02:22.020 --> 02:25.160
Also Ingenieure versuchen ja schon immer, erstens Probleme zu

02:25.160 --> 02:28.260
identifizieren und dann zweitens aber auch die Lösungen zu entwickeln.

02:28.360 --> 02:29.500
Was ist denn da die Lösung?

02:30.360 --> 02:34.620
Ja, also ich bin tatsächlich Ingenieur und kein Philosoph.

02:34.860 --> 02:38.540
Das heißt, ich denke über solche Fragen nach und überlege ständig,

02:39.060 --> 02:40.380
nützt uns das in der Technik was?

02:40.440 --> 02:43.660
Das muss ich mir vorausstellen, weil natürlich liebeäuglich damit so

02:43.660 --> 02:46.480
etwas ausbauen zu können, wenn wir es denn einmal verstanden haben.

02:47.200 --> 02:50.280
Und um etwas zu verstehen, gibt es verschiedene Möglichkeiten.

02:50.740 --> 02:54.140
Man kann als Geisteswissenschaftler darüber nachdenken, kann als

02:54.140 --> 02:56.300
Philosoph sich verschiedene Aspekte überlegen.

02:56.300 --> 02:59.960
Und wir Ingenieure oder auch Naturwissenschaftler, die haben meistens

02:59.960 --> 03:02.980
einen anderen Ansatz, die versuchen es erst mal mathematisch zu

03:02.980 --> 03:03.440
modellieren.

03:04.220 --> 03:07.740
Und wenn wir in der Lage sind, es mathematisch zu modellieren und

03:07.740 --> 03:12.120
damit gewisse Eigenschaften zu beschreiben, kommen wir einer Anwendung

03:12.120 --> 03:12.760
näher.

03:13.000 --> 03:15.580
Denn wir sehen das so, erst wenn wir es mathematisch zutiefst

03:15.580 --> 03:18.900
verstanden haben, haben wir überhaupt nur die Chance, es nachzubauen.

03:19.660 --> 03:23.540
Und was bedeutet in diesem Zusammenhang die nicht-energetische

03:23.540 --> 03:24.820
Wellenfunktion?

03:24.980 --> 03:27.360
Wie kann denn eine Welle energetisch und wie kann sie nicht

03:27.360 --> 03:28.280
-energetisch sein?

03:28.540 --> 03:33.700
Ja, ich muss gestehen, ich begebe mich ja auf ein Terrain, was

03:33.700 --> 03:36.340
eigentlich nicht für Ingenieure vorgehalten ist, das ist was für die

03:36.340 --> 03:36.660
Physik.

03:37.680 --> 03:41.960
Und wenn man sich mit der Quantenphysik auseinandersetzt, dann landet

03:41.960 --> 03:45.000
man relativ schnell bei Wellenfunktionen, bei Schrödinger Gleichungen.

03:45.000 --> 03:49.760
Und wenn man die sich anguckt, dann sieht man, dass die Lösungen von

03:49.760 --> 03:52.880
solchen Gleichungen Wellenfunktion sind.

03:52.980 --> 03:55.720
Die heißen auch Wellenfunktionen und sie beschreiben zum Beispiel die

03:55.720 --> 03:58.680
Ausbreitung von Quanten, von Elektronen, von Photonen.

03:59.240 --> 04:02.080
Und wenn man auf diesen mathematische Operationen durchführt, dann

04:02.080 --> 04:06.340
bekommt man Ergebnisse, die einem Energieinhalt entsprechen.

04:06.340 --> 04:09.200
Und diese Ergebnisse sind reellwertig.

04:09.980 --> 04:14.420
Und wir haben uns überlegt, ob man mit diesem Schrödinger-Ansatz, mit

04:14.420 --> 04:18.360
diesen Ideen, die die Quantenphysiker haben, vielleicht auch Phänomene

04:18.360 --> 04:19.580
des Geistes beschreiben kann.

04:19.700 --> 04:25.100
Aber wir haben festgestellt, dass das nicht gut passt, weil hat der

04:25.100 --> 04:27.380
Geist ja wirklich reellwertige Energien?

04:27.440 --> 04:28.740
Diese Frage haben wir uns gestellt.

04:28.740 --> 04:32.300
Hätte er reellwertige Energien, dann wären sie ja messbar.

04:32.420 --> 04:35.840
Das würde bedeuten, wir könnten tatsächlich Bewusstseinsartefakte mit

04:35.840 --> 04:40.720
Messgeräten ausmessen, mit EEG oder MRT, aber bis heute ist das

04:40.720 --> 04:41.460
niemandem gelungen.

04:42.100 --> 04:45.160
Und da haben wir uns gedacht, wenn das nicht gelungen ist, dann könnte

04:45.160 --> 04:49.600
es sein, dass der Geist vielleicht nicht reellwertige Energien

04:49.600 --> 04:50.040
besitzt.

04:50.040 --> 04:51.680
Das ist so die These.

04:52.080 --> 04:54.100
Und das haben wir versucht zu modellieren und dafür haben wir

04:54.100 --> 04:57.020
bestimmte Ideen aufgestellt, mathematische Ideen.

04:57.720 --> 05:01.480
Und das waren unsere ersten Ansätze zu sagen, hey, wir hätten hier

05:01.480 --> 05:04.540
eine Beschreibungsform, eine mathematische Beschreibungsform, um

05:04.540 --> 05:09.800
Phänomene zu beschreiben, deren Energieinhalt nicht reell ist.

05:09.800 --> 05:12.920
Das ist so der Ansatz gewesen, den wir getan haben.

05:13.160 --> 05:15.680
Ich muss noch dazu sagen, wir glauben halt an den Geist.

05:16.160 --> 05:19.600
Man könnte ja wie andere Naturwissenschaftler oder Psychologen oder

05:19.600 --> 05:23.000
auch Neurobiologen sagen, ja der Geist ist ein Epiphänomen, ein

05:23.000 --> 05:24.920
Artefakt, den es gar nicht gibt.

05:24.920 --> 05:28.780
Wir bilden uns nur Geist ein, aber genau das glauben wir nicht.

05:28.880 --> 05:31.960
Wir glauben an die tatsächliche Existenz von Geist und Bewusstsein,

05:32.180 --> 05:37.740
auch in der Physik verortet, nur eben, dass sich diese Phänomene nicht

05:37.740 --> 05:38.780
reellwertig zeigen.

05:39.000 --> 05:41.280
Und deswegen eben dieser mathematische Ansatz, den ich dort

05:41.280 --> 05:41.860
beschrieben habe.

05:42.840 --> 05:45.440
Genau zu diesem Punkt haben wir auch in diesem Gespräch wieder einen

05:45.440 --> 05:46.300
Fragensteller.

05:47.180 --> 05:49.220
Diesmal aus einem Fernland, Südkorea.

05:49.900 --> 05:53.700
Und er wird sich kurz vorstellen und seine Frage an dich richten.

05:53.700 --> 05:57.120
Mein Name ist Hyung-Joo Kim, aus Korea.

05:57.640 --> 06:03.140
Bin an der Universität Siegen in Deutschland mit dem Thema des Kant

06:03.140 --> 06:05.680
Selbstbewusstsein Theorie promoviert.

06:06.160 --> 06:11.960
Nun arbeite ich als Professor im Human Research Institute Artificial

06:11.960 --> 06:18.040
Intelligence Humanities Team an der Chung-Ang Universität in Seoul,

06:18.160 --> 06:18.520
Korea.

06:19.300 --> 06:22.060
Meine erste Frage an Sie, Herr Ote.

06:22.780 --> 06:25.620
Was heißt hier überhaupt der Geist?

06:26.480 --> 06:27.580
Wie meinen Sie das?

06:28.180 --> 06:34.580
Wenn der Geist nicht mehr sein sollte, als die Fähigkeit zu rechnen,

06:34.980 --> 06:41.120
denn es ist natürlich möglich, den Geist in der Maschine abzubilden

06:41.120 --> 06:47.720
oder anders gesagt Strong AI, also starke Künstliche Intelligenz zu

06:47.720 --> 06:48.560
produzieren.

06:49.260 --> 06:56.220
Wenn aber der Geist noch etwas mehr bedeutet, sollten wir eine

06:56.220 --> 06:57.480
Schwierigkeit bekommen.

06:58.120 --> 07:04.640
Beispiel könnte der Geist ja die Fähigkeit bedeuten, sich ein

07:04.640 --> 07:10.300
Selbstbild zu machen oder ein Bewusstsein des Selbst zu bilden.

07:10.300 --> 07:16.760
Das bedeutet dann etwas anderes, nämlich viel mehr, als dass ein Wesen

07:16.760 --> 07:18.960
ein Memorychip hat.

07:19.540 --> 07:22.340
Was also meinen Sie mit Geist?

07:24.460 --> 07:29.060
Diese Frage bekomme ich öfter gestellt und ich habe natürlich darauf

07:29.060 --> 07:30.520
keine erschöpfende Antwort.

07:30.700 --> 07:31.780
Das muss ich voranstellen.

07:32.680 --> 07:36.720
Was ich aber sagen kann ist, für mich ist der Geist natürlich mehr als

07:36.720 --> 07:37.800
nur rechnen.

07:37.800 --> 07:41.900
Für mich ist der Geist mehr als nur die Fähigkeit, denken und lernen

07:41.900 --> 07:42.280
zu können.

07:42.520 --> 07:46.060
Denn tatsächlich, die KI, die wir heute haben, das muss man sagen, man

07:46.060 --> 07:47.400
kann ja unterstellen, dass sie denken kann.

07:48.160 --> 07:54.200
Was gibt eine physikalische Symbol-System-Hypothese von Simon und

07:54.200 --> 07:57.460
Newell und dort ist ganz klar geregelt, dass man ein KI-System heute

07:57.460 --> 08:01.360
aufbauen kann durch die Verschiebung von physikalischen Symbolen.

08:01.360 --> 08:04.340
Das machen wir im Computer, das ist die Grundlage der gesamten KI.

08:04.960 --> 08:05.960
Aber wo ist da der Geist?

08:06.420 --> 08:07.360
Da ist kein Geist.

08:07.740 --> 08:10.200
In der heutigen KI ist überhaupt kein Geist nach meiner Definition

08:10.200 --> 08:14.520
oder nach meiner Vorstellung, denn der Geist ist mit Sicherheit nicht

08:14.520 --> 08:16.000
einfach algorithmisch beschreibbar.

08:16.100 --> 08:18.060
Der Geist ist nicht irgendwie einfach Mathematik.

08:18.540 --> 08:21.800
Wer das glaubt, dass Geist durch Mathematik, durch Algorithmen

08:21.800 --> 08:25.720
beschreibbar ist, der glaubt auch, dass heutige KI-Systeme schon Geist

08:25.720 --> 08:26.840
und Bewusstsein haben könnten.

08:26.840 --> 08:30.800
Ich bin absolut dagegen, ich glaube das überhaupt nicht, dass das so

08:30.800 --> 08:31.000
ist.

08:31.120 --> 08:34.060
Ich glaube an gar keine algorithmische Beschreibung geistiger

08:34.060 --> 08:37.540
Phänomene mit heutigen mathematischen Verfahren.

08:38.400 --> 08:41.900
Insofern ist die Frage von dem Herrn sehr berechtigt.

08:41.960 --> 08:43.320
Was verstehe ich unter dem Geist?

08:44.050 --> 08:47.220
Mir wurde vorgeworfen von Philosophen, dass ich Ontologe bin.

08:47.540 --> 08:48.840
Da habe ich lange drüber nachgedacht.

08:49.800 --> 08:55.620
Und ich glaube, ich bin Ontologe, weil ich tatsächlich den Geist als

08:55.620 --> 09:00.600
etwas Real Existierendes betrachte, der sich von der Materie

09:00.600 --> 09:01.320
unterscheidet.

09:01.320 --> 09:05.880
Ich sehe also, wer nach Geist fragt, muss nach Materie fragen und muss

09:05.880 --> 09:07.440
fragen, worin ist der Unterschied.

09:08.040 --> 09:09.200
Und es gibt für mich einen.

09:09.720 --> 09:13.140
Der eine Unterschied eben ist, dass sich Materie tatsächlich durch

09:13.140 --> 09:16.360
Wellenfunktionen beschreiben lässt, deren Energieinhalt realwertig

09:16.360 --> 09:19.240
ist, und der Geist sich durch Wellenfunktionen beschreiben lässt,

09:19.380 --> 09:21.400
deren Energieinhalt nicht realwertig ist.

09:21.400 --> 09:23.000
Das ist die große Unterscheidung.

09:23.500 --> 09:24.700
Und jetzt kommt der springende Punkt.

09:25.000 --> 09:27.080
Natürlich kann man beides zusammen durch sogenannte

09:27.080 --> 09:30.520
Superwellenfunktionen beschreiben, denn Geist und Materie lassen sich

09:30.520 --> 09:31.800
nicht trennen.

09:32.060 --> 09:36.000
Aber erst durch die Trennung, durch die scharfe Analyse, was beides

09:36.000 --> 09:39.920
ist, sind wir in der Lage, es erstmal zu verstehen und dann durch die

09:39.920 --> 09:42.880
Synthese beider Wellenfunktionen es nachzubauen.

09:43.060 --> 09:45.100
Aber bitte nicht auf heutigen Computern.

09:45.500 --> 09:50.020
Nein, der Geist lässt sich heute auf keinem Memorychip bauen oder

09:50.020 --> 09:50.480
nutzen.

09:51.400 --> 09:53.260
Jetzt, um es nochmal etwas runterzubrechen.

09:54.040 --> 09:57.640
Du unterscheidest zwischen Geist und Materie.

09:57.920 --> 09:58.400
Unbedingt.

09:58.760 --> 10:01.520
Und der Geist ist aus deiner Sicht auch existent?

10:02.500 --> 10:02.980
Definitiv.

10:03.080 --> 10:04.840
Ist aber etwas anderes als die Materie?

10:05.280 --> 10:05.760
Definitiv.

10:06.000 --> 10:06.200
Okay.

10:06.500 --> 10:10.400
Und die Zugangsweise erfolgt jetzt über die Wellenfunktionen, bei

10:10.400 --> 10:15.480
denen du sagst, der Geist ist im nicht-reellen Zahlenraum, kann man

10:15.480 --> 10:16.840
das so sagen, zu finden?

10:16.840 --> 10:17.960
Kann man den dort suchen?

10:18.300 --> 10:21.200
Also die Frage ist ja, wo kann man den Geist eigentlich suchen?

10:21.540 --> 10:24.600
Wenn wir jetzt ein Gehirn nehmen und schneiden das auf, finden wir da

10:24.600 --> 10:25.520
drin ja keine Gedanken.

10:25.880 --> 10:26.060
Nein.

10:26.600 --> 10:27.980
Das sind reine materielle Untersuchungen.

10:28.200 --> 10:28.300
Ja.

10:28.500 --> 10:33.680
Wo müsste man denn den Geist suchen, um ihn zu finden?

10:34.620 --> 10:35.020
Ja.

10:35.140 --> 10:37.560
Die Frage ist, welches Messinstrument kann man dafür benutzen?

10:37.680 --> 10:38.760
Weil wie will man ihn denn finden?

10:39.300 --> 10:42.940
Also es gibt Untersuchungen, das wirst du wissen, Carsten.

10:43.660 --> 10:47.200
Man hat Leute auf die Waage gelegt im Sterbeprozess und hat geguckt,

10:47.340 --> 10:48.960
werden sie leichter, wenn sie sterben?

10:49.200 --> 10:52.480
Also die typischen Fragen, wie viel Gramm wiegt denn die Seele?

10:52.820 --> 10:55.000
Ja, einige Gramm sind es ja genau.

10:55.340 --> 10:56.740
Man hört verschiedene Zahlen dazu.

10:57.080 --> 10:58.000
Und jetzt ist die Frage, wie?

10:58.000 --> 11:02.280
Gibt es diese Experimente wirklich oder wird von denen nur berichtet?

11:02.680 --> 11:03.380
Das weiß ich nicht.

11:03.700 --> 11:06.740
Ich lese nur Berichte dazu, dass es das tatsächlich gibt.

11:07.220 --> 11:09.240
Aber das ist überhaupt nicht der Punkt, ob es sie gibt oder nicht,

11:09.320 --> 11:12.780
sondern die Idee ist doch dahinter, da suchen Leute den Geist und die

11:12.780 --> 11:15.800
sagen sich, wenn jemand stirbt, ist der Geist ja erloschen, er ist

11:15.800 --> 11:19.120
raus, das müsste sich doch in der Materie, nicht in der Materie, es

11:19.120 --> 11:20.620
müsste sich in irgendetwas zeigen.

11:20.620 --> 11:24.360
Und das war deine Frage, wie kannst du ihn denn finden, diesen Geist?

11:24.420 --> 11:26.780
Und meine Antwort ist, nicht mit diesen Messinstrumenten, die wir

11:26.780 --> 11:29.060
verwenden, mit einer Feinwaage schon mal nicht.

11:29.620 --> 11:32.840
Können wir ihn denn finden, indem wir histologische Schnitte des

11:32.840 --> 11:33.880
Gehirngewebes machen?

11:34.020 --> 11:37.500
Die Antwort, meine Antwort ist nein, da finden wir den Geist nicht.

11:37.840 --> 11:40.420
Ja, können wir ihn denn finden, indem wir EEG-Signale messen vom

11:40.420 --> 11:40.760
Gehirn?

11:40.860 --> 11:42.660
Meine Antwort ist nein, da finden wir ihn nicht.

11:42.660 --> 11:44.300
Oder mit den FMRT-Scannern?

11:44.640 --> 11:46.740
Meine Antwort ist nein, da finden wir ihn nicht.

11:46.840 --> 11:49.860
Und jetzt ist die Frage, ja wie denn dann?

11:50.900 --> 11:53.800
Wie können wir denn den Geist messen, wenn du sagst, alle diese

11:53.800 --> 11:56.340
Messinstrumente sind taugen nicht, diesen Geist zu messen?

11:56.800 --> 11:58.920
Und da sage ich, natürlich kann man den Geist finden.

12:00.100 --> 12:03.280
Wie kann man denn, jetzt bin ich Elektrotechnik-Ingenieur, du hast

12:03.280 --> 12:06.700
mich so vorgestellt und das bin ich eben auch, und da frage ich dich,

12:06.760 --> 12:09.200
gehen wir 200 Jahre zurück und frage dich, wie haben wir denn das

12:09.200 --> 12:10.260
elektrische Feld gefunden?

12:11.000 --> 12:12.620
Wie haben wir das elektrische Feld gefunden?

12:12.720 --> 12:13.220
Wie soll das gehen?

12:13.400 --> 12:15.660
Du kannst es nicht sehen, du kannst es nicht riechen, wir haben keine

12:15.660 --> 12:16.380
Sensoren dazu.

12:16.820 --> 12:17.780
Ja, wie hat man es denn gemacht?

12:18.180 --> 12:21.140
Da kamen irgendwie kluge Leute drauf und haben gesagt, wir finden es

12:21.140 --> 12:22.000
nur an der Wirkung.

12:22.440 --> 12:23.780
An der Wirkung sollt ihr es entdecken.

12:24.320 --> 12:27.380
Und dann hat man Probekörper in das elektrische Feld getan und hat

12:27.380 --> 12:31.160
tatsächlich Kraftausübungen auf diese Probekörper gefunden.

12:31.160 --> 12:35.060
Ja, F ist Q mal E, sagen dann die Elektrotechniker, also Kraft ist

12:35.060 --> 12:37.000
Probeladung mal elektrisches Feld.

12:37.540 --> 12:40.500
Das sagen sie, elektrisches Feld ist also erst dann messbar gewesen,

12:40.600 --> 12:44.340
erkennbar durch uns gewesen, als wir einen geeigneten Probekörper in

12:44.340 --> 12:46.880
das Feld gebracht haben und Kraftwirkungen gemessen haben.

12:46.880 --> 12:49.640
Und jetzt ist die Frage, kann man das auch bei dem Geist?

12:50.360 --> 12:52.700
Kann man denn die Wirkung des Geistes messen?

12:52.880 --> 12:53.720
Darum geht es mir.

12:53.880 --> 12:57.000
Weil wenn man auch das nicht könnte, dann würde man sagen, das kann

12:57.000 --> 12:59.340
ein Hirngespinst sein, vielleicht gibt es gar keinen Geist.

12:59.840 --> 13:02.940
Und meine Antwort ist, doch, das gibt es und die Wirkung ist durchaus

13:02.940 --> 13:03.320
messbar.

13:04.220 --> 13:06.380
Ja, aber wie misst man den Geist denn jetzt?

13:08.000 --> 13:13.740
Also meiner Meinung nach müsste man sich doch fragen, gibt es einen

13:13.740 --> 13:17.420
Unterschied zwischen einem System mit Geist und einem System ohne

13:17.420 --> 13:17.800
Geist.

13:18.020 --> 13:21.160
Wir kennen alle den Turing-Test und da frage ich mich, gibt es einen

13:21.160 --> 13:22.320
Turing -Test für Bewusstsein?

13:22.440 --> 13:23.500
Kann es überhaupt so etwas geben?

13:23.900 --> 13:26.920
Kann ich also in der Lage sein oder kann ich mir mal einen Test

13:26.920 --> 13:29.700
vorstellen, wo ich sagen kann, das System hat Bewusstsein und das

13:29.700 --> 13:30.820
System hat kein Bewusstsein.

13:31.400 --> 13:34.860
Und jetzt gucken wir mal, was könnte denn die Wirkung eines Geistes

13:34.860 --> 13:35.220
sein?

13:35.220 --> 13:37.980
Da möchte ich gerne mal nachhaken.

13:38.220 --> 13:41.120
Jetzt ist plötzlich der Bewusstseinsbegriff ins Spiel gekommen.

13:41.260 --> 13:42.540
Ist das für dich das Gleiche?

13:42.760 --> 13:44.020
Geist und Bewusstsein?

13:44.640 --> 13:48.340
Also wir gehen hier in unserem Forschungsprojekt der Frage nach, was

13:48.340 --> 13:50.740
an der Rede vom künstlichen Bewusstsein dran ist.

13:50.740 --> 13:53.860
Wir schauen uns die unterschiedlichen Positionen an, reden mit

13:53.860 --> 13:55.540
Philosophen, mit Entwicklern.

13:56.880 --> 14:00.040
Auch wir heute sprechen über künstliche Intelligenz und Bewusstsein

14:00.040 --> 14:02.960
und in unserem Projekt geht es ja um die Abklärung des Verdachts

14:02.960 --> 14:05.760
aufsteigenden Bewusstseins in der künstlichen Intelligenz.

14:06.460 --> 14:09.820
Und da stoßen wir immer wieder auf diese feinsinnigen

14:09.820 --> 14:12.040
Begriffsunterschiede wie zwischen Geist und Bewusstsein.

14:12.120 --> 14:13.660
Für manche ist es das Gleiche.

14:13.660 --> 14:18.660
Andere sagen, ja Moment, der Geist ist doch eine ganz andere Kategorie

14:18.660 --> 14:20.080
als das Bewusstsein.

14:20.180 --> 14:21.440
Wie ist das bei deinem Ansatz?

14:21.440 --> 14:25.160
Also bei meinem Ansatz, ich bin kein Philosoph, vielleicht bin ich mit

14:25.160 --> 14:27.780
den Begriffen nicht so präzise, wie ich das sein müsste.

14:28.400 --> 14:32.160
Aber man kann sich das aus meiner Sicht gut vorstellen, wenn wir

14:32.160 --> 14:35.500
fragen, welchen Unterschied gibt es zwischen Körper und Materie.

14:36.260 --> 14:40.820
Weil wir haben ein Begriffspaar, das ist Materie und Geist und wir

14:40.820 --> 14:43.220
haben ein Begriffspaar, das ist Körper und Bewusstsein.

14:43.320 --> 14:44.640
Und dadurch kann man das relativ gut sehen.

14:45.120 --> 14:48.600
Weil wenn ein Philosoph fragt, was ist Materie, was ist Geist, dann

14:48.600 --> 14:50.000
untersucht er das prinzipiell.

14:51.140 --> 14:54.700
Dann ist die Materie auch ein Elektron, dann ist die Materie ein

14:54.700 --> 14:54.980
Tisch.

14:55.600 --> 14:58.280
Dann ist der Geist irgendetwas, was dem gegenübergestellt ist.

14:58.280 --> 14:59.580
Das ist die philosophische Frage.

15:00.020 --> 15:02.780
Wenn wir das jetzt auf Körper reduzieren, auf die menschlichen Körper,

15:02.880 --> 15:06.000
dann haben wir ein anderes Begriffspaar, nämlich statt Materie nehmen

15:06.000 --> 15:09.200
wir eine präzise Ausprägung der Materie, nämlich den Körper und statt

15:09.200 --> 15:11.740
Geist nehmen wir eine präzise Ausprägung des Geistes, nämlich das

15:11.740 --> 15:12.360
Bewusstsein.

15:12.640 --> 15:13.960
Und so kann man sich das gut erklären.

15:14.360 --> 15:17.620
Also aus der Gegenüberstellung von Materie und Geist wird für mich

15:17.620 --> 15:20.900
eine Gegenüberstellung von Körper und Bewusstsein.

15:20.900 --> 15:24.080
Und diesen Aspekt wollen wir natürlich betrachten, weil der

15:24.080 --> 15:28.580
interessiert uns mehr als die grundlegenden physikalischen

15:28.580 --> 15:32.360
Unterscheidungen, ob ein Prozess eher materieller oder eher geistiger

15:32.360 --> 15:32.820
Natur ist.

15:33.040 --> 15:37.180
Denn wir werden feststellen, dass selbst Physiker, Quantenphysiker

15:37.180 --> 15:41.780
Effekte finden, zum Beispiel könnte man sich da Verschränkungseffekte

15:41.780 --> 15:44.700
vorstellen, die heute rein materiell überhaupt nicht erklärbar sind.

15:44.700 --> 15:50.940
Weil wir haben bei der Verschränkung zwei verschränkte Quanten und ein

15:50.940 --> 15:54.620
Quanten verändern wir und dann hat man instantan eine Veränderung des

15:54.620 --> 15:57.100
anderen Quantens, was mehrere tausend Kilometer weg sein kann.

15:57.460 --> 16:00.820
Und es gibt heute keinerlei rein materielle Erklärungsweise dessen.

16:01.460 --> 16:04.180
Einstein sagte schon damals, da muss es dritte Variablen geben.

16:04.600 --> 16:06.080
Ja, scheinbar ist das so.

16:06.080 --> 16:08.500
Und das ist aber die Probleme der Physik.

16:09.100 --> 16:10.800
Die interessieren mich in dem Fall nicht.

16:11.060 --> 16:14.120
Mich interessieren, was das für uns bedeutet, für Körper und

16:14.120 --> 16:14.840
Bewusstsein.

16:15.900 --> 16:18.900
Wie bist du denn ursprünglich selbst auf den Bewusstseinsbegriff

16:18.900 --> 16:19.340
gekommen?

16:20.080 --> 16:23.480
Als Elektrotechniker und Informationstechniker, gab es ein bestimmtes

16:23.480 --> 16:26.320
Ereignis, das dich auf diesen Punkt gebracht hat?

16:27.960 --> 16:32.480
Ja, das ist aber eher anekdotisch, muss ich sagen.

16:33.080 --> 16:37.040
Ich habe in der Schweiz in einer Firma gearbeitet mit einem sehr, sehr

16:37.040 --> 16:38.760
aufgeschlossenen Eigentümer.

16:40.360 --> 16:43.460
Das ist die Bühler-Gruppe und der Herr Bühler, dem die Bühler-Gruppe

16:43.460 --> 16:47.680
gehört, ist sehr interessiert in Fragestellungen.

16:47.680 --> 16:52.660
Und er trat einmal an mich heran, das ist jetzt weit über zehn Jahre

16:52.660 --> 16:56.700
her, irgendwie 2006 oder 2007, ich weiß es nicht mehr genau.

16:57.360 --> 17:02.040
Und da ist die Frage gewesen, ob wir uns Sachen mal anschauen können,

17:02.740 --> 17:07.880
die sehr esoterisch anmuten, ob man vielleicht in der Lage ist, rein

17:07.880 --> 17:10.760
durch Gedankenkraft materielle Prozesse zu beeinflussen.

17:11.240 --> 17:14.960
Und da war das Princeton Lab in den USA, war damals sehr groß

17:14.960 --> 17:17.960
vertreten, die haben Untersuchungen gemacht, ob ich mit reinen

17:17.960 --> 17:20.580
Gedankenprozessen Zufallsgeneratoren beeinflussen kann.

17:21.400 --> 17:23.580
Und da haben wir gesagt, das ist abstrus, das kann nicht sein, weil

17:23.580 --> 17:25.740
ich kann nicht hier einfach sitzen, mir was überlegen und der

17:25.740 --> 17:27.340
Zufallsgenerator schlägt anders aus.

17:27.620 --> 17:32.040
Und dann haben wir uns das angeguckt und haben festgestellt, ups, das

17:32.040 --> 17:34.500
Peer Lab macht ja sehr interessante Untersuchungen und wir haben das

17:34.500 --> 17:35.020
nachgebaut.

17:35.400 --> 17:36.360
Und was kam dabei raus?

17:36.960 --> 17:40.200
Wir haben mehrere hundert Probanden analysiert und es gibt tatsächlich

17:40.200 --> 17:42.980
Probanden, die die Zufallsgeneratoren so beeinflusst haben, wie wir

17:42.980 --> 17:43.600
das vorgegeben haben.

17:43.620 --> 17:45.960
Wir haben Geld ausgelobt, wir haben einfach gesagt, heute der

17:45.960 --> 17:48.120
Zufallsgenerator produziert so und so viele Nullen, so viele Einsen,

17:48.340 --> 17:50.440
heute musst du mehr Einsen produzieren, mach das wie du willst.

17:51.100 --> 17:53.100
Aber die hatten nichts, außer dass sie auf den Bildschirm geschaut

17:53.100 --> 17:56.280
haben, das muss man sagen, das muss einen Rückkanal geben und auf dem

17:56.280 --> 17:59.540
Bildschirm versucht haben irgendwie mehr Nullen oder mehr Einsen zu

17:59.540 --> 18:01.600
produzieren, was wir an diesem Tag halt ausgelobt haben.

18:02.140 --> 18:05.580
Und wenn man das statistisch untersucht, stellt man fest, das ist

18:05.580 --> 18:08.800
statistisch nicht signifikant, was da rauskommt.

18:08.860 --> 18:11.560
Natürlich gibt es immer Leute, das können Ausreißer sein, aber damit

18:11.560 --> 18:12.280
waren die Fragen da.

18:12.720 --> 18:13.480
Da waren die Fragen da.

18:13.580 --> 18:13.720
Wie?

18:14.400 --> 18:15.920
Kann es überhaupt was geben?

18:16.000 --> 18:17.080
Ist das nicht völlig absurd?

18:17.160 --> 18:18.720
Ich bin Ingenieur, ich bin E-Techniker.

18:19.180 --> 18:22.580
Ist das nicht völlig abstrus, dass man mit Gedanken auf Materie

18:22.580 --> 18:24.820
einwirken kann und das hat uns nicht mehr losgelassen.

18:24.820 --> 18:27.620
Das war der Auslöser, das zu untersuchen.

18:27.940 --> 18:29.820
Vor über 15 Jahren haben wir damit begonnen.

18:30.900 --> 18:34.320
Und mittlerweile muss man sagen, natürlich kann ich mit Gedanken

18:34.320 --> 18:35.260
Materie beeinflussen.

18:35.500 --> 18:36.820
Ich kann meinen Arm heben, wann ich will.

18:37.680 --> 18:40.760
Ich habe die Intention, die reine bewusste Intention und hebe meinen

18:40.760 --> 18:43.620
Arm und jetzt muss man darüber nachdenken, wieso geht das überhaupt?

18:43.720 --> 18:46.340
Wenn denn der Geist was Immaterielles ist, wie wirkt er denn die

18:46.340 --> 18:46.980
Materie ein?

18:47.600 --> 18:50.860
Okay, damit sind wir dann auch schon beim freien Willen angekommen.

18:53.540 --> 18:56.940
Wie beurteilt ihr denn die Ergebnisse eurer Untersuchung heute?

18:57.600 --> 19:03.300
Also war das damals ein esoterisch angetriggertes Experiment, bei dem

19:03.300 --> 19:06.020
man Motivation geschaffen hat, dadurch, dass man Geld auf den Tisch

19:06.020 --> 19:06.640
gelegt hat?

19:07.060 --> 19:10.580
War möglicherweise mit Blick auf die Quantenverschränkung das Geld,

19:11.280 --> 19:15.360
das auslösende Element, um die Zufallszahlengeneratoren zu verändern?

19:15.840 --> 19:18.780
Also wir glauben, wir sind natürlich jetzt sehr schnell in dem Bereich

19:18.780 --> 19:23.580
der Esoterik, was mich als hartgesottener E-Techniker schütteln lässt,

19:24.080 --> 19:28.040
aber wir glauben tatsächlich, dass wenn die Probanden keinerlei

19:28.040 --> 19:30.740
Intention haben, das zu tun, dann können die das sowieso schon nicht.

19:31.300 --> 19:34.520
Das heißt, wir müssen irgendeine Art Motivation schaffen, sie müssen

19:34.520 --> 19:36.940
es wollen, aber wollen scheint auch nicht zu reichen.

19:37.280 --> 19:39.860
Es muss also irgendwelche glücklichen Umstände geben, dass sie das

19:39.860 --> 19:42.380
können und in Einzelfällen konnten sie das.

19:42.380 --> 19:45.580
In der Schweiz wurde das dann entsprechend über Geld etwas

19:45.580 --> 19:46.100
angeschoben.

19:46.200 --> 19:48.220
Das passt ja eigentlich auch zum Ansatz.

19:48.420 --> 19:48.960
Ja, aber warum nicht?

19:49.020 --> 19:51.640
Man könnte es auch über Angst machen, man könnte es über Lob und Tadel

19:51.640 --> 19:54.320
machen, aber irgendwie müssen sie die Leute motivieren, zum Experiment

19:54.320 --> 19:57.480
zu kommen und das Experiment zum Erfolg führen zu wollen.

19:57.620 --> 19:58.660
Und beeinflussen zu wollen.

19:58.780 --> 19:59.640
Und beeinflussen zu wollen, ja.

20:02.780 --> 20:07.160
Unser Fragensteller und Kollege Kim hat genau zum Thema Motivation

20:07.160 --> 20:08.920
auch noch eine zweite Frage an dich.

20:09.040 --> 20:09.440
Ah, sehr gerne.

20:10.440 --> 20:15.880
Sie haben in einer Interview gesagt, dass KI auf keinen Fall

20:15.880 --> 20:20.340
Bewusstsein im Sinne des Menschenbewusstseins haben kann.

20:21.280 --> 20:27.420
Das heißt, Sie wissen genau über die Grenzen der Entwicklung des

20:27.420 --> 20:29.400
Projekts der Bewusst-KI.

20:30.180 --> 20:35.260
Aber trotzdem, warum möchten Sie Bewusst-KI neu produzieren?

20:35.940 --> 20:37.280
Was ist Ihr Motiv?

20:38.640 --> 20:42.400
Also es sind eigentlich zwei Fragen darin versteckt, so wie ich das

20:42.400 --> 20:43.440
gerade interpretiere.

20:44.320 --> 20:49.480
Die eine Frage war die These gerade, dass ich gesagt habe, dass

20:49.480 --> 20:54.900
heutige KI auf keinen Fall Selbstbewusstseinseffekte erzeugen kann, so

20:54.900 --> 20:55.620
wie der Mensch das hat.

20:55.620 --> 20:59.680
Also dazu stehe ich, und das kann man auch erklären, das liegt daran,

20:59.820 --> 21:05.000
ich möchte es nur kurz beantworten, dass das Selbstbewusstsein, das

21:05.000 --> 21:07.440
sagt der Name schon, Selbstbewusstsein etwas ist, was auf sich

21:07.440 --> 21:08.740
selbstreferenziell zeigt.

21:09.360 --> 21:12.680
Wenn man sich anguckt, ob wir sowas in der KI heute bauen, die Antwort

21:12.680 --> 21:13.600
ist ein ganz klares Nein.

21:14.240 --> 21:16.700
Also die heutigen KI-Verfahren, Deep-Learning-Verfahren sind

21:16.700 --> 21:20.140
hochgradig trivial, mathematisch natürlich im Detail kompliziert, aber

21:20.140 --> 21:22.180
haben überhaupt nichts damit zu tun, wie man sich Bewusstsein

21:22.180 --> 21:22.940
vorzustellen hat.

21:22.940 --> 21:26.500
Denn das ist selbstreferenziell und selbstreferenzielle Dinge kennen

21:26.500 --> 21:28.280
wir alle, seitdem wir uns mit Gödel beschäftigen.

21:28.720 --> 21:31.360
Man kann die Prädikatenlogik zweiter Ordnung benutzen, kann

21:31.360 --> 21:35.560
selbstreferenzielle Logik aufbauen und kennt damit auch gleich schon

21:35.560 --> 21:36.060
die Probleme.

21:36.440 --> 21:39.020
Alle, die sich mit Gödel auseinandergesetzt haben, kennen die Grenzen

21:39.020 --> 21:42.500
und damit wahrscheinlich auch die Grenzen einer KI, die jemals

21:42.500 --> 21:44.520
selbstreferenzielle Prozesse aufbauen wird.

21:44.700 --> 21:46.800
Könntest du die Grenzen kurz einmal skizzieren?

21:46.800 --> 21:48.140
Ja, na klar.

21:48.720 --> 21:52.560
Also wir haben, wenn wir uns die angucken, was baut man als

21:52.560 --> 21:55.800
selbstreferenzielles auf, dann müssen wir ein System haben, was sich

21:55.800 --> 21:59.540
selbst beobachtet, was zum Schluss, und das ist das, was Gödel uns

21:59.540 --> 22:02.100
gezeigt hat, in der Ich-Form spricht.

22:02.680 --> 22:07.420
Das ist für mich eines der größten Genieleistungen überhaupt von Kurt

22:07.420 --> 22:12.360
Gödel, ein Logiksystem aufzubauen, was zum Schluss sagen kann, ich bin

22:12.360 --> 22:12.900
nicht beweisbar.

22:13.640 --> 22:16.440
Voll krass, wenn man sich damit auseinandersetzt.

22:16.500 --> 22:17.500
Wie hat er das gemacht?

22:17.620 --> 22:20.800
Er hat eben verschiedene Logiken ineinander, die Prädikalen zweiter

22:20.800 --> 22:23.480
Ordnung, ganz stringent abgeleitet, hat einfach nur seine eigenen

22:23.480 --> 22:28.700
Regeln genutzt und hat eine Aussage von dem System, was von sich

22:28.700 --> 22:30.080
selbst sagt, ich bin nicht beweisbar.

22:30.080 --> 22:31.360
Das ist eine Grenze.

22:31.760 --> 22:34.900
Wir sehen daran, wir können durch die Antwort von Logiken, und nur

22:34.900 --> 22:38.680
Logiken können wir ja auf dem Computer implementieren, nicht alle

22:38.680 --> 22:42.540
Wahrheiten dieser Welt finden, es gibt mehr Wahrheiten da draußen als

22:42.540 --> 22:45.260
beweisbar sind, und zwar unendlich viel mehr.

22:45.260 --> 22:48.680
Wir müssen nämlich wissen, dass einem Computer heutzutage nur die

22:48.680 --> 22:52.420
Aussagenlogik arbeitet, teilweise die Prädikatenlogik erster Ordnung,

22:52.680 --> 22:56.380
teilweise auch höhere Ordnungen, aber mit Restriktionen.

22:56.620 --> 22:59.580
Hornklauseln gibt es da, viele Dinge, auf die die Logiker achten

22:59.580 --> 23:01.760
müssen, das ist deren Job, nicht von uns Ingenieuren.

23:01.760 --> 23:07.100
Aber wir stellen fest, dass ein System wie der Mensch mit einem

23:07.100 --> 23:11.420
Bewusstsein, was der Mensch hat, mit Wahrheiten umgehen kann, die

23:11.420 --> 23:12.840
nicht beweisbar sind.

23:13.060 --> 23:13.980
Und genau das ist der Punkt.

23:14.460 --> 23:17.500
Eine Maschine ist zurzeit algorithmisch, auf einer Maschine ist alles

23:17.500 --> 23:20.760
beweisbar, sonst würde es auf der Maschine ja nicht implementierbar

23:20.760 --> 23:21.020
sein.

23:21.020 --> 23:25.000
Aber der Mensch hat viel mehr Wahrheiten und endlich viel mehr, als er

23:25.000 --> 23:28.420
durch die Anwendung von Logik beweisen kann, und auch nur, dass es

23:28.420 --> 23:29.700
auch nur beweisbar ist.

23:30.080 --> 23:31.020
Das ist eine ganz große Unterscheidung.

23:31.580 --> 23:33.880
Wenn man mich also fragt, kann man auf einer Maschine

23:33.880 --> 23:37.380
Selbstbewusstsein kreieren, dann sage ich, ja, wahrscheinlich könnte

23:37.380 --> 23:40.740
man das machen, bloß diese Maschine wird nachher Wahrheiten von sich

23:40.740 --> 23:42.800
geben, die irreduzibel sind.

23:43.100 --> 23:45.960
Ich finde dieses nicht mehr, wieso die Maschine dazu gekommen ist.

23:45.960 --> 23:49.220
Ich kann es nicht mehr in einem sagen, dass es durch die

23:49.220 --> 23:51.200
Programmzeile, durch diese oder durch jene passiert.

23:51.520 --> 23:52.600
Und genau ist es beim Menschen auch.

23:52.800 --> 23:55.780
Der Mensch denkt in verschiedenen Logikkategorien, hat für sich

23:55.780 --> 23:58.940
gewisse Wahrheiten entdeckt, die er nicht klar algorithmisch

23:58.940 --> 24:00.000
aufschreiben kann.

24:00.000 --> 24:02.240
Und bei einer heutigen KI-Maschine ist das so nicht.

24:02.720 --> 24:06.620
Ja, wir reden über transparente KI und suchen ständig, wieso ist die

24:06.620 --> 24:10.020
KI zu dem und den Entscheidungen gekommen beim Deep Learning, dass es

24:10.020 --> 24:11.780
so handwerklich kompliziert es auch sei.

24:12.280 --> 24:13.260
Prinzipiell ist das machbar.

24:13.860 --> 24:15.080
Es geht um die prinzipiellen Dinge.

24:15.260 --> 24:16.740
Und beim Menschen ist das nicht so.

24:17.240 --> 24:19.760
Und deswegen sehe ich, dass wir überhaupt nicht in der Lage sind,

24:19.960 --> 24:23.280
aktuell selbstbewusste Systeme auf einer Maschine zu implementieren.

24:23.280 --> 24:26.900
Die Frage war, warum will ich bewusste Systeme auf einer Maschine

24:26.900 --> 24:27.560
implementieren.

24:27.780 --> 24:28.980
Das ist eine ganz andere Kategorie.

24:29.500 --> 24:32.120
Das ist was ganz anderes, aus meiner Sicht was viel Einfaches.

24:32.520 --> 24:34.700
Dafür brauche ich all diese Dinge von Goethe nicht, ich muss mich

24:34.700 --> 24:35.860
damit nicht auseinandersetzen.

24:35.860 --> 24:40.340
Ich sehe da draußen gerade sehr große Restriktionen von der

24:40.340 --> 24:41.980
Robotertechnik im autonomen Fahren.

24:42.860 --> 24:48.480
Diese Systeme tun nur so, als ob sie die Umgebung wahrnehmen können.

24:49.120 --> 24:52.980
Diese Systeme tun nur so, als ob sie die Umgebung sehen können.

24:52.980 --> 24:55.680
Das ist alles Fake News, wenn man ganz ehrlich ist.

24:55.740 --> 24:57.080
Das ist alles nur eine Simulation.

24:57.520 --> 24:59.980
Kein einziger Roboter kann heute die Umgebung angucken.

25:00.320 --> 25:00.900
Überhaupt nicht.

25:01.120 --> 25:03.560
Kein einziges autonomes Auto kann die Umgebung angucken.

25:03.800 --> 25:04.200
Gar nicht.

25:04.600 --> 25:05.740
Der Mensch kann das aber.

25:06.320 --> 25:08.740
Und die Frage ist, was kann bei dem Mensch anders, was ist bei

25:08.740 --> 25:10.080
Menschen anders als bei der Maschine.

25:10.260 --> 25:11.160
Und der Mensch kann sehen.

25:11.720 --> 25:14.520
Und der Mensch hat eine interessante Eigenschaft.

25:14.660 --> 25:16.340
Er sieht die Objekte dort, wo sie sind.

25:16.340 --> 25:18.500
Nämlich draußen aus seinem Kopf.

25:19.180 --> 25:20.340
Die Maschine überhaupt nicht.

25:20.580 --> 25:24.460
Wenn die Maschine Signale aufnimmt von außen, die dann über die

25:24.460 --> 25:27.840
Videokamera einfallen auf den CCD-Chip weiter in den Speicher der

25:27.840 --> 25:31.140
Maschine, dann sind die Signale in den Maschinenspeicher abgelegt.

25:31.140 --> 25:32.300
Dort sind sie.

25:32.520 --> 25:33.560
Genauso wie bei Menschen.

25:33.660 --> 25:36.300
Wenn der Mensch erstmal Signale über die Netzhaut aufnimmt, über den

25:36.300 --> 25:39.140
visuellen Cortex, dann sind die hinten im Hinterkopf im visuellen

25:39.140 --> 25:40.080
Cortex abgelegt.

25:40.260 --> 25:40.900
Das ist so.

25:41.300 --> 25:44.400
Bloß der Mensch ist in der Lage, die Signale aus dem visuellen Cortex

25:44.400 --> 25:48.020
hinten drinnen nach draußen zu projizieren, auf die Objekte selbst

25:48.020 --> 25:48.420
zurück.

25:48.940 --> 25:50.880
Und das macht er mit Bewusstseinsphänomenen.

25:50.880 --> 25:54.920
Das kann man mathematisch ungefähr andeuten, wie das funktioniert.

25:55.260 --> 25:56.660
Und die Maschine ist dazu nicht in der Lage.

25:56.940 --> 25:59.720
Bei der Maschine bleiben die Bilder von der Außenwelt, wenn ich

25:59.720 --> 26:03.120
überhaupt Bilder sagen darf, die Daten von der Außenwelt in dem

26:03.120 --> 26:06.840
Datenspeicher abgelegt und haben keinerlei Konnektivität zu dem Objekt

26:06.840 --> 26:07.300
nach vorne.

26:07.440 --> 26:11.100
Die Maschine sieht nicht die Bilder in der Außenwelt.

26:11.360 --> 26:12.040
Null Chance.

26:12.040 --> 26:15.460
Aber machen das unsere autonomen Fahrzeuge nicht auch?

26:16.100 --> 26:20.800
Sie sind ausgestattet mit vielen Sensoren, beobachten die Außenwelt,

26:20.940 --> 26:25.460
erkennen Objekte, bewegliche Objekte, projizieren die nicht das, was

26:25.460 --> 26:27.900
sie sehen, nach außen, so wie wir es tun?

26:27.960 --> 26:28.840
Wo ist da der Unterschied?

26:29.020 --> 26:32.980
Also was fehlt dem autonomen Fahrzeug im Vergleich zu uns?

26:35.120 --> 26:38.780
Also für mich ist die Frage, können denn auch die Computer

26:38.780 --> 26:39.460
rausschauen?

26:39.540 --> 26:40.980
Und die Antwort ist ein ganz klares Nein.

26:41.400 --> 26:44.600
Die heutigen Computer, egal wie sie die ausführen, die heutigen

26:44.600 --> 26:48.680
Computer, die Digitalkomputer, haben in ihren Hauptspeichern, wo

26:48.680 --> 26:52.020
natürlich Transistoren und sonst was sind, aber letztlich Nullen und

26:52.020 --> 26:52.320
Einsen.

26:52.380 --> 26:55.420
Und die Frage ist, wie können diese Nullen und Einsen es jemals

26:55.420 --> 26:57.740
schaffen, nach draußen auf die Objekte projiziert werden?

26:57.960 --> 26:58.920
Das geht überhaupt nicht.

26:58.920 --> 27:02.720
Ich habe für einen großen Automobilbauer, in dem ich in Kooperation

27:02.720 --> 27:07.380
stehe, eine Studie angefertigt und ihnen mitgeteilt, eure Autos fahren

27:07.380 --> 27:08.360
komplett blind.

27:08.760 --> 27:10.680
Die fahren nach Gehör, wenn überhaupt das.

27:10.960 --> 27:14.340
Niemals werdet ihr mit dieser Technik voll autonom fahren können, weil

27:14.340 --> 27:16.580
eure Autos einfach nicht nach draußen schauen können.

27:16.580 --> 27:22.080
Ich habe ein Beispiel mitgebracht von einem Roboter, der das schon

27:22.080 --> 27:24.720
kann oder konnte in den 80er Jahren.

27:24.860 --> 27:26.200
Der hat nur einen kleinen Nachteil.

27:26.280 --> 27:28.120
Es gab ihn nicht in echt, sondern nur auf der Leinwand.

27:29.300 --> 27:33.100
Ein Bild liegt jetzt zwischen uns mit dem Roboter Nummer 5.

27:33.620 --> 27:37.680
Der deutsche Titel hieß damals Nummer 5 lebt im englischen Short

27:37.680 --> 27:38.060
Circuit.

27:38.060 --> 27:42.380
Ich habe noch nicht herausgefunden, warum die deutschen Kinotitel

27:42.380 --> 27:45.700
oftmals so seltsam sind im Vergleich zu den englischen.

27:46.060 --> 27:49.980
Das war ursprünglich aber ein Kampfroboter, der auch so ein bisschen

27:49.980 --> 27:50.800
böse aussah.

27:51.320 --> 27:55.920
Der hat eine Laserkanone auf der linken Schulter und war eigentlich

27:55.920 --> 27:58.340
dazu da, Dinge zu zerstören.

27:59.880 --> 28:05.100
Dann passierte plötzlich ein Ereignis und ich drehe das Bild jetzt

28:05.100 --> 28:05.900
einmal um.

28:06.520 --> 28:10.340
Hier sehen wir, wie dieser Roboter vom Blitz getroffen wurde.

28:11.760 --> 28:12.540
Gotteserleuchtung.

28:12.540 --> 28:13.300
Gotteserleuchtung.

28:13.400 --> 28:15.300
Es war dramaturgisch sehr schön inszeniert.

28:15.860 --> 28:20.480
Also es gab eine Militärparade, dann wurde der Himmel dunkel, Blitz

28:20.480 --> 28:24.080
und Donner kamen, also mystisch aufgeladen und irgendwann fuhr der

28:24.080 --> 28:28.700
Blitz vom Himmel direkt in diesen kleinen Roboter ein.

28:28.800 --> 28:29.720
Ach Gott, der arme, ja.

28:29.720 --> 28:33.300
Der arme, wir sehen also hier, der steht tatsächlich ordentlich unter

28:33.300 --> 28:38.120
Ladung und von diesem Zeitpunkt veränderte sich was.

28:38.460 --> 28:41.860
Also der fiel in sich zusammen, es rauchte und so weiter.

28:43.120 --> 28:48.780
Dann wurde er neu gestartet, bekam quasi ein neues Leben, wenn man so

28:48.780 --> 28:52.540
möchte, war dann ein bisschen verwirrt und plötzlich verhielt er sich

28:52.540 --> 28:55.180
ganz anders als zuvor und ist abgehauen.

28:55.920 --> 29:00.600
Und wollte dann Freunde finden, war besorgt um Schmetterlinge und so

29:00.600 --> 29:03.640
weiter, hatte Angst vor dem Tod, also vor Demontage.

29:03.980 --> 29:07.920
So, und die Schlüsselszene in diesem Film ist dieser Blitz.

29:07.920 --> 29:12.920
Der Blitz, der vom Himmel in das Gerät einfährt, man könnte auch

29:12.920 --> 29:17.640
sagen, es ist die Fulguration, da fährt etwas in diese Maschine ein,

29:17.900 --> 29:22.620
die eine Veränderung verursacht und danach ist da noch irgendetwas

29:22.620 --> 29:25.760
drin, was diese Emotionen ausmacht.

29:26.700 --> 29:27.260
Spannend.

29:28.100 --> 29:29.420
Was löst das in dir aus?

29:30.120 --> 29:31.660
Ja, ein schönes Bild.

29:32.340 --> 29:35.940
Irgendwie so stellt man sich natürlich vor, dass irgendwie das Materie

29:35.940 --> 29:37.360
zum Leben erweckt werden kann.

29:37.800 --> 29:40.480
Ich glaube übrigens nicht, dass das so ist, aber es ist ein schönes

29:40.480 --> 29:42.360
Bild, weil irgendwie sind für uns Roboter tot.

29:43.460 --> 29:46.940
Und jeder, wenn der jetzt hört, auch das Forschungsprojekt Karsten,

29:46.980 --> 29:51.300
was du da gerade leitest, dass da Bewusstsein auferstehen soll in

29:51.300 --> 29:54.520
diesen Maschinen, da muss ja eigentlich jeder nur den Kopf schütteln.

29:54.520 --> 29:59.100
Es ist letztlich tote Materie, es ist Blech und der Blech wird durch

29:59.100 --> 30:03.320
ein bisschen Strom und Nullen und Einzelnen in Bewegung versetzt und

30:03.320 --> 30:09.400
macht Reihen durch physikalische Operationen, armt er neuronale Netze

30:09.400 --> 30:09.660
nach.

30:10.080 --> 30:11.060
Wo soll da Leben sein?

30:11.120 --> 30:14.280
Da ist kein Leben, es braucht also scheinbar den Initialfunken Gottes

30:14.280 --> 30:15.780
oder hier in dem Fall des Blitzes.

30:15.940 --> 30:16.440
Kann ja sein.

30:16.900 --> 30:19.000
Ich teile das nicht, aber es ist ein schönes Bild, finde ich.

30:19.740 --> 30:23.720
Jetzt gibt es aber in der Philosophie des Geistes schon Positionen,

30:24.160 --> 30:26.460
die das gar nicht so befremdlich finden.

30:26.600 --> 30:29.560
Da würden mich mal kurz deine Einschätzungen interessieren zum

30:29.560 --> 30:30.680
Panpsychismus.

30:31.300 --> 30:35.140
Der Panpsychismus sagt ja, alles was existiert, hat geistige

30:35.140 --> 30:36.780
Eigenschaften.

30:36.900 --> 30:42.100
Damit auch der Stein, der Baum, der Mensch und vielleicht auch ein

30:42.100 --> 30:42.740
solcher Roboter.

30:43.440 --> 30:46.860
Ja, also da gehen wir jetzt eingemacht.

30:46.940 --> 30:49.260
Du stellst hier irgendwie gerade die essentiellen Fragen.

30:50.340 --> 30:51.340
Ich glaube genau daran.

30:52.620 --> 30:58.380
Ich bin kein Vertreter dieser philosophischen Strömung, weil ich bin

30:58.380 --> 30:59.820
Ingenieur auf der Suche.

30:59.820 --> 31:03.480
Und ich finde halt meine Leute, die mir das erklären haben, ich werde

31:03.480 --> 31:07.640
finde ich bei Weizsäcker, ich werde finde ich bei Penrose und sehe,

31:07.980 --> 31:11.960
dass diese Leute schon lange vorher gesagt haben und viele andere

31:11.960 --> 31:14.280
übrigens auch, ich habe nur zwei Beispiele genannt, viele andere

31:14.280 --> 31:17.060
irgendwie gesagt haben, hey, der Ursprung von allen, das ist

31:17.060 --> 31:17.600
Information.

31:18.160 --> 31:20.540
In jedem Stück Materie muss Information sein.

31:20.920 --> 31:24.740
Information, Gönitz zum Beispiel, hat ausgerechnet, wie viele Bits es

31:24.740 --> 31:26.340
braucht, um ein Elektron zu erzeugen.

31:26.400 --> 31:29.840
Also da gibt es Leute da draußen, die sagen, zuerst war der Geist da,

31:29.880 --> 31:30.880
war die Information da.

31:31.080 --> 31:32.480
Ich sehe das so nicht.

31:32.600 --> 31:35.800
Ich bin eher der Auffassung, dass jedes Stück Materie von Geist

31:35.800 --> 31:36.620
durchdrungen ist.

31:36.900 --> 31:39.020
Insofern kann ich dieser Strömung voll zustimmen.

31:39.020 --> 31:43.220
Manche sagen ja, der Palmpsychismus ist eher sowas für philosophische

31:43.220 --> 31:47.700
Angsthasen, die sich keiner anderen Position zuordnen möchten und

31:47.700 --> 31:50.880
damit hat man so einen gemeinsamen Nenner, gegen den man auch nicht so

31:50.880 --> 31:51.800
wirklich sein kann.

31:52.160 --> 31:54.280
Und überprüfen kann man es ja doch nicht.

31:54.540 --> 31:57.680
Das zweite, was du eben erwähnt hast, passt ganz gut auch zu den

31:57.680 --> 31:59.480
autonomen Fahrzeugen, von denen wir sprachen.

31:59.480 --> 32:03.300
Das ist eine zweite Haltung, die sagt, wenn Information ausreichend

32:03.300 --> 32:06.800
integriert ist, wie beispielsweise bei so einem autonomen Fahrzeug,

32:06.860 --> 32:10.940
was permanent die Umgebung scannt, auswertet, Information aufeinander

32:10.940 --> 32:15.780
bezieht und diese Information immer stärker integriert, dann plötzlich

32:15.780 --> 32:17.660
ist das Bewusstsein da.

32:18.620 --> 32:20.680
Das ist die Integrated Information Theory.

32:21.260 --> 32:22.760
Ich bin absolut dagegen.

32:23.300 --> 32:26.060
Ich halte das für völlig, völlig falsch, diese These.

32:26.540 --> 32:28.680
Und das kann ich dann auch im Nachgang gleich begründen.

32:29.180 --> 32:32.180
Aber jetzt hast du ja davor die Frage gestellt, ja wieso, du hast

32:32.180 --> 32:35.220
gerade gesagt, die Roboter sind alle tot und so weiter, wenn du gerade

32:35.220 --> 32:40.380
aber dieser philosophischen Strömung etwas abgewinnen kannst, dann

32:40.380 --> 32:42.280
kannst du doch jetzt nicht sagen, diese Roboter sind tot, die Roboter

32:42.280 --> 32:43.760
haben kein Leben oder kein Bewusstsein.

32:43.760 --> 32:45.140
Wieso kannst du das sagen?

32:45.440 --> 32:46.480
Gehörst du dieser Strömung?

32:46.940 --> 32:49.580
Aber auf der anderen Seite sagst du, es muss erst was anderes gemacht

32:49.580 --> 32:51.260
werden, damit wir die zum Leben erwecken können.

32:51.340 --> 32:51.980
Wo ist der Unterschied?

32:52.460 --> 32:53.620
Der Unterschied ist natürlich da.

32:54.220 --> 32:58.200
Weil wenn man sagt, okay, jedes Kürnchen, jedes Sandkorn hat

32:58.200 --> 33:02.320
irgendwelche informaren Prozesse, hat irgendwelche geistigen Prozesse,

33:02.380 --> 33:05.820
wenn man dieser These folgt, würde man der These ja weiter folgen,

33:05.840 --> 33:08.780
würde man ja denken, auch ein Roboter könnte doch dann ein Bewusstsein

33:08.780 --> 33:09.080
haben.

33:09.080 --> 33:11.480
Ja, gucken wir aber ins Gehirn, was ist denn da?

33:11.880 --> 33:16.300
Es kommt nämlich darauf an, ob diese informaren Prozesse integrierbar

33:16.300 --> 33:20.560
sind, ob die informaren Prozesse benutzbar sind für die Ausbau einer

33:20.560 --> 33:21.440
höheren Struktur.

33:22.040 --> 33:24.940
Und wenn wir die informaren Prozesse, die sich wahrscheinlich in jedem

33:24.940 --> 33:28.720
einzelnen Transistor eines Computerspeichers aufhalten, weil die da

33:28.720 --> 33:32.000
eben doch sind, wenn wir die aber nicht integrieren, wenn wir sie

33:32.000 --> 33:35.780
nicht benutzen, zur Aufbau einer höheren Struktur, in denen wir

33:35.780 --> 33:39.320
neuronale Netze nehmen, und das ist für mich die Lösung, wenn wir das

33:39.320 --> 33:42.520
aber alles nicht tun, wenn wir die informaren Prozesse in den

33:42.520 --> 33:45.980
Computerzellen jedes einzelnen Null- und Eilspeichers belassen, wo sie

33:45.980 --> 33:50.000
sind, auf dieser elementaren Ebene, kann man zwar immer noch sagen,

33:50.120 --> 33:54.040
ja, er hat ja Grundeigenschaften, grundeistige Eigenschaften, weil die

33:54.040 --> 33:57.180
Natur das überall hat, aber Bewusstsein wird daraus eben nie.

33:57.180 --> 33:59.800
Und das ist der Unterschied zwischen Bewusstsein und Geist.

34:00.200 --> 34:03.400
Möge meinetwegen die ganze Welt auch geistige Prozesse haben, jedes

34:03.400 --> 34:05.120
Sandkorn, jedes Atom, was auch immer.

34:05.360 --> 34:09.400
Das mag ja sein, das sagen ja die Psychologen.

34:09.400 --> 34:12.340
Das hat aber nichts mit Bewusstsein zu tun, weil Bewusstsein ist ja

34:12.340 --> 34:15.880
eine sehr sehr hohe Struktur, die sich ausgebildet hat, also müssen

34:15.880 --> 34:19.800
wir materielle Prozesse, Strukturen bauen, die in der Lage sind, auch

34:19.800 --> 34:23.500
diese nicht energetischen Prozesse zu integrieren.

34:23.500 --> 34:26.420
Und das geht sicherlich nicht, indem wir separat verschiedene

34:26.420 --> 34:28.520
Transistoren bauen, auf denen wir Null- und Einzelspeichern.

34:28.760 --> 34:30.420
Das ist der große Unterschied.

34:30.620 --> 34:32.860
Ich hoffe, dass ich das gut erklären konnte.

34:33.260 --> 34:37.040
Ich glaube daran, dass es im Universum geistige Prozesse gibt, ich

34:37.040 --> 34:39.800
glaube daran, dass die tatsächlich schon sehr weit unten anfangen,

34:40.200 --> 34:42.040
aber da ist nichts mit Bewusstsein.

34:42.340 --> 34:46.360
Das braucht Strukturen, die diese Prozesse immer weiter integrieren

34:46.360 --> 34:48.580
und vielleicht sogar selbst referenziell machen.

34:49.020 --> 34:50.260
Und das können wir nicht bauen heute.

34:50.260 --> 34:55.120
Und genau an dieser Stelle setzen aber eure Aktivitäten an, indem ihr,

34:55.220 --> 34:57.820
so wie ihr es nennt, neuromorphe Computer bauen wollt.

34:58.720 --> 35:00.960
Wir wollen sowas bauen, wir sind natürlich mit unseren Mitteln

35:00.960 --> 35:04.180
beschränkt, aber man kann für wenig Geld heute kleine Bausteine kaufen

35:04.180 --> 35:05.480
von neuromorphen Computern.

35:06.260 --> 35:10.060
Und ich muss aber im Vorfeld erstmal sagen, dass andere sehr viel

35:10.060 --> 35:10.560
weiter sind.

35:10.720 --> 35:12.720
Ich gucke sehr, sehr neidvoll auf Google.

35:12.920 --> 35:16.100
Ich gucke sehr, sehr neidvoll darauf, dass Google sich Quantencomputer

35:16.100 --> 35:16.680
gekauft hat.

35:16.780 --> 35:19.740
Ich gucke sehr neidvoll darauf, dass Google auf Quantencomputern

35:19.740 --> 35:24.020
neuromorphische Strukturen abbildet, neuronale Strukturen abbildet,

35:24.360 --> 35:27.880
weil es aus meiner Sicht der Weg ist, um Computer zu bauen mit

35:27.880 --> 35:29.020
Bewusstseinsartefakten.

35:29.540 --> 35:32.140
Also Google ist uns Lichtjahr voraus.

35:32.520 --> 35:32.800
Leider.

35:33.420 --> 35:37.240
Genau hier setzt auch die dritte Frage unseres Kollegen aus Südkorea

35:37.240 --> 35:40.940
an, der nämlich wissen möchte, worum es bei neuromorphen Computern

35:40.940 --> 35:42.340
denn jetzt ganz genau geht.

35:42.340 --> 35:48.160
Was bedeutet genau neuromorphe Computer?

35:49.180 --> 35:55.180
Ich habe ihre Ausführungen so verstanden, dass in der Hardware des

35:55.180 --> 36:02.220
Computers Neuron und Synapse aufgebaut werden in Verbindung mit einem

36:02.220 --> 36:06.740
mathematischen Konzept, das mit der Quantenphysik vereinbar ist.

36:06.740 --> 36:14.960
Ich wollte fragen, wie die Beziehung von neuromorphen Computern mit

36:14.960 --> 36:16.940
der Quantentheorie aussieht.

36:18.760 --> 36:22.240
Danke für diese tolle Frage.

36:23.480 --> 36:26.380
Warum bin ich der Meinung, dass wir mit neuromorphen Computern den

36:26.380 --> 36:27.340
nächsten Durchbruch machen?

36:28.440 --> 36:30.480
Das muss man unterscheiden.

36:31.120 --> 36:34.180
Viele verstehen unter neuromorphen Computern einfach die

36:34.180 --> 36:36.420
Implementierung von neuronalen Netzen in Hardware.

36:37.160 --> 36:40.260
Das ist doch die Definition, die Fraunhofer macht das ja genauso, die

36:40.260 --> 36:44.520
führt also letztlich alle neuronalen Strukturen, die analog oder

36:44.520 --> 36:47.760
digital in Hardware umgesetzt werden, als neuromorph ein.

36:47.760 --> 36:53.820
Das kann man machen, aber für mein weiteres Arbeiten nützt mir diese

36:53.820 --> 36:56.580
Definition überhaupt nichts, weil ich alle digitalen

36:56.580 --> 37:00.560
Implementierungen, die neuromorph sein sollen, für falsch halte.

37:00.600 --> 37:03.820
Nicht für falsch, weil sie sind schnell, sie sind energieeffizient,

37:03.940 --> 37:07.280
aber nicht dafür geeignet, um Bewusstseinsartefakte hervorzurufen.

37:07.460 --> 37:07.660
Warum?

37:07.660 --> 37:10.240
Sobald ich in einer digitalen Struktur bin, ob ich sie im

37:10.240 --> 37:13.100
Hauptspeicher habe, die Struktur, oder ob ich sie auf einer Platine

37:13.100 --> 37:19.120
löte, habe ich dummerweise es nicht geschafft, die physikalischen

37:19.120 --> 37:23.140
Effekte, die quantenphysikalischen Effekte in den Bausteinen, in den

37:23.140 --> 37:26.060
atomaren Bausteinen, die es ja immer gibt, die kann ich ja nicht

37:26.060 --> 37:31.420
verhindern, wirklich tatsächlich zu benutzen in der Abarbeitung in

37:31.420 --> 37:32.580
diesen neuronalen Strukturen.

37:32.580 --> 37:35.080
Denn letztlich wird jedes Neuron dann über Nullen und Einzelnen

37:35.080 --> 37:37.820
abgebildet, dann hätte ich gleich im Computerspeicher bleiben können.

37:38.000 --> 37:38.740
Das ist kein Unterschied.

37:39.540 --> 37:43.240
Wenn ich das aber analog mache, habe ich sowohl einen Unterschied,

37:43.640 --> 37:46.920
weil zum Beispiel mit Memristoren, was uns vorschwebt, dann sehen wir

37:46.920 --> 37:50.160
einfach, dass da unten quantenphysikalische Effekte passieren und

37:50.160 --> 37:54.560
diese quantenphysikalischen Effekte tun sich tatsächlich darstellen

37:54.560 --> 37:58.580
als Synapsenwert, als Verbindungsgewicht zwischen zwei Neuronen.

37:58.580 --> 38:02.560
Ich habe also tatsächlich die Essenz eines neuronalen Netzes, nämlich

38:02.560 --> 38:06.560
ihre topologische Struktur, ihre Verknüpfungen, geschafft, in die

38:06.560 --> 38:08.660
Quantenphysik hinunterzuimplementieren.

38:09.080 --> 38:12.180
Und das geht aus meiner Sicht nur mit analogen neuromorphen Computern

38:12.180 --> 38:15.540
und das ist aus meiner Sicht der Weg, den man gehen muss, um

38:15.540 --> 38:19.440
Bewusstseinsartefakte nicht vielleicht zu erzeugen, sondern sie zu

38:19.440 --> 38:19.900
nutzen.

38:19.900 --> 38:21.840
Ich bin hier einfach Ingenieur.

38:22.360 --> 38:25.020
Nach allem, was wir heute besprochen haben, könnte man sagen, auch ein

38:25.020 --> 38:28.400
Digitalcomputer muss ja dann irgendwelche Bewusstseinsartefakte haben

38:28.400 --> 38:30.000
auf atomarer Ebene.

38:30.340 --> 38:33.140
Ja, das mag ja sein, das können ja Philosophen später diskutieren,

38:33.380 --> 38:34.800
aber nutzen können wir sie nicht.

38:35.360 --> 38:38.140
Nutzen können wir sie nur, wenn wir eine neuronale Struktur

38:38.140 --> 38:42.840
implementieren, die direkt auf die atomare Ebene zugreifen kann und

38:42.840 --> 38:45.220
das können wir mit analogen neuromorphen Computern.

38:45.220 --> 38:49.660
Und das ist das, was wir in kleinen Forschungsprojekten anstreben, zu

38:49.660 --> 38:52.300
zeigen, dass ich mit einem neuromorphen Computer im Bereich des

38:52.300 --> 38:57.940
maschinellen Sehens viel höhere Leistungen erreiche als mit heutiger

38:57.940 --> 38:58.240
Digitaltechnik.

38:58.940 --> 39:02.460
Ich brauche zehnmal weniger Neuronen oder noch weniger Neuronen, das

39:02.460 --> 39:06.420
wissen wir noch nicht, um das, was heute ein Auto kann,

39:06.500 --> 39:09.520
Ampelerkennung, Fußgängererkennung, um das mit einem neuromorphen

39:09.520 --> 39:10.500
Computer nachzubilden.

39:10.500 --> 39:13.780
Und mir schwebt vor, zusammen mit der Autoindustrie, die ich

39:13.780 --> 39:16.960
unterstützen darf, dass in jedem einzelnen Auto später ein mini

39:16.960 --> 39:20.460
neuromorpher Computer für fünf Euro drin steckt, der maschinelles

39:20.460 --> 39:23.580
Sehen eben nicht nur simuliert, sondern der es wirklich kann.

39:23.820 --> 39:24.800
Was könnte der denn mehr?

39:25.040 --> 39:26.180
Was hätte das für Vorteile?

39:26.180 --> 39:27.840
Der könnte nach draußen gucken.

39:28.100 --> 39:31.020
Dieser neuromorphe Computer, wenn er das so gemacht wird, wie mir das

39:31.020 --> 39:35.340
vorschwebt, dann hat er in sich quantenphysikalische Effekte und

39:35.340 --> 39:40.460
erzeugt in seiner Substruktur eben auch nicht energetische

39:40.460 --> 39:43.640
Wellenfunktionen, weil das ja Bestandteil der quantenphysikalischen

39:43.640 --> 39:44.360
Effekte ist.

39:44.360 --> 39:48.900
Und diese sind natürlich nicht lokal im Raum verortet und da könnte

39:48.900 --> 39:53.200
man salopp sagen, das sind genau die Teile der neuromorphen Struktur,

39:53.620 --> 39:56.740
die nicht lokal sind, die sich mit dem Objekt außen verbinden.

39:57.080 --> 39:58.840
Wir würden sagen salopp, er guckt nach außen.

39:59.100 --> 40:00.560
Und wie macht er das?

40:00.660 --> 40:04.060
Wie kann der neuromorphe Computer nach außen gucken, wenn es der

40:04.060 --> 40:06.340
klassische Digitalkomputer nicht kann?

40:07.340 --> 40:09.240
Wie macht es das Gehirn?

40:09.440 --> 40:11.140
Wie kann es das Gehirn schaffen?

40:11.280 --> 40:14.720
Das ist eine Frage, die wir uns ja seit Jahren stellen, bis wir zu der

40:14.720 --> 40:17.360
Lösung gekommen sind, dass da nichts nach außen projiziert wird.

40:17.460 --> 40:20.380
Das war die Diskussion, die wir gerade in Tromsö hatten, weil es innen

40:20.380 --> 40:22.640
und außen gar nicht mehr gibt, wenn ich nicht energetische

40:22.640 --> 40:25.640
Wellenfunktionen benutze, habe ich die Unterscheidung nicht mehr, ich

40:25.640 --> 40:27.060
projiziere auf einmal gar nichts.

40:27.060 --> 40:30.860
Sondern in der neuromorphen Struktur oder in der neuronalen Struktur

40:30.860 --> 40:37.000
im Gehirn, in den neuronalen Netzen im Gehirn, im menschlichen Gehirn,

40:37.360 --> 40:40.740
entstehen sowohl quantenphysikalische Abläufe als auch nicht

40:40.740 --> 40:41.800
-energetische Abläufe.

40:41.880 --> 40:45.680
Und die nicht-energetischen Wellenfunktionen dieser Abläufe sind eben

40:45.680 --> 40:50.280
per Definition raumlos und damit verbunden mit den Objekten von

40:50.280 --> 40:50.640
draußen.

40:50.900 --> 40:51.980
Da wird nichts projiziert.

40:52.600 --> 40:53.700
Das muss niemand tun.

40:54.000 --> 40:55.480
Da gibt es keine Strahlen nach außen.

40:55.480 --> 40:59.380
Das ist aber, glaube ich, dann ein ganz entscheidender, eine ganz

40:59.380 --> 41:04.900
entscheidende begriffliche Falle, wenn wir diese Analogien bilden und

41:04.900 --> 41:08.060
unterscheiden, ob jetzt der Computer der einen Art nach draußen

41:08.060 --> 41:09.160
schauen kann oder nicht.

41:09.620 --> 41:09.760
Ja.

41:09.860 --> 41:12.000
Der eine kann es, der andere kann es nicht.

41:12.420 --> 41:14.820
Und dann stellen wir aber hinterher fest, es wird eigentlich gar

41:14.820 --> 41:18.460
nichts projiziert, weil wir uns sozusagen im luftleeren Raum oder im

41:18.460 --> 41:20.100
dimensionslosen Raum befinden.

41:20.880 --> 41:21.080
Ja.

41:21.080 --> 41:25.020
Also die Schwierigkeit, die ich an dieser Stelle sehe, ist tatsächlich

41:25.020 --> 41:30.260
eine Erklärungsbedürftigkeit aufgrund von Sachverhalten, die sich dem

41:30.260 --> 41:32.380
Nichtphysiker nicht so schnell erschließen.

41:33.000 --> 41:33.520
In der Tat.

41:34.060 --> 41:37.040
Und diese Diskussion haben wir ja auch, weil wir haben jetzt ja

41:37.040 --> 41:39.560
verschiedene, sind schon verschiedene in die Tiefe gegangen.

41:39.560 --> 41:43.640
Meine Erklärungen auf Konferenzen, wo ich bin, sage ich immer noch,

41:43.880 --> 41:47.220
dass der Mensch in der Lage ist, diese Bilder in seinem Gehirn

41:47.220 --> 41:49.380
hintendrin nach draußen zu projizieren.

41:49.760 --> 41:52.220
Erkläre aber auch, dass diese Projektionen natürlich nicht durch

41:52.220 --> 41:52.800
Strahlen sind.

41:52.900 --> 41:54.520
Da wird nichts aus dem Gehirn rausgestrahlt.

41:54.980 --> 41:59.040
Sondern diese Projektion ist, muss ich so aufzufassen, dass die

41:59.040 --> 42:04.060
Wellenfunktionen im Gehirn hinten eben per se mit den Objekten draußen

42:04.060 --> 42:04.760
verbunden sind.

42:05.360 --> 42:06.560
Aber ein Computer...

42:07.400 --> 42:08.440
Über die Quantenverschränkung.

42:08.440 --> 42:09.800
Ja, das ist eben keine Quantenverschränkung.

42:10.600 --> 42:12.760
Sobald ich Quantenverschränkung sage, kommen die Quantenphysikern und

42:12.760 --> 42:15.020
sagen, du kannst da nichts verschränken, weil um das zu machen, musst

42:15.020 --> 42:15.980
du speziell präparieren.

42:16.460 --> 42:17.480
Jetzt gehen wir ins Detail.

42:18.420 --> 42:20.580
Aber vielleicht nochmal für den Hausgebrauch.

42:20.660 --> 42:21.620
Für den Hausgebrauch, bitte.

42:21.720 --> 42:26.420
Wie ist der Zusammenhang zwischen dem, was ich gesehen habe und was

42:26.420 --> 42:29.860
sich bei mir im Hirn abbildet, zwischen den Objekten draußen?

42:32.560 --> 42:35.620
Wir nennen es nicht Quantenverschränkung, um uns dieser Gefahr nicht

42:35.620 --> 42:38.760
auszusetzen, Quantenverschränkung zu meinen, sondern wir nennen es

42:38.760 --> 42:38.980
Koinzidenz.

42:39.960 --> 42:43.600
Das, was ich hinten im Gehirn habe, ist Koinzident mit dem äußeren

42:43.600 --> 42:45.600
Objekt, mit dem Bild des äußeren Objektes.

42:45.600 --> 42:50.160
Und zwar deshalb, weil durch die nicht-energetischen Wellenfunktionen

42:50.160 --> 42:54.900
in den Neuronen, in den Substrukturen der Neuronen, ist das, was da

42:54.900 --> 43:01.900
entsteht, per se verknüpft mit den elektromagnetischen Abbildern der

43:01.900 --> 43:02.780
äußeren Objekte.

43:02.980 --> 43:04.760
Das macht die Physik von selbst.

43:04.860 --> 43:05.940
Ich muss das nicht tun.

43:05.940 --> 43:09.640
Ich will also diese Physik, die mir sozusagen hier geschenkt wird,

43:10.100 --> 43:13.920
dass in den neuronalen Strukturen, in den tiefen neuronalen Strukturen

43:13.920 --> 43:17.820
neben den quantenphysikalischen Effekten auch nicht-energetische

43:17.820 --> 43:21.020
Effekte entstehen, die eine Nicht-Lokalität haben.

43:21.360 --> 43:24.260
Die will ich benutzen, um das Sehen zu nutzen.

43:25.120 --> 43:26.140
Das ist der große Unterschied.

43:26.140 --> 43:29.180
Ich tue trotzdem in meinen Konferenzen sagen, wir gucken aus unserem

43:29.180 --> 43:30.920
Gehirn raus, aus unserem Kopf raus.

43:31.300 --> 43:33.760
In Wirklichkeit müsste ich korrekterweise sagen, nein, natürlich

43:33.760 --> 43:36.720
guckst du nicht raus, weil es in und aus natürlich für deine nicht

43:36.720 --> 43:38.360
-energetischen Wellenfunktionen ja gar nicht gibt.

43:38.780 --> 43:42.260
Du kannst nicht unterscheiden, ob der Computer, den du vor dir siehst,

43:42.340 --> 43:44.100
ob der in deinem Kopf drin ist oder nicht.

43:44.320 --> 43:45.280
Das kannst du nicht machen.

43:46.160 --> 43:48.900
Ich sage immer, wenn du ihn anfasst, dann siehst du doch eigentlich,

43:49.060 --> 43:50.060
dass es außerhalb ist.

43:50.160 --> 43:52.880
Wenn du ihn berührst, dann merkst du doch, du berührst es doch nicht

43:52.880 --> 43:54.360
in deinem Kopf, es ist außerhalb.

43:54.360 --> 43:56.900
Aber wieder andere sagen, alles ist in meinem Kopf.

43:58.040 --> 44:01.440
Und deswegen müsste man das korrekterweise sagen, dass es für deinen

44:01.440 --> 44:06.220
Sehprozess, für deine nicht-energetischen Wellenfunktionen innen und

44:06.220 --> 44:07.340
außen nicht mehr gibt.

44:07.480 --> 44:08.360
Und das ist der Trick.

44:08.740 --> 44:10.760
Und die heutigen Computer können das nicht.

44:11.000 --> 44:15.140
Die Zahlenkolonnen haben dich die Möglichkeit, nicht-energetische

44:15.140 --> 44:18.940
Wellenfunktionen auszuprägen, die diese, du nennst das Verschränkung,

44:19.120 --> 44:21.540
wir nennen es Koinzidenz, die diese Koinzidenz ausbilden.

44:21.540 --> 44:25.880
Also mir kam eben ein Gedanke durch den Kopf, der zu Alan Turing

44:25.880 --> 44:29.440
zurückführt, der ja in der Zeitschrift Mind einen Aufsatz geschrieben

44:29.440 --> 44:32.060
hat, wo es auch um Bewusstsein ging und die Frage, wie intelligent

44:32.060 --> 44:33.340
diese Geräte sein können.

44:34.180 --> 44:38.340
Und mit diesem Aufsatz hat er großes Aufsehen erregt.

44:38.380 --> 44:40.920
Und wie man hinterher erfahren hat, was ein Kollege auch in einer

44:40.920 --> 44:44.520
anderen Folge unseres Podcasts beschrieben hat, war, der Alan Turing

44:44.520 --> 44:46.280
wohl manchmal auch ein Spaßvogel.

44:46.280 --> 44:50.820
Und hat dann auch Argumente hineingenommen in seine

44:50.820 --> 44:55.680
Argumentationsketten, über die er sich selbst sehr amüsiert hat, weil

44:55.680 --> 44:58.200
er wusste, dass die anderen es nicht nachvollziehen können.

44:58.280 --> 45:02.580
Daran muss ich eben denken, als du deine Sichtweise auf die

45:02.580 --> 45:07.260
Gesamtgemengelage erläutert hast, wie groß ist der Spaßvogelanteil in

45:07.260 --> 45:08.720
dieser Darlegung?

45:08.720 --> 45:09.860
Ja, natürlich groß.

45:10.460 --> 45:13.580
Also Humor gehört dazu und Spaß gehört dazu.

45:14.280 --> 45:19.400
Spaßvogel natürlich in dem Sinne, dass man dieser Art, die ja sehr neu

45:19.400 --> 45:22.860
ist für die Leute, auch einen Augenzwinkern denen erklären muss.

45:22.940 --> 45:26.180
Aber nicht in dem Sinne, dass es nicht stimmt, sondern in dem Sinne,

45:26.260 --> 45:28.660
dass ich denen sage, Leute, ihr müsst euer Weltbild ändern.

45:28.660 --> 45:32.500
Wenn ihr ganz materiell verortet bleibt, so wie ihr das gerade seid,

45:32.880 --> 45:35.720
und dann glaubt ihr tatsächlich, dass es nur materielle Prozesse gibt,

45:35.960 --> 45:37.820
auf denen Informationen verarbeitet werden können.

45:38.560 --> 45:40.020
Und ich teile diese Auffassung einfach nicht.

45:40.180 --> 45:42.900
Und das muss man mit Humor übertragen, weil die meisten Leute lehnen

45:42.900 --> 45:43.240
das ab.

45:43.760 --> 45:46.820
Ich folge eben Weizsäcker, Penrose und vielen anderen Leuten, die dann

45:46.820 --> 45:50.560
eben sagen, nein, Informationen kann man auch losgelöst von Materie

45:50.560 --> 45:51.120
verarbeiten.

45:51.120 --> 45:56.360
Es gibt eben im Universum informare Prozesse und das ist völlig andere

45:56.360 --> 45:56.800
Weltbild.

45:56.940 --> 46:00.060
Man stößt auf Widerstände, die muss man mit Humor nehmen.

46:00.380 --> 46:02.140
Man kann ja auch nicht sagen, dass man recht hat.

46:02.740 --> 46:04.100
Jetzt kommt aber der Ingenieur in mir.

46:05.240 --> 46:08.540
Ich bin überhaupt nicht in der Lage, das zu sagen, dass ich recht

46:08.540 --> 46:08.820
habe.

46:09.100 --> 46:11.640
Ich will einfach nur eine Maschine bauen, die tausendmal besser ist

46:11.640 --> 46:12.420
als die heutigen Maschinen.

46:13.160 --> 46:14.560
Und erst dann hören die Philosophen zu.

46:14.560 --> 46:18.460
Wenn ich also in der Lage bin, einen Roboter zu bauen oder ein Auto,

46:18.780 --> 46:22.960
was einfach viel mit tausendmal größerer Leistungsfähigkeit draußen

46:22.960 --> 46:26.140
Objekte erkennen kann, dann werden alle sagen, hey, wie habt ihr denn

46:26.140 --> 46:27.760
das gemacht, ihr Leute da in Ulm?

46:27.840 --> 46:30.820
Und dann werden wir sagen, wir sehen die Welt anders als ihr.

46:31.160 --> 46:34.420
Wir verstehen maschinelles Sehen nicht als Simulation, wir verstehen

46:34.420 --> 46:36.100
maschinelles Sehen als wirkliches Sehen.

46:36.400 --> 46:39.800
Wir machen das mit neuromorphen Computern und siehe da, wir können

46:39.800 --> 46:42.780
nicht das machen, was Insekten können, mit paar tausend Neuronen durch

46:42.780 --> 46:45.680
die Gegend fliegen, aber wir können vielleicht mit paar zehntausend

46:45.680 --> 46:50.880
Neuronen maschinelles Sehen, autonomes Fahren generieren, wo alle

46:50.880 --> 46:53.280
sagen, das geht nur mit einem völlig neuen Ansatz.

46:53.540 --> 46:55.960
Und dieser völlig neue Ansatz braucht meistens eine Generation.

46:56.700 --> 46:59.060
Und die jungen Leute, die kommen, die jungen Leute, die nicht

46:59.060 --> 47:02.860
vorbelastet sind mit dem materiellen Weltbild, die nehmen das

47:02.860 --> 47:05.420
natürlich dankend an und sagen, wenn das was nützt, will ich es

47:05.420 --> 47:07.840
verstehen, dann bin ich ja der Star in der Industrie.

47:08.000 --> 47:09.220
Und so ist das, wie wir vorgehen.

47:09.220 --> 47:12.220
Gut Ralf, aber was kommt da auf uns zu?

47:12.500 --> 47:16.360
Sind das nicht auch Entwicklungen, bei denen man sehr besorgt oder

47:16.360 --> 47:21.200
vielleicht sogar verängstigt sein müsste, wenn Computer gebaut werden,

47:21.280 --> 47:23.940
die um ein Vielfaches leistungsfähiger sind als die heutigen?

47:24.600 --> 47:26.820
Ja, ich glaube schon.

47:27.680 --> 47:30.420
Ich glaube, man muss sich Sorgen machen.

47:30.640 --> 47:33.020
Man muss sich ja schon Sorgen machen mit der heutigen KI.

47:33.020 --> 47:35.540
Also ich nenne sie KI 2.0.

47:35.840 --> 47:37.580
Das ist diese lernende KI.

47:38.000 --> 47:41.480
Wir hatten KI 1.0, das war die deduktive KI, die dann Schach spielen

47:41.480 --> 47:43.220
konnte und die ganzen Durix-Sachen konnte.

47:43.800 --> 47:45.400
Haben wir heute die lernende KI.

47:45.840 --> 47:48.420
Und das hat überhaupt nichts mit Bewusstsein zu tun, mit gar nichts.

47:48.540 --> 47:52.200
Das ist einfach nur Mathematik, die Denken und Lernen simuliert.

47:52.840 --> 47:53.640
Und was kann man damit?

47:54.180 --> 47:55.940
Ja, wir können Gesichtserkennung bauen.

47:56.300 --> 47:59.680
Wir können Bonitätsuntersuchungen machen.

47:59.680 --> 48:03.240
Wir können, was ich gerade gestern gelesen habe, und das soll

48:03.240 --> 48:06.800
eingesetzt werden, Verbrechen detektieren, bevor sie auftreten.

48:07.200 --> 48:09.440
Das ist keine Utopie, das wird bald eingesetzt.

48:10.040 --> 48:13.660
Und das ist alles beängstigend und das darf nicht sein.

48:14.080 --> 48:17.220
Es müssen tatsächlich, ich will gleich noch was zum Bewusstsein sagen,

48:17.460 --> 48:20.340
aber wir müssen tatsächlich hier die Menschen mitnehmen.

48:20.340 --> 48:23.720
Das kann nicht sein, dass KI-Leute jetzt bauen, das ist ja nicht die

48:23.720 --> 48:25.720
KI, das sind die Anwendungen der KI.

48:26.180 --> 48:28.840
Also wir müssen nicht über die Algorithmen streiten, über die

48:28.840 --> 48:29.380
Mathematik.

48:29.800 --> 48:31.700
Die Allgemeinheit kann da nicht mitreden.

48:32.060 --> 48:35.180
Aber die Allgemeinheit kann bitte sagen, was sind die Geschäftsfelder,

48:35.240 --> 48:36.500
in denen ihr die KI benutzt.

48:36.580 --> 48:39.540
Und da kann die Allgemeinheit sehr wohl mitreden, sie muss mitreden.

48:39.760 --> 48:42.980
In meinen Büchern, die ich dazu schreibe, zum Beispiel KI für Dummies

48:42.980 --> 48:45.980
oder andere Bücher, die auf dem Markt sind, gehe ich da genau auf die

48:45.980 --> 48:48.420
Bevölkerung zu und sage, lasst euch das bitte nicht gefallen.

48:48.880 --> 48:51.900
Ihr habt ein Recht, euch das ethisch zu bewerten, ihr habt ein Recht

48:51.900 --> 48:53.980
zu sagen, dort wollen wir keine KI einsetzen.

48:54.460 --> 48:56.860
Und so wird es auch sein, wenn wir Maschinen bauen, die

48:56.860 --> 48:58.300
Bewusstseinsartefakte haben.

48:58.660 --> 49:01.200
Ja, bitteschön, was ist denn das Problem, wenn wir das in einem Auto

49:01.200 --> 49:04.300
einsetzen, was jetzt besser fahren kann, oder in einem mobilen

49:04.300 --> 49:05.940
Roboter, der alten Leuten hilft.

49:05.940 --> 49:07.240
Da ist nichts dagegen.

49:07.540 --> 49:08.900
Ja, wollen wir das in einem Kampfroboter?

49:09.400 --> 49:14.560
Wir haben, die Bevölkerung muss sich jetzt aufraffen und muss sagen,

49:14.800 --> 49:16.880
in diesen Geschäftsfeldern erlauben wir das, in anderen

49:16.880 --> 49:19.080
Geschäftsfeldern verbieten wir uns diesen Einsatz.

49:19.780 --> 49:23.660
Die Datenethikkommission der Bundesregierung hat hierzu ja auch

49:23.660 --> 49:26.820
kräftig gearbeitet im letzten Jahr und ein Gutachten erstellt.

49:27.720 --> 49:32.440
Das Gutachten hat insgesamt in der Langfassung 240 Seiten.

49:32.440 --> 49:33.880
Oh je, das wird jeder lesen.

49:34.020 --> 49:39.540
Die Kurzfassung hat 32 Seiten und ich habe für unser Gespräch heute

49:39.540 --> 49:41.120
eine Seite davon mitgebracht.

49:41.400 --> 49:45.800
Das ist vielleicht die wichtigste in der gesamten Ausarbeitung.

49:45.800 --> 49:50.600
Wir sehen eine Pyramide, in der verschiedene Gefahrenpotenziale

49:50.600 --> 49:51.440
abgebildet sind.

49:51.560 --> 49:54.840
Die Pyramide ist unten breit und grün, dann wird sie nach oben zur

49:54.840 --> 49:58.480
Spitze hin gelb, orange, rot und irgendwann purpurrot.

49:58.600 --> 50:03.020
Und ganz oben sind die Dinge, die man nicht mehr tun und auch

50:03.020 --> 50:04.380
politisch verbieten sollte.

50:04.380 --> 50:09.780
Das ist ein Instrument, mit der Hersteller von KI-Systemen,

50:10.020 --> 50:13.140
algorithmischen Systemen allgemein ihre Systeme selbst einordnen

50:13.140 --> 50:13.420
könnten.

50:13.500 --> 50:14.540
Andere können das aber auch.

50:15.520 --> 50:21.300
Wenn wir jetzt an zukünftige KI-Systeme denken, die an dieser Grenze

50:21.300 --> 50:24.120
des Bewusstseins nagen oder vielleicht sogar solche

50:24.120 --> 50:27.540
Bewusstseinsartefakte, wie du sie eben beschrieben hast, entwickeln

50:27.540 --> 50:30.160
könnten, wo sollte man die zuordnen?

50:30.900 --> 50:32.020
Wie gefährlich ist das?

50:33.680 --> 50:37.880
Es ändert sich da überhaupt nichts zu dem, was wir an heutigen KI

50:37.880 --> 50:38.300
haben.

50:38.840 --> 50:41.700
Denn wenn wir das jetzt zum Beispiel in einem autonomen Fahrzeug

50:41.700 --> 50:46.120
einsetzen, dann ist das ja nur gut, weil das autonome Fahrzeug einfach

50:46.120 --> 50:48.320
noch besser fahren kann als bisher.

50:48.320 --> 50:51.840
Das heißt, auch hier entscheidet letztlich das Geschäftsfeld.

50:51.920 --> 50:55.460
Man darf jetzt nicht denken, wir haben eine noch leistungsfähigere KI

50:55.460 --> 50:57.540
gebaut und sie wird noch gefährlicher.

50:57.760 --> 50:58.520
Das ist nicht so.

50:59.060 --> 51:02.960
Aber sie ist, so wie die KI heute auch, sie können Sie als Skalpell

51:02.960 --> 51:04.260
benutzen oder als Messer.

51:04.520 --> 51:07.320
Als Skalpell ist es nützlich, als Messer ist es gefährlich.

51:07.320 --> 51:11.280
Und deswegen finde ich das richtig, richtig gut, wenn sich hier Leute

51:11.280 --> 51:15.380
aufmachen, wie in diesem Fall die Datenethikkommission und sagt, in

51:15.380 --> 51:17.540
gewissen Geschäftsfeldern lassen wir eine KI nicht zu.

51:17.760 --> 51:21.220
Egal, ob sie Bewusstseinsartefakte hat, ob sie nur denkt oder ob sie

51:21.220 --> 51:22.060
auch lernen kann.

51:22.060 --> 51:26.520
Meiner Meinung nach ist die KI überall dort abzulehnen, auch heute

51:26.520 --> 51:30.640
schon, wo sie unmittelbare Auswirkungen auf den Menschen hat, wo sie

51:30.640 --> 51:34.340
entscheidet, ob jemand ins Gefängnis kommt oder nicht, wo sie

51:34.340 --> 51:37.380
entscheidet wird, ob jemand eine Operation bekommt oder nicht.

51:37.500 --> 51:40.220
All das kann man einem Algorithmus nicht überlassen.

51:40.340 --> 51:41.260
Das ist unmenschlich.

51:41.600 --> 51:43.200
Wir müssen uns dagegen verwahren.

51:43.280 --> 51:45.040
Und das sage ich als KI-Mann.

51:45.040 --> 51:49.600
Letztlich, wenn ich das noch ausführen darf, ist es doch diese naive

51:49.600 --> 51:55.000
Vorstellung der KI-Technokraten, dass die Welt gut ist, wenn ich sie

51:55.000 --> 51:56.000
nur algorithmiere.

51:56.480 --> 52:00.260
Dass man endlich die blöden Gefühle weg hat, dass man einfach ganz auf

52:00.260 --> 52:04.420
Basis von Logik und Beweisketten etwas einordnen kann.

52:04.420 --> 52:07.660
Aber all diese Leute, die das wirklich glauben, und davon gibt es

52:07.660 --> 52:10.840
viele, ich bin erschrocken, die haben Kurt Gödel nicht gelesen.

52:11.320 --> 52:16.000
Der hat eben 1931 bewiesen, er hat es bewiesen, dass Wahrheit größer

52:16.000 --> 52:16.980
ist als Beweisbarkeit.

52:17.080 --> 52:18.180
Und ich habe das vorhin schon gesagt.

52:18.180 --> 52:22.040
Wenn wir das einmal verstanden haben, dass ein algorithmisches System

52:22.040 --> 52:26.940
aber nur im Sinne der Beweisbarkeit zurzeit verwendbar ist, weil es

52:26.940 --> 52:30.820
Logikketten abarbeiten kann, kommt es eben, ich gebe ein Aktion-System

52:30.820 --> 52:34.440
vor, ich gebe Ableitungsregeln vor und ich komme auf neues Wissen, was

52:34.440 --> 52:37.540
ich natürlich abgeleitet habe, was damit beweisbar ist.

52:37.540 --> 52:39.920
Aber das hat nichts mit dem menschlichen Leben zu tun.

52:40.300 --> 52:43.660
Die Wahrheiten, die es auf der Welt gibt, sind unendlich mal größer

52:43.660 --> 52:45.220
als das, was wir beweisen können.

52:45.580 --> 52:48.720
Und deswegen können wir bei Entscheidungen über Menschen auch nur

52:48.720 --> 52:50.320
Menschen entscheiden lassen.

52:50.600 --> 52:52.720
Und niemals ein algorithmisches System.

52:52.720 --> 52:54.460
Das müssten wir verhindern.

52:54.880 --> 52:57.280
Und wenn ich mir das hier angucke, die Pyramide, die du mir hingelegt

52:57.280 --> 52:58.920
hast, dann ist das der richtige Weg.

52:59.260 --> 53:02.520
Hier steht ganz klar vollständiger teilweise Verbot eines

53:02.520 --> 53:06.440
algorithmischen Systems, wenn es unvertretbares Schädigungspotenzial

53:06.440 --> 53:06.680
hat.

53:07.120 --> 53:10.180
Und das hat es schon bei der Anwendung auf einzelne Menschen.

53:11.100 --> 53:15.640
Wie sollten wir aus deiner Sicht damit umgehen, wenn wir in

53:15.640 --> 53:19.160
Deutschland oder in Europa die Nutzung bestimmter Systeme verbieten

53:19.160 --> 53:22.940
und dies aber in anderen Ländern der Welt völlig egal ist?

53:23.500 --> 53:25.080
Dieses Phänomen kennen wir ja.

53:25.300 --> 53:32.120
Wir setzen Gesetze auf, setzen Regulierungen auf und verbieten damit

53:32.120 --> 53:34.120
bestimmte Handlungsweisen.

53:35.420 --> 53:38.960
Und die Forschung zieht ab in andere Länder und arbeitet dort.

53:40.140 --> 53:42.280
Ja, das kennen wir.

53:42.680 --> 53:44.340
Das kennen wir aus der Genforschung.

53:44.420 --> 53:46.280
Aber ich bin da kein Fachmann dazu.

53:46.580 --> 53:48.620
Da ziehe ich mich auf meine Ingenieurposition zurück.

53:49.440 --> 53:53.420
Aber da muss man sagen, das entbindet uns ja doch nicht davon zu

53:53.420 --> 53:56.540
sagen, weil es woanders gemacht wird, dann müssen wir das hier auch

53:56.540 --> 53:56.820
machen.

53:56.820 --> 54:01.280
Denn letztlich muss jeder Mensch, so verstehe ich die Welt, hat jeder

54:01.280 --> 54:04.240
Mensch Verantwortung für sein unmittelbares Tun und auch für sein

54:04.240 --> 54:04.820
mittelbares.

54:05.220 --> 54:08.320
Also ist es doch sehr gut, wenn die Europäische Kommission sagt, in

54:08.320 --> 54:11.080
unserem Geltungsbereich wünschen wir das nicht.

54:11.500 --> 54:14.280
In unserem Geltungsbereich wird es diese Geschäftsfelder nicht geben.

54:14.280 --> 54:17.940
In unserem Geltungsbereich lassen wir keine Maschinen zu, lassen wir

54:17.940 --> 54:20.900
keine Algorithmen zu, lassen wir gewisse Dinge auch in den

54:20.900 --> 54:23.740
Versicherungen und Banken nicht zu, die schädigenden Einfluss auf

54:23.740 --> 54:24.700
unsere Bürger haben können.

54:25.080 --> 54:30.500
Wenn das dann andere Länder machen, dann können wir bilateral oder

54:30.500 --> 54:33.960
multilateral mit denen reden, aber uns steht es auch nicht zu, dann

54:33.960 --> 54:37.260
den Oberpolizisten zu spielen, denn es ist deren Geltungsbereich.

54:37.580 --> 54:39.000
Und das müssen die verantworten.

54:39.000 --> 54:42.360
Also ich möchte nicht, dass die EU irgendwie die Polizist dieser Welt

54:42.360 --> 54:42.680
spielt.

54:43.140 --> 54:46.280
Wir sind ein riesiger Wirtschaftsraum mit 500 Millionen Leuten und

54:46.280 --> 54:49.440
wenn wir dafür gute Gesetze hinbekommen, auch für die KI, dann können

54:49.440 --> 54:50.340
wir stolz auf uns sein.

54:51.360 --> 54:54.420
Ja, lieber Ralf Otte, wir sprachen jetzt in großem Bogen über

54:54.420 --> 54:58.600
selbstbewusste künstliche Intelligenz, die, wenn es sie denn gäbe,

54:58.700 --> 55:01.500
mehr wäre als eine bloße reine Maschine.

55:02.340 --> 55:05.260
Frage zum Abschluss an dich, wie lange wird es noch dauern?

55:05.960 --> 55:06.360
Lange.

55:07.100 --> 55:07.680
Sehr lange.

55:08.420 --> 55:11.740
Also bis wir Neuromorphe Computer haben mit ersten

55:11.740 --> 55:14.500
Bewusstseinsartefakten, das ist in den nächsten zwei, drei Jahren zu

55:14.500 --> 55:14.840
erwarten.

55:15.180 --> 55:17.760
Und wenn wir das nicht hinbekommen, dann machen das unsere Kollegen in

55:17.760 --> 55:21.520
den USA oder in China, wo ich auch sehr gerne bin und häufig bin.

55:22.480 --> 55:26.940
Aber bis wir eine Maschine haben, die dem Menschen ebenbürtig ist, ich

55:26.940 --> 55:29.140
würde sagen, zwei, dreihundert Jahre.

55:29.600 --> 55:31.480
Ich kann mir einfach bis heute überhaupt nicht vorstellen, wie wir

55:31.480 --> 55:32.160
sowas bauen würden.

55:32.680 --> 55:35.580
Ich kann mir das überhaupt nicht vorstellen, wie wir ein... Ich finde

55:35.580 --> 55:40.540
immer wieder, dass wir uns völlig überschätzen, weil es heißt, heute

55:40.540 --> 55:41.700
geht alles exponentiell.

55:42.400 --> 55:45.240
Ja, aber was die Leute vergessen ist, die Probleme sind doch

55:45.240 --> 55:46.380
exponentiell kompliziert.

55:46.380 --> 55:49.440
Und wenn wir ein exponentielles kompliziertes Problem wie das

55:49.440 --> 55:52.620
menschliche Gehirn nachbauen wollen, dann kann es sehr, sehr lange

55:52.620 --> 55:56.460
dauern und wird sehr, sehr lange dauern oder sogar nie möglich sein.

55:56.860 --> 55:59.840
Und eigentlich muss ich Ihnen sagen, auch als KI-Forscher, ich finde

55:59.840 --> 56:00.320
das gut.

56:00.620 --> 56:03.320
Ich finde das gut, dass das lange dauern wird und ich finde das gut,

56:03.580 --> 56:06.740
dass der Mensch Mensch bleiben wird und keine Maschine in den nächsten

56:06.740 --> 56:09.340
Generationen wird dann seine Leistungen heranreichen können.

56:10.120 --> 56:11.100
Vielen Dank.

56:14.030 --> 56:18.390
Das war Ralf Otte aus Ulm, Experte in der Entwicklung neuer

56:18.390 --> 56:21.790
Technologien und Algorithmen rund um das Gehirn und für die

56:21.790 --> 56:24.170
Modellierung von Bewusstseinsstrukturen.

56:24.570 --> 56:28.350
In unserer Podcast-Serie zu selbstbewusster künstlicher Intelligenz,

56:28.490 --> 56:32.070
Ihrem Forschungspodcast an der Grenze zwischen Mensch und Maschine.

56:33.110 --> 56:36.990
Sind Ihnen beim Zuhören weitere Fragen eingefallen oder geniale Ideen

56:36.990 --> 56:37.310
gekommen?

56:37.710 --> 56:39.350
Wir freuen uns über Ihre Gedanken.

56:40.310 --> 56:43.190
Lassen Sie uns daran teilhaben und eine Nachricht über unsere

56:43.190 --> 56:49.070
Projektwebsite zukommen, die Sie unter www.ki-bewusstsein.de finden.

56:50.330 --> 56:52.550
Oder schreiben und folgen Sie uns auf Twitter.

56:53.050 --> 56:56.210
Dort finden Sie unser Projekt unter dem gleichen Namen KI-Bewusstsein.

56:59.740 --> 57:02.820
In der nächsten Folge sprechen wir mit Christian Vater.

57:03.240 --> 57:06.340
Er ist Forscher zur Geschichte der künstlichen Intelligenz in

57:06.340 --> 57:10.360
Heidelberg und in Karlsruhe und kann uns erklären, wie die ganzen

57:10.360 --> 57:14.740
Gedanken zu KI und Bewusstsein irgendwann einmal begonnen haben.

57:15.980 --> 57:18.880
Redaktion und Produktion dieser Folge hatte Robert Sinitsin.

57:19.260 --> 57:22.740
Die Aufnahmeleitung im Außeneinsatz lag diesmal bei mir selbst.

57:23.440 --> 57:26.040
Ich freue mich, wenn es Ihnen gefallen hat und diese Folge auch für

57:26.040 --> 57:29.560
Sie ein Beitrag dazu war, KI-Bewusstsein etwas mehr zu

57:29.560 --> 57:30.800
entmystifizieren.

57:31.800 --> 57:34.900
Bleiben Sie gesund, hoffnungsvoll und gestaltungsstark.

57:35.160 --> 57:37.460
Das war Ihr und Euer Carsten Wendland.

57:37.720 --> 57:38.120
Bis bald.