WEBVTT 00:00.000 --> 00:06.140 Hallo und herzlich willkommen bei Selbstbewusste KI, dem 00:06.140 --> 00:09.640 Forschungspodcast an der Grenze zwischen Mensch und Maschine. 00:11.140 --> 00:13.000 Es ist wie der Mensch auf dem Mond. 00:13.420 --> 00:14.420 Wir wollen ihn bauen. 00:14.660 --> 00:16.840 Wir wollen ihn bauen, weil wir Menschen sind. 00:17.460 --> 00:24.540 Wenn wir diese Art von Roboter bauen, wir besser verstehen, was es 00:24.540 --> 00:25.640 bedeutet, Mensch zu sein. 00:40.320 --> 00:44.780 Kann künstliche Intelligenz ein Bewusstsein entwickeln? 00:45.640 --> 00:48.760 Wie könnte das überhaupt funktionieren und was würde das für uns 00:48.760 --> 00:49.260 bedeuten? 00:50.720 --> 00:54.420 Mein heutiger Gast zu dieser spannenden Frage entwickelt Roboter und 00:54.420 --> 00:56.140 dies seit über 25 Jahren. 00:57.040 --> 01:01.580 Er verbindet technische Informatik mit kognitiver Robotik und mit der 01:01.580 --> 01:04.020 technischen Implementierung sozialer Wahrnehmung. 01:04.020 --> 01:08.440 Er ist Gründungsmitglied und Vorstand der Gesellschaft für biologisch 01:08.440 --> 01:12.960 inspirierte kognitive Architektur, Vorstandsmitglied der Vereinigung 01:12.960 --> 01:16.940 für Künstliche Intelligenz seines Landes, er ist Mitglied in vielen 01:16.940 --> 01:21.040 einschlägigen internationalen Fachgesellschaften und Direktor des 01:21.040 --> 01:24.180 Zentrums für Wissenstechnologie an seiner Universität. 01:25.080 --> 01:28.360 Außerdem ist er Hauptherausgeber einer wissenschaftlichen Zeitschrift, 01:28.620 --> 01:32.040 die sich mit künstlicher Intelligenz und Bewusstsein beschäftigt. 01:32.040 --> 01:36.500 Mein heutiger Gast ist, wer hätte das gedacht, Professor für Robotik 01:36.500 --> 01:41.000 und Gründer des Robotic Labs am Institut für Industrielle und Digitale 01:41.000 --> 01:44.600 Innovation der Universität von Palermo. 01:45.460 --> 01:50.520 Sono molto felice che oggi possiamo parlare di della concienza dell 01:50.520 --> 01:52.760 'intelligenza artificiale. 01:52.960 --> 01:55.020 Benvenuto Antonio Keller! 01:55.680 --> 01:56.220 Grazie. 01:56.740 --> 02:00.240 Thank you very much for involving me in this interesting project. 02:01.280 --> 02:03.640 I'm very pleased and very happy to be here. 02:04.680 --> 02:09.720 Antonio, Sie sind ein Experte für künstliche Intelligenz, die wir 02:09.720 --> 02:13.170 immer auch im Verhältnis mit unserem Gehirn diskutieren. 02:13.660 --> 02:17.080 Was haben Sie für ein Verhältnis zu Ihrem Gehirn? 02:17.280 --> 02:19.240 What's your relationship with your brain? 02:24.020 --> 02:27.060 Nun, ich denke schon, dass unser Gehirn wichtig ist. 02:27.340 --> 02:30.860 Ich leite gerne meine Vorträge und Lehrveranstaltungen mit dem Zitat 02:30.860 --> 02:34.920 von Woody Allen ein, dass unser Gehirn das am meisten überschätzte 02:34.920 --> 02:35.580 Organ ist. 02:36.380 --> 02:39.080 Weil ich denke, dass wir eben nicht nur unser Gehirn sind. 02:39.720 --> 02:43.260 Meiner Meinung nach spielt der Körper eine wichtige Rolle, unsere 02:43.260 --> 02:46.860 Bewegungsaktivitäten und die äußeren Umgebungen sind wichtig. 02:47.520 --> 02:51.320 Ich glaube, dass wir nicht, wie einige Philosophen sagen, ein Gehirn 02:51.320 --> 02:55.000 in einer Flasche sind oder dass unser Geist komplett in unserem Gehirn 02:55.000 --> 02:55.280 steckt. 02:56.080 --> 02:59.640 Aber um unser Bewusstsein besser zu verstehen, müssen wir die Art der 02:59.640 --> 03:03.260 Beziehungen zwischen unserem Gehirn, unserem Körper und unseren 03:03.260 --> 03:04.980 äußeren Umgebungen berücksichtigen. 03:06.120 --> 03:09.860 Wenn wir nur auf unser Gehirn schauen, finden wir unser Bewusstsein 03:09.860 --> 03:10.120 nicht. 03:11.440 --> 03:16.380 Wissen Sie, es geht um die Art der Interaktion zwischen dem Gehirn und 03:16.380 --> 03:20.520 dem Körper und mit der äußeren Umgebung und natürlich auch mit anderem 03:20.520 --> 03:22.840 Gehirn, also mit den anderen Menschen. 03:23.580 --> 03:26.740 Denken Sie daran, dass wir im sozialen Austausch miteinander stehen 03:26.740 --> 03:31.500 und Bewusstsein auch aus dieser sozialen Perspektive verstehen können. 03:31.500 --> 03:35.960 Wir sind in gewisser Weise soziale Tiere und wir müssen die Art der 03:35.960 --> 03:38.800 Beziehungen zwischen uns und unserer Umwelt berücksichtigen. 03:39.460 --> 03:43.540 Ich bin eher für solchartige Positionen der Externalisten, wie zum 03:43.540 --> 03:47.820 Beispiel die meines Kollegen Riccardo Manzotti und anderen, die sagen, 03:48.080 --> 03:51.660 dass wir die Außenwelt anschauen müssen, um Bewusstsein zu finden. 03:52.320 --> 03:56.100 Genau genommen sollten wir die Beziehung unseres inneren Selbst und 03:56.100 --> 03:59.200 unsere Außenwelt betrachten, um Bewusstsein zu finden. 03:59.200 --> 04:04.460 Also die Erforschung des Gehirns ist wichtig, aber es ist nicht das 04:04.460 --> 04:05.480 Einzige, was zählt. 04:06.020 --> 04:08.240 Deshalb gefällt mir der Witz von Woody Allen so gut. 04:09.360 --> 04:13.760 Woody Allen mit dem oft zitierten Spruch, the brain is the most 04:13.760 --> 04:15.260 overrated organ. 04:15.540 --> 04:18.520 Das Gehirn ist das am meisten überschätzte Organ. 04:18.520 --> 04:23.740 Und wir setzen ja oftmals sehr viele und große Hoffnungen in das 04:23.740 --> 04:27.000 Gehirn und es gibt laufende Forschungsprojekte, das Gehirn 04:27.000 --> 04:28.180 nachzubauen. 04:28.920 --> 04:31.540 Und einige Kollegen erwarten Durchbrüche, empfällt ja 04:31.540 --> 04:35.620 Neuromorphencomputer, in denen es ja darum geht, das Gehirn nicht nur 04:35.620 --> 04:41.660 digital zu simulieren, sondern in seinen Mechanismen nachzubauen. 04:41.660 --> 04:47.460 Also tatsächlich eine Implementierung des Gehirns durchzuführen und 04:47.460 --> 04:51.700 dann vielleicht sogar auch ein Bewusstsein bauen zu können. 04:52.340 --> 04:54.340 Und Antonio, Sie haben dazu eine andere Position. 04:54.960 --> 04:58.660 Sie sagen, der Körper spielt auch eine große Rolle, die Interaktion 04:58.660 --> 05:01.340 zwischen Kognition und dem Körper. 05:01.740 --> 05:04.980 Das ist die Embodimentfraktion, die Sie vertreten. 05:05.680 --> 05:10.080 Und was halten Sie von dem Ansatz, Neuromorphencomputer zu bauen? 05:12.780 --> 05:18.280 Neuromorphencomputer sind natürlich ein interessantes 05:18.280 --> 05:19.120 Forschungsgebiet. 05:19.540 --> 05:22.780 Und ich glaube übrigens nicht, dass derzeitige Computer nach Vorlage 05:22.780 --> 05:26.660 der Turing-Maschine in der Lage sein werden, wirkliches Bewusstsein zu 05:26.660 --> 05:27.040 erreichen. 05:28.400 --> 05:31.080 Neuromorphencomputer sind interessant, weil sie eine Möglichkeit 05:31.080 --> 05:33.860 darstellen, das menschliche Gehirn besser nachzuahmen. 05:33.860 --> 05:37.840 Gleichzeitig gibt es aber auch andere interessante Zugriffe, zum 05:37.840 --> 05:39.080 Beispiel den Quantenaspekt. 05:39.760 --> 05:43.560 Quantencomputer haben uns ganz andere Sichtweisen auf Berechnung und 05:43.560 --> 05:44.780 Berechenbarkeit vermittelt. 05:44.880 --> 05:47.980 Es gibt Probleme bei den Berechnungen, aber auch bei der 05:47.980 --> 05:48.680 Rechenleistung. 05:49.240 --> 05:53.340 Ich glaube aber, dass das Bewusstsein etwas haben könnte, das mit den 05:53.340 --> 05:55.740 Quantenberechnungen in Verbindung gebracht werden kann. 05:55.740 --> 05:58.280 Ich freue mich auf diese Art von Forschung. 05:59.200 --> 06:02.580 Ein weiteres interessantes Forschungsgebiet, die ebenfalls mit den 06:02.580 --> 06:06.500 Neuromorphencomputern zu tun hat, sind sozusagen biologische 06:06.500 --> 06:07.100 Berechnungen. 06:07.780 --> 06:11.400 Heute gibt es etliche Forschungslabors, die in der Lage sind, sehr 06:11.400 --> 06:15.000 einfache Berechnungen mit biologischem Material durchzuführen. 06:15.000 --> 06:18.000 Wir befinden uns auf der Ebene der logischen Gatter. 06:18.680 --> 06:22.380 Das wird sehr interessant, wenn wir Berechnungen also nicht auf der 06:22.380 --> 06:26.400 Basis von Silizium, nicht mit dem Turing-Maschinenmodell, sondern mit 06:26.400 --> 06:28.140 den anderen Modellen durchführen könnten. 06:28.660 --> 06:33.220 Nämlich mit einem biologischen Substrat, dem Quantensubstrat oder 06:33.220 --> 06:34.090 sogar mit Neuromorphenberechnungen. 06:35.940 --> 06:40.040 Diese Art von Modellen müssen wir uns ansehen, um besser zu verstehen, 06:40.540 --> 06:44.260 was für eine Berechnung notwendig ist, um zum Bewusstsein zu gelangen. 06:45.220 --> 06:49.760 Also sollten wir uns stärker in den biologischen Bereich ausdehnen und 06:49.760 --> 06:53.980 auch nicht ganz ignorieren, was die Quantenforschung zutage bringt. 06:54.820 --> 06:58.180 Damit sind wir mitten im Begriffsverständnis, was Bewusstsein 06:58.180 --> 06:59.820 eigentlich sein kann. 06:59.820 --> 07:02.640 Wir versuchen ja in unserem Podcast auch diesem Zusammenhang von 07:02.640 --> 07:07.440 künstlicher Intelligenz und Bewusstsein auf die Spur zu kommen und 07:07.440 --> 07:11.360 stoßen da auf ganz unterschiedliche Begriffsverständnisse und 07:11.360 --> 07:14.860 Definitionen aus verschiedenen Fachgebieten, was Bewusstsein 07:14.860 --> 07:18.940 eigentlich nun genau sein soll, was darunter verstanden wird. 07:18.940 --> 07:24.560 Und was meinen Sie als Robotiker mit Bewusstsein, wenn Sie dieses Wort 07:24.560 --> 07:29.040 Bewusstsein, Consciousness, unter Kollegen als Arbeitsbegriff 07:29.040 --> 07:33.500 verwenden, also wenn Sie untereinander von Bewusstsein sprechen? 07:39.560 --> 07:45.680 Tja, ich denke, dass es schwierig ist, Bewusstsein zu definieren. 07:46.120 --> 07:50.740 Es ist ein Wort wie Leben, es ist ein Wort wie Intelligenz, so wie es 07:50.740 --> 07:53.300 viele Begriffe gibt, die sehr schwer zu definieren sind. 07:53.300 --> 07:58.020 Für mich selbst ist der interessanteste Aspekt des Bewusstseins mit 07:58.020 --> 08:02.800 dem phänomenalen Bewusstsein verbunden, also mit der Fähigkeit, etwas 08:02.800 --> 08:03.480 zu fühlen. 08:04.260 --> 08:07.180 Dies ist für mich die Fähigkeit, mit den interessantesten zu 08:07.180 --> 08:08.400 untersuchenden Aspekten. 08:09.060 --> 08:13.180 Und es ist etwas, das uns von Maschinen, von Objekten unterscheidet. 08:13.180 --> 08:14.800 Wir fühlen etwas. 08:15.380 --> 08:17.880 Da ist etwas, wenn man sich ein Wort betrachtet. 08:18.060 --> 08:21.020 Da ist etwas, wenn man andere Menschen anschaut. 08:21.520 --> 08:22.040 Und so weiter. 08:23.100 --> 08:26.360 Das finde ich am interessantesten, dieses Fühlen von etwas. 08:26.680 --> 08:30.280 Ich denke, das Bewusstsein bedeutet, eine Art Innenleben zu haben. 08:30.780 --> 08:34.360 Wir haben ein inneres Gefühl, wir haben innere Emotionen, und wir 08:34.360 --> 08:35.540 haben auch innere Sprache. 08:36.420 --> 08:38.260 Und wir haben auch innere Vorstellungen. 08:38.260 --> 08:40.540 Wir haben ein reiches Innenleben. 08:41.160 --> 08:44.020 Und so ist das Bewusstsein mit all diesen Aspekten verbunden. 08:44.440 --> 08:48.020 Wenn ich von Bewusstsein spreche, beziehe ich mich auf all diese 08:48.020 --> 08:51.440 Dinge, ein Innenleben zu haben und etwas zu fühlen. 08:51.440 --> 08:58.540 Dieser innere Aspekt ist ja das, was es scheinbar auch ausmacht, was 08:58.540 --> 09:02.020 wir auch häufig vom Begriffsverständnis zwischen Bewusstsein und dem 09:02.020 --> 09:04.100 Selbstbewusstsein unterscheiden. 09:04.200 --> 09:06.900 Wenn man noch genauer und stärker schärft, kommt man zu dem 09:06.900 --> 09:11.220 phänomenalen Bewusstsein, was Sie eben erwähnt haben, was so 09:11.220 --> 09:14.440 verstanden wird, dass man sich selbst als lebend empfindet. 09:14.940 --> 09:17.540 Und den allermeisten von uns ist das ja bekannt. 09:17.620 --> 09:18.860 Wir empfinden uns als lebend. 09:20.080 --> 09:23.300 Wir haben auch den Eindruck, dass andere sich als lebend empfinden, 09:23.400 --> 09:24.800 wobei wir es nicht überprüfen können. 09:25.200 --> 09:28.340 Da haben wir auch in diesem Podcast schon öfters drüber gesprochen. 09:28.340 --> 09:31.960 Aber unsere Erfahrung und unsere Beobachtung, nicht nur bei den 09:31.960 --> 09:36.780 Menschen, auch bei Delfinen, bei Menschenaffen beispielsweise, sind ja 09:36.780 --> 09:41.980 so, dass wir davon ausgehen, dass diese anderen Wesen auch ein 09:41.980 --> 09:45.940 phänomenales Bewusstsein haben und darauf verlassen wir uns dann auch. 09:45.940 --> 09:51.160 Und was ist denn Ihre Position jetzt zu diesem phänomenalen 09:51.160 --> 09:55.460 Bewusstsein genau auf der Basis von künstlicher Intelligenz? 09:55.540 --> 09:58.560 Kann das überhaupt funktionieren, Antonio? 10:07.200 --> 10:10.580 Eigentlich glaube ich nicht, dass das phänomenale Bewusstsein aus 10:10.580 --> 10:13.520 historischer Sicht für die künstliche Intelligenz so besonders 10:13.520 --> 10:14.320 interessant war. 10:14.840 --> 10:18.540 Wichtig waren da andere Aspekte der Intelligenz, zum Beispiel die 10:18.540 --> 10:21.860 Wissensrepräsentation, die Bewegungsplanung und so weiter. 10:22.620 --> 10:25.500 Und auch heute gilt Deep Learning als das Interessanteste. 10:26.200 --> 10:28.420 Und das ist meiner Meinung nach ein großer Fehler. 10:29.080 --> 10:33.440 Es gibt etwas, das in der KI einfach fehlt, weil wir eben nicht nur 10:33.440 --> 10:34.640 unsere Intelligenz sind. 10:35.160 --> 10:38.400 Ich arbeite seit langer Zeit im Bereich Computer Vision und KI. 10:39.100 --> 10:42.620 Aber ich hatte immer das Gefühl, dass bei dieser Art von Studien und 10:42.620 --> 10:44.320 Entwicklungen etwas fehlt. 10:44.900 --> 10:47.960 Denn wenn wir ein Objekt oder eine Handlung erkennen oder wenn wir 10:47.960 --> 10:50.260 einen Roboter steuern, dann fehlt etwas. 10:50.680 --> 10:54.020 Es ist nicht nur das Erkennen der Form, das Erkennen einer Ecke oder 10:54.020 --> 10:54.660 was auch immer. 10:54.660 --> 10:58.960 Es geht mir um das Gefühl, dass mit dieser Art des Erkennens verbunden 10:58.960 --> 10:59.280 ist. 10:59.900 --> 11:04.780 Ich denke also, dass selbst wenn wir es mit Bewegung zu tun haben und 11:04.780 --> 11:07.340 wenn wir in der Welt agieren, geht es nicht nur um die 11:07.340 --> 11:12.480 Bewegungsplanung und derlei Dinge, denn es gibt Empfindungen, die mit 11:12.480 --> 11:14.520 dieser Art von Bewegung verbunden sind. 11:14.520 --> 11:19.200 Ich denke also, dass die KI in einigen Aspekten sehr gut funktioniert. 11:19.640 --> 11:23.500 Die meisten, gerade im Feld der Robotik, machen sich sehr gut bei der 11:23.500 --> 11:27.180 Bewegungsplanung und bei der Bewegungsgeschicklichkeit und so weiter. 11:27.860 --> 11:29.840 Aber es fehlt einfach noch etwas. 11:30.080 --> 11:33.900 Und deshalb halte ich das Studium des phänomenalen Bewusstseins für so 11:33.900 --> 11:34.240 wichtig. 11:36.300 --> 11:40.160 Außerdem denke ich, dass wir KI-Systeme dazu nutzen können, um 11:40.160 --> 11:42.160 Bewusstsein insgesamt besser zu verstehen. 11:42.760 --> 11:46.720 Ja, ich denke, die KI wird ein nützliches Werkzeug sein, um 11:46.720 --> 11:48.180 Bewusstsein besser zu verstehen. 11:48.800 --> 11:52.400 Aber wir müssen vor allem das phänomenale Bewusstsein besser 11:52.400 --> 11:56.480 verstehen, um einen Weg zu finden, phänomenales Bewusstsein auch in 11:56.480 --> 11:57.360 die KI zu bringen. 11:58.360 --> 12:03.980 Nun gibt es aber trotzdem verschiedene Vorstellungen in der 12:03.980 --> 12:09.520 Forschungslandschaft und bei Entwicklungen und Ansätze, die versuchen, 12:09.740 --> 12:13.860 Bewusstsein irgendwie in die Maschine hineinzubekommen oder 12:13.860 --> 12:16.660 Bewusstsein in der Maschine entstehen zu lassen. 12:17.420 --> 12:19.900 Manche sagen, alles auf der Welt ist Bewusstsein. 12:20.500 --> 12:21.700 Das ist der Parmsychismus. 12:22.120 --> 12:26.900 Und dann wäre unsere Frage auch schon beantwortet, wo denn das 12:26.900 --> 12:28.040 Bewusstsein zu suchen sei. 12:28.280 --> 12:29.480 Man kann es überall finden. 12:29.600 --> 12:33.000 Und manche Weltanschauungen, wie der Shintoismus in Japan, sind da ja 12:33.000 --> 12:34.840 auch ziemlich dicht dran. 12:34.840 --> 12:41.000 Andere sagen, es geht um möglichst hohe Integration von Informationen 12:41.000 --> 12:42.040 in einem System. 12:43.140 --> 12:46.220 Da kann man sich ein autonomes Fahrzeug vorstellen, das sehr viele 12:46.220 --> 12:51.880 Informationen permanent aufnimmt und in sich integriert, Modelle 12:51.880 --> 12:53.880 entwickelt und die immer weiter anreichert. 12:53.880 --> 12:57.940 Und da ist auch ein Ansatz, dass da ein Bewusstsein irgendwann 12:57.940 --> 13:04.920 entstehen könnte aus dieser starken Integration von Informationen. 13:05.400 --> 13:10.300 Ja, da liefert die Integrated Information Theory verschiedene Impulse. 13:10.300 --> 13:14.620 Und dann gibt es noch den großen Bereich, ja, der Fantasie oder der 13:14.620 --> 13:17.800 Science Fiction, in dem Kinofilm Nummer 5 lebt. 13:17.980 --> 13:20.800 Der heißt ja im Englischen Short Circuit. 13:21.320 --> 13:24.300 Ich weiß bis heute noch nicht, warum die deutschen Filmtitel oft mal 13:24.300 --> 13:25.260 zu seltsam sind. 13:26.180 --> 13:28.460 Dafür müssen wir vielleicht mal einen anderen Podcast machen. 13:28.820 --> 13:30.960 Aber in diesem Film gab es ja noch einen ganz anderen Grund. 13:31.120 --> 13:34.760 Da gab es einen Roboter, der von einem Blitz getroffen wurde und dann 13:34.760 --> 13:35.960 ist irgendwas passiert. 13:36.800 --> 13:41.400 Etwas ist in ihn eingefahren, eine Art Fulguration, man könnte auch 13:41.400 --> 13:42.640 etwas romantischer sagen. 13:42.640 --> 13:47.640 Er wurde wachgeküsst und dieser Trigger kam von außen. 13:48.020 --> 13:51.260 Ich frage an Sie, Antonio, wie kann man das denn jetzt hinbekommen, 13:51.480 --> 13:51.920 technisch? 13:52.060 --> 13:55.380 Wie kommt das Bewusstsein in die Maschine? 13:55.540 --> 13:56.460 Can it really happen? 13:56.580 --> 13:59.380 How does consciousness could enter the machine? 14:02.200 --> 14:06.060 Ja, ich denke, dass das Bewusstsein natürlich nicht in einer Maschine 14:06.060 --> 14:07.240 hochgeladen werden kann. 14:07.520 --> 14:12.180 Die Filme mit Nummer 5 sind wirklich gute Filme, aber ich glaube 14:12.180 --> 14:15.200 nicht, dass das Bewusstsein einfach durch eine Art Upload oder wie 14:15.200 --> 14:17.580 auch immer in eine Maschine gelangen kann. 14:18.160 --> 14:20.400 Denn das ist eine Frage der Komplexität. 14:20.400 --> 14:25.160 Ich denke schon, dass wir eine solche Art von Komplexität erreichen 14:25.160 --> 14:28.460 sollten, aber wir sind heute längst nicht auf der Ebene der 14:28.460 --> 14:29.840 Komplexität des Gehirns. 14:30.560 --> 14:33.960 Und zwar nicht nur vom rechnerischen Standpunkt aus, sondern auch, 14:34.080 --> 14:37.420 wenn wir an die heute verwendeten Sensoren und Aktoren denken. 14:38.320 --> 14:41.480 Und nur dann, wenn wir in der Lage sind, eine Maschine mit einer 14:41.480 --> 14:45.700 Komplexität zu erreichen, die unserem Körper ähnlich ist. 14:45.700 --> 14:49.420 Nicht nur unserem Gehirn, wie ich bereits sagte, sondern unserem 14:49.420 --> 14:49.900 Körper. 14:50.500 --> 14:54.440 Wenn man also die Komplexität unserer selbst, unseres Körpers und all 14:54.440 --> 14:58.800 das berücksichtigt, und alle unsere Körper können, wie ich vorhin zu 14:58.800 --> 15:01.680 erklären versuchte, zu einem Bewusstsein beitragen. 15:02.400 --> 15:03.900 Davon sind wir aber sehr weit weg. 15:04.340 --> 15:09.060 Und erst, wenn wir diese Art von Komplexität erreichen, sollten wir 15:09.060 --> 15:12.580 eine Maschine in Betracht ziehen, die potenziell bewusst sein könnte. 15:13.460 --> 15:16.640 Lassen Sie mich hier aber nochmal auf einen wichtigen Zusammenhang 15:16.640 --> 15:20.100 hinweisen, der nützlich in unserer Diskussion über Bewusstsein ist. 15:20.560 --> 15:24.100 Ich glaube nicht, dass wir es mit einer klaren Unterscheidung zwischen 15:24.100 --> 15:25.840 Hardware und Software zu tun haben. 15:26.380 --> 15:27.160 Ein Gedankenspiel. 15:27.940 --> 15:31.300 Wir hätten also eine Maschine, wir laden eine Art von Software hoch, 15:31.420 --> 15:33.060 und die Maschine würde bewusst. 15:34.120 --> 15:37.460 Dann gäbe es eine enge Vermischung zwischen der Hardware und der 15:37.460 --> 15:39.560 Software in der bewussten Maschine. 15:40.240 --> 15:44.120 Und weiter gedacht, führt dies auch zu dem Problem, wie man 15:44.120 --> 15:45.900 Bewusstsein reproduzieren wollte. 15:46.820 --> 15:48.100 Heute ist es ja ganz einfach. 15:48.960 --> 15:52.020 Wenn ich meinen Computer kaputt mache, kann ich alle meine Daten 15:52.020 --> 15:55.460 herunterladen, und ich kann all diese Daten in einem ähnlichen 15:55.460 --> 15:56.500 Computer hochladen. 15:57.240 --> 16:02.000 Und dann würde daraus ein Computer, der derselbe ist, wie der 16:02.000 --> 16:03.280 Computer, den ich vorher hatte. 16:03.280 --> 16:07.620 Bei einem Roboter hingegen ist es ziemlich schwierig, diese Art von 16:07.620 --> 16:11.180 Operationen durchzuführen, weil bei einem Roboter die Software und die 16:11.180 --> 16:13.280 Hardware in enger Wechselwirkung zueinander stehen. 16:13.980 --> 16:17.640 Wir bauen die Software des Roboters, weil die Hardware des Roboters in 16:17.640 --> 16:19.520 irgendeiner Weise entwickelt wurde. 16:20.080 --> 16:23.920 Und wenn der Roboter sich zum Beispiel ändert, weil er es ein Problem 16:23.920 --> 16:28.580 gibt, er wird zum Beispiel alt, dann muss etwas, was bei der Software 16:28.580 --> 16:31.700 des Roboters nicht mehr funktioniert, an den Roboter angepasst werden. 16:31.700 --> 16:35.940 Die Software des Roboters wird also von Tag zu Tag für diesen Roboter 16:35.940 --> 16:40.100 gebaut, und nicht einen anderen Roboter, der diesem Roboter ähnlich 16:40.100 --> 16:41.660 ist oder so. 16:42.140 --> 16:46.560 Und dieser Roboter weist einige Besonderheiten auf, die Motoren, die 16:46.560 --> 16:47.660 Aktoren und die Kamera. 16:48.580 --> 16:51.980 Und so wird die Software eben für diesen Roboter gebaut, und nicht für 16:51.980 --> 16:55.960 diese Art von Roboter, sondern also für diese Einheit. 16:55.960 --> 16:59.420 Der Roboter gewinnt also eine Art Einzigartigkeit. 17:00.200 --> 17:05.040 Und diese ist so eine Art, sagen wir, eine erste Persönlichkeit des 17:05.040 --> 17:05.560 Roboters. 17:06.760 --> 17:09.860 Zusammenfassend glaube ich nicht, dass wir das Bewusstsein in einen 17:09.860 --> 17:11.080 Roboter hochladen können. 17:11.980 --> 17:15.280 Und auch nicht, dass wir in der Lage sein werden, es herunterzuladen 17:15.280 --> 17:17.460 und dann auf einen anderen Roboter hochzuladen. 17:17.460 --> 17:20.180 Es ist wie beschrieben ein ganz anderer Prozess. 17:20.720 --> 17:24.220 Der hat zwar heute nicht ganz die rechnerische Komplexität erreicht, 17:24.480 --> 17:26.700 geht aber Tag für Tag etwas weiter. 17:27.000 --> 17:30.420 Ich denke, es könnte auf eine solche Identität von Robotern 17:30.420 --> 17:31.120 hinauslaufen. 17:31.680 --> 17:35.560 Verschiedene Roboter, wenn sie sich äußerlich ähnlich sind, könnten 17:35.560 --> 17:39.660 eine Art von Bewusstsein haben, weil sie unterschiedliche Teile haben. 17:40.240 --> 17:43.880 Somit hängt es also auch von der Story, der Vergangenheit und der 17:43.880 --> 17:45.140 Geschichte des Roboters ab. 17:45.900 --> 17:48.700 Auch in unserer heutigen Podcast-Folge haben wir wieder einen 17:48.700 --> 17:53.000 Fragensteller, der Ihnen einige Fragen stellen möchte. 17:53.140 --> 17:55.960 Heute ist es Armin Grunwald aus Karlsruhe. 17:56.060 --> 17:58.360 Hören wir ihm kurz zu. 17:59.100 --> 18:00.660 Ich heiße Armin Grunwald. 18:00.780 --> 18:02.040 Ich war mal Physiker. 18:02.200 --> 18:04.200 Ich bin dann in die Philosophie gewandert. 18:04.820 --> 18:07.860 Mein Hauptjob ist aber die Technikfolgenabschätzung. 18:08.380 --> 18:11.560 Ich leite hier in Karlsruhe das Institut für Technikfolgenabschätzung 18:11.560 --> 18:15.800 und Systemanalyse am KIT und auch in Berlin das Büro für 18:15.800 --> 18:18.280 Technikfolgenabschätzung beim Deutschen Bundestag. 18:19.170 --> 18:23.940 Meine erste Frage, Antonio, Sie sind einfach total begeistert von den 18:23.940 --> 18:27.260 Möglichkeiten der Robotik, auch vielleicht des maschinellen 18:27.260 --> 18:31.460 Bewusstseins, dass ganz neue Entitäten entstehen können. 18:32.120 --> 18:33.530 Bei aller Begeisterung. 18:34.730 --> 18:37.990 Ingenieure, Informatiker, Wissenschaftler sind ganz häufig begeistert 18:37.990 --> 18:41.310 von ihren neuen Dingen, versprechen wunderbare Sachen. 18:42.430 --> 18:47.050 Und wenn man dann halt guckt, was so nach 10, 20 Jahren da ist, dann 18:47.050 --> 18:50.470 sieht man, teilweise sind gute Sachen gekommen, teilweise aber auch 18:50.470 --> 18:50.730 nicht. 18:50.730 --> 18:54.030 Und manchmal geht der Schuss richtig nach hinten los. 18:54.610 --> 18:59.590 Ich denke mal an Ozonloch oder die Asbestgeschichte, negative 18:59.590 --> 19:02.390 Technikfolgen, die Ambivalenz der Technik. 19:02.950 --> 19:06.750 Kannst du dir vorstellen oder denkst du manchmal darüber nach, dass 19:06.750 --> 19:09.930 vielleicht auch schlimme Dinge passieren können, schreckliche 19:09.930 --> 19:12.350 Szenarien oder ganz unerwartete Dinge? 19:15.150 --> 19:17.410 Ja, die Frage verstehe ich vollkommen. 19:17.670 --> 19:20.290 Natürlich präsentieren uns viele Science-Fiction-Filme solche 19:20.290 --> 19:22.610 Zukunfte, in der etwas schief gehen kann. 19:22.990 --> 19:26.890 Von der guten alten Space-Odyssee 2001, in der die Menschen aus der 19:26.890 --> 19:31.250 Sicht der Maschine am Ende irrelevant sind, oder der Ex-Maschine, in 19:31.250 --> 19:34.250 der Roboter in der Lage sind zu betrügen und uns zu täuschen. 19:34.390 --> 19:37.970 Diese Geschichten und Motive kennen wir ja schon von Frankenstein oder 19:37.970 --> 19:38.610 dem Golem. 19:38.610 --> 19:42.810 Es gibt tatsächlich ein aktuelles Risiko und wir müssen uns diesem 19:42.810 --> 19:43.790 Risiko auch stellen. 19:44.730 --> 19:47.450 Wenn wir uns für ein Moratorium entscheiden, wie es der deutsche 19:47.450 --> 19:50.890 Philosoph Thomas Metzinger zum Maschinenbewusstsein vorschlägt, 19:51.290 --> 19:53.830 verlieren wir aber auf der anderen Seite etwas. 19:54.350 --> 19:57.970 Wir verlieren die Möglichkeit, besser zu verstehen, was Bewusstsein 19:57.970 --> 19:58.230 ist. 19:58.450 --> 20:01.630 Und wir verlieren die Möglichkeit, Roboter als Werkzeuge dafür 20:01.630 --> 20:04.690 einzusetzen, um das Bewusstsein besser zu verstehen. 20:05.410 --> 20:07.750 Das ist natürlich eine politische Entscheidung. 20:08.310 --> 20:12.130 Und ich sehe, dass es auf der europäischen Ebene und sogar weltweit 20:12.130 --> 20:16.550 interessante Diskussionen darüber gibt, wie mit diesem Risiko der KI 20:16.550 --> 20:20.290 und auch dem Risiko des Maschinenbewusstseins umgegangen werden kann. 20:20.970 --> 20:24.430 Das ist interessant, weil es diese Entscheidungen im politischen Raum 20:24.430 --> 20:24.830 sind. 20:25.790 --> 20:29.630 Also, auf der einen Seite ist es wichtig, dass wir uns als Menschen 20:29.630 --> 20:33.970 dessen bewusst sind, was wir in der Forschung eigentlich tun und 20:33.970 --> 20:36.190 welche Vor- und Nachteile damit einhergehen. 20:36.830 --> 20:40.690 Auf der anderen Seite bin ich nicht für eine Art Moratorium oder 20:40.690 --> 20:44.830 dafür, diese Art von Forschung zu vermeiden, weil wir, wie gesagt, 20:44.950 --> 20:45.750 etwas verlieren. 20:46.790 --> 20:50.010 Ähnliche Diskussionen finden wir in der Biologie oder in der 20:50.010 --> 20:50.670 Neurowissenschaft. 20:51.090 --> 20:54.330 Auch dort gibt es viele Risiken, die mit solcher Art von Forschung 20:54.330 --> 20:55.090 verbunden sind. 20:55.510 --> 20:58.350 Und denken Sie nur an das atomare Risiko. 20:59.530 --> 21:02.710 Und genau deshalb sollten wir für diese Art von Forschung 21:02.710 --> 21:03.630 verantwortlich sein. 21:04.470 --> 21:07.790 Hierzu brauchen wir die Kontrolle und Regulierung von politischer 21:07.790 --> 21:08.090 Seite. 21:08.670 --> 21:12.050 Aber wir müssen weitermachen, denn wir können uns nicht leisten, das 21:12.050 --> 21:15.310 Risiko einherzugehen, alle Vorteile dieser Art von Forschung zu 21:15.310 --> 21:15.730 verlieren. 21:15.730 --> 21:20.130 Persönlich fürchte ich eher etwas ganz anderes, nämlich eine Art 21:20.130 --> 21:22.390 Software -Analogie zum Covid-Virus. 21:22.990 --> 21:26.410 Eine Art superintelligentes Virus, das unsere gesamte 21:26.410 --> 21:29.390 Computerausrüstung oder andere Netzwerke kontrolliert. 21:30.070 --> 21:34.270 Ich fürchte mehr diese Art von Risiko, viel mehr als, dass wir morgen 21:34.270 --> 21:38.290 einen superintelligenten Roboter im Sinne eines Terminators haben, der 21:38.290 --> 21:38.930 uns tötet. 21:38.930 --> 21:42.730 Und beim Maschinenbewusstsein ist noch ein weiterer Aspekt von 21:42.730 --> 21:43.210 Bedeutung. 21:43.790 --> 21:47.310 Es ist sehr schwierig, Ethik ohne die Fähigkeit zu leiden zu 21:47.310 --> 21:47.770 verstehen. 21:48.570 --> 21:51.770 Also ohne die Fähigkeit zu einer Art innerem Gefühl. 21:52.850 --> 21:55.750 Auch in diesem Gesichtspunkt könnte es interessant sein, 21:55.830 --> 21:57.470 Maschinenbewusstsein zu untersuchen. 21:58.710 --> 22:02.230 Nehmen wir mal an, eine Maschine wäre mit der Fähigkeit ausgestattet, 22:02.370 --> 22:03.310 Empathie zu empfinden. 22:03.310 --> 22:07.630 An ihr könnte man untersuchen und vielleicht besser verstehen, was es 22:07.630 --> 22:08.630 bedeutet, zu leiden. 22:09.310 --> 22:11.150 So wie es Herr Metzinger sagt. 22:11.570 --> 22:14.950 Und ja, auch befürchtet, irgendwann könnten wir eine Maschine haben, 22:15.330 --> 22:19.010 anhand derer wir besser verstehen, was es bedeutet, Mensch zu sein. 22:20.010 --> 22:24.150 Meiner Meinung nach ist es eine ethische Regulierung, also sehr 22:24.150 --> 22:24.550 wichtig. 22:24.950 --> 22:27.570 Aber, wie gesagt, in diesem Aspekt fehlt noch etwas. 22:28.230 --> 22:31.570 Unter all den Vorschriften und Gesetzen können wir keine Maschine 22:31.570 --> 22:35.130 bauen, die uns die Fähigkeit gibt, besser zu verstehen, was es 22:35.130 --> 22:36.410 bedeutet, ein Mensch zu sein. 22:37.010 --> 22:38.350 Was es bedeutet, zu leiden. 22:38.630 --> 22:41.470 Was es bedeutet, in einem guten Leben zu sein. 22:41.630 --> 22:42.270 Und so weiter. 22:42.530 --> 22:45.730 Es fehlt der phänomenale Aspekt, der Empathie. 22:46.650 --> 22:50.270 Meiner Meinung nach kann nur eine empathische Maschine eine echte 22:50.270 --> 22:51.730 ethische Maschine sein. 22:52.610 --> 22:59.010 Ja, das wäre dann empathisches Vermögen als Voraussetzung für eine 22:59.010 --> 23:00.650 ethische Basiskompetenz. 23:01.090 --> 23:03.850 Also das müssten wir schon nochmal etwas weiter vertiefen und 23:03.850 --> 23:06.650 hinsichtlich der Konsequenzen abklopfen. 23:06.770 --> 23:10.070 Dazu haben wir auch noch eine zweite Frage von Armin Grunwald. 23:10.070 --> 23:14.530 Wenn es jetzt um autonome Roboter geht, und die gibt es ja schon, aber 23:14.530 --> 23:18.210 die werden immer autonomer, und wenn die dann vielleicht sogar eine 23:18.210 --> 23:22.530 Art von Bewusstsein mal haben sollten, ja, wir wissen es nicht, aber 23:22.530 --> 23:27.310 es gibt ja Anlass darüber nachzudenken, die werden ab und zu Dinge 23:27.310 --> 23:31.610 tun, die sie nach menschlichem Ermessen, nach Ethik und Recht nicht 23:31.610 --> 23:32.450 tun würden. 23:33.410 --> 23:37.810 Nehmen wir mal an, ein solcher Roboter bringt einen anderen Menschen 23:37.810 --> 23:38.110 um. 23:38.930 --> 23:41.890 Was sollte man deiner Meinung nach dann machen? 23:42.090 --> 23:46.930 Sollte man diesen Roboter vor Gericht stellen, anklagen, mit 23:46.930 --> 23:50.670 Verteidiger natürlich, und vielleicht auch dann lebenslänglich ins 23:50.670 --> 23:54.010 Gefängnis sperren, oder sollte man ihn verschrotten? 23:54.650 --> 23:58.830 Wo bleibt also die Verantwortung, wenn wir Technik, wenn wir Robotern 23:58.830 --> 24:00.590 diese Autonomie übertragen? 24:01.470 --> 24:02.130 Nun, 24:05.890 --> 24:10.010 in Zukunft sollten wir Roboter als eine Art echte autonome Einheit 24:10.010 --> 24:12.710 anerkennen und ihnen bestimmte Rechte einräumen. 24:13.570 --> 24:17.030 Erinnern wir uns doch daran, wie wir in Vergangenheit Rechte vergeben 24:17.030 --> 24:17.310 haben. 24:17.750 --> 24:21.690 Frauen hatten zum Beispiel sehr lange keine Rechte, bis sie irgendwann 24:21.690 --> 24:23.250 die gleichen Rechte bekamen wie Männer. 24:24.010 --> 24:26.050 Auch Black People hatten keine Rechte. 24:26.050 --> 24:30.350 Sie waren Sklaven und heute haben Farbige und Frauen 24:30.350 --> 24:31.550 selbstverständlich Rechte. 24:31.770 --> 24:33.970 Wir haben alle die gleichen Rechte. 24:34.610 --> 24:37.270 Und wir haben sogar den Tieren Rechte gegeben. 24:37.990 --> 24:39.950 Und wir haben der Umwelt Rechte gegeben. 24:40.630 --> 24:43.570 Und auch beispielsweise dem kulturellen Erbe. 24:43.570 --> 24:47.530 Schauen Sie, es gibt Menschen, die während des Krieges ihr eigenes 24:47.530 --> 24:51.370 Leben aufs Spiel setzen, um ein bestimmtes Gemälde oder einen 24:51.370 --> 24:52.630 bestimmten Staat zu retten. 24:53.070 --> 24:56.130 Etwas, das aus ihrer spezifischen Sicht wichtig ist. 24:56.970 --> 25:00.210 Ich kann mir also vorstellen, dass es morgen jemand geben könnte, der 25:00.210 --> 25:03.970 bereit ist, sein eigenes Leben zu opfern, um einen bestimmten Roboter 25:03.970 --> 25:04.490 zu retten. 25:05.910 --> 25:09.690 Wie ich bereits sagte, ist es nicht leicht, einen Roboter zu 25:09.690 --> 25:14.130 duplizieren, weil der Roboter eine Mischung aus Software und Hardware 25:14.130 --> 25:14.370 ist. 25:15.150 --> 25:17.990 Man könnte einen Roboter vergleichen mit Dingen, die bereits 25:17.990 --> 25:22.070 gesetzlich geschützt sind, etwa aus der schönen Malerei oder einem 25:22.070 --> 25:23.190 Gemälde zum Beispiel. 25:23.650 --> 25:27.410 Und dies vor allem in Anbetracht der Tatsache, dass der Roboter lernen 25:27.410 --> 25:27.710 kann. 25:28.130 --> 25:30.750 Wir befinden uns ja mitten in der Deep Learning Epoche. 25:30.750 --> 25:32.890 Und damit zurück zur Frage. 25:33.650 --> 25:36.230 Was denn ist, wenn ein Roboter einen Mensch tötet? 25:37.270 --> 25:40.250 Nun, es wird immer schwieriger, die Verantwortung dafür den 25:40.250 --> 25:43.510 Ingenieuren zuzuweisen, die den Roboter konstruiert haben. 25:44.110 --> 25:47.630 Ich weiß nicht, ob man sie heute dafür ins Gefängnis steckt, aber für 25:47.630 --> 25:48.730 morgen sehe ich das nicht. 25:48.730 --> 25:52.670 Erinnern wir uns in diesem Zusammenhang mal an den bekannten Fall 25:52.670 --> 25:56.510 dieses Chat-Roboters von Microsoft, der Tai genannt wurde. 25:57.470 --> 25:58.950 Tai war ein Schock. 25:59.530 --> 26:02.010 Er basierte vollständig auf Deep Learning Konzepten. 26:02.710 --> 26:06.530 Und dieser Chatbot Tai lernte innerhalb von nur wenigen Stunden eine 26:06.530 --> 26:11.070 bemerkenswerte Sprache und wurde dabei zu einem rassistischen Chatbot, 26:11.450 --> 26:13.990 zu einem politisch vollkommen unkorrekten Chatbot. 26:13.990 --> 26:17.830 Und dieses lag nur teilweise an der Schuld der Ingenieure, die den 26:17.830 --> 26:19.030 Chatbot entworfen haben. 26:19.410 --> 26:23.070 Tatsächlich lag es auch an der äußeren Umgebung, dass dieser Chatbot 26:23.070 --> 26:24.250 so wurde, wie er wurde. 26:24.630 --> 26:28.290 Ich sehe also schon, dass Roboter morgen irgendeine Art von 26:28.290 --> 26:29.650 Verantwortung haben könnten. 26:29.990 --> 26:33.190 Und auf der anderen Seite der Medaille sollten die Roboter dann auch 26:33.190 --> 26:33.850 Rechte haben. 26:33.850 --> 26:37.910 Die Roboter könnten morgen Rechte haben, ähnlich wie, sagen wir, 26:38.090 --> 26:41.390 künstlerische Meisterwerke sie haben oder besonders schöne 26:41.390 --> 26:42.450 Naturschutzgebiete. 26:42.830 --> 26:44.250 Es ist also keine einfache Sache. 26:44.470 --> 26:48.470 Wie ich bereits sagte, ist es wichtig, dass die Menschen diese Art von 26:48.470 --> 26:52.250 Problemen verstehen und die Politik sollte in der Lage sein, all diese 26:52.250 --> 26:55.890 schwierigen Probleme ernsthaft zu überdenken und zu bearbeiten. 26:55.890 --> 27:00.970 Wir Wissenschaftler, Robotiker und Computerleute sind nicht allein 27:00.970 --> 27:03.370 dazu in der Lage, diese Art von Entscheidung zu treffen. 27:03.890 --> 27:06.790 Und das bedeutet, dass hier die politische Ebene gefragt ist. 27:08.890 --> 27:12.010 Antonio, lassen Sie uns mal etwas weiter in die Zukunft schauen, 27:12.350 --> 27:15.650 vielleicht weniger furchtsam, sondern mit einem etwas pragmatischeren 27:15.650 --> 27:16.430 Blick. 27:16.990 --> 27:19.750 Hierzu die dritte Frage an Sie von Armin Grunwald. 27:20.470 --> 27:22.750 Die Welt wird sich stark ändern. 27:22.870 --> 27:25.350 Die ändert sich schon seit langer Zeit, ziemlich schnell. 27:25.950 --> 27:30.230 Die wird sich mit autonomen Robotern, mit selbstbewusster Technik 27:30.230 --> 27:32.450 weiterhin sehr stark verändern. 27:33.170 --> 27:36.170 Wenn sich Technik ändert, ändern wir Menschen uns auch. 27:36.230 --> 27:37.350 Wir müssen uns auch ändern. 27:38.210 --> 27:40.290 Was müssen wir lernen? 27:40.490 --> 27:42.010 Worauf sollen wir uns einstellen? 27:42.130 --> 27:43.830 Wie können wir uns vorbereiten? 27:44.410 --> 27:48.950 Welche neuen Kompetenzen brauchen wir in unserem Alltag, in der 27:48.950 --> 27:52.030 Arbeitswelt, im Gerichtswesen, wo auch immer? 27:52.030 --> 27:57.170 Wenn wir auf einmal Gegenüber haben, technische Gegenüber haben, die 27:57.170 --> 28:00.730 nicht mehr nur Objekte alten Typs sind, sondern so ein bisschen 28:00.730 --> 28:02.310 Subjektstatus bekommen. 28:06.170 --> 28:10.410 Ja, wie schon gesagt, sollten Roboter und KI auf der gleichen Ebene 28:10.410 --> 28:11.330 betrachtet werden. 28:11.670 --> 28:15.270 Und bestimmte Arten von Roboter sollten tatsächlich als eine Art Kunst 28:15.270 --> 28:18.530 und Meisterwerk betrachtet werden und dementsprechend auch geschützt 28:18.530 --> 28:18.790 werden. 28:18.790 --> 28:22.650 Darüber hinaus sollte meiner Meinung nach ein deutlich stärkeres 28:22.650 --> 28:25.990 Verständnis in der gesamten Gesellschaft darüber entstehen, wie 28:25.990 --> 28:28.170 Computer überhaupt funktionieren und arbeiten. 28:29.510 --> 28:33.470 Dieses zu unterstützen mit Aktivitäten und Initiativen, so wie Ihrer 28:33.470 --> 28:37.730 Initiative zum Beispiel mit dieser Art von Podcast, die den Menschen 28:37.730 --> 28:42.090 helfen, besser zu verstehen, was die Risiken des Maschinenbewusstseins 28:42.090 --> 28:43.430 und der KI-Systeme sind. 28:43.430 --> 28:47.950 Es ist wichtig, dass die Menschen besser verstehen, was die wirklichen 28:47.950 --> 28:51.110 Risiken und die wirklichen Chancen in dieser Art von Forschung und 28:51.110 --> 28:51.830 Entwicklung sind. 28:53.850 --> 28:57.390 Naja, und außerdem sollten wir unsere Rolle in der Welt überdenken. 28:57.750 --> 29:01.790 Wir sehen uns als Krone der Schöpfung, als einzige vollkommene Einheit 29:01.790 --> 29:03.030 auf der ganzen Welt. 29:03.890 --> 29:07.790 Aber vielleicht wird es den Zeitpunkt geben, zu dem wir in unserem 29:07.790 --> 29:10.370 Kopf zwei ähnliche Arten von Intelligenz tragen. 29:10.370 --> 29:13.990 Vielleicht müssen wir uns sogar damit abfinden, dass wir eines Tages 29:13.990 --> 29:16.450 eine andere Art von Intelligenz haben. 29:17.130 --> 29:20.870 Meiner Meinung nach ist entscheidend, wie wir diese Art von 29:20.870 --> 29:24.890 Intelligenz aufbauen, die unserer Intelligenz ähnlich sein soll. 29:25.310 --> 29:27.910 Wir Menschen haben ein Modell für diese Art von künstlicher 29:27.910 --> 29:29.230 Intelligenz. 29:29.330 --> 29:32.830 Und auf der anderen Seite sollte die künstliche Intelligenz ein Modell 29:32.830 --> 29:36.090 der Menschlichkeit haben, um für uns nützlich zu sein. 29:36.610 --> 29:39.370 Wissen Sie, das ist so ein bisschen wie der Mann auf dem Mond. 29:39.450 --> 29:41.550 Ein langer, weit entfernter Wunsch. 29:42.290 --> 29:45.770 Es ist ein Traum, ein Wesen zu schaffen, das uns ähnlich ist. 29:46.170 --> 29:47.830 Es ist ein alter Traum von uns Menschen. 29:48.670 --> 29:52.530 Wir wollen das haben, wir wollen das bauen, weil wir Menschen eben nun 29:52.530 --> 29:53.070 mal so sind. 29:54.470 --> 29:58.830 Und dieses Entwickeln von bewussten Robotern hilft uns, besser zu 29:58.830 --> 30:02.530 verstehen, was es bedeutet, ich und du zu sein. 30:02.530 --> 30:06.590 Dies ist meiner Meinung nach das Wichtigste beim Studium des 30:06.590 --> 30:07.570 Maschinenbewusstseins. 30:07.930 --> 30:10.630 Was bedeutet es für uns, Mensch zu sein? 30:11.210 --> 30:16.510 Und hierzu benutze ich wirklich gerne Roboter, kognitive Robotik, um 30:16.510 --> 30:20.630 über diese Art von Forschung zu verstehen, was der Mensch ist. 30:21.430 --> 30:26.030 Das menschliche Gehirn, der menschliche Körper, ja, um das Menschsein 30:26.030 --> 30:27.050 besser zu verstehen. 30:29.350 --> 30:34.370 Also bei der Frage nach dem Subjektgehalt von Robotern werden wir 30:34.370 --> 30:40.130 letztlich auf uns als Subjekte zurückgeworfen und sind gefordert, über 30:40.130 --> 30:41.050 uns selbst nachzudenken. 30:42.350 --> 30:45.870 Das ist ja auch mindestens mal ein nützlicher Nebeneffekt. 30:46.450 --> 30:50.430 Wenn wir aber überlegen, was auf uns zukommen könnte, da klang eben 30:50.430 --> 30:54.550 auch ein bisschen raus, dass die Krone der Schöpfung weiter wandern 30:54.550 --> 30:54.930 könnte. 30:54.930 --> 30:56.950 Worauf sollten wir uns einstellen? 30:57.230 --> 31:00.530 Also werden bewusste KIs tatsächlich Gefühle haben? 31:00.730 --> 31:06.130 Und wenn ja, was wäre denn, wenn diese Systeme empfindungsfähiger 31:06.130 --> 31:07.890 wären als wir Menschen? 31:11.130 --> 31:15.070 Ja, also ich denke schon, dass die bewusste KI eine Art von Gefühlen 31:15.070 --> 31:15.690 haben sollte. 31:16.210 --> 31:20.250 Wenn eine bewusste KI keine Gefühle hat, kann sie nicht wirklich 31:20.250 --> 31:21.090 empathisch sein. 31:21.090 --> 31:25.270 Empathie bedeutet hier also, wie gesagt, dass bewusste KI-Systeme in 31:25.270 --> 31:28.590 der Lage sein sollten, besser zu verstehen, was es bedeutet, ein 31:28.590 --> 31:29.290 Mensch zu sein. 31:29.810 --> 31:33.910 Ein wirklich ethisches System sollte eine Art Einfühlungsvermögen 31:33.910 --> 31:34.270 haben. 31:34.710 --> 31:38.870 Und um Einfühlungsvermögen zu haben, ist es notwendig, eine Art von 31:38.870 --> 31:39.870 Gefühl zu haben. 31:39.870 --> 31:42.090 Vielleicht sogar ganz einfach Gefühle. 31:42.990 --> 31:45.630 Wir müssen also Maschinen bauen, die Gefühle haben. 31:46.010 --> 31:49.270 Und das ist nicht auf der konzeptionellen Ebene der Turing-Maschine, 31:49.590 --> 31:52.690 sondern vielleicht mit dem vorhin erwähnten Neuromorphen-Computing, 31:52.970 --> 31:56.830 dem Quanten-Computing oder dem biologischen Rechnern möglich. 31:57.210 --> 32:00.930 Wie auch immer, wenn wir keine Maschine haben, die in der Lage ist, 32:01.070 --> 32:04.570 etwas zu fühlen, haben wir das Hauptziel des Bewusstseins verfehlt. 32:05.110 --> 32:08.150 Und ja, wir werden uns dabei auf Probleme einstellen müssen. 32:08.150 --> 32:12.610 Es gibt aus funktionaler Sicht ein paar knifflige, funktionale Fragen 32:12.610 --> 32:14.970 zu einfachen Problemen des Bewusstseins. 32:15.650 --> 32:20.270 Wir haben es mit den sogenannten harten Problemen des Bewusstseins und 32:20.270 --> 32:21.890 mit leichteren Problemen zu tun. 32:22.670 --> 32:26.270 Ich fühle aber eine große Niederlage in der Philosophie heraufziehen. 32:26.910 --> 32:30.410 Nun, wie gesagt, wir müssen ein Maschinenbewusstsein einsetzen, um 32:30.410 --> 32:34.210 Gefühle in uns Menschen und in den Maschinen besser zu verstehen. 32:35.050 --> 32:39.190 Also in diesem Zusammenhang, da sind die Ingenieure ja möglicherweise 32:39.190 --> 32:41.910 jetzt die Ratgeber für die Philosophen. 32:42.430 --> 32:46.250 Was wären denn Ihre Empfehlungen an jene Philosophen, die sich mit den 32:46.250 --> 32:49.070 Möglichkeiten künstlicher Intelligenz beschäftigen? 32:52.610 --> 32:54.650 Ich habe zwei Empfehlungen. 32:55.070 --> 32:58.390 Vielleicht helfen sie, die KI und Computerteorien besser zu verstehen. 32:59.150 --> 33:02.470 Ich habe viele Bücher und viele Abhandlungen von Philosophen gelesen, 33:02.870 --> 33:06.350 die über KI diskutieren, aber ich habe den Eindruck, dass sie nicht 33:06.350 --> 33:11.110 wirklich wissen, was sozusagen der aktuelle Stand des Herzens der KI 33:11.110 --> 33:15.550 ist und was die wirklichen Möglichkeiten von Computersystemen sind. 33:15.550 --> 33:20.090 Mein erster Vorschlag besteht also hauptsächlich darin, KI-Systeme zu 33:20.090 --> 33:23.730 untersuchen und Grundlagen der Informatik zu lernen, eine 33:23.730 --> 33:25.510 Programmiersprache zu erlernen zum Beispiel. 33:26.510 --> 33:30.610 Und zweitens denke ich, dass KI-Leute auf der anderen Seite kein 33:30.610 --> 33:34.610 wirkliches Interesse an philosophischen Debatten über Intelligenz, 33:34.830 --> 33:36.130 über Bewusstsein haben. 33:36.130 --> 33:38.390 Sie wollen einfach nur ihre Arbeit tun. 33:38.730 --> 33:40.950 Sie wollen ihre Paper veröffentlichen und solche Sachen. 33:41.890 --> 33:44.630 Es gibt zweifachliche Welten, die nicht interagieren. 33:44.970 --> 33:47.790 Die Leute gehen sozusagen nicht auf die andere Straßenseite rüber. 33:48.390 --> 33:52.370 Und das ist eine meiner Motivationen, das Journal of AI and 33:52.370 --> 33:54.030 Consciousness rauszugeben. 33:54.870 --> 33:58.430 Ja, und von Zeit zu Zeit organisiere ich Workshops, weil ich versuche, 33:58.570 --> 34:02.310 Leute aus der Informatik, also Leute aus der KI und Leute aus der 34:02.310 --> 34:05.390 Philosophie zusammenzubringen, damit sie sozusagen mal die 34:05.390 --> 34:06.110 Straßenseite überwinden. 34:06.110 --> 34:09.150 Das klingt nach einem ja bescheidenen Anfang. 34:09.670 --> 34:13.590 Die Idee ist aber, sich einen neuen Beruf vorzustellen, der teils von 34:13.590 --> 34:16.630 Philosophen und teils von Informatikern ausgeübt wird. 34:17.350 --> 34:20.470 Ich habe hier an meiner Universität in Palermo ein paar Versuche 34:20.470 --> 34:23.930 unternommen, um Philosophiekurse für Informatiker einzuführen. 34:24.330 --> 34:27.230 Und ich muss sagen, dass die Ergebnisse noch nicht so berauschend 34:27.230 --> 34:27.470 waren. 34:27.470 --> 34:31.290 Aber wir müssen auf diesem Weg weitergehen, die Welt der 34:31.290 --> 34:35.090 Geisteswissenschaften und insbesondere der Philosophie mit der Welt 34:35.090 --> 34:40.350 der Robotik-Informatiker zusammenzubringen, um miteinander zu 34:40.350 --> 34:40.890 interagieren. 34:41.010 --> 34:44.950 Wir brauchen mehr Gelegenheiten zum Reden und zum Verstehen, um eine 34:44.950 --> 34:46.870 Art gemeinsame Sprache aufzubauen. 34:47.570 --> 34:51.770 Und wie ich bereits sagte, ist dies eine der Motivationen, die ich mit 34:51.770 --> 34:54.710 der Zeitschrift für künstliche Intelligenz und Bewusstsein habe. 34:54.710 --> 35:00.070 Als Ort, an dem Menschen aus der Philosophie, aus der Informatik und 35:00.070 --> 35:03.190 der Kognitionswissenschaft sich gegenseitig verstehen lernen. 35:13.990 --> 35:15.070 Ja, definitiv. 35:15.270 --> 35:18.350 Und wir müssen in der Lehre beginnen, schon in frühen Semestern. 35:19.230 --> 35:22.770 Wie ich bereits sagte, versuche ich an meiner Universität eine Art von 35:22.770 --> 35:25.070 Philosophie - und Informatikkurs einzuführen. 35:25.710 --> 35:26.850 Wir müssen damit fortfahren. 35:27.430 --> 35:32.150 Und auf der anderen Seite mit einem Kurs für Informatik im Bereich der 35:32.150 --> 35:32.420 Philosophie. 35:33.440 --> 35:36.000 Lassen Sie mich hierzu an dieser Stelle noch etwas aus meiner 35:36.000 --> 35:37.320 aktuellen Forschung ergänzen. 35:37.740 --> 35:40.740 Derzeit arbeite ich an einem System, das auf die innere Sprache 35:40.740 --> 35:41.640 ausgerichtet ist. 35:42.220 --> 35:45.820 Also an einem Roboter, der in der Lage ist, innere Sprache zu 35:45.820 --> 35:46.360 erzeugen. 35:46.800 --> 35:50.320 Und die innere Sprache wird vielfach als Bestandteil des Bewusstseins 35:50.320 --> 35:50.820 betrachtet. 35:50.820 --> 35:55.100 Die Entwicklung von Robotern, die diese Art von innerer Sprache haben, 35:55.600 --> 35:57.680 ist ein weiterer Schritt auf dem beschriebenen Weg. 35:58.260 --> 36:01.720 Ich versuche, dem Reichtum unserer inneren Bilder nachzustellen. 36:02.340 --> 36:04.920 Und da kann man noch viel mehr machen, nicht nur von 36:04.920 --> 36:08.460 neurowissenschaftlicher Sicht aus, sondern sogar vom philosophischen 36:08.460 --> 36:12.160 Standpunkt aus, bis hin zu inneren Zuständen wie der Flow-Erfahrung 36:12.160 --> 36:12.620 zum Beispiel. 36:12.620 --> 36:18.020 Also ich würde mir viel mehr Studien zum Studium des Bewusstseins 36:18.020 --> 36:21.680 wünschen, nicht nur aus neurowissenschaftlicher Sicht, sondern auch 36:21.680 --> 36:24.860 auf anderen Gebieten, wie dem der inneren Sprache zum Beispiel. 36:25.500 --> 36:27.960 Ich glaube, da haben wir noch alle einiges zu tun. 36:28.640 --> 36:33.080 So, Antonio Keller, wir sprachen jetzt in großem Bogen über 36:33.080 --> 36:37.300 Roboterethik, Verantwortung und über selbstbewusste künstliche 36:37.300 --> 36:43.440 Intelligenz, die, wenn es sie denn gäbe, mehr wäre als eine bloße 36:43.440 --> 36:44.500 Maschine. 36:45.500 --> 36:48.200 Final question to you, how long will it take? 36:50.560 --> 36:56.200 Das ist natürlich schwer zu sagen, aber ich kann sagen, dass ich 36:56.200 --> 36:59.700 angesichts der extremen Fortschritte bei den Computersystemen nicht 36:59.700 --> 37:04.720 überrascht sein werde, wenn wir in einigen, sagen wir, 10, 20 oder 30 37:04.720 --> 37:09.200 Jahren etwas sehen können, das mindestens die gleiche Komplexität wie 37:09.200 --> 37:10.340 das menschliche Gehirn hat. 37:11.160 --> 37:13.020 Das ist nur ein Teil des Bewusstseins. 37:13.340 --> 37:16.540 Wir brauchen ein Substrat, das mindestens die gleiche Komplexität 37:16.540 --> 37:18.080 eines menschlichen Gehirns hat. 37:18.820 --> 37:22.580 Und dann geht es natürlich nicht nur um das Substrat, sondern es geht 37:22.580 --> 37:22.880 weiter. 37:23.640 --> 37:26.480 Also ich hoffe, dass ich in meinem gegenwärtigen Leben etwas sehen 37:26.480 --> 37:29.780 kann, das dem maschinellen Bewusstsein nahekommt zumindest. 37:30.960 --> 37:41.520 Das war Antonio Keller, gestandener Ingenieur, implementierungsstarker 37:41.520 --> 37:45.360 Robotiker und seit vielen Jahren Experte für künstliche Intelligenz 37:45.360 --> 37:47.580 und Bewusstsein im schönen Palermo. 37:48.480 --> 37:52.760 Er war zu Gast in unserer Podcast-Serie Selbstbewusste KI, ihrem 37:52.760 --> 37:55.880 Forschungspodcast an der Grenze zwischen Mensch und Maschine. 37:55.880 --> 38:00.240 Sind Ihnen beim Zuhören weitere Fragen eingefallen oder geniale Ideen 38:00.240 --> 38:00.600 gekommen? 38:01.060 --> 38:02.680 Wir freuen uns über Ihre Gedanken. 38:03.040 --> 38:05.880 Lassen Sie uns daran teilhaben und eine Nachricht über unsere 38:05.880 --> 38:11.100 Projektwebsite zukommen, die Sie im Internet unter www.ki-bewusstsein 38:11.100 --> 38:12.060 .de finden. 38:12.580 --> 38:15.660 Oder schreiben und folgen Sie uns auf Twitter, dort finden Sie unser 38:15.660 --> 38:19.060 Projekt unter dem gleichen Namen, KI Bewusstsein. 38:19.980 --> 38:22.940 In der nächsten Folge sprechen wir mit Janina Loh. 38:23.300 --> 38:27.940 Sie ist Philosophin in Wien und Expertin für Neomaterialismus und das 38:27.940 --> 38:30.540 spannende Thema Roboterethik. 38:31.480 --> 38:34.880 Die Redaktion und Produktion dieser Folge lagen in den guten Händen 38:34.880 --> 38:35.960 von Anna Hörth. 38:36.160 --> 38:39.780 Die Aufnahmeleitung hatte Tobias Windmüller und Synchronsprecher war 38:39.780 --> 38:41.200 Konstantin Klefuth. 38:41.900 --> 38:45.240 Ich freue mich, wenn es Ihnen gefallen hat und auch diese Folge für 38:45.240 --> 38:48.880 Sie ein Beitrag dazu war, KI Bewusstsein etwas mehr zu 38:48.880 --> 38:50.140 entmystifizieren. 38:51.000 --> 38:53.800 Bleiben Sie gesund, hoffnungsvoll und gestaltungsstark. 38:53.940 --> 38:56.200 Das war Ihr und Euer Carsten Wendland. 38:56.360 --> 38:56.880 Bis bald. 38:57.200 --> 38:57.740 Arrivederci.