Herzlich willkommen zu heißen.
Wie immer, verehrte Mitglieder des KIT, liebe Studierende, liebe
Freundinnen und Freunde des ZAK, liebes Publikum, viele von Ihnen, die
immer wieder mal zu unseren Reihen kommen.
Ich freue mich, dass Sie auch in diesem Semester den Weg hierher
gefunden haben.
Ich freue mich natürlich ganz besonders um unseren Referenten, Herrn
Peter Schaar, Vorsitzender der Europäischen Akademie für
Informationsfreiheit und Datenschutz, begrüßen zu können.
Und ich weiß nicht, ob jemand hier im Publikum damals dabei war, aber
es ist nicht das erste Mal, dass ich Herrn Schaar hier willkommen
heißen darf.
Er war nämlich bei uns auch im Colloquium Fundamentale, und zwar im
Jahr 2006, damals noch in der Funktion des Bundesbeauftragten für
Datenschutz und Informationsfreiheit.
Und zwar, wir hatten damals eine Reihe unter dem Titel Schattenzeiten
des Internets.
Und der Titel seines Vortrags damals war Der gläserne Mensch, Kommerz
im Internet und seine Gefahren.
Also ich denke, wir können sehr gespannt sein, was für ein Thema wir
heute hören werden.
Herr Peter Schaar wird nämlich unsere Reihe heute eröffnen, mit dem
Thema Verteidigung von Grundwerten und Grundrechten in der digitalen
Welt.
Ich denke, das ist ein Spannungsverhältnis, über das immer wieder aufs
Neue diskutiert und auch nicht nur diskutiert, sondern auch gestritten
werden muss.
Und Herr Schaar, ich denke, es gibt keine Prognosen, wenn wir mit
diesen Streitereien und notwendigen Diskussionen aufhören könnten.
Ich glaube, es ist sehr wichtig, dass Sie gerade mit diesem Thema am
heutigen Abend anfangen.
Ganz herzlichen Dank, dass Sie den Weg hierher gefunden haben.
Wie immer werde ich ganz kurz unser Konzept und die Beweggründe
erläutern, die eben zur Konzeption gehören, also was haben wir uns
dabei gedacht, als wir unser Gesamtthema festgelegt haben.
Die Leitfrage für die Vorlesungsreihe soll dabei sein, Stellen
Parallelwelten eine Bedrohung für die freiheitlich-demokratische
Grundordnung dar?
Oder können sie auch eine Chance für ein Umdenken und eine sinnvolle
Ergänzung für unser Miteinander sein?
Als Parallelwelten, so wollen wir es festhalten, gelten dabei jene
Welten, die sich parallel zur sogenannten Mehrheitsgesellschaft
etablieren und nach eigenen Vorstellungen und Regeln funktionieren.
Diese Parallelwelten beeinflussen durch ihre Strukturen die Wirtschaft
und Gesellschaft, positiv und negativ.
Ich sehe, es kommt noch eine ganze Reihe, das freut mich sehr.
Ich glaube, es sind noch Plätze auch hier ganz vorne.
Herzlich willkommen.
Im Colloquium widmen wir uns Parallelwelten aus, das werden Sie schon
sehen auf der Flyer, aus ganz unterschiedlichen Bereichen und
Kontexten, die auf den ersten Blick nicht viel gemeinsam haben, eben
außer dem, was Sie gesagt haben, dass sie ihrer eigenen
Gesetzlichkeiten, Strukturen und Regeln folgen.
Es lassen sich dabei verschiedene Gruppen identifizieren, von denen
wir lediglich ein paar herausgegriffen haben.
Wir stellen die gesellschaftliche Parallelwelt politischer Extreme
vor, die sich beispielsweise infolge von Unzufriedenheit und aber auch
Unverständnis politischer Entscheidungen sowie wachsender
sozioökonomischer Konkurrenz und Ungleichheit letztendlich auch die
Reputation und Praxis der Demokratie infrage stellt.
Ein ganz anderes Thema, wir werden die Diplomatie als Demokratie
immanente Parallelwelt ansprechen, da ihr Erfolg auch auf
Intransparenz und Geheimhaltung basiert und damit der Öffentlichkeit
kaum oder nicht immer zumindest zugänglich ist.
Dabei wollen wir die Frage nachgehen, wie viel politische Transparenz
notwendig ist, um das Vertrauen der Bürger nicht zu gefährden und
welche Rolle dabei Whistleblowing spielt.
Also ein Gegensatz, brauchen wir beides, Whistleblowing und
Diplomatie.
Weiterhin widmen wir uns der virtuellen Parallelwelt des Darknets, das
einerseits als wichtigster Kanal für unabhängige Journalisten, wir
sehen das gerade in der heutigen Zeit ganz besonders, Journalisten,
wie Sie wissen, sind sehr gefährdet in den derzeitigen Entwicklungen
von vielen, in vielen Ecken und Enden unserer Welt mit autoritären
Regimen.
Also Darknet kann eben helfen, damit nicht politisch verfolgt wird und
damit man frei und anonym kommunizieren kann.
Andererseits richtet es hierzulande, also Darknet, besonders als
Plattform für Pedophilie, illegalen Drogen- und Waffenhandel und
Radikalisierung erheblichen und auch sehr unüberschaubaren
wirtschaftlichen und sozialen Schaden an.
Also Sie merken, wir versuchen ein bisschen einfach diese Gegensätze
und Gleichseitigkeiten ein wenig zu streifen.
Mit der Rolle des Internets als Instrument für politische Teilhabe und
Meinungsbildung und der Frage, wie politische Bildung funktionieren
kann, wenn Nachrichten, Fake News und Hasskommentierte nebeneinander
stehen, werden wir am Ende des Kolloquiums unsere Schwerpunkte setzen.
2006 wies Peter Schaar neben den vielen positiven Möglichkeiten des
Internets, vor allem auch auf die Gefahren hin.
Er bezeichnete das Internet als anarchisch, unsicher, anonym und
überwachbar.
Ein Ort mit vielen Möglichkeiten und großen Gefahren.
Wir sind natürlich sehr gespannt, wie er jetzt diesen ganzen
Themenkomplex aussieht, elf Jahre später.
Denn wir wissen es alle, es hat sich in jeglicher Sinne, nicht nur
technisch, sondern auch im Hinblick auf, was damit auch verstanden
wird und mitgedacht wird, sehr viel in unsere, ich sage es reduziert,
Internetwelt getan.
Big Data verwandelt die Welt, Wirtschaft, Politik und Lebensalltag
hängen am Netz.
Persönliche Daten, Informationen aller Art und Aktivitätsspuren des
digitalen Raumes sind längst eine sehr lukrative Handelsware geworden.
Mit der Verfügbarkeit von Daten wächst die Möglichkeit einer, und ich
sage es in Kommas, intelligenten Steuerung von Produkten und
Dienstleistungen.
Immer mehr Produkte nähern sich dank der Algorithmen, das sage ich
auch, dank der Algorithmen, sich dadurch an Kundenbedürfnissen und
eröffnen neue Wertschöpfungsmodelle.
Ein Wettlauf zwischen den großen Internetakteuren wie Google,
Facebook, Amazon oder aber auch Alibaba hat begonnen.
Noch ist unklar, wer die Wirtschaft der Zukunft beherrschen wird und
wie dies aussehen wird.
Doch welche negative Folgen sind für unsere Gesellschaft zu erwarten,
angesichts der Datensammlung und vermeintlichen Befriedigung von
Kundenbedürfnissen?
Also ein Thema, was wir in einem anderen Kontext, nämlich in den
Karlsruher Gesprächen nächstes Jahr, auch behandeln werden, ist, wie
wir unsere Innenstädte auch verweisen lassen, weil alles online jetzt
auch bestellt wird.
Snowdens Enthüllungen und Erkenntnisse des Parlamentarischen
Untersuchungsausschusses zum NSA-BND-Skandal haben gezeigt, fast
alles, was technisch möglich ist, wird auch für die Überwachung der
Bürgerinnen und Bürger genutzt.
Im Zentrum steht daher die Frage, sind unsere Grund- und Bürgerrechte
bedroht?
An dieser Stelle, und lassen Sie mich das nur ganz kurz anreißen,
haben wir in diesem Semester einen weiteren thematischen
Programmhinweis, die dazu passt.
Wir haben die Traumfabrikreihe, manche werden es kennen, Surveillance
Cinema, wo wir in diesem Semester den Big Brother Staat thematisieren
und wir führen das praktisch mit vielen Filmbeispielen in
verschiedenen Ausprägungen durch, um Zusammenhänge und Konsequenzen
vor Augen zu führen.
Bis März werden jeden Sonntag um 15 Uhr im Filmtheater Schauburg Filme
aus den 1930er Jahren bis in die Gegenwart gezeigt, die auf
unterschiedliche Aspekte von Überwachung und Kontrolle hinweisen.
Wir hatten schon gerade vor einer Woche, vielleicht waren welche da,
eröffnet mit dem Film Citizen Four, also die Dokumentation über
Snowden und wir hatten im Nachhinein auch eine Podiumsdiskussion, wo
wir diesen Fragen nachgegangen sind und wir bieten auch gleichzeitig
Seminare an, sowohl über Studium Generale und SAC als auch in die
AWWK, Akademie Wissenschaftliche Weiterbildung Karlsruhe dazu ein.
Also ich kann nur ermuntern, wir wollen ein bisschen, und deswegen
passt es sehr, dass wir gerade heute Abend Herr Schaar hier haben mit
diesem Thema, weil wir wollen versuchen, auch in den vielen
Aktivitäten, die wir haben, gewisse Clustern und Schwerpunkten zu
bilden.
Heute Abend haben wir einen ganz besonders engagierten und
ausgewiesenen Experten zu diesem Thema bei uns und ich hatte schon
gesagt, sein Thema ist Verteidigung von Grundwerten und Grundrechten
in der digitalen Welt und wir sind natürlich sehr gespannt, was er
sagen wird, aber ich darf ihn jetzt noch kurz vorstellen.
Seit 2013 ist Peter Schaar, ich hatte es schon gesagt, Vorsitzender
der Europäischen Akademie für Informationsfreiheit und Datenschutz.
Zehn Jahre lang war er Bundesbeauftragter für den Datenschutz und die
Informationsfreiheit und darüber hinaus ist er seit 2015 Vorsitzender
der Schlichtungsstelle der Gesellschaft für die Telematik-Anwendungen
der Gesundheitskarte.
Auch ein heikles Thema, ich sollte aber auch noch erwähnen, dass er
außerdem im Fachbereich Informatik der Universität Hamburg lehrt.
Er studierte Volkswirtschaften, er studierte in Berlin, Frankfurt und
Hamburg, war dann von 80 bis 86 in verschiedenen Funktionen in der
Verwaltung der Freien Hansestadt Hamburg, von 86 bis 2002 war er
zunächst Referatsleiter, dann Stellvertreter des Hamburger
Datenschutzbeauftragten und von 2002 bis 2003 zusätzlich
Geschäftsführer eines Datenschutzberatungsunternehmens.
Also Sie sehen, er ist ein Mann, der die Praxis kennt, der die
Wissenschaft kennt und der natürlich auch die Politik sehr gut kennt
und ich glaube, das ist eine exzellente Mischung, also gerade für den
Anfang von unserer Reihe.
Ich darf aber noch seine Bücher auch benennen und das tue ich auch
ausgesprochen gerne, eins habe ich auch mitgebracht.
Er hat nämlich Datenschutz im Internet schon 2002 veröffentlicht, das
Ende der Privatsphäre 2007 können wir gerade heute Abend weiter
diskutieren, Überwachung total, wie wir in Zukunft unsere Daten
schützen, 2014, das digitale Wir, der Weg in die transparente
Gesellschaft 2015 und jetzt ganz aktuell, trügerische Sicherheit, wie
die Terrorangst uns in den Ausnahmezustand treibt.
Sie sehen, wir haben wirklich einen interessanten Abend vor uns.
Ganz herzlichen Dank und jetzt the floor is yours.
Vielen Dank für diese sehr freundliche Vorstellung.
Das ist wirklich ein sehr interessantes Thema, dem Sie sich in der
Vortragsreihe widmen, Parallelwelten.
Das passt natürlich genau auch zu dem, was eben heute Abend auf Sie
zukommt.
Es geht letztlich um die Frage der digitalen Parallelwelt.
Als ich vor etwas mehr als 10 Jahren hier das erste Mal referiert
habe, gab es das Internet schon.
Das wurde auch über das Internet diskutiert, aber das Internet war ein
Phänomen, das unser Leben noch nicht so massiv durchdrungen hat, wie
heute die digitale Technik.
Es hat sich vieles getan und ich habe in meinem Berufsleben eben doch
die verschiedenen Phasen von Digitalisierung auch selbst erfahren.
Es ist kaum vorstellbar, dass es Zeiten gab, in denen es keine
automatisierte Textverarbeitung gab, in denen wir handschriftlich
alles notierten, in einer Zeit, in der wir im Grunde genommen auch im
Rahmen unserer Kommunikation analoge Mittel nutzten.
Und Datenverarbeitung, die gab es natürlich schon seit einigen
Jahrzehnten, war etwas, was im Großen und Ganzen hinter dicken Mauern
stattfand.
In Rechenzentren, die auch nicht direkt miteinander und mit den
Arbeitsplätzen verbunden waren, sondern offline von Programmierern
gefüttert wurden.
Große Kisten brachten den Output, oder Menschen mit großen Kisten in
die Büros trugen, brachten den Output an die Arbeitsplätze und
diejenigen, die dann damit zu tun hatten, werteten das dann händisch
aus.
Das war im Grunde die Welt, die zu Beginn meines Arbeitslebens in den
1980er Jahren so anzutreffen war.
Und zwar nicht nur in meinem Job, sondern ich denke ganz allgemein.
Heute ist es so, dass wir der Digitalisierung gar nicht mehr
ausweichen können.
Und das gilt nicht nur für diejenigen, die bewusst digitale Technik
nutzen, sondern auch für diejenigen, die glauben, sie verzichteten
darauf.
Das scheint erst mal paradox, aber eine Entwicklung hat es seither
gegeben, die auch in den letzten zehn Jahren im Wesentlichen
vorangeschritten ist, die doch vieles geändert hat und vieles weiter
im Begriff ist zu ändern.
Das ist die allgegenwärtige Datenverarbeitung.
Die digitale Technik hat in Gegenstände des täglichen Gebrauchs Einzug
gehalten.
Heute sind Autos, das muss ich Ihnen wahrscheinlich gar nicht
erklären, mit einer Vielzahl von Datenverarbeitungssystemen
ausgestattet, die teilweise auch über verschiedene Modi miteinander
vernetzt sind und auch mit dem Internet und anderen
Kommunikationsnetzen verbunden sind bzw.
verbunden werden bei Bedarf.
All das führt dazu, dass die digitale Informationsverarbeitung
gefüttert wird mit Daten derjenigen, die in irgendeiner Weise mit
diesen technischen Systemen zu tun haben.
Und selbst wenn man nicht ein neues Auto fährt, sondern einen
Oldtimer, in dem noch kein Computership verbaut ist, selbst dann kann
es durchaus sein, dass man in elektronische Kontrollsysteme
hineingerät, wenn man sich bewegt.
Zum Beispiel dadurch, dass irgendwelche Detektoren den Verkehrsfluss
messen oder aber auch, indem Kameras die Autokennzeichen auswerten.
Sie haben vielleicht davon gehört, dass am großen Berliner Bahnhof,
dem Berliner Bahnhof Südkreuz, gerade ein recht groß angelegtes
Experiment unter Federführung des Bundeskriminalamts stattfindet zur
intelligenten Videoüberwachung.
Das ist bisher noch ein System, das in einem überschaubaren Rahmen
stattfindet und wo auch eine persönliche Identifizierung nur von
freiwillig gewonnenen Experimentteilnehmern stattfindet.
Aber gleichwohl, Videoüberwachung wird intelligent, das heißt,
Biometrie wird in die entsprechenden Systeme eingebaut.
Biometrische Gesichtserkennung ermöglicht es, die Informationen, die
aufgenommen werden, in Echtzeit abzugleichen mit Referenzdaten.
Und diese Referenzdaten können alle möglichen Daten sein.
Sie können aus unterschiedlichsten Quellen stammen.
Im Extremfall können das riesige Datenbanken sein, mit Daten aus den
Personalausweisregistern.
Die letzte Bundesregierung hat noch ganz kurz vor Toresschluss, diesen
Frühsommer, beschlossen, die Ausweisregister zu vernetzen und zu
öffnen für den Zugriff von Sicherheitsbehörden.
Und zwar ohne, dass da irgendeine engere Zweckbestimmung mit verbunden
ist.
Die Sicherheitsbehörden dürfen im Rahmen ihrer Aufgaben ihre Zugreifen
auf diese Gesichtsbilder.
Einer der großen Erfolge meiner Amtszeit, die ich mir seinerzeit
zugute geschrieben hatte, ist damit praktisch auf Null reduziert.
Das ist nämlich eine Formel, die im Personalausweisgesetz und im
Passgesetz niedergelegt ist.
Die Daten werden nicht in einer zentralen Datenbank gespeichert.
Nun, sie werden auch nicht in einer zentralen Datenbank gespeichert.
Sie sind in einer verteilten Datenbank gespeichert, in verschiedenen
Ausweisbehörden.
Sie sind aber alle online zugänglich.
Also insofern muss man sagen, es gibt hier einen Zusammenhang zwischen
neuen intelligenten Techniken und bestimmten Zugriffsbefugnissen, die
bisweilen auch ohne größere öffentliche Diskussion akzeptiert werden.
Genau in dieser Art und Weise gibt es eine Vielzahl von qualitativen
Änderungen, die für sich genommen vielleicht recht klein erscheinen,
aber insgesamt doch eine erhebliche Bedeutung entfalten könnten und
möglicherweise auch sehr negative Konsequenzen haben könnten.
Digitalisierung durchdringt unser Leben.
Wir nutzen Kommunikationsdienste, die digital sind.
Wir nutzen neue Kommunikationsmittel, die es 2006 noch nicht gab oder
die noch in ihren Kinderschuhen steckten.
Die Social Networks stehen für diese Art von neuen
Kommunikationsmöglichkeiten.
Wir sind dabei, eine virtuelle Parallelwelt zu entwickeln, die sich
doch ein Stück absetzt von dem, was wir in der Realität haben, aber
auf der anderen Seite sehr eng mit dieser Realität, mit dieser realen
Welt vernetzt ist.
Und diese Parallelwelt ist nicht nur im Begriff ein Abbild einer
realen Welt zu liefern, sondern diese reale Welt direkt auch zu
beeinflussen.
Und das gilt nicht nur für das Thema Überwachung im engeren Sinne,
staatliche Überwachung, sondern durchaus auch im Hinblick darauf, wie
wir miteinander kommunizieren, welche Informationen wir wahrnehmen,
welche Informationen auf uns einprasseln, wo man sagen muss, vieles
von dem, was dort geschieht, ist uns im Moment, in dem wir damit
konfrontiert sind, überhaupt nicht bewusst.
Das heißt, welche Informationen uns im Internet dargeboten wird, im
Rahmen vom ganz normalen Surfen, hängt auch davon ab, was wir im
Internet so treiben und welche Informationen Unternehmen von uns
gewonnen haben, die darauf basierend Annahmen entwickelt haben.
Neffe von mir ist Erstsemester Jura und ich bin Autor des Beck
Verlages und kriege entsprechende Prozente.
Hab da auch nichts gegen, dann für ihn das eine oder andere Fachbuch
zu bestellen.
Was passierte, nachdem ich diese erste Bestellung abgeschickt hatte,
als ich dann die Süddeutsche, ich bin auch digitaler Abonnent der
Süddeutschen, mir anschaute.
Große Werbung für Erstsemester Literatur.
Wie gesagt, ich habe eine Bestellung beim Beck Verlag abgegeben, dem
größten juristischen Verlag, und die Süddeutsche spielt mir, wie
übrigens auch andere Anbieter, jetzt gezielt Erstsemester Interessen
zu.
Ich kann damit überhaupt nichts anfangen, muss ich zugeben.
Das zeigt, dass es dann doch nicht so sehr gut funktioniert.
Aber gleichwohl zeigt es auch schon, wie intensiv diese Vernetzung
stattfindet.
Sie haben vielleicht vergleichbare Erfahrungen gemacht, das fällt
einem ja noch auf.
Aber wenn Sie eine Flugbuchung durchführen und einen bestimmten Preis
angezeigt bekommen, dann glauben Sie wahrscheinlich nicht, dass das
damit zu tun hat, wie Sie im Internet gesurft sind oder welche
Informationen sonst ein anderes Unternehmen über Sie besetzt.
Sie hören sich.
Zunehmend werden solche Preisbildungsmodelle individualisiert.
Je stärker das angenommene Interesse an einer Dienstleistung oder an
einem Produkt ist, desto höher der Preis.
Ein Beispiel, das ein amerikanischer Professor letztens gebracht hat,
hat mich doch sehr nachdenklich gemacht.
Er hat dargestellt, dass im Rahmen der Auswertung von E-Mails durch
Google festgestellt werden kann, wer zum Beispiel bei einem
Interkontinentalflug zu einem bestimmten Datum ein besonderes
Interesse hat.
Google lässt sich ja, wenn man einen Google-Account hat, den Zugriff
auf verschiedenste Anwendungen einräumen.
Das ist dann eben nicht nur die E-Mail selbst, die gescannt wird,
sondern es sind Kalender, es sind Adressinformationen, es sind die
Inhalte von Dokumenten, die Sie mit Google bereitgestellten Systemen
erstellen oder bearbeiten usw.
All diese Informationen werden systematisch ausgewertet und
zusammengeführt.
Und nun kann es schon so sein, dass sich aus Ihrer Kommunikation
ergibt, dass ein Angehöriger schwer erkrankt ist.
Dieser Angehörige wohnt nun nicht in derselben Stadt, sondern an einem
anderen Ort.
Sie wollen ihn besuchen.
In dem Moment ist anzunehmen, dass Ihr Interesse relativ groß ist an
einem entsprechenden Besuch und auch an einem entsprechenden Flug.
Insofern ist das ein Aspekt, der berücksichtigt werden kann bei der
Preisbildung.
Das sieht anders aus, wenn Sie sich mit Freunden verabreden.
Sie haben ein Wochenende frei und Sie überlegen sich irgendwohin mal
übers Wochenende zu fahren.
Solche Leute kriegen im Zweifel eher relativ günstige Angebote.
Also es zeigt sich, dass hier unterschiedliche Daten zusammengeführt
werden.
Nachgewiesen ist jedenfalls, dass in den USA solche individualisierte
Preisdifferenzierung schon gang und gäbe ist.
Dass dabei verschiedenste Informationen mit einfließen.
Nicht nur Informationen aus einer Datenquelle, sondern Informationen,
die gar nichts miteinander zu tun haben, aber es den Unternehmen
ermöglichen, ihre Interessen besser zu bewerten.
Und das tun sie natürlich nicht in dem Sinne, dass sie Ihnen ein
besonders günstiges Angebot machen wollen.
Unternehmen sind ja nicht unbedingt karitative Einrichtungen.
Sie sind auch nicht immer daran interessiert, dass sie den immer
niedrigsten Preis bekommen.
Sondern es gibt da durchaus wirtschaftliche Interessen, die in eine
andere Richtung gehen.
Berichtet wird z.B.
darüber, dass anhand der Auswertung der von Ihnen verwendeten Hardware
und der Betriebssysteme eine Preisdifferenzierung stattfindet.
Also ich beispielsweise nutze im Übrigen auch aus Datenschutzgründen
Apple und nicht Google Geräte.
Man kann sagen, Apple ist ja auch amerikanisch und die wollen ja auch
viel Geld verdienen, aber deren Geschäftsmodell ist bisher jedenfalls
im Wesentlichen darauf konzentriert, möglichst viele Geräte möglichst
teuer zu verkaufen.
Insofern haben sie tatsächlich einen etwas anderen Datenschutzstandard
als Google Geräte, die beispielsweise mit dem Betriebssystem Android
betrieben werden.
Auch wenn sie jetzt nicht von Google selber hergestellt worden sind.
Die meisten Smartphones laufen mit diesem Betriebssystem.
Aber wer jetzt nicht ein Apple leisten kann, ein iPhone oder einen
entsprechenden Computer, von dem kann man annehmen, dass er auch
durchaus zahlungskräftiger ist, als jemand, der mit einem alten IBM
PC, der 10 Jahre alt ist, unterwegs ist im Internet.
Insofern ist das eine Differenzierungsmöglichkeit.
Das heißt, sie haben auf der einen Seite Annahmen über das
tatsächliche oder vermutete Interesse an einer bestimmten
Dienstleistung, auf der anderen Seite haben sie Informationen über die
vermutete finanzielle Leistungsfähigkeit des Kunden.
Und daraus ergibt sich dann eben eine bestimmte Steuerung.
Das ist sozusagen eine Kehrseite, die sie als Betroffener im Grunde
genommen gar nicht mitkriegen und steuern können, weil sie es gar
nicht merken, dass sie jeweils Objekt einer Bewertung sind.
Sie sind das auch natürlich bei der Zuspielung der Werbebotschaften,
das Beispiel Beck, Verlag und Süddeutsche ist ja nur eines von ganz
vielen.
Aber die wirklich gravierenden Konsequenzen ergeben sich dann, wenn es
darum geht, dass Geld ausgegeben wird, dass bestimmte Vorteile oder
Nachteile entstehen.
Nun kann man sagen, okay, die Flugreise ist jetzt nicht das Wichtigste
von der Welt.
Es gibt ja auch noch viele andere Felder, wo wir ja nicht manipuliert
werden.
Aber da muss man sagen, dieser Überwachungs- und manipulationsfreie
Raum wird immer kleiner.
Sie alle wissen, dass es bei uns relativ strikte Regeln gibt zur
Preisauszeichnung.
Diese Regeln zur Preisauszeichnung sollen es uns ja ermöglichen,
jeweils zu vergleichen.
Wenn aber dieser Vergleich letztlich dazu führt, dass wir im Grunde
genommen gar keine gemeinsame Basis mehr finden, dass sich dieser
Preis dauernd verändert, dann sind unsere Möglichkeiten, hier
Transparenz herzustellen, ziemlich gering.
Transparenz ist ja ein Mittel gegen Manipulation, soll es zumindest
sein.
Deshalb ist ja zum Beispiel, Sie wissen das, eine zentrale Stelle
eingerichtet worden, die uns informieren soll über die Benzinpreise an
den jeweiligen Tankstellen.
Wie reagiert die Mineralölwirtschaft, indem sie praktisch dauernd die
Preise verändert, sodass man sich auf den Weg macht und wenn man
ankommt, ist man dann plötzlich bei einer teuren Tankstelle.
Das ist jetzt noch kein Datenschutzaspekt, aber es führt dazu, dass
digitale Steuerungsmechanismen, hier jetzt ohne Personalisierung,
sondern eher allgemein, aber auch mit Personalisierung dazu führen,
dass wir weniger Steuerung und Selbstbestimmung ausüben können,
beziehungsweise manipuliert werden oder ansonsten eher Nachteile
haben.
Wo Risiken sind, sind häufig auch Vorteile, deshalb ist das Ganze
natürlich immer zwiespältig.
Denn dieselben informationstechnischen Methoden werden in allen
möglichen Bereichen eingesetzt.
Die sogenannte algorithmische Steuerung aufgrund von Big Data ist ja
etwas, was es eben nicht nur im Internet und in ganz wenigen Bereichen
gibt, sondern was wir in sehr vielen Bereichen kennenlernen.
Und wo man auch sagen kann, das ist wunderbar in bestimmten
Situationen.
Denken Sie beispielsweise an die Krebstherapie, wo aufgrund von Big
Data Erkenntnissen es möglich ist, mittlerweile relativ genaue
Aussagen über Wahrscheinlichkeiten zu machen, dass eine bestimmte
Therapie anschlägt oder nicht.
Was zum Ergebnis hat, dass bestimmte sehr belastende Therapien bei
bestimmten Gentypen eben nicht angewendet werden, sondern andere, die
dort für diesen Gentyp dann besser geeignet sind.
Andererseits muss man aber auch sagen, was bedeutet das denn?
In einer Zeit der Kontingentierung von Gesundheitsdienstleistungen,
der Ökonomisierung des Gesundheitswesens, bedeutet das, dass wenn wir
uns einer solchen Auswertung unterziehen, im Grunde möglicherweise uns
dann entgegenhalten müssen, dass wenn die Wahrscheinlichkeit, dass
eine bestimmte teure Therapie nur mit 30%iger Wahrscheinlichkeit oder
vielleicht noch geringerer Wahrscheinlichkeit anschlägt, dass man doch
dann bitte darauf verzichtet, weil eine Erstattung nicht stattfindet.
Das ist dann die Kehrseite.
Das heißt, Sie haben einerseits die Möglichkeit, entlastet zu werden,
gezielter behandelt zu werden, aber auf der anderen Seite haben Sie
auch ein Stück Einschränkung Ihrer Selbstbestimmung, de facto
zumindest.
Sie können darauf bestehen, aber dann müssen Sie selber zahlen.
Das ist eine Entwicklung, wo wir am Anfang stehen, wo aber gleichwohl,
ich meine, es sehr viele Entwicklungen in den nächsten Jahren geben
wird.
Big Data, das ist eine Technologie, die letztlich es ermöglicht,
Menschen, aber auch andere Bewertungsgegenstände zu klassifizieren.
Das heißt, aufgrund von Gemeinsamkeiten, Wahrscheinlichkeiten zu
rechnen und aus diesen Wahrscheinlichkeiten Schlussfolgerungen zu
ziehen.
Das ist jetzt eine sehr vereinfachte Form der Darstellung von Big Data
Algorithmen, aber das läuft fast immer darauf hinaus.
Das bedeutet zum Beispiel, dass wenn Sie einen Kredit bekommen wollen,
schon seit langem, ein Score-Wert abgefragt wird.
Und dieser Score-Wert, das habe ich bestimmt auch schon vor zehn
Jahren gesagt, dieser Score-Wert, der ist ja nicht etwa wirklich eine
Bewertung Ihres individuellen Verhaltens, sondern des Verhaltens
anderer, die so ähnlich sind wie Sie.
Also der Score-Wert besagt ja nicht, dass Sie Ihren Kredit nicht
zurückgezahlt haben oder nicht beabsichtigen, ihn zurückzuzahlen.
Er besagt nicht mal, dass Sie den Kredit zurückzahlen können oder
nicht zurückzahlen können.
Er besagt nur, dass Personen, die so ähnlich sind wie Sie, mit
ähnlichen Eigenschaften und ähnlichen Verhaltensweisen, den Kredit mit
einer bestimmten Wahrscheinlichkeit zurückgezahlt haben.
Nun ist das sicherlich etwas, was aus Sicht der Banken seinen Sinn
macht.
Dass man sich fragt, wem gibt man einen Kredit, wem gibt man keinen
Kredit.
Man kann es den Leuten ja nicht ansehen.
Häufig sind das auch nicht langjährige Kunden, um die es hier geht,
sondern es sind Personen, die einen relativ flüchtigen, geschäftlichen
Kontakt hatten.
Insofern ist man natürlich erfreut, wenn da irgendjemand wie die
Schufa und es gibt diverse andere Unternehmen, die solche Score-Werte
anbieten, einem da weiterhilft.
Das Problem ist allerdings, dass diese Mechanismen letztlich von einem
selber schwer zu durchschauen sind und dass sie dazu führen, dass man,
warum auch immer, bestimmte Negativfaktoren aufweist.
Das kann der Wohnort sein, das war in der Vergangenheit häufig die
Anzahl der Handyverträge.
Es gab wohl eine Korrelation zwischen der Anzahl der Handyverträge,
die einer Person zugeschrieben waren, und ihrer tatsächlichen
Rückzahlungsbereitschaft bei Krediten.
Oder der Frage, wie lange man schon bei seinem Arbeitgeber beschäftigt
ist, wie alt man ist, ein ganz wichtiger Punkt.
Ältere kriegen schlechter Kredit als Jüngere.
Also verschiedenste Faktoren spielen dabei eine Rolle.
Vor einigen Jahren gab es ein höchstrichterrechtliches Urteil in der
Frage, wie transparent sollten eigentlich solche Score-Werte sein.
Leider hat der BGA zu Ungunsten des Datenschutzes entschieden, zu
Ungunsten auch der Transparenz.
Es wurde gesagt, das ist ein Betriebs- und Geschäftsgeheimnis.
Nun kann die Schufa immerhin noch nachvollziehen, jedenfalls höre ich
das von Vertretern der Schufa, wie ihr Schufa-Score jeweils gebildet
wird.
Die neuesten Big-Data-Algorithmen sind allerdings so gestaltet, dass
selbst diejenigen, die sie anwenden, gar nicht mehr verstehen, wie sie
funktionieren.
Stichwort sind selbstlernende Algorithmen.
Sie sind vielleicht schon mal auf diesen Begriff Deep Learning
gestoßen.
Das ist so das Stichwort, das verwendet wird, zusammen mit künstlicher
Intelligenz.
Den Begriff künstliche Intelligenz gibt es schon länger, aber gerade
diese Deep Learning Technologien haben die Eigenschaft, dass sie Daten
einfach auswerten und ähnlich wie die Neuronen im Gehirn sich selbst
organisieren und Schlussfolgerungen ziehen.
Deep Learning Algorithmen haben verschiedene Bereiche, in denen wie in
einer Black Box eine Selbstoptimierung stattfindet.
Das heißt, wenn Sie fragen, warum jetzt ein Score-Wert, der mit einem
solchen Algorithmus errechnet wird, jetzt zu dem Ergebnis kommt, wird
Ihnen der Programmierer und noch weniger der Anwender beantworten
können.
Also die Beantwortung wird immer schwieriger.
Das heißt, wir sind in einer Situation, wo die Transparenz ziemlich
schlechtgestellt ist.
Wohin solche Modelle, ob mit Deep Learning oder ohne Deep Learning
führen, ist natürlich auch Gegenstand von wissenschaftlichen
Untersuchungen.
Eines scheint aber mittlerweile gesichert zu sein, aufgrund genau
dieser Auswertung, dass diese Mechanismen, wie sie von Google
angewendet werden, aber auch bei manchen staatlichen Entscheidungen,
insbesondere in den USA, zu Diskriminierung führen.
Beispiele.
Wenn Sie bei Google, in den USA jedenfalls, Namen Google, dann wird
die Werbung variiert.
Das ist herausgefunden worden von einer Forscherin, frühere
Cheftechnologin der Federal Trade Commission, dass diese nachfragen,
wenn sie einen Namen, der assoziiert ist mit einem Schwarzen, es gibt
da durchaus Korrelationen bei der Vornamensvergabe zwischen der
ethnischen Herkunft, der Hautfarbe und den weiteren Merkmalen und dem
Vornamen, dass, wenn Sie einen Schwarzen Namen eingeben, assoziiert
wird Gefängnis, Haftstrafen, Kriminalität, Betrug.
Wenn Sie einen Weißen Namen eingeben, gibt es diese Assoziation nicht.
Eine vergleichbare Diskriminierung gibt es auch bei einem Programm,
das wohl in vielen US-Bundesstaaten dazu eingesetzt wird, darüber zu
entscheiden, welche langjährigen Haftstrafen zur Bewährung ausgesetzt
werden und welche nicht.
Auch dort spielt ein kommerzieller Algorithmus eine Rolle, der
offensichtlich dazu führt, dass bestimmte diskriminierende Tatbestände
auch noch einmal im Ergebnis sich widerspiegeln.
Wie kommt das?
Das hat etwas damit zu tun, dass letztlich alle diese Algorithmen, ob
Deep Learning oder nicht, davon leben, dass sie aufsetzen auf
Datenbasen, die vorhanden sind.
Das heißt, in dem Moment, wo sie Informationen haben, die
gegebenenfalls digitalisiert vorliegen oder digitalisiert werden
können, werden diese Informationen einbezogen in die
Entscheidungsbildung, in die Klassifizierung.
Wenn also eine Diskriminierung in der Gesellschaft, aus welchen
Gründen auch immer, schon stattfindet, nach dem Geschlecht, nach der
Herkunft, nach der Hautfarbe oder was weiß ich, nach welchem
Kriterium, dann spiegelt sich das üblicherweise in den Daten auch
wieder.
Das heißt, ein ohnehin vorhandener Diskriminierungstatbestand, der zum
Beispiel dazu beiträgt, dass unter bestimmten sozialen Verhältnissen
Kriminalität häufiger festgestellt wird als in anderen, führt dazu,
dass Personen, auf die diese Merkmale zutreffen, auch durch die
Algorithmen diskriminiert werden.
Das Interessante dabei ist, dass diese Algorithmen nicht falsch sein
müssen.
Es wird ja immer gesagt, das ist ein Ergebnis falscher Algorithmen.
Das stimmt nicht.
Beziehungsweise es ist verkürzt.
Weil diese Algorithmen ja von der reinen Berechnung her, es geht ja um
Korrelation, korrekt arbeiten.
Nur die Ergebnisse sind letztlich nicht hinnehmbar.
Die Frage ist also, wie gehen wir mit solchen algorithmischen
Entscheidungen um?
Wo setzen wir sie überhaupt ein und wie setzen wir sie ein?
Wie unkritisch übernehmen wir das, was irgendwelche Algorithmen uns
vorgeben?
Es ist doch klar, dass die Algorithmen nicht insofern fantasievoll
sind, weil sie von Werten getrieben, bestimmte Werte im Sinne von
Grundwerten, bestimmte Ergebnisse errechnen.
Sondern sie sind Werte getrieben in einem anderen Sinne, indem sie
einfach von Daten ausgehen, die sie einfach miteinander in Beziehung
setzen.
Und selbst die mathematisch korrekte Auswertung von Daten führt nicht
unbedingt zu Ergebnissen, die mit unseren Wertentscheidungen, mit
grundlegenden Vorgaben, die in den Menschenrechten, in den
Grundrechten unseres Grundgesetzes und in anderen wichtigen ethischen
Normen enthalten sind, übereinstimmen.
Das ist ein ganz großes Problem.
Wie gehen wir also mit dem Thema der Diskriminierung 2.0 um?
Und ich muss sagen, im Grunde genommen wird das Thema
Algorithmentransparenz, das ist so ein Mittel, was angeboten wird,
offenlegen, wie die Algorithmen arbeiten, nur ein Element dieser
Lösung sein können.
Zum einen ist es viel zu komplex, die Algorithmen wirklich
nachzuvollziehen und zweitens, wie gesagt, aufgrund der Konstruktion
gerade der selbstlernenden Algorithmen ist es de facto gar nicht
möglich, deren Funktionsweise und deren ganz konkretes
Entscheidungsverhalten vorherzusagen.
Der zweite Aspekt, denke ich, ist für mich wichtiger.
Wir müssen viel stärker darauf achten, was kommt aus den Algorithmen
heraus.
Denn das Problem der Intransparenz aufgrund von Komplexität haben wir
ja in vielen Bereichen der digitalen Steuerungstechnik.
Ich denke hier zum Beispiel an das Abgasverhalten von Kraftfahrzeugen.
Wie ist das Ganze denn rausgekommen, dass da manipuliert worden ist?
Hat sich da jemand hingesetzt und hat den Code der Motorsteuerung
Zeile für Zeile nachvollzogen?
Ne, so ist das nicht gewesen.
Da haben sich Leute die relativ einfache Mühe gemacht, hinter den
Auspuff am Messgerät zu schalten und zu gucken, was kommt da
eigentlich raus.
Und da war es ziemlich schnell möglich, nachzuweisen, dass das, was an
Werten vorgegeben wurde oder angegeben wurde, nicht mit den
tatsächlichen Werten übereinstimmte.
Und ich denke, dieses Beispiel macht deutlich, wie wir auch mit
algorithmischen Klassifikationsprozessen viel stärker umgehen müssen.
Wir müssen uns auch die Ergebnisse anschauen.
Wir dürfen uns nicht nur darauf beschränken, die Korrektheit von
Prozessen einzufordern, zumal die Verifikation der Korrektheit
praktisch gar nicht möglich ist.
Oder in wenigsten Fällen jedenfalls.
Ein Beispiel, wie man Diskriminierung aufgrund von statistischen
Korrelationen vermeiden kann, ist die Versicherungsbranche.
Sie erinnern sich vielleicht noch, dass bis vor einigen Jahren bei den
Lebensversicherungen und den privaten Krankenversicherungen eine
geschlechtsspezifische Differenzierung stattfand.
Frauen mussten mehr zahlen als Männer.
Das war versicherungsmathematisch völlig korrekt, weil Männer keine
Kinder kriegen.
Außerdem werden Frauen älter, können also auch noch in höherem Alter
krank sein.
Versicherungsmathematisch ja, aber im Hinblick auf das
Gleichbehandlungsprinzip war das nicht hinnehmbar.
Der Europäische Gerichtshof hat dementsprechend diese
geschlechtsspezifischen Versicherungstarife für nicht vereinbar mit
dem Gleichbehandlungsgrundsatz im Europäischen Recht, Europäische
Grundrechtecharta und Gleichbehandlungsrichtlinie erklärt.
Seitdem gibt es in den europäischen Staaten diese
geschlechtsspezifische Differenzierung in diesen beiden
Versicherungssparten nicht mehr.
Aber trotzdem, das ist jetzt eine Lösung, ich finde es richtig.
Aber auch ein zweites Beispiel aus der Versicherungssparte macht
deutlich, wie schwierig das ist, die Diskriminierung überhaupt
herauszufinden.
Ein Versicherungsfachmann hat mir mal anvertraut, wie man damit
umgegangen ist, dass, damals sprach man von Gastarbeitern, Menschen
mit Migrationshintergrund aus bestimmten Ländern, relativ hohe
Unfallschäden verursachten.
Man hat damals darüber diskutiert, ob man sogenannte Türkentarife
einführt.
Sie werden nirgendwo einen Türkentarif finden.
Wie hat man das gelöst?
Naja, man hat sich angeguckt, was für Kraftfahrzeuge werden gefahren
von dieser Menschen-Personen-Gruppe.
Kraftfahrzeuge bestimmter Hersteller.
Also ich hatte mit dem gesagt, ich habe einen Saab.
Saab ist kein Problem, da fährt ja keiner von dieser Gruppe.
Wenn ich jetzt aber einen alten Opel Astra oder so fahren würde, dann
würde ich mehr zahlen müssen, weil nämlich die Typklasse eine andere
ist.
Das heißt, bei bestimmten Tarifen hat man diesen Gastarbeiteraspekt,
hat man eingearbeitet in die Typklasse.
Für die Versicherung war das natürlich eine tolle Lösung, sie haben
damit das ausgeglichen.
Aber es war natürlich gleichwohl etwas, wo man sagen würde, das kommt
auch einer Diskriminierung gleich.
Weil die Personen, die ein Auto dieser Typklasse fuhren, jetzt
plötzlich mehr zahlen mussten.
Aber es war objektiv, es war ja kein rassistischer Hintergrund direkt
nachweisbar, aber so hat man das Problem in der
Versicherungswirtschaft gelöst.
Da hat auch keiner wirklich geklagt und ich weiß nicht, ob das heute
noch jemand machen würde.
Das heißt, wo tritt denn tatsächlich Diskriminierung auf, da müssen
wir neu hingucken.
Und das, finde ich, ist eine Aufgabe, die weit über die Kompetenzen
von Datenschutzbehörden hinausgeht.
Das können die gar nicht.
Datenschutzbehörden haben die Aufgabe, zu prüfen, wie wird mit dem
einzelnen Datum umgegangen.
Wie sieht das mit der Erfassung und Überwachung von personenbezogenen
Daten aus?
Stimmt das mit dem Gesetz überein?
Ist das verfassungsgemäß?
Das sind die Auffragen, mit denen sich Datenschutzbehörden
beschäftigen und vielleicht auch damit, wie die Daten technisch
geschützt sind.
Bei Diskriminierung haben wir es mit gesellschaftlichen Problemen zu
tun.
Haben wir es mit Grundwerten, mit Grundsätzen zu tun, die für unser
Zusammenleben ganz wichtig sind.
Hier, denke ich, muss weitergedacht werden.
Ich habe da noch keine Lösung.
Es wird bisweilen vorgeschlagen, sowas wie so ein Algorithmentiff,
eine Idee, Herr Maas scheint, also der jetzt nur noch
geschäftsführende Bundesjustiz- und Verbraucherschutzminister, scheint
in diese Richtung zu denken.
Ich finde, es ist erwähnenswert, aber ich bin noch nicht sicher, dass
das wirklich die Lösung ist.
Ich finde, wir müssen wirklich systematisch nach
Diskriminierungstatbeständen suchen.
Wir müssen uns fragen, ob bestimmte Mechanismen, die in der analogen
Welt und Werte, die sich in der analogen Welt herausgebildet haben, A,
noch wichtig sind.
Aber wenn sie wichtig sind, müssen wir sie auch in der digitalen Welt
durchsetzen.
Wenn es keine Diskriminierung geben darf aufgrund der Rasse, des
Geschlechts, des Alters, des ethnischen Hintergrundes, dann darf es
das auch nicht in der digitalen Welt geben.
Das muss gewährleistet sein.
Und dazu muss es dann eben Mechanismen, Gesetze, Institutionen geben,
die darüber wachen.
So wie das bei der Gewährleistung sonstiger Vorgaben auch der Fall
ist.
Aber soweit sind wir eben noch nicht.
Technik muss auch gestaltet werden.
Das ist eine Aussage, die banal klingt, aber nicht so ganz einfach
umzusetzen ist.
Gestaltung von Technik im Sinne von Werten und Grundrechten ist etwas,
wo wir sagen müssen, da müssen wir weitermachen.
Im Datenschutz sind wir ein bisschen weiter da.
Da gibt es Privacy by Design, also die Vorgabe, bestimmte
Datenschutzmechanismen schon in der Konstruktion von neuen IT-Systemen
mit einzubeziehen.
Zumindest in Gesetzen steht das.
In der Realität ist es nur ansatzweise bisher realisiert worden.
Und es gibt natürlich wahnsinnig viele Widerstände, weil gesagt wird,
Daten sind das neue Öl.
Und da wird dann gesagt, ja Datensparsamkeit, ihr seid doch sowas von
20.
Jahrhundert, ihr Datenschützer, wenn ihr sagt Datensparsamkeit.
Wobei ich sagen würde, hier in Baden-Württemberg ist das mit der
Sparsamkeit ja positiv konnotiert.
Also die berühmte schwäbische Hausfrau und so etwas.
Ich will das gar nicht weiter ausführen, aber entscheidend ist doch,
dass wir uns fragen, ob bestimmte Vorteile von Digitalisierung, von
neuen Algorithmen, von wissenschaftlichen Erkenntnissen vielleicht
auch so zu erreichen sind, dass die Nachteile, die damit einhergehen,
auch beherrschbar bleiben.
Und das sind Designvorgaben.
Und zwar nicht nur im Datenschutzrecht.
Ich sage das ganz bewusst und damit will ich hier auch schon mal
Schluss machen, damit wir noch Zeit haben, uns zu unterhalten.
Diese Fragen sind so wichtig, dass wir sie nicht den Datenschützern
überlassen sollen.
Sondern es sind Fragestellungen, die uns als Gesellschaft insgesamt
interessieren müssen.
Wo wir einfach sagen können und sollten, dass wir nicht alles als
technisch gegeben und unabländerlich oder mit einem Unwort zu sprechen
alternativlos hinnehmen müssen.
Es gibt Alternativen, man kann gestalten, allerdings die Voraussetzung
dafür, dass man gestaltet, auch dass man gestalten will.
Und daran mangelt es leider zum großen Teil.
Ich danke Ihnen.