„Künstliche Intelligenz im Wahlkampf ist Hochrisikotechnologie“ – Forschende im Bereich IT Sicherheit des Karlsruher Instituts für Technologie zur Rolle der generativen KI in der Wahlwerbung - Campus-Report am 18.02.2025
Author
Interviewee
Participating institute
Studium Generale. Forum Wissenschaft und Gesellschaft (FORUM)
Genre
Description
Gross war die Aufregung Anfang Januar als Elon Musk, Eigentümer der Social Media Plattform X, ein Interview mit der Kanzlerkandidatin Alice Weidel führte und eine Wahlempfehlung für die rechtspopulistische AFD aussprach. Dabei läuft schon seit Monaten auf X eine Kampagne, bei der unzählige Fake-Accounts mithilfe von Bots im Minutentakt tausende von Posts mit rechtsradikalen Parolen im Cyberspace verbreiten. Tatkräftig unterstützt von einem KI-Algorithmus, der für möglichst große Sichtbarkeit sorgt. Dabei gibt es keinen für eine funktionierende Demokratie so kritischen Prozess wie die Meinungsbildung von Bürgerinnen und Bürger vor dem Gang zur Wahlurne. Populistische Parteien sind inzwischen weltweit Meister darin, durch künstliche Intelligenz generierte oder verfälschte Bilder und Videos zu nutzen, um kontroverse Debatten anzustiften. Ihre emotionalisierenden, Hass erzeugenden Narrative eignen sich besonders gut, um die Informationsräume der sozialen Medien zu fluten. Technologien der Künstlichen Intelligenz wirken dabei in vielerlei Weise als Brandbeschleuniger. Nach Ansicht der Arbeitsgruppe „Lernende Systeme“ ist es deshalb unerlässlich KI im Vorfeld von Wahlen als Hochrisiko-Technologie zu behandeln.
https://www.plattform-lernende-syste-me.de/files/Downloads/Publikationen/Whitepaper_KI_im_Superwahljahr_Plattform_Lernende_Systeme_2024.pdf
Keywords
Generative KI, ChatGPT, populistische Parteien, AFD, Alice Weidel, Elon Musk, Deep-Fakes, Digital Service Act, AI Act, EU, Desinformation, Misinformation, social media, X, Instagram, Larissa Wagner, Windkraft, Lernende Systeme, Bots, Fake-Accounts, Framing, Agenda Setting, Normalisierung, Wahlkampf, Gewöhnungseffekt, Shitstorm, Post-Truth, Demokratie, Wahlwerbung, Hochrisiko-Technologien, KI-Algorithmen, Microtargeting, Cambridge Analytica, YouTube, Tagesschau, Echokammer, Vollzugsdefizit, Bot-Kampagnen, Foren, Mehrheitsmeinung, Migration, Emotionalisierung, Radikalsierung, Manipulation, Social Engineering
Duration (hh:mm:ss)
00:21:15
Series
Published on
18.02.2025
Subject area
License
Media URL
Embed Code
