AI for Bad: Risiken von generativer KI im Kontext von Wahlen

Im Rahmen dieser Veranstaltung stellen wir zwei aktuelle Forschungsprojekte vor, die sich mit der Verbreitung von KI-generierten Bildern in Landtagswahlkämpfen sowie deren rechtlicher Einordnung befassen.

In den letzten Jahren haben KI-Modelle zur Bilderzeugung enorme Fortschritte gemacht, insbesondere in der Glaubhaftigkeit der Inhalte und der präzisen Umsetzung von Textbefehlen zu automatisch generierten Bildern. Diese Entwicklungen eröffnen nicht nur kreative Möglichkeiten, sondern machen die Technologie für eine breite Nutzer:innenschaft leicht zugänglich. Gerade der Einsatz von KI-generierten Bildern zur Mobilisierung in Wahlkämpfen wirft drängende Fragen auf, da sich die verbreiteten Inhalte direkt auf die öffentliche Meinung und Wahlentscheidungen auswirken können. Wie verbreitet sind solche Inhalte bereits? Inwieweit können sie politische Kommunikation und demokratische Entscheidungsprozesse verändern?

Der Einsatz von KI in politischen Kampagnen stellt auch eine rechtliche Herausforderung dar. Die europäische KI-Verordnung verpflichtet Anbieter zur Kennzeichnung von KI-generierten Inhalten; das Gesetz über digitale Dienste (engl. Digital Services Act, DSA) schreibt sehr großen Online-Plattformen und Suchmaschinen (wie z.B. Meta, X, TikTok) vor, systemische Risiken zu bewerten und diese zu mindern. Aber worin drücken sich diese systemischen Risiken aus und welche Maßnahmen sind erforderlich, um ihnen entgegenzuwirken? Und wo liegen auch die Grenzen des DSA?

In dieser Veranstaltung präsentieren wir zwei aktuelle Forschungsstudien zur Verbreitung KI-generierten Bildmaterials in Landtagswahlkämpfen und zu deren rechtlicher Bewertung. Nach den einführenden Inputvorträgen zu diesen Studien diskutiert eine interdisziplinäre Podiumsrunde mit Expert:innen aus Zivilgesellschaft, Praxis und Wissenschaft die Herausforderungen sowie mögliche regulatorische Ansätze im Umgang mit KI-generierten Bildern.

Inputvorträge

Annett Heft (Universität Tübingen / Weizenbaum-Institut)
Christian Donner (IDZ Jena)

Auf dem Podium

Sandra Wachter (Universität Oxford, Hasso-Plattner-Institut)
Simon Kruschinski (Universität Mainz)
Lena-Maria Böswald (Das NETTZ)

Moderation

Rita Gsenger (Weizenbaum-Institut) und Annett Heft

Bitte melden Sie sich hier zu der kostenlosen Veranstaltung an.

Diese Veranstaltung beruht auf einer Zusammenarbeit zu einer Studie zur Analyse der Nutzung generativer KI in rechtsalternativen Netzwerken. Sie wird gefördert von "Demokratie leben!" des Bundesministeriums für Familie, Senioren, Frauen und Jugend in der zweiten Förderperiode 2020 bis 2024 (ab 2025 arbeiten das NETTZ und IDZ als Teil von toneshift – Netzwerk gegen Hass im Netz und Desinformation zusammen). Für inhaltliche Aussagen und Meinungsäußerungen tragen die Publizierenden dieser Veröffentlichung die Verantwortung.