AI, Big Data, Social Media, and People on the Move - Rückblick auf die 5. Weizenbaum Conference

Im Zentrum der Konferenz stand die Frage, welche Rolle unterschiedliche digitale Technologien für „people on the move“ haben – wobei „Menschen in Bewegung“ sowohl räumlich (Migration und Flucht) als auch im Sinne ökonomischen und sozialen Wandels (veränderte Arbeitsbedingungen, Zugangsbedingungen) verstanden wurden. In den Diskussionen wurden aktuelle Phänomene wie Desinformation und algorithmischer Bias aus unterschiedlichen Perspektiven beleuchtet sowie die Möglichkeiten, Grenzen und Gefahren von generativer Künstlicher Intelligenz diskutiert.

Immer wieder problematisiert wurde, dass digitale Technologien häufig „high tech solutions“ für „low tech problems“ anbieten – womit die Probleme nicht grundlegend gelöst werden, sondern asymmetrische Machtverhältnisse häufig reproduziert und sogar verstärkt werden. Wo die Entwicklung und Kontrolle über digitale Schlüsseltechnologien in privaten Händen liegen, bleiben sie für politische Regulierung wie auch Wissenschaft häufig unzugänglich und damit für Nutzer:innen, Bürger:innen und Konsument:innen undurchsichtig. Zentrale Forderungen waren daher Transparenz sowie die Stärkung von demokratischer Gestaltung und Kontrolle sowohl öffentlich-rechtlicher als auch privater Infrastrukturen.

Digitale Welten und menschliche Werte

In seiner Eröffnung der Konferenz betonte Christoph Neuberger, wissenschaftlicher Vorstand und Direktor des Weizenbaum-Instituts, dass das Thema der Konferenz inmitten einer kritischen Debatte über Künstliche Intelligenz die entscheidende Frage aufwerfe, wie digitale Welten von menschlichen Werten geprägt werden können. In ihrem Grußwort unterstrich Bundesministerin Bettina Stark-Watzinger, dass es für diese wichtige Debatte keinen besseren Ort gebe als das Weizenbaum-Institut. Sie betonte, dass die neuen, generativen Technologien Schlüsseltechnologien der Zukunft sein werden. Neben der Debatte um ihre Grenzen und Gefahren dürften deshalb auch ihre Möglichkeiten und Chancen nicht aus dem Blick geraten. Auch Ina Czyborra, Berliner Senatorin für Wissenschaft, Gesundheit und Pflege betonte, dass mit den Themen dieser Konferenz nicht weniger als die Schlüsselfragen für die Zukunft unserer Gesellschaft gestellt werden. Über diese Themen gaben anschließend die Program Chairs Elizaveta Kuznetsova (Forschungsgruppenleiterin am Weizenbaum-Institut) sowie Bettina Berendt und Martin Krzywdzinski (Direktor:innen des Weizenbaum-Instituts) einen einleitenden Überblick.

Forschung - für die vernetzte Gesellschaft

Neben diesen übergeordneten Fragen wurden in neun Sessions aktuelle Forschungsergebnisse zu weiteren Fragen vorgestellt und diskutiert: Wie beeinflussen Künstliche Intelligenz und Algorithmisches Management Arbeitsmärkte und Arbeitsplätze? Was bedeutet dies für Plattform-Arbeiter:innen und insbesondere Arbeitsmigrant:innen? Inwiefern bestimmen Datenklassifizierungen, Algorithmen und Suchmaschinen unseren Blick auf Antisemitismus, das Dritte Reich und den Holocaust? Welche Rolle spielen Algorithmen bei der Verbreitung von Propaganda im Kontext des Krieges in der Ukraine? Wie werden migrantische Communities und Flüchtlinge in sozialen Medien repräsentiert? Welche Rolle spielen dieselben Technologien bei der Organisation von humanitärer Hilfe? Welche Herausforderungen und Chancen bietet der sogenannte AI Act der Europäischen Union? Was können die neuen generativen Sprachmodelle wie ChatGPT, was können sie nicht und wofür sollten sie besser nicht eingesetzt werden? Und natürlich: Wie kann dieses Wissen für Wissenschaft, Wirtschaft, Politik und Gesellschaft nutzbar gemacht werden?  

Die globalen Probleme der Gegenwart sind (noch) nicht KI-generiert

Mit seiner Präsentation "1&∞Chairs" demonstrierte der interdisziplinäre Künstler Egor Kraft, der sich an der Schnittstelle von Kunst, Medien, Technologie, Film und Wissenschaft verortet, die Möglichkeiten und Grenzen digitaler Technologien wie Bildgeneratoren sowie die prekäre Rolle der Bedeutung beim maschinellen Lernen. In der Diskussion mit David Berry (University of Sussex) und Barbara Pfetsch (Freie Universität Berlin und Principal Investigator am Weizenbaum-Institut) wurde vor diesem Hintergrund die Frage nach den Gefahren von Künstlicher Intelligenz als generativer Technologie erörtert. Nach einer Verständigung über Begriffe wie „Künstliche Intelligenz“ oder „generativ“ ging es um die Frage nach dem Eigentum an diesen Technologien und ihrer Produkte sowie um journalistische Integrität und menschliches Urteilsvermögen. Was bedeutet es für soziale Beziehungen, gesellschaftliche Ordnungen und politische Entscheidungen, wenn Autorenschaft, Wahrheitsgehalt und Authentizität nicht mehr überprüfbar oder vertrauenswürdig sind? Gleichzeitig wurde unterstrichen, dass die heutigen globalen gesellschaftlichen Probleme nicht KI-generiert sind, sondern von politischen, wirtschaftlichen und/oder medialen Strukturen hervorgebracht wurden. Die zentrale Übereinkunft dieser Paneldebatte war - ganz im Sinne von Joseph Weizenbaum, dass das menschliche Urteilsvermögen weiterhin in der Verantwortung stehen muss. Damit das gelingt, ist ein grundlegendes Verständnis dieser Technologien notwendig. Die Voraussetzungen dafür ist zum einen die Herstellung von Transparenz, wie diese Technologien funktionieren und wie sie zu Entscheidungen kommen, zum anderen das verstärkte Bemühen um digital literacy in der Bildung.

Für ein besseres Verständnis, so das einhellige Fazit, sind interdisziplinäre internationale Konferenzen wie die Weizenbaum Conference von großer Bedeutung, auf denen die Anliegen, Fragen und Perspektiven von Wissenschaft, Politik und Zivilgesellschaft in einen konstruktiven Austausch kommen.