Kritikalität KI-basierter Systeme

Systeme künstlicher Intelligenz werden zunehmend auf menschliche Aktivitäten abgestimmt. Gefüttert von Daten, die wir Menschen erzeugen, arbeiten sie immer enger mit uns in Echtzeit zusammen. Dabei wird zunehmend offensichtlich: Die Suche nach künstlicher Intelligenz ist auch eine Suche nach menschlichen Werten. Wie Wissen in Technologien eingebunden und aus diesen gewonnen werden kann, war dabei ein bedeutsamer Teil unserer Forschung.

Diese Forschungsgruppe hat von 2017 bis 2022 (Aufbauphase) am Weizenbaum-Institut geforscht. Im neu aufgelegten Forschungsprogramm wird die Forschung fortan in 16 Forschungsgruppen organisiert. Flankiert und unterstützt werden diese vom neuen Weizenbaum Digital Science Center.

Fähigkeiten und Grenzen künstlicher Intelligenz

Zentrale Aspekte wie systematische Diskriminierung (Bias), Vertrauen, Transparenz, Verantwortung, Nachhaltigkeit, Mensch-Maschine-Interaktion und die Notwendigkeit neuer Formen von Bildung stellten Kernthemen der Forschungsgruppe dar. Obwohl sie den Alltag der Bürger:innen bereits in vielfältigster Weise beeinflussen, agieren viele KI-Systeme bisher als Blackbox. Ihre öffentliche Wahrnehmung ist maßgeblich geprägt von Misstrauen, aber auch von Unwissenheit über das theoretische Gerüst dieser Systeme. Deshalb war ein weiteres Ziel der Forschungsgruppe, die Öffentlichkeit an dem wissenschaftlichen Diskurs über KI zu beteiligen. Wir setzten uns dafür ein, das Bewusstsein der Bürger:innen für die Fähigkeiten und Grenzen von KI-Technologien zu schärfen und neue Wege für wissenschaftliche Forschung durch gesellschaftlichen Dialog und Einbezug einzuschlagen.

Methoden der Psychologie, Informatik, Sozial- und Kulturwissenschaften

Es fanden sowohl quantitative als auch qualitative Methoden der Psychologie, Informatik, Sozialwissenschaften und Kulturwissenschaften Anwendung: Metriken des Quality Engineerings, Literaturrecherchen, Anwendungsfallstudien, Diskursanalysen, Fragebögen, Interviews, Workshops und interaktive Veranstaltungen, öffentliche Diskussionsforen und Debatten. In unserer Forschung betrachteten wir intelligente Algorithmen zum einen als Technologien, zum anderen auch als Kulturartefakte, welche von der ontologischen Position des/der Entwickler:in gefärbt werden. Wir analysierten den Stand der Technik künstlicher Intelligenz zum einen von einem technischen Blickwinkel, zum anderen betrachteten wir aber auch die Diskurse (zum Thema KI), die involvierte symbolische Gewalt und den Bias solcher Systeme.

Neben der Entwicklung eines theoretischen Rahmens kulturtechnischer Forschung arbeiteten wir daran, den Horizont des aktuellen Stands von nutzerorientierter KI, KI für das Gemeinwohl und inklusiver KI zu erweitern. Unser Ansatz war geprägt durch das Infragestellen und Dekonstruieren der aktuellen Designprinzipien zur Entwicklung von intelligenten, kritischen Systemen und die Entwicklung von Alternativen.