magnifying-glass

Kritikalität KI-basierter Systeme

Forschungsgruppe 20

Systeme künstlicher Intelligenz werden zunehmend auf menschliche Aktivitäten abgestimmt. Gefüttert von Daten, die wir Menschen erzeugen, arbeiten sie immer enger mit uns in Echtzeit zusammen. Dabei wird zunehmend offensichtlich: Die Suche nach künstlicher Intelligenz ist auch eine Suche nach menschlichen Werten. Wie Wissen in Technologien eingebunden und aus diesen gewonnen werden kann, ist dabei ein bedeutsamer Teil unserer Forschung.

Fähigkeiten und Grenzen künstlicher Intelligenz

Zentrale Aspekte wie systematische Diskriminierung (Bias), Vertrauen, Transparenz, Verantwortung, Nachhaltigkeit, Mensch-Maschine-Interaktion und die Notwendigkeit neuer Formen von Bildung stellen Kernthemen der Forschungsgruppe dar. Obwohl sie den Alltag der Bürger*innen bereits in vielfältigster Weise beeinflussen, agieren viele KI-Systeme bisher als Blackbox. Ihre öffentliche Wahrnehmung ist maßgeblich geprägt von Misstrauen, aber auch von Unwissenheit über das theoretische Gerüst dieser Systeme. Deshalb ist ein weiteres Ziel der Forschungsgruppe, die Öffentlichkeit an dem wissenschaftlichen Diskurs über KI zu beteiligen. Wir wollen das Bewusstsein der Bürger*innen für die Fähigkeiten und Grenzen von KI-Technologien schärfen und neue Wege für wissenschaftliche Forschung durch gesellschaftlichen Dialog und Einbezug einschlagen. 

Methoden der Psychologie, Informatik, Sozial- und Kulturwissenschaften

Es finden sowohl quantitative als auch qualitative Methoden der Psychologie, Informatik, Sozialwissenschaften und Kulturwissenschaften Anwendung: Metriken des Quality Engineerings, Literaturrecherchen, Anwendungsfallstudien, Diskursanalysen, Fragebögen, Interviews, Workshops und interaktive Veranstaltungen, öffentliche Diskussionsforen und Debatten. In unserer Forschung betrachten wir intelligente Algorithmen zum einen als Technologien, zum anderen auch als Kulturartefakte, welche von der ontologischen Position des/der Entwickler*in gefärbt werden. Wir analysieren den Stand der Technik künstlicher Intelligenz zum einen von einem technischen Blickwinkel, zum anderen betrachten wir aber auch die Diskurse (zum Thema KI), die involvierte symbolische Gewalt und den Bias solcher Systeme. 

Neben der Entwicklung eines theoretischen Rahmens kulturtechnischer Forschung arbeiten wir daran, den Horizont des aktuellen Stands von nutzerorientierter KI, KI für das Gemeinwohl und inklusiver KI zu erweitern. Unser Ansatz ist geprägt durch das Infragestellen und Dekonstruieren der aktuellen Designprinzipien zur Entwicklung von intelligenten, kritischen Systemen und die Entwicklung von Alternativen.

Mitglieder der Forschungsgruppe

Zurück zur Startseite