de / en

Daten, algorithmische Systeme und Ethik

Algorithmische Systeme können tiefgehende Auswirkungen auf Nutzer:innen und Gesellschaften haben. Die Forschungsgruppe untersucht den Entwurf, die Entwicklung, Anwendung und Regulierung datengesteuerter Systeme sowie die sozialen und institutionellen Kontexte, die die Produktion von Trainingsdaten und Algorithmen prägen.

Algorithmische Systeme haben ungeheure Möglichkeiten in verschiedenen Bereichen, können aber auch tiefgehende Auswirkungen auf Nutzer:innen und Gesellschaft haben. Der Ruf nach und die Bemühungen um einen ethischen Entwurf, Entwicklung, Anwendung und Regulierung von algorithmischen Systemen werden immer lauter, ebenso wie die Forderung, sie dem "Gemeinwohl" zuträglich zu machen. In einer Welt, die durch asymmetrische Machtverhältnisse definiert ist, ist es wichtig zu fragen: Wer entscheidet, was gut und ethisch ist, und wer bekommt umgekehrt das „Gute” von jemand anderem getan (D’Ignazio & Klein 2020, Miceli 2022).

Die Forschungsgruppe “Daten, algorithmische Systeme und Ethik” untersucht gesellschaftliche sowie ethisch-technische Fragen um die gerechte, faire, nachhaltige und transparente Produktion und Anwendung von Trainingsdaten und algorithmischen Systemen, mit speziellem Fokus auf die sozialen, arbeitsrechtlichen und institutionellen Kontexte, die sie prägen. Die zentralen Fragen lauten:

  1. Wie können datengetriebene algorithmische Systeme auf ethisch-technischer Grundlage gerecht, fair, transparenter sowie dem Gemeinwohl zuträglich gemacht werden? Was bedeutet dies für Partizipation, Inklusion und Teilhabe?
  2. Wie wirken sich spezifische industrielle und institutionelle Kontexte und Arbeitsbedingungen auf die Produktion von Trainingsdaten und Algorithmen aus? Was bedeutet dies für technikbezogene Ungerechtigkeiten?

Wir verstehen algorithmische Systeme als Teil größerer sozio-technischer Systeme und suchen nach Prinzipien, Architekturen und Parametern, die nachweislich zu gewünschten Zielen führen, sowie nach Methoden zur Bestimmung dieser Ziele selbst. Besonders relevant für unseren Forschungsschwerpunkt sind sozio-technische Systeme auf Basis von Big Data, Maschinellem Lernen oder algorithmen-basierten Prognose- und Entscheidungsprozessen (Datenethikkommission 2020). Hierzu kombinieren und verwenden wir Forschungsmethoden aus der Informatik (z. B. Modellierung, Analyse und Implementierung) und den Sozialwissenschaften (z. B. ethnographisches Fieldwork und Interview) sowie partizipative Designmethoden.

In der Forschungsgruppe wird das Spannungsfeld zwischen Herausforderungen betrachtet, die datengetriebenen Systemen inhärent erscheinen (und damit, implizit, gleich über Personen und/oder Kontexte) und den differentiellen Herausforderungen, die Ungleichheiten in sich tragen, verstärken oder verursachen können. Wirklich gemeinwohl fördernde KI muss beide Phänomene betrachten, um sozio-technische Systeme „inklusiv” für unterschiedlichste Individuen und Gruppen zu gestalten -- insbesondere diejenigen, die "am Rande" stehen -- und also die Teilhabe aller zu ermöglichen. Wir sind dabei, den Aufbau der Forschungsgruppe abzuschließen und arbeiten an der Konkretisierung einzelner Projekte. Weitere Details zu konkreten Projekten in der Forschungsgruppe werden folgen.