Technik, Macht und Herrschaft

Die Gruppe erforscht, wie digitale Infrastrukturen gesellschaftliche Herrschaft und Macht verändern. Im Fokus stehen die Strukturierungsmechanismen der Plattformen und der Künstlichen Intelligenz, die sie umgebenden gesellschaftlichen Konflikte sowie Möglichkeiten einer demokratischen Gestaltung.

Die digitale Gesellschaft zeichnet sich durch ein hohes und weiter steigendes Maß technischer Mediatisierung aus, in deren Zuge digitale Technologien Einfluss ausüben auf Institutionen, gesellschaftliche Interessen und ökonomische sowie kulturelle Praktiken – und zugleich durch diese geprägt werden. Die Digitalisierung von Handlungsabläufen und Organisationsformen verstetigt sich in Form neuer Infrastrukturen. Dieses Projekt widmet sich konkret zwei Strukturierungsmechanismen: dem organisationalen Strukturprinzip der Plattformisierung von Märkten, Kommunikation und Sozialbeziehungen sowie dem epistemischen Strukturprinzip der Künstlichen Intelligenz, verstanden als eine Automatisierung von Wissenserzeugung und Entscheidungsprozessen in Kontexten, die von alltäglicher Verhaltensregulierung bis hin zur Automatisierung der öffentlichen Verwaltung reichen. Daraus resultieren neue Dimensionen der Lesbarkeit und Steuerbarkeit gesellschaftlicher Zusammenhänge, die in veränderte Machtverhältnisse und Herrschaftsformen münden – sehr sichtbar ist dies zum Beispiel in der Dominanz globaler Technologiekonzerne und der entsprechenden staatliche Steuerungsversuche.

Vor diesem Hintergrund widmet sich die Forschungsgruppe insbesondere den folgenden Fragekomplexen:

  1. Welche Herrschaftsformen sind in digitalen Infrastrukturen angelegt? Wie verhalten sich hier bestehende und emergente staatliche und private Herrschaftspotentiale zueinander? Welche gesellschaftlichen Gestaltungskonflikte entstehen und wie werden digitale Infrastrukturen zu Regulierungsobjekten?
  2. Wie lassen sich die veränderten Herrschaftsformen demokratisch einhegen und an existierende politische Institutionen und gesellschaftliche Imaginäre ankoppeln? Welche Optionen und Strategien gibt es, digitale Infrastrukturen so zu gestalten, dass gesellschaftliche Anforderungen an individuelle wie kollektive Autonomie demokratisch erfüllt werden?

Die Forschungsgruppe untersucht diese Entwicklungen auf theoretischer und empirischer Ebene und speist sich hier besonders aus Ansätzen aus den Sozial- und Rechtswissenschaften sowie der Informatik und der Politikwissenschaft. Unsere Arbeit setzt sich von allgemein gehaltenen Diagnosen zur transformativen Macht von Digitalisierung ab, indem sie mit Plattformen und Künstlicher Intelligenz zwei spezifische Strukturierungskräfte im Detail und im Zusammenspiel untersucht. Die Analyse blickt auch auf die gesellschaftlichen und politischen Reaktionen auf die inhärenten Herrschaftsformen und Machtverschiebungen. So untersuchen wir etwa auch, wie zivilgesellschaftliche Akteure alternative Ansätze für die Gestaltung und Regulierung von Technologien hervorbringen. Weiterhin geht die Gruppe international vergleichend vor und setzt verschiedene Technologien, Plattformen und nationale oder regionale Regulierungs- und Förderstrategien zueinander in Relation. Dies erlaubt es, neue Anstöße für die politische Gestaltung der Digitalisierung zu geben und so das gängige Repertoire an Regulierungsansätzen zu erweitern.

Die Forschungsgruppe führt unterschiedliche disziplinäre und methodologische Ansätze in insgesamt vier Teilprojekten zusammen:

  • Organisationales Strukturprinzip (Plattformen)

Plattformen zeichnen sich durch die Institution der Mitgliedschaft und ein Hybrid aus netzwerkartiger und hierarchischer Koordination aus. Sie werden überwiegend von privatwirtschaftlichen Unternehmen betrieben, die Datensammlung und datengetriebene Entscheidungen eng mit kommerziellen Zielen verknüpfen. Das Teilprojekt untersucht zum einen, wie Plattformen als spezifische Organisationsform Machtpositionen und -potentiale hervorbringen. Zum anderen analysiert das Projekt, wie in Reaktion hierauf deren zunehmende politische und wirtschaftliche Macht zum Gegenstand zahlreicher Politisierungsprozesse geworden ist, etwa im Bereich der Wettbewerbskontrolle, der Medienaufsicht, des Datenschutzes und des Schutzes vor Diskriminierung und Gewalt. In diesem Teilprojekt werden zudem Regulierungsambitionen und -strategien unterschiedlicher Plattformtypen auf nationaler und internationaler Ebene sowie in verschiedenen Jurisdiktionen und Weltregionen vergleichend analysiert.

  • Epistemisches Strukturprinzip (Künstliche Intelligenz)

Künstliche Intelligenz bezeichnet selbstlernende Verfahren, die (teil-)autonomes Bewerten und Handeln ermöglichen. Die Proliferation von KI-Anwendungen und -Modellen in nahezu alle Softwareanwendungen lässt KI zu einer all-purpose-Technologie werden. In diesem Teilprojekt untersuchen wir, wie KI als epistemisches Ordnungsprinzip sowohl die Kontextbedingungen politischen Handelns wie auch die Struktur von Herrschaftsbeziehungen verändert. Dabei sollen etablierte Kritiken wie Diskriminierung, Undurchsichtigkeit und die Ausbeutung von natürlichen Ressourcen und Arbeitskraft um neue Facetten ergänzt werden, die etwa die Folgen des KI-Einsatzes für gesellschaftliche Selbstverständigungsprozesse und für das Zusammenwirken öffentlicher und privater Herrschaftsakteure sichtbar macht. Das Teilprojekt untersucht hierfür auch, wie die Entwicklung und der Einsatz von KI in den vergangenen Jahren in die Kritik geraten sind und welche alternativen Ansätze der Gestaltung und Kontrolle von KI existieren.

  • Wechselspiel zwischen den Strukturprinzipien

Das dritte Teilprojekt fokussiert das Zusammenspiel zwischen dem organisationalen und dem epistemischen Strukturprinzip und liefert zudem die Synthese in größere gesellschafts- und demokratietheoretische Zusammenhänge. Hier untersuchen wir, wie die beiden Strukturierungsmechanismen ineinander greifen: So wird etwa analysiert, ob sich die weitere Skalierung von Plattformen und ihre tiefe Einbettung in das gesellschaftliche Leben ohne den massiven Rückgriff auf Techniken der künstlichen Intelligenz denken lässt und wie sehr umgekehrt die KI-Entwicklung auf der Logik der Datenaggregation durch Plattformen basiert. Der Hauptfokus liegt dabei auf der Verstärkungslogik, die aus der Verschränkung der beiden Strukturprinzipien hervorgeht, um zu verstehen, ob sie eine Immunisierung gegenüber Kritik und Rechtfertigungsforderungen bewirkt.

  • Politische Gestaltung/Transfer

Zu den zentralen Zielen der Forschungsgruppe gehört es, die wissenschaftlichen Befunde über die gesellschaftlichen Wirkmechanismen von Plattformen und KI auch für die Entwicklung von Politiken im Umgang mit diesen nutzbar zu machen. Hier werden Interventionspunkte identifiziert, an denen problembehaftete Tendenzen der Entwicklung organisationaler und epistemischer Strukturierungsmacht aufgebrochen werden können. Das vierte Teilprojekt dient daher der Auseinandersetzung mit bestehenden Regulierungsinitiativen (etwa dem EU AI Act), vor allem aber der Identifikation neuer politischer Gestaltungsoptionen. Hier setzen wir auf eine stark interdisziplinäre Komponente, die insbesondere auch die Zusammenarbeit mit anderen Forschungsgruppen und Fellows sowie mit künstlerischen und politischen Projekten und Praktiken der Subversion und der Eigenentwicklung digitaler Infrastrukturen verlangt. Wir streben an, für die Politik und die weitere Öffentlichkeit wissenschaftlich fundierte und zugleich konkrete Vorschläge im Umgang mit Plattformen und KI zu entwickeln und somit den Diskurs um Regulierungsmechanismen nachhaltig zu erweitern.

Mitglieder der Forschungsgruppe

Assoziierte Forscher:innen

Zu den Publikationen