07.12.2026

16:00 Uhr - 18:00 Uhr | Weizenbaum-Institut, Hardenbergstraße 32, 10623 Berlin \\ digital

Agentische Staatlichkeit: Herausforderungen für Rechtsstaatlichkeit, Demokratie und Souveränität

Agentische KI-Systeme gelten in Projekten der digitalen Staatsmodernisierung als Instrument, das Effizienz steigern, Staatskapazität stärken und Vertrauen schaffen soll. Zugleich gehen sie mit Intransparenz und neuen Abhängigkeiten einher und stellen rechtsstaatliche Verantwortlichkeit infrage. Im kommenden Weizenbaum-Forum diskutieren wir, welche Folgen ein agentischer Wandel von Staatlichkeit für Rechtsstaat, Demokratie und Souveränität hat.

Programmatisch wie praktisch zeigt sich in dieser Legislaturperiode: Die Modernisierung von Staat und Verwaltung ist ein zentrales Thema der deutschen Politik und sie wird im Kern als Digitalisierungsvorhaben verstanden. Insbesondere agentische Systeme künstlicher Intelligenz, die eigenständig Entscheidungen vorbereiten und komplexe Aufgaben übernehmen können, versprechen dazu eine effizientere Verwaltung, gesteigerte Staatskapazität und somit ein verbessertes Vertrauensverhältnis zu den Bürger:innen.

In der Praxis stellen sich indes zahlreiche Probleme: Intransparenz, Cyberangriffe, Gefährdungen der Privatheit und eine komplexe Governance von Digitalisierungsvorhaben erschweren die Umsetzung auf der operativen Ebene. Zudem greift der Einsatz von KI-Agenten nicht nur in einzelne Verfahren ein, sondern verändert die Prinzipien und die Organisationslogik staatlichen Handelns selbst: Er droht, rechtsstaatliche Verantwortlichkeit und demokratische Gewaltengliederung zu untergraben, die Abhängigkeit von Technologieanbietern zu verstärken und deren Partikularinteressen dauerhaft in staatliche Strukturen einzuschreiben. Damit wird fraglich, wem agentisches Staatshandeln überhaupt noch zugerechnet werden kann. Das Alignment-Problem ist dann kein technisches, sondern ein politisches: Woraufhin sind Systeme ausgerichtet, die häufig von ausländischen Privatunternehmen entwickelt und betrieben werden, und kann von staatlicher Handlungsfähigkeit eigentlich noch die Rede sein?

In dieser Ausgabe des Weizenbaum-Forums wollen wir daher diskutieren, wie sich rechtsstaatliche und demokratische Prinzipien von Staatlichkeit durch die Einbettung von agentischen KI-Systemen in staatliche Verwaltungsverfahren verändern und welche Konsequenzen dies angesichts der technologischen, ökonomischen und geopolitischen Bedingungen hat. Ziel ist es, die gegenwärtige Debatte über Anwendungsfälle hinaus auf die Frage nach dem Wandel des Staates selbst zu öffnen. Dafür haben wir Expert:innen eingeladen, die aus rechtswissenschaftlicher, politischer und praxisnaher Perspektive auf KI-Agenten in der Verwaltung blicken. In einer anschließenden Diskussion sollen diese Perspektiven zusammengeführt und in einer Fragerunde mit dem Publikum vertieft werden. 

Gäste

Frederike Kaltheuner, AI Now Institute, Founder & Director New Possible

Hannah Ruschemeyer, Professur für Öffentliches Recht, Universität Osnabrück

Manuel Kilian, Advisor BMDS/Co-Founder The Agentic State

Moderation: Sebastian Berg, Weizenbaum-Institut

Anmeldung

Bitte melden Sie sich hier für die kostenfreie Veranstaltung an