Innovation, Grundrechte, Gemeinwohl: Weizenbaum-Institut begrüßt Gesetzesentwurf zur Durchführung des AI Acts, mahnt aber weitere Verbesserungen an
03/23/2026Anlässlich der heutigen Sachverständigen-Anhörung im Bundestag begrüßt das Weizenbaum-Institut den Regierungsentwurf für ein Gesetz zur Durchführung der KI-Verordnung. Mehrere zentrale Empfehlungen des Weizenbaum-Instituts zu Partizipation und Grundrechtsschutz wurden aufgegriffen.
Mit dem AI Act hat die EU einen Rahmen für die Regulierung von KI-Systemen geschaffen. Zur Umsetzung dieser Verordnung in Deutschland legte die Bundesregierung einen Gesetzentwurf vor. Expert:innen des Weizenbaum-Instituts erkennen darin wichtige Verbesserungen, sehen aber weiterhin Schwachstellen. Bereits im Oktober 2025 hatte das Weizenbaum-Institut in einer Stellungnahme den Referentenentwurf des Gesetzes bewertet.
Klare Zuständigkeiten, Beteiligung der Zivilgesellschaft und Weiterentwicklung von KI-Reallaboren
Die Forschenden heben positiv hervor, dass die Aufsicht über den KI-Einsatz durch Landesbehörden nun den Ländern selbst zugewiesen werden soll. Im vorherigen Entwurf war die Zuständigkeit bei der Bundesnetzagentur angesiedelt, was verfassungsrechtlich problematisch gewesen wäre.
Ebenfalls begrüßen sie, dass nun eine regelmäßige Einbeziehung von Zivilgesellschaft, Gewerkschaften, Wirtschaft, Wissenschaft und Ländern in die Folgeabschätzung gesetzlich verankert wird. Dies bewerten sie als wichtigen Schritt hin zu einer inklusiven und legitimationsstarken KI-Governance.
Der Zugang zu KI-Reallaboren für Forschungseinrichtungen und Hochschulen würde erleichtert und beschleunigt, unter Einbindung der Datenschutzaufsichtsbehörden. Beide Punkte entsprechen zentralen Forderungen des Weizenbaum-Instituts nach einer stärkeren Verzahnung von Innovation und Grundrechtsschutz, sowie einer besseren Einbindung wissenschaftlicher Akteure. Dabei sollte die Gemeinwohlorientierung der jeweiligen KI-Innovationen jedoch im besonderen Fokus stehen.
Mangelnde Unabhängigkeit der KI-Marktüberwachungskammer und fehlende Sorgfalt bei Hochrisiko-KI-Systemen
Trotz Fortschritten sehen die Forschenden rechtliche und strukturelle Defizite. So sei die KI-Marktüberwachungskammer (UKIM) weiterhin organisatorisch eng in die Bundesnetzagentur eingebunden. Vorsitz und Mitgliederstruktur überlappten sich und es fehle ein eigener Haushaltsplan.
„Eine klare institutionelle Unabhängigkeit ist nicht erkennbar,“ so Prof. Dr. Herbert Zech. „Das könnte den Anforderungen der EU-Verordnung nicht genügen. Wir empfehlen, einige Aufgaben stärker auf die Datenschutzaufsicht zu übertragen, die sowohl die erforderliche Unabhängigkeit als auch die fachliche Expertise bereits gewährleistet.“
Problematisch sei auch die fehlende Genehmigungspflicht für Tests von Hochrisiko-KI, die Grundrechte verletzen könnten. Zudem sind öffentliche Stellen von Geldbußen ausgenommen, was die Aufsicht schwäche. Gerade der Staat sollte laut den Forschenden Vorreiter für verantwortungsvollen KI-Einsatz sein.
Insgesamt stelle der Regierungsentwurf eine Verbesserung im Vergleich zum Referentenentwurf dar. Um jedoch eine effektive, grundrechtskonforme und unionsrechtsfeste KI-Aufsicht zu gewährleisten, seien besonders im Bereich der KI-Marktüberwachungskammer weitere Anpassungen erforderlich.
Stellungnahme des Weizenbaum-Institut zum Referentenentwurf eines Gesetzes zur Durchführung der KI-Verordnung (Oktober 2025) zum Download: https://doi.org/10.34669/WI.PP/16
Autor:innen der Stellungnahme sind Prof. Dr. Herbert Zech, Prof. Dr. Martin Krzywdzinski, Dr. Clara Iglesias Keller, Melina Braun, Philipp Schöbel und Charlotte Mysegades.