AIA-Roundtable #3: Hochrisiko-KI

Am 25. Oktober 2022 fand der dritte AIA-Roundtable statt, der sich mit Hochrisikosystemen befasste. Catelijne Muller von ALLAI führte in das Thema mit der Definition von Hochrisiko-KI und den Anforderungen an solche Systeme ein. Prof. Jeremias Adams Prassl von der Universität Oxford zeigte die Komplikationen von Hochrisiko-KI-Anwendungen im Zusammenhang mit dem Arbeitsrecht auf: Er wies insbesondere auf die Gefahr hin, dass der Maximalregulierungsansatz des AIA den Schutz im nationalen Arbeitsrecht untergräbt. Marlies van Eck, Rechtsberaterin bei Hooghiemstra & Partners in Den Haag, berichtete über den niederländischen Kinderbetreuungsgeld-Skandal und warnte, dass – in der Tradition von Joseph Weizenbaum – Behauptungen, dass menschliche institutionelle Entscheidungen einfach automatisiert werden können, kritisch hinterfragt werden sollten.

Seit Juni 2022 veranstalten das Weizenbaum-Institut und ALLAI eine Roundtable-Serie, in der wir uns eingehender mit dem AIA befassen. Am  28. Juni 2021 sind wir mit einem ersten Roundtable zum Umfang des AIA gestartet – Tagesspiegel Background berichtete. 

Beim zweiten AIA In Depth Roundtable am 13. September standen die verbotenen KI-Anwendungen (Art. 5) im Fokus. Der Tagesspiegel Background berichtete auch über den zweiten Roundtable am 14. September – Tagesspiegel Background berichtete auch hier.