Unsere Talks vom 38c3
Unsere Wissenschaftler:innen waren dieses Jahr mit Workshops und Talks auf dem Chaos Communication Congress im Hamburg vertreten, die größte Konferenz der europäischen Hacker-Szene. Vier Vorträge wurden aufgezeichnet.
Bei dem Treffen des Chaos Computer Clubs kamen dieses Jahr rund 14.000 „Hacker:innen, Technikfreaks, Bastler:innen, Künstler:innen und Utopist:innen“ zusammen. Unter dem Motto „Illegal Instructions“ ging es um „technische[n] Widerstand gegen Überwachung, Vermessung, Datenschnorcheln und Infiltration.“
Auch das Weizenbaum-Institut war mit einem kleinen Infostand beim Bits&Bäume-Netzwerk vor Ort und unsere Wissenschaftler:innen waren mit Vorträgen und Workshops Teil des Programms. Hier eine Übersicht der aufgezeichneten Talks.
Gemeinwohlorientierte Forschung mit KI: Missbrauch eindämmen durch Zweckbindung für KI-Modelle
Rainer Mühlhoff, Assoziierte Forscher am Weizenbaum Institut
Trainierte KI-Modelle sind mächtige Werkzeuge, die in Wissenschaft und Forschung oft für gute Zwecke gebaut werden. Aber wie alle Werkzeuge können sie auch zweckentfremdet werden – in Bereichen, für die sie nicht gedacht waren, in denen sie profitgierigen Interessen dienen und gesellschaftlichen Schaden anrichten. Vor dem Hintergrund des Trends von "open source" AI ist die Gefahr der unkontrollierten Zweckentfremdung von KI-Modellen enorm gestiegen. Der Vortragt zeigt: Das Risiko einer missbräuchlichen Sekundärnutzung von für Forschungszwecke trainierten KIs ist aktuell die größte regulatorische Lücke, trotz DSGVO und AI-Act. Zugleich ermöglicht das Zweckentfremden von Modellen die immer weiter wachsende Machtposition von Big Tech. Um das Problem zu bekämpfen, muss das Prinzip "Zweckbindung" für das Zeitalter der KI geupdated werden.
Der Mythos der „gezielten Tötung”. Zur Verantwortung von KI-gestützten Zielsystemen am Beispiel „Lavender“
Rainer Rehak, Wissenschaftlicher Mitarbeiter in den Forschungsruppen „Digitalisierung, Nachhaltigkeit und Teilhabe“ sowie „Technik, Macht und Herrschaft“
Das Thema „KI in der Militärtechnik“ und die Beziehung zwischen Mensch und Maschine ist seit Jahrzehnten ein theoretisches Thema in der Philosophie, den Sozialwissenschaften und den kritischen Algorithmus-Studien. Doch in den letzten Jahren wurden Waffensysteme mit KI-Komponenten entwickelt und jüngst in bewaffneten Konflikten praktisch eingesetzt. Am Beispiel des KI-gestützten Zielwahlsystem Lavender, das vom israelischen Militär IDF im derzeit laufenden Gaza-Krieg eingesetzt wird, zeigt der Talk die aktuellen Entwicklungen auf und setzt sie in den historisch-technischen Kontext der „Signature Strikes“ der USA in Waziristan (Pakistan) oder Afghanistan. Ebenso stellt Rehak konkrete technische Designentscheidungen vor und diskutiert diese kritisch. Dabei entstehen auch Fragen von Verantwortungsverlagerung und Rechtsumgehung.
Die hier vorgestellten Erkenntnisse beruhen auf einer gemeinsamen Analyse von Expert:innen des Forums InformatikerInnen für Frieden und Gesellschaftliche Verantwortung (FIfF e.V.) zusammen mit der Informationsstelle Militarisierung (IMI e.V.) und der Arbeitskreis gegen bewaffnete Drohnen e.V., die die Praxis der KI-basierten „gezielten Tötung“ wie etwa durch Lavender als Kriegsverbrechen zu ächten sucht.
Chatbots im Schulunterricht!?
Rainer Mühlhoff, Assoziierte Forscher am Weizenbaum Institut
Marte Henningsen, Universität Maastricht
Was können die Tools wirklich, was machen sie mit der “Bildung”, und sollten wir dafür Steuergelder ausgeben?
Spätestens seit dem Hype um ChatGPT werden KI-Tools als magische Technofixes für Lehrkräftemangel und soziale Segregation im Bildungswesen angepriesen. Mehrere Bundesländer haben zum Beispiel Flächenlizenzen für alle Lehrkräfte bei dem Hamburger Unternehmen "Fobizz" erworben. Das Unternehmen bietet auf Basis großer Sprachmodelle (meist GPT-3/4) und verschiedener bildgenerierender KIs eine ganze Reihe von Bots sowohl für SchülerInnen als auch für LehrerInnen an: Tools zur automatisierten Korrektur und Bewertung von Hausaufgaben, Chatbot-basierte individuelle Lern-Coaches, Avatare zur Gesprächssimulation ("mit Angela Merkel chatten"), oder Bots zur Erstellung von individualisiertem Unterrichtsmaterial.
Rainer Mühlhoff und Marte Henningsen haben das Fobizz-Tool zur automatisierten Korrektur von Hausaufgaben und Prüfungsleistungen detailliert unter die Lupe genommen.
Kein Spaß am Gerät auf einem toten Planeten!
Rainer Rehak, Wissenschaftlicher Mitarbeiter in den Forschungsruppen „Digitalisierung, Nachhaltigkeit und Teilhabe“ sowie „Technik, Macht und Herrschaft“
Anja Höfner, Konzeptwerk Neue Ökonomie
Seit Jahren kämpft das Bits-&-Bäume-Bündnis, dem auch der CCC seit Beginn angehört, für eine ökologische und sozial gerechte Digitalpolitik – 2024 war dabei ein Jahr voller Hochs und Tiefs: von erstmals sinkenden CO₂-Emissionen in Industrieländern, über den weiterbrennenden KI-Boom mit Nachhaltigkeitsanstrich, die Rolle von digitalen Plattformen für anti-demokratische und nicht-nachhaltige Bewegungen, den ökologischen Fußabruck von Profiling bis hin zum Tech-Solutionismus von Elon Musk jetzt im Weißen Haus. In diesem Vortrag präsentierten Anja und Rainer von Bits&Bäume einen kleinen Jahresrückblick, stellten die spannenden neuen Ideen für sozial-ökologische Digitalpolitik vor, blickten kritisch auf die Ampel und präsentieren Bits-&-Bäume-Forderungen an die nächste Bundesregierung. Zum Abschluss war Esther Mwema aus Zambia zugeschaltet und warf einen Blick auf die neokoloniale Macht von BigTech auf dem afrikanischen Kontinent und skizzierte neue Ideen von lokalen, demokratisch-selbstbestimmten digitalen Infrastrukturen.
