27.12.2024 - 30.12.2024
10:00 Uhr - 19:00 Uhr
Chaos Communication Congress
Weizenbaum-Institut meets 38c3! Wir sind dieses Jahr mit einem Stand und Workshops auf dem Chaos Communication Congress im Hamburg vertreten, die größte Konferenz der europäischen Hacker-Szene.
Bei den jährlichen Treffen des Chaos Computer Clubs kommen tausende „Hacker:innen, Technikfreaks, Bastler:innen, Künstler:innen und Utopist:innen“ zusammen. Dieses Jahr geht es unter dem Motto „Illegal Instructions“ um „technische[n] Widerstand gegen Überwachung, Vermessung, Datenschnorcheln und Infiltration.“
Die viertägige internationale Veranstaltung bietet ein übervolles Programm an Vorträgen, Workshops, Vernetzungsveranstaltungen, Werkstätten, Kunst und Kultur. In über 300 selbstorganisierten Bereichen auf dem Messegelände – Assemblies genannt – gestalten Projekte, Organisationen und Vereine noch zusätzlich ihr eigenes Programm. Im Bits & Bäume / about:freedom-Assembly ist dieses Jahr auch das Weizenbaum-Institut dabei, als Teil des Bits&Bäume Netzwerks und mit weiteren Organisationen, wie Wikimedia Deutschland, Reporter ohne Grenzen, European Digital Rights (EDRI), Amnesty International, Correctiv oder FIfF - Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung. Beim Stand des Weizenbaum-Instituts können Sie unsere digitalen Ausstellungen erkunden, unser Team kennenlernen, jede Menge Merchandise abstauben und sogar ein Selfie mit Joseph Weizenbaum machen
Wissenschaftler:innen vom Weizenbaum-Institut stellen vor Ort ihre aktuelle Forschung in Talks oder Workshops vor. Wer also in Hamburg ist, sollte folgende Programmpunkte nicht verpassen:
Gemeinwohlorientierte Forschung mit KI: Missbrauch eindämmen durch Zweckbindung für KI-Modelle
28. Dezember – TAG 2: 12:00 – 12.40 Uhr, Saal ZIGZAG
Rainer Mühlhoff, Assoziierte Forscher am Weizenbaum Institut
Trainierte KI-Modelle sind mächtige Werkzeuge, die in Wissenschaft und Forschung oft für gute Zwecke gebaut werden. Aber wie alle Werkzeuge können sie auch zweckentfremdet werden – in Bereichen, für die sie nicht gedacht waren, in denen sie profitgierigen Interessen dienen und gesellschaftlichen Schaden anrichten. Vor dem Hintergrund des Trends von "open source" AI ist die Gefahr der unkontrollierten Zweckentfremdung von KI-Modellen enorm gestiegen. Wir zeigen: Das Risiko einer missbräuchlichen Sekundärnutzung von für Forschungszwecke trainierten KIs ist aktuell die größte regulatorische Lücke, trotz DSGVO und AI-Act. Zugleich ermöglicht das Zweckentfremden von Modellen die immer weiter wachsende Machtposition von Big Tech. Um das Problem zu bekämpfen, muss das Prinzip "Zweckbindung" für das Zeitalter der KI geupdated werden.
Der Mythos der „gezielten Tötung”. Zur Verantwortung von KI-gestützten Zielsystemen am Beispiel „Lavender“
28. Dezember - TAG 2, 17:35 - 18:15, Bühne HUFF
Rainer Rehak, Wissenschaftlicher Mitarbeiter in den Forschungsruppen „Digitalisierung, Nachhaltigkeit und Teilhabe“ sowie „Technik, Macht und Herrschaft“
Das Thema „KI in der Militärtechnik“ und die Beziehung zwischen Mensch und Maschine ist seit Jahrzehnten ein theoretisches Thema in der Philosophie, den Sozialwissenschaften und den kritischen Algorithmus-Studien. Doch in den letzten Jahren wurden Waffensysteme mit KI-Komponenten entwickelt und jüngst in bewaffneten Konflikten praktisch eingesetzt. Am Beispiel des KI-gestützten Zielwahlsystem Lavender, das vom israelischen Militär IDF im derzeit laufenden Gaza-Krieg eingesetzt wird, werden die aktuellen Entwicklungen aufgezeigt und in den historisch-technischen Kontext der „Signature Strikes“ der USA in Waziristan (Pakistan) oder Afghanistan gesetzt, sowie konkrete technische Designentscheidungen vorgestellt und kritisch diskutiert. Dabei entstehen auch Fragen von Verantwortungsverlagerung und Rechtsumgehung.
Die hier vorgestellten Erkenntnisse beruhen auf einer gemeinsamen Analyse von Expert:innen des Forums InformatikerInnen für Frieden und Gesellschaftliche Verantwortung (FIfF e.V.) zusammen mit der Informationsstelle Militarisierung (IMI e.V.) und der Arbeitskreis gegen bewaffnete Drohnen e.V., die die Praxis der KI-basierten „gezielten Tötung“ wie etwa durch Lavender als Kriegsverbrechen zu ächten sucht.
Kein Spaß am Gerät auf einem toten Planeten!
29. Dezember - TAG 2, 00:55–01:35, Saal ZIGZAG
Rainer Rehak, Wissenschaftlicher Mitarbeiter in den Forschungsruppen „Digitalisierung, Nachhaltigkeit und Teilhabe“ sowie „Technik, Macht und Herrschaft“
Anja Höfner, Konzeptwerk Neue Ökonomie
Seit Jahren kämpft das Bits-&-Bäume-Bündnis, dem auch der CCC seit Beginn angehört, für eine ökologische und sozial gerechte Digitalpolitik – 2024 war dabei ein Jahr voller Hochs und Tiefs: von erstmals sinkenden CO₂-Emissionen in Industrieländern, über den weiterbrennenden KI-Boom mit Nachhaltigkeitsanstrich, die Rolle von digitalen Plattformen für anti-demokratische und nicht-nachhaltige Bewegungen, den ökologischen Fußabruck von Profiling bis hin zum Tech-Solutionismus von Elon Musk jetzt im Weißen Haus. In diesem Vortrag präsentieren Anja und Rainer von Bits&Bäume einen kleinen Jahresrückblick, stellen die spannenden neuen Ideen für sozial-ökologische Digitalpolitik vor, blicken kritisch auf die Ampel und präsentieren Bits-&-Bäume-Forderungen an die nächste Bundesregierung. Zum Abschluss ist Esther Mwema aus Zambia zugeschaltet und wirft einen Blick auf die neokoloniale Macht von BigTech auf dem afrikanischen Kontinent und skizziert neue Ideen von lokalen, demokratisch-selbstbestimmten digitalen Infrastrukturen.
Chatbots im Schulunterricht!?
29. Dezember - TAG 3, 11:00–11:40, Saal ZIGZAG
Rainer Mühlhoff, Assoziierte Forscher am Weizenbaum Institut
Marte Henningsen, Universität Maastricht
Was können die Tools wirklich, was machen sie mit der “Bildung”, und sollten wir dafür Steuergelder ausgeben?
Spätestens seit dem Hype um ChatGPT werden KI-Tools als magische Technofixes für Lehrkräftemangel und soziale Segregation im Bildungswesen angepriesen. Mehrere Bundesländer haben zum Beispiel Flächenlizenzen für alle Lehrkräfte bei dem Hamburger Unternehmen "Fobizz" erworben. Das Unternehmen bietet auf Basis großer Sprachmodelle (meist GPT-3/4) und verschiedener bildgenerierender KIs eine ganze Reihe von Bots sowohl für SchülerInnen als auch für LehrerInnen an: Tools zur automatisierten Korrektur und Bewertung von Hausaufgaben, Chatbot-basierte individuelle Lern-Coaches, Avatare zur Gesprächssimulation ("mit Angela Merkel chatten"), oder Bots zur Erstellung von individualisiertem Unterrichtsmaterial.
Wir haben das Fobizz-Tool zur automatisierten Korrektur von Hausaufgaben und Prüfungsleistungen detailliert unter die Lupe genommen.
Discourse and Dragons
29. Dezember, TAG 3, 11:00 - 12:30, Workshop-Space Bits&Bäume-Assembly
André Ullrich, Leiter der Forschungsgruppe „Digitalisierung, Nachhaltigkeit und Teilhabe“ am Weizenbaum-Institut
stefan ullrich, Assoziierte Forscher am Weizenbaum Institut
»Discourse and Dragons« is a Serious Game for 6-8 players who fight against species extinction, marine pollution and climate catastrophe with their own ideas. Each player has their own personal goals, inclinations, biases, strengths and weaknesses. The course of action must therefore be constantly discussed and renegotiated – and the clock is ticking. This game aims to combine the world of Informational Sustainability with the world of discourse and narratives in a Tiny d6 role-playing game with hands-on activities. The aim of the game is to sketch a common digital future within planetary boundaries. In discourse, finding a common language is perhaps the most difficult challenge. The rules of the game serve therefore as a kind of Esperanto to advance negotiations in the interests of the assigned persona (player character in role-playing lingo). In the last round, a player enters the arena with whom no negotiations can be made: nature. Alea iacta est.
Generative KI im Programmieralltag – Gamechanger oder Hype?
29. Dezember - TAG 3, 19:00 - 20:00, Workshop-Space Bits&Bäume-Assembly
Ann Katzinski und Marlene Kulla, Assoziierte Forscherinnen am Weizenbaum Institut
Generative KI wirbelt den Programmieralltag gehörig durcheinander. Routineaufgaben? Die erledigt jetzt die KI – und zwar bei 76% der Entwickler:innen! Doch was bedeutet das für die Zukunft? Werden Programmierer:innen bald alle durch Code-Bots ersetzt oder werden sie angesichts der neuen Herausforderungen wichtiger denn je? Arbeiten wir mit der KI wirklich weniger oder am Ende sogar mehr? In diesem interaktiven Vortrag tauchen wir in die faszinierende Welt der generativen KI ein, sprechen darüber, wie sie den Programmieralltag revolutioniert, welche neuen Fähigkeiten gefragt sind und welche Rolle Kreativität und Authentizität dabei spielen. Wir teilen erste Ergebnisse aus unseren Forschungsprojekten “Eliza Reloaded – ChatGPT und die Veränderung von Wissensarbeit” und “Generative KI in der Arbeitswelt”.
Hier geht es zum gesamten Programm