de / en
Two digitally illustrated green playing cards on a white background, with the letters A and I in capitals and lowercase calligraphy over modified photographs of human mouths in profile.

Arbeiten mit ChatGPT: „Die Effizienz hängt von uns ab“

Das neue Weizenbaum-Forschungsprojekt „ELIZA reloaded“ untersucht die Auswirkungen von generativen Sprachmodellen auf Arbeitsprozesse. Ein Gespräch mit Wissenschaftlerin Ann Katzinski über Erwartungen, Gefahren und Kompetenzaufbau.

 

Die Diskussion um den Verlust von Jobs durch sogenannte „Künstliche Intelligenz“ ist nicht neu, jedoch führen wir sie immer wieder – auch jetzt in der Debatte um ChatGPT und Co.  Wird generative KI uns die Jobs wegnehmen?

Zunächst mal steigt die Zahl der Erwerbstätigen in Deutschland, trotz mehrerer Dekaden der Automatisierung, stetig. Gleichzeitig haben wir einen enormen Mangel an Arbeitskräften. Da erscheint es paradox, dass vielerorts über den Verlust von Jobs durch KI-Systeme diskutiert wird. Bisher gingen die Diskussionen vor allem um „das Ersetzen“ repetitiver, einfach-strukturierter Aufgaben. Jetzt stehen neue, teils kreative Prozesse wie Bildgenerierung, Musik oder auch Poesie und Text im Mittelpunkt. Tatsächlich könnten einige Tätigkeitsaspekte in Bereichen wie Programmierung, Marketing und Design bereits substituiert werden. Allerdings hängt die Effizienz von generativen, in dem Fall sprachbasierten, KI-Systemen immer von uns selbst und den von uns eingegebenen Aufforderungen, sogenannten Prompts ab. KI-Systeme machen also nicht arbeitslos, sondern es entstehen neue Anforderungen und sie tragen zu einem Wandel von Berufsbildern und Erwerbsbiografien bei.


Ihr erforscht in eurem Projekt, wie sich die Arbeitsprozesse durch generative Sprachmodelle verändern. Was genau wollt ihr untersuchen?

In unserem Projekt „ELIZA reloaded“ untersuchen wir die Veränderung von Wissensarbeit durch die Nutzung generativer-sprachbasierter KI-Systeme am Beispiel ChatGPT und fokussieren uns dabei auf die drei Berufsbranchen Programmierung, Wissenschaft und Coaching.

Wir wollen verstehen, welche Erwartungen und Befürchtungen die Akteure der verschiedenen Berufsgruppen haben und welchen konkreten Nutzen sie durch den Einsatz von ChatGPT erzielen. Zusätzlich untersuchen wir, welche Potenziale und Risiken der Technologie verhandelt werden und inwiefern ChatGPT die jeweiligen Arbeitsprozesse und Berufsrollen verändert. Dafür führen wir u.a. Interviews mit Berufsverbänden, und analysieren Policy-Dokumente oder Positionspapiere. Abschließend werden wir in einem kontrollierten Versuchsaufbau verschiedene wissensintensive Aufgaben am Arbeitsplatz simulieren und diese mit und ohne generative KI-Systeme erproben.
 

Wie müssen wir KI im Kontext des Wandels auf dem Arbeitsmarkt und speziell des Arbeitskräftemangels betrachten?

Generell zeigt die gegenwärtige Entwicklung von KI-Systemen, dass sie teilweise den Arbeitskräftemangel mildern kann. Sie haben großes Potenzial uns in unseren Tätigkeitsfeldern zu unterstützen, einzelne Aufgaben automatisiert zu übernehmen und uns zu entlasten, z.B. in der Verwaltung. Unternehmen, die KI-Systeme effektiv einsetzen, können Engpässe in bestimmten Bereichen überwinden und die Produktivität steigern. Allerdings müssen Arbeitgeber und Entscheidungsträger darauf achten, dass die Einführung von KI-Systemen gezielt auf die Unterstützung der Beschäftigten ausgerichtet ist. Wichtig für die Akzeptanz bei den Beschäftigten sind vor allem transparente Einführungsprozesse und eine spürbare Entlastung.
 

Das klingt vielversprechend. Aber wie steht es um die Produktivität? Macht uns generative KI tatsächlich produktiver? Und welche Gefahren lauern hinter dem Einsatz von KI in Arbeitsprozessen?

Generative KI-Systeme können uns definitiv produktiver machen und das Spektrum unserer Möglichkeiten erweitern. Die Systeme können uns beispielsweise bei der Auswertung großer Datenmengen unterstützen, durch automatisierte Echtzeit Übersetzung unsere Arbeit über Sprachgrenzen hinweg erleichtern oder auch durch den Einsatz von Sprachassistenten und Chatbots Kommunikation und Prozesse vorstrukturieren und Arbeit entlasten.  Die Gefahren liegen jedoch dort, wo KI-Systeme unreflektiert und mit falschen Erwartungen eingesetzt wird. Um sinnvolle Prompts zu formulieren und die Ausgaben der KI-Systeme richtig einordnen können, braucht es eine ausgebildete Urteilskraft und eine dauerhaft kritische Reflexion in der „Mensch-Maschine“-Zusammenarbeit, andernfalls drohen Kurzschlüsse und mögliche Halluzinationen der KI-Systeme. Das heißt, wenn ich als Juristin ChatGPT nach Präzedenzfällen frage, erfindet das System diese, indem es Informationen aus verschiedenen Fällen zusammenstellt, oder es sieht bei der Zusammenfassung wissenschaftlicher medizinischer Artikel „falsche“ Zusammenhänge und zieht fehlerhafte Schlussfolgerungen, die dann unreflektiert übernommen werden. Die Systeme können keine fundierte Recherche in den entsprechenden Datenbanken durchführen.

Darüber hinaus besteht auch die Gefahr einer Monopolisierung der Tech-Landschaft und die Frage nach der Kodifizierung hegemonialen Wissens durch KI-Systeme: Welche vorherrschenden Wissens- und vielleicht auch Weltansichten werden in den Algorithmen festgelegt? Wessen Wertesystem ist in die KI-Systeme einprogrammiert? Also Themen wie Diskriminierung, ebenso wie die Frage nach Arbeitsverdichtung und Überwachung spielen hier eine zentrale Rolle.
 

Gibt es bestimmte Berufsbranchen oder Lohnsegmente, die mehr betroffen sind als andere?

Neu an der jetzigen Diskussion ist das Ausmaß, in der auch geistige Arbeit von der Zusammenarbeit mit KI-Systemen profitieren kann. Hier beobachten wir auch eine zunehmende Nutzung, die bei uns die Frage nach Veränderung von Arbeitsprozessen in der Wissensarbeit aufgeworfen hat. In unserem Projekt untersuchen wir genau das. Nehmen wir Coaching als ein Beispiel, sehen wir hier, dass die Szene generell offen für KI-Systeme wie ChatGPT ist, da sie Effizienzsteigerungen in der Arbeit mit individuellem Coaching und Weiterbildung erhofft.


Wie sollten Arbeitnehmer:innen, Betriebsräte oder Gewerkschaften mit dem Einzug generativer KI in Arbeitsprozesse umgehen?

Gewerkschaften und Betriebsräte sollten sich schon von Anfang an in den Einführungsprozessen einschalten! Entscheidungen über den Einsatz von generativen KI-Systemen prägen sowohl den Beschäftigungsumfang als auch die Arbeitsbedingungen. Es sollte verhandelt werden, dass die Systeme tatsächlich als Instrumente eingesetzt werden können, um Arbeit zu erleichtern. Sollten dabei Tätigkeitsaspekte substituiert werden, ist es wichtig Vereinbarungen über Arbeitsplatzsicherung und mögliche Umschulungen zu treffen. Darüber hinaus ist es natürlich wichtig, den Blick für die Bedeutung menschlicher Kompetenzen in der Zusammenarbeit mit KI-Systemen zu schärfen und entsprechend zu vergüten. Ansonsten sind Rahmenvereinbarungen ein hilfreiches Mittel, in denen die allgemeinen Ziele des Einsatzes von KI-Systemen beschrieben werden und klar formuliert wird, welche negativen Effekte, wie beispielsweise Diskriminierung, Überwachung und Arbeitsverdichtung vermieden werden sollen.


Welche politischen Maßnahmen könnten die Gefahren von KI am Arbeitsplatz begegnen?

In Anbetracht der rasanten Entwicklung von KI-Systemen ist eine kontinuierliche Beobachtung und Regulierung durch politische Instanzen von großer Bedeutung. Das KI-Observatorium des BMAS ermöglicht es, die Entwicklungen auf dem Arbeitsmarkt zu beobachten und frühzeitig auf mögliche Risiken und Herausforderungen zu reagieren und bei Bedarf zu intervenieren. Wichtig ist auch die Regulierung von KI-Systemen über den AI-Act, die Normierungsgremien sowie die betriebliche Mitbestimmung. Diese wurde erst durch das jüngst verabschiedete Betriebsräte-Modernisierungsgesetz gestärkt, sodass jetzt externe Expert:innen hinzugezogen werden können, um sich in technischen Fragen beraten zu lassen.

Vielen Dank für das Gespräch!

 

Ann Katzinski ist Wissenschaftliche Mitarbeiterin der Forschungsgruppe "Arbeiten mit Künstlicher Intelligenz". Im Projekt „ELIZA reloaded“ forscht sie mit Florian Butollo, Anne Krüger, Jennifer Haase und Maximilian Heimstädt zur Veränderung von Wissensarbeit durch die Nutzung generativer sprachbasierter KI-Systeme. Im Fokus stehen drei Bereiche: Programmierung, Wissenschaft und Beratung.

Das Interview führte Leonie Dorn.

Die Reihe künstlich&intelligent? setzt sich in Interviews und Beiträgen mit den neusten Anwendungen von generativen Sprachmodellen und Bildgeneratoren auseinander. Forschende am Weizenbaum-Institut gehen dabei auf die gesellschaftlichen Auswirkungen der Tools ein und begegnen den viel diskutierten Erwartungen und Ängsten mit aktuellen Studien und Forschungsergebnissen. Dabei wird auch der Begriff „Künstliche Intelligenz“ hinterfragt und im Geiste Joseph Weizenbaums die Allwissenheit und Macht dieser Systeme dekonstruiert. Der KI-Pionier und Kritiker, der einen der ersten Chatbots entwickelte, hätte dieses Jahr seinen 100. Geburtstag gefeiert.