Was sagt mir KI über meinen Beruf?

Schon vor mehr als zwei Jahren wird Ende 2022 ein neues Sprachmodell veröffentlicht, das schlagartig in allen möglichen Bereichen der Wissensarbeit zum Einsatz kommen wird. Die Rede ist natürlich von GPT 4, auf dem der mittlerweile weltbekannte Bot ChatGPT basiert. Neben lustigen Spielereien schürt das Tool Ängste vor Arbeitsplatzverlusten und Massenarbeitslosigkeit sowie die Überhöhung von KI zu Supercomputern mit übernatürlichen Kräften und Gefahren für die Menschheit. Der Hype erreicht 2023 seinen Höhepunkt, ausgerechnet in dem Jahr, in dem der Erfinder des ersten Chatbots ELIZA und große KI-Kritiker Joseph Weizenbaum 100 Jahre alt geworden wäre.

Knapp ein halbes Jahr nach der Veröffentlichung von ChatGPT startet am Weizenbaum-Institut das Forschungsprojekt ELIZA reloaded. Es untersucht die Befürchtungen, Erwartungen und tatsächlichen Veränderungen durch generative Sprachmodelle in den Bereichen Programmierung, Coaching und Wissenschaft. „Nach der Veröffentlichung von ChatGPT wurde sehr schnell klar, dass dieses Tool und generell Large Language Models einen zentralen Einfluss auf die Wissensarbeit haben werden. Als Forscher:innen am Weizenbaum-Institut sehen wir es als eine zentrale Aufgabe an, diese aktuellen Entwicklungen zu beobachten und ihre Auswirkungen wissenschaftlich zu untersuchen“, so Anne Krüger, die im Projekt das Berufsfeld Wissenschaft genauer untersucht hat.

Dazu wurden einerseits politische Dokumente und Positionspapiere zu Risiken und Potenzialen der Technologie analysiert, Interviews mit Expert:innen aus den jeweiligen Berufsverbänden geführt und schließlich Experimente durchgeführt, bei denen bestimmte Aufgaben mit und ohne KI-Systeme gelöst werden mussten. Untersucht wurde also nicht nur, ob und wie die Tools genutzt werden, sondern auch, welche Risiken diesbezüglich bei Coaches, Entwickler:innen und Wissenschaftler:innen diskutiert werden und wie sich Arbeitsprozesse und Rollen mit der Anwendung verändern. „Das ist bei der enormen Dynamik im Feld der KI nicht immer einfach“, sagt Ann Katzinski, die das Berufsfeld Programmierung untersucht hat. „Es entstehen ständig neue Modelle und Anwendungen, weshalb ein tieferes Verständnis ihrer tatsächlichen Rolle in verschiedenen Berufsfeldern und auf unterschiedlichen Qualifikationsniveaus dringend erforderlich ist.“

KI kann Menschen nicht ersetzen, regt aber zum Nachdenken über die eigene Tätigkeit an

Nach fast zwei Jahren Forschung ist klar, dass trotz technischer Durchbrüche generative KI kein Äquivalent zur menschlichen Intelligenz darstellt. Nicht nur wird generative KI erst durch menschliche Arbeit nutzbar, auch ihre Einführung macht Arbeit, heißt es in einem Papier der Wissenschaftler:innen. „Unsere Ergebnisse widerlegen die Erwartung, dass menschliche Expertise und Fähigkeiten an Bedeutung verlieren. Im Gegenteil: Diskussionen und Erfahrungen mit generativer KI helfen, den Kern beruflicher Identität zu schärfen und aufzuwerten“, sagt Katzinski. Schließlich seien Berufe mehr als die Summe einzelner Arbeitsaufgaben. Sie beinhalten erfahrungsbasiertes und implizites Wissen darüber, wie Arbeitsschritte zu strukturieren, vorzubereiten und zu interpretieren sind - Aspekte, die Maschinen nur schwer nachahmen können, erklärt die Forscherin.

Die Forschung zeigt aber auch, dass es nach wie vor Bedenken hinsichtlich der Erosion von Berufen gibt, insbesondere durch eine mögliche Verschlechterung der Qualität von Produkten und Dienstleistungen, wenn automatisierte „gut genug“-Versionen früherer Angebote zur Norm werden.
 

Neue Fragen, mehr Berufsfelder

Jetzt geht das Folgeprojekt GENKIA (Generative KI in der Arbeitswelt) in die nächste Runde. Im Verbund mit Wissenschaftler:innen des Wissenschaftszentrums Berlin für Sozialwissenschaft und des Alexander von Humboldt-Instituts für Internet und Gesellschaft erforschen sie systematisch, wie generative KI konkret Arbeitsprozesse in fünf zentralen Berufsfeldern verändert: Marketing, Personalmanagement, Programmierung, Journalismus und öffentliche Verwaltung. „Die Forschungsergebnisse von ELIZA reloaded haben gezeigt, dass generative KI in der Wissensarbeit eine immer größere Rolle spielt – im Hinblick auf berufliche Identitäten, Arbeitsprozesse und die Qualität der Arbeitsergebnisse. Im Projekt GENKIA wird dies nun genauer untersucht. Dabei beleuchten wir sowohl Chancen als auch Risiken, etwa im Hinblick auf Produktivität, Qualität und mögliche Verdrängungseffekte“, so Katzinski.

Wissenschaft

In einem zweiten Folgeprojekt KIWi (Generative KI in der Wissenschaft) untersuchen Anne Krüger und ihr Team erstmals qualitativ, wie generative KI-Werkzeuge derzeit in verschiedenen Disziplinen eingesetzt werden, welche Rolle sie im Erkenntnisprozess spielen und ob und wie sich die wissenschaftliche Praxis dadurch verändert.

Seit der Veröffentlichung von ChatGPT wurden zahlreiche Tools entwickelt, die speziell auf die Wissenschaft ausgerichtet sind und eine Vielzahl von Tätigkeiten von der Literaturrecherche bis zur Entwicklung neuer Forschungsfragen übernehmen sollen. Quantitative Erhebungen haben bereits gezeigt, dass sich die Nutzung dieser Werkzeuge auch in Forschungseinrichtungen zunehmend verbreitet. Dies ist jedoch nicht unumstritten. „An verschiedenen Stellen sind Diskussionen darüber entbrannt, in welchem Umfang solche Werkzeuge für welche Aufgaben eingesetzt werden dürfen - von der Datenanalyse bis zur wissenschaftlichen Begutachtung“, sagt Krüger.

Journalismus

Nicht weniger Fragen wirft der Einsatz von generativer KI im Journalismus auf. Große Medienhäuser und öffentlich-rechtliche Sender haben mit ihren KI-Laboren Räume zum Experimentieren und Kooperieren geschaffen, doch Gewerkschaften kritisieren, dass es an Strategien und gemeinsamen, einheitlichen Leitlinien fehle, erklärt Christine Gerber, die das Berufsfeld erforscht.

Dabei sind die Einsatzmöglichkeiten fast grenzenlos: von der Datenanalyse über kleine Textarbeiten für Teaser, Überschriften und Social Media bis hin zu Transkriptionen oder Archivrecherchen. Auch dies nährt Befürchtungen von Arbeitsverdichtung und Job-Abbau. Dies werde sich aber erst langfristig zeigen, so die Forscherin.

Nicht zuletzt müsse man grundsätzliche Diskussionen rund um Fragen der freien Datenarbeit und des Urheberrechts führen, meint Gerber. „Wenn Texte von Journalist:innen als Trainingsgrundlage für Sprachmodelle genutzt werden, müssen Formen der Beteiligung geschaffen werden. Journalismus ist eine wichtige Säule der Gesellschaft. Die Neugestaltung dieser Arbeit hat auch gesellschaftspolitische Aspekte“.

Software-Entwicklung

Diskussionen darüber, wie Programmierer:innen generative KI-Tools anwenden, sind zumindest gut sichtbar und lassen sich über die Online-Foren Stack Overflow und Reddit verfolgen. „Diese Plattformen sind zentrale Orte für den Austausch über Chancen, Risiken und neue Dynamiken in der Zusammenarbeit zwischen Mensch und KI. Unsere netnographische Forschung untersucht diese Diskussionen, um zu verstehen, wie sich Berufsbilder und Arbeitsweisen langfristig verändern“, erklärt Ann Katzinski. Den direkten Austausch mit den Entwickler:innen scheuen die Forscher:innen aber nicht. Auf dem Chaos Communication Congress, dem jährlichen Treffen der europäischen Hackerszene, veranstalteten sie im Rahmen des Projekts einen Workshop – und der Andrang war groß.

Softwareentwickler:innen setzen zunehmend KI-gestützte Tools wie GitHub Copilot oder ChatGPT ein, was neue Herausforderungen für die Qualitätssicherung, aber auch die eigene Arbeitsbelastung mit sich bringt. Vorteile sind zum Beispiel eine Beschleunigung der Entwicklung, wenn Programmierer:innen repetitive Aufgaben auslagern und mehr Fokus auf kreative und strategische Aspekte legen können. Auch die Qualität des Codes kann sich verbessern, wenn die KI Best Practices vorschlägt. KI-generierter Code kann jedoch auch Sicherheitslücken oder ineffiziente Strukturen enthalten, was erhebliche Risiken birgt. Die Validierung und Optimierung von generiertem Code wird daher immer wichtiger, ebenso wie das Prompting. generative KI-Werkzeuge können somit auch den Einstieg in das Berufsfeld erleichtern, da Personen ohne klassische Programmierausbildung mit No-Code/Low-Code-Ansätzen Software entwickeln können.

Da Softwareentwicklung ein zentraler Bestandteil der digitalen Gesellschaft und auch der KI-Branche selbst ist, können solche Werkzeuge die Produktivität steigern, aber auch bestehende Hierarchien und Geschäftsmodelle verändern.

Öffentliche Verwaltung

Auf kommunaler, Landes- und Bundesebene nutzen bereits einige Behörden genAI, z.B. in Form von Textassistenten oder für bestimmte interne Arbeitsprozesse. Für den Einsatz in der Verwaltung gelten jedoch besondere Rahmenbedingungen. „Neben dem Schutz sensibler Daten von Bürger:innen müssen auch stets bestimmte Qualitätsanforderungen erfüllt werden – insbesondere wenn es um die Erbringung staatlicher Dienstleistungen geht“, erläutert Forscherin Mareike Sirman-Winkler. In einem zweistufigen Experiment untersucht sie empirisch, welchen Zusammenhang es zwischen dem Einsatz generativer KI und der Produktivität von Verwaltungsmitarbeiter:innen sowie der Qualität der Arbeitsergebnisse gibt.

In einer ersten Phase werden die teilnehmenden Mitarbeiter:innen von Kommunalverwaltungen in zwei Gruppen aufgeteilt. Der Experimentalgruppe wird eine generative KI zur Bearbeitung einer typischen Verwaltungsaufgabe zur Verfügung gestellt, der Kontrollgruppe nicht. Danach bewertet eine repräsentative Stichprobe von Bürger:innen in einem Online-Survey, ob die Experimentalgruppe mit genAI bessere Arbeitsergebnisse erzielt.

„Durch das experimentelle Setting der Studie können wir generative KI in der Verwaltung nicht nur sicher testen, sondern auch Daten erheben, die Rückschlüsse auf kausale Effekte dieser Tools in der Verwaltung zulassen“, erklärt Sirman-Winkler.

Die Ergebnisse fließen in eine polarisierte Debatte

Die Ergebnisse fließen zwar primär in die Wissenschaft und die Grundlagenforschung ein. Gleichzeitig sind Akteure aus Praxis und Politik sowie die breite Öffentlichkeit wichtige Zielgruppen. Das bedeutet allerdings, eine Debatte einzufangen, die zwischen plötzlichen Produktivitätssprüngen einerseits und Massenarbeitslosigkeit andererseits hin und her pendelt. Esther Görnemann will genau diesen Kontext aufarbeiten. Sie ist im Projekt GENKIA für die Forschungssynthese zuständig und erarbeitet einen aktuellen Forschungsstand darüber, welche Auswirkungen von generativer KI auf Arbeit und Beschäftigung bereits untersucht und nachgewiesen wurden. Dann wendet sie sich den Veröffentlichungen der Beratungsindustrie zu. „In deren Berichten ist häufig von enormen Substitutionspotenzialen die Rede, teilweise wird generative KI als Pauschallösung für den Fachkräftemangel angepriesen. Wir wollen überprüfen, ob solche Annahmen dem Stand der Forschung entsprechen und wie gut sie belegt sind“, sagt Görnemann.

Neben den wissenschaftlichen Untersuchungen experimentieren die Wissenschaftler:innen auch selbst viel mit der Technologie. So ist bereits ein komplett KI-generierter Podcast entstanden, der das Vorhaben des Projekts vorstellt und diskutiert – und dabei verblüffend echt klingt.

Die beiden Projekte laufen noch bis September 2026 bzw. 2027, bis dahin dürfen wir uns noch auf Blogposts, Veranstaltungen, wissenschaftliche Paper und ein neues Weizenbaum Fundamental zu generativer KI freuen.
 

Mehr erfahren:

• Zum Projekt ELIZA reloaded
   

• Zum Projekt GENKIA
   

• Zum Projekt KIWi
   

• Discussion Paper: Die Symbiose von generativer KI und Arbeit