Wenn die KI zu allem Ja sagt: Wo Sprachmodelle an ihre Grenzen stoßen
16.11.2026Neue Studie entwickelt Methoden für die LLM-gestützte Auswertung wissenschaftlicher Literatur: Einfache Aufgaben lassen sich zuverlässig durch Sprachmodelle beschleunigen. Ist jedoch Kontextverständnis und Interpretationsvermögen gefordert, bleibt die KI hinter menschlichen Forschenden zurück.
Sprachmodelle können die Auswertung wissenschaftlicher Texte unterstützen, doch wenn es darum geht, Bedeutungen im Kontext zu verstehen und unterschiedliche Interpretationen abzuwägen, stoßen sie an Grenzen. Das zeigt eine interdisziplinäre Studie, die im International Journal of Qualitative Methods erschienen ist.
Das Forschungsteam entwickelte Verfahren für den Einsatz von LLMs in der qualitativen Literaturanalyse. Aufgaben mit unterschiedlicher Komplexität können dabei KI-gestützt bearbeitet werden, ohne auf hohe wissenschaftliche Standards zu verzichten. Mit „PACO“ stellt das Team eine frei verfügbare Python-Pipeline bereit, mit der die dargestellten Verfahren zur LLM-gestützten Kodierung, Reliabilitätsprüfung und Qualitätssicherung leicht reproduziert werden können.
Die Studie zeigt: Wie zuverlässig Sprachmodelle arbeiten, hängt wesentlich von der Komplexität der jeweiligen Aufgabe ab. Bei vergleichsweise einfachen Aufgaben, etwa der Klassifikation von Texten oder der Extraktion bestimmter Informationen, lassen sich relativ zügig gute Ergebnisse erzielen. Bei komplexeren Aufgaben hingegen, zum Beispiel wenn implizite Bedeutungsinhalte interpretiert, viele Kategorien berücksichtigt oder Kontext mitbetrachtet werden muss, steigt auch der Aufwand für die Anpassung der Modelle erheblich.
Im Verlauf der Studie dokumentierten die Forschenden viele Herausforderungen beim Einsatz von Sprachmodellen, von halluzinierten Textbelegen bis hin zu algorithmischen Vorannahmen. Für viele Probleme entwickelten sie Lösungen und automatische Prüfschritte, die sie in ihre Verfahren integrierten.
Sycophancy – wenn die KI lieber zustimmt, als kritisch mitzudenken
Beispiele aus der Studie illustrieren die Grenzen künstlicher Intelligenz in der Wissensarbeit: Während menschliche Kodierer:innen Unstimmigkeiten diskutierten, um ein gemeinsames Interpretationsverständnis zu entwickeln, stimmte die KI den Vorschlägen der Forschenden vorschnell zu und verwarf eigene Vorschläge, anstatt in einen kritischen Dialog zu treten. Sprachmodelle, so die Autor:innen der Studie, seien darauf geeicht, Antworten zu produzieren, die dem Gegenüber gefallen. Komplexe Textinterpretation erfordere jedoch ein differenziertes Verständnis von Bedeutung und Kontext, das sich nur durch eine kritische gemeinsame Auseinandersetzung mit dem Material erreichen ließe. Eine solche Auseinandersetzung komme mit einem Sprachmodell jedoch nicht zustande.
Bloß keine Schwäche zeigen – Vermeidung von Unsicherheitsoptionen und Überschätzung der eigenen Fähigkeiten
Wiederholt dokumentierten die Forschenden in Dialogen, dass das LLM die Tendenz zeigte, Unsicherheitsoptionen zu vermeiden und bestehende Unklarheiten nicht als solche zu kennzeichnen. Häufig vergab das Modell eher eine offensichtlich falsche Kategorie, als auf die eigens für unsichere Fälle vorgesehene n/a-Option zurückzugreifen. In einem weiteren Fall bezeichnete das LLM entwickelte Anwendungsregeln wiederholt als „perfekt verständlich“, war jedoch weiterhin nicht in der Lage sie umzusetzen.
Bias: Wenn die KI unbewusst Zusammenhänge unterstellt
Auch Verzerrungen durch stereotype Assoziationen können die Ergebnisse beeinflussen. In einem Beispiel ordnete das Sprachmodell eine Studie über den Nutzen generativer KI für autistische Beschäftigte wiederholt dem Berufsfeld Gesundheitswesen zu – obwohl dieses im Abstract gar nicht erwähnt wurde. Offenbar verband das Modell Autismus mit Krankheit und leitete daraus einen Zusammenhang mit dem Gesundheitswesen ab.
„KI kann menschliche Wissensarbeit nicht einfach ersetzen. Sie kann viele einzelne Arbeitsschritte unterstützen, aber es braucht selbst für einfache Aufgaben gründliche Entwicklungsprozesse und umfangreiche Qualitätssicherung, bis das Modell den Arbeitsauftrag zuverlässig umsetzen kann“, sagt Dr. Esther Görnemann, Referentin Forschungssynthesen am Weizenbaum-Institut. „Sprachmodellen fehlt der Zugang zur tatsächlichen Bedeutung dessen, was sie verarbeiten. Und weil sie uns so schnell zustimmen, ist eine echte Diskussion nuancierter Bedeutungen, wie sie in menschlichen Teams stattfindet, kaum möglich.“
Die Forschenden ziehen daraus eine klare Schlussfolgerung: Sprachmodelle können qualitative Forschung unterstützen, insbesondere bei weniger interpretationsintensiven Aufgaben. Trotzdem ist eine sorgfältige menschliche Prüfung unverzichtbar, vor allem, wenn es um komplexe, subtile oder implizite Bedeutungszusammenhänge geht, oder wenn Kontextwissen erforderlich wird.
Interdisziplinäre Zusammenarbeit
An der Studie waren Forschende aus Wirtschaftsinformatik, Kommunikationswissenschaft, Volkswirtschaft und Informatik beteiligt. Neben dem Weizenbaum-Institut wirkten die Ludwig-Maximilians-Universität München, die Universität Hamburg, das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI), singularIT und das Oxford Internet Institute der University of Oxford mit.
Publikation: Görnemann, E., Greminger, L., Mendikowski, M., Hartwig, M. & Barop, J. (2026): Reproducible Workflows for LLM-Assisted Qualitative Coding and Text Classification in Systematic Literature Reviews. International Journal of Qualitative Methods.
Förderung: Die Studie ging aus dem Projekt GENKIA hervor (gefördert vom Bundesministerium für Arbeit und Soziales). Die Publikationskosten wurden aus Mitteln des Bundesministeriums für Forschung, Technologie und Raumfahrt getragen.