Was steckt hinter dem Ruf nach einer Verlangsamung der KI-Entwicklung?

Um was genau handelt es sich bei den Forderungen?

Die Forderungen gingen aus von Dario Amodei, dem CEO von Anthropic, einem führenden KI-Entwicklungs-Unternehmen, die CEOs von OpenAI und Grok schlossen sich an. Die Forderungen sind als systematische Verlangsamung der Entwicklung von KI-Modellen formuliert. Sie zielen darauf ab, sogenannte KI-Labs zu regulieren, also Unternehmen, die neue KI-Modelle und Systeme entwickeln. Es geht nicht um KI-Regulierung in nachgelagerten Anwendungsfeldern wie Produktion, Medizin, Bildung oder Verwaltung.

Die Forderungen verlaufen grob entlang von drei Linien. Erstens sollen unabhängige Prüfer dauerhaft in KI-Labs eingebunden werden, um Sicherheitsstandards, Transparenz und Vertrauen zu gewährleisten. Zweitens sollen sich „demokratische Staaten“ besser abstimmen, um KI-Entwicklung in anderen, „autoritären Staaten“ zu begrenzen. Drittens soll die Koordination auf der globalen Ebene verbessert werden, um Bedrohungen durch beispielsweise Bio- und Cyberterrorismus zu reduzieren.

Wie ist das aus einer polit-ökonomischen Perspektive zu bewerten?

Es besteht eine enge Verbindung zwischen der US-amerikanischen KI-Industrie und der Politik in Washington. Das gemeinsame Ziel ist es, die internationale Wettbewerbsfähigkeit der US-amerikanischen KI-Industrie zu stärken, ihre Technologien weltweit zu verbreiten und die technologische Führungsrolle der USA auszubauen.

Die Forderungen nach strengeren Regeln dienen insbesondere diesem Zweck. Sie sollen signalisieren, dass man die Entwicklung von KI-Technologie vorsichtiger angehen muss, wenn man international wirklich erfolgreich sein will, also die traditionellen Verbündeten nicht verlieren und China den Vortritt überlassen will. Natürlich hat China sofort abgewunken. Es positioniert sich ja selbst als Advokat der globalen KI-Regulierung. Übrigens genau wie die EU, die allerdings bislang über deutlich geringere eigene KI-Kapazitäten verfügt.

Geht es auch um die wirtschaftlichen Interessen der KI-Labs?

Ja, auch. Aktuell fließen massive Investitionen in den KI-Sektor, nicht zuletzt wegen der großen Einigkeit darüber, dass KI aus den USA die beste ist und das globale Rennen gewinnen muss.  Einige Analysten warnen bereits vor einer möglichen Überbewertung im KI-Sektor. Jetzt scheren aber die so wichtigen KI-Labs aus und melden Zweifel an. Das ist potenziell schlecht fürs Geschäft und trübt die gute Stimmung an den Handelsplätzen. Die KI-Labs sind natürlich sehr vorsichtig. Sie betonen, dass die Verlangsamung der KI-Entwicklung keinen Investitionsrückgang bedeutet. Es ist der Versuch einer behutsamen Kurskorrektur, um das eigentliche Projekt der US-KI weiterzuverfolgen.

Geht es bei den Forderungen nur um die Interessen der KI-Industrie?

Ja und nein. Das war ja nur das große Bild. Die Details sind komplizierter. Kritische Kommentare sollten so gut es geht aus aktuellen empirischen Entwicklungen abgeleitet werden. Das sage ich, weil viele Tech-Kritiker schon wieder zu den typischen Argumenten greifen. Es heißt zum Beispiel, dass die Forderung nach mehr Regeln nur eine Strategie ist, KI-Systemen katastrophale Übermacht zuzuschreiben und somit Medienhype zu erzeugen. Damit will die KI-Industrie nur ihre eigene Expertise unverzichtbar machen, von den real-existierenden Problemen von KI ablenken, KI-Technologie als  unvermeidlich darstellen und für die Selbstregulierung der Industrie werben. Wahrscheinlich ist an all diesen Argumenten etwas Wahres dran.

Ich denke aber, dass reale Gefahren von der Technologie ausgehen können und dass das den Entwicklern in den führenden KI-Labs immer klarer wird. Die wollen sich nicht nur als legitime und vertrauenswürdige Unternehmen positionieren und ihren kommenden Börsengang noch erfolgreicher machen. Sie sehen, wie ihre Systeme besser und somit gefährlicher werden. Und zu den wirklich kritischen Daten aus Industrieproduktion, Patientenversorgung, staatlicher Verwaltung oder Forschung und Entwicklung haben sie noch keinen systematischen Zugang. Obwohl – das Feld der Mathematik scheint sich gerade in den schönen neuen neuronalen Netzwerken aufzulösen. Da haben die Labs bereits guten Zugang. Beispielsweise gibt es aktuell viel Wirbel darum, ob nicht eines der wichtigsten mathematischen Probleme von OpenAI gelöst wurde, oder doch von den Mathematikern, die mit OpenAI-Produkten gearbeitet haben.

Welche realen Risiken sehen die KI-Labs?

Es ist nicht mehr so wie noch im Frühjahr 2023, wo führende Entwickler und CEOs nach einem Stopp der KI-Entwicklung verlangt haben, ohne dass auch nur einer von ihnen wirklich auf die Bremse getreten ist. Die Zeiten ändern sich und die technologische Entwicklung schreitet voran.

Wenn klar wird, dass Kriminelle, System-Antagonisten oder einfach nur der Zufall selbst größere Schäden verursachen durch Produkte von KI-Labs, dann entstehen Debatten über Verantwortung, Haftung und Regulierung, die sich nicht mehr allein mit Innovationsversprechen und Selbstregulierung beantworten lassen. Was denken wohl die Verantwortlichen in Krankenhäusern, Logistikunternehmen, Biotechnologie-Firmen oder bei Polizei und Militär, wenn sie hören, dass intelligente autonome KI-Agenten in ihren Systemen herumgeistern und komische Dinge anstellen?

Überspitzt formuliert – hypothetisch – könnte das Vorhaben der US-amerikanischen KI-Vorherrschaft auf ernsthafte Hindernisse stoßen, wenn sich der Rest der Welt aufgrund der möglichen Gefahren für eine andere Organisation der KI-Industrie entscheidet.

Welche Konflikte entstehen innerhalb der KI-Industrie?

Ich denke, dass in den USA langsam Zweifel aufkommen, ob das Innovationsmodell des „erst probieren, dann regulieren“ in Sachen KI eine wirklich so gute Idee ist. Es dämmert die Erkenntnis, dass andere Strategien vielleicht doch nachhaltiger und somit attraktiver für den Rest der Welt sind. Die USA und ihre KI-Champions könnten schlichtweg die nötige Anerkennung verlieren.

Das Bewusstsein über das Dilemma der US-amerikanischen „Anything Goes“-Innovationsstrategie macht sich übrigens auch bemerkbar an der intensiver werdenden ideologischen Auseinandersetzung innerhalb der KI-Entwickler-Szene. Sogenannte Accelerationisten wollen radikale Innovation, oft mit dem Argument, dass nur so wahrhafter Fortschritt erlangt und China im Abseits gehalten werden kann. Altruisten hingegen priorisieren Sicherheit und Kontrolle, weil sie die Risiken ungebremster KI-Entwicklung für zu groß halten. Ich rechne damit, dass derartige Konflikte stärker werden, wenn die Technologie voranschreitet und ihre Effekte besser sichtbar werden.

Wie konfliktreich die Lage mittlerweile ist, sieht man zudem daran, wie der US-Präsident auf die Forderung nach Regulierung reagiert hat. Er meinte zunächst, dass die Gefahr, die von KI ausgeht, eine Verschwörung ist wie der Klimawandel; dass man den Investment-Boom bloß nicht verunsichern sollte; dass China sonst gewinnen würde; und dass es einfach einen smarten Führer braucht wie ihn. Ein paar Tage später hat er zurückgerudert und die Einrichtung einer „AI Force“ angekündigt, die die Entwicklung von KI zwar nicht regulieren, aber behördlich begleiten soll.

Über Sebastian Koth

Sebastian Koth ist Wissenschaftler am Weizenbaum-Institut und forscht in der Forschungsgruppe Reorganisation von Wissenspraktiken zu digitalen Märkten, ihren Strukturen und den Machtverhältnissen zwischen Unternehmen, Politik und Gesellschaft. Das Weizenbaum-Institut erforscht die Auswirkungen der Digitalisierung auf Gesellschaft, Wirtschaft und Politik und entwickelt daraus wissenschaftlich fundierte Perspektiven für die Gestaltung der digitalen Gesellschaft.