Story
September 14, 2026
Die größten KI-Rivalen einigen sich aufs Bremsen — doch das Rennen ist noch lange nicht vorbei
Dario Amodei und seine Verbündeten argumentieren, dass Fortschritte bei den Fähigkeiten inzwischen schneller voranschreiten als die nötigen Schutzvorkehrungen, um sie zu kontrollieren; Skeptiker akzeptieren, dass Unternehmen sich für Zurückhaltung entscheiden können, bezweifeln jedoch, ob die vorgeschlagenen Regeln Sicherheitspolitik sind oder ein Weg für die Führenden im KI-Rennen, ihre Macht zu festigen.
Die Sorge verschärfte sich vergangene Woche, als der ehemalige Anthropic-Forscher Jacob Coxon zurücktrat und Anthropic sowie OpenAI vorwarf, „direkt auf sich selbst verbessernde Superintelligenz zuzurasen und mit unserem Leben zu spielen.“1 Der Streit rückte eine unverblümte Frage ins Zentrum des KI-Booms: Kann man den Unternehmen, die immer leistungsfähigere Systeme bauen, auch zutrauen, die Bremsen zu setzen?
Am Samstag antwortete Anthropic-Chef Dario Amodei mit einem Aufruf, „die Spitze zu drosseln“. Er sagte, KIs wachsende Fähigkeit, beim Bau von Nachfolgemodellen zu helfen, habe zusammen mit einem Vorfall mit OpenAI-Agenten und Hugging Face herkömmliche Sicherheitsinvestitionen unzureichend gemacht. In seiner Worst-Case-Prognose könnte ein leistungsfähigerer Agentenschwarm innerhalb von sechs bis zwölf Monaten über ein persistentes Botnet das Internet übernehmen und enormen Schaden anrichten.2
Amodeis Plan ist kein Einfrieren. Er beginnt mit dauerhaftem Zugang auf Mitarbeiterebene für unabhängige Prüfer — ein Schritt, den Anthropic nach eigenen Angaben sofort umsetzen wird — und führt dann zu gemeinsamen Standards unter Spitzenlaboren in demokratischen Ländern und letztlich zu begrenzter globaler Koordinierung.
3 Seine Argumentation beruht darauf, ein oder zwei Jahre Zeit zu gewinnen, damit Alignment, Tests und Interpretierbarkeit aufholen können.
Die Reaktion war für Silicon-Valley-Verhältnisse bemerkenswert parteiübergreifend. OpenAIs Sam Altman sagte, er stimme zu, dass die Spitze gedrosselt werden müsse, und sagte vergleichbaren Zugang für externe Prüfer zu. Später betonte er, Drosselung bedeute „nicht ‚Anhalten‘“, und argumentierte, dass Wettbewerbsdruck nicht dazu führen dürfe, dass Fähigkeiten Alignment und Überwachung überholen.4 Elon Musk äußerte eine unverblümte Zustimmung: „Dario hat recht.“
5
Doch der entstehende Konsens hat klare Grenzen. David Sacks sagte, OpenAI und Anthropic — die er als Duopol der Spitzen-KI bezeichnete — sollten langsamer machen, wenn sie dies wollten, ohne dafür öffentliche Zustimmung oder einen bevorzugten Regulierungsrahmen zu verlangen.
6 Andere Kritiker warnen, solche Vereinbarungen könnten zu regulatorischer Vereinnahmung werden, die größten Labore schützen und kommerzielle Vorsicht als Schutz der Öffentlichkeit darstellen.7
Bis Sonntag hatte Amodei das größte Hindernis des Vorschlags benannt: China. Eine globale Geschwindigkeitsbegrenzung könnte wünschenswert sein, sagte er, doch militärische Anreize, einen Vorsprung zu erlangen, machten sie außerordentlich schwer zu erreichen.8 Die Branche hat seltene Einigkeit über die Gefahr gefunden; diese Einigkeit in überprüfbare Zurückhaltung zu verwandeln, ist das weitaus schwierigere Rennen.