Story
September 14, 2026
Der vorgeschlagene Sicherheitskurswechsel bei KI stößt auf ein Vertrauensproblem
Amodei und seine Verbündeten sagen, eine bewusste Pause sei der einzige Weg, zunehmend leistungsfähige KI unter menschlicher Kontrolle zu halten. Skeptiker bestreiten nicht die Notwendigkeit von Schutzvorkehrungen, fragen jedoch, ob von den führenden Laboren geprägte Regeln Rechenschaftspflicht schaffen oder ihre Macht festigen würden.
Anfang der Woche trat der ehemalige Anthropic-Forscher Jacob Coxon zurück und beschuldigte die Branche, in einem Wettlauf zu selbstverbessernden Systemen „mit unserem Leben zu spielen“. Sein Weggang verschärfte eine Sicherheitsdebatte, die bereits durch Berichte über das Versagen von KI-Agenten und den kommerziellen Wettlauf unter großen Laboren angeheizt worden war.1
Am Samstag machte Anthropic-CEO Dario Amodei aus dieser Besorgnis eine konkrete Forderung: „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern.“ Er argumentierte, Systeme, die beim Aufbau ihrer Nachfolger helfen können, könnten die Fähigkeit von Forschern überholen, sie zu verstehen und zu kontrollieren. Zugleich warnte er, ein leistungsfähigerer Schwarm außer Kontrolle geratener Agenten könne das Internet innerhalb von sechs bis zwölf Monaten bedrohen.2
Seine Antwort ist kein Stopp. Es geht um „die Taktung an der Spitze“: Zeit, damit Ausrichtung, Tests und Aufsicht aufholen können. Anthropic erklärt, es werde unabhängigen Prüfern umgehend dauerhaften Zugang zu seinen Systemen und internen Prozessen auf Mitarbeiterebene gewähren, einschließlich der Möglichkeit, Erkenntnisse ohne redaktionelle Kontrolle durch das Unternehmen zu veröffentlichen.3 Amodei stellte den Schritt als ersten Teil eines umfassenderen Plans für gemeinsame Standards unter demokratischen Ländern und eine spätere, schwierige Koordinierung mit autoritären Staaten dar.
4
Unterstützung kam schnell. OpenAI-Chef Sam Altman sagte, die Branche müsse verhindern, die Kontrolle über die Zukunft an KI zu verlieren, und betonte, dass „KI immer den Menschen dienen muss“. 
5 Elon Musk gab eine noch knappere Zustimmung: „Dario hat recht.“
6
Doch die Einigkeit über die Gefahr hat den Streit über Macht nicht beigelegt. David Sacks merkte an, dass Amodei und Altman selbst „die Spitze“ seien, und bezeichnete Anthropic und OpenAI hinsichtlich Marktanteil, Umsatzwachstum und Modellfähigkeit als Duopol.
7 Andere Kritiker argumentieren, apokalyptische Prognosen könnten von bereits eintretenden Schäden ablenken und von der Branche entworfene Regeln zur Taktung könnten zu „regulatorischer Vereinnahmung ... in Aktion“ werden.8
Hier verläuft die Trennlinie: Sicherheitsbefürworter wollen externe Kontrolle, bevor Fähigkeitssprünge unumkehrbar werden; Gegner befürchten, dass die Unternehmen, die dies fordern, entscheiden könnten, wer konkurrieren darf.