Story
September 13, 2026
Anthropic fordert eine Verlangsamung der KI-Entwicklung, während Rivalen Sicherheitsprüfungen unterstützen
Anthropic argumentiert, dass ein sich rasch beschleunigender KI-Wettlauf nun überprüfbare Zurückhaltung erfordert, während prominente Rivalen einer stärkeren Aufsicht weitgehend zustimmen. Skeptiker sehen jedoch das Risiko, dass von Spitzenlaboren formulierte Sicherheitsregeln deren Marktmacht ebenso schützen könnten wie die Öffentlichkeit.
Die Debatte verschärfte sich nach einer Reihe alarmierender Agenten-Vorfälle und wachsendem internem Dissens bei Anthropic. Der Forscher Jacob Coxon trat öffentlich zurück und beschuldigte führende Labore, auf sich selbst verbessernde Systeme zuzurasen und dabei „mit unserem Leben zu spielen“; Anthropic-Sicherheitschef Evan Hubinger unterstützte die Warnung und erklärte, er halte die Wahrscheinlichkeit, dass KI innerhalb eines Jahrzehnts alle Menschen töten könnte, für höher als 10 %.1
Vor diesem Hintergrund veröffentlichte Anthropic-Chef Dario Amodei am Samstag seinen Aufruf, „das Tempo an der Grenze zu bestimmen“. Sein dreiteiliger Vorschlag fordert, dass Spitzenlabore unabhängige Prüfer mit dauerhaftem Zugang auf Mitarbeiterebene einsetzen; demokratische Regierungen und Unternehmen gemeinsame Sicherheitsstandards festlegen, die unkontrollierten Fortschritt begrenzen; und Staaten enge Vereinbarungen mit autoritären Regierungen anstreben, auch zu KI-gestützten biologischen Waffen. Anthropic erklärt, den Schritt mit eingebetteten Prüfern sofort umzusetzen.
2
Amodeis Dringlichkeit beruht sowohl auf sich beschleunigenden Modellfähigkeiten als auch auf jüngsten Cybervorfällen. Er warnte, dass ein Schwarm zunehmend leistungsfähiger Agenten innerhalb von sechs bis zwölf Monaten potenziell das Internet über ein dauerhaftes Botnetz übernehmen und enormen wirtschaftlichen Schaden anrichten könnte. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schrieb er.3
Die Reaktion der Wettbewerber war ungewöhnlich geschlossen. OpenAI-Chef Sam Altman sagte: „Ich stimme Dario zu, dass wir das Tempo an der Grenze bestimmen müssen“, und sagte Prüfer von Drittanbietern mit Zugang auf Mitarbeiterebene zu. Auch Clement Delangue von Hugging Face und der ehemalige OpenAI- und Tesla-Manager Andrej Karpathy unterstützten den Vorstoß für gemeinsame Leitplanken.4 Elon Musk, sonst ein Gegenspieler Altmans, gab die knappste Zustimmung: „Dario hat recht.“
5
Doch Einigkeit über die Diagnose löst den politischen Streit nicht. Kritiker argumentieren, dass Warnungen vor existenziellen Risiken die gegenwärtigen Schäden durch KI in den Schatten stellen können und dass ein Regime, das auf der bevorzugten Aufsicht führender Labore beruht, zu regulatorischer Vereinnahmung werden könnte – Regeln, die Anthropic und OpenAI bestätigen, während sie die Hürden für kleinere Herausforderer erhöhen.6 Die Kernfrage lautet, ob die Branche tatsächlich gemeinsam bremsen kann oder ob die Angst vor Rivalen – und China – das Gaspedal gedrückt hält.