Story
September 13, 2026

Anthropics Forderung nach einer Verlangsamung der KI-Entwicklung gewinnt Verbündete, stößt aber auf ein China-Problem

Dario Amodeis Vorschlag stellt einen langsameren KI-Wettlauf als sicherheitspolitische Notwendigkeit dar und wird von prominenten Branchenvertretern unterstützt; Skeptiker sehen darin einen Plan, der die größten Labore weiter festigen könnte, während geopolitischer Wettbewerb jede koordinierte Zurückhaltung schwerer aufrechterhaltbar macht.

Anthropic-CEO Dario Amodei hat eine ohnehin hitzige Sicherheitsdebatte in eine konkrete Forderung überführt: Führende KI-Unternehmen sollten das Tempo, mit dem sie ihre Modelle leistungsfähiger machen, bewusst verlangsamen.

In einem am Samstag veröffentlichten Essay argumentierte Amodei, dass höhere Ausgaben für Schutzmaßnahmen nicht länger ausreichten, weil KI immer besser darin werde, beim Bau ihrer eigenen Nachfolger zu helfen. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schrieb er und argumentierte, zusätzliche Zeit könne es ermöglichen, dass die Arbeit an Ausrichtung und Sicherheit aufhole. Er warnte, unkontrollierter Fortschritt könne die Fähigkeit der Menschheit übersteigen, die Systeme zu verstehen und zu kontrollieren.

Anthropics unmittelbare Zusage besteht darin, unabhängigen Bewertern dauerhaften Zugang zu seinen Systemen auf Mitarbeiterebene zu gewähren, einschließlich der Möglichkeit, Sicherheitspraktiken zu bewerten und Vorfälle zu melden. Amodei stellte dies als ersten Teil eines Drei-Schritte-Plans dar: externe Aufsicht, gemeinsame Standards unter Unternehmen in demokratischen Ländern und eine spätere Koordinierung mit autoritären Regierungen bei eng umrissenen Gefahren. Er kündigte den Schritt selbst auf X an.

Die Dringlichkeit folgt auf wachsende Besorgnis über Sicherheitsvorfälle mit KI-Agenten und den öffentlichen Rücktritt des Anthropic-Forschers Jacob Coxon, der sagte, führende Labore würden in einem Wettlauf hin zu sich selbst verbessernder Superintelligenz „mit unserem Leben spielen“. Amodei hat angedeutet, dass eine Verlangsamung um nur ein oder zwei Jahre die Wahrscheinlichkeit einer Katastrophe erheblich verringern könnte.

Die Reaktion der Rivalen war auffallend wohlwollend. OpenAI-Chef Sam Altman sagte, er stimme einer Taktung an der Grenze des Machbaren zu, während Elon Musk eine unverblümte Zustimmung äußerte: „Dario hat recht.“ David Sacks sagte unterdessen, Anthropic und OpenAI sollten gerade deshalb weitermachen, weil sie ein „Duopol“ im Bereich führender KI bildeten.

Doch der scheinbare Konsens verdeckt einen scharfen Streit. Kritiker existenzieller Risikobotschaften argumentieren, dass ein von den beiden größten Laboren geführter Sicherheitspakt zu regulatorischer Vereinnahmung statt zu wirkungsvollem Schutz der Öffentlichkeit werden könnte. Und Amodeis Plan steht im Ausland vor seiner härtesten Prüfung: Er räumt ein, dass US-Unternehmen sich nicht auf unbestimmte Zeit zurückhalten können, wenn chinesische Entwickler weiter Fortschritte machen. Dadurch werden Chipkontrollen und begrenzte Vereinbarungen zwischen den USA und China für jede praktikable Verlangsamung zentral.

Story-Berichterstattung