Story
September 16, 2026
Der Sicherheitskonsens zur KI prallt auf eine einfache Herausforderung: Bremst euch selbst
Anthropic argumentiert, dass sich rasch entwickelnde KI Zeit, externe Kontrolle und internationale Leitplanken braucht, bevor Sicherheitsversagen die menschliche Kontrolle überholt. Seine Unterstützer teilen die Sorge, während Kritiker sagen, ein Aufruf zu branchenweiter Zurückhaltung könne nicht die Entscheidung von Spitzen-Labs ersetzen, sich selbst zurückzuhalten.
Der jüngste Konflikt um KI-Sicherheit begann mit einem ungewöhnlich öffentlichen Zerwürfnis innerhalb von Anthropic. Der Forscher Jacob Coxon kündigte und beschuldigte führende Labs, auf selbstverbessernde Systeme zuzurasen und dabei „mit unserem Leben zu spielen“; andere Anthropic-Mitarbeiter verstärkten die Warnung öffentlich.1
Wenige Tage später verschärfte Anthropic-Chef Dario Amodei die Debatte, indem er den internen Alarm in einen konkreten Vorschlag überführte. Er sagte, die KI-Fähigkeiten entwickelten sich zu schnell, als dass Schutzmaßnahmen Schritt halten könnten, und warnte, dass zunehmend leistungsfähige Systeme bald zerstörerisches Verhalten autonomer Agenten ermöglichen könnten. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schrieb er.2
Amodeis erster Schritt war bewusst einseitig: Anthropic würde unabhängigen Evaluatoren dauerhaften Zugang auf Mitarbeiterebene gewähren, damit sie Sicherheitspraktiken prüfen und Vorfälle melden können. Sein weitergehender Plan fordert gemeinsame Grenzen unter Spitzen-Labs in demokratischen Ländern und – so schwierig dies auch sein mag – eine Koordinierung mit autoritären Regierungen bei eng umrissenen Gefahren wie KI-gestützten Biowaffen.3 Auf X stellte Amodei dies als Dreipunkteplan vor und sagte, Anthropic verpflichte sich bereits zum ersten Schritt.
4
Die Botschaft fand seltene Verbündete. Elon Musks Antwort war knapp: „Dario hat recht.“
5 Auch Sam Altman argumentierte, es sei inakzeptabel, die Kontrolle über die Zukunft an KI zu verlieren, und zunehmend leistungsfähige Systeme müssten den Menschen dienen.
6
Doch die Einigkeit zerbrach an der Frage, wer zuerst handeln muss. David Sacks merkte an, dass Anthropic und OpenAI die Spitze faktisch dominieren, und sagte zu Amodei und Altman: „Macht nur. Ihr seid die Spitze.“
7 Seine schärfere Formulierung lautete, Unternehmen sollten Produkte sicher machen, „ohne irgendein Zugeständnis von der Regierung zu verlangen.“8
Das ist die harte Prüfung unter dem scheinbaren Konsens: Sicherheitsbefürworter wollen gemeinsame Regeln, um ein Wettrennen zu verhindern, das niemand sicher verlieren kann; ihre Kritiker sehen einen einfacheren Maßstab. Wenn die Gefahr so unmittelbar ist wie dargestellt, brauchen die Labs keine Erlaubnis, um langsamer zu machen.