Story
September 16, 2026
Der Sicherheitsvorstoß der KI-Branche steht vor einer unverblümten Herausforderung: Verlangsamt eure eigenen Labore
Amodei und verbündete Führungskräfte von Spitzen-KI-Laboren argumentieren, dass eine Verlangsamung der Fähigkeitszuwächse notwendig sei, um zunehmend autonome KI unter Kontrolle zu halten. Ihre Kritiker weisen Verantwortung nicht zurück, fragen jedoch, warum Unternehmen mit der Macht, ihre eigenen Systeme anzuhalten, Regeln benötigen, die zugleich ihre Vorherrschaft schützen könnten.
Die Debatte rückte in die Öffentlichkeit, nachdem Jacob Coxon, ein Forscher bei Anthropic, zurückgetreten war und gewarnt hatte, führende Labore würden in einem Wettlauf um sich selbst verbessernde KI „mit unserem Leben spielen“.1
Am Samstag antwortete Anthropic-CEO Dario Amodei mit einem Aufruf, „das Tempo an der Spitze zu drosseln“: „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern.“2 Seine Sorge ist nicht abstrakt. Unter Verweis auf einen Vorfall bei OpenAI und Hugging Face mit außer Kontrolle geratenen Agenten warnte Amodei, dass ein leistungsfähigerer Schwarm innerhalb von sechs bis zwölf Monaten durch ein persistentes Botnetz die Kontrolle über das Internet übernehmen und Schäden in Höhe von Hunderten Milliarden Dollar verursachen könnte.2
Sein Rezept ist bewusst enger gefasst als ein vollständiger Stopp. Anthropic sagt, es werde externen Prüfern Zugang auf Mitarbeiterebene gewähren, damit sie Schutzvorkehrungen bewerten und Vorfälle melden können; Amodei will zudem, dass demokratische Regierungen und Spitzenlabore Standards koordinieren und später eine begrenzte Zusammenarbeit mit autoritären Staaten anstreben.3 „Anthropic verpflichtet sich einseitig“ zu diesem Schritt mit externen Prüfern, sagte er.
4
Unterstützung kam rasch. OpenAIs Sam Altman sagte, er stimme zu, dass das Tempo an der Spitze gedrosselt werden müsse, und beschrieb das Ziel als Vermeidung einer Zukunft, in der KI den Menschen nicht mehr dient.
5 Elon Musk fasste sich kürzer: „Dario hat recht.“
6
Doch die Zustimmung legte die politische Konfliktlinie offen. David Sacks argumentierte, Amodei und Altman könnten dies fordern, weil ihre Firmen gemessen an Marktanteil, Umsatzwachstum und Modellfähigkeit ein „Duopol“ bei Spitzen-KI innehätten.
7 Yann LeCun verschärfte den Einwand: OpenAI habe „die gesamte Kontrolle der Welt“ und könne seine Maschinen einfach abschalten.
8
Diese Kritik spiegelt eine breitere Skepsis wider, dass Katastrophenrhetorik gegenwärtige Schäden verschleiern oder zu regulatorischer Vereinnahmung zugunsten von Anthropic und OpenAI führen könnte.3 Der Streit dreht sich nicht mehr nur darum, ob KI gefährlich ist. Es geht darum, wer entscheiden sollte, wann der Fortschritt pausiert – und ob die Unternehmen, die Vorsicht fordern, zuerst beweisen sollten, dass sie sich selbst bremsen können.