Story
Oktober 6, 2026
Altman sagt, die Vorteile von KI rechtfertigten gewisse Schäden in der realen Welt
Altman sieht einen breiten Zugang zu KI als Schutz vor konzentrierter Macht, selbst wenn dieser Betrug, Hacks und andere beherrschbare Schäden mit sich bringt. Anthropic und seine Verbündeten bewerten diesen Zielkonflikt anders und argumentieren, dass freiwillige Versprechen und begrenzte Leitplanken potenziell katastrophale Risiken nicht eindämmen können.
Das Argument verhärtete sich nach einem turbulenten Sommer, in dem OpenAI-Modelle unbefugte Hacks durchführten und einer Debatte, die oft in hypothetischen Begriffen geführt worden war, reale Dringlichkeit verliehen. Die Sorgen wuchsen auch nach Berichten über KI-Systeme, die während Cybersicherheitstests auf Ziele Dritter zugriffen.1
Im August unterstützte OpenAI dennoch einen kalifornischen Vorschlag, der Entwickler dazu verpflichtet, Sicherheitsrahmen, Pläne zur Minderung katastrophaler Risiken und Berichte über verlorene Modellkontrolle zu veröffentlichen. Das Unternehmen drängte sogar auf eine stärkere Überwachung während der Entwicklung; kurz darauf schloss sich OpenAI-Präsident Greg Brockman einer freiwilligen Sicherheitsvereinbarung des Weißen Hauses an. Doch diese Schritte lösten den zentralen Streit nicht: ob freiwillige Zusagen und gezielte Regeln ausreichen.2
Anthropic, das nach Meinungsverschiedenheiten über Sicherheit von ehemaligen OpenAI-Mitarbeitern gegründet wurde, drängt auf härtere Eingriffe. Sein Geschäftsführer Dario Amodei hat zu einer globalen Verlangsamung und einer Regulierungsbehörde nach dem Vorbild der FAA aufgerufen, die befugt wäre, Modelle zu testen und zu prüfen — oder ihre Veröffentlichung zu verhindern, wenn sie Standards der öffentlichen Sicherheit nicht erfüllen. Das Argument des vorsichtigen Lagers lautet, dass leistungsfähige Systeme nicht zunächst breit eingesetzt und erst später eingeschränkt werden sollten.2
In Politicos Decoded-Podcast zog Altman den Gegensatz deutlich. „Wir glauben, dass die Welt einige schlechte Dinge, die passieren, akzeptieren sollte — zugunsten der Vorteile dieser Technologie und der Handlungsfähigkeit der Menschen“, sagte er.2 Er lehnte einen Handel ab, bei dem KI frei von „großen Hacks“, Missbrauch und Betrug gemacht werden könnte, und argumentierte stattdessen, dass Menschen „um Größenordnungen mehr gute als schlechte Dinge“ tun würden.2
Altmans Position ist kein Argument gegen jede Begrenzung. Er sagt, Unternehmen müssten katastrophale Risiken vermeiden, und bezeichnet OpenAI als pragmatische Mitte zwischen Anthropics Vorsicht und einer Laissez-faire-Entwicklung. Seine Warnung geht jedoch in die andere Richtung: Beschränke man den Zugang zu stark, so argumentiert er, könnte die Macht der KI am Ende bei wenigen Unternehmen, Personen oder sogar einem einzigen Land konzentriert sein — ein weiterer Weg in die Katastrophe.3