Die Spaltung war bereits sichtbar, bevor der Sicherheitsrat zusammentrat. Am 13. September bezeichnete Präsident Donald Trump künstliche Intelligenz als geopolitischen Wettbewerb und sagte: „Wer KI gewinnt, gewinnt.“ Tage später erklärte er vor der UN-Generalversammlung, dass die Vereinigten Staaten „jeden Versuch, ein globalistisches System zur Kontrolle“ der Technologie zu errichten, „vollständig ablehnen“.¹

Diese Haltung verschärfte am 22. September die Lage, als Generalsekretär António Guterres vor „Killerrobotern“ warnte — eine Sorge, die Experten und europäische Staats- und Regierungschefs bereits für real oder gefährlich nahe hielten.²

Bei der Sitzung des Sicherheitsrats am Mittwoch vertraten die Entwickler der Technologie eine deutlich andere Auffassung: Rascher Fortschritt erfordert gemeinsame Regeln, nicht ein Rennen ohne Bremsen. OpenAI-Chef Sam Altman sagte, KI könne „eine neue Renaissance der Kreativität und Entdeckung“ einleiten, könne aber auch „Umwälzungen und Unordnung“ bringen.³ Seine zentrale Warnung war unverblümt: Zunehmend autonome Systeme könnten Institutionen überholen, Macht zentralisieren und Entscheidungen treffen, die Menschen nicht mehr verstehen oder kontrollieren können.

Altman argumentierte, dass selbst Katastrophenwahrscheinlichkeiten von einem Bruchteil eines Prozents inakzeptabel seien, und sagte, die Branche solle keine Modelle trainieren, für die sie nicht überzeugend darlegen könne, dass sie diese unter menschlicher Kontrolle halten kann. Er forderte gemeinsame Standards zur Bewertung von Fähigkeiten und Risiken, zur Überprüfung von Schutzvorkehrungen, zur schnellen Meldung von Vorfällen und zur Wahrung einer wirksamen menschlichen Aufsicht.³

Anthropic-CEO Dario Amodei vertrat dieselbe grundsätzliche Position aus einer Perspektive einer akuter drohenden Gefahr. Schlecht gemanagte KI könne, sagte er, „ein Risiko für die gesamte Menschheit“ darstellen; er drängte auf Vereinbarungen zum Verbot von KI-entwickelten biologischen Waffen, gemeinsame Tests und Überprüfungen sowie ein globales Meldesystem für schwerwiegende Sicherheitsvorfälle.¹

Hugging-Face-Mitgründer Clément Delangue schlug nach einem Cyberangriff durch einen Agenten auf sein Unternehmen eine ergänzende Lösung vor: mehr Transparenz und mehr Open-Source-KI, damit Verteidiger nicht in einen asymmetrischen Nachteil geraten.clem 🤗 (ClementDelangue)⁴ Er betonte, dass KI Hugging Face dabei geholfen habe, auf den Angriff zu reagieren und Schwachstellen zu identifizieren — ein Gegenargument dagegen, allein Angst zur Grundlage der Politik zu machen.¹

Die Manager waren sich über die Gefahr unkontrollierter Macht einig, jedoch nicht nur über Zurückhaltung. Ihre Botschaft lautete, dass Sicherheit, demokratische Rechenschaftspflicht und defensiver Zugang gemeinsam voranschreiten müssen — auch wenn Washington signalisiert, dass es sich einer verbindlichen globalen Architektur widersetzen könnte.