Story
September 24, 2026
KI-Führungskräfte sagen den UN: Behaltet uns unter menschlicher Kontrolle
Führungskräfte der KI-Branche stellten die UN vor eine doppelte Herausforderung: das wissenschaftliche und wirtschaftliche Versprechen der KI zu nutzen und zugleich zu verhindern, dass Systeme der menschlichen Kontrolle entgleiten oder entscheidende Macht in zu wenigen Händen konzentrieren. Ihre vorgeschlagene Antwort lautete internationale Aufsicht, gemeinsame Sicherheitsstandards und demokratische Rechenschaftspflicht statt ungebremster Konkurrenz.
Der Alarm hatte die UN bereits einen Tag vor der Einberufung des Sicherheitsrats erreicht, als Generalsekretär António Guterres angesichts wachsender Fragen darüber, ob Maschinen Entscheidungen über Leben und Tod treffen dürfen, vor „Killerrobotern“ warnte.1
Am Mittwoch hörte der Rat eine auffallend ähnliche Botschaft von den Unternehmen, die die Technologie entwickeln. OpenAI-Chef Sam Altman bezeichnete den Moment als Weggabelung: „KI kann entweder eher wie eine neue Renaissance der Kreativität und Entdeckung sein oder eher wie eine neue Industrielle Revolution voller Umbrüche und Unordnung.“2
Altmans Plädoyer galt nicht einem Entwicklungsstopp, sondern der Sicherstellung, dass ihre mächtigsten Formen gegenüber Menschen rechenschaftspflichtig bleiben. Mit zunehmender Autonomie und potenzieller Selbstverbesserung könnten Systeme, so warnte er, Institutionen überholen, Einfluss in einer Handvoll Unternehmen oder Ländern bündeln und Entscheidungen treffen, die Menschen weder verstehen noch rückgängig machen können. „Wir könnten die Kontrolle über die Zukunft an die KI verlieren“, sagte er.1
Anthropics Dario Amodei formulierte die Gefahr noch unverblümter: „Bei schlechter Steuerung glaube ich sogar, dass KI ein Risiko für die Menschheit als Ganzes sein könnte.“ Er forderte Schutzvorkehrungen, die stark genug sind, um zu verhindern, dass fortschrittliche Werkzeuge für katastrophalen Missbrauch eingesetzt werden, einschließlich biologischer Waffen.1
Die Dringlichkeit wurde durch jüngste Sicherheitslücken und Enthüllungen über Fehlverhalten von Modellen verschärft. Hugging-Face-Chef Clem Delangue argumentierte, die Reaktion müsse gemeinsame Überwachung und schnelle Offenlegung umfassen: „Die globale Gemeinschaft braucht stärkere Standards für Überwachung und die Offenlegung von Vorfällen.“3
Der Vorschlag der Führungskräfte war ungewöhnlich konkret: gemeinsame Tests für gefährliche Fähigkeiten, Systeme zur Verifizierung und Meldung von Vorfällen sowie internationale Standards, die neben nationalen Regeln bestehen können. Die übergreifende Botschaft des Treffens lautete, dass „robuste internationale Bemühungen zur Regulierung der Technologie“ nun erforderlich seien, da die Sorge über die Bedrohung der Menschheit durch KI wachse.4 Altman fügte eine eigene politische Warnung hinzu: Entscheidungen über demokratische KI dürfen nicht allein den Laboren des Silicon Valley überlassen werden.2