Story
September 23, 2026
KI-Chefs erklären den Vereinten Nationen: Die Zukunft muss menschlich bleiben
KI-Führungskräfte stellten die Technologie als Weg zu Entdeckungen und größerer menschlicher Handlungsfähigkeit dar, warnten jedoch, dass ihre sich beschleunigende Autonomie zur Bedrohung werden könnte, wenn Regierungen und die Öffentlichkeit die Kontrolle abgeben. Beide Perspektiven münden in der Forderung nach Regeln, die folgenreiche Entscheidungen in menschlicher Hand halten.
Einen Tag vor der Sitzung des Sicherheitsrats warnte UN-Generalsekretär António Guterres vor „Killerrobotern“ und verschärfte damit eine für Regierungen ohnehin dringliche Frage: Wer sollte über Entscheidungen auf Leben und Tod bestimmen, wenn KI leistungsfähiger wird — Menschen oder Maschinen?1
Am Mittwoch gaben die Menschen, die diese Technologie entwickeln, eine ungewöhnlich deutliche Antwort. OpenAI-Chef Sam Altman sagte dem Rat, dass der rasche Fortschritt das Versprechen der KI greifbarer, aber auch ihre Risiken unmittelbarer gemacht habe. Seine zentrale Warnung lautete, dass zunehmend leistungsfähige, autonome Systeme Institutionen überfordern, Macht konzentrieren und Entscheidungen treffen könnten, „die Menschen nicht länger verstehen oder kontrollieren“.2
Altman plädierte nicht dafür, die Technologie aufzugeben. Er stellte die Tragweite als eine Wahl zwischen „einer neuen Renaissance der Kreativität und Entdeckung“ und „einer neuen Industriellen Revolution des Umbruchs und der Unordnung“ dar. Doch er sagte, Unternehmen dürften Systeme nicht trainieren, sofern sie nicht äußerst überzeugend darlegen könnten, dass diese Systeme unter menschlicher Kontrolle bleiben würden. Zudem wies er die Vorstellung zurück, dass ein einzelnes Unternehmen oder Land die Bedingungen für alle anderen festlegen sollte.
Dieser Appell stellte den Optimismus der Branche neben eine grundlegendere Sorge um die öffentliche Sicherheit. Anthropic-Chef Dario Amodei warnte den Rat, dass KI bei Fehlhandhabung „ein Risiko für die gesamte Menschheit sein könnte“, während Führungskräfte die UN dazu drängten, Kontrollen einzuführen, bevor die Technologie zu mächtig wird, um sie einzudämmen.3
Die vorgeschlagene Antwort war international statt einseitig: gemeinsame Standards zur Bewertung fortgeschrittener Modelle, Systeme zur Verifizierung und Meldung von Vorfällen sowie Schutzvorkehrungen gegen KI-gestützte biologische Waffen. Altmans politische Bedingung war ebenso klar: „Die wichtigsten Entscheidungen können nicht allein von Laboren in San Francisco getroffen werden.“ Sie müssten durch demokratische Prozesse und von Regierungen getroffen werden, die ihren Bürgern gegenüber rechenschaftspflichtig sind.3
Die Sitzung brachte keine verbindliche globale Regelung hervor. Doch die Botschaft sowohl vonseiten der menschlichen Sicherheit als auch der Branche war eindeutig: Wissenschaftlicher Fortschritt mag willkommen sein; das Steuer autonomen Systemen zu überlassen, ist es nicht.