Story
September 18, 2026

König Charles fordert KI-Chefs auf, die Kontrolle zu erlangen, bevor es zu spät ist

Das Eingreifen von König Charles macht KI zu einer Prüfung dafür, ob ihre Schöpfer die menschliche Kontrolle bewahren können, während die Branche zwischen denen gespalten bleibt, die einen langsameren, sichereren Weg fordern, und denen, die raschen Fortschritt als strategische Notwendigkeit betrachten.

Anfang dieses Monats drang die Besorgnis über hochentwickelte KI aus Fachkreisen in eine öffentliche Auseinandersetzung vor. Nach Berichten über Testfehlschläge und neuen Warnungen von Insidern rief Anthropic-Chef Dario Amodei zu einer koordinierten Verlangsamung auf; OpenAIs Sam Altman, Google DeepMinds Demis Hassabis und Elon Musk sollen die Argumente für ein langsameres Tempo teilen.

Das Sicherheitsargument beschränkte sich nicht allein auf Bremsen. Microsoft-Chef Satya Nadella beschrieb die Aufgabe als die Verbreitung der Vorteile von KI, während man „das Einverständnis der Gemeinschaften gewinnt“ und „KI-Sicherheit und -Kontrolle“ gewährleistet. Musk verstärkte diese Botschaft mit einem knappen „Stimmt“ und signalisierte damit Unterstützung für diese Formulierung, während die breitere Koalition weiterhin unsicher ist, wie oder ob eine Verlangsamung durchgesetzt werden könnte.

Am Donnerstag brachte Charles den Streit nach Dumfries House in Ayrshire und versammelte Vertreter von Nvidia, OpenAI, Anthropic, Google DeepMind und der britischen Regierung. Seine Warnung war deutlich: Die rasante Entwicklung der KI sei „sowohl faszinierend als auch zutiefst besorgniserregend“, und ihre Schöpfer selbst warnten zunehmend vor düsteren Fähigkeiten, einschließlich der Möglichkeit, dass Systeme „Leben nehmen“ könnten.

Das Rezept des Königs lautete internationale Zusammenarbeit und gemeinsame Prinzipien – nicht bloß leistungsfähigere Modelle. „Brauchen wir nicht ausreichende Mittel zur Kontrolle, bevor es zu spät ist?“, fragte er und bestand darauf, dass Technologie im Dienst der Menschheit, der Gemeinschaften und der natürlichen Welt bleiben müsse.

Diese Sichtweise kollidiert mit dem wettbewerbsorientierten Lager. Präsident Donald Trump und Nvidias Jensen Huang haben Forderungen nach einer Verlangsamung zurückgewiesen; Trumps Argument ist unverblümt geopolitisch: „Wer KI gewinnt, gewinnt.“ Vom Gipfel wurden keine verbindlichen Zusagen erwartet, wodurch Charles’ Appell eher eine moralische Herausforderung als eine Einigung blieb – und der Wettlauf ohne eine gemeinsame Ziellinie weitergeht.

Story-Berichterstattung