Story
September 18, 2026

König Charles warnt KI-Führungskräfte: Behaltet die Kontrolle, bevor es zu spät ist

König Charles stellte KI sowohl als tiefgreifende Chance als auch als Prüfung menschlicher Kontrolle dar und forderte ihre Entwickler auf, Sicherheit in den Mittelpunkt zu stellen. Sein Eingreifen erfolgt inmitten einer sich verschärfenden Spaltung: Einige Technologieführer wollen eine koordinierte Verlangsamung, während andere argumentieren, der strategische Wettlauf lasse dies nicht zu.

Die Debatte verschärfte sich in den Wochen vor dem Treffen am Donnerstag im Dumfries House in Ayrshire. Anthropic-Chef Dario Amodei forderte eine koordinierte Verlangsamung der Arbeit an fortgeschrittener KI und warnte, dass anhaltende Fortschritte katastrophal werden könnten; OpenAIs Sam Altman, Google DeepMinds Demis Hassabis und Elon Musk sollen die Argumente für ein langsameres Tempo und eine stärkere Aufsicht teilen.

Dieser Konsens war keineswegs allgemein verbreitet. Präsident Donald Trump, Nvidia-Chef Jensen Huang und Metas Mark Zuckerberg haben sich gegen weitere Regulierung ausgesprochen und KI als geopolitischen Wettbewerb dargestellt, in dem die Vereinigten Staaten ihren Vorsprung wahren müssten. Trump formulierte das Argument unverblümt: „Wer KI gewinnt, gewinnt.“

Vor diesem Hintergrund versammelte Charles Vertreter von Nvidia, Google DeepMind, OpenAI und Anthropic sowie den britischen KI-Minister Kanishka Narayan und weitere Experten. Der Palast teilte mit, dass von dem Treffen keine verbindlichen Vereinbarungen erwartet würden; vielmehr solle geprüft werden, ob gemeinsame Prinzipien KI zum Nutzen der Öffentlichkeit lenken könnten.

In seiner Ansprache würdigte der König das Potenzial der Technologie in Medizin und Wissenschaft, warnte jedoch, dass ihre Schöpfer zunehmend düsterere Möglichkeiten erkannten. „Wir brauchen doch sicherlich ausreichende Mittel zur Kontrolle, bevor es zu spät ist?“, sagte er. Seine weitergehende Forderung lautete, dass KI „fest im Dienst der Menschheit, der Gemeinschaft und der natürlichen Welt“ bleiben müsse.

Die Formulierung spiegelte ein pragmatisches, weniger absolutistisches Sicherheitsargument wider, das im Silicon Valley vertreten wird. Microsofts Satya Nadella sagte, die bevorstehende Arbeit bestehe darin, die Vorteile von KI breit zu verteilen, die „Zustimmung der Gemeinschaften“ zu gewinnen und „KI-Sicherheit und Kontrolle“ zu gewährleisten. Musk antwortete schlicht: „Stimmt.“

Charles’ Gipfeltreffen entschied den Streit über die Verlangsamung nicht. Doch es brachte die zentrale Trennlinie in einem Raum zusammen: wie die Gewinne der KI genutzt werden können, ohne die menschliche Autorität preiszugeben, die sie lenken soll.

Story-Berichterstattung