Story
September 19, 2026
König Charles fordert KI-Giganten auf, rechtzeitig die Bremse zu ziehen
König Charles stellte KI als Prüfung dar, ob technologische Macht gegenüber den Menschen rechenschaftspflichtig bleiben kann, während die Branche weiterhin gespalten ist zwischen jenen, die kollektive Zurückhaltung anstreben, und jenen, die argumentieren, Sicherheit könne ohne Verlangsamung des Wettlaufs gewährleistet werden.
Die Debatte hatte sich bereits verschärft, bevor Führungskräfte Dumfries House in Ayrshire erreichten. Nachdem der Anthropic-Forscher Jacob Coxon mit Warnungen über die Richtung der Branche zurückgetreten war, forderte Anthropic-Chef Dario Amodei eine bewusste Verlangsamung der Entwicklung an der technologischen Spitze – eine Haltung, die öffentlich von Sam Altman von OpenAI, Demis Hassabis von Google DeepMind und Elon Musk unterstützt wurde.1
Microsoft-Chef Satya Nadella schlug einen weniger weitreichenden, aber damit vereinbaren Ton an und forderte, dass die Vorteile der KI breit geteilt werden, während Unternehmen die Zustimmung der Gemeinschaften gewinnen und „KI-Sicherheit und Kontrolle“ gewährleisten. Musk verstärkte diese Botschaft mit einer Ein-Wort-Bekräftigung: „Wahr.“
2
3
Am Donnerstag brachte Charles den Streit direkt vor Führungskräfte von Nvidia, OpenAI, Anthropic und Google DeepMind sowie britische Regierungsvertreter. Der König bezeichnete die Entwicklung und das Tempo der KI als „gleichermaßen faszinierend und zutiefst besorgniserregend“ und warnte, dass Menschen nach der Zusicherung suchten, die Menschheit werde nicht „die Kontrolle über unser Schicksal verlieren“. 4
Sein Plädoyer war nicht technologiefeindlich. Charles erkannte das Potenzial der KI an, Leben zu verbessern und zu retten, insbesondere in Medizin und Wissenschaft, sagte jedoch, ihre Entwickler selbst warnten zunehmend vor düstereren Fähigkeiten. „Sicherlich brauchen wir ausreichende Kontrollmittel, bevor es zu spät ist?“, fragte er und drängte die Gruppe zu internationaler Zusammenarbeit und Grundsätzen, die die Technologie im Dienst der Menschheit und der natürlichen Welt halten.5
Der Gipfel brachte keine verbindliche Vereinbarung hervor – und zeigte, warum eine solche schwer zu erreichen sein könnte. Präsident Donald Trump hat eine Verlangsamung abgelehnt und die Führungsrolle bei KI als strategischen Wettbewerb mit China dargestellt. Nvidia-Chef Jensen Huang hat sich unterdessen gegen eine koordinierte Pause ausgesprochen: Unternehmen sollten ihre eigenen Systeme testen und unsichere Produkte zurückhalten. „Wenn ein Produkt nicht sicher genug ist, sollten wir es zurückhalten und weiterentwickeln“, sagte Huang.1
Damit bleibt Charles’ Appell zwischen zwei Visionen hängen: gemeinsamen internationalen Bremsen oder einem Wettlauf, der von den Firmen überwacht wird, die am stärksten aufs Gaspedal drücken.