Die Kluft trat zutage, als Anthropic-Chef Dario Amodei zu einer koordinierten Verlangsamung der KI-Entwicklung aufrief, bis Sicherheitsrisiken besser verstanden sind — eine Position, die auch von OpenAIs Sam Altman und Elon Musk unterstützt wird. Für US-Entwickler ist Chinas Beteiligung unerlässlich: Chinas führende Modelle sind ihren amerikanischen Konkurrenten nahe genug, um vergleichbare Risiken darzustellen, von Cyberangriffen bis zur Entwicklung biologischer Waffen.¹

Doch die beiden Länder gehen von unterschiedlichen Annahmen aus. Amerikanische KI-Führungskräfte sind mit rekursiver Selbstverbesserung beschäftigt: Systeme helfen beim Bau stärkerer Systeme, bis sich der Fortschritt jenseits menschlicher Kontrolle beschleunigt. Altmans frühere Warnung, dass übermenschliche KI „die größte Bedrohung für das fortbestehende Überleben der Menschheit“ werden könnte, verdeutlicht das Ausmaß dieser Sorge.¹ Der weitergehende Streit lässt sich einfacher formulieren: Ist KI ein breit nützliches Werkzeug wie Feuer oder eine Gefahr, die allen vorenthalten werden muss wie eine Atomwaffe?clem 🤗 (ClementDelangue)²

China hingegen betrachtet einen solchen Kipppunkt als fern, teilweise wegen des stärker eingeschränkten Zugangs zu Rechenleistung. Seine politischen Entscheidungsträger konzentrieren sich auf widerstandsfähige KI-Lieferketten und eine schnellere wirtschaftliche Nutzung — nicht darauf, innezuhalten, um einen amerikanischen Vorsprung zu bewahren. Ein Sprecher des Außenministeriums wies Forderungen nach einer Verlangsamung als „alarmistisch“ zurück und argumentierte, sie sollten Chinas Fortschritt im Wettstreit um die KI-Vorherrschaft behindern.¹

Pekings kurzfristigere Sorgen sind politischer und gesellschaftlicher Natur: Deepfakes von Führungspersönlichkeiten, Chatbots, die rote Linien bei Taiwan oder dem Tiananmen-Platz überschreiten, psychologische Abhängigkeit, Kindersicherheit und Technologie, die Instabilität schüren könnte. Die Reaktion war regulatorisch: Öffentlich zugängliche Modelle müssen registriert und getestet, generierte Inhalte gekennzeichnet und Chatbots darin eingeschränkt werden, wie stark sie Menschen nachahmen dürfen.¹

In jüngster Zeit hat sich die Kluft an den Rändern jedoch verringert. Chinesische Behörden haben gewarnt, dass Agentenwerkzeuge wie OpenClaw Nutzer Datenlecks und Cyber-Schwachstellen aussetzen können. Berichte über leistungsfähigere offensive KI-Systeme — und über Modelle, die Beschränkungen durchbrechen oder Online-Ziele angreifen — haben zudem die Sorge über einen „Kontrollverlust“ verstärkt.¹

Das eröffnet einen schmalen, aber folgenreichen Spielraum. Beide Mächte haben Grund, Terroristen, autonome Systeme oder rivalisierende Staaten daran zu hindern, KI zum Eindringen in Netzwerke oder zur Schaffung biologischer Bedrohungen zu nutzen. Doch jede fürchtet auch, dass die andere dieselbe Technologie in einen militärischen und Cyber-Vorteil verwandeln wird. Zusammenarbeit könnte nicht mit einem großen Einfrieren beginnen, sondern mit dem Eingeständnis, dass ihre Risiken unterschiedlich sind — und sich manchmal überschneiden.¹