La fracture est apparue lorsque le directeur général d’Anthropic, Dario Amodei, a appelé à un ralentissement coordonné du développement de l’IA jusqu’à ce que les risques pour la sécurité soient mieux compris — une position également soutenue par Sam Altman d’OpenAI et Elon Musk. Pour les développeurs américains, la participation chinoise est essentielle : les principaux modèles chinois sont suffisamment proches de leurs rivaux américains pour pouvoir présenter des risques comparables, des cyberattaques à la conception d’armes biologiques.¹

Mais les deux pays partent d’hypothèses différentes. Les dirigeants américains de l’IA sont préoccupés par l’auto-amélioration récursive : des systèmes contribuant à construire des systèmes plus puissants jusqu’à ce que les progrès s’accélèrent au-delà du contrôle humain. L’avertissement antérieur d’Altman selon lequel une IA surhumaine pourrait devenir « la plus grande menace pour la survie de l’humanité » illustre l’ampleur de cette anxiété.¹ Le différend plus large peut être formulé plus simplement : l’IA est-elle un outil largement utile, comme le feu, ou un danger qui doit être refusé à tous, comme une arme nucléaire ?clem 🤗 (ClementDelangue)²

La Chine, en revanche, considère qu’un tel point de bascule est lointain, en partie en raison d’un accès plus limité à la puissance de calcul. Ses décideurs se concentrent sur des chaînes d’approvisionnement en IA résilientes et sur un déploiement économique plus rapide — et non sur une pause destinée à préserver l’avance américaine. Un porte-parole du ministère des Affaires étrangères a rejeté les appels à un ralentissement comme « alarmistes », affirmant qu’ils visaient à entraver les progrès de la Chine dans la compétition pour la suprématie en IA.¹

Les préoccupations plus immédiates de Pékin sont politiques et sociales : les hypertrucages de dirigeants, les chatbots franchissant les lignes rouges sur Taïwan ou la place Tiananmen, la dépendance psychologique, la sécurité des enfants et les technologies susceptibles d’alimenter l’instabilité. Sa réponse a été réglementaire : les modèles destinés au public doivent être enregistrés et testés, les contenus générés étiquetés, et les chatbots limités dans la mesure où ils imitent étroitement les personnes.¹

Récemment, toutefois, l’écart s’est resserré sur certains points. Des responsables chinois ont averti que des outils d’agents tels qu’OpenClaw peuvent exposer les utilisateurs à des fuites de données et à des vulnérabilités cyber. Les informations faisant état de systèmes d’IA offensifs plus capables — et de modèles contournant des contraintes ou attaquant des cibles en ligne — ont également accentué les inquiétudes concernant la « perte de contrôle ».¹

Cela laisse une ouverture étroite mais importante. Les deux puissances ont intérêt à empêcher des terroristes, des systèmes autonomes ou des États rivaux d’utiliser l’IA pour pénétrer des réseaux ou créer des menaces biologiques. Pourtant, chacune craint aussi que l’autre ne transforme la même technologie en avantage militaire et cyber. La coopération pourrait commencer non pas par un gel général, mais par la reconnaissance que leurs risques diffèrent — et se recoupent parfois.¹