Le rapport d’Anthropic sur les menaces, publié le 10 septembre, est arrivé dans un contexte de débat plus large sur les risques lointains et existentiels de l’IA. Ses éléments étaient plus immédiats : au cours des huit mois précédents, l’entreprise a déclaré avoir suivi des tentatives d’utilisation de Claude pour la guerre, la répression et des recherches dangereuses — des tâches qui exigeaient autrefois des équipes bien plus importantes d’analystes, d’ingénieurs et d’opérateurs.¹

Un cas lié à la Chine concernait un chercheur en défense qu’Anthropic a estimé être connecté à des institutions chinoises de recherche militaire. L’utilisateur a créé une suite en chinois de 16 modules destinée à la guerre électronique et à la suppression des défenses aériennes, la révisant 12 fois avant de déplacer le scénario vers 12 cibles à Taïwan, dont des sites radar, des batteries de missiles, des bases aériennes et un bunker de commandement.² Anthropic a indiqué que le système était « alimenté par des scénarios, et non par du renseignement, de la surveillance et de la reconnaissance en temps réel », et n’a pas affirmé que le logiciel avait été déployé par l’APL. L’entreprise a banni les comptes liés à l’acteur.²

Le rapport décrivait également une opération liée à l’Iran qui utilisait Claude pour compiler des manuels de ciblage en sources ouvertes portant sur les positions de l’US Navy au Moyen-Orient. Le matériel s’appuyait sur des photographies, des données de transpondeurs, des images satellitaires et des sites web publics suivant les mouvements militaires ; Anthropic a indiqué avoir banni le compte, ajouté des mécanismes de détection et partagé son analyse avec les autorités.³

La dimension liée aux droits humains était tout aussi frappante. Anthropic a déclaré que des utilisateurs alignés sur la Chine avaient constitué des dossiers sur des cardinaux catholiques, des dirigeants presbytériens taïwanais, des figures du bouddhisme tibétain, des pratiquants de Falun Gong et NTD, en recherchant des « informations négatives » et des vulnérabilités susceptibles d’être exploitées.⁴ Selon l’entreprise, une opération a généré 2 475 rapports et dossiers en 30 jours.⁴

Pour Anthropic, la leçon est que la surveillance peut révéler et interrompre les usages abusifs. Mais ses propres cas montrent les limites des garde-fous d’une seule entreprise : lorsque Claude a refusé des demandes visant à modifier des recherches sur le virus du chikungunya, les utilisateurs ont transféré ce travail vers un modèle concurrent aux protections plus faibles.¹ La course ne porte plus sur la question de savoir si l’IA peut être militarisée. Elle porte sur la capacité des garde-fous à suivre le rythme.