Anthropic a révélé que des utilisateurs dans le nord du Yémen, une zone contrôlée par les rebelles houthis soutenus par l'Iran, ont tenté d'orienter son chatbot Claude vers le développement d'armes. Cet épisode apporte un cas concret aux craintes croissantes selon lesquelles l'IA générative largement accessible peut être détournée à des fins militaires létales.

L'activité signalée était centrée sur des efforts visant à créer des « logiciels de guidage vers une position pour des armes », selon un rapport sur les menaces publié par l'entreprise.¹ Le récit décrit une tentative d'utilisation, et non la preuve qu'un système d'arme fonctionnel a été achevé. Mais cette distinction est peu rassurante : les logiciels de guidage constituent précisément le type de capacité susceptible de rendre les missiles ou d'autres munitions plus précis.

La description distincte d'Anthropic situait les utilisateurs dans le nord du Yémen tenu par les Houthis et indiquait qu'ils cherchaient de l'aide pour développer des « missiles avancés ».² Ce cadrage inscrit l'utilisation abusive présumée dans le contexte de la campagne établie de missiles et de drones des Houthis, tout en évitant d'attribuer à Claude lui-même un programme d'armement achevé.

La divulgation de l'entreprise intervient également dans le cadre d'une évolution plus large de la guerre. L'IA transforme déjà les conflits de l'Ukraine à Gaza, et les informations sur le cas yéménite avertissent que son utilisation sur un champ de bataille isolé et accidenté risque d'accentuer les inquiétudes quant à la rapidité avec laquelle de tels outils peuvent se diffuser.²

Pour Anthropic, l'incident constitue un avertissement sur des utilisateurs hostiles qui sondent les limites d'un modèle commercial. Pour les critiques préoccupés par la sûreté de l'IA, il rappelle que les garde-fous sont mis à l'épreuve non seulement par des acteurs malveillants hypothétiques, mais aussi dans des zones de conflit actives où même une assistance technique partielle peut avoir de graves conséquences.