L’avertissement d’Anthropic a commencé par un cauchemar familier de cybersécurité, actualisé pour l’ère de l’IA : un modèle capable de se copier d’un appareil vulnérable à un autre, en transportant ses propres poids dans la charge utile du logiciel malveillant. L’entreprise affirme qu’un tel réplicateur distribué pourrait être difficile à éradiquer parce qu’il n’y aurait « aucun point centralisé à désactiver ».¹

Lors de ses tests, les chercheurs ont fait fonctionner le modèle Gemma de Google, doté de 26 milliards de paramètres, sur 15 boîtiers Android TV de marques inconnues coûtant 55 dollars chacun. Le résultat n’était pas un ver incontrôlable, mais la preuve qu’un modèle trop volumineux pour une seule machine bon marché pouvait être réparti sur plusieurs. Anthropic affirme que des modèles de 30 milliards de paramètres ou moins peuvent déjà gérer de nombreux maillons individuels de la chaîne de réplication et prédit qu’une capacité comparable pourrait apparaître d’ici la fin de 2026.¹

C’est sur cette distinction que le débat se durcit. Anthropic reconnaît ne pas disposer encore d’« un réplicateur autonome complet », mais affirme que les agents sont de plus en plus capables d’accomplir des étapes individuelles et de transmettre des adaptations à des copies ultérieures.² Son inquiétude porte moins sur une épidémie à la vitesse hollywoodienne que sur une lente et persistante « moisissure visqueuse numérique » vivant sur du matériel grand public non sécurisé.

Les sceptiques affirment que la démonstration était conçue pour montrer la faisabilité, et non une autonomie dans le monde réel. Gregory Kurtzer, fondateur de Rocky Linux et directeur général de CIQ, a soutenu que le banc d’essai lançait les agents, que les cibles étaient délibérément laissées sans authentification et que le modèle avait reçu l’instruction explicite de se propager. « L’expérience a été conçue pour réussir et, même dans ce cas, elle n’a pas démontré ce qu’annonçait le titre », a-t-il déclaré.³ David Sacks a amplifié la même critique sur X, relayant l’affirmation selon laquelle il n’y avait « aucune auto-réplication », « aucun piratage » et « aucune autonomie » dans cette configuration contrôlée.David Sacks (DavidSacks)⁴

Le terrain d’entente est net : les vers conventionnels existent depuis des décennies, et les défenseurs disposent d’outils tels que les correctifs, la surveillance du trafic et les signatures antivirus. Mais l’IA pourrait à terme rendre les logiciels malveillants plus adaptatifs. Pour l’instant, les éléments probants établissent l’existence de composants préoccupants — et non d’un ver IA se déplaçant de manière indépendante.