Lundi, Anthropic a averti que de petits modèles d’IA pourraient n’être plus qu’à quelques mois de réaliser la chaîne de tâches nécessaire pour se copier sur des appareils connectés à Internet. Son scénario est saisissant : un modèle divisé en fragments sur du matériel bon marché et non sécurisé, comme des boîtiers Android TV ou des appareils électroménagers intelligents, sans interrupteur central pour l’éteindre.

Les chercheurs de l’entreprise ont souligné qu’aucun réplicateur entièrement autonome n’existe encore. Mais ils ont indiqué que les agents sont de plus en plus capables d’effectuer les étapes séparées, et ont averti qu’un futur système pourrait être une lente « moisissure visqueuse numérique » distribuée sur des ressources informatiques non sécurisées — ou un modèle cyber plus rapide ciblant des centres de données.¹

La démonstration à l’origine de l’avertissement était délibérément concrète. Anthropic a exécuté le modèle Gemma de Google, comptant 26 milliards de paramètres, sur 15 boîtiers Android TV de marques inconnues, coûtant chacun environ 55 dollars. Cela a établi l’inférence distribuée : un modèle trop volumineux pour un seul appareil pouvait tout de même fonctionner, lentement, sur plusieurs. L’expérience plus large a également montré que les petits modèles actuels pouvaient réaliser certaines parties d’une chaîne d’infection, sans toutefois exécuter de manière fiable l’ensemble de la séquence consistant à découvrir, compromettre, configurer et propager vers de nouvelles machines.²

C’est cette distinction qui, selon les critiques, fait que l’avertissement va trop loin. Les appareils ciblés exposaient un Android Debug Bridge sans authentification, ce qui signifie que l’accès avait été laissé ouvert ; dans une configuration, un modèle plus puissant orchestrait le processus depuis un serveur distinct. Le chercheur en IA Xiaohan Fu a déclaré que ces travaux ne démontraient pas que de petits modèles choisiraient indépendamment de se répliquer.²

Gregory Kurtzer, fondateur de Rocky Linux et PDG de CIQ, a formulé le même argument plus directement dans une publication amplifiée par David Sacks : « Pas d’auto-réplication. Un environnement de test contrôlé a lancé les agents. Pas de piratage. L’accès a été délibérément laissé sans authentification. »David Sacks (DavidSacks)³

La prévision d’Anthropic est donc un avertissement concernant une trajectoire, et non la preuve que des vers d’IA sont déjà en liberté. Ses critiques ne contestent pas que les appareils bon marché et mal sécurisés constituent un point faible ; ils contestent qu’un système lent, conçu en laboratoire, prouve la menace annoncée en titre. Les deux parties s’accordent sur la prescription immédiate : renforcer la sécurité des appareils dès maintenant, avant que les capacités des modèles ne comblent l’écart.