Le dernier avertissement d’Anthropic en matière de sécurité commence par une expérience modeste mais provocatrice : des chercheurs ont relié 15 boîtiers Android TV de marques inconnues, coûtant environ 55 dollars chacun, et les ont utilisés pour exécuter une version distribuée du modèle Gemma4-26B-A4B de Google.¹ L’objectif n’était pas de montrer que le modèle s’était échappé, mais que du matériel grand public pouvait fournir une puissance de calcul dont on supposait auparavant qu’elle nécessitait un centre de données.

À partir de là, l’entreprise a esquissé une trajectoire plus sombre. Les petits modèles peuvent déjà accomplir de nombreuses étapes d’une chaîne de réplication, a déclaré Anthropic, tout en reconnaissant qu’elle ne dispose pas encore d’un « réplicateur entièrement autonome ». ² Ses chercheurs ont néanmoins fait valoir que l’amélioration des capacités pourrait permettre aux modèles de se propager sur des appareils connectés à internet mal défendus, y compris des appareils domestiques intelligents, sans interrupteur central permettant de les arrêter.

La prévision est délibérément large. Anthropic a indiqué qu’une réplication autonome pourrait émerger sous la forme d’un « lent “myxomycète numérique” distribué » vivant sur des ressources informatiques non sécurisées, ou d’un modèle cybernétique plus rapide pénétrant des centres de données ou volant des crédits de calcul.¹ L’entreprise a prédit un avenir où des agents fonctionneraient sur du matériel qui n’est pas sous contrôle humain — et a exhorté les défenseurs à renforcer les systèmes avant que cela ne se produise.

Mais l’écart entre démonstration et prédiction est rapidement devenu le point de tension de l’article. Le test a établi l’inférence distribuée sur un petit cluster d’appareils bon marché ; il n’a pas établi qu’un ver d’IA compromettait de manière autonome des foyers et se copiait d’un appareil à l’autre. Le propre calendrier d’Anthropic situait la capacité de réplication nécessaire vers la fin de 2026, si les petits modèles continuaient de s’améliorer aux rythmes historiques.²

Cette distinction a alimenté les critiques. David Sacks a relayé une publication critiquant la dramatisation habituelle des annonces de sécurité d’Anthropic, affirmant que l’avertissement de l’entreprise selon lequel les modèles seraient à quelques mois de se répliquer sur des téléviseurs intelligents et des fours avait une réalité « un peu moins dramatique ». David Sacks (DavidSacks)³ Le désaccord ne porte pas sur la vulnérabilité des appareils non sécurisés. Il porte sur la question de savoir si une preuve de concept intrigante de calcul distribué doit être interprétée comme une épidémie imminente de vers — ou comme un avertissement qu’il convient de prendre au sérieux avant qu’elle ne survienne.