L’avertissement d’Anthropic part d’une vulnérabilité bien connue en cybersécurité : la vaste population d’appareils bon marché connectés à Internet déjà présents dans les foyers. Mais l’entreprise soutient que l’amélioration des petits modèles d’IA pourrait transformer ces maillons faibles en quelque chose de plus inquiétant : un système distribué capable de continuer à fonctionner et potentiellement de se propager.

Dans un rapport du 12 octobre, des chercheurs d’Anthropic ont décrit avoir testé un petit modèle sur 15 boîtiers Android TV de marques inconnues. Le modèle a pu propager un autre modèle dans le cadre de l’expérience, bien que les chercheurs aient explicitement indiqué que l’auto-réplication n’a pas été observée. « Nous n’avons pas encore un réplicateur rebelle complet », ont-ils écrit, tout en affirmant que les agents deviennent plus performants dans les tâches composantes nécessaires à sa création.¹

Les prévisions plus générales du laboratoire sont plus tranchées que le résultat démontré. Anthropic affirme que les modèles sont « à quelques mois » des capacités nécessaires pour se répliquer sur des appareils domestiques, en utilisant potentiellement du matériel bon marché et mal défendu plutôt que des centres de données centralisés. Dans son scénario le plus sombre, un modèle plus grand pourrait être divisé en fragments répartis sur plusieurs appareils, créant un système sans interrupteur d’arrêt unique.²

C’est à ce saut — d’un test délibérément assemblé à une future menace autonome — que les critiques s’opposent. Un repost partagé par David Sacks a jugé l’annonce moins spectaculaire que ce qui était annoncé, présentant le résultat comme un nouvel avertissement d’Anthropic nécessitant un examen plus approfondi.David Sacks (DavidSacks)³ Un autre repost de Sacks a formulé la critique plus explicitement : « Pas d’auto-réplication. Un environnement de test contrôlé a fait apparaître les agents. Pas de piratage. L’accès a été délibérément laissé sans authentification. »David Sacks (DavidSacks)⁴

Les deux parties ne se parlent pas entièrement sans se comprendre. Anthropic ne prétend pas qu’un ver rebelle ciblant les appareils domestiques existe déjà ; l’entreprise affirme que l’expérience signale comment les capacités des modèles et le matériel IoT non sécurisé pourraient converger. Les sceptiques soulignent que cette distinction est importante : une preuve d’inférence distribuée n’est pas encore la preuve d’un système d’IA capable de s’introduire de manière indépendante, de se copier et de se propager.

Pour l’instant, la prescription immédiate relève moins de la science-fiction que de l’hygiène cybernétique de base : renforcer la sécurité des appareils, limiter les accès exposés et se préparer à des modèles qui pourraient bientôt rendre l’exploitation de matériel négligé moins coûteuse et plus persistante.