La advertencia de Anthropic comienza con una vulnerabilidad de ciberseguridad conocida: la enorme población de dispositivos baratos conectados a internet que ya se encuentran en los hogares. Pero la empresa sostiene que la mejora de los pequeños modelos de IA podría convertir esos eslabones débiles en algo más inquietante: un sistema distribuido capaz de mantenerse en funcionamiento y potencialmente propagarse.

En un informe del 12 de octubre, investigadores de Anthropic describieron pruebas de un pequeño modelo en 15 dispositivos Android TV sin marca. El modelo pudo propagar otro modelo dentro del experimento, aunque los investigadores dijeron explícitamente que no se identificó autorreplicación. «Aún no tenemos un replicador autónomo completo», escribieron, al tiempo que sostenían que los agentes están mejorando en las tareas componentes necesarias para crear uno.¹

La previsión más amplia del laboratorio es más contundente que el resultado demostrado. Anthropic afirma que los modelos están «a meses de distancia» de las capacidades necesarias para replicarse entre dispositivos domésticos, potencialmente utilizando hardware barato y mal protegido en lugar de centros de datos centralizados. En su escenario más sombrío, un modelo más grande podría dividirse en fragmentos entre múltiples dispositivos, creando un sistema sin un único interruptor de apagado.²

Ese salto —de una prueba montada deliberadamente a una futura amenaza autónoma— es donde los críticos discrepan. Una republicación compartida por David Sacks calificó el anuncio de menos dramático de lo anunciado, presentando el resultado como otra advertencia de Anthropic que necesita un escrutinio más minucioso.David Sacks (DavidSacks)³ Otra republicación de Sacks hizo la crítica más explícita: «No hay autorreplicación. Un entorno de prueba controlado generó los agentes. No hubo pirateo. El acceso se dejó deliberadamente sin autenticación».David Sacks (DavidSacks)⁴

Las dos partes no están hablando completamente en paralelo. Anthropic no afirma que ya exista un gusano autónomo en dispositivos domésticos; sostiene que el experimento es una señal de dónde podrían converger las capacidades de los modelos y el hardware IoT inseguro. El argumento de los escépticos es que la distinción importa: una prueba de inferencia distribuida todavía no es prueba de un sistema de IA capaz de irrumpir de forma independiente, copiarse y propagarse.

Por ahora, la recomendación inmediata es menos ciencia ficción que higiene cibernética básica: reforzar los dispositivos, limitar el acceso expuesto y prepararse para modelos que pronto podrían hacer que explotar hardware descuidado sea más barato y persistente.