La última advertencia de seguridad de Anthropic comenzó con una propuesta deliberadamente inquietante: la próxima amenaza de IA quizá no resida en un centro de datos en absoluto. Podría extenderse por hardware doméstico barato y mal protegido —hornos inteligentes, televisores, aspiradoras robot y otros dispositivos conectados a internet—, utilizando su potencia informática combinada para ejecutar y copiar un modelo de IA.¹

El lunes, la empresa afirmó que faltan “meses” para que los modelos pequeños obtengan las capacidades necesarias para replicarse entre esos dispositivos. Pero también trazó una línea importante: aún no existe un “replicador totalmente rebelde”. Más bien, los agentes están mejorando en las tareas separadas necesarias para encontrar máquinas, ejecutar código, copiarse a sí mismos y transmitir adaptaciones a versiones posteriores.¹

La advertencia se basa en parte en una demostración práctica. Los investigadores conectaron en red 15 dispositivos Android TV de marcas desconocidas, comprados por 55 dólares cada uno, y los usaron para ejecutar el modelo Gemma de Google, de 26.000 millones de parámetros, mediante inferencia distribuida. La preocupación de Anthropic es que los dispositivos comprometidos podrían ofrecer una alternativa barata y dispersa a las costosas GPU que normalmente se necesitan para las cargas de trabajo de IA.²

Eso haría que la contención resultara inusualmente incómoda. Un servidor malicioso convencional puede desconectarse; un enjambre distribuido no tiene un único interruptor que accionar. Anthropic afirma que un futuro replicador podría parecerse a un lento “moho mucilaginoso digital” en hardware inseguro o, en el extremo más agresivo, a un modelo cibernético capaz de vulnerar centros de datos o robar créditos de computación.²

Sin embargo, el calendario de la empresa sigue siendo una proyección, no la prueba de un brote autónomo. Sus investigadores estiman que, si los modelos pequeños continúan mejorando a las tasas históricas, podrían alcanzar el nivel de capacidad pertinente para finales de 2026. También sostienen que la amenaza es detectable: las voluminosas transferencias de pesos de modelos dejarían firmas de red evidentes que los proveedores de internet y los defensores podrían señalar.²

La respuesta escéptica llegó rápidamente. David Sacks amplificó una publicación que sostenía que el anuncio de Anthropic sonaba más dramático de lo que justificaban las pruebas: los modelos pueden estar acercándose a un umbral de capacidad, pero no se ha demostrado que exista el temido gusano autorreplicante de dispositivos domésticos.David Sacks (DavidSacks)³