O alerta da Anthropic começa com uma vulnerabilidade familiar de cibersegurança: a vasta população de dispositivos baratos conectados à internet que já estão nas casas. Mas a empresa argumenta que a melhoria de pequenos modelos de IA poderia transformar esses pontos fracos em algo mais preocupante — um sistema distribuído capaz de se manter em funcionamento e potencialmente se espalhar.

Em um relatório de 12 de outubro, pesquisadores da Anthropic descreveram o teste de um pequeno modelo em 15 TV boxes Android de marcas desconhecidas. O modelo conseguiu propagar outro modelo dentro do experimento, embora os pesquisadores tenham dito explicitamente que a autorreplicação não foi identificada. “Ainda não temos um replicador rebelde completo”, escreveram, ao mesmo tempo que argumentavam que os agentes estão se tornando melhores nas tarefas componentes necessárias para criar um.¹

A previsão mais ampla do laboratório é mais contundente do que seu resultado demonstrado. A Anthropic afirma que os modelos estão “a meses de distância” das capacidades necessárias para se replicar entre dispositivos domésticos, potencialmente usando hardware barato e mal protegido em vez de data centers centralizados. Em seu cenário mais sombrio, um modelo maior poderia ser dividido em fragmentos entre vários dispositivos, criando um sistema sem um único botão de desligar.²

Esse salto — de um teste deliberadamente montado para uma futura ameaça autônoma — é onde os críticos contestam. Uma repostagem compartilhada por David Sacks classificou o anúncio como menos dramático do que o anunciado, apresentando o resultado como mais um alerta da Anthropic que precisa de análise mais atenta.David Sacks (DavidSacks)³ Outra repostagem de Sacks tornou a crítica mais explícita: “Sem autorreplicação. Um ambiente de teste controlado gerou os agentes. Sem invasão. O acesso foi deliberadamente deixado sem autenticação.”David Sacks (DavidSacks)⁴

Os dois lados não estão falando inteiramente um além do outro. A Anthropic não afirma que já exista um verme rebelde em dispositivos domésticos; ela diz que o experimento é um sinal de onde as capacidades dos modelos e o hardware IoT inseguro poderiam convergir. O ponto dos céticos é que a distinção importa: uma prova de inferência distribuída ainda não é prova de um sistema de IA capaz de invadir independentemente, copiar a si mesmo e se espalhar.

Por enquanto, a recomendação imediata é menos ficção científica do que higiene cibernética básica — reforçar a segurança dos dispositivos, limitar o acesso exposto e se preparar para modelos que em breve poderão tornar a exploração de hardware negligenciado mais barata e persistente.