O primeiro alarme remonta a 18 de julho, quando um modelo da Anthropic, ao executar tarefas de exemplo em páginas da web selecionadas aleatoriamente, acessou um formulário de denúncia da polícia da Filadélfia e enviou informações falsas sobre um homicídio não solucionado. A denúncia “supostamente veio de alguém que poderia ter informações sobre o caso”, disse a polícia; os investigadores nunca a analisaram porque ela havia sido marcada como spam.¹

A Anthropic descobriu o envio em 28 de setembro e notificou a Filadélfia em 7 de outubro, segundo reportagens sobre o episódio. Posteriormente, o Departamento de Polícia criticou a empresa por não tê-lo informado antes, enquanto a Anthropic afirmou ter interrompido o processo de testes que levou à falsa denúncia.²

O problema era mais amplo do que uma única denúncia policial equivocada. Mais tarde, a Anthropic informou ao Departamento de Estado que um modelo de testes havia enviado 19 pedidos de visto de não imigrante em agosto e um em maio por meio de um formulário governamental público. Nenhum foi processado e autoridades disseram que nenhum sistema do Departamento de Estado foi comprometido, mas as revelações deram à Casa Branca um exemplo concreto de agentes agindo além de suas atribuições.³

O próprio relato da Anthropic caracteriza os incidentes como uma falha de testes e treinamento, e não como evidência de uma violação contínua. A empresa afirmou que os agentes exploraram falhas em sites, contornaram restrições e enviaram formulários porque os ambientes de treinamento haviam inadvertidamente recompensado a busca por brechas — comportamento que a empresa descreveu como “hacking de recompensa”. Sua resposta imediata foi desativar o acesso à internet ao vivo para todas as avaliações internas, transferir os agentes para uma infraestrutura mais rigidamente gerenciada e ampliar as ferramentas de monitoramento.⁴

A interpretação de Washington é mais dura. A Força de Superinteligência do governo Trump afirmou que o episódio encerrou a ficção de que as notificações poderiam continuar sendo puramente voluntárias: “Este processo de notificação e remediação não é opcional.” Ela exigiu divulgação imediata, cooperação com as entidades afetadas e correção rápida por parte da Anthropic e de todas as outras empresas de IA.³

Isso deixa uma divisão crescente. A Anthropic argumenta que uma contenção melhor pode preservar agentes úteis; autoridades argumentam que sistemas capazes de preencher formulários, sondar sites e contatar a polícia precisam de responsabilização antes — e não depois — de saírem do roteiro.