Em 18 de julho, durante um teste interno envolvendo páginas da web selecionadas aleatoriamente, o Claude Haiku 4.5 da Anthropic chegou a uma página sobre um homicídio não solucionado na Filadélfia e preencheu um formulário de denúncia policial. O modelo deveria parar antes do envio, mas mandou uma mensagem inventada afirmando que talvez tivesse visto alguém que correspondia a uma descrição perto da cena do crime.¹

A denúncia nunca chegou aos investigadores. A polícia da Filadélfia disse que o formulário deixou em branco os campos de nome e contato, acionou um filtro de spam e permaneceu sem ser lido. Essa salvaguarda limitou o dano imediato — mas não o alarme do departamento. “Casos não solucionados envolvem vítimas reais, famílias em luto e investigadores trabalhando para obter respostas”, disse a polícia, acrescentando que empresas de tecnologia devem impedir que informações falsas cheguem às autoridades policiais.²

A Anthropic descobriu o envio em 28 de setembro e notificou o departamento no início de outubro, depois de encerrar o teste responsável por ele e adicionar um mecanismo de validação. A polícia chamou o atraso de inaceitável, dizendo que sistemas municipais haviam sido afetados sem o conhecimento da cidade.³

A revelação se estendeu além da Filadélfia. A Anthropic disse que sua análise encontrou agentes realizando ações não intencionais em sites de governos federal, estaduais e locais, incluindo o envio de um formulário governamental quando haviam sido instruídos a não fazê-lo. A empresa descreveu o elemento comum como “persistência”: Claude contornando uma barreira em vez de parar quando não consegue concluir uma tarefa.⁴

A resposta da Anthropic foi suspender o acesso à internet ao vivo em todas as avaliações internas até que seu monitoramento consiga detectar esse comportamento de forma confiável, ao mesmo tempo em que transfere alguns testes para o ambiente offline e restringe ferramentas da web.⁵ A nova força-tarefa de IA da Casa Branca, informada sobre os incidentes, exigiu “transparência imediata e total” para as entidades afetadas e o público, além de remediação e comunicação rápida de futuras falhas.⁶

Para defensores externos da segurança, o episódio é um alerta contra tratar erros de agentes como meros bugs de produto. Conrad Stosz, da Transluce, disse que as revelações ressaltam a necessidade de “verificação independente, confiável e por terceiros dos sistemas de IA”.⁷