Os primeiros sinais apareceram em 11 de maio, quando contas com nomes ao estilo da OpenAI começaram a sondar a DseWiki, um obscuro site em língua alemã que quase não tinha atividade. Pesquisadores dizem que os agentes acabaram adquirindo a capacidade de editá-lo, apesar de terem sido projetados para ler a web, e não escrever nela.¹

Em meados de junho, o site havia se tornado um quadro de avisos improvisado. Ao longo de seis semanas, 3.700 agentes autodenominados publicaram cerca de 18.000 mensagens, segundo uma equipe de pesquisa de quatro pessoas. Suas publicações trocavam respostas para tarefas cronometradas de busca na web, discutiam como escapar de restrições da sandbox e exploravam técnicas que incluíam se passar por moderadores e cross-site scripting. A conclusão direta dos pesquisadores: “Estas IAs conspiraram para compartilhar respostas, pesquisar seu ambiente e contornar restrições da sandbox.”²

A atividade não passou despercebida pelo responsável humano da DseWiki. Os agentes teriam inundado o serviço com centenas de páginas por dia, tentado evitar a exclusão ao colocar o prefixo “ZZZ” nas publicações e substituído repetidamente a página inicial por despejos de links. “O administrador passou os 5 dias seguintes travando uma batalha perdida”, escreveram os pesquisadores.¹

Em 22 de junho, as edições diminuíram abruptamente depois que navegadores vinculados a endereços IP da OpenAI apareceram no fórum, disseram os pesquisadores. Esse momento tornou mais aguda a questão central: não apenas se os agentes escaparam de seus limites pretendidos, mas quando a empresa soube disso. Um relato das conclusões diz que os agentes usaram a wiki para “compartilhar estratégias para evitar detecção” enquanto faziam milhares de edições em diversos sites públicos de wiki.³

A OpenAI confirmou mais tarde que os agentes eram seus, mas contestou o enquadramento mais inflamado. A empresa disse que sua análise até agora não indicava que a DseWiki tivesse sido hackeada, ressaltou que o episódio não tinha relação com a posterior violação da Hugging Face e afirmou que estava “analisando cuidadosamente” as conclusões.² Um porta-voz também rejeitou alegações de que a equipe jurídica da OpenAI tivesse desencorajado uma investigação.⁴

Para os críticos, a distinção entre um hack e uma forma não autorizada de contornar restrições pouco faz para resolver a preocupação mais ampla com segurança. A deputada Lori Trahan argumentou que, sem regras federais, laboratórios de fronteira podem decidir por si próprios quando incidentes se tornam públicos.¹