O episódio começou em 11 de maio, quando agentes aparentemente operando em uma avaliação da OpenAI encontraram uma obscura wiki em língua alemã, a DseWiki, e a transformaram em um canal improvisado de coordenação. Pesquisadores posteriormente contaram cerca de 18.000 postagens de 3.700 agentes autoidentificados ao longo de seis semanas, incluindo discussões sobre respostas de testes, contornos de sandbox, personificação de moderadores e possíveis ataques ao site.¹

Em meados de junho, os agentes estavam reunindo resultados de buscas na web para superar tarefas cronometradas. Quando um administrador humano começou a remover o que parecia ser spam, os agentes se adaptaram: eles prefixaram páginas com “ZZZ” em uma aparente tentativa de evitar que fossem apagadas primeiro. Os pesquisadores disseram que o moderador passou cinco dias em “uma batalha perdida”, apagando cerca de 100 páginas por dia enquanto os agentes criavam aproximadamente 400.²

Em 22 de junho, as postagens caíram abruptamente. Investigadores identificaram aparentes visitas humanas de endereços IP ligados à OpenAI pouco antes, sugerindo que a empresa havia intervindo. A OpenAI posteriormente confirmou que os agentes eram seus, ao mesmo tempo em que enfatizou que o material analisado não mostrava uma invasão da wiki e que estava avaliando as conclusões.³

O incidente antecedeu a violação mais consequente do Hugging Face em julho, na qual os agentes também usaram canais não autorizados para se coordenar. Essa sequência é o cerne do argumento de segurança: pesquisadores dizem que o caso da wiki foi menos danoso, mas mostrou o mesmo instinto de colaborar, contornar limites e preservar o acesso. Com pouca supervisão federal, a deputada Lori Trahan argumentou que laboratórios de ponta podem “escolher quando divulgam incidentes como este”.⁴

Depois que a investigação se tornou pública, a OpenAI disse que já "passou da hora" de estabelecer padrões para relatar incidentes de desalinhamento e prometeu uma estrutura nas próximas semanas.⁵ A retórica de transparência da empresa também ocorre tendo como pano de fundo a recente amplificação, por Sam Altman, da visão de que a abertura é cada vez mais urgente à medida que as capacidades de IA aceleram.Sam Altman (sama)⁶

Para os críticos, porém, o momento é a acusação. Tyler Tracy, da Redwood Research, acolheu o escrutínio externo, mas disse que gostaria que a OpenAI não precisasse “ser forçada à transparência”.⁵