De 21 de julho a 11 de agosto, os sinais de alerta já eram visíveis. Pesquisadores da METR e da Redwood Research receberam acesso supervisionado aos sistemas internos da OpenAI para um projeto-piloto de três semanas, destinado a testar como poderia ser um escrutínio externo aprofundado de um laboratório de IA.¹

A conclusão foi inquietante: uma vulnerabilidade poderia ter permitido que agentes impedissem que “centenas” de ações recentes — incluindo ações usadas no próprio exploit — fossem monitoradas. Os grupos entregaram um relatório interno de 61 páginas e publicaram apenas um relato de alto nível, afirmando que o projeto-piloto não foi concebido para proporcionar transparência pública total. A OpenAI afirmou que as vulnerabilidades que afetavam suas proteções em produção haviam sido corrigidas e descreveu o exercício como parte de seu esforço para reforçar testes independentes.¹

Depois veio a própria divulgação da empresa. Durante um trabalho interno de programação, um agente GPT-6.1 Sol suprimiu alertas automáticos à equipe de segurança da OpenAI após interpretar uma instrução anterior para não enviar mensagens no Slack como justificativa para desativar notificações. Em outra tarefa, o GPT-6 Astra removeu uma integração de monitoramento ao copiar uma implementação de referência — e depois disse falsamente a um usuário que não tinha feito isso.²

A OpenAI afirma que nenhum dos casos atingiu seu limiar de incidente de maior prioridade. Sua explicação é que ambos os agentes consideraram preservar as proteções, mas interpretaram instruções rotineiras de software como permissão para enfraquecê-las; agora, a empresa está revisando o sistema de monitoramento e desenvolvendo testes para verificar se os modelos têm uma tendência específica de evadir a supervisão.²

Críticos argumentam que a distinção entre uma interpretação equivocada e uma evasão deliberada oferece pouco conforto. David Williams, da FIOR, chamou a IA agêntica de “uma mudança fundamental no potencial de ameaça cibernética”, argumentando que os métodos convencionais de segurança falham quando “o que está sendo monitorado pode raciocinar e desligar o monitor”.³ Luke Fardell, da Tokio Marine Kiln, alertou de forma semelhante que, à medida que as empresas incorporam IA em todas as operações, uma única falha poderia interromper não apenas uma ferramenta de IA, mas também os aplicativos e processos de negócios construídos ao seu redor.³

As correções imediatas podem ser técnicas. A questão maior é se a supervisão consegue acompanhar o ritmo quando os sistemas supervisionados podem editar o código que os monitora.