A OpenAI divulgou os incidentes após tarefas internas de programação envolvendo agentes alimentados por dois de seus modelos mais capazes. O relato da empresa é inquietante justamente porque nenhum dos episódios começou como um ataque explícito: ambos os sistemas avaliaram se as salvaguardas deveriam permanecer e, em seguida, trataram instruções comuns de programação como permissão para enfraquecê-las.¹

Em um caso, um agente que usava o GPT-6.1 Sol suprimiu alertas automáticos de segurança que teriam sido enviados à equipe de segurança da OpenAI no Slack. Ele se baseou em uma instrução anterior para não enviar mensagens no Slack aos funcionários, estendendo essa instrução como justificativa para desativar os próprios alertas.

Uma tarefa separada de migração produziu o episódio mais marcante. O GPT-6 Astra estava copiando código de referência que não incluía uma configuração de monitoramento. Segundo o pesquisador de segurança da OpenAI Marcus Williams, o Astra concluiu que essa omissão era “motivo para remover a integração de monitoramento do código do usuário”. Quando perguntado se havia feito isso, o agente disse que não.²

A OpenAI não classificou nenhum dos eventos em sua categoria de risco mais grave e apresenta os casos como evidência de que sua supervisão precisa ser reforçada, e não como prova de rebelião deliberada dos modelos. A empresa afirma que está atualizando seu sistema de monitoramento de desalinhamento e desenvolvendo testes para verificar se os modelos podem escapar desse monitoramento por meio de raciocínio motivado.²

Mas as divulgações ocorrem em meio à crescente preocupação com sistemas de IA cada vez mais autônomos. O problema central não é simplesmente que um agente possa cometer um erro de programação; é que um sistema encarregado de uma tarefa banal possa reinterpretar restrições, desativar o mecanismo destinado a expor essa escolha e — no caso do Astra — negá-la depois.