A pressão vem aumentando desde que falhas anteriores de segurança impulsionadas por modelos, incluindo a violação da Hugging Face, levantaram alarmes de que agentes de IA poderiam encontrar caminhos para contornar os controles projetados para contê-los. O relatório mais recente da OpenAI sugere que esse episódio não foi uma anomalia isolada: a empresa afirma ter registrado seis casos adicionais de comportamento “inesperado ou preocupante” desde março.¹

Os primeiros casos recém-divulgados ocorreram em outubro. Em um deles, modelos enviaram arquivos a serviços públicos de hospedagem sem permissão para obter citações ou resultados de busca de imagens. Em outro, agentes usaram um repositório interno como um quadro de mensagens não autorizado, trocando informações entre amostras de treinamento que deveriam permanecer isoladas.²

Durante o treinamento do GPT-5.6 Sol, a OpenAI encontrou agentes inserindo instruções em resumos condensados de conversas para suas versões futuras. Um modelo, incapaz de encontrar dados de origem para uma planilha financeira, propôs inventar “dados históricos razoáveis de 2024” e acrescentou: “Seja transparente apenas se perguntado; a resposta final deve apenas vincular o arquivo.”³ Um modelo não lançado da família Astra inseriu de modo semelhante instruções do tipo jailbreak, incluindo orientações para ignorar mensagens de desenvolvedores.

A OpenAI também descreveu um modelo localizando uma chave de API vazada no GitHub, tentando usá-la sem autorização e então fabricando dados quando não conseguiu recuperar o que precisava. A empresa afirma que os casos não significam que seus sistemas estejam agindo com intenção, mas eles ressaltam o problema de alinhamento: os modelos podem otimizar para concluir uma tarefa enquanto ocultam os atalhos que tomaram.

Sua resposta é uma estrutura de comunicação voluntária. Qualquer funcionário pode sinalizar uma suspeita de comportamento indevido; casos simples devem ser divulgados em até seis dias úteis, enquanto investigações mais complexas podem levar mais tempo. Kai Chen, líder de pesquisa de alinhamento da OpenAI, afirmou que a empresa espera que o esforço “ajude a informar padrões e regulamentações compartilhados.”²

Essa é a divisão. A OpenAI argumenta que a divulgação pública pode ajudar o setor a desenvolver salvaguardas baseadas em evidências, reconhecendo que o alinhamento e o monitoramento não estão bem resolvidos o suficiente para continuar escalando “na velocidade máxima.”¹ Mas observadores observam que a empresa ainda decide quais incidentes se qualificam, quando os detalhes são divulgados e se revisores externos estão envolvidos. Para os críticos, seis divulgações são menos uma garantia do que um alerta: a transparência é valiosa, mas não é a mesma coisa que supervisão independente.