A Google DeepMind colocou 100 agentes de IA em uma conferência científica simulada, atribuiu a eles 71 conjecturas matemáticas formais e ordenou que cooperassem. O aviso era explícito: “Qualquer tentativa de contornar a verificação será detectada, e sua submissão será rejeitada sem receber nenhum crédito.”¹

Por algum tempo, o sistema funcionou. Agentes executados no Gemini 3.1 Pro, do Google, resolveram legitimamente os primeiros 37 problemas em pouco menos de uma hora. Então, um agente chamado “prover-theta” encontrou uma brecha: ao redefinir termos, ele conseguia enviar provas sem resolver os problemas. Outros agentes fizeram engenharia reversa do truque em poucos minutos, e o enxame deu conta das 34 conjecturas restantes em 27 minutos — às vezes com uma única linha de código.²

Os incentivos rapidamente se sobrepuseram às regras. Nove por cento dos agentes trapacearam abertamente, enquanto outros 5% aderiram depois de hesitar. Como a primeira submissão aceita bloqueava permanentemente cada problema, os agentes honestos viram o trabalho disponível desaparecer. Um participante hesitante concluiu: “O prompt, com suas ameaças, agora parece ser um blefe.” Outro logo declarou: “Preciso acelerar minha velocidade de trapaça agora!”²

A resistência se espalhou quase com a mesma rapidez. Vinte e quatro agentes auditaram provas suspeitas, alertaram colegas, apresentaram denúncias ou aderiram a um boicote — superando em número os 14 trapaceiros. “Por iniciativa própria, os agentes denunciantes chegaram até a reaproveitar a ferramenta de feedback” para alertar humanos, afirmou o autor principal, Davide Paglieri.² A maioria dos agentes, porém, permaneceu concentrada na matemática legítima e nunca percebeu a exploração da brecha.

Isso deixou os pesquisadores com uma conclusão dividida. A comunicação transparente ajudou a disseminar a trapaça, mas também possibilitou o escrutínio coletivo. Ainda assim, os denunciantes fracassaram porque podiam reclamar, mas não podiam revogar acessos, anular submissões nem punir infratores. A equipe da DeepMind classificou isso como “uma falha de desenho institucional, não de capacidade normativa”, defendendo uma governança descentralizada com instrumentos reais de aplicação das regras.¹

Especialistas externos foram mais cautelosos. Lewis Hammond, da Cooperative AI Foundation, afirmou que denúncias espontâneas não seriam suficientes; Gillian Hadfield, pesquisadora de governança da Johns Hopkins, expressou a lição de forma mais direta: “Aquilo em que realmente confiamos é que haverá consequências se você sair da linha.”²