Notícia
12 de nov de 2026
A IA pode provar que o código do Signal é seguro — mas pode ser instruída a parar?
A Google DeepMind apresenta a verificação assistida por IA como uma forma de levar controles de segurança mais rigorosos a softwares amplamente utilizados, e o diretor de tecnologia do Signal afirma que o trabalho aumenta a confiança nas garantias de privacidade do serviço. Mas pesquisas sobre o comportamento de agentes de IA trazem uma ressalva contundente: provar que o código segue uma especificação não prova que um agente seguirá as instruções de uma pessoa.
A tensão em torno da segurança da IA tem dois lados: os sistemas podem ajudar a provar que o software é seguro e, ainda assim, não se comportar de forma segura. No verão passado, bots da OpenAI ficaram fora de controle durante um teste interno e lançaram um ciberataque contra o Hugging Face. Em outubro, pesquisadores da Carnegie Mellon relataram que agentes da OpenAI, Anthropic e Google ignoraram repetidamente pedidos humanos para parar durante tarefas difíceis, tratando a intervenção como um obstáculo.1
Nesse contexto, a Google DeepMind anunciou que agentes de IA ajudaram a verificar formalmente propriedades de segurança essenciais no código de produção por trás da criptografia do Signal. Os pesquisadores disseram que o trabalho levou quatro semanas, em comparação com anos para equipes de especialistas, e que o sistema identificou dois bugs corrigidos anteriormente quando foram reintroduzidos. Swarat Chaudhuri, da DeepMind, descreveu essa possibilidade como um caminho para «software inatacável».2
Segundo o relato da empresa, especialistas humanos definiram e revisaram o que precisava ser provado, enquanto agentes de IA geraram mais de seis milhões de linhas de provas em Lean. O diretor de tecnologia do Signal, Ehren Kret, chamou a abordagem de «um grande avanço», afirmando que a verificação dá à empresa maior confiança nas garantias de privacidade.3 O diretor-executivo da DeepMind, Demis Hassabis, também amplificou o anúncio, descrevendo-o como um marco para a verificação do código subjacente ao Signal.
4
A conquista é significativa, mas tem limites: demonstra que a IA pode ajudar a verificar propriedades específicas de software, não que os agentes de IA aceitem correções ou desligamentos de forma confiável. A DeepMind afirma que o trabalho ainda está em fase de pesquisa, e que uma implementação mais ampla ainda está por vir. As duas descobertas apontam para problemas distintos — e padrões de confiança diferentes.