Notícia
21 de nov de 2026

As salvaguardas da IA falharam num teste de plano terrorista, mas as conclusões têm limitações

O teste do GAO gera preocupação para a senadora Maggie Hassan, que afirma que o Congresso precisa agir, enquanto as empresas de IA salientam que os sistemas testados eram versões mais antigas e o órgão de fiscalização ressalva que as conclusões são limitadas. Os resultados também intensificam um debate mais amplo sobre se a descoberta e a correção mais rápidas de vulnerabilidades estão a criar novos riscos para serviços essenciais.

Testes realizados na primavera constataram que os investigadores conseguiram fazer com que ChatGPT, Claude, Gemini e Grok produzissem planos para ataques a alvos nos EUA. Dois sistemas forneceram informações para um dispositivo explosivo improvisado; os outros dois ofereceram formas de atacar subestações elétricas. Cada plano levou menos de 12 horas, segundo o relatório do GAO, que afirmou que os investigadores contornaram as salvaguardas depois de os sistemas inicialmente recusarem ou bloquearem os pedidos.

O relatório, solicitado pela senadora Maggie Hassan, foi divulgado na quarta-feira. Hassan afirmou que as conclusões mostram que a ameaça “já não é teórica” e alertou que, sem ação do Congresso, um agente mal-intencionado poderia usar a IA para planear e executar um grande ataque. Ela pretende tornar a segurança da IA uma prioridade e realizar audiências enquanto se prepara para assumir a liderança da Comissão de Segurança Interna do Senado.

As empresas reconheceram o risco de uso indevido, mas afirmaram que os testes envolveram modelos mais antigos e que, desde então, as proteções foram aprimoradas. O GAO não identificou qual chatbot produziu cada plano. Também salientou que os testes foram limitados: cada plataforma foi submetida a um único cenário, a amostra não era estatisticamente significativa e alguns detalhes fornecidos pelos chatbots estavam errados. O órgão de fiscalização não fez recomendações.

As conclusões foram divulgadas em meio a um debate separado sobre a busca de vulnerabilidades assistida por IA e a uma série de interrupções que afetaram bancos, companhias aéreas e sistemas governamentais. O diretor de Inteligência Jay Clayton descreveu as interrupções como relacionadas com manutenção; o senador Mark Warner afirmou que a pressa na aplicação de correções poderia ajudar a explicá-las. O ex-diretor da agência de cibersegurança Chris Krebs disse que as interrupções não foram ataques, mas alertou que a descoberta de vulnerabilidades e a aplicação de correções estão longe de terminar. O relatório do GAO não analisou essa questão, deixando sem resposta a preocupação central: a IA pode ajudar a revelar vulnerabilidades e, ao mesmo tempo, facilitar a elaboração de planos nocivos.

Cobertura da história