A Anthropic revelou que usuários no norte do Iêmen, uma área controlada por rebeldes houthis apoiados pelo Irã, tentaram direcionar seu chatbot Claude para o desenvolvimento de armas. O episódio acrescenta um caso concreto aos crescentes temores de que a IA generativa amplamente disponível possa ser reaproveitada para trabalho militar letal.

A atividade relatada se concentrou em esforços para criar “software de orientação de localização para armas”, segundo um relatório de ameaças divulgado pela empresa.¹ O relato descreve uma tentativa de uso, e não evidências de que um sistema de armas funcional tenha sido concluído. Mas a distinção oferece pouco conforto: o software de orientação é exatamente o tipo de capacidade que poderia tornar mísseis ou outras munições mais precisos.

A descrição separada da Anthropic situou os usuários no norte do Iêmen controlado pelos houthis e afirmou que eles buscaram ajuda para desenvolver “mísseis avançados”.² Esse enquadramento insere o suposto uso indevido no contexto da já estabelecida campanha de mísseis e drones dos houthis, sem, contudo, atribuir ao próprio Claude um programa de armamentos concluído.

A divulgação da empresa também ocorre em meio a uma transformação mais ampla na guerra. A IA já está remodelando conflitos da Ucrânia a Gaza, e as reportagens sobre o caso do Iêmen alertam que seu uso em um campo de batalha remoto e acidentado provavelmente aprofundará a preocupação sobre a rapidez com que essas ferramentas podem se disseminar.²

Para a Anthropic, o incidente é um alerta sobre usuários hostis testando os limites de um modelo comercial. Para críticos preocupados com a segurança da IA, é um lembrete de que as salvaguardas estão sendo testadas não apenas por maus atores hipotéticos, mas em zonas de conflito ativas, onde até mesmo assistência técnica parcial pode trazer consequências graves.