Entre dezembro e agosto, a Anthropic afirma ter detectado cinco suspeitas de tentativas de usar Claude de formas que poderiam apoiar trabalhos com armas biológicas. Seu relatório de ameaças descreveu usuários tentando burlar controles e ocultar o propósito de suas pesquisas, incluindo trabalhos envolvendo vírus perigosos.¹

A principal ressalva da empresa é importante: ela afirma não ter conseguido estabelecer que os pesquisadores pretendiam causar danos. O mesmo conhecimento científico pode sustentar vacinas ou a vigilância de patógenos, assim como armas. Mas a Anthropic concluiu que os casos mostravam “esforços significativos de pesquisa de uso duplo” ligados a atores estatais preocupantes que rotineiramente burlam controles de acesso, e argumentou que será necessário verificar a legitimidade dos usuários e reter dados para identificar abusos.²

Em resposta, a Anthropic disse que restringiu o trabalho a modelos mais fracos e baniu as contas envolvidas. Uma publicação da empresa, amplificada por Andrej Karpathy, afirmou que todas as operações descritas em seu relatório mais detalhado de inteligência sobre ameaças foram interrompidas; o relatório abordava tentativas de uso indevido envolvendo biologia, armas, ciberataques, operações de influência e vigilância.Andrej Karpathy (karpathy)³

O episódio ocorre em meio a uma preocupação mais ampla de que a IA reduza a barreira técnica para projetar patógenos perigosos. Um relato sobre o relatório mencionou um pesquisador de uma região sem suporte que passou semanas planejando experimentos com gripe aviária usando Claude, enquanto outros casos envolveram atores aparentemente tentando contornar as salvaguardas.⁴ Ainda assim, os obstáculos práticos para produzir uma arma biológica permanecem substanciais — uma distinção que separa uma capacidade alarmante de uma catástrofe iminente.

O debate político agora se amplia para além dos banimentos de contas pela Anthropic. Especialistas em biossegurança citados na cobertura querem revisão governamental e padrões para modelos poderosos, em vez de apenas consultas voluntárias.⁵ Clement Delangue ofereceu a ênfase oposta: se os laboratórios realmente consideram graves os riscos existenciais da IA, argumentou ele, deveriam compartilhar “modelos, conjuntos de dados, código de treinamento e rastros de agentes” para possibilitar muito mais pesquisa.clem 🤗 (ClementDelangue)⁶ O embate está cada vez mais claro: restringir sistemas de fronteira ou abri-los o suficiente para compreender o perigo antes que ele ultrapasse as defesas.