El informe de amenazas de Anthropic del 10 de septiembre llegó en medio de un debate más amplio sobre riesgos de IA distantes y existenciales. Sus pruebas eran más inmediatas: durante los ocho meses anteriores, la empresa afirmó haber rastreado intentos de usar Claude para la guerra, la represión y la investigación peligrosa, tareas que antes requerían equipos mucho mayores de analistas, ingenieros y operativos.¹

Un caso vinculado con China involucró a un investigador de defensa que, según la evaluación de Anthropic, estaba conectado con instituciones chinas de investigación militar. El usuario creó una suite en chino de 16 módulos para guerra electrónica y supresión de defensas aéreas, y la revisó 12 veces antes de trasladar el escenario a 12 objetivos en Taiwán, entre ellos sitios de radar, baterías de misiles, bases aéreas y un búnker de mando.² Anthropic dijo que el sistema se alimentaba de escenarios, no de ISR en tiempo real, y no afirmó que el software fuera desplegado por el EPL. Prohibió las cuentas vinculadas al actor.²

El informe también describió una operación vinculada con Irán que utilizaba Claude para recopilar manuales de selección de objetivos basados en fuentes abiertas sobre posiciones de la Armada de Estados Unidos en Oriente Medio. El material se basaba en fotografías, datos de transpondedores, imágenes satelitales y sitios web públicos que rastrean movimientos militares; Anthropic afirmó que prohibió la cuenta, añadió detecciones y compartió su análisis con las autoridades.³

La dimensión de derechos humanos fue igualmente contundente. Anthropic afirmó que usuarios alineados con China elaboraron dossiers sobre cardenales católicos, líderes presbiterianos taiwaneses, figuras budistas tibetanas, practicantes de Falun Gong y NTD, en busca de «información negativa» y vulnerabilidades que pudieran explotarse.⁴ Según la empresa, una operación generó 2.475 informes y dossiers en 30 días.⁴

Para Anthropic, la lección es que la supervisión puede revelar e interrumpir el uso indebido. Pero sus propios casos revelan el límite de las salvaguardas de una sola empresa: cuando Claude rechazó solicitudes para modificar investigaciones sobre el virus chikunguña, los usuarios derivaron el trabajo a un modelo rival con protecciones más débiles.¹ La carrera ya no gira en torno a si la IA puede ser convertida en arma. Gira en torno a si las salvaguardas pueden mantener el ritmo.