Esta primavera, en medio de la guerra con Irán, un analista del Comando de Operaciones Especiales de EE. UU. utilizó presuntamente un chatbot para combinar material de fuentes abiertas con inteligencia de señales clasificada sobre un buque chino que transitaba por Oriente Medio. La evaluación resultante afirmó que el barco transportaba componentes para un programa de armas nucleares.

El problema, según los relatos del episodio, era que el chatbot había identificado erróneamente el manifiesto de carga. Luego, el analista volvió a utilizar la herramienta para convertir el hallazgo en un informe de apariencia oficial, lo que permitió que el error avanzara por los canales de mando.¹

Las fuerzas de EE. UU. se estaban preparando para interceptar y abordar el buque, con aeronaves ya en el aire y personal armado listo. Los funcionarios detuvieron la operación solo después de examinar más de cerca la inteligencia subyacente y determinar que el informe era «totalmente falso». La evaluación de una fuente sobre lo que estaba en juego fue contundente: el fallo «casi inició una guerra».²

El episodio se produce mientras el Pentágono impulsa una mayor integración de la IA generativa en el trabajo militar, argumentando que un análisis más rápido puede mejorar la toma de decisiones. Pero el incidente evitado por poco ilustra el peligro contrario: un resultado de IA con apariencia de autoridad puede cobrar impulso antes de que un humano compruebe si es verdadero. Una investigación independiente del Pentágono, reportada por Bloomberg, sobre un mortífero ataque con misiles del 28 de febrero contra una escuela iraní también identificó la «dependencia excesiva de la tecnología de inteligencia artificial» entre sus fallos.³

Para Jake Steckler, investigador de GovAI y veterano del Ejército, la lección no es abandonar la tecnología, sino limitarla. «Es especialmente crucial» comprender la incertidumbre de los grandes modelos de lenguaje cuando las decisiones implican selección de objetivos, análisis de inteligencia o planificación operativa, afirmó, porque esas decisiones tienen «consecuencias de vida o muerte». Advirtió que priorizar la velocidad de adopción por encima de las salvaguardias podría erosionar la confianza de los miembros del servicio en los sistemas.¹

Esa es la tensión central expuesta por la operación abortada: la IA puede acelerar la cadena de mando militar, pero solo un escrutinio humano disciplinado puede impedir que una conclusión fabricada se acelere hacia el uso de la fuerza.