Ce printemps, dans le contexte de la guerre avec l’Iran, un analyste de l’US Special Operations Command aurait utilisé un chatbot pour combiner des sources ouvertes avec du renseignement électromagnétique classifié concernant un navire chinois traversant le Moyen-Orient. L’évaluation qui en a résulté affirmait que le navire transportait des composants destinés à un programme d’armes nucléaires.

Le problème, selon les récits de l’épisode, était que le chatbot avait mal identifié le manifeste de cargaison. L’analyste a ensuite de nouveau utilisé l’outil pour transformer cette conclusion en un rapport d’apparence officielle, permettant à l’erreur de circuler dans les canaux de commandement.¹

Les forces américaines se préparaient à intercepter et à arraisonner le navire, avec des avions déjà en vol et du personnel armé prêt à intervenir. Les responsables n’ont interrompu l’opération qu’après avoir examiné de plus près le renseignement sous-jacent et constaté que le rapport était « entièrement faux ». L’évaluation d’une source sur les enjeux était sans détour : l’échec « a failli déclencher une guerre ». ²

L’épisode survient alors que le Pentagone intègre plus profondément l’IA générative au travail militaire, estimant qu’une analyse plus rapide peut améliorer la prise de décision. Mais ce quasi-incident illustre le danger inverse : une production d’IA à l’apparence autoritaire peut prendre de l’élan avant qu’un humain ne vérifie si elle est vraie. Une enquête distincte du Pentagone, rapportée par Bloomberg, sur une frappe de missile meurtrière du 28 février contre une école iranienne a également identifié une « dépendance excessive à la technologie d’intelligence artificielle » parmi les défaillances.³

Pour Jake Steckler, chercheur à GovAI et vétéran de l’armée, la leçon n’est pas d’abandonner cette technologie, mais de l’encadrer. « Il est particulièrement crucial » de comprendre l’incertitude des grands modèles de langage lorsque les décisions concernent le ciblage, l’analyse du renseignement ou la planification opérationnelle, a-t-il déclaré, car ces choix ont des « conséquences de vie ou de mort ». Il a averti que privilégier la rapidité d’adoption au détriment des garanties pourrait éroder la confiance des militaires dans ces systèmes.¹

C’est la tension centrale révélée par l’opération annulée : l’IA peut accélérer la chaîne de commandement militaire, mais seule une vigilance humaine rigoureuse peut empêcher une conclusion fabriquée de s’accélérer vers l’usage de la force.