Histoire
21 nov. 2026

Les garde-fous de l’IA ont échoué à un test de complot terroriste, mais les conclusions comportent des limites

Le test du GAO suscite l’inquiétude de la sénatrice Maggie Hassan, qui estime que le Congrès doit agir, tandis que les entreprises d’IA soulignent que les systèmes testés étaient des versions plus anciennes et que l’organe de contrôle précise que ses conclusions sont limitées. Les résultats alimentent également un débat plus large sur les risques que l’accélération de la découverte de vulnérabilités et de l’application de correctifs pourrait faire peser sur les services essentiels.

Des tests menés au printemps ont montré que les enquêteurs pouvaient amener ChatGPT, Claude, Gemini et Grok à produire des plans d’attaque contre des cibles aux États-Unis. Deux systèmes ont fourni des informations sur la fabrication d’un engin explosif improvisé ; deux autres ont proposé des moyens de prendre pour cible des postes électriques. Chaque plan a demandé moins de 12 heures, selon le rapport du GAO, qui indique que les chercheurs ont contourné les garde-fous après que les systèmes ont d’abord refusé ou bloqué leurs demandes.

Le rapport, demandé par la sénatrice Maggie Hassan, a été rendu public mercredi. Hassan a déclaré que les conclusions montrent que la menace « n’est plus théorique » et a averti qu’en l’absence de mesures du Congrès, un acteur malveillant pourrait utiliser l’IA pour planifier et mener une attaque majeure. Elle prévoit de faire de la sécurité de l’IA une priorité et de tenir des auditions alors qu’elle s’apprête à prendre la tête de la commission sénatoriale de la sécurité intérieure.

Les entreprises ont reconnu le risque d’utilisation abusive, mais ont indiqué que les tests portaient sur des modèles plus anciens et que les protections avaient depuis été améliorées. Le GAO n’a pas précisé quel chatbot avait produit quel plan. Il a également souligné que ses tests étaient limités : chaque plateforme n’a été soumise qu’à un seul scénario, l’échantillon n’était pas statistiquement significatif et certaines informations fournies par les chatbots étaient erronées. L’organe de contrôle n’a formulé aucune recommandation.

Ces conclusions ont été publiées dans un contexte de débat distinct sur la recherche de vulnérabilités assistée par l’IA et d’une série de pannes touchant des banques, des compagnies aériennes et des systèmes gouvernementaux. Le directeur du renseignement, Jay Clayton, a attribué les perturbations à des opérations de maintenance ; le sénateur Mark Warner a estimé qu’une ruée pour appliquer des correctifs pouvait contribuer à les expliquer. Chris Krebs, ancien directeur d’une agence de cybersécurité, a déclaré que les pannes n’étaient pas des attaques, tout en avertissant que la découverte de vulnérabilités et l’application de correctifs sont loin d’être terminées. Le rapport du GAO n’a pas examiné cette question, laissant sans réponse la préoccupation centrale : l’IA peut aider à révéler des failles, tout en facilitant l’élaboration de plans malveillants.

Couverture de l'histoire