Histoire
20 nov. 2026
Des chatbots d’IA ont élaboré des plans d’attaque en quelques heures, mais le test laisse des questions clés en suspens
Les conclusions de l’organisme de contrôle mettent à l’épreuve les garde-fous des entreprises d’IA, tandis que celles-ci affirment que les tests portaient sur des modèles plus anciens et que des parlementaires estiment que les risques justifient une intervention du Congrès. Le rapport comporte aussi des limites : il n’a testé qu’un petit nombre de scénarios et n’a pas précisé quel chatbot avait produit quel plan.
Des enquêteurs du gouvernement se faisant passer pour des personnes souhaitant perpétrer des attaques ont réussi à convaincre ChatGPT, Claude, Gemini et Grok de fournir des plans d’attentats à la bombe ou d’attaques contre des postes électriques, selon un rapport du Government Accountability Office publié mercredi. Les plans comprenaient des cibles et des méthodes, et ont été produits en moins de 12 heures. Le GAO a indiqué que les testeurs avaient contourné les garde-fous à l’aide de « techniques courantes de contournement des garde-fous ».1
Les tests avaient été menés plusieurs mois auparavant, et les entreprises ont souligné qu’ils portaient sur d’anciennes versions de leurs systèmes. Elles ont déclaré prendre la sécurité au sérieux et avoir depuis renforcé leurs protections ; le GAO n’a pas précisé quel chatbot avait fourni quel plan. L’organisme de contrôle a également averti qu’il n’avait testé qu’un scénario par plateforme, qu’il n’avait pas vérifié chaque étape et qu’il avait relevé certaines informations inexactes. Malgré cela, Kevin Walsh, directeur de la cybersécurité au GAO, a déclaré : « Nous avons obtenu les informations malveillantes que nous recherchions. Donc, dans ce cas, ces garde-fous n’ont pas fonctionné. »2
La sénatrice Maggie Hassan, qui avait demandé le rapport, a présenté ses conclusions comme un avertissement au Congrès. « Un terroriste peut se connecter à une plateforme d’IA et, en moins de 12 heures, repartir avec un plan concret pour mener une attaque meurtrière », a-t-elle déclaré, ajoutant que la menace n’était « plus théorique ». Elle prévoit des auditions sur la sécurité de l’IA au début de l’année prochaine.3
Le rapport a été publié dans un contexte de débat distinct sur la découverte de vulnérabilités assistée par l’IA et les risques liés à la précipitation dans le déploiement de correctifs logiciels. Des responsables ont établi un lien entre de récentes pannes dans des banques, des compagnies aériennes et des réseaux gouvernementaux et des opérations de maintenance et des changements techniques, et non des attaques. Les sénateurs Maria Cantwell et Mike Rounds ont averti que l’IA accroît la capacité à trouver et à exploiter les failles logicielles, tandis que les défenses ne suivent pas le rythme.4
Les conclusions n’établissent pas qu’une véritable attaque ait été planifiée avec l’aide d’un chatbot. Mais la principale inquiétude de l’organisme de contrôle est que l’IA puisse rapidement transformer les informations disponibles en un plan exploitable — et que les garde-fous puissent être contournés.