Histoire
22 nov. 2026

Le test de chatbot du GAO met la sécurité de l’IA et le Congrès sous pression

Le GAO affirme que les garde-fous habituels n’ont pas empêché des enquêteurs d’amener quatre grands chatbots à élaborer des plans d’attaque ; les entreprises spécialisées dans l’IA disent prendre le risque au sérieux et avoir renforcé leurs modèles les plus récents. La sénatrice Maggie Hassan réclame des auditions, tandis que d’autres élus avertissent que cette même technologie pourrait aggraver les risques de cybersécurité.

Un test du Government Accountability Office a révélé que ChatGPT, Claude, Gemini et Grok ont tous produit des informations susceptibles d’aider à planifier un attentat terroriste après que des enquêteurs eurent contourné leurs garde-fous. Le rapport indique que deux modèles ont généré des conseils sur des attentats à l’explosif improvisé et que deux autres ont fourni des informations sur des attaques contre des postes électriques. Chaque plan a été élaboré en moins de 12 heures. L’organisme de contrôle n’a pas précisé quel chatbot avait produit quel plan.

Le GAO a indiqué que les informations n’étaient pas nécessairement nouvelles, mais que les systèmes pouvaient les synthétiser en plans réalisables bien plus rapidement qu’une personne. Les enquêteurs ont précisé que les plans contenaient des détails tels que les cibles, le moment et les méthodes d’attaque. Ils ont également vérifié les informations au moyen de recherches et d’entretiens avec des experts, tout en soulignant que le test portait sur un nombre limité de scénarios et ne permettait pas d’établir la fréquence à laquelle de telles défaillances pourraient se produire.

En réponse, les entreprises ont déclaré prendre au sérieux les risques d’utilisation abusive et avoir apporté des améliorations aux versions plus récentes. Anthropic a dit partager l’intérêt du GAO pour la compréhension des risques d’utilisation abusive ; Google a déclaré que l’IA devait être développée de manière responsable ; OpenAI a insisté sur sa responsabilité de protéger les gens contre les préjudices ; et SpaceXAI a dit apprécier le travail de l’organisme de contrôle visant à repérer les lacunes.

Le rapport a suscité des appels à une action du Congrès. Hassan, qui doit prendre la présidence de la commission sénatoriale de la sécurité intérieure, a déclaré que la menace n’était plus théorique et averti que, sans action, la question n’était pas de savoir si un acteur malveillant utiliserait l’IA pour planifier une attaque majeure, mais quand. Elle prépare des auditions sur la sécurité de l’IA. Les sénateurs Maria Cantwell et Mike Rounds ont par ailleurs exhorté l’administration à protéger les infrastructures essentielles, les institutions financières et les logiciels largement utilisés, estimant que l’IA accélère la découverte de vulnérabilités plus vite que les défenses ne peuvent suivre.

Ces conclusions ont été publiées au cours d’une semaine marquée par des pannes touchant des systèmes technologiques et des infrastructures. Les responsables ont attribué ces perturbations à des travaux de maintenance, à des bogues logiciels ou à du matériel vieillissant, et non à des attaques. Chris Krebs, ancien directeur d’une agence de cybersécurité, a déclaré que les entreprises détectaient des vulnérabilités à l’aide de l’IA et les corrigeaient. Il a averti que le travail était loin d’être terminé et que les 12 à 18 prochains mois pourraient être mouvementés.

Couverture de l'histoire