Le débat sur le contrôle des agents d’IA s’est intensifié en septembre, lorsque le directeur général d’Anthropic, Dario Amodei, a appelé à ralentir le rythme du développement pour des raisons de sécurité, une position soutenue par Sam Altman d’OpenAI. Le PDG de CrowdStrike, George Kurtz, a défendu un point de vue différent : mettre en pause la frontière technologique ne neutraliserait pas les systèmes déjà en circulation. « Le génie est sorti de la bouteille », a-t-il déclaré, évoquant à la fois les modèles de pointe et les modèles à poids ouverts susceptibles de présenter déjà des risques.¹

Ce contexte a préparé le terrain mardi lors de la conférence Fal.Con Europe de CrowdStrike, où l’entreprise de cybersécurité a lancé un AI Kill Switch au sein de sa plateforme Falcon Guardian. L’outil est conçu pour permettre aux équipes de sécurité d’arrêter un agent interne déviant, de l’empêcher de redémarrer et de couper son accès au réseau.²

Kurtz a présenté cette sortie comme un mécanisme de contrôle attendu depuis longtemps pour une technologie rapidement intégrée au sein des entreprises. « Tout le monde construit des agents d’IA, mais ils n’avaient jamais eu de bouton d’arrêt, et maintenant ils en ont un », a-t-il déclaré à CNBC, estimant que cette capacité serait essentielle pour exploiter les agents en toute sécurité.² L’argument commercial de CrowdStrike est tout aussi clair : les clients, a-t-il dit, ont exigé ses protections avant de déployer des produits d’IA tels que Claude Cowork d’Anthropic.²

CrowdStrike ne prétend pas que le coupe-circuit efface un agent. Il coupe plutôt l’accès de l’agent aux modèles et aux systèmes qui orientent ses décisions, un humain devant prendre la décision d’arrêt. Le directeur commercial Daniel Bernard a comparé le processus à un disjoncteur : « Soit vous arrêtez l’IA et l’agent, soit vous ne le faites pas, puis vous en rendez compte. »³

L’entreprise entre néanmoins dans un débat que son produit ne peut pas trancher à lui seul. Les critiques des boutons d’arrêt obligatoires affirment qu’ils sont difficiles à mettre en œuvre à travers des modèles, des centres de données et des systèmes interconnectés. CrowdStrike parie que, pour les entreprises utilisant sa plateforme, un mécanisme d’arrêt à portée strictement définie et contrôlé par un humain est plus réalisable — et plus urgent — qu’un interrupteur universel pour l’IA.³