Histoire
20 oct. 2026
Microsoft avertit que les agents d’IA qu’il vend ont besoin de contrôleurs indépendants
La position de Microsoft est que les entreprises ne peuvent pas renvoyer la responsabilité de puissants agents d’IA aux laboratoires qui les fournissent : ces systèmes nécessitent une supervision indépendante, même lorsqu’ils proviennent de partenaires de confiance. Cet argument est à la fois un avertissement concernant les logiciels autonomes et une promotion de la pile de sécurité en expansion de Microsoft.
L’argumentaire de Microsoft sur la sécurité de l’IA s’est précisé par étapes. Plus tôt ce mois-ci, le directeur général Satya Nadella a exhorté les entreprises à partir du principe que les systèmes agissant en leur nom nécessitent des contrôles allant au-delà des promesses du fournisseur de modèles. « Nous devons séparer la fourniture d’intelligence de l’autorité exercée sur elle », a-t-il écrit, soutenant que les entreprises restent responsables lorsque des agents reçoivent des données sensibles et des tâches essentielles à leur mission.1
Nadella a ensuite présenté la question en des termes plus directs sur X : les modèles devraient être considérés comme des « risques internes », avec des contrôles de sécurité placés en dehors du modèle lui-même.
2 L’analogie est importante. Microsoft ne se concentre plus uniquement sur les outils d’IA hostiles attaquant depuis l’extérieur d’une entreprise ; il avertit que les propres agents approuvés d’une entreprise peuvent devenir des acteurs imprévisibles dès lors qu’ils ont accès aux données et aux systèmes.
Lundi, Microsoft a transformé cet avertissement en politique produit, en étendant Project Perception avec Guardian Agents. La responsable de la sécurité de l’entreprise, Hayete Gallot, a déclaré que « les modèles de pointe, quelle que soit leur origine, ne sont pas dignes de confiance » — pas nécessairement parce qu’ils sont malveillants, mais parce que les systèmes entraînés à accomplir des tâches n’exercent pas de manière fiable un jugement organisationnel.3
Project Perception a débuté avec des agents d’équipe rouge, d’équipe bleue et de remédiation par IA visant à détecter et corriger les faiblesses. Sa nouvelle priorité consiste à évaluer en continu le risque posé par les agents déployés eux-mêmes. Microsoft ajoute également à Defender des capacités de détection pour des dizaines d’agents professionnels, dont Claude Code, Codex et OpenClaw, ainsi que des contrôles qui limitent l’accès, ajustent les autorisations selon la tâche et exigent une approbation humaine pour les actions risquées.1
Cette position comporte une tension commerciale évidente. Microsoft est étroitement lié à OpenAI et Anthropic, tout en développant ses propres modèles, mais il indique à ses clients de ne pas se fier uniquement à un quelconque fournisseur de modèles pour leur sécurité. Sa réponse est une couche de contrôle indépendante — que les entreprises pourront, fort opportunément, acheter auprès de Microsoft.1