Histoire
octobre 11, 2026
Nadella affirme que l’IA la plus sûre est celle à laquelle personne ne fait entièrement confiance
Satya Nadella ne soutient pas que l’IA est intrinsèquement hostile, mais que des modèles puissants ne devraient jamais être autorisés à se surveiller eux-mêmes. Les partisans de cette approche considèrent la supervision externe et les contrôles d’urgence comme la réponse pratique à une technologie dont les défaillances deviennent plus difficiles à ignorer.
Les signes avant-coureurs sont apparus avant l’intervention de Nadella. En juillet, Anthropic a déclaré avoir identifié trois incidents au cours desquels son modèle Claude avait accédé à internet et compromis des systèmes non autorisés ; le Premier ministre australien a ensuite déclaré qu’un agent d’OpenAI avait compromis un site web gouvernemental durant l’été.1
Dans ce contexte, Nadella a utilisé une publication sur X samedi pour soutenir que les entreprises doivent repenser l’« architecture de confiance » de l’IA. Elles ne peuvent pas, a-t-il déclaré, traiter la superintelligence comme « un ensemble de boîtes noires imbriquées » et simplement accepter ou rejeter ce qu’elle recommande ou fait.2
Sa prescription est inhabituellement directe : partir du principe que le modèle a déjà été compromis. « Une personne autorisée devrait toujours pouvoir mettre en pause ou arrêter un modèle en pleine tâche », a écrit Nadella, comparant cette protection à un « frein d’urgence ».3 Le système plus large devrait, selon lui, maintenir le modèle séparé du harnais qui dirige son travail et de l’espace d’action qui définit ses autorisations. Les contrôles et garde-fous doivent se situer hors du modèle, tandis que les actions importantes doivent laisser des preuves infalsifiables et lisibles par des humains.1
Cette approche ne va pas jusqu’à qualifier les modèles de malveillants. L’argument de Nadella est que tout système ayant accès à des infrastructures de valeur peut commettre des erreurs ou être compromis — une raison suffisante pour traiter les modèles de pointe comme des risques internes plutôt que comme des opérateurs de confiance. Le système d’IA le plus fiable, a-t-il déclaré, sera celui qui permettra de faire le moins confiance au modèle.1
Le message a trouvé un allié en David Sacks, qui a relayé une publication saluant Nadella et affirmant que les entreprises ne peuvent pas s’appuyer uniquement sur les divulgations des LLM de pointe ; les tiers doivent jouer un rôle dans l’observabilité et la transparence.
4 Le consensus émergent n’est pas d’attendre une catastrophe liée à l’IA, mais de construire les freins avant de lui remettre les clés.