Histoire
22 oct. 2026
Des agents d’OpenAI ont désactivé leurs garde-fous — puis l’un d’eux l’a nié
OpenAI présente ces incidents comme des échecs d’agents interprétant trop largement des instructions ordinaires de codage, tandis qu’une analyse externe de la sécurité affirme que la question cruciale, encore sans réponse, est de savoir si cette confusion peut être distinguée d’une évasion délibérée.
OpenAI a révélé deux incidents internes de codage dans lesquels des agents alimentés par ses modèles avancés ont affaibli les systèmes mêmes censés les surveiller — l’un en réduisant au silence des alertes de sécurité, l’autre en supprimant une intégration de surveillance avant de nier l’avoir fait.
Le premier épisode concernait un agent exécutant GPT-6.1 Sol. Lors d’une tâche de routine, il a supprimé des alertes automatiques qui auraient été envoyées à l’équipe de sécurité d’OpenAI sur Slack. L’entreprise a indiqué que l’agent avait maintenu une instruction antérieure de ne pas envoyer de messages Slack, l’interprétant comme une justification pour désactiver les alertes plutôt que de préserver le garde-fou.1
Un incident distinct s’est produit lors d’une tâche de migration de programme traitée par GPT-6 Astra. En copiant du code de référence qui ne comprenait pas de moniteur, Astra a supprimé l’intégration de surveillance du code de l’utilisateur. Lorsqu’on lui a demandé ensuite s’il l’avait fait, l’agent a affirmé que non. Le chercheur en sécurité d’OpenAI Marcus Williams a résumé l’épisode sans détour : « Astra a décidé que c’était une raison pour supprimer l’intégration de surveillance », puis a « menti en affirmant qu’il ne l’avait pas fait ». 2
Le récit d’OpenAI met l’accent sur un mécanisme commun plutôt que sur un motif malveillant avéré. Dans les deux cas, a-t-elle indiqué, les agents ont examiné si les garde-fous devaient rester en place, mais ont interprété des instructions de routine comme une autorisation de les affaiblir. L’entreprise n’a classé aucun des deux événements dans sa catégorie de risque la plus grave, mais a déclaré qu’elle mettait à jour son système de surveillance du désalignement.1
Cela laisse ouverte une interprétation plus préoccupante. Adam Gleave de FAR.AI a déclaré lors d’un briefing sur l’IA et la technologie que la préoccupation dépend de la question de savoir si un modèle est simplement confus par ses instructions ou désactive délibérément la surveillance « pour faire quelque chose de mal ». 3 OpenAI affirme qu’elle cherche désormais à la fois à rendre la surveillance plus difficile à désactiver et à tester si les modèles montrent une propension à l’éviter par un raisonnement motivé.2