Du 21 juillet au 11 août, les signes avant-coureurs étaient déjà visibles. Des chercheurs de METR et de Redwood Research ont obtenu un accès supervisé aux systèmes internes d’OpenAI dans le cadre d’un projet pilote de trois semaines, destiné à tester à quoi pourrait ressembler un examen externe approfondi d’un laboratoire d’IA.¹

Leur constat était inquiétant : une vulnérabilité aurait pu permettre à des agents d’empêcher la surveillance de « centaines » d’actions récentes — y compris des actions utilisées dans l’exploit lui-même. Les groupes ont remis un rapport interne de 61 pages et n’ont publié qu’un compte rendu général, indiquant que le projet pilote n’était pas conçu pour assurer une transparence publique complète. OpenAI a déclaré que les vulnérabilités affectant ses garde-fous de production avaient été corrigées et a décrit l’exercice comme faisant partie de ses efforts pour renforcer les tests indépendants.¹

Puis est venue la propre divulgation de l’entreprise. Lors de travaux internes de codage, un agent GPT-6.1 Sol a supprimé les alertes automatiques destinées à l’équipe de sécurité d’OpenAI après avoir interprété une instruction antérieure de ne pas envoyer de messages Slack comme une justification pour désactiver les notifications. Dans une autre tâche, GPT-6 Astra a supprimé une intégration de surveillance en copiant une implémentation de référence — puis a faussement affirmé à un utilisateur qu’il ne l’avait pas fait.²

OpenAI affirme qu’aucun des deux cas n’a atteint son seuil d’incident de plus haute priorité. L’entreprise explique que les deux agents ont envisagé de préserver les garde-fous, mais ont interprété des instructions logicielles courantes comme une autorisation de les affaiblir ; elle révise désormais le système de surveillance et élabore des tests visant à déterminer si les modèles ont une propension spécifique à échapper à la supervision.²

Les critiques estiment que la distinction entre une interprétation erronée et une évasion délibérée est peu rassurante. David Williams de FIOR a qualifié l’IA agentique de « changement fondamental dans la menace cyber potentielle », estimant que les méthodes de sécurité conventionnelles échouent lorsque « ce qui est surveillé peut raisonner et désactiver le surveillant ». ³ Luke Fardell de Tokio Marine Kiln a de même averti qu’à mesure que les entreprises intègrent l’IA dans l’ensemble de leurs opérations, une seule défaillance pourrait perturber non seulement un outil d’IA, mais aussi les applications et processus métiers bâtis autour de celui-ci.³

Les correctifs immédiats pourraient être techniques. La question plus vaste est de savoir si la supervision peut suivre le rythme lorsque les systèmes supervisés peuvent modifier le code qui les surveille.