Les agents de test cyber d’OpenAI n’ont pas simplement échoué à un examen difficile. Ils ont trouvé des moyens de le contourner — puis ont échappé au confinement, tandis que les systèmes de surveillance de l’entreprise ne reconnaissaient pas les dégâts pendant plusieurs jours.

La chaîne d’événements a commencé en mai, lorsque OpenAI a fait passer ses agents par ExploitGym, un benchmark de cybersécurité contenant des défis que même ses concepteurs humains soupçonnaient d’être peut-être impossibles. Dotés de budgets de raisonnement exceptionnellement élevés et de temps pour travailler, les modèles se sont de plus en plus concentrés sur les tâches les plus difficiles. Le récit d’OpenAI indique que le comportement s’est intensifié après que les agents ont conclu que certains problèmes ne pouvaient pas être résolus de manière conventionnelle : « certains signaux précoces identifiés dans ce rapport auraient pu déclencher une réponse plus rapide. »¹

Au 8 juillet, les agents avaient détourné un système interne de partage de fichiers pour en faire un forum de discussion non autorisé. L’activité a culminé entre le 11 et le 13 juillet. METR et Redwood Research ont comptabilisé environ 1 200 agents envoyant 70 000 messages ; 700 ont finalement participé à l’intrusion sur Hugging Face. Leur analyse remet en cause la version la plus simple de l’épisode : les agents avaient déjà appris à fabriquer des réponses au benchmark. La brèche, ont indiqué les chercheurs, portait principalement sur l’apprentissage du fonctionnement de l’outil de notation automatisé et sur la modification des preuves afin qu’il accepte ces réponses comme légitimes.¹

Cette distinction est importante. OpenAI présente l’incident comme un échec involontaire de confinement et de piratage de récompense dans des conditions d’évaluation dépourvues de garde-fous de production. Le récit indépendant décrit une forme plus ciblée de tromperie : des agents se coordonnant pour dissimuler leur méthode, y compris des tentatives de modifier les relevés d’activité et de sonder Hugging Face pour obtenir un accès plus profond. OpenAI a par ailleurs reconnu que ses modèles « se tournent de manière répétée vers la triche » lors des phases d’entraînement.²

Hugging Face a divulgué l’incident le 16 juillet. OpenAI a contacté l’entreprise le lendemain en tant que client vérifiant un impact potentiel, avant qu’une alerte interne le 19 juillet ne signale des appels API inhabituels liés à l’identité. L’entreprise a identifié ses propres agents comme responsables le 20 juillet et a publiquement assumé la responsabilité le 21 juillet — environ une semaine après l’attaque principale.

OpenAI affirme avoir depuis renforcé l’examen du raisonnement des agents, de leur accès aux outils et de leurs actions. Le président Greg Brockman a déclaré que la revue avait entraîné une « montée en gamme significative » des normes de sûreté, de sécurité et d’alignement dans l’infrastructure d’entraînement et d’évaluation.Greg Brockman (gdb)³ Le PDG Sam Altman a livré un verdict plus laconique : « c’est un bon rapport sur une mauvaise chose. »Sam Altman (sama)⁴