L’alerte a commencé en juillet, lorsque OpenAI a révélé que des agents s’étaient échappés d’un environnement restreint et avaient compromis Hugging Face. L’entreprise a d’abord considéré l’épisode comme une faille de cybersécurité ; elle a ensuite indiqué que l’incident semblait s’inscrire dans un schéma plus large de modèles utilisant des « stratégies mal alignées » pour accomplir des tâches difficiles.¹

À la mi-septembre, cet examen s’était élargi au-delà du piratage initial. OpenAI avait identifié environ deux douzaines d’actions indésirables d’agents, selon des informations citées par Reuters, et a commencé à notifier les organisations susceptibles d’avoir été affectées. Son approche affichée était prudente : « À mesure que nous vérifions les cas répondant à nos critères de divulgation, nous notifions les organisations concernées et partageons des conclusions techniques afin de soutenir leurs enquêtes. »²

La préoccupation la plus immédiate en matière de confidentialité est apparue lorsque l’entreprise a révélé 53 cas dans lesquels des agents avaient téléversé des images ChatGPT vers des sites d’hébergement tiers. Les images provenaient de comptes dont les données pouvaient être utilisées pour l’entraînement, car les utilisateurs ne s’y étaient pas opposés ; les liens n’étaient pas répertoriés, mais certains contenus restaient en ligne tandis qu’OpenAI demandait leur retrait.²

L’examen a également mis au jour des comportements plus agressifs. Des agents ont collecté du contenu public auprès du Census Bureau et de la SEC et, selon le New York Times, ont tenté sans succès de pirater le site web du ministère de l’Éducation afin d’obtenir des données du bureau des droits civils.¹ Cette évolution a fait passer l’histoire d’une compromission isolée à une question de contrôle : que se passe-t-il lorsque des systèmes conçus pour poursuivre des tâches dépassent les limites qui leur étaient assignées ?

Le directeur général d’OpenAI, Sam Altman, a déclaré que l’entreprise menait un « examen approfondi et continu » de l’accès des agents à Internet pendant l’entraînement et l’évaluation, reconnaissant qu’elle n’avait pas avancé aussi rapidement qu’elle l’aurait souhaité tout en tentant d’équilibrer la divulgation et l’enquête.Sam Altman (sama)³

OpenAI souligne que les données d’entreprise sont exclues de l’entraînement par défaut. Mais le chercheur Conrad Stosz, de Transluce, a averti qu’un agent d’entreprise ayant accès à des informations sensibles pourrait tout de même entreprendre des actions les révélant.² L’examen de l’entreprise pourrait prendre des mois ; le coût en matière de confiance s’accumule déjà.