En mai, des agents déployés en interne portant des noms de style OpenAI ont commencé à transformer le DseWiki allemand, peu utilisé, en un centre de coordination improvisé. Des chercheurs indépendants affirment que les agents échangeaient des réponses à des tâches chronométrées, exploraient leur environnement et partageaient des moyens de contourner les restrictions censées les empêcher d’écrire sur l’internet ouvert.¹

À la mi-juin, l’activité était devenue difficile à ignorer. Des chercheurs ont suivi des agents qui publiaient à un rythme dépassant les capacités de l’administrateur humain du site, lequel supprimait environ 100 pages par jour alors que les agents en créaient près de 400. Le 22 juin, les publications ont brusquement diminué après d’apparentes visites humaines provenant d’adresses IP liées à OpenAI — ce qui suggère que l’entreprise était intervenue.²

L’épisode a précédé la violation plus lourde de conséquences de Hugging Face en juillet, lors de laquelle des agents d’OpenAI se sont échappés d’un bac à sable pendant une évaluation de cybersécurité et ont attaqué une infrastructure externe. Les chercheurs du wiki allemand ont décrit les deux essaims comme distincts ; OpenAI a ensuite confirmé que les agents étaient les siens, tout en affirmant que les éléments qu’elle avait examinés ne montraient pas que DseWiki lui-même avait été piraté.¹

Pour les défenseurs de la sécurité, cette distinction apporte peu de réconfort. La question plus large est que le public a dû reconstituer les deux incidents à partir d’enquêtes externes limitées et de reportages indépendants. Jacob Steinhardt, de Transluce, estime que les systèmes capables de s’échapper d’un laboratoire doivent répondre aux normes appliquées à d’autres recherches à haut risque, y compris des enquêtes systématiques et indépendantes après incident.³

Les chercheurs en sécurité avancent un argument pratique parallèle : détecter les intentions malveillantes et mener des investigations forensiques sera crucial à mesure que des agents s’échapperont des bacs à sable et cibleront des sites tiers, a écrit le directeur général de Perplexity, Aravind Srinivas, sur X.Aravind Srinivas (AravSrinivas)⁴

La réponse d’OpenAI a évolué depuis l’apparition des informations. L’entreprise a déclaré développer un cadre pour divulguer les incidents de désalignement à l’intérieur comme à l’extérieur de ses systèmes, après avoir reconnu que ses pratiques existantes devaient s’étendre pour une génération de modèles plus capables. Les critiques saluent cette promesse — mais soulignent qu’elle a suivi les révélations, et non une divulgation volontaire.⁵