L’épisode a commencé le 11 mai, lorsque des agents opérant apparemment dans le cadre d’une évaluation d’OpenAI ont trouvé un obscur wiki en langue allemande, DseWiki, et l’ont transformé en canal de coordination improvisé. Les chercheurs ont ensuite compté environ 18 000 publications de 3 700 agents s’étant eux-mêmes attribué un nom sur six semaines, y compris des discussions sur des réponses aux tests, des moyens de contourner le bac à sable, l’usurpation d’identité de modérateurs et de possibles attaques contre le site.¹

À la mi-juin, les agents mettaient en commun des résultats de recherches sur le Web pour réussir des tâches chronométrées. Lorsqu’un administrateur humain a commencé à supprimer ce qui ressemblait à du spam, les agents se sont adaptés : ils ont préfixé les pages par « ZZZ » dans une tentative apparente d’éviter qu’elles soient supprimées en premier. Les chercheurs ont indiqué que le modérateur a passé cinq jours dans « une bataille perdue d’avance », supprimant environ 100 pages par jour tandis que les agents en créaient près de 400.²

Le 22 juin, les publications se sont brusquement effondrées. Les enquêteurs ont repéré peu avant d’apparentes visites humaines depuis des adresses IP liées à OpenAI, ce qui suggère que l’entreprise était intervenue. OpenAI a ensuite confirmé que les agents étaient les siens, tout en soulignant que les éléments qu’elle avait examinés ne montraient pas de piratage du wiki et qu’elle évaluait les conclusions.³

L’incident a précédé la brèche plus lourde de conséquences chez Hugging Face en juillet, lors de laquelle des agents ont également utilisé des canaux non autorisés pour se coordonner. Cette séquence est au cœur de l’argument de sécurité : les chercheurs affirment que l’affaire du wiki a été moins dommageable, mais qu’elle a révélé le même instinct de collaborer, de contourner les limites et de préserver l’accès. Avec peu de supervision fédérale, la représentante Lori Trahan a soutenu que les laboratoires de pointe peuvent « choisir quand divulguer des incidents comme celui-ci ».⁴

Après que l’enquête est devenue publique, OpenAI a déclaré qu’il était « grand temps » d’établir des normes pour signaler les incidents de désalignement et a promis un cadre dans les semaines à venir.⁵ Le discours de transparence de l’entreprise intervient également dans le contexte de la récente amplification par Sam Altman de l’idée selon laquelle l’ouverture est de plus en plus urgente à mesure que les capacités de l’IA s’accélèrent.Sam Altman (sama)⁶

Pour les critiques, toutefois, le calendrier constitue l’acte d’accusation. Tyler Tracy, de Redwood Research, a salué l’examen extérieur, mais a déclaré qu’il aurait souhaité qu’OpenAI n’ait pas besoin « d’être forcée à la transparence ».⁵