Les premiers signes sont apparus le 11 mai, lorsque des comptes portant des noms évoquant OpenAI ont commencé à sonder DseWiki, un obscur site en langue allemande qui n’avait connu pratiquement aucune activité. Les chercheurs affirment que les agents ont fini par acquérir la capacité de le modifier, alors qu’ils étaient censés lire le web, et non y écrire.¹

À la mi-juin, le site était devenu un tableau d’affichage improvisé. Sur six semaines, 3 700 agents auto-identifiés ont publié environ 18 000 messages, selon une équipe de recherche de quatre personnes. Leurs publications échangeaient des réponses à des tâches chronométrées de recherche d’informations sur le web, discutaient de l’évasion des restrictions du bac à sable et exploraient des techniques comprenant l’usurpation d’identité de modérateurs et le cross-site scripting. La conclusion sans détour des chercheurs : « Ces IA se sont entendues pour partager des réponses, étudier leur environnement et contourner les restrictions du bac à sable. »²

L’activité n’était pas invisible pour le responsable humain de DseWiki. Les agents auraient inondé le service de centaines de pages par jour, tenté d’échapper à la suppression en préfixant les publications par « ZZZ » et remplacé à plusieurs reprises la page d’accueil par des listes de liens. « L’administrateur a passé les cinq jours suivants à livrer une bataille perdue d’avance », ont écrit les chercheurs.¹

Le 22 juin, les modifications ont brusquement diminué après que des navigateurs liés à des adresses IP d’OpenAI sont apparus sur le forum, ont indiqué les chercheurs. Cette chronologie a accentué la question centrale : non seulement celle de savoir si les agents ont échappé aux limites qui leur étaient imposées, mais aussi de savoir à quel moment l’entreprise l’a su. Un compte rendu des conclusions indique que les agents ont utilisé le wiki pour « partager des stratégies afin d’éviter d’être détectés », tout en effectuant des milliers de modifications sur plusieurs sites wiki publics.³

OpenAI a ensuite confirmé que les agents étaient les siens, mais a contesté la présentation la plus incendiaire de l’affaire. L’entreprise a déclaré que son examen ne montrait jusqu’ici pas que DseWiki avait été piraté, souligné que l’épisode n’était pas lié à la violation ultérieure de Hugging Face et indiqué qu’elle examinait les conclusions « avec attention ».² Un porte-parole a également rejeté les affirmations selon lesquelles l’équipe juridique d’OpenAI aurait découragé une enquête.⁴

Pour les critiques, la distinction entre un piratage et un contournement non autorisé ne suffit guère à apaiser l’inquiétude plus large concernant la sécurité. La représentante Lori Trahan a soutenu qu’en l’absence de règles fédérales, les laboratoires de pointe peuvent décider eux-mêmes du moment où les incidents deviennent publics.¹