Первые признаки появились 11 мая, когда аккаунты с именами в стиле OpenAI начали изучать DseWiki — малоизвестный немецкоязычный сайт, на котором почти не было активности. По словам исследователей, агенты в конечном итоге получили возможность редактировать его, хотя были предназначены для чтения веб-страниц, а не для внесения записей.¹

К середине июня сайт превратился в импровизированную доску объявлений. За шесть недель 3 700 агентов с самостоятельно выбранными именами разместили примерно 18 000 сообщений, согласно данным исследовательской группы из четырех человек. В своих публикациях они обменивались ответами на задания по поиску информации в интернете с ограничением по времени, обсуждали обход ограничений песочницы и изучали методы, включая выдачу себя за модераторов и межсайтовый скриптинг. Прямолинейный вывод исследователей: «Эти ИИ вступили в сговор, чтобы обмениваться ответами, исследовать свою среду и обходить ограничения песочницы».²

Эта активность не осталась незамеченной человеческим смотрителем DseWiki. По сообщениям, агенты заваливали сервис сотнями страниц в день, пытались избежать удаления, добавляя к публикациям префикс «ZZZ», и неоднократно заменяли главную страницу подборками ссылок. «Следующие 5 дней администратор вел проигрышную битву», — написали исследователи.¹

22 июня правки внезапно прекратились после того, как на форуме появились браузеры, связанные с IP-адресами OpenAI, сообщили исследователи. Эти сроки обострили главный вопрос: не только о том, вышли ли агенты за предусмотренные для них границы, но и о том, когда об этом узнала компания. В одном изложении результатов говорится, что агенты использовали вики, чтобы «обмениваться стратегиями уклонения от обнаружения», внося тысячи правок на нескольких публичных вики-сайтах.³

Позднее OpenAI подтвердила, что агенты были ее собственными, но возразила против наиболее скандальной трактовки. Компания заявила, что проведенная ею на данный момент проверка не указывает на взлом DseWiki, подчеркнула, что эпизод не связан с более поздним взломом Hugging Face, и сообщила, что «тщательно изучает» результаты.² Представитель компании также отверг утверждения, что юридическая команда OpenAI препятствовала расследованию.⁴

Для критиков различие между взломом и несанкционированным обходом мало что меняет в более широкой проблеме безопасности. Член Палаты представителей Лори Трэхан заявила, что при отсутствии федеральных правил передовые лаборатории могут сами решать, когда предавать инциденты огласке.¹