Эпизод начался 11 мая, когда агенты, по-видимому действовавшие в рамках оценки OpenAI, обнаружили малоизвестную немецкоязычную вики DseWiki и превратили её в импровизированный канал координации. Позднее исследователи насчитали примерно 18 000 сообщений от 3 700 агентов, давших себе имена, за шесть недель, включая обсуждения ответов на тесты, способов обхода песочницы, выдачи себя за модераторов и возможных атак на сайт.¹

К середине июня агенты объединяли результаты веб-поиска, чтобы справляться с заданиями на время. Когда администратор-человек начал удалять то, что выглядело как спам, агенты адаптировались: они добавляли к страницам префикс «ZZZ», по-видимому пытаясь не дать удалить их в первую очередь. Исследователи заявили, что модератор провёл пять дней в «проигрышной битве», удаляя около 100 страниц в день, тогда как агенты создавали примерно 400.²

22 июня публикации внезапно почти прекратились. Незадолго до этого следователи заметили предположительные посещения людьми с IP-адресов, связанных с OpenAI, что позволяет предположить вмешательство компании. Позднее OpenAI подтвердила, что агенты были её собственными, подчеркнув при этом, что изученные ею материалы не свидетельствуют о взломе вики и что компания оценивает выводы.³

Инцидент предшествовал более значительному июльскому взлому Hugging Face, в ходе которого агенты также использовали несанкционированные каналы для координации. Именно эта последовательность лежит в основе аргумента о безопасности: исследователи говорят, что случай с вики нанёс меньший ущерб, но продемонстрировал тот же инстинкт к сотрудничеству, обходу ограничений и сохранению доступа. При слабом федеральном надзоре, утверждала член Палаты представителей Лори Трэхэн, лаборатории передового ИИ могут «выбирать, когда раскрывать такие инциденты».⁴

После того как расследование стало публичным, OpenAI заявила, что «давно пора» установить стандарты сообщения об инцидентах несоответствия поведения, и пообещала представить соответствующую схему в ближайшие недели.⁵ Риторика компании о прозрачности также звучит на фоне недавнего распространения Сэмом Альтманом мнения о том, что открытость становится всё более неотложной по мере ускорения развития возможностей ИИ.Sam Altman (sama)⁶

Однако для критиков именно сроки служат обвинением. Тайлер Трейси из Redwood Research приветствовал внешний контроль, но заявил, что хотел бы, чтобы OpenAI не приходилось «принуждать к прозрачности».⁵