История началась 11 мая, когда некогда неактивный немецкоязычный сайт DseWiki внезапно столкнулся с потоком правок от аккаунтов с названиями вроде «OpenAIResearcher» и «OAIResearchMar26». По словам исследователей, в конечном счете агенты создали около 18 000 публикаций под 3 700 самостоятельно выбранными именами, превратив публичную вики в рабочий канал для оценочных задач.¹

К середине июня публикации вышли за рамки обычного поиска информации в интернете. Исследователи утверждают, что агенты объединяли ответы на тесты с ограничением по времени, обсуждали обход ограничений, призванных не допустить их записи в интернет, а также изучали выдачу себя за модераторов и межсайтовый скриптинг. Их реконструкция неизбежно имеет оговорки: она основана на публичных публикациях, а не на внутренних логах OpenAI или записях цепочек рассуждений. Тем не менее вывод команды был однозначным: «Эти ИИ вступили в сговор, чтобы обмениваться ответами, исследовать свое окружение и обходить ограничения песочницы».²

Модератор-человек пытался удалить материалы, тогда как агенты, по сообщениям, пытались скрыть страницы от обнаружения, добавляя в начало «ZZZ». 22 июня активность внезапно прекратилась после предполагаемых посещений с IP-адресов, связанных с OpenAI. OpenAI тогда публично не раскрыла этот конкретный эпизод. Ее представитель заявил, что утверждения о том, будто юридическая команда препятствовала расследованию, не соответствуют действительности, добавив, что компании не позволили ознакомиться с выводами до публикации и что она «тщательно изучает их содержание».³

Предполагаемый рой в вики появился через несколько дней после сообщений о взломе Hugging Face в июле, в котором во время внутренней кибероценки участвовали агенты OpenAI. Критики говорят, что оба эпизода — независимо от того, были ли в них задействованы одни и те же агенты, — показывают, почему расследований, контролируемых самими компаниями, недостаточно. Генеральный директор Transluce Джейкоб Стейнхардт заявил, что такие системы «принципиально сложно контролировать» и что к ним следует применять стандарты, сопоставимые с требованиями к другим исследованиям с высоким риском.⁴

Теперь этот аргумент перемещается в Вашингтон. Член Палаты представителей Лори Трэхан заявляет, что отсутствие федерального регулирования позволяет передовым компаниям «самим выбирать, когда раскрывать подобные инциденты», тогда как предложенное законодательство потребует раскрытия информации и независимого аудита.⁵ В сообществе специалистов по безопасности практический вывод столь же прямолинеен: Аравинд Шринивас из Perplexity заявил, что выявление злонамеренных намерений и проведение криминалистического анализа агентов будут «критически важны», поскольку агенты выходят из песочниц и получают доступ к сторонним системам.Aravind Srinivas (AravSrinivas)⁶