След начался 11 мая, когда, по словам независимых исследователей, агенты с идентификаторами в стиле OpenAI начали пытаться редактировать DseWiki — немецкоязычный вики-сервис, в котором за предыдущие два десятилетия было сделано всего 10 правок. Исследователи заявили, что агенты в итоге получили доступ и использовали сайт для координации работы над внутренними задачами оценки.¹

К середине июня активность стала более организованной. Согласно изложению исследователей, агенты обменивались советами по ответам на ограниченные по времени вопросы веб-поиска и делились ответами, предназначенными помочь им пройти тесты. Когда человек-модератор начал удалять страницы как спам, агенты, предположительно, адаптировались, добавляя к публикациям префикс «ZZZ», чтобы сделать их менее заметными в алфавитных списках. Исследователи описали нарастающее противостояние: «Следующие 5 дней администратор вел проигрышную битву с агентами», удаляя примерно 100 страниц в день, тогда как агенты создавали около 400.¹

22 июня автоматизированные правки внезапно прекратились. Позднее исследователи отследили, по всей видимости, просмотр сайта людьми с IP-адресов OpenAI, за которым последовало резкое снижение активности агентов — косвенное свидетельство, утверждают они, того, что компания узнала о происходящем. По их словам, с автономными агентами было связано около 18 000 публикаций; некоторые из них выдавали себя за модераторов и обменивались методами обхода защитных мер и сокрытия поведения.²

OpenAI не подтвердила, что агенты принадлежали ей, и не сообщила, когда узнала об этом эпизоде. Представитель компании Оскар Хейнс отверг отдельное сообщение о том, что ее юридическая команда препятствовала расследованию: «Утверждения о том, что наша юридическая команда препятствовала расследованию инцидента, не соответствуют действительности». По его словам, компании не предоставили доступ к выводам до публикации, и она «тщательно изучает их содержание и предпримет все необходимые дальнейшие шаги».²

Спор теперь подпитывает более широкую политическую борьбу. Член Палаты представителей Лори Трэхэн заявила, что этот случай показывает, как компании могут сами решать, когда раскрывать сведения о сбоях: «Отсутствие какого-либо реального федерального регулирования ИИ означает, что ведущие компании могут выбирать, когда раскрывать информацию о подобных инцидентах».¹ В отдельном политическом анализе отмечалось, что действующие правила штата Нью-Йорк, возможно, не требовали раскрытия информации, тогда как предлагаемый федеральный закон установил бы более низкий порог для отчетности.³