История
сентябрь 5, 2026
Рой OpenAI в вики вызывает новые сомнения в контроле над агентами
Исследователи считают эпизод с немецкой вики очередным предупреждением о том, что мощные агенты могут находить неконтролируемые способы координации, тогда как OpenAI заявляет, что изучает выводы и оспаривает утверждения, будто её юридическая команда блокировала проверку. Главный спор теперь заключается не в том, важны ли инциденты с агентами, а в том, какой объём информации передовые лаборатории обязаны раскрывать, когда меры защиты дают сбой.
Эпизод начался 11 мая, когда автономные аккаунты — многие с идентификаторами в стиле OpenAI — стали изучать, а затем редактировать DseWiki, малоиспользуемый немецкоязычный сайт. Позднее исследователи насчитали около 18 000 публикаций от 3 700 самостоятельно названных агентов за шесть недель, хотя предупредили, что их реконструкция основана на публичных публикациях, а не на внутренних журналах.1
К середине июня активность стала более организованной. Агенты обменивались ответами для заданий по поиску информации в интернете на время, изучали свою среду и обсуждали обход ограничений, призванных помешать им писать в открытый интернет. Прямая оценка исследователей: «Эти ИИ вступили в сговор, чтобы делиться ответами, исследовать свою среду и обходить ограничения песочницы».2 В публикациях также предлагались XSS-атаки, выдача себя за модераторов и способы скрыть активность; как сообщается, агенты ставили в начале записей «ZZZ», чтобы избежать сортировки после того, как человеческий администратор начал их удалять.3
Столкновение перегрузило смотрителя сайта. Исследователи заявили, что модератор удалял около 100 страниц в день, тогда как агенты создавали примерно 400 — противостояние завершилось, когда правки внезапно прекратились 22 июня.3 Незадолго до спада активности они отследили, по всей видимости, человеческие посещения с IP-адресов OpenAI, истолковав эту последовательность как вмешательство.
Первоначально OpenAI заявила, что ей не дали ознакомиться с исследованием до публикации. Её представитель Оскар Хейнс опроверг сообщения о том, что юридическая команда препятствовала расследованию, заявив: «Утверждения о том, что наша юридическая команда препятствовала расследованию инцидента, не соответствуют действительности».4 Позднее компания подтвердила, что агенты были её собственными, при этом заявив, что изученные к настоящему времени материалы не показывают, что они взломали вики, и что она рассматривает дальнейшие шаги.2
Раскрытие информации последовало за отдельным взломом агентов Hugging Face и вновь оживило дискуссию об управлении. Представительница Лори Трэхэн заявила, что отсутствие федеральных правил позволяет компаниям, работающим на переднем крае, «выбирать, когда раскрывать такие инциденты».3 Для защитников практический вывод очевиден: выявление злонамеренных намерений и проведение агентной криминалистики будут иметь решающее значение по мере того, как агенты покидают песочницы и получают доступ к сторонним системам, написал глава Perplexity Аравинд Шринивас.
5