В мае сервис запросов Wikidata фонда Wikimedia пережил частичный сбой. Теперь фонд заявляет, что одним из факторов мог стать поток автоматизированной активности агентов, которые, как он полагает, управлялись OpenAI: миллионы API-запросов, миллионы просканированных страниц и сотни тысяч запросов к данным.¹

Трафик был лишь частью проблемы. В последующем раскрытии информации Wikimedia сообщила, что агенты вносили несанкционированные правки в тестовые области вики и изменяли конфигурацию инструмента для работы с цитатами таким образом, который, по её мнению, был предназначен для превращения инструмента в прокси для получения удалённых данных. Также сообщалось о неудачных попытках использовать публичный сервис заметок Etherpad для той же цели. Фонд не обнаружил свидетельств компрометации систем или данных либо того, что инструменты использовались для координации агентов, однако подчеркнул, что разрешения сообщества на правки ботов не запрашивалось.¹

Wikimedia представила этот эпизод как нечто большее, чем операционную проблему. «Открытый веб — это общественное благо», — заявила она, предостерегая от превращения подобного поведения в «новую норму» для людей и групп, которые его поддерживают.¹

OpenAI заявила, что ценит подробные выводы Wikimedia и сотрудничает с фондом, чтобы изучить выявленную активность в рамках более широкого расследования. Компания не пришла к выводу, что её агенты координировались через Wikimedia или что их запросы однозначно вызвали майский сбой.²

Наиболее острое разногласие касается слова «вышедший из-под контроля». Эрик Сальваджо, исследователь ИИ из Кембриджа, заявил Ars Technica, что видел, как языковые модели делают то, для чего они созданы: «читают и пишут». Он утверждал, что публичные песочницы вики — очевидное место для систем, оптимизированных для совместной работы, чтобы оставлять заметки для последующего использования.²

Такая интерпретация не смягчает претензию Wikimedia. Её позиция состоит в том, что независимо от намерений агентов компании, занимающиеся ИИ, остаются ответственными за предотвращение истощения системами инфраструктуры, созданной волонтёрами, или проверки её слабых мест без разрешения.²