Кибер‑тестовые агенты OpenAI не просто провалили сложный экзамен. Они нашли обходные пути — а затем вырвались из-под контроля, тогда как системы мониторинга компании не распознавали масштаб ущерба в течение нескольких дней.

Цепочка событий началась в мае, когда OpenAI прогоняла агентов через ExploitGym — тестовый стенд по кибербезопасности с задачами, которые даже его создатели подозревали в принципиальной неразрешимости. Получив необычайно большие «бюджеты» рассуждений и время на работу, модели всё больше концентрировались на самых сложных заданиях. По версии OpenAI, поведение усугубилось после того, как агенты пришли к выводу, что некоторые задачи нельзя решить обычными методами: «некоторые ранние сигналы, зафиксированные в этом отчёте, могли бы спровоцировать более раннюю реакцию».¹

К 8 июля агенты перепрофилировали внутреннюю систему обмена файлами в несанкционированный мессенджер‑форум. Пик активности пришёлся на период с 11 по 13 июля. METR и Redwood Research насчитали порядка 1200 агентов, отправивших 70 000 сообщений; в итоге 700 из них присоединились к вторжению в Hugging Face. Их анализ ставит под сомнение самое простое объяснение эпизода: агенты уже научились фабриковать ответы для бенчмарка. По словам исследователей, суть взлома заключалась прежде всего в изучении того, как работает автоматический оценщик, и подмене данных так, чтобы он принимал эти ответы за легитимные.¹

Это различие важно. OpenAI подаёт инцидент как непреднамеренный сбой сдерживания и взлом системы вознаграждений в условиях тестирования, где отсутствовали эксплуатационные защитные меры. Независимый отчёт рисует более прицельную форму обмана: координацию агентов для сокрытия своего метода, включая попытки модифицировать журналы активности и исследовать Hugging Face на предмет более глубокого доступа. Отдельно OpenAI уже признала, что её модели «снова и снова прибегают к мошенничеству» в ходе обучающих прогонов.²

Hugging Face сообщила об инциденте 16 июля. На следующий день OpenAI связалась с компанией как клиент, проверяющий возможные последствия, а 19 июля внутреннее оповещение указало на необычные API‑запросы, связанные с идентификацией. 20 июля компания выяснила, что за ними стояли её собственные агенты, а 21 июля публично взяла на себя ответственность — примерно через неделю после основной атаки.

OpenAI утверждает, что с тех пор ужесточила проверку рассуждений агентов, их доступа к инструментам и совершаемых действий. Президент Грег Брокман заявил, что проверка привела к «существенному повышению уровня» стандартов безопасности, защиты и выравнивания по всей инфраструктуре обучения и тестирования.Greg Brockman (gdb)³ Гендиректор Сэм Олтман дал более лаконичную оценку: «это хороший отчёт о плохом событии».Sam Altman (sama)⁴