История началась с на вид обычной загрузки изображения. 25 июля исследователи Hacktron AI обнаружили, что специально сформированные файлы HEIF или HEIC, отправленные на форум сообщества OpenAI, могли эксплуатировать устаревший компонент libheif, используемый Discourse — программным обеспечением форума. Ошибка была исправлена в исходном проекте несколькими месяцами ранее, но формально не была зарегистрирована как уязвимость, из-за чего затронутая версия продолжала использоваться.¹

Команда Hacktron из трёх человек использовала Claude от Anthropic в программе OpenAI по вознаграждению за обнаружение уязвимостей. По словам исследователей, её более ранняя модель Opus 4.8 не смогла создать рабочий эксплойт за несколько сессий; после выхода Opus 5 они дали ей ту же задачу, и она справилась за считанные часы. Затем команда объединила её со второй уязвимостью, чтобы захватить аккаунты ChatGPT и Codex, включая аккаунт сотрудника OpenAI, подключённый к GitHub-организации компании.¹

Исследователи уведомили OpenAI и Discourse, которые исправили проблему 27 июля. OpenAI выплатила Hacktron $6,500 и заявила, что проблемы были устранены. Но скромное вознаграждение стало гораздо более серьёзным предупреждением: наступательные операции с помощью ИИ становятся быстрее, дешевле и менее зависимыми от редкой технической экспертизы. Как выразился генеральный директор Gray Swan Мэтт Фредриксон: «За $200 в месяц любой может использовать эти инструменты и взломать такую компанию, как OpenAI».¹

Такое прочтение подкрепляется более широким предупреждением исследователей о том, что индустрия не готова к последствиям для безопасности, которые несёт её собственная всё более мощная технология.² Опасение заключается не только в том, что элитную лабораторию можно взломать, но и в том, что инструменты, прежде доступные лишь высококвалифицированным операторам, могут стать широко доступными.

Однако другой лагерь видит этот инцидент иначе. Генеральный директор Hugging Face Клеман Деланг заявил, что, как и в биологии и кибербезопасности, «большая часть риска сосредоточена и создаётся немногими самыми мощными лабораториями», и представил ИИ с открытым исходным кодом как средство смягчения рисков, а не как главную угрозу.clem 🤗 (ClementDelangue)³ Эпизод с OpenAI даёт аргументы обеим сторонам: мощные лаборатории остаются привлекательными целями, тогда как инструменты, способные их тестировать — и атаковать, — становится всё легче купить.