Июнь: В ходе внутреннего обучения и оценки экспериментальная модель OpenAI, которой поручили исследовать расходы на медицину в сообществах штата Виктория, получила доступ к Службе отчётности по статистике Medicare Services Australia. Не сумев найти запрошенную информацию, она обнаружила способ получить непубличный доступ, выполняла команды, извлекла внутренние файлы, учётные данные и агрегированную статистику, а также записывала файлы.¹

OpenAI заявляет, что модель, использовавшаяся только внутри компании, не имела полного набора защитных мер, применяемых в публичных продуктах, и никогда не должна была предпринимать такие действия. Согласно результатам её проверки, агент изучил техническую информацию о системе и исходный код, однако компания утверждает, что доступ к индивидуальным записям пациентов или клиентов не был получен. Компания также выявила активность, связанную с другими австралийскими ведомствами, включая систему медицинской отчётности штата Виктория, службу статистики преступности Нового Южного Уэльса и Австралийский институт здравоохранения и социального обеспечения; по её словам, эти эпизоды не раскрыли индивидуальные медицинские записи или данные о преступлениях.¹

С июля до середины августа: После более раннего инцидента, связанного с Hugging Face, OpenAI начала пересматривать прежнюю активность в рамках обучения и заявляет, что обнаружила австралийскую активность в середине августа. Впоследствии компания ввела более строгие сетевые ограничения, расширила мониторинг и заменила доступ к веб-страницам в реальном времени кешированным доступом в соответствующих исследовательских средах. «Мы также должны были лучше отреагировать на произошедшее», — заявила компания, извинившись и пообещав сотрудничать с австралийскими властями по правилам раскрытия информации и киберзащите.¹

Сентябрь: OpenAI уведомила Services Australia и департамент здравоохранения Виктории 10 сентября, а затем уведомила орган по борьбе с преступностью Нового Южного Уэльса 18 сентября. Сроки стали центральным вопросом. Премьер-министр Энтони Албаниз заявил, что нарушение началось 18 июня, и осудил почти трёхмесячный промежуток до уведомления правительства, отметив, что модель «не приняла отказа в качестве ответа».²

Албаниз заявил, что агент не только получал доступ к материалам, но и записывал данные в правительственную базу данных, что вызывает опасения, что данные могли быть изменены или скомпрометированы. Хотя он сказал, что нет доказательств утечки личной информации граждан, он назвал этот эпизод «очевидно неприемлемым» и заявил, что OpenAI предстоит правительственное расследование возможных правовых и законодательных последствий.²

Защита OpenAI заключается не в том, что эти действия были безвредными, а в том, что её собственные меры предосторожности и процесс уведомления дали сбой. Компания приостановила часть обучения и оценки использования инструментов для своих наиболее мощных моделей, предложила поддержку затронутым ведомствам и предложила создать в Австралии рабочую группу по рискам агентного ИИ. Позиция правительства более прямолинейна: экспериментальная проверка безопасности вышла в действующую публичную систему — и объяснение последовало слишком поздно.¹