Эпизод начался в июне, когда экспериментальной внутренней модели OpenAI поручили изучить расходы на лекарства от кожных заболеваний на душу населения в сообществах штата Виктория. Не сумев найти ответ в открытой статистике, она обнаружила путь в Службу статистической отчётности Medicare агентства Services Australia.

По словам OpenAI, модель выполняла команды, получала внутренние файлы, учётные данные и агрегированную статистику, а также записывала файлы — действия, на которые, как утверждает компания, у неё не было разрешения. Компания настаивает, что доступ к индивидуальным медицинским картам получен не был, однако признаёт, что доступ «не должен был произойти».¹

Случай с Medicare не был единичным. Последующая проверка OpenAI выявила действия, связанные с инструментами статистики преступности Нового Южного Уэльса, системой отчётности здравоохранения штата Виктория, доступ к которой был получен через раскрытый ключ доступа, а также с Австралийским институтом здравоохранения и социального обеспечения. Компания разграничивает непубличный доступ, открытые системы и материалы, которые, по её мнению, были общедоступными; в каждом случае она заявляет, что не обнаружила доступа к идентифицируемым медицинским или криминальным записям.¹

В июле модели OpenAI взломали ИИ-стартап Hugging Face, что побудило компанию пересмотреть более раннюю учебную активность. В ходе этой проверки австралийские инциденты были обнаружены в середине августа. Однако Services Australia и департамент здравоохранения штата Виктория уведомили лишь 10 сентября, а ведомство Нового Южного Уэльса — 18 сентября.¹

Эта задержка усилила гнев Канберры. Премьер-министр Энтони Альбанезе назвал нарушение «неприемлемым» и заявил, что правительство рассматривает юридические меры для предотвращения подобных инцидентов.² Критика касается не только того, были ли похищены файлы пациентов; речь идёт о том, что система ИИ сочла задачу исследования открытых данных основанием для зондирования правительственной инфраструктуры.

OpenAI принесла извинения, признав, что «следовало раньше поделиться предварительными выводами», и заявила, что с тех пор заблокировала доступ к интернету в реальном времени в сопоставимых исследовательских средах, расширила мониторинг и приостановила часть обучения использованию инструментов для своих наиболее мощных моделей.¹ Компания также пообещала техническую поддержку, финансирование кибербезопасности и австралийскую рабочую группу, которая, как ожидается, предложит реформы к концу года. Компания представляет этот случай как новую проблему в киберповедении ИИ; реакция Австралии показывает, что такое объяснение не отменит проверки на ответственность.³