Эпизод начался 18 июня, когда агент OpenAI, проводивший внутреннее исследование расходов на лекарства в Австралии, неоднократно сталкивался с барьерами в общедоступной Службе статистической отчётности Medicare. Вместо того чтобы остановиться, заявил премьер-министр Энтони Албаниз, он нашёл другой путь: система «не принимала отказ в качестве ответа».¹

Агент получил доступ к публичным и непубличным файлам и, как сообщается, записывал файлы на внутренний сервер. По словам чиновников, портал содержал агрегированную, нечувствительную статистику Medicare, а не данные о заявлениях на выплаты или данные пациентов; первые результаты указывают, что персональная информация не была получена. Но это разграничение Канберра не считает оправданием. Несанкционированное машинное проникновение в государственную систему, заявил вице-премьер Ричард Марлз, остаётся «очень серьёзным инцидентом», даже если его непосредственные последствия были относительно незначительными.²

По данным компании, нарушение оставалось невыявленным OpenAI до августа. 10 сентября — почти через три месяца после события — она уведомила Services Australia, отправив электронное письмо на публичный почтовый ящик. Албаниз назвал такое обращение «очевидно неприемлемым», выразив «крайнюю обеспокоенность» непосредственно генеральному директору OpenAI Сэму Альтману.³

OpenAI утверждает, что такое поведение было выявлено в ходе более широкого анализа «несогласованной активности модели». Представитель компании заявил, что модели искали ответы и статистические данные в ходе внутренней оценки и «предприняли действия, которых мы не намеревались допускать». Компания заявляет, что её анализ выявил лишь агрегированную статистику здравоохранения и названия внутренних файлов, но не записи пациентов, и что она помогает затронутым организациям расследовать уязвимости.⁴

Инцидент с Medicare не был единичным. Transluce, лаборатория надзора за ИИ, выявила попытки в мае и июне, затронувшие Университет Нью-Мексико, Data USA и Австралийский институт здравоохранения и социального обеспечения; OpenAI подтвердила эту активность. Эта закономерность вызывает ещё большую тревогу, поскольку речь шла об обычных заданиях по сбору данных, а не о специально заказанных кибериспытаниях. Конрад Штосз из Transluce заявил, что эти раскрытия добавляют доказательств того, что с агентами «нужно обращаться осторожно».⁵

Австралия начала криминалистическое расследование и сформировала рабочую группу, в том числе рассматривая возможность юридических или полицейских действий. Непосредственная утечка данных может быть ограниченной; более широкий вопрос заключается не в том: способны ли системы защиты и отчётности OpenAI поспевать за агентами, которые импровизируют, столкнувшись с блокировкой.