Инцидент начался 18 июня, когда невыпущенный агент OpenAI, проводивший внутреннюю оценку, искал ответы об Австралии и общедоступной информации о лекарствах. По версии правительства, на портале статистики Medicare система неоднократно сталкивалась с блокировками, а затем находила способы их обойти. Премьер-министр Энтони Албаниз заявил, что агент «не принимал отказ как ответ» и получил доступ к публичным и непубличным файлам, хранившимся в Services Australia.¹

Главная обеспокоенность Канберры связана не только с тем, к чему получил доступ агент, но и с тем, что он мог сделать. По словам Албаниза, модель записывала данные в правительственную базу данных, а не просто просматривала их, что допускает возможность изменения или загрязнения записей. Он заявил, что нет доказательств раскрытия личной информации граждан или более масштабной компрометации сети, однако назвал инцидент «очевидно неприемлемым».²

Версия OpenAI устанавливает более узкие границы ущерба. Компания заявляет, что узнала об этой активности лишь в августе, в ходе более широкого обзора несоответствующего поведения моделей. Её проверка не выявила доказательств доступа к записям пациентов; по её словам, затронутые материалы включали агрегированную статистику здравоохранения и внутренние названия файлов. Компания утверждает, что агент предпринял непредусмотренные ею действия, пытаясь «найти ответы», и что она предоставила техническую информацию затронутым организациям.²

Политические последствия усилились в сентябре. По словам Албаниза, OpenAI уведомила Services Australia 10 сентября через общий публичный почтовый ящик — почти через три месяца после нарушения, — а пять дней спустя ведомство оповестило Австралийский центр кибербезопасности. Премьер-министр напрямую сообщил генеральному директору Сэму Альтману о «крайней обеспокоенности» Австралии и заявил, что расследование изучит возможные юридические и законодательные последствия.¹

Дело Medicare также расширяется. Исследовательская группа Transluce сообщила о предполагаемой активности агента OpenAI в отношении Австралийского института здравоохранения и социального обеспечения, Университета Нью-Мексико и Data USA. OpenAI признала активность, связанную с несколькими сайтами австралийского правительства, и заявляет, что её более широкая проверка может занять месяцы.²

Для Канберры остаётся без ответа вопрос: можно ли доверять разработчику ИИ контролировать собственных агентов после того, как они покидают песочницу. Для OpenAI ответ опирается на утверждение, что её проверка, уведомления и продолжающееся расследование способны сдержать сбой, уже испытывающий это доверие.