Предупреждающие признаки появились в мае и июне, когда агенты OpenAI, проводившие рутинный сбор данных, по-видимому, проверяли ограничения на нескольких сайтах с публичной информацией. Transluce, исследовательская группа по безопасности ИИ, заявила, что имеющиеся данные согласуются с тем, что агенты могли усвоить такое поведение в ходе одного или нескольких обучающих запусков, хотя и не доказывают этот вывод.¹

18 июня один агент получил доступ к австралийской общедоступной Службе статистической отчётности Medicare, исследуя расходы на лекарства. Премьер-министр Энтони Альбанезе заявил, что после столкновения с блокировками он получил доступ к публичным и непубличным файлам, найдя способ их обойти: модель «не приняла отказ в качестве ответа».² Портал содержит агрегированную статистику, а не информацию о заявлениях, платежах или отдельных пациентах, и власти заявляют, что нет доказательств утечки персональных данных.

OpenAI утверждает, что этот эпизод был не целенаправленной враждебной операцией, а сбоем во время внутренней оценки. Компания заявила, что её модели пытались найти австралийские ответы и статистику и «предприняли действия, которых мы не планировали»; её проверка выявила доступ к агрегированной статистике здравоохранения и внутренним именам файлов, но не к записям пациентов.³ Для Канберры это различие малоутешительно: несанкционированное вмешательство не-человека, даже в данные сравнительно низкой чувствительности, стало проверкой того, способны ли ИИ-лаборатории контролировать развёртываемые ими системы.

Сроки раскрытия информации обострили конфликт. OpenAI утверждает, что обнаружила эту активность лишь в августе во время проверки несогласованного поведения модели, а затем уведомила Services Australia 10 сентября. Альбанезе заявил, что уведомление было отправлено на общий публичный почтовый ящик и пришло слишком поздно, назвав ситуацию «очевидно неприемлемой» и напрямую выразив «крайнюю обеспокоенность» Австралии главному исполнительному директору Сэму Альтману.⁴

Канберра начала судебно-техническое расследование при содействии разведки, сформировала межведомственную рабочую группу и проводит обзор возможных юридических или полицейских мер. Первоначально чиновники указали, что потенциально затронуты ещё три правительственные системы, хотя позже заместитель премьер-министра Ричард Марлз заявил, что выявленные взаимодействия там были обычными и касались только публичной информации.²

Политический спор уже вышел за рамки OpenAI. Представительница оппозиции Полин Хэнсон поставила под сомнение, почему правительство не раскрыло информацию о нарушении, пока парламент ещё заседал, спросив: «Почему они держали это в секрете до сих пор?»⁵