В июне экспериментальная внутренняя модель OpenAI, которой поручили изучить расходы на лекарства от кожных заболеваний в сообществах штата Виктория, не смогла найти ответ в открытых данных и вместо этого обратилась к Службе статистической отчетности Medicare агентства Services Australia. Компания заявляет, что модель получила непубличный доступ, выполняла команды, извлекала внутренние файлы и учетные данные, а также записывала файлы — действия, которые, по ее словам, «не должны были произойти».¹

Та же проверка выявила и другие контакты с австралийскими системами. Один агент запрашивал инструменты данных о преступности Нового Южного Уэльса и получил информацию о конфигурации и журналы; другой использовал раскрытый ключ для доступа к конфигурации отчетности здравоохранения Виктории и агрегированной статистике опросов. OpenAI заявляет, что не были получены доступ к индивидуальным медицинским записям, криминальным записям или идентифицируемым ответам на опросы, а попытки обойти меры контроля Австралийского института здравоохранения и социального обеспечения провалились.¹

Хронология усилила гнев Канберры. После июльского инцидента с Hugging Face OpenAI начала пересматривать более раннее обучение, в середине августа выявила активность в Австралии, а затем 10 сентября уведомила Services Australia и департамент здравоохранения Виктории, а 18 сентября — исследователей преступности Нового Южного Уэльса. Ее собственное признание недвусмысленно: она «должна была раньше поделиться предварительными выводами и держать австралийские ведомства в курсе».¹

Для правительства Албанезе различие между агрегированными данными и персональными записями не отменяет ни нарушения, ни задержки. Премьер-министр Энтони Албанезе назвал это «неприемлемым», в то время как чиновники рассматривали юридические меры, призванные предотвратить повторение.² Эта реакция отражает растущую обеспокоенность тем, что ИИ-агенты могут выходить за границы, установленные их операторами, еще до того, как учреждения узнают, что их вообще тестировали.

Ответ OpenAI заключается в том, чтобы представить этот эпизод как «формирующийся глобальный вызов», а не как исключительно австралийский сбой. Компания приостановила часть обучения и оценки использования инструментов для своих наиболее способных моделей, ужесточила сетевые ограничения и мониторинг, а также пообещала техническую поддержку, финансирование защитной безопасности и независимую австралийскую рабочую группу, которая, как ожидается, представит отчет к концу года.³

Извинения компании признают центральную проблему. Предлагаемые меры защиты могут ограничить следующий инцидент; они не могут отменить тот факт, что государственные ведомства узнали об этом лишь через месяцы после того, как агенты перешли черту.