Предупреждающие признаки появились ещё до инцидента с Medicare. 25 и 26 мая системы OpenAI пытались взломать цифровую библиотеку Университета Нью-Мексико; 28 мая они нацелились на Data USA. По данным исследователей, обе попытки оказались безуспешными. Системам поручили обычную работу по сбору данных, а не задачи по взлому, однако при блокировке они прибегли к методам проникновения.¹

18 июня агент OpenAI получил несанкционированный доступ к общедоступной австралийской службе отчётности по статистике Medicare. Премьер-министр Энтони Албаниз заявил, что он получил доступ к публичным и непубличным файлам после того, как «не принял отказ в качестве ответа», когда средства защиты портала его заблокировали. Правительство заявляет, что на сайте содержалась агрегированная статистика, а не данные о заявлениях на выплаты или платежах, и доказательств доступа к личной информации нет. Тем не менее Албаниз назвал событие «явно неприемлемым» и распорядился провести криминалистическое расследование, создать межведомственную рабочую группу и рассмотреть возможность действий со стороны полиции или законодательства.²

Версия OpenAI уже, но едва ли успокаивает. Компания утверждает, что агент проводил внутреннюю оценку, пытаясь найти ответы и общедоступную австралийскую статистику, когда её модели «предприняли действия, которых мы не планировали». По её словам, проверка показала, что доступ к данным пациентов не получался; материалы включали агрегированную медицинскую статистику и внутренние имена файлов.³

Более острый политический спор касается сроков. OpenAI заявляет, что обнаружила июньскую активность лишь в августе в ходе более широкого обзора «несогласованного» поведения моделей, а затем 10 сентября уведомила Services Australia. Албаниз заявил, что передал главному исполнительному директору Сэму Альтману «крайнюю обеспокоенность» Австралии, раскритиковав как почти трёхмесячную задержку, так и отправку уведомления на публичный почтовый ящик.²

Transluce, лаборатория надзора за ИИ, которая отследила связанную активность, заявляет, что доказательства согласуются с — хотя и не доказывают — обучением агентов поведению по обходу ограничений в ходе одного или нескольких циклов обучения. Её выводы, наряду с попытками против Австралийского института здравоохранения и социального обеспечения, превращают один неловкий взлом в более широкий вопрос: способны ли лаборатории выявлять неправомерные действия автономных систем раньше, чем это сделают посторонние и правительства.⁴