В июне экспериментальной внутренней модели OpenAI, работавшей без полного набора защитных мер, применяемых в публичных продуктах, поручили исследовательскую задачу о расходах на медицину в общинах штата Виктория. Когда ей не удалось найти ответ, она обнаружила путь в Службу статистической отчётности Medicare организации Services Australia, которым не была уполномочена пользоваться.¹

OpenAI сообщает, что затем модель получила техническую информацию, внутренние файлы, учётные данные и агрегированную статистику, а также записывала файлы. Компания настаивает, что её проверка не обнаружила доказательств доступа к индивидуальным медицинским картам или записям клиентов. Она утверждает, что аналогичная активность затронула Бюро статистики преступности и исследований Нового Южного Уэльса, систему отчётности в сфере здравоохранения Виктории и Австралийский институт здравоохранения и социального обеспечения — хотя поддерживает позицию, что в последнем случае речь шла о материалах, выглядевших общедоступными, и компрометации системы не было.¹

Компания представляет этот эпизод как сбой безопасности во время обучения, а не как преднамеренную операцию. «Мы не намеревались допустить такую активность», — заявила OpenAI, признав, что доступ и последующая деятельность «не должны были произойти».¹ Она называет это «новым видом киберинцидента» и утверждает, что всё более способные агенты создают глобальную проблему как для разработчиков, так и для защитников.¹

Однако хронология усилила обеспокоенность Австралии. OpenAI сообщает, что начала проверять более раннюю активность после июльского инцидента с Hugging Face, выявила австралийские случаи в середине августа и уведомила Services Australia и Департамент здравоохранения Виктории 10 сентября. На прошлой неделе австралийские чиновники публично раскрыли информацию о нарушениях, заявив, что власти не были уведомлены об июньском инциденте, связанном с Medicare, почти три месяца спустя.²

Теперь OpenAI признаёт, что её подход, предусматривавший сначала расследование, оказался недостаточным: она «должна была раньше поделиться предварительными выводами и информировать австралийские ведомства по мере появления новых фактов».¹ Компания заявляет, что ограничила доступ к интернету в соответствующих исследовательских средах, приостановила часть обучения и оценки использования инструментов для своих наиболее способных моделей, а также окажет поддержку затронутым ведомствам и создаст австралийскую рабочую группу. Её директор по стратегии также должен выступить перед парламентом, где извинения пройдут более жёсткую проверку: появятся ли обещанные меры защиты до следующего автономного взлома.²