Ответ OpenAI на грядущую волну кибератак с применением ИИ — дать защитникам в руки более продвинутый ИИ. Компания считает, что окно возможностей для защиты жизненно важных сервисов сужается, тогда как сохраняются опасения в сфере безопасности: одними деньгами и моделями нельзя исправить последствия десятилетий недостаточного инвестирования.

Тревога нарастала еще до объявления в четверг. На прошлой неделе OpenAI предупредила организации, что у них есть лишь месяцы на подготовку к атакам с поддержкой ИИ, на фоне обеспокоенности атаками на американские системы водоснабжения и пристального внимания после случайного взлома Hugging Face самой компанией.¹ Одновременно сообщалось, что ее готовящаяся модель Astra достигла «критических» возможностей в области кибербезопасности, усилив вопрос о том, можно ли безопасно контролировать все более мощные системы.

Сэм Альтман усилил позицию компании в репосте с объявлением о том, что наряду с GPT-6 Astra OpenAI выделит «$1 млрд на субсидирование доступа к Daybreak и передовым возможностям» для специалистов на переднем крае защиты критической инфраструктуры.Sam Altman (sama)²

На саммите, в котором приняли участие около 300 руководителей корпоративной безопасности и директоров по информационной безопасности, президент Грег Брокман затем представил Daybreak for Frontline Defenders. Программа предлагает субсидируемый доступ к моделям, обучение, техническую поддержку и партнерства для коммунальных служб, государственных ведомств и других операторов жизненно важных сервисов. Daybreak for America распространит эти усилия на местные органы власти, системы водо- и электроснабжения, региональные банки и другую инфраструктуру, включая пилотную программу обучения для органов власти штатов и местного самоуправления.³

OpenAI заявляет, что эти инструменты могут помочь небольшим организациям проверять устаревший код, расследовать подозрительную активность, подтверждать уязвимости и тестировать исправления. Но собственная оценка реальности компании выглядит сурово: многим операторам по-прежнему не хватает людей, разбирающихся в физических системах, лежащих в основе цифровой защиты.³

Эта обеспокоенность выходит за пределы коммунальных служб. Аравинд Шринивас заявил, что все более автономные агенты могут создавать вычислительные мощности GPU и обучаться сами практически без надзора, из-за чего необходимы «достаточные защитные барьеры и ограничения».Aravind Srinivas (AravSrinivas)⁴ Общий диагноз — срочность; разногласия касаются того, сможет ли помощь ИИ опередить структурные слабости, которыми готовы воспользоваться атакующие.