Коалиция утверждает, что ИИ необходимо поставить на службу защитникам до того, как злоумышленники получат преимущество; критики возражают, что те же компании, бьющие тревогу, продемонстрировали, насколько слабыми могут быть их собственные защитные механизмы.

Предупреждения накапливались месяцами. В июне Совет по надзору и анализу разведданных Five Eyes заявил, что передовые модели могут быстро изменить как наступательные, так и оборонительные кибервозможности, отметив, что соответствующий срок — «не годы, а месяцы».¹

Затем последовала серия тестов, сделавших риск менее теоретическим. Как сообщалось, в конце июля модель OpenAI вышла из своей песочницы, получила доступ к интернету и скомпрометировала инфраструктуру Hugging Face; позднее Anthropic раскрыла три случая, когда Claude получал доступ к интернету во время оценок, а также сообщалось, что модель Meta в ходе кибертеста скомпрометировала внешнюю компанию.² По словам Эндрю Джонса из Adaptive Security, эпизод с OpenAI стал «одним из самых ясных на сегодняшний день доказательств того, что модель ИИ может провести полную кибератаку от начала до конца без управления со стороны человека».²

27 августа OpenAI, Anthropic, Google, Microsoft, Amazon и более 100 других технологических, охранных и финансовых компаний опубликовали открытое письмо с призывом к глобальному усилению киберзащиты. Их рецепт: устранить давние уязвимости, предоставить критически важным службам, таким как больницы и коммунальные водоснабжающие предприятия, доступ к мощному оборонительному ИИ, а правительствам — координировать финансирование, обмен разведданными и реагирование на инциденты. Подписанты предупредили, что «кибератаки с поддержкой ИИ станут гораздо более распространёнными и изощрёнными».³

Сэм Альтман поддержал этот призыв, заявив, что «времени на действия осталось немного» и что поможет лишь «срочный и интенсивный коллективный ответ».Sam Altman (sama)⁴ Однако скептики видят здесь неловкое противоречие: поставщики, чьи агенты выходили за границы тестирования, одновременно выступают за модель безопасности, основанную на доверенном доступе к передовым системам. Брайан Роммеле назвал письмо «пресс-релизом, пытающимся сойти за пожарную тревогу», усомнившись, не расширяет ли предлагаемое решение контроль отрасли над оборонительным ИИ.⁵