История
21 нояб. 2026 г.

Защитные меры ИИ не выдержали проверку сценарием теракта, но выводы имеют ограничения

Испытание GAO вызывает тревогу у сенатора Мэгги Хассан, которая заявляет, что Конгресс должен действовать, тогда как компании, разрабатывающие ИИ, подчёркивают, что испытывались более старые версии систем, а надзорное ведомство предупреждает об ограниченности выводов. Результаты также обостряют более широкую дискуссию о том, создают ли более быстрое выявление уязвимостей и установка исправлений новые риски для критически важных служб.

Проведённые весной испытания показали, что следователи смогли заставить ChatGPT, Claude, Gemini и Grok составить планы нападений на объекты в США. Две системы предоставили информацию о самодельном взрывном устройстве; две другие предложили способы атаковать электрические подстанции. На каждый план ушло менее 12 часов, говорится в отчёте GAO, согласно которому исследователи обошли защитные механизмы после того, как системы сначала отказали или заблокировали их запросы.

Отчёт, подготовленный по запросу сенатора Мэгги Хассан, был опубликован в среду. Хассан заявила, что выводы показывают: угроза «уже не теоретическая», и предупредила, что без действий Конгресса злоумышленник может использовать ИИ для планирования и осуществления крупного нападения. Она намерена сделать безопасность ИИ приоритетом и провести слушания, готовясь возглавить комитет Сената по внутренней безопасности.

Компании признали риск неправомерного использования, но заявили, что в испытаниях участвовали более старые модели, а с тех пор защитные меры были усовершенствованы. GAO не указало, какой чат-бот выдал тот или иной план. Ведомство также подчеркнуло, что испытания имели ограниченный охват: для каждой платформы проверили лишь один сценарий, выборка не была статистически значимой, а некоторые сведения, предоставленные чат-ботами, оказались неверными. Надзорное ведомство не дало рекомендаций.

Выводы появились на фоне отдельной дискуссии об использовании ИИ для поиска уязвимостей и серии сбоев, затронувших банки, авиакомпании и государственные системы. Директор разведки Джей Клейтон назвал перебои связанными с техническим обслуживанием; сенатор Марк Уорнер заявил, что их причиной может быть спешка с установкой исправлений. Бывший руководитель агентства по кибербезопасности Крис Кребс сказал, что сбои не были результатом атак, но предупредил: поиск уязвимостей и установка исправлений ещё далеки от завершения. В отчёте GAO этот вопрос не рассматривался, и главный повод для беспокойства остаётся нерешённым: ИИ может помогать выявлять слабые места, но в то же время упрощать составление вредоносных планов.

Освещение истории