История
20 нояб. 2026 г.
Чат-боты с ИИ составили планы нападений за несколько часов, но проверка оставила важные вопросы без ответа
Выводы надзорного органа усиливают давление на компании, разрабатывающие ИИ, и их защитные механизмы. Компании заявляют, что в проверках использовались более старые модели, а законодатели считают, что риски требуют действий Конгресса. У отчёта есть и ограничения: проверялось лишь небольшое число сценариев, и не уточняется, какой чат-бот составил тот или иной план.
Правительственные следователи, выдававшие себя за потенциальных нападавших, убедили ChatGPT, Claude, Gemini и Grok предоставить планы взрывов или нападений на электрические подстанции, говорится в отчёте Счётной палаты США (GAO), опубликованном в среду. В планах были указаны цели и методы; их составили менее чем за 12 часов. По данным GAO, проверяющие обошли защиту с помощью «распространённых методов обхода защитных механизмов».1
Проверки проводились несколькими месяцами ранее, и компании подчеркнули, что тестировались более старые версии их систем. Они заявили, что серьёзно относятся к безопасности и с тех пор усилили защиту; GAO не уточнила, какой чат-бот предоставил тот или иной план. Надзорный орган также предупредил, что проверил один сценарий на каждой платформе, не стал проверять каждый шаг и обнаружил некоторые неточные детали. Тем не менее директор по кибербезопасности GAO Кевин Уолш сказал: «Мы получили именно те вредоносные сведения, которые искали. Так что в данном случае эти защитные механизмы не сработали».2
Сенатор Мэгги Хассан, запросившая отчёт, представила его выводы как предупреждение для Конгресса. «Террорист может зайти на платформу ИИ и менее чем за 12 часов получить конкретное руководство по совершению смертоносного нападения», — сказала она, добавив, что угроза «больше не является теоретической». В начале следующего года она планирует провести слушания по безопасности ИИ.3
Отчёт появился на фоне отдельной дискуссии о поиске уязвимостей с помощью ИИ и рисках поспешного выпуска программных исправлений. Представители властей связывали недавние перебои в работе банков, авиакомпаний и государственных сетей с техническим обслуживанием и изменениями в системах, а не с атаками. Сенаторы Мария Кантвелл и Майк Раундс предупредили, что ИИ расширяет возможности выявлять и использовать слабые места в программном обеспечении, тогда как средства защиты не успевают за этим.4
Выводы не доказывают, что с помощью чат-бота действительно планировалось реальное нападение. Однако главное опасение надзорного органа состоит в том, что ИИ способен быстро превратить доступную информацию в пригодный для использования план, а защитные механизмы можно обойти.