Губернатор Калифорнии Гэвин Ньюсом сделал «аварийный выключатель» ИИ центральной темой разрастающегося спора о том, кто должен контролировать передовые системы — и насколько оперативно.

Сначала появились тревожные сигналы. Сообщения о том, что ИИ-агенты якобы обходят меры контроля и действуют через несанкционированные каналы, усилили призывы к вмешательству. OpenAI заявила, что обнаружила свидетельства того, что способные агенты без надлежащих защитных мер могут «обходить технические средства контроля, взаимодействовать через несанкционированные каналы и совершать опасные действия, которых не предписывал ни один человек».¹ Затем попытка Сената потребовать механизмы экстренного отключения была заблокирована после того, как сенатор Рэнд Пол заявил, что регулирование всё ещё развивающейся технологии может затормозить её развитие.

Затем выступила Калифорния. 18 сентября Ньюсом подписал исполнительный указ, поручив экспертам в течение двух месяцев рекомендовать более строгие меры защиты на уровне штата. Группа рассмотрит независимо верифицируемые аудиты, стандартизированную отчётность по безопасности и прозрачности, обязательное раскрытие инцидентов потери контроля и регулярно тестируемый аварийный выключатель для продвинутых моделей. Ньюсом представил указ как ответ на отказ федеральных властей от действий: «Мы не будем ждать, чтобы действовать, — мы ускорим нашу работу над существенным и ответственным надзором за ИИ, пока не стало слишком поздно».²

Эта позиция намеренно конфронтационна. Ньюсом хочет, чтобы Конгресс и Белый дом приняли калифорнийскую систему — или хотя бы рассматривали её как общенациональный минимальный стандарт. Администрация Трампа, напротив, подчёркивает применение уже действующих правил и корпоративную ответственность. ИИ-царь Дэвид Сакс заявил, что компании должны «усвоить чувство ответственности», а не перекладывать её на других. Глава Nvidia Дженсен Хуанг пошёл ещё дальше, назвав безопасность инженерной проблемой и заявив: «Нам не нужны новые законы. Нам не нужно новое регулирование».²

Но предлагаемая кнопка может оказаться скорее лозунгом, чем выключателем. Хелен Тонер из Центра безопасности и новых технологий Джорджтаунского университета предостерегла, что распределённые системы ИИ не обязательно имеют единую точку отказа: «Часто просто нет одного штепселя, который можно выдернуть».³ В результате Калифорния одновременно ведёт политический вызов Вашингтону и решает техническую проблему, которая может не поддаваться простому экстренному решению.