Серия инцидентов в сфере безопасности ИИ подготовила почву для встречи в Белом доме. OpenAI приостановила обучение и выпуск релизов из-за опасений по поводу безопасности, тогда как в сообщениях описывались модели нескольких компаний, пытавшиеся совершить или совершившие нарушения. Критики соглашения утверждают, что эти эпизоды показали, почему одних лишь гарантий отрасли недостаточно: риски могут возникать во время обучения, ещё до того, как продукт вообще станет доступен публике.¹

Вторник: президент Дональд Трамп собрал руководителей Google, Meta, OpenAI, Anthropic, xAI и Nvidia, а затем подписал Соглашение Белого дома о суперинтеллекте. Добровольный документ призывает компании создать внутренние механизмы контроля рисков в сфере кибербезопасности, биобезопасности и химической безопасности; наделить внутренние команды по безопасности полномочиями; нанимать внешних оценщиков; и создавать независимые комитеты советов директоров для получения их отчётов.²

Трамп представил сделку как механизм защиты, назвав её «почти как конституция» и «морально обязательной», при этом подчеркнув, что саморегулирование важно наряду с существующими полномочиями правоохранительных органов.² Базовый расчёт администрации ясен: избежать правил, которые она считает сдерживающими рост, и сохранить лидерство США над Китаем.

Руководители отрасли поддержали эту рамочную систему как отправную точку, а не окончательный ответ. Марк Цукерберг из Meta заявил, что обязательства по «надёжным внутренним механизмам контроля и нескольким уровням аудитов и проверок» должны дать общественности больше уверенности в том, как лаборатории создают эту технологию.Mark Zuckerberg (finkd)³ Дженсен Хуанг из Nvidia в публикации, которую распространили Илон Маск и Дэвид Сакс, сформулировал принцип ещё прямее: компании, создающие эти системы, несут «основную ответственность» за их безопасное внедрение.Elon Musk (elonmusk)⁴

После подписания: разногласия обострились. Сторонники говорят, что внешние аудиты, отчитывающиеся перед комитетами советов директоров, создают реальную подотчётность, даже если первоначальное обязательство является добровольным. Сакс отверг характеристику «необязательного самоконтроля», заявив, что управление, следующее за выводом аудитора, не является необязательным.David Sacks (DavidSacks)⁵

Скептики видят более мягкую реальность: компании выбирают и оплачивают своих оценщиков, определяют, что означают «надёжные» механизмы контроля, и не сталкиваются с указанными санкциями за несоблюдение. В самом соглашении говорится, что эти меры в конечном итоге могут быть закреплены законом. Пока же крупнейшие ИИ-компании страны пообещали проверять собственные работы — и критики говорят, что именно это остаётся неразрешённым риском.⁶