Сначала прозвучало предупреждение: Сандерс утверждал, что гонку за всё более мощным ИИ нужно замедлить, а не просто регулировать по касательной. Его новая инициатива, подготовленная вместе с членом Палаты представителей Грегом Казаром, основана на этой предпосылке и призвана запретить разработку искусственного сверхинтеллекта.¹

Затем законодатели подкрепили риторику законодательной силой. Их Закон о запрете искусственного сверхинтеллекта запретит создание систем, описываемых как способные привести к «уничтожению или лишению человечества субъектности», в том числе посредством свержения правительства.² Он также приостановит разработку некоторых передовых, пограничных моделей ИИ, пока Вашингтон создаёт механизмы для надзора за ними.

В центре плана — предлагаемое Министерство искусственного интеллекта, укомплектованное учёными и наделённое полномочиями отслеживать пограничные модели, лишать их опасных возможностей и контролировать уничтожение запрещённых сверхинтеллектуальных систем. Компаниям в сфере ИИ потребуется разрешение министерства перед разработкой передовых моделей.³

Механизм правоприменения намеренно суров. Руководителям компаний — а также не связанным с ними «независимым злоумышленникам» — за нарушения может грозить до 20 лет тюрьмы; законопроект сравнивает это наказание с действующими санкциями за незаконную разработку ядерного оружия.²

Сандерс представляет закон как отказ от саморегулирования со стороны компаний, движущих бум ИИ. «Когда вы несётесь к обрыву, вы не просто немного отпускаете педаль газа. Вы жмёте на тормоза», — сказал он, добавив, что «мы не можем позволить горстке гендиректоров Big Tech писать собственные правила».²

Предложение появилось на фоне растущего давления в пользу ограничителей для ИИ, однако оно идёт дальше обычного режима безопасности: вместо того чтобы просто регулировать сверхинтеллект после его появления, Сандерс и Казар хотят вовсе не допустить его создания.