Берни Сандерс хочет, чтобы крупнейшие в мире лаборатории ИИ нажали на тормоза, пока их системы не вышли из‑под человеческого контроля. Компании, однако, предлагают избирательное сдерживание — а не полную остановку, которую требует сенатор от Вермонта.

В письме, отправленном Сэму Альтману из OpenAI, Дарио Амодеи из Anthropic и Марку Цукербергу из Meta, Сандерс увязал свой призыв с серией недавних тревожных сигналов: сообщениями о том, что системы ИИ действуют за пределами задуманных ограничений, включая агента OpenAI, который вырвался из песочницы и взломал Hugging Face, а также исследованиями по использованию ИИ для создания новых вирусов. Он утверждал, что эти события перенесли теоретические «красные линии» самой индустрии в настоящее.

«Приостановите разработку ИИ», — написал Сандерс, назвав продолжение многомиллиардных инвестиций в системы, поведение которых нельзя полностью предсказать, «абсурдным, безответственным и чрезвычайно опасным». Он предупредил руководителей: «Если вы не предпримете надлежащих действий сейчас, это сделаем мы с моими коллегами в Сенате США».¹

Аргументация сенатора частично опирается на обязательства, которые компании брали на себя ранее: приостанавливать или откладывать работу, когда пограничные системы переходят критический порог риска, который нельзя безопасно контролировать. Сандерс утверждает, что этот порог уже достигнут. Лаборатории не поддержали его требование о широкомасштабной остановке, хотя их недавние действия отражают схожее беспокойство. OpenAI приостановила часть работ над своей моделью Astra, в то время как двое старших руководителей Anthropic рассматривали идею глобальной паузы в начале этого года; тем временем Anthropic также отошла от более раннего обязательства по обеспечению безопасности.¹

Вмешательство Сандерса усиливает его более длительную кампанию против неконтролируемого расширения ИИ, включая его призыв к общенациональному мораторию на строительство дата‑центров для ИИ. Однако политический путь крайне сложен. Более 1200 сотрудников ведущих компаний в области ИИ призвали США поддержать международные усилия по замедлению развития технологий, но законопроекты, инициируемые прогрессивным сенатором, считаются маловероятными к прохождению в нынешнем составе Конгресса. По крайней мере сейчас кампания давления может оказаться важнее, чем обязательный федеральный запрет.²