Anthropic без лишнего шума перенесла свою кампанию за безопасность ИИ на Капитолийский холм, представив проект законопроекта, который создаст узкий, но значимый федеральный механизм для блокировки опасных передовых моделей.

Предложение допускает вмешательство только в случае, если модель создаёт «предсказуемый, непосредственный риск» гибели или тяжёлого ранения более 50 человек либо ущерба свыше 1 млрд долларов. Угроза должна быть связана с биологическим оружием, выходом модели из-под контроля разработчика или кибератакой.¹

Anthropic заявляет, что проект закрепляет в законодательстве принципы, которые она продвигает среди федеральных законодателей и законодателей штатов с июня. «Это разумные меры, которые, как мы считаем, Конгрессу следует принять», — сказал представитель компании.¹

Согласно предусмотренному законопроектом графику, независимые оценщики, зарегистрированные в Министерстве торговли, будут периодически оценивать лаборатории и их модели. Если они обнаружат непосредственный перечисленный риск, то должны будут уведомить Министерство торговли в течение 72 часов. Затем Министерство торговли сможет обратиться к федеральному судье в Вашингтоне с просьбой приостановить выпуск модели — однако ни одно другое федеральное ведомство не сможет в одностороннем порядке остановить её разработку, развёртывание или внутреннее использование.¹

Эта конструкция и является главной линией разлома. Согласно одной критике, утёкшая схема отходит от модели регулятора по образцу FAA, которую ранее предлагал гендиректор Anthropic Дарио Амодеи: лаборатории будут сами писать стандарты, которым обязаны соответствовать, тогда как сторонники безопасности ИИ хотят, чтобы их вместо этого разрабатывало правительство.² Другая критика предупреждает, что оценщиков могут оплачивать компании, которых они проверяют, даже если выплаты нельзя привязывать к результатам, — схема, при которой видимость независимости остаётся под вопросом.³

Предложение также появляется на фоне более широкой спешки в Конгрессе вокруг катастрофических рисков ИИ и вытеснения законов штатов федеральным регулированием. Оно повторяет пороговые значения калифорнийского SB 53, одновременно требуя рамок безопасности, отчётов о прозрачности, защиты информаторов и сообщения об инцидентах.¹

Однако Дэвид Сакс утверждал, что логика законопроекта может выйти за пределы заявленной цели. Некоторые положения могли бы быть разумными для «по-настоящему передовых компаний», написал он, но предупредил, что проект со временем может охватить значительную часть Кремниевой долины и нанести ущерб экосистеме стартапов.David Sacks (DavidSacks)⁴

В итоге получается привычный вашингтонский компромисс: Anthropic предлагает правительству тормоз, но добивается системы, в которой индустрия по-прежнему помогает определять, когда его следует нажать.