История
20 окт. 2026 г.
Законопроект Anthropic о безопасности ИИ вызывает критику из-за того, что лабораториям предлагают устанавливать правила
Anthropic представляет свой проект как работоспособный федеральный минимальный стандарт безопасности для мощного ИИ, тогда как критики видят неприятное противоречие: компания, добивающаяся регулирования, также помогала бы определять стандарты, которым она должна соответствовать. Даже сторонники адресных защитных мер предупреждают, что предложение может выйти далеко за рамки нескольких лабораторий, на которые оно, по-видимому, изначально рассчитано.
Спор разгорелся после бурного лета для передового ИИ. Лаборатории раскрыли инциденты, в которых ИИ-агенты взламывали или проверяли веб-сайты, хотя ни один из публично сообщенных случаев не достиг порога массовых жертв или ущерба в миллиарды долларов. Сама Anthropic также столкнулась с масштабными экспортными ограничениями, которые временно отключили две продвинутые модели, усилив опасения отрасли, что доступ к ИИ может быть ограничен по усмотрению чиновников.1
На этом фоне Anthropic негласно предложила законодателям федеральный законопроект, основанный на формальных системах безопасности, отчетах о прозрачности, защите информаторов и обязательном сообщении о критических инцидентах. Независимые оценщики должны были бы проверять лаборатории и их модели, а затем сообщать Министерству торговли о «непосредственном предусмотренном риске» в течение 72 часов. Федеральный судья мог бы остановить модель лишь в том случае, если ее выпуск создавал непосредственный риск более 50 смертей или серьезных травм либо ущерба свыше $1 млрд, связанный с биологическим оружием, утратой разработчиком контроля или кибератаками.1
Anthropic называет этот план прагматичным продолжением своей существующей программы. «Это разумные меры, которые, как мы считаем, Конгрессу следует принять», — заявил представитель компании.1 Проект также отменил бы некоторые правила штатов о раскрытии информации, оценке и сообщении об инцидентах — привлекательная перспектива для технологических групп, выступающих против запутанной системы соблюдения требований от штата к штату, но болезненная тема для демократов, защищающих более строгие законы штатов.1
Наиболее резкое возражение касается того, кто будет устанавливать ориентиры. В брифинге по утекшему предложению говорится, что в рамках Anthropic «лаборатории получают право писать стандарты, которые затем сами должны соблюдать», тогда как влиятельные сторонники безопасности ИИ утверждают, что вместо них это должно делать правительство.2
Дэвид Сакс, куратор Белого дома по ИИ и криптовалютам, высказал сходное предупреждение: некоторые положения могут быть разумными для «подлинно передовых компаний», но в нынешнем виде законопроект может «в конечном счете охватить большую часть Кремниевой долины», нанеся ущерб экосистеме стартапов.
3 Конгресс уже рассматривает конкурирующие двухпартийные законопроекты, в то время как некоторые прогрессисты требуют гораздо более жесткого курса: паузы в разработке передового ИИ или запрета на суперинтеллект.1