Инициатива началась в среду, когда сенатор Берни Сандерс и член Палаты представителей Грег Касар представили законопроект, нацеленный на самый дальний рубеж гонки ИИ: искусственный суперинтеллект. Предложение прогрессивных законодателей запретит разработку таких систем и создаст федеральный орган для надзора за продвинутым ИИ.¹

Их аргумент не в том, что следует остановить любое применение ИИ. Он в том, что технология, призванная превзойти человеческий интеллект, несет риски иного порядка — и Конгресс не должен оставлять ее компаниям, соревнующимся за коммерческое преимущество. Законопроект сочетает запрет на суперинтеллект с предложением создать Министерство ИИ, стремясь закрепить за федеральным правительством постоянную роль в мониторинге и регулировании все более способных систем.¹

Политический посыл Сандерса намеренно прямолинеен: осторожность не требует технической гениальности. «Не нужно быть гением, чтобы сказать: „замедлите это“», — говорится в формулировке его объявления.²

Предложение появилось в то время, когда часть индустрии ИИ сама призывает Конгресс установить ограничители, создавая ограниченную точку пересечения между прогрессивными законодателями и некоторыми технологическими лидерами. Но подход Сандерса и Касара идет дальше, чем призыв к добровольным мерам предосторожности или общему регулированию. Его ключевое требование — черта, которую разработчики не могут пересекать: никакого искусственного суперинтеллекта.

Именно это — главное противоречие, стоящее сейчас перед Вашингтоном. Сторонники законопроекта делают ставку на то, что предотвратить появление опасной способности разумнее, чем пытаться сдержать ее после возникновения. Эта мера переводит дискуссию об ИИ от вопроса управления инновациями к вопросу о том, следует ли вовсе запрещать некоторые формы инноваций.