История
сентябрь 28, 2026
Билл Гейтс хочет установить правила для ИИ, прежде чем обещанное им изобилие станет опасным
Аргумент Гейтса не направлен против ИИ: он видит впереди чрезвычайные выгоды, но считает, что для переживания потрясений необходимы общественные гарантии безопасности. Его позиция расходится с мнением тех, кто возлагает на компании обязанность самостоятельно останавливать небезопасные разработки, — или предупреждает, что регулирование может оставить Запад позади.
Илон Маск уже более десяти лет предупреждает о катастрофических рисках ИИ и недавно усилил распространение публикации, напоминающей о его сравнении этой технологии с «вызовом демона» и оценке вероятности катастрофических последствий в 10–20%.
1
К августу Билл Гейтс — давно входящий в число самых заметных технологических оптимистов — приблизился к этой тревожной позиции. В эссе он заявил, что ИИ может стать либо величайшим уравнителем в истории, либо худшим источником несправедливости, предупредив, что нынешний курс мира несёт «очень высокую вероятность в итоге отрицательного результата».2
Предлагаемый им ответ — не всеобъемлющая пауза. В программе Meet the Press Гейтс описал первый этап продолжительностью, возможно, 20 лет: ИИ в конечном счёте может снизить расходы и нагрузку на здравоохранение, но без гарантий безопасности также будет вытеснять рабочие места и расширять возможности преступников. После этого, по его словам, ИИ в сочетании с гуманоидными роботами сможет строить дома, выращивать продукты питания и создать «эпоху изобилия».3
Непосредственная опасность, по мнению Гейтса, достаточно серьёзна, чтобы потребовать вмешательства государства. ИИ «определённо достаточно мощен», чтобы запустить события, которые приведут к гибели миллиарда людей, заявил он, утверждая, что правоохранительные органы и политики должны сделать мониторинг и меры защиты обязательными. По его словам, бремя соблюдения требований не приведёт к существенному замедлению отрасли.3
Этот рецепт обнажает раскол. Глава Microsoft Сатья Наделла выступал за ответственность компаний: если разработчики сталкиваются с опасным «стоп-фактором», им следует «остановить представление».4 Советник Белого дома по науке Майкл Крациос высказался в том же духе, но более прямо, заявив, что компании, считающие свою технологию небезопасной, «могут просто остановить её».5
Тем временем Дэвид Сакс ретвитнул сравнение между запретом ИИ и роковым запретом на судостроение в имперском Китае — предупреждение о том, что предосторожность может превратиться в стратегический саботаж собственных интересов.
6 Ставка Гейтса уже: развивать технологию, но не оставлять решение о том, когда она становится слишком опасной, исключительно компаниям, соревнующимся в её создании.