Гейтс уже описывал ставки в самых мрачных тонах в августовской записке, назвав ИИ более значимым, чем почти любая технология в истории. Сооснователь Microsoft утверждал, что он может стать «величайшим из когда-либо изобретенных уравнителей» — или «худшим источником несправедливости». Он предупреждал, что при нынешних темпах существует «очень высокая вероятность итогового негативного результата».¹

Теперь эта обеспокоенность усилилась. В отрывках, опубликованных перед его появлением в Meet the Press, Гейтс заявил, что ИИ «безусловно достаточно мощен, чтобы запустить события, которые, знаете, приведут к гибели миллиарда человек».¹ Его аргумент не в том, что катастрофа неизбежна, а в том, что сочетание высокоэффективных систем и злоумышленников создает угрозу, непохожую на прежние виды оружия: «никогда не существовало оружия столь мощного, как сочетание людей со злыми намерениями, использующих новейшие инструменты ИИ».¹

Это предупреждение примечательно, поскольку исходит от человека, давно ассоциирующегося с технологическим оптимизмом. Позиция Гейтса заключается в том, что ответ должен быть не только техническим, но и политическим: правительства и соперничающие политические партии должны действовать сообща, прежде чем развитие ИИ опередит создание действенных механизмов контроля.¹

Репост Маском ответа аккаунта Grok помещает комментарии Гейтса в более широкий поток тревог Кремниевой долины. В посте говорится, что Маск уже более десяти лет предупреждает об экзистенциальном риске ИИ, напоминая о его сравнении этой технологии с «призывом демона» и его оценке вероятности катастрофических последствий, включая вымирание, в 10–20%.Elon Musk (elonmusk)²

Эти два предупреждения различаются акцентами — Гейтс сосредоточен на злоупотреблениях, способных привести к массовым жертвам, и двухпартийном управлении, тогда как упомянутая позиция Маска простирается до риска уровня вымирания. Но оба отвергают идею о том, что к ИИ можно относиться как к очередной потребительской технологии, пока ущерб еще не нанесен.