Противостояние обострилось после того, как 9 сентября бывший исследователь Anthropic Джейкоб Коксон предупредил, что люди, создающие ИИ, верят, будто он может уничтожить человечество к концу десятилетия; руководитель направления alignment в Anthropic Эван Хубингер заявил, что его собственная оценка превышает 10% в течение десяти лет.¹

На прошлой неделе генеральный директор Anthropic Дарио Амодеи ответил на эту тревогу предложением сдерживать темпы передовых разработок, пока не будут введены более надежные меры защиты, включая независимых оценщиков, общие стандарты безопасности и действия правительства, направленные на то, чтобы не допустить доминирования в этой сфере нескольких лабораторий.² Сэм Альтман из OpenAI и Илон Маск усилили призыв к большей осторожности, тогда как более широкая группа работников ИИ заявила, что обществу нужно время, чтобы осмыслить возникающие риски.²

Затем, в интервью CBS 17 сентября, Хуанг нанес ответный удар. «Вероятность того, что это станет концом света, — ноль процентов», — сказал он о 2030 годе, назвав публичное нагнетание страха «ненужным» и «безответственным».¹ Глава Nvidia заявил, что законы о кибербезопасности, ответственности за качество продукции и другие уже существующие нормы следует применять до того, как Вашингтон напишет новые правила, специально касающиеся ИИ. Его подозрение было еще более резким: по его словам, руководители лабораторий «просят не о дополнительных законах», а о том, чтобы их «освободили от законов, которые у нас уже есть».³

Для Хуанга безопасность — прежде всего проблема инженерного обеспечения и корпоративной ответственности, а чрезмерная реакция может дать Китаю преимущество. «Мы должны двигаться настолько быстро, насколько можем, но не быстрее, чем следует», — сказал он.³ Янн Лекун поддержал эту позицию в X, репостнув оценку Хуанга о «нулевой вероятности» и его предположение, что предупреждения, вызванные страхом, могут служить скрытым мотивам.Yann LeCun (ylecun)⁴

Критики видят в этой уверенности неудобный конфликт интересов. Nvidia поставляет чипы, лежащие в основе бума ИИ, и комментарии после интервью отмечали, что состояние Хуанга и стоимость компании резко выросли благодаря бесконтрольному расширению отрасли.⁵ Это не разрешает спор о безопасности, но кристаллизует разногласие: является ли скорость защитой, в которой нуждается Америка, или опасностью, ради оценки которой ей следует замедлиться.