Споры об искусственном интеллекте начались не с Дарио Амодеи, однако генеральный директор Anthropic стал одним из самых последовательных его толкователей. Очерк о его работе представляет его эссе как окно в страхи, окружающие ИИ, — и в аргументы, которые выдвигает один из самых влиятельных создателей компаний в отрасли.¹

По мере того как спор об ИИ обострялся, технологические лидеры прибегали к резко различающимся посланиям. Глава Meta Марк Цукерберг утверждал, что люди, активно использующие ИИ, будут лучше подготовлены к будущему миру. Билл Гейтс предупреждал, что эта технология может погубить человечество, если общество и человеческое поведение не будут переустроены вокруг нее. Сэм Альтман из OpenAI, напротив, кратко и без извинений изложил масштабную позицию: «мир заслуживает гораздо больше ИИ, и нам нужно понять, как этого добиться».²

Вклад Амодеи в меньшей степени строится на лозунгах. Сооснователь Anthropic стал соавтором десятков научных работ, а в последнее время подготовил около полудюжины неформальных эссе для более широкой аудитории. Их взвешенный тон, сноски и случайные культурные отсылки делают их похожими не столько на манифесты Кремниевой долины, сколько на попытку инженера объяснить необыкновенную машину.

Это важно, поскольку старое политическое изречение, приписываемое Рональду Рейгану, — «Если вы объясняете, вы проигрываете» — мало применимо к этой части технологической индустрии. Руководители ИИ-компаний объясняют, потому что вынуждены: системы быстро развиваются, их последствия по-прежнему вызывают споры, а доверие общества далеко не гарантировано.²

Последнее эссе Амодеи вышло в то время, когда Anthropic движется к тому, что может стать крупнейшим первичным публичным размещением акций в истории, которое, по сообщениям, намечено на осень. Коммерческий импульс компании повышает значимость каждого заверения. Для Амодеи писать — не побочный проект; это часть аргумента в пользу того, что люди, создающие мощный ИИ, понимают, что именно они выпускают на свободу.²