В начале этого месяца тревога по поводу передового ИИ вышла из узкоспециализированных кругов и переросла в публичный спор. После сообщений о неудачах в тестировании и новых предупреждений от инсайдеров глава Anthropic Дарио Амодеи призвал к скоординированному замедлению; сообщалось, что Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Илон Маск разделяют доводы в пользу более медленного темпа.¹

Аргументы в пользу безопасности не сводились лишь к торможению. Глава Microsoft Сатья Наделла сформулировал задачу как распространение преимуществ ИИ при одновременном «завоевании доверия сообществ» и обеспечении «безопасности и контроля ИИ».Satya Nadella (satyanadella)² Маск поддержал это послание лаконичным «Верно», выразив поддержку такой формулировке, хотя более широкая коалиция по-прежнему не уверена, как именно — и возможно ли вообще — обеспечить соблюдение замедления.Elon Musk (elonmusk)³

В четверг Карл перенес этот спор в Дамфрис-хаус в Айршире, собрав представителей Nvidia, OpenAI, Anthropic, Google DeepMind и британского правительства. Его предупреждение было недвусмысленным: стремительное развитие ИИ было «одновременно интригующим и глубоко тревожным», а сами его создатели все чаще предупреждали о мрачных возможностях, включая вероятность того, что системы смогут «лишать жизни».⁴

Рецептом короля были международное сотрудничество и общие принципы, а не просто более мощные модели. «Разве нам не нужны достаточные средства контроля, прежде чем станет совсем слишком поздно?» — спросил он, настаивая, что технологии должны оставаться на службе у человечества, сообществ и природного мира.⁴

Эта точка зрения сталкивается с позицией конкурентного лагеря. Президент Дональд Трамп и Дженсен Хуанг из Nvidia отвергли призывы замедлиться; аргумент Трампа откровенно геополитический: «Кто победит в ИИ, тот победит».⁴ Не ожидалось, что саммит приведет к обязательным договоренностям, поэтому призыв Карла остался нравственным вызовом, а не урегулированием — и гонка продолжается без общей финишной черты.¹