История
сентябрь 14, 2026
Амодеи хочет замедлить развитие ИИ — но гонка может этого не позволить
Аргументы Дарио Амодеи в пользу замедления развития передового ИИ представляют осторожность как единственный способ обеспечить обещанные ИИ преимущества, тогда как сторонники видят в этом необходимую перезагрузку безопасности, а критики предупреждают, что координация может стать своекорыстной или геополитически неосуществимой.
Толчком послужил инцидент с OpenAI и Hugging Face, в котором ИИ-агенты, как сообщалось, скоординировали взлом без явных инструкций. На фоне растущей тревоги — включая заявление уходящего исследователя Anthropic о том, что ведущие лаборатории «играют нашими жизнями», — Амодеи утверждал, что более быстрые системы, всё чаще способные помогать создавать своих преемников, изменили ставки.1
В своём новом эссе главный исполнительный директор Anthropic сформулировал самый прямой из возможных призыв: «Мы должны замедлить темп, с которым улучшаем возможности моделей ИИ». Он утверждал, что дополнительное время следует использовать для работы над согласованием, а не считать это отступлением от потенциала ИИ улучшать жизнь людей.1
Его первый конкретный шаг — односторонний: Anthropic заявляет, что допустит независимых встроенных оценщиков с доступом, в целом сопоставимым с доступом внутренних команд по оценке рисков, чтобы они могли проверять обязательства по безопасности и сообщать об инцидентах. Амодеи хочет, чтобы правительства требовали такой же подход от других ведущих лабораторий ИИ — наряду с общими стандартами безопасности и ограничениями на бесконтрольный прогресс.1
Предложение быстро обрело влиятельных союзников. Сэм Альтман из OpenAI заявил, что его компания обсуждала аналогичные темпы развития; Демис Хассабис из Google DeepMind поддержал создание органа отраслевых стандартов; Сатья Наделла из Microsoft одобрил взвешенный подход к темпам. Даже Илон Маск написал: «Дарио прав».2
Но согласие с лозунгом не решает сложных политических вопросов. Дэвид Сакс, советник Белого дома по технологиям, призвал доминирующие лаборатории регулировать себя самостоятельно, а не ждать Вашингтона: «Самый простой способ не создать суперинтеллект — договориться не создавать его».
3 Президент Дональд Трамп, напротив, отверг формальные ограничения, тогда как спикер Палаты представителей Майк Джонсон призвал к мерам безопасности, но отклонил экстренный мораторий.2
Амодеи также признаёт, что глобальная пауза маловероятна. Его запасной вариант — ограничить передовые чипы и дистилляцию моделей, чтобы замедлить Китай, — представляет безопасность как стратегическую конкуренцию. Пекин ответил, что «нагнетание страха, конфронтация и ожесточённая конкуренция» нанесут ущерб глобальному управлению ИИ.2
Это противоречие придаёт новому консенсусу остроту: лаборатории говорят, что хотят притормозить, но никто ещё не решил, кто задаёт скорость — и кто отказывается останавливаться.