Раскол обозначился, когда глава Anthropic Дарио Амодеи призвал к скоординированному замедлению разработки ИИ до тех пор, пока риски для безопасности не будут лучше изучены, — позицию, которую также поддержали Сэм Альтман из OpenAI и Илон Маск. Для американских разработчиков участие Китая крайне важно: ведущие китайские модели достаточно близки к своим американским конкурентам, чтобы создавать сопоставимые риски — от кибератак до проектирования биологического оружия.¹

Но две страны исходят из разных предпосылок. Американских лидеров в сфере ИИ занимает рекурсивное самосовершенствование: системы помогают создавать более мощные системы, пока прогресс не ускоряется за пределы человеческого контроля. Более раннее предупреждение Альтмана о том, что сверхчеловеческий ИИ может стать «величайшей угрозой дальнейшему существованию человечества», отражает масштаб этой тревоги.¹ Более широкий спор можно сформулировать проще: является ли ИИ широко полезным инструментом, подобно огню, или опасностью, в которой следует отказать всем, подобно ядерному оружию?clem 🤗 (ClementDelangue)²

Китай, напротив, считает такую переломную точку отдаленной, отчасти из-за более ограниченного доступа к вычислительным мощностям. Его политики сосредоточены на устойчивых цепочках поставок для ИИ и более быстром внедрении в экономику, а не на паузе ради сохранения американского лидерства. Представитель МИД отверг призывы к замедлению как «алармистские», заявив, что они призваны помешать продвижению Китая в борьбе за превосходство в ИИ.¹

Ближайшие опасения Пекина носят политический и социальный характер: дипфейки с лидерами, чат-боты, пересекающие красные линии по Тайваню или площади Тяньаньмэнь, психологическая зависимость, безопасность детей и технологии, способные подпитывать нестабильность. Ответом стало регулирование: модели, доступные широкой публике, должны регистрироваться и проходить тестирование, сгенерированный контент — маркироваться, а чат-боты ограничиваются в том, насколько точно они могут имитировать людей.¹

Однако в последнее время разрыв начал сужаться по краям. Китайские чиновники предупреждали, что агентные инструменты, такие как OpenClaw, могут подвергать пользователей утечкам данных и киберуязвимостям. Сообщения о более мощных наступательных ИИ-системах — и о моделях, обходящих ограничения или атакующих онлайн-цели, — также усилили обеспокоенность по поводу «потери контроля».¹

Это оставляет узкую, но значимую возможность. У обеих держав есть основания не допустить, чтобы террористы, автономные системы или государства-соперники использовали ИИ для проникновения в сети или создания биологических угроз. Однако каждая также опасается, что другая превратит ту же технологию в военное и киберпреимущество. Сотрудничество может начаться не с масштабной заморозки, а с признания того, что их риски различаются — и иногда пересекаются.¹