Раскол был заметен еще до того, как собрался Совет Безопасности. 13 сентября президент Дональд Трамп представил искусственный интеллект как геополитическое соревнование, заявив: «кто побеждает в ИИ, тот побеждает». Несколько дней спустя он заявил Генеральной Ассамблее ООН, что Соединенные Штаты «полностью отвергают любую попытку создать глобалистскую схему контроля» над этой технологией.¹

Эта позиция повысила ставки 22 сентября, когда генеральный секретарь Антониу Гутерриш предупредил о «роботах-убийцах» — угрозе, которая, по словам экспертов и европейских лидеров, уже стала реальностью или опасно близка к ней.²

На заседании Совета Безопасности в среду создатели этой технологии изложили заметно иной подход: стремительный прогресс требует коллективных правил, а не гонки без тормозов. Глава OpenAI Сэм Альтман заявил, что ИИ может открыть «новый ренессанс творчества и открытий», но также способен принести «потрясения и хаос».³ Его ключевое предупреждение было прямым: все более автономные системы могут опередить институты, централизовать власть и принимать решения, которые люди уже не смогут понять или контролировать.

Альтман утверждал, что даже вероятность катастрофы в доли процента неприемлема, и заявил, что отрасль не должна обучать модели, если не может убедительно доказать, что способна сохранить их под человеческим контролем. Он призвал к общим стандартам оценки возможностей и рисков, проверки мер защиты, быстрого сообщения об инцидентах и сохранения значимого человеческого надзора.³

Генеральный директор Anthropic Дарио Амодеи отстаивал ту же общую позицию с точки зрения более непосредственной угрозы. Плохо управляемый ИИ, по его словам, может стать «риском для человечества в целом»; он призвал к соглашениям, запрещающим биологическое оружие, созданное ИИ, к совместному тестированию и верификации, а также к глобальной системе уведомления о крупных инцидентах в сфере безопасности.¹

Сооснователь Hugging Face Клеман Деланг предложил дополняющий рецепт после кибератаки с использованием агента на его компанию: больше прозрачности и больше ИИ с открытым исходным кодом, чтобы защитники не оказывались в асимметрично невыгодном положении.clem 🤗 (ClementDelangue)⁴ Он подчеркнул, что ИИ помог Hugging Face отреагировать на атаку и выявить слабые места — возражая против подхода, при котором страх сам по себе становится политикой.¹

Руководители сошлись во мнении об опасности неконтролируемой власти, но их позиция не сводилась лишь к сдерживанию. Их послание заключалось в том, что безопасность, демократическая подотчетность и оборонительный доступ должны развиваться вместе — даже несмотря на сигналы Вашингтона о том, что он может противиться обязательной глобальной архитектуре.