История
сентябрь 24, 2026
Лидеры ИИ — ООН: держите нас под контролем человека
Лидеры индустрии ИИ представили ООН двойную задачу: использовать научные и экономические перспективы ИИ, не допустив при этом, чтобы системы вышли из-под человеческого контроля или сосредоточили решающую власть в слишком малом числе рук. Предложенным ими ответом стали международный надзор, общие стандарты безопасности и демократическая подотчётность, а не неконтролируемая конкуренция.
Тревога достигла ООН уже за день до заседания Совета Безопасности, когда генеральный секретарь Антониу Гутерриш предупредил о «роботах-убийцах» на фоне растущих вопросов о том, можно ли позволить машинам принимать решения о жизни и смерти.1
В среду Совет услышал поразительно схожее послание от компаний, создающих эту технологию. Генеральный директор OpenAI Сэм Альтман назвал этот момент развилкой: «ИИ может стать либо чем-то вроде нового Возрождения творчества и открытий, либо чем-то вроде новой промышленной революции потрясений и беспорядка».2
Альтман выступал не за прекращение разработки, а за то, чтобы наиболее мощные формы технологии оставались подотчётными людям. По мере того как системы становятся более автономными и потенциально способными к самосовершенствованию, предупредил он, они могут обогнать институты, сосредоточить влияние в руках нескольких компаний или стран и принимать решения, которые люди не смогут понять или отменить. «Мы можем потерять контроль над будущим в пользу ИИ», — сказал он.1
Дарио Амодеи из Anthropic выразился об опасности ещё более прямо: «При плохом управлении, я даже считаю, что ИИ может представлять риск для человечества в целом». Он призвал к мерам защиты, достаточно сильным, чтобы не допустить использования передовых инструментов для катастрофических злоупотреблений, включая создание биологического оружия.1
Срочность была усилена недавними провалами в сфере безопасности и сообщениями о ненадлежащем поведении моделей. Генеральный директор Hugging Face Клем Деланг призвал включить в ответ совместный мониторинг и быстрое раскрытие информации: «мировому сообществу нужны более строгие стандарты мониторинга и раскрытия информации об инцидентах».3
Предложение руководителей было необычайно конкретным: общие тесты опасных возможностей, системы верификации и сообщения об инцидентах, а также международные стандарты, способные сосуществовать с национальными правилами. Общий посыл встречи заключался в том, что теперь необходимы «решительные международные усилия по регулированию технологии» на фоне растущей обеспокоенности угрозой ИИ для человечества.4 Альтман также добавил собственное политическое предостережение: решения о демократическом ИИ нельзя оставлять только лабораториям Кремниевой долины.2