История
сентябрь 23, 2026
Руководители ИИ-компаний заявили в ООН, что будущее должно оставаться за людьми
Лидеры ИИ-индустрии представили технологию как путь к открытиям и расширению человеческой самостоятельности, предупредив при этом, что её ускоряющаяся автономность может стать угрозой, если правительства и общество уступят контроль. Обе точки зрения сходятся в требовании правил, сохраняющих важные решения в руках людей.
За день до заседания Совета Безопасности Генеральный секретарь ООН Антониу Гутерриш предупредил о «роботах-убийцах», обострив и без того насущный для правительств вопрос: кто должен контролировать решения о жизни и смерти по мере того, как ИИ становится всё более способным, — люди или машины?1
В среду люди, создающие эту технологию, дали необычно прямой ответ. Генеральный директор OpenAI Сэм Альтман заявил совету, что стремительный прогресс сделал потенциал ИИ более ощутимым, но и его риски — более непосредственными. Его главное предупреждение состояло в том, что всё более способные автономные системы могут обогнать институты, сосредоточить власть и принимать решения, «которые люди больше не понимают и не контролируют».2
Альтман не призывал отказаться от технологии. Он представил ставки как выбор между «новым Ренессансом творчества и открытий» и «новой промышленной революцией потрясений и хаоса». Но, по его словам, компании не должны обучать системы, если не могут привести чрезвычайно убедительные доводы, что эти системы останутся под человеческим контролем. Он также отверг идею о том, что какая-либо одна компания или страна должна устанавливать условия для всех остальных.
Этот призыв сопоставил оптимизм индустрии с более фундаментальной заботой об общественной безопасности. Генеральный директор Anthropic Дарио Амодеи предупредил совет, что при ненадлежащем обращении ИИ «может стать риском для человечества в целом», в то время как руководители призвали ООН установить меры контроля до того, как технология станет слишком мощной, чтобы её можно было сдержать.3
Предлагаемый ответ был международным, а не односторонним: общие стандарты оценки передовых моделей, системы проверки и сообщения об инцидентах, а также меры защиты от биологического оружия с поддержкой ИИ. Политическое условие Альтмана было столь же ясным: «наиболее важные решения не могут приниматься только лабораториями в Сан-Франциско». Они должны приниматься посредством демократических процессов и правительствами, подотчётными своему народу.3
Встреча не привела к созданию обязательного глобального режима. Но послание как со стороны сторонников человеческой безопасности, так и со стороны индустрии было недвусмысленным: научный прогресс может быть желанным; передавать его руль автономным системам — нет.