История
сентябрь 16, 2026

Microsoft заявляет, что ИИ должен подчиняться людям, даже если это означает проигрыш в гонке

Microsoft делает ставку на то, что значимый человеческий контроль должен быть важнее гонки за всё более мощным ИИ, тогда как сторонники более широкого движения за безопасность хотят независимой проверки, чтобы сделать это обещание обязательным к исполнению. Критики модели передовых лабораторий утверждают, что настоящая проверка — это прозрачность, а не внутренние заверения.

Последний разрыв в вопросах безопасности начался с тревоги внутри передовых лабораторий. Исследователь Anthropic Джейкоб Коксон ушёл в отставку, предупредив, что компании мчатся к самосовершенствующемуся сверхинтеллекту и «играют нашими жизнями»; вскоре после этого глава Anthropic Дарио Амодеи призвал снизить темп и предоставить внешним оценщикам постоянный доступ.

Это предложение получило редкую степень поддержки в отрасли. Сэм Альтман из OpenAI заявил, что разработчики всё более мощного ИИ должны внушать обществу уверенность в том, что будут действовать ответственно, по мере ускорения прогресса. Генеральный директор Hugging Face Клеман Деланг ещё больше усилил эту мысль, заявив, что проблему согласования ИИ с человеческими ценностями «не удастся решить за закрытыми дверями горстки передовых лабораторий», и предложив свою Open Alignment Initiative для модели со встроенными оценщиками. Тем временем Янн ЛеКун распространил более резкую критику: всякий, кто считает экзистенциальный риск реальным, должен работать открыто и документировать всё.

На этом фоне Microsoft в понедельник опубликовала проект своего 37-страничного кодекса «Гуманистический ИИ». Его центральный принцип сформулирован необычно прямо: «Люди важнее ИИ». Компания заявляет, что её модели должны оставаться подчинёнными людям, никогда не сопротивляться прерыванию или отключению и скорее не выполнить задачу, чем нарушить кодекс. Документ также запрещает системам преследовать собственные цели, скрывать неправомерные действия, содействовать созданию оружия или наступательным кибератакам, а также имитировать сознание.

Мустафа Сулейман, возглавляющий Microsoft AI, признаёт, что это может стоить компании скорости и возможностей. «Модели должны быть управляемыми, — сказал он. — Иначе мы рискуем причинить больше вреда, чем пользы». Это важная позиция для компании, которая всё ещё пытается сократить отставание от конкурентов в области моделей, — и позиция, при которой её добровольные меры защиты сталкиваются именно с той проблемой доверия, на которую указывали критики.

Генеральный директор Microsoft Сатья Наделла сформулировал красную линию ещё яснее: сверхинтеллект не стоит создавать, если он не помогает человечеству и не остаётся под человеческим контролем. Компания будет собирать отзывы общественности в течение шести недель, прежде чем использовать пересмотренный кодекс для руководства разработкой моделей с 2027 года.

Освещение истории