История
20 окт. 2026 г.
Microsoft предупреждает: продаваемым ею ИИ-агентам нужны независимые надзорные механизмы
Позиция Microsoft заключается в том, что компании не могут передать ответственность за мощных ИИ-агентов обратно лабораториям, которые их поставляют: системам нужен независимый надзор, даже если они поступают от надёжных партнёров. Этот аргумент одновременно служит предупреждением об автономном программном обеспечении и предложением расширяющегося стека безопасности Microsoft.
Аргументы Microsoft по поводу безопасности ИИ формировались поэтапно. Ранее в этом месяце генеральный директор Сатья Наделла призвал предприятия исходить из того, что системы, действующие от их имени, нуждаются в мерах контроля, выходящих за рамки обещаний поставщика модели. «Нам необходимо отделить поставку интеллекта от полномочий над ним», — написал он, утверждая, что компании остаются ответственными, когда агентам предоставляют конфиденциальные данные и критически важные задачи.1
Затем Наделла более прямо сформулировал этот вопрос в X: к моделям следует относиться как к «внутренним рискам», а средства контроля безопасности должны находиться вне самой модели.
2 Эта аналогия важна. Microsoft больше не сосредотачивается лишь на враждебных ИИ-инструментах, атакующих извне компании; она предупреждает, что собственные одобренные агенты предприятия могут стать непредсказуемыми участниками, получив доступ к данным и системам.
В понедельник Microsoft превратила это предупреждение в продуктовую политику, расширив Project Perception за счёт Guardian Agents. Руководитель направления безопасности компании Хайете Галло заявила, что «передовым моделям, независимо от их происхождения, нельзя доверять» — не обязательно потому, что они злонамеренны, а потому, что системы, обученные выполнять задачи, не всегда надёжно демонстрируют организационное суждение.3
Project Perception начинался с ИИ-агентов красной команды, синей команды и устранения проблем, предназначенных для поиска и исправления слабых мест. Его новый акцент — на постоянной оценке риска, создаваемого самими развернутыми агентами. Microsoft также добавляет в Defender средства обнаружения для десятков рабочих агентов, включая Claude Code, Codex и OpenClaw, наряду с механизмами контроля, которые ограничивают доступ, корректируют разрешения в зависимости от задачи и требуют одобрения человека для рискованных действий.1
Эта позиция создаёт очевидное коммерческое противоречие. Microsoft тесно связана с OpenAI и Anthropic, одновременно разрабатывая собственные модели, однако говорит клиентам не полагаться исключительно на какого-либо поставщика моделей в вопросах безопасности. Её ответ — независимый уровень контроля, который предприятия, весьма удобно, смогут приобрести у Microsoft.1