Notícia
20 de out de 2026
Microsoft alerta que os agentes de IA que vende precisam de supervisores independentes
A posição da Microsoft é que as empresas não podem devolver a responsabilidade por agentes poderosos de IA aos laboratórios que os fornecem: os sistemas precisam de supervisão independente, mesmo quando vêm de parceiros confiáveis. Esse argumento funciona tanto como um alerta sobre software autônomo quanto como uma proposta para a crescente plataforma de segurança da Microsoft.
O argumento da Microsoft sobre segurança de IA ganhou contornos mais definidos em etapas. No início deste mês, o diretor-executivo Satya Nadella pediu às empresas que presumam que os sistemas que atuam em seu nome exigem controles que vão além das promessas do fornecedor do modelo. “Precisamos separar o fornecimento de inteligência da autoridade sobre ela”, escreveu ele, argumentando que as empresas continuam responsáveis quando agentes recebem dados sensíveis e tarefas críticas para a missão.1
Nadella então formulou a questão em termos mais diretos no X: os modelos devem ser tratados como “riscos internos”, com controles de segurança localizados fora do próprio modelo.
2 A analogia é importante. A Microsoft já não está focada apenas em ferramentas hostis de IA que atacam de fora de uma empresa; ela alerta que os próprios agentes aprovados de uma organização podem se tornar atores imprevisíveis quando têm acesso a dados e sistemas.
Na segunda-feira, a Microsoft transformou esse alerta em política de produto, expandindo o Project Perception com Guardian Agents. O chefe de segurança da empresa, Hayete Gallot, disse que “modelos de fronteira, independentemente de sua origem, não são confiáveis” — não necessariamente porque sejam maliciosos, mas porque sistemas treinados para concluir tarefas não exercem julgamento organizacional de forma confiável.3
O Project Perception começou com agentes de IA de equipe vermelha, equipe azul e remediação voltados a encontrar e corrigir vulnerabilidades. Sua nova ênfase está em avaliar continuamente o risco apresentado pelos próprios agentes implantados. A Microsoft também está adicionando detecção no Defender para dezenas de agentes de ambiente de trabalho, incluindo Claude Code, Codex e OpenClaw, juntamente com controles que restringem o acesso, ajustam permissões por tarefa e exigem aprovação humana para ações arriscadas.1
A postura traz uma tensão comercial óbvia. A Microsoft está estreitamente ligada à OpenAI e à Anthropic, ao mesmo tempo em que desenvolve seus próprios modelos, mas diz aos clientes para não dependerem exclusivamente de qualquer fornecedor de modelos para segurança. Sua resposta é uma camada de controle independente — uma que as empresas poderão, convenientemente, comprar da Microsoft.1