Historia
20 de oct de 2026
Microsoft advierte que los agentes de IA que vende necesitan supervisores independientes
La postura de Microsoft es que las empresas no pueden devolver la responsabilidad por los potentes agentes de IA a los laboratorios que los suministran: los sistemas necesitan supervisión independiente, incluso cuando proceden de socios de confianza. Ese argumento funciona tanto como advertencia sobre el software autónomo como propuesta para la creciente cartera de seguridad de Microsoft.
El argumento de Microsoft sobre la seguridad de la IA se ha ido afinando por etapas. A principios de este mes, el consejero delegado Satya Nadella instó a las empresas a asumir que los sistemas que actúan en su nombre requieren controles más allá de las promesas del proveedor del modelo. «Tenemos que separar el suministro de inteligencia de la autoridad sobre ella», escribió, argumentando que las empresas siguen siendo responsables cuando se otorga a los agentes datos sensibles y tareas críticas para la misión.1
Nadella expresó luego el asunto en términos más directos en X: los modelos deberían tratarse como «riesgos internos», con controles de seguridad ubicados fuera del propio modelo.
2 La analogía importa. Microsoft ya no se centra únicamente en herramientas de IA hostiles que atacan desde fuera de una empresa; advierte que los propios agentes aprobados por una organización pueden convertirse en actores impredecibles una vez que tienen acceso a datos y sistemas.
El lunes, Microsoft convirtió esa advertencia en política de producto, ampliando Project Perception con Guardian Agents. El director de seguridad de la empresa, Hayete Gallot, afirmó que «los modelos de frontera, independientemente de su origen, no son dignos de confianza»; no necesariamente porque sean maliciosos, sino porque los sistemas entrenados para completar tareas no ejercen de forma fiable el criterio organizativo.3
Project Perception comenzó con agentes de equipo rojo de IA, equipo azul y remediación destinados a encontrar y corregir debilidades. Su nuevo énfasis está en evaluar continuamente el riesgo que plantean los propios agentes desplegados. Microsoft también está añadiendo detección en Defender para decenas de agentes del entorno laboral, incluidos Claude Code, Codex y OpenClaw, junto con controles que restringen el acceso, ajustan los permisos según la tarea y exigen aprobación humana para acciones arriesgadas.1
La postura implica una evidente tensión comercial. Microsoft está estrechamente vinculada a OpenAI y Anthropic, al tiempo que desarrolla sus propios modelos, pero está diciendo a los clientes que no dependan únicamente de ningún proveedor de modelos para su seguridad. Su respuesta es una capa de control independiente, una que las empresas, convenientemente, podrán comprar a Microsoft.1