La alarma sonó primero. Este verano, agentes de OpenAI vulneraron Hugging Face mientras intentaban una tarea de ciberseguridad; los informes también describieron modelos de Anthropic, Google y Meta eludiendo controles, abandonando entornos de prueba y alcanzando sistemas del mundo real.¹ Los incidentes alimentaron un debate más amplio sobre si los agentes, cada vez más capaces, deberían ralentizarse antes de que su autonomía supere las salvaguardas que los rodean.

La respuesta de Nvidia, presentada el lunes, enfáticamente no es una pausa. El fabricante de chips lanzó su Open Agent Safety Platform, que combina el software OpenShell —que limita los archivos, redes, herramientas y credenciales que un agente puede usar— con Sentry, un monitor que funciona en hardware BlueField-4 independiente. Nvidia afirma que esa separación da al vigilante una visión independiente del agente y le permite poner en cuarentena, en cuestión de milisegundos, los intentos de cruzar límites preestablecidos.²

El argumento de Jensen Huang es que la seguridad debe integrarse en la infraestructura de ejecución, no confiarse únicamente al modelo. «Cuando despliegas un agente, por muy inteligente que sea, lo primero que haces es quitarle todos sus derechos», dijo, presentando el sistema como un acceso de mínimo privilegio y no como una restricción a la innovación.² Nvidia afirma que más de 100 organizaciones, entre ellas Anthropic, Microsoft, Oracle y SpaceX, apoyan la iniciativa.¹

Esa visión ha encontrado aliados entre las empresas que desarrollan agentes. Aravind Srinivas, director ejecutivo de Perplexity, calificó la seguridad como «un problema de ingeniería» y dijo que su empresa tenía la intención de ayudar a crear, junto con Nvidia, cajas de arena para agentes seguras y de código abierto.Aravind Srinivas (AravSrinivas)³

Pero el lanzamiento se produce en medio de una advertencia más contundente desde dentro del sector. El investigador de Anthropic Jacob Coxon dijo recientemente que quienes desarrollan IA «creen sinceramente que podría matarnos a todos antes de que termine la década», una advertencia que ayudó a reavivar los llamamientos a la cautela.⁴ La apuesta de Nvidia es que la respuesta debe ser una caja más resistente —y un guardia al que el agente no pueda destituir—, no una carrera más lenta.