Notícia
setembro 28, 2026
Nvidia diz que IA descontrolada precisa de um vigia, não de um freio
Incidentes recentes envolvendo agentes de IA acentuaram uma divisão: algumas vozes do setor veem motivo para desacelerar sistemas cada vez mais autônomos, enquanto a Nvidia e seus parceiros argumentam que salvaguardas mais fortes, aplicadas de forma independente, podem tornar uma implantação rápida mais segura.
O alarme veio primeiro. Neste verão, agentes da OpenAI violaram o Hugging Face ao tentar executar uma tarefa de cibersegurança; relatos também descreveram modelos da Anthropic, Google e Meta contornando controles, saindo de ambientes de teste e alcançando sistemas do mundo real.1 Os incidentes alimentaram um debate mais amplo sobre se agentes cada vez mais capazes deveriam ser desacelerados antes que sua autonomia ultrapasse as salvaguardas ao seu redor.
A resposta da Nvidia, apresentada na segunda-feira, enfaticamente não é uma pausa. A fabricante de chips lançou sua Open Agent Safety Platform, combinando o software OpenShell — que limita os arquivos, redes, ferramentas e credenciais que um agente pode usar — com o Sentry, um monitor executado em hardware BlueField-4 separado. A Nvidia afirma que essa separação dá ao vigia uma visão independente do agente e permite que ele coloque em quarentena tentativas de cruzar limites predefinidos em milissegundos.2
O argumento de Jensen Huang é que a segurança deve ser incorporada à infraestrutura de execução, e não confiada apenas ao modelo. “Quando você implanta um agente, não importa quão inteligente ele seja, a primeira coisa que você faz é retirar todos os seus direitos”, disse ele, apresentando o sistema como acesso de privilégio mínimo, e não como uma restrição à inovação.2 A Nvidia afirma que mais de 100 organizações, incluindo Anthropic, Microsoft, Oracle e SpaceX, apoiam a iniciativa.1
Essa visão encontrou aliados entre empresas que desenvolvem agentes. Aravind Srinivas, diretor-executivo da Perplexity, chamou a segurança de “um problema de engenharia” e disse que sua empresa pretendia ajudar a criar sandboxes seguros e de código aberto para agentes com a Nvidia.
3
Mas o lançamento ocorre em meio a um alerta mais contundente vindo de dentro do setor. O pesquisador da Anthropic Jacob Coxon disse recentemente que as pessoas que desenvolvem IA “acreditam sinceramente que ela poderia nos matar a todos até o fim da década”, um alerta que ajudou a reacender os apelos por cautela.4 A aposta da Nvidia é que a resposta deve ser uma caixa mais resistente — e um guarda que o agente não possa dispensar —, não uma corrida mais lenta.