O debate se intensificou depois que alertas sobre sistemas de IA cada vez mais capazes — e relatos de violações e agentes que escapam aos controles — transformaram a segurança de uma preocupação teórica em uma questão política. Até 12 de setembro, Elon Musk instava concorrentes a testar os modelos uns dos outros, argumentando que a autorregulação tem pontos cegos evidentes: “É difícil quando você está corrigindo a própria lição de casa.”¹

Três dias depois, o CEO da Nvidia, Jensen Huang, apresentou uma versão diferente de cautela. A segurança, disse ele, é uma obrigação de engenharia: as empresas não devem lançar produtos até terem confiança neles. Mas a conclusão de Huang divergiu fortemente da abordagem emergente de Sacramento: “Não precisamos de novas leis. Não precisamos de novas regulamentações.”¹

Em 18 de setembro, o governador Gavin Newsom conduziu a Califórnia rumo à via regulatória. Sua ordem executiva dá aos especialistas dois meses para recomendar salvaguardas estaduais mais fortes para IA de fronteira, incluindo auditorias verificadas de forma independente, relatórios padronizados de transparência e risco, comunicação obrigatória de incidentes graves de segurança e um possível “botão de desligamento” de emergência obrigatório. A ordem também acelera a implementação do novo arcabouço da Califórnia para verificadores independentes de IA e de um registro de auditores.²

Newsom apresentou a medida como resposta à paralisia de Washington, declarando que o “fracasso absoluto” do governo federal em estabelecer uma supervisão significativa “deveria alarmar todos os americanos”. A Califórnia, disse ele, agiria “de forma ponderada, mas com velocidade urgente”.³

O choque não é meramente entre defensores da cautela e da aceleração. O governo Trump tem favorecido a aplicação das leis existentes, deixando a segurança da IA principalmente a cargo das empresas; o czar da IA, David Sacks, disse que as empresas devem “internalizar o senso de responsabilidade”, em vez de transferi-lo para outros.¹ A resistência no Congresso também continua visível: o senador Rand Paul se opôs a um projeto de lei sobre botão de desligamento de emergência, dizendo que a regulamentação poderia chegar cedo demais e frear a tecnologia.

A aposta de Newsom é que as regras da Califórnia podem se tornar o piso nacional. A aposta de seus críticos é que as exigências podem se mostrar mais lentas, mais imprecisas e menos eficazes do que a disciplina do setor na qual o governador já não confia para atuar sozinha.