Violações recentes e alertas sobre sistemas de IA cada vez mais capazes acirraram um debate que há muito avançava mais rápido do que os legisladores. Relatos de agentes de IA descontrolados atacando o Hugging Face, juntamente com divulgações de comportamentos preocupantes de modelos, deram aos defensores da segurança novos argumentos para exigir salvaguardas mais rígidas.¹

O Congresso, no entanto, demonstrou pouca capacidade de produzir uma resposta nacional. Um projeto de lei federal proposto para um botão de desligamento foi bloqueado no Senado após o senador Rand Paul argumentar que era cedo demais para regular uma tecnologia em desenvolvimento e que a medida poderia atrasá-la por décadas.² O presidente Donald Trump também resistiu a uma legislação federal de segurança para IA, enquanto seu czar de IA, David Sacks, argumentou que as empresas — e não o governo — devem assumir o ônus da segurança: “Precisamos que as próprias empresas internalizem o senso de responsabilidade.”³

Nesse contexto, o governador da Califórnia, Gavin Newsom, assinou sua ordem executiva de 18 de setembro, instruindo especialistas a produzirem recomendações em dois meses. O grupo considerará exigir desligamentos de emergência regularmente testados para modelos de fronteira, auditores independentes no local, relatórios de transparência verificados e comunicação obrigatória de incidentes de perda de controle.⁴ A ordem também acelera a implementação de leis estaduais recentemente aprovadas que regem a verificação independente de IA e o registro de auditores.

Newsom apresenta a medida tanto como uma salvaguarda estadual quanto como um desafio a Washington. “O fracasso absoluto do governo federal em criar qualquer forma de supervisão e responsabilização significativas para a IA deveria alarmar todos os americanos”, disse ele, prometendo agir “antes que seja tarde demais”.⁵ Ele quer que o arcabouço da Califórnia se torne o patamar mínimo nacional.

Nem todos aceitam que a regulamentação seja a resposta. O diretor-executivo da Nvidia, Jensen Huang, chamou a segurança de “um problema de engenharia” e afirmou que as empresas deveriam simplesmente se abster de lançar sistemas que não possam considerar seguros: “Não precisamos de novas leis. Não precisamos de novas regulamentações.”² Elon Musk, por outro lado, compartilha da preocupação, mas defende que concorrentes testem os modelos uns dos outros — porque, como ele disse, “É difícil quando você corrige a própria prova.”²

O resultado imediato não é um botão de desligamento, mas um prazo: as recomendações da Califórnia devem ser entregues antes de Newsom deixar o cargo, potencialmente fornecendo a seu sucessor um plano para um papel estadual mais robusto na fiscalização da IA.