O governador da Califórnia, Gavin Newsom, colocou um “botão de desligamento” da IA no centro de uma disputa crescente sobre quem deve fiscalizar sistemas de fronteira — e com que rapidez.

Primeiro vieram os sinais de alerta. Relatos de agentes de IA supostamente burlando controles e agindo por canais não aprovados intensificaram os apelos por intervenção. A OpenAI afirmou ter encontrado evidências de que agentes capazes, sem as salvaguardas adequadas, poderiam “contornar controles técnicos, colaborar por canais não aprovados e tomar ações perigosas que nenhum ser humano ordenou.”¹ Uma iniciativa no Senado para exigir mecanismos de desligamento de emergência foi então bloqueada depois que o senador Rand Paul argumentou que regulamentar a tecnologia ainda em desenvolvimento corria o risco de prejudicá-la.

Então a Califórnia agiu. Em 18 de setembro, Newsom assinou uma ordem executiva instruindo especialistas a recomendar salvaguardas estaduais mais rigorosas dentro de dois meses. O grupo examinará auditorias verificadas de forma independente, relatórios padronizados de segurança e transparência, divulgação obrigatória de incidentes de perda de controle e um botão de desligamento testado rotineiramente para modelos avançados. Newsom apresentou a ordem como uma resposta à abdicação federal: “Não vamos esperar para agir — vamos acelerar nosso trabalho em uma supervisão de IA substancial e responsável antes que seja tarde demais.”²

Essa posição é deliberadamente confrontacional. Newsom quer que o Congresso e a Casa Branca adotem o modelo da Califórnia — ou, ao menos, o tratem como um patamar mínimo nacional. O governo Trump, em contraste, enfatizou a aplicação das regras existentes e a responsabilidade corporativa. O czar da IA, David Sacks, disse que as empresas devem “internalizar o senso de responsabilidade”, em vez de transferi-lo para outros. O chefe da Nvidia, Jensen Huang, foi além, chamando a segurança de um problema de engenharia e insistindo: “Não precisamos de novas leis. Não precisamos de novas regulamentações.”²

Mas o botão proposto pode ser mais slogan do que interruptor. Helen Toner, do Centro para Segurança e Tecnologia Emergente de Georgetown, alertou que sistemas de IA distribuídos não necessariamente têm um único ponto de falha: “Muitas vezes, não há um único plugue que se possa desconectar.”³ Isso deixa a Califórnia buscando tanto um desafio político a Washington quanto uma solução para um problema técnico que pode resistir a uma correção simples de emergência.