A Anthropic levou discretamente sua campanha por segurança em IA ao Capitólio com um projeto de lei que criaria uma via federal estreita, mas relevante, para bloquear modelos de fronteira perigosos.

A proposta permitiria intervenção apenas quando um modelo representar um “risco previsível e iminente” de matar ou ferir gravemente mais de 50 pessoas, ou de causar mais de US$ 1 bilhão em danos. A ameaça teria de envolver uma arma biológica, um modelo escapando dos controles de seu desenvolvedor ou um ciberataque.¹

A Anthropic afirma que o rascunho transforma em legislação os princípios que vem defendendo junto a legisladores federais e estaduais desde junho. “São políticas sensatas sobre as quais acreditamos que o Congresso deveria agir”, disse um porta-voz da empresa.¹

Segundo o cronograma previsto pelo projeto, avaliadores independentes registrados no Departamento de Comércio avaliariam periodicamente os laboratórios e seus modelos. Se identificassem um risco iminente enumerado, notificariam o Departamento de Comércio em até 72 horas. O órgão poderia então pedir a um juiz federal em Washington que suspendesse o lançamento de um modelo — mas nenhuma outra agência federal poderia interromper unilateralmente seu desenvolvimento, implantação ou uso interno.¹

Esse desenho é o principal ponto de divergência. Uma crítica argumenta que a estrutura vazada se afasta do modelo de regulador ao estilo da FAA anteriormente cogitado pelo CEO da Anthropic, Dario Amodei: os laboratórios escreveriam os padrões que devem cumprir, enquanto defensores da segurança em IA querem que o governo os escreva.² Outra alerta que os avaliadores podem ser pagos pelas empresas que examinam, mesmo que os pagamentos não possam estar vinculados aos resultados — um arranjo que deixa sem solução a aparência de independência.³

A proposta também surge em meio a uma corrida mais ampla no Congresso sobre o risco catastrófico da IA e a preempção de leis estaduais. Ela espelha os limites da SB 53 da Califórnia, ao mesmo tempo que exige estruturas de segurança, relatórios de transparência, proteções a denunciantes e comunicação de incidentes.¹

David Sacks, porém, argumentou que a lógica do projeto poderia ultrapassar seu alvo declarado. Algumas disposições poderiam ser razoáveis para “verdadeiras empresas de fronteira”, escreveu ele, mas alertou que o rascunho poderia acabar abrangendo grande parte do Vale do Silício e prejudicar o ecossistema de startups.David Sacks (DavidSacks)⁴

O resultado é uma barganha conhecida em Washington: a Anthropic está oferecendo ao governo um freio, mas busca um sistema no qual a indústria ainda ajude a definir quando ele deve ser acionado.