A Anthropic apresentou discretamente ao Capitólio um rascunho de projeto de lei federal sobre segurança em IA, entrando em um debate concorrido sobre quão rigorosamente Washington deve fiscalizar modelos poderosos — e quem deve elaborar os padrões em primeiro lugar.

A proposta exigiria que laboratórios de fronteira criassem estruturas de segurança, publicassem relatórios de transparência, protegessem denunciantes e relatassem incidentes críticos ao Departamento de Comércio. Ela permitiria ao governo buscar uma ordem judicial para bloquear um modelo apenas quando houver um risco previsível e iminente de mais de US$ 1 bilhão em danos ou de pelo menos 50 mortes ou ferimentos graves, ligado a armas biológicas, perda de controle pelo desenvolvedor ou ciberataques. “Estas são políticas sensatas sobre as quais acreditamos que o Congresso deve agir”, disse um porta-voz da Anthropic.¹

Seu modelo de fiscalização é deliberadamente restrito. Avaliadores independentes registrados avaliariam periodicamente os laboratórios e os modelos, e teriam de alertar o Departamento de Comércio em até 72 horas caso identificassem um risco especificado iminente. Mas os avaliadores podem ser pagos pelas empresas que examinam, desde que o pagamento não dependa do resultado; outras agências federais seriam impedidas de suspender o desenvolvimento, a implantação ou o uso interno de um modelo. O rascunho também se sobreporia a algumas regras estaduais sobre divulgações, avaliações e relatos de incidentes críticos.¹

Esse equilíbrio atraiu oposição de outra direção. Uma análise da proposta vazada argumenta que, diferentemente da abordagem no estilo da FAA que o CEO da Anthropic, Dario Amodei, invocou anteriormente, “os laboratórios podem escrever os padrões que depois devem cumprir”. Defensores da segurança querem que o governo, e não a indústria, os estabeleça.²

David Sacks, por sua vez, alertou que o alcance do projeto poderia se expandir muito além dos desenvolvedores de elite que ele supostamente visa. Algumas disposições “poderiam ser razoáveis se limitadas a verdadeiras empresas de fronteira”, escreveu ele, mas, como está redigido, o texto poderia “acabar abrangendo a maior parte do Vale do Silício”, prejudicando startups.David Sacks (DavidSacks)³

O embate ocorre enquanto o Congresso considera projetos de lei bipartidários rivais sobre segurança em IA e enquanto legisladores discutem se uma estrutura nacional deveria substituir leis estaduais mais rigorosas. O rascunho da Anthropic tenta ocupar o meio-termo: procedimentos obrigatórios para laboratórios, mas intervenção do governo reservada para catástrofes. Seus críticos veem esse meio-termo como autorregulação da indústria em trajes legislativos.