O debate acelerou depois que o diretor executivo da Anthropic, Dario Amodei, propôs conceder a avaliadores externos acesso semelhante ao de funcionários ao desenvolvimento de modelos de fronteira, uma abordagem que o diretor executivo da OpenAI, Sam Altman, e outras figuras do setor apoiaram. Para os avaliadores, porém, o acesso é apenas a oferta inicial: eles afirmam que um revisor escolhido, pago ou limitado pela empresa sob avaliação não pode atuar como uma fiscalização significativa.

Na sexta-feira, o Fórum de Avaliadores de IA e mais de 100 signatários, incluindo Geoffrey Hinton e Stuart Russell, estabeleceram suas condições mínimas. Sua carta pede que os avaliadores tenham “objetividade científica, transparência, independência e proteções robustas” contra interferências, além de acesso a sistemas sensíveis, dados, ferramentas e funcionários comparável ao disponível para avaliadores internos.¹ Conrad Stosz, presidente do fórum, disse que esse acesso poderia permitir que revisores inspecionassem sistemas ainda não lançados e dados internos, dando ao público maior confiança sobre riscos que os laboratórios talvez não divulguem por conta própria.¹

O modelo da coalizão é deliberadamente mais exigente do que uma auditoria amigável. Ela quer múltiplos avaliadores com especializações distintas, comunicação direta com conselhos de administração, restrições limitadas de confidencialidade e o direito de publicar conclusões após redações estritamente delimitadas e com prazo determinado. Também insiste que os cães de guarda sejam protegidos contra processos retaliatórios ou cortes de financiamento quando suas conclusões constrangerem uma empresa anfitriã. O diretor executivo da Microsoft, Satya Nadella, recebeu positivamente o conceito de avaliador integrado, segundo reportagens sobre a carta.²

Mas o plano expôs imediatamente um segundo problema de responsabilização: quem vigia os vigilantes? David Sacks amplificou um ataque do New York Post que descrevia o suposto cão de guarda da Anthropic como “escolhido a dedo” e ligado ao movimento do Altruísmo Eficaz, chamando o arranjo de “uma piada completa”.David Sacks (DavidSacks)³ Em uma republicação separada, ele destacou a alternativa de Naval Ravikant: “A melhor maneira de controlar a fronteira é responsabilizar plenamente os laboratórios pelo comportamento de seus modelos.”David Sacks (DavidSacks)⁴

Isso deixa clara a principal linha de fratura. Os avaliadores não se apresentam como substitutos do trabalho interno de segurança ou de uma supervisão mais ampla; eles querem uma janela protegida para dentro dos laboratórios. Seus críticos temem que essa janela possa simplesmente instalar outro centro de poder sem prestação de contas.