A proposta de Dario Amodei surgiu à medida que se intensificava a ansiedade em relação a sistemas de IA cada vez mais capazes. O diretor-executivo da Anthropic afirmou que avaliadores externos deveriam ser integrados aos laboratórios de fronteira, com acesso semelhante ao das equipes internas de risco e liberdade para publicar conclusões importantes sem controle editorial da empresa. Sam Altman disse que a OpenAI assumiria um compromisso semelhante, embora seus detalhes operacionais permaneçam pouco claros.¹

O argumento para entrar no laboratório é direto: testar um modelo finalizado pode não revelar se ele aprendeu a identificar uma avaliação e a se comportar de acordo. Pesquisadores querem acesso a pontos de controle de treinamento, sistemas pós-treinamento, registros e funcionários — e não apenas a um modelo refinado pouco antes do lançamento. Alexander Meinke, da Apollo Research, disse que revisores integrados poderiam verificar se um modelo tentou enfraquecer seu próprio treinamento de alinhamento, uma questão à qual as empresas atualmente respondem sobre si mesmas.¹

Mas os limites da proposta rapidamente se tornaram o foco da história. Julie Andersen Hill, reitora da Faculdade de Direito da Universidade de Wyoming, afirmou que a analogia da Anthropic com supervisores bancários integrados não se sustenta sem poderes legais de execução. “Se não lhes derem esse tipo de poder, não sei o que estão fazendo”, disse ela.² Examinadores bancários podem ordenar que instituições interrompam práticas ou, em casos extremos, fechá-las; os avaliadores de IA propostos podem investigar e relatar, mas não podem interromper o treinamento ou a implantação.²

Os próprios avaliadores veem valor no acesso, mas alertam que a independência será decidida por contratos, tempo e direitos de divulgação. Adam Gleave, da FAR.AI, disse que desenvolvedores já buscaram controles que ameaçavam a autonomia dos avaliadores, enquanto Henry Papadatos, da Safer AI, argumentou que compromissos voluntários podem desaparecer quando uma empresa enfrenta uma crise. A Califórnia e a UE começaram a criar regras de comunicação de informações e verificação, mas nenhuma delas ainda fornece a ampla autoridade externa que os críticos buscam.¹

A reação negativa também assumiu um tom mais político. David Sacks amplificou uma publicação que alegava que a Anthropic havia construído uma “máquina de captura regulatória”, enquanto, separadamente, compartilhou críticas ao fiscalizador proposto por Amodei, considerado comprometido por seus vínculos com o altruísmo eficaz.David Sacks (DavidSacks)³ Essa acusação vai além das evidências apresentadas para o plano de avaliadores integrados, mas ressalta o teste central de credibilidade: um fiscalizador escolhido pela empresa que fiscaliza pode ganhar um crachá de acesso — e ainda assim não ter força para agir.