Notícia
setembro 19, 2026
Avaliadores de IA querem acesso interno — mas a disputa sobre quem vigia os laboratórios está apenas começando
Avaliadores de segurança argumentam que uma supervisão significativa de uma IA poderosa exige acesso e independência que os laboratórios não possam revogar. Seus críticos não contestam tanto o que está em jogo, mas questionam quem deveria exercer autoridade sobre o setor — e se a responsabilidade legal, em vez de órgãos de fiscalização, é a resposta.
O debate se acirrou depois que o diretor-executivo da Anthropic, Dario Amodei, sugeriu conceder a avaliadores externos “acesso semelhante ao de funcionários” ao desenvolvimento de modelos de fronteira, uma proposta posteriormente apoiada publicamente por Sam Altman, da OpenAI, Satya Nadella, da Microsoft, e Elon Musk. Os detalhes práticos, porém — quem será escolhido e até que ponto poderá olhar para dentro das empresas — continuam indefinidos.1
Na sexta-feira, o AI Evaluator Forum e mais de 100 acadêmicos, pesquisadores e figuras do setor responderam com um conjunto público de condições mínimas. Sua premissa é direta: uma revisão de segurança não é independente se a empresa analisada controla as informações, o dinheiro ou as consequências.
Os signatários, incluindo Geoffrey Hinton e Stuart Russell, pediram “objetividade científica, transparência, independência e proteções robustas contra interferências”. Eles querem que os avaliadores possam falar diretamente com os conselhos de administração, publicar conclusões após redações estritamente limitadas e receber os mesmos sistemas, dados, ferramentas e acesso físico relevantes que os avaliadores internos seniores.2
Conrad Stosz, presidente do fórum por trás da carta, disse que a campanha busca garantir que a supervisão independente seja uma “ferramenta significativa para gerenciar amplamente o risco da IA”, em vez de um substituto para o próprio trabalho de segurança dos laboratórios. Ele argumentou que o acesso a sistemas ainda não lançados e a dados internos sensíveis ofereceria uma confiança muito maior quanto aos riscos do mundo real.1
Os apoiadores apresentam a demanda como um controle sobre o poder tecnológico concentrado. Vinh Nguyen, ex-diretor de IA da National Security Agency, advertiu que nem o governo nem o público deveriam ter de depender do “próprio relato sobre o que é seguro e protegido” de um punhado de laboratórios.1
Mas o modelo de fiscalização proposto também se tornou um alvo político. David Sacks amplificou uma reportagem que descreve o órgão de fiscalização escolhido pela Anthropic como ligado ao “movimento woke de Altruísmo Eficaz” e “uma piada completa”.
3 Em uma republicação separada, ele endossou um princípio diferente: “A melhor maneira de ditar o ritmo da fronteira é responsabilizar plenamente os laboratórios pelo comportamento de seus modelos.”4
Isso deixa uma linha de divisão cada vez maior: os avaliadores buscam acesso protegido antes que os danos surjam; os críticos preferem responsabilização após o fato, sem fortalecer uma nova classe de árbitros de IA.