A Anthropic levou seu modelo proposto de supervisão de IA de fronteira da teoria para mais perto de um experimento em curso, nomeando a Accenture como sua primeira avaliadora integrada. A empresa e a consultoria esperam investir ao menos US$ 1 bilhão ao longo de cinco anos para desenvolver capacidade de avaliação, com a Faculty, unidade especializada em IA da Accenture, liderando o trabalho.¹

O acordo foi concebido para ir além das auditorias externas convencionais. A Anthropic afirma que avaliadores integrados trabalharão dentro de empresas de IA com acesso comparável ao de funcionários: acompanhando o desenvolvimento dos modelos durante o treinamento, monitorando decisões ao longo da implementação, conversando diretamente com a equipe e avaliando se os compromissos de segurança estão sendo cumpridos. Espera-se que a Accenture faça red teaming dos modelos, realize avaliações de alinhamento e teste salvaguardas, ao mesmo tempo em que trará sua experiência sobre como empresas e governos usam IA.¹

O argumento da Anthropic é que a proximidade pode reforçar o escrutínio, em vez de diluí-lo. “Avaliadores integrados independentes não reduzem nossa responsabilidade, mas ajudam a torná-la mais verificável”, disse a empresa, enfatizando que a responsabilidade final pela segurança dos modelos permanece com a Anthropic.¹

Mas o anúncio também expõe os pontos fracos desse modelo emergente de supervisão. Não há padrões consolidados para o acesso, os relatórios ou o financiamento de um avaliador, e a Anthropic financiará diretamente o trabalho da Accenture porque ainda não existe financiamento coletivo ou respaldado pelo governo. A empresa afirma estar conversando com a METR e outros avaliadores sem fins lucrativos, espera eventualmente trabalhar com vários grupos e classifica a parceria com a Accenture como não exclusiva.¹

A resposta cética se resume a uma única pergunta incisiva: “A primeira avaliadora integrada da Anthropic é ... a Accenture?”² Esse enquadramento não contesta a necessidade de testes rigorosos. Ele questiona se uma consultoria paga pelo laboratório que examina pode oferecer a independência que o experimento promete. As próximas escolhas da Anthropic para avaliadores — e as regras que determinam o que a Accenture pode divulgar — definirão se isso se tornará um modelo de segurança crível ou uma forma sofisticada de autosupervisão.