A Anthropic deu seu primeiro passo concreto rumo ao desenvolvimento mais lento e mais rigorosamente supervisionado de IA de fronteira defendido pelo diretor-executivo Dario Amodei: trazer a Accenture para dentro da empresa a fim de avaliar seus modelos mais poderosos.

A parceria, liderada pela Faculty, unidade especializada em IA da Accenture, envolverá red teaming de modelos, avaliação de alinhamento e testes de salvaguardas. Diferentemente dos revisores externos convencionais, os avaliadores incorporados deverão receber acesso comparável ao de um funcionário da Anthropic — o suficiente para observar o treinamento, rastrear decisões sobre desenvolvimento e implantação e falar diretamente com a equipe. A Anthropic argumenta que a proximidade é o ponto central: ela pode expor pontos cegos e permitir que revisores relatem incidentes de uma perspectiva informada. “Avaliadores incorporados independentes não reduzem nossa responsabilização, mas ajudam a torná-la mais verificável”, disse a empresa.¹

O anúncio ocorre após o apelo de Amodei para que desenvolvedores de IA submetam suas práticas de segurança ao exame de terceiros à medida que os modelos se tornam mais capazes. A Anthropic afirma que continua responsável pela segurança de seus sistemas e pretende trabalhar com vários avaliadores, incluindo a organização sem fins lucrativos METR. O papel da Accenture é explicitamente não exclusivo, e a consultoria pode assumir trabalhos semelhantes para outros desenvolvedores de IA.

Mas o experimento também expõe a lacuna de governança que pretende abordar. Anthropic e Accenture esperam investir pelo menos US$ 1 bilhão cada uma ao longo de cinco anos para desenvolver capacidade de avaliação, mas a Anthropic financiará diretamente o trabalho da Accenture porque atualmente não existe nenhum mecanismo de financiamento conjunto ou apoiado pelo governo. A empresa afirma que as normas também permanecem indefinidas: não há um conjunto de regras acordado sobre que acesso os avaliadores devem receber ou como devem divulgar suas conclusões.

Isso faz com que o piloto transmita duas mensagens ao mesmo tempo. É uma concessão notável a uma supervisão mais profunda em um laboratório de fronteira; também é um modelo de auditoria cuja independência ainda não foi estruturalmente assegurada. Como afirmou uma reportagem, a Anthropic selecionou a Accenture para “monitorar internamente a segurança de suas ferramentas de IA” após a promessa de supervisão feita por seu CEO.²