Anthropic ha llevado su modelo propuesto de supervisión de la IA de frontera de la teoría hacia un experimento en funcionamiento, al nombrar a Accenture como su primer evaluador integrado. La empresa y la consultora esperan invertir al menos 1.000 millones de dólares durante cinco años para desarrollar capacidad de evaluación, con Faculty, la división especializada en IA de Accenture, al frente del trabajo.¹

El acuerdo está diseñado para ir más allá de las auditorías externas convencionales. Anthropic afirma que los evaluadores integrados trabajarán dentro de las empresas de IA con un acceso comparable al de los empleados: observarán el desarrollo de modelos durante el entrenamiento, harán seguimiento de las decisiones a lo largo del despliegue, hablarán directamente con el personal y evaluarán si se están cumpliendo los compromisos de seguridad. Se espera que Accenture someta los modelos a pruebas de red teaming, realice evaluaciones de alineación y pruebe las salvaguardas, al tiempo que aporta su experiencia sobre cómo las empresas y los gobiernos utilizan la IA.¹

El argumento de Anthropic es que la proximidad puede reforzar el escrutinio en lugar de diluirlo. «Los evaluadores integrados independientes no reducen nuestra responsabilidad, sino que ayudan a hacerla más verificable», afirmó, al tiempo que subrayó que la responsabilidad final por la seguridad de los modelos sigue recayendo en Anthropic.¹

Pero el anuncio también expone los puntos débiles de este modelo emergente de supervisión. No existen estándares consolidados para el acceso, la presentación de informes o la financiación de un evaluador, y Anthropic financiará directamente el trabajo de Accenture porque todavía no existe financiación conjunta ni respaldada por el gobierno. La empresa afirma que está conversando con METR y otros evaluadores sin fines de lucro, que espera trabajar eventualmente con varios grupos y que considera que la asociación con Accenture no es exclusiva.¹

La respuesta escéptica se resume en una sola pregunta incisiva: «¿El primer evaluador integrado de Anthropic es... Accenture?»² Ese planteamiento no cuestiona la necesidad de pruebas rigurosas. Cuestiona si una consultora pagada por el laboratorio al que examina puede proporcionar la independencia que promete el experimento. Las próximas elecciones de evaluadores de Anthropic —y las reglas que regulen lo que Accenture puede divulgar— determinarán si esto se convierte en un modelo de seguridad creíble o en una forma sofisticada de autosupervisión.