La última respuesta de Anthropic al problema de la rendición de cuentas en la seguridad de la IA no es otra promesa pública. Es un auditor con una perspectiva similar a la de un empleado desde dentro de la empresa.

La medida sigue al compromiso del director ejecutivo Dario Amodei de integrar evaluadores externos en Anthropic a medida que sus modelos se vuelven más potentes. La empresa ha seleccionado ahora a Accenture, a través de Faculty, su negocio especializado en IA, como su primer socio de este tipo. Accenture someterá los modelos a pruebas de red team, evaluará la alineación y probará las salvaguardas, al tiempo que obtendrá un acceso comparable al de un empleado de Anthropic.¹

Anthropic afirma que esa proximidad importa. Un evaluador integrado puede observar cómo se desarrollan los modelos durante el entrenamiento, rastrear las decisiones detrás de su lanzamiento y despliegue, y hablar directamente con el personal, sostiene. Desde esa posición, los evaluadores podrían identificar puntos ciegos, informar de incidentes y ofrecer al público una explicación más clara de los riesgos y beneficios de la IA. «Los evaluadores integrados independientes no reducen nuestra rendición de cuentas, sino que ayudan a hacerla más verificable», dijo Anthropic.¹

La escala financiera es llamativa: Anthropic y Accenture esperan invertir cada una al menos 1.000 millones de dólares durante cinco años para desarrollar capacidad de evaluación.¹ Sin embargo, la empresa también reconoce que el sistema no está terminado. No existen estándares establecidos que regulen el acceso o la presentación de informes de los evaluadores, ni un modelo de financiación consolidado. Por ahora, Anthropic financiará directamente el trabajo de Accenture, aunque afirma que con el tiempo sería preferible una financiación conjunta o respaldada por el gobierno.¹

Es en ese acuerdo donde se concentran las dudas. Una formulación escéptica preguntó simplemente: «¿El primer evaluador integrado de Anthropic es... Accenture?»² La preocupación no es que la evaluación sea innecesaria, sino que una firma de consultoría pagada por la empresa que examina podría tener dificultades para parecer plenamente independiente.

Anthropic insiste en que la asociación no es exclusiva y afirma que también está hablando con evaluadores sin ánimo de lucro, entre ellos METR. Su apuesta es que el escrutinio desde dentro puede hacerse creíble. Sus críticos preguntan si se ha invitado al perro guardián demasiado adentro de la puerta.