El debate se aceleró después de que el director ejecutivo de Anthropic, Dario Amodei, propusiera otorgar a evaluadores externos un acceso similar al de los empleados al desarrollo de modelos de frontera, un enfoque que el director ejecutivo de OpenAI, Sam Altman, y otras figuras de la industria han respaldado. Sin embargo, para los evaluadores, el acceso es solo la oferta inicial: afirman que un revisor elegido, pagado o condicionado por la empresa bajo revisión no puede servir como un control significativo.

El viernes, el Foro de Evaluadores de IA y más de 100 firmantes, entre ellos Geoffrey Hinton y Stuart Russell, expusieron sus condiciones mínimas. Su carta pide que los evaluadores tengan «objetividad científica, transparencia, independencia y protecciones sólidas» frente a interferencias, además de acceso a sistemas, datos, herramientas y personal sensibles comparable al disponible para los evaluadores internos.¹ Conrad Stosz, presidente del foro, afirmó que dicho acceso podría permitir a los revisores inspeccionar sistemas no publicados y datos internos, lo que daría al público una mayor confianza sobre riesgos que los laboratorios podrían no divulgar por sí mismos.¹

El modelo de la coalición es deliberadamente más exigente que una auditoría amistosa. Quiere múltiples evaluadores con conocimientos especializados distintos, comunicación directa con los consejos de administración, restricciones limitadas de confidencialidad y el derecho a publicar conclusiones tras redacciones limitadas y ajustadas específicamente, con plazos definidos. También insiste en que los organismos de control estén protegidos contra demandas de represalia o recortes de financiación cuando sus conclusiones avergüencen a una empresa anfitriona. El director ejecutivo de Microsoft, Satya Nadella, ha acogido favorablemente el concepto de evaluador integrado, según informaciones sobre la carta.²

Pero el plan ha expuesto de inmediato un segundo problema de rendición de cuentas: ¿quién vigila a los vigilantes? David Sacks amplificó un ataque del New York Post que describía al supuesto organismo de control de Anthropic como «seleccionado a dedo» y vinculado al movimiento del Altruismo Eficaz, y calificó el acuerdo de «una completa broma».David Sacks (DavidSacks)³ En una republicación separada, dio visibilidad a la alternativa de Naval Ravikant: «La mejor manera de regular la frontera es responsabilizar plenamente a los laboratorios por el comportamiento de sus modelos».David Sacks (DavidSacks)⁴

Esto deja en evidencia la principal línea divisoria. Los evaluadores no se presentan como un sustituto del trabajo interno de seguridad ni de una supervisión más amplia; quieren una ventana protegida hacia los laboratorios. Sus críticos temen que esa ventana simplemente instale otro centro de poder sin rendición de cuentas.