Historia
septiembre 19, 2026
Los evaluadores de IA quieren acceso interno, pero la disputa sobre quién vigila los laboratorios apenas comienza
Los evaluadores de seguridad sostienen que una supervisión significativa de una IA poderosa requiere un acceso y una independencia que los laboratorios no puedan revocar. Sus críticos no cuestionan tanto lo que está en juego como quién debería ejercer autoridad sobre la industria —y si la responsabilidad, en lugar de los organismos de vigilancia, es la respuesta.
El debate se intensificó después de que el director ejecutivo de Anthropic, Dario Amodei, planteara dar a evaluadores externos un «acceso similar al de los empleados» al desarrollo de modelos de frontera, una propuesta que posteriormente respaldaron públicamente Sam Altman de OpenAI, Satya Nadella de Microsoft y Elon Musk. Sin embargo, los detalles prácticos —quiénes serán elegidos y hasta dónde podrán mirar dentro de las empresas— siguen sin resolverse.1
El viernes, el AI Evaluator Forum y más de 100 académicos, investigadores y figuras del sector respondieron con un conjunto público de condiciones mínimas. Su premisa es tajante: una revisión de seguridad no es independiente si la empresa revisada controla la información, el dinero o las consecuencias.
Los firmantes, entre ellos Geoffrey Hinton y Stuart Russell, pidieron «objetividad científica, transparencia, independencia y protecciones sólidas contra las interferencias». Quieren que los evaluadores puedan hablar directamente con los consejos de administración, publicar conclusiones tras tachaduras limitadas de forma estricta y recibir los mismos sistemas, datos, herramientas y acceso físico pertinentes que los evaluadores internos de alto nivel.2
Conrad Stosz, presidente del foro que está detrás de la carta, afirmó que la campaña busca garantizar que la supervisión independiente sea una «herramienta significativa para gestionar ampliamente el riesgo de la IA», en lugar de un sustituto del propio trabajo de seguridad de los laboratorios. Sostuvo que el acceso a sistemas no publicados y a datos internos sensibles ofrecería una confianza mucho mayor sobre los riesgos del mundo real.1
Los partidarios presentan la exigencia como un control al poder tecnológico concentrado. Vinh Nguyen, exdirector de IA de la Agencia de Seguridad Nacional, advirtió que ni el gobierno ni el público deberían tener que depender de la «propia versión de lo que es seguro y está protegido» de un puñado de laboratorios.1
Pero el modelo de organismo de vigilancia propuesto también se ha convertido en un objetivo político. David Sacks amplificó un informe que describía al organismo de vigilancia elegido por Anthropic como vinculado al «movimiento woke de Altruismo Efectivo» y «una completa broma».
3 En una republicación separada, respaldó un principio distinto: «La mejor manera de marcar el ritmo de la frontera es responsabilizar plenamente a los laboratorios por el comportamiento de sus modelos».4
Esto deja una línea divisoria cada vez mayor: los evaluadores buscan un acceso protegido antes de que surjan daños; los críticos prefieren la rendición de cuentas después de los hechos, sin dar poder a una nueva clase de árbitros de IA.