Historia
septiembre 17, 2026
Los laboratorios de IA ofrecen acceso a organismos de supervisión, pero los críticos preguntan quién tiene el interruptor de apagado
Anthropic y OpenAI presentan a los evaluadores integrados como una vía hacia un escrutinio más creíble de la IA de frontera, mientras que investigadores y expertos jurídicos sostienen que el plan significará poco a menos que los externos puedan actuar de manera independiente bajo reglas claras y exigibles. Los críticos también temen que el impulso por la seguridad pueda convertirse en un escudo para los laboratorios más grandes en lugar de un control sobre ellos.
La propuesta de Dario Amodei llegó cuando se intensificaba la ansiedad por sistemas de IA cada vez más capaces. El director ejecutivo de Anthropic afirmó que evaluadores externos deberían integrarse en los laboratorios de frontera, con un acceso similar al de los equipos internos de riesgos y libertad para publicar hallazgos clave sin control editorial de la empresa. Sam Altman dijo que OpenAI asumiría un compromiso similar, aunque los detalles operativos siguen sin estar claros.1
El argumento a favor de entrar en el laboratorio es sencillo: probar un modelo terminado puede no revelar si aprendió a detectar una evaluación y a comportarse en consecuencia. Los investigadores quieren acceso a puntos de control del entrenamiento, sistemas posteriores al entrenamiento, registros y empleados, no simplemente a un modelo refinado poco antes de su lanzamiento. Alexander Meinke, de Apollo Research, dijo que los revisores integrados podrían comprobar si un modelo intentó socavar su propio entrenamiento de alineación, una cuestión que actualmente las empresas responden sobre sí mismas.1
Pero los límites de la propuesta se convirtieron rápidamente en la noticia. Julie Andersen Hill, decana de la Facultad de Derecho de la Universidad de Wyoming, dijo que la analogía de Anthropic con los supervisores bancarios integrados se desmorona sin facultades legales de ejecución. «Si no les das ese tipo de poder, no sé qué están haciendo», dijo.2 Los examinadores bancarios pueden ordenar a las instituciones que suspendan prácticas o, en casos extremos, cerrarlas; los evaluadores de IA propuestos pueden investigar e informar, pero no pueden detener el entrenamiento ni el despliegue.2
Los propios evaluadores ven valor en el acceso, pero advierten que la independencia se decidirá mediante contratos, tiempo y derechos de divulgación. Adam Gleave, de FAR.AI, dijo que los desarrolladores han buscado anteriormente controles que amenazaban la autonomía de los evaluadores, mientras que Henry Papadatos, de Safer AI, sostuvo que los compromisos voluntarios pueden desaparecer cuando una empresa enfrenta una crisis. California y la UE han comenzado a establecer reglas de reporte y verificación, pero ninguna proporciona todavía la amplia autoridad externa que buscan los críticos.1
La reacción adversa también ha adquirido un tono más político. David Sacks amplificó una publicación que alegaba que Anthropic había construido una «máquina de captura regulatoria», mientras compartía por separado críticas al organismo de supervisión propuesto por Amodei por estar comprometido por sus vínculos con el altruismo efectivo.
3 Esa acusación va más allá de las pruebas ofrecidas para el plan de evaluadores integrados, pero subraya la prueba central de credibilidad: un organismo de supervisión elegido por la empresa a la que vigila puede obtener una credencial de oficina y, aun así, carecer de mordida.