Historia
septiembre 18, 2026
Expertos en seguridad de IA exigen supervisores que los laboratorios no puedan silenciar
Los evaluadores de seguridad de IA sostienen que el acceso sin independencia convertiría la supervisión en un ejercicio controlado por las empresas, mientras que los partidarios de responsabilizar a los laboratorios cuestionan si los supervisores externos son la respuesta adecuada. La disputa emergente no trata sobre si la IA de frontera necesita escrutinio, sino sobre quién puede llevarlo a cabo y en qué condiciones.
El debate se aceleró durante el fin de semana, cuando el director ejecutivo de Anthropic, Dario Amodei, propuso otorgar a evaluadores externos «acceso similar al de los empleados» para inspeccionar los modelos de frontera y su desarrollo. El director ejecutivo de OpenAI, Sam Altman, Satya Nadella de Microsoft y otros respaldaron públicamente el concepto general, situando a una comunidad antes poco conocida de evaluadores de IA en el centro del debate sobre seguridad en la industria.1
El viernes, el Foro de Evaluadores de IA —respaldado por más de 100 expertos, entre ellos Geoffrey Hinton y Stuart Russell— respondió con una lista de condiciones no negociables. Su postura fue contundente: el acceso por sí solo no es supervisión. Los evaluadores deben contar con «objetividad científica, transparencia, independencia y protecciones sólidas contra la interferencia» de las empresas que evalúan.2
El grupo quiere supervisores capaces de comunicarse directa y libremente con los consejos de administración corporativos, publicar conclusiones sujetas a censuras limitadas de manera estricta y recibir los mismos sistemas, datos, herramientas y acceso físico pertinentes que están disponibles para el personal interno sénior de riesgos. También pide múltiples evaluadores con distintas especialidades, en lugar de un único árbitro aprobado por el laboratorio.
Conrad Stosz, quien preside el foro, describió el esfuerzo como un intento de establecer bases compartidas, no de prescribir un único modelo regulatorio. Pero el firmante Vinh Nguyen planteó lo que está en juego de forma más tajante: cuando un puñado de laboratorios controla capacidades que podrían amenazar la ciberseguridad, la infraestructura crítica y la economía, «el gobierno y el público no pueden depender de la propia versión de esos laboratorios sobre lo que es seguro y está protegido».1
La iniciativa ha encontrado resistencia entre figuras alineadas con el enfoque desregulador de la administración Trump. David Sacks amplificó las críticas a lo que se describió como el «supervisor de IA elegido a dedo» de Anthropic, y afirmó que sus vínculos con el altruismo efectivo son motivo para considerarlo «una completa broma».
3 En una republicación aparte, Sacks destacó un principio alternativo: «La mejor manera de marcar el ritmo en la frontera es responsabilizar plenamente a los laboratorios por el comportamiento de sus modelos».4
Eso deja una línea divisoria fundamental. Los evaluadores dicen que un acceso externo creíble puede complementar las salvaguardas internas; los escépticos sostienen que la responsabilidad directa —no una nueva clase de supervisores integrados— debería obligar a los laboratorios a responder por los riesgos que crean.