Historia
septiembre 15, 2026
Los mayores laboratorios de IA hablan de seguridad, pero la coordinación conlleva sus propios riesgos
OpenAI, Anthropic y Google DeepMind parecen coincidir en que los riesgos de la IA de frontera exigen una acción colectiva, pero se enfrentan a una contradicción básica: la cooperación que consideran necesaria para la seguridad podría atraer por sí misma escrutinio legal y resistencia política.
Chris Lehane, jefe de políticas globales de OpenAI, dijo el martes que la empresa llevaba semanas manteniendo conversaciones sobre seguridad de la IA con Anthropic y Google DeepMind, una confirmación de que los competidores más acérrimos de la industria están explorando puntos en común sobre salvaguardas frente a riesgos catastróficos.1
Las conversaciones siguieron al llamamiento del fin de semana del director ejecutivo de Anthropic, Dario Amodei, para que los laboratorios de frontera trabajen juntos para ralentizar el desarrollo cuando sea necesario y evitar daños extremos. El CEO de OpenAI, Sam Altman, respaldó el impulso más amplio y, según el informe, afirmó que su empresa se uniría a Anthropic para incorporar evaluadores externos que supervisen la seguridad.1
Eso supone un cambio significativo de tono para una industria construida sobre la velocidad. La agenda reportada incluye respuestas coordinadas a capacidades peligrosas y, por separado, trabajo hacia un organismo de estándares de IA. Lehane, en Washington para reunirse con legisladores sobre los riesgos catastróficos de la IA, dijo que OpenAI apoya una disposición de la FRONTIER Act que daría a organizaciones independientes de verificación acceso a los principales laboratorios.1
Sin embargo, la cooperación propuesta tiene una salvedad. Altman y otros han reconocido que la coordinación entre rivales podría chocar con la legislación antimonopolio si se considera que reprime la competencia. Amodei ha propuesto una exención gubernamental limitada para la cooperación en materia de seguridad; la posición de Lehane es que las empresas no necesitan una.1
El debate se desarrolla en un contexto de una división política más marcada. El presidente Trump ha desestimado las preocupaciones sobre la seguridad de la IA y ha sostenido que ralentizar el desarrollo de Estados Unidos beneficiaría a China, mientras que el asesor David Sacks ha calificado de exagerados los temores sobre riesgos existenciales.1
Fuera de las empresas, la reacción va del escepticismo a la urgencia. Yann LeCun amplificó una publicación que alegaba que Anthropic tiene una densa red de vínculos con financiadores de riesgos catastróficos, una alegación de la republicación que no ha quedado establecida de forma independiente por el material proporcionado.
2 Musk, por su parte, compartió un resumen de declaraciones que subrayaban que «la IA puede ser muy peligrosa».
3 En otra republicación, destacó un «marco práctico» para hacer más segura la IA de frontera, centrado en la proximidad de las capacidades de OpenAI y Anthropic.4
El consenso emergente, por tanto, no es que los laboratorios deban dejar de competir. Es que quizá necesiten reglas para los momentos en que la competencia se vuelve demasiado arriesgada como para gestionarla por sí solos.