Historia
septiembre 16, 2026
Los rivales corren para crear normas de seguridad de IA antes de que la política los alcance
OpenAI, Anthropic y Google DeepMind consideran la cooperación como una forma urgente de gestionar los riesgos de los modelos de frontera, mientras que los críticos temen que la misma agenda de seguridad pueda afianzar a los mayores laboratorios y los líderes políticos se resisten a cualquier desaceleración que pueda debilitar la carrera de IA de Estados Unidos.
El impulso comenzó en julio, cuando el director de Google DeepMind, Demis Hassabis, propuso un "Organismo de Estándares" de IA liderado por Estados Unidos: un acuerdo público-privado o de autorregulación con supervisión federal. La idea era dar a los laboratorios competidores de IA de frontera un mecanismo compartido para afrontar riesgos que ninguno puede gestionar de forma creíble por sí solo.1
Para el sábado, el director ejecutivo de Anthropic, Dario Amodei, había subrayado la urgencia, instando a las empresas a ralentizar la mejora de sus modelos más avanzados para evitar resultados catastróficos. Hassabis calificó el enfoque como "el camino correcto a seguir", mientras que el director de OpenAI, Sam Altman, afirmó que el ritmo de desarrollo de los sistemas de frontera se había convertido en un "tema principal" dentro de OpenAI.1
El martes, OpenAI confirmó que llevaba semanas conversando con Anthropic y Google sobre trabajo conjunto en seguridad. Chris Lehane, director de asuntos globales de OpenAI, sostuvo que los estándares voluntarios del sector deberían complementar, en lugar de sustituir, las "salvaguardias federales obligatorias y la supervisión democrática". La empresa también ha respaldado la verificación externa de las prácticas de seguridad de los principales laboratorios.1
Las conversaciones revelan una tensión incómoda: las empresas son feroces rivales comerciales, pero todas enfrentan presión para demostrar que pueden gobernar modelos cada vez más capaces. El director de Microsoft, Satya Nadella, describió la tarea como social y técnica, y pidió trabajar para extender los beneficios de la IA, ganarse el permiso de las comunidades y garantizar la "seguridad y el control de la IA".
2
Pero el consenso emergente dista mucho de ser universal. Informes señalan que algunos participantes han planteado preocupaciones antimonopolio si la coordinación suprime la competencia; Amodei ha planteado una exención gubernamental limitada, mientras que Lehane afirma que no es necesaria. El presidente Donald Trump y el asesor David Sacks, por su parte, han desestimado los argumentos sobre riesgos existenciales y advertido que una desaceleración estadounidense podría beneficiar a China.3
La crítica más contundente del sector proviene del científico de IA de Meta, Yann LeCun, quien amplificó el argumento de que Anthropic y OpenAI podrían usar la regulación de seguridad para "proscribir los modelos competitivos de código abierto".
4 La coalición de seguridad ahora debe demostrar que la cooperación protege al público sin proteger discretamente a los actores establecidos.