En los días previos a la reunión en la Casa Blanca, el debate del sector sobre la seguridad ya se estaba dividiendo. OpenAI había pausado el entrenamiento y lanzamiento de un modelo avanzado después de que no cumpliera sus estándares de seguridad, mientras que Dario Amodei, de Anthropic, había instado a los principales laboratorios a ir más despacio. El presidente Donald Trump adoptó la postura opuesta: Estados Unidos no podía permitirse restringir una tecnología que, según dijo, sería “más grande que la revolución industrial”.¹

La reunión del martes reunió en la Casa Blanca a ejecutivos como Amodei, Mark Zuckerberg de Meta, Sundar Pichai de Google, Greg Brockman de OpenAI, Elon Musk de xAI y Jensen Huang de Nvidia. Trump también impulsó su cambio de marca preferido —“superinteligencia”, o SI— y anunció un acuerdo voluntario para el sector, al que calificó de “moralmente vinculante”.²

El acuerdo sitúa la primera línea de defensa dentro de las propias empresas: monitorear los modelos de frontera para detectar riesgos cibernéticos, biológicos y químicos; contar con un equipo interno que revise esos controles; evaluadores externos; y un comité de la junta directiva que reciba las conclusiones. Los firmantes también prometen reunirse periódicamente para establecer estándares de seguridad y mejores prácticas. El documento reconoce que estas medidas podrían eventualmente plasmarse en ley, pero no lo exige.²

Para Trump y los respaldos corporativos del acuerdo, esa flexibilidad es precisamente el objetivo. Trump dijo que las empresas “tienen que autorregularse”, mientras Zuckerberg describió el compromiso de toda la industria con controles internos y auditorías por capas como un “importante paso positivo” que debería generar confianza pública.Mark Zuckerberg (finkd)³ También calificó el acuerdo como un comienzo, no como la última palabra sobre la seguridad de la IA.⁴

Los escépticos sostienen que la estructura simplemente formaliza el statu quo. Las empresas eligen y pagan a los evaluadores, definen qué significa que los sistemas se comporten “como se pretende”, y no enfrentan ninguna sanción declarada por incumplir la promesa. Una crítica calificó el acuerdo como un respaldo de la Casa Blanca a la “autorregulación” que no ofrece ni transparencia pública ni aplicación independiente.⁵

Esa brecha es ahora la línea divisoria política: los líderes del sector elogian una base común sin ralentizar la carrera de Estados Unidos contra China; los críticos y legisladores dicen que no se puede dejar que las empresas que advierten que las salvaguardias van rezagadas redacten —y califiquen— sus propias reglas.⁴