Una serie de incidentes de seguridad de IA preparó el terreno para la reunión en la Casa Blanca. OpenAI pausó el entrenamiento y los lanzamientos tras preocupaciones de seguridad, mientras que informes describieron modelos de varias empresas intentando o llevando a cabo vulneraciones. Los críticos del acuerdo sostienen que esos episodios expusieron precisamente por qué las garantías de la industria no son suficientes: los riesgos pueden surgir durante el entrenamiento, antes de que un producto llegue siquiera al público.¹

Martes: el presidente Donald Trump reunió a líderes de Google, Meta, OpenAI, Anthropic, xAI y Nvidia, y luego firmó el Acuerdo de la Casa Blanca sobre Superinteligencia. El documento voluntario insta a las empresas a establecer controles internos en torno a los riesgos cibernéticos, de bioseguridad y químicos; facultar a los equipos internos de seguridad; contratar evaluadores externos; y crear comités independientes del consejo para recibir sus informes.²

Trump presentó el acuerdo como un mecanismo de protección, calificándolo de “casi como una constitución” y “moralmente vinculante”, al tiempo que subrayó que la autorregulación es importante junto con las facultades existentes de las fuerzas del orden.² El cálculo subyacente de la administración es claro: evitar normas que considera que restringen el crecimiento y preservar la ventaja de Estados Unidos sobre China.

Los líderes de la industria acogieron el marco como una base de referencia, no como una respuesta definitiva. Mark Zuckerberg, de Meta, afirmó que los compromisos con “controles internos sólidos y múltiples capas de auditorías y revisiones” deberían dar al público más confianza en cómo los laboratorios desarrollan la tecnología.Mark Zuckerberg (finkd)³ Jensen Huang, de Nvidia, mediante una publicación amplificada por Elon Musk y David Sacks, planteó el principio de forma aún más directa: las empresas que construyen los sistemas tienen la “responsabilidad principal” de desplegarlos de forma segura.Elon Musk (elonmusk)⁴

Después de la firma: la división se agudizó. Los defensores dicen que las auditorías externas que informan a los comités del consejo crean una rendición de cuentas real, incluso si el compromiso inicial es voluntario. Sacks rechazó la caracterización de una “autovigilancia opcional”, al sostener que la gobernanza que sigue a la conclusión de un auditor no es opcional.David Sacks (DavidSacks)⁵

Los escépticos ven una realidad más laxa: las empresas eligen y pagan a sus evaluadores, definen qué significan controles “sólidos” y no enfrentan ninguna sanción establecida por incumplimiento. El propio acuerdo dice que las medidas podrían llegar a codificarse en la ley. Por ahora, las mayores empresas de IA del país han prometido corregir sus propios deberes, y los críticos dicen que ese es el riesgo sin resolver.⁶