La división era visible incluso antes de que se reuniera el Consejo de Seguridad. El 13 de septiembre, el presidente Donald Trump presentó la inteligencia artificial como una competencia geopolítica y dijo: “quien gane la IA, gana”. Días después, dijo a la Asamblea General de la ONU que Estados Unidos “rechaza totalmente cualquier intento de construir un esquema globalista para controlar” la tecnología.¹

Esa postura elevó lo que estaba en juego el 22 de septiembre, cuando el secretario general António Guterres advirtió sobre los “robots asesinos”, una preocupación que expertos y líderes europeos dijeron que ya era real o peligrosamente cercana.²

En la sesión del Consejo de Seguridad del miércoles, los creadores de la tecnología plantearon un caso notablemente distinto: el rápido progreso exige reglas colectivas, no una carrera sin frenos. El jefe de OpenAI, Sam Altman, dijo que la IA podría inaugurar “un nuevo renacimiento de creatividad y descubrimiento”, pero también podría traer “convulsión y desorden”.³ Su advertencia central fue contundente: los sistemas cada vez más autónomos podrían superar a las instituciones, centralizar el poder y tomar decisiones que los humanos ya no pueden comprender ni controlar.

Altman sostuvo que las probabilidades de catástrofe, incluso de una fracción de un punto porcentual, eran inaceptables, y dijo que la industria no debería entrenar modelos respecto de los cuales no pueda demostrar sólidamente que puede mantener bajo control humano. Pidió estándares comunes para evaluar capacidades y riesgos, verificar salvaguardias, informar rápidamente sobre incidentes y preservar una supervisión humana significativa.³

El CEO de Anthropic, Dario Amodei, defendió el mismo planteamiento general desde una perspectiva de amenaza más acuciante. La IA mal gestionada, dijo, podría ser “un riesgo para la humanidad en su conjunto”; instó a alcanzar acuerdos que prohíban las armas biológicas creadas por IA, pruebas y verificación compartidas, y un sistema global de notificación de incidentes importantes de seguridad.¹

El cofundador de Hugging Face, Clément Delangue, ofreció una receta complementaria tras un ciberataque de un agente contra su empresa: más transparencia y más IA de código abierto, para que los defensores no queden en desventaja asimétrica.clem 🤗 (ClementDelangue)⁴ Subrayó que la IA había ayudado a Hugging Face a responder al ataque e identificar debilidades, una refutación de tratar solo el miedo como política.¹

Los ejecutivos coincidieron en el peligro de un poder sin control, pero no solo en la necesidad de moderación. Su mensaje fue que la seguridad, la rendición de cuentas democrática y el acceso defensivo deben avanzar juntos, aun cuando Washington indica que podría resistirse a una arquitectura global vinculante.