Historia
septiembre 18, 2026
El rey Carlos advierte a los líderes de la IA: mantengan el control antes de que sea demasiado tarde
El rey Carlos presentó la IA como una oportunidad profunda y una prueba del control humano, e instó a sus creadores a situar la seguridad en el centro. Su intervención se produce en medio de una creciente división: algunos líderes tecnológicos quieren una desaceleración coordinada, mientras otros sostienen que la carrera estratégica no puede permitírselo.
El debate se intensificó en las semanas previas al encuentro del jueves en Dumfries House, en Ayrshire. El consejero delegado de Anthropic, Dario Amodei, pidió una desaceleración coordinada del trabajo en IA de frontera y advirtió que los avances continuados podrían volverse catastróficos; se informó de que Sam Altman, de OpenAI, Demis Hassabis, de Google DeepMind, y Elon Musk compartían la postura a favor de un ritmo más lento y una supervisión más estricta.1
Ese consenso distaba mucho de ser universal. El presidente Donald Trump, el director de Nvidia Jensen Huang y Mark Zuckerberg, de Meta, han rechazado una mayor regulación, presentando la IA como una competencia geopolítica en la que Estados Unidos debe preservar su liderazgo. Trump lo expresó sin rodeos: «Quien gane la IA, gana».2
Con ese trasfondo, Carlos reunió a representantes de Nvidia, Google DeepMind, OpenAI y Anthropic, junto con el ministro de IA de Reino Unido, Kanishka Narayan, y otros expertos. El palacio dijo que no se esperaba que la reunión produjera acuerdos vinculantes; más bien, fue concebida para comprobar si unos principios compartidos podían orientar la IA hacia el beneficio público.3
En su discurso, el Rey reconoció las promesas de la tecnología en medicina y ciencia, pero advirtió que sus creadores identificaban cada vez más posibilidades oscuras. «Sin duda, ¿necesitamos medios suficientes de control antes de que sea demasiado tarde?», dijo.4 Su exigencia más amplia era que la IA permaneciera «firmemente al servicio de la humanidad, la comunidad y el mundo natural».1
El lenguaje se hizo eco de una postura de seguridad práctica y menos absolutista expresada en Silicon Valley. Satya Nadella, de Microsoft, dijo que el trabajo por delante consistía en extender ampliamente los beneficios de la IA, obtener «permiso de las comunidades» y garantizar la «seguridad y el control de la IA».
5 Musk respondió simplemente: «Cierto».
6
La cumbre de Carlos no resolvió la disputa sobre la desaceleración. Pero situó la división central en una misma sala: cómo aprovechar los beneficios de la IA sin ceder la autoridad humana destinada a gobernarla.