Historia
septiembre 18, 2026
El rey Carlos dice a los líderes de IA que tomen el control antes de que sea demasiado tarde
La intervención del rey Carlos presenta la IA como una prueba de si sus creadores pueden preservar el control humano, mientras la industria sigue dividida entre quienes exigen un camino más lento y seguro y quienes consideran el rápido progreso un imperativo estratégico.
A principios de este mes, la alarma por la IA de frontera irrumpió desde los círculos especializados en una disputa pública. Tras fallos de pruebas reportados y nuevas advertencias de expertos internos, el director de Anthropic, Dario Amodei, pidió una desaceleración coordinada; se informó que Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Elon Musk comparten el argumento a favor de un ritmo más lento.1
El argumento de la seguridad no se centraba únicamente en frenar. El director de Microsoft, Satya Nadella, describió la tarea como extender los beneficios de la IA mientras se «gana el permiso de las comunidades» y se garantiza la «seguridad y el control de la IA».
2 Musk reforzó ese mensaje con un escueto «Cierto», señalando su apoyo a esa formulación incluso mientras la coalición más amplia sigue inquieta respecto a cómo, o si, podría imponerse una desaceleración.
3
El jueves, Carlos llevó la disputa a Dumfries House, en Ayrshire, y reunió a representantes de Nvidia, OpenAI, Anthropic, Google DeepMind y el Gobierno británico. Su advertencia fue directa: el rápido desarrollo de la IA era «a la vez intrigante y profundamente preocupante», y sus propios creadores advertían cada vez más sobre capacidades más oscuras, incluida la posibilidad de que los sistemas pudieran «quitar la vida».4
La receta del rey era la cooperación internacional y unos principios compartidos, no simplemente modelos más potentes. «Sin duda, ¿necesitamos medios suficientes de control antes de que sea demasiado tarde?», preguntó, insistiendo en que la tecnología permanezca al servicio de la humanidad, las comunidades y el mundo natural.4
Esa visión choca con el bando competitivo. El presidente Donald Trump y Jensen Huang de Nvidia han rechazado los llamamientos a desacelerar; el argumento de Trump es tajantemente geopolítico: «Quien gane la IA, gana».4 No se esperaba que la cumbre produjera compromisos vinculantes, por lo que el llamamiento de Carlos quedó como un desafío moral más que como una resolución, y la carrera continúa sin una línea de meta compartida.1