Historia
septiembre 19, 2026
El rey Carlos dice a los titanes de la IA que encuentren los frenos antes de que sea demasiado tarde
El rey Carlos presentó la IA como una prueba de si el poder tecnológico puede seguir rindiendo cuentas ante las personas, mientras la industria continúa dividida entre quienes buscan una contención colectiva y quienes sostienen que la seguridad puede gestionarse sin ralentizar la carrera.
El debate ya se había intensificado antes de que los ejecutivos llegaran a Dumfries House, en Ayrshire. Después de que el investigador de Anthropic Jacob Coxon dimitiera advirtiendo sobre la dirección de la industria, el jefe de Anthropic, Dario Amodei, pidió ralentizar deliberadamente el desarrollo de frontera, una postura respaldada públicamente por Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Elon Musk.1
El director ejecutivo de Microsoft, Satya Nadella, adoptó un tono menos amplio pero compatible, al pedir que los beneficios de la IA se compartan ampliamente mientras las empresas se ganan el permiso de las comunidades y garantizan la «seguridad y el control de la IA». Musk amplificó ese mensaje con un respaldo de una sola palabra: «Cierto».
2
3
El jueves, Carlos llevó la disputa directamente ante líderes de Nvidia, OpenAI, Anthropic y Google DeepMind, junto con funcionarios británicos. El rey describió el desarrollo y el ritmo de la IA como «a la vez intrigantes y profundamente preocupantes en igual medida», y advirtió que la gente buscaba garantías de que la humanidad no «perdería el control de nuestro destino».4
Su planteamiento no era contrario a la tecnología. Carlos reconoció la capacidad de la IA para mejorar y salvar vidas, en particular en la medicina y la ciencia, pero afirmó que sus propios creadores advertían cada vez más sobre capacidades más oscuras. «Sin duda, ¿necesitamos medios de control suficientes antes de que sea demasiado tarde?», preguntó, instando al grupo a avanzar hacia la cooperación internacional y principios que mantengan la tecnología al servicio de la humanidad y del mundo natural.5
La cumbre no produjo ningún pacto vinculante, y reveló por qué podría ser difícil alcanzarlo. El presidente Donald Trump ha rechazado una desaceleración, al presentar el liderazgo en IA como una competencia estratégica con China. Mientras tanto, el jefe de Nvidia, Jensen Huang, ha argumentado en contra de una pausa coordinada: las empresas deberían probar sus propios sistemas y retener los productos que no sean seguros. «Cuando un producto no es lo bastante seguro, debemos retenerlo y seguir desarrollándolo», dijo Huang.1
Eso deja el llamamiento de Carlos suspendido entre dos visiones: frenos internacionales compartidos, o una carrera vigilada por las empresas que pisan con más fuerza el acelerador.