Historia
septiembre 17, 2026
El rey Carlos presiona a los titanes de la IA para que demuestren que la seguridad puede seguir el ritmo
La cumbre del rey Carlos reúne en una misma sala una división que se agudiza rápidamente: los defensores de la moderación quieren que las salvaguardias alcancen a una IA cada vez más capaz, mientras que los opositores temen que la regulación asfixie una tecnología que consideran transformadora. El planteamiento del monarca es que el progreso debe responder no solo a los mercados y a la capacidad, sino también a las personas, las comunidades y el planeta.
El debate no comenzó en Dumfries House. En 2023, Carlos utilizó la Cumbre de Seguridad de la IA del Reino Unido para describir la inteligencia artificial como uno de los grandes saltos tecnológicos de la humanidad. Desde entonces, la discusión se ha vuelto más urgente: pioneros de la IA y legisladores han dado la alarma por sistemas que avanzan más rápido que los controles destinados a gobernarlos.1
En las últimas semanas, esa preocupación ha irrumpido en el optimismo habitual de la industria. El director ejecutivo de Anthropic, Dario Amodei, pidió una desaceleración coordinada, mientras que se informó que Sam Altman, de OpenAI, Demis Hassabis, de Google DeepMind, y Elon Musk comparten la postura de avanzar con mayor cautela. Los críticos de ese enfoque —incluidos el presidente Donald Trump, Mark Zuckerberg de Meta y Jensen Huang de Nvidia— han rechazado una regulación ampliada.1
El director ejecutivo de Microsoft, Satya Nadella, ha planteado la tarea menos como un freno que como un pacto con el público: los beneficios de la IA deben compartirse ampliamente, las comunidades deben conceder permiso y las empresas deben garantizar la “seguridad y el control de la IA”.2 La escueta respuesta de Musk —«Cierto»— ofreció un respaldo público a esa formulación, aunque la disputa política más amplia sigue sin resolverse.3
El jueves, Carlos reunirá a ejecutivos y altos representantes de Nvidia, OpenAI, Anthropic, Google DeepMind y el gobierno en Ayrshire, Escocia. No se espera que la reunión produzca compromisos vinculantes, pero el Palacio de Buckingham afirma que pondrá a prueba si los participantes pueden acordar principios para desarrollar la IA de forma segura.4
El mensaje del rey es deliberadamente más amplio que una lista de verificación de cumplimiento. «Las decisiones tomadas en este momento formativo darán forma al mundo que heredarán las futuras generaciones», está previsto que diga, al sostener que la tarea no consiste simplemente en avanzar la tecnología, sino en mantenerla «firmemente al servicio de la humanidad, la comunidad y el mundo natural».4 Para las empresas que enfrentan llamamientos tanto a acelerar como a desacelerar, la cumbre no ofrece un punto medio fácil, sino solo la exigencia de demostrar que el control no será sacrificado por la velocidad.