Historia
septiembre 24, 2026
Líderes de la IA dicen a la ONU: manténgannos bajo control humano
Los líderes de la industria de la IA plantearon a la ONU un doble desafío: aprovechar la promesa científica y económica de la IA mientras se evita que los sistemas escapen al control humano o coloquen un poder decisivo en muy pocas manos. La respuesta que propusieron fue supervisión internacional, estándares comunes de seguridad y rendición de cuentas democrática, en lugar de competencia sin control.
La alarma ya había llegado a la ONU un día antes de que se reuniera el Consejo de Seguridad, cuando el secretario general António Guterres advirtió sobre los «robots asesinos», en medio de crecientes dudas sobre si se podía permitir que las máquinas tomaran decisiones de vida o muerte.1
El miércoles, el Consejo escuchó un mensaje sorprendentemente similar de las empresas que desarrollan la tecnología. El director ejecutivo de OpenAI, Sam Altman, planteó el momento como una encrucijada: «La IA puede parecerse más a un nuevo Renacimiento de creatividad y descubrimiento, o más a una nueva Revolución Industrial de agitación y desorden».2
El argumento de Altman no era detener el desarrollo, sino mantener sus formas más poderosas bajo la responsabilidad de las personas. A medida que los sistemas se vuelvan más autónomos y potencialmente capaces de mejorarse a sí mismos, advirtió, podrían superar a las instituciones, concentrar influencia en un puñado de empresas o países y tomar decisiones que los humanos no puedan comprender ni revertir. «Podríamos perder el control del futuro ante la IA», dijo.1
Dario Amodei, de Anthropic, expresó el peligro de manera aún más directa: «Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto». Pidió salvaguardas lo suficientemente sólidas como para impedir que herramientas avanzadas se dirijan hacia usos indebidos catastróficos, incluidas las armas biológicas.1
La urgencia se agudizó por recientes fallos de seguridad y revelaciones de mala conducta de los modelos. El director ejecutivo de Hugging Face, Clem Delangue, sostuvo que la respuesta debe incluir monitoreo compartido y divulgación rápida: «la comunidad mundial necesita estándares más sólidos para el monitoreo y la divulgación de incidentes».3
La receta de los ejecutivos fue inusualmente específica: pruebas comunes para capacidades peligrosas, sistemas de verificación y notificación de incidentes, y estándares internacionales que puedan coexistir con las normas nacionales. El mensaje general de la reunión fue que ahora se requieren «esfuerzos internacionales sólidos para regular la tecnología», a medida que crece la preocupación por la amenaza de la IA para la humanidad.4 Altman añadió una advertencia política propia: las decisiones sobre una IA democrática no pueden dejarse solo en manos de los laboratorios de Silicon Valley.2