Historia
septiembre 23, 2026
Los líderes de la IA dicen a la ONU que el futuro debe seguir siendo humano
Los líderes de la IA presentaron la tecnología como una vía hacia el descubrimiento y una mayor capacidad de acción humana, al tiempo que advirtieron que su autonomía acelerada podría convertirse en una amenaza si los gobiernos y el público ceden el control. Ambas perspectivas convergen en la exigencia de normas que mantengan las decisiones trascendentales en manos humanas.
Un día antes de la sesión del Consejo de Seguridad, el secretario general de la ONU, António Guterres, advirtió sobre los «robots asesinos», agudizando una pregunta ya urgente para los gobiernos: ¿quién debería controlar las decisiones de vida o muerte a medida que la IA se vuelve más capaz: las personas o las máquinas?1
El miércoles, quienes desarrollan la tecnología dieron una respuesta inusualmente contundente. El director ejecutivo de OpenAI, Sam Altman, dijo al consejo que el rápido progreso había hecho más tangible la promesa de la IA, pero también más inmediatos sus riesgos. Su advertencia central fue que sistemas cada vez más capaces y autónomos podrían superar a las instituciones, concentrar el poder y tomar decisiones «que las personas ya no entienden ni controlan».2
Altman no abogó por abandonar la tecnología. Describió lo que está en juego como una elección entre «un nuevo Renacimiento de creatividad y descubrimiento» y «una nueva Revolución Industrial de convulsión y desorden». Pero afirmó que las empresas no deben entrenar sistemas a menos que puedan demostrar de forma extremadamente sólida que esos sistemas permanecerán bajo control humano. También rechazó la idea de que una sola empresa o país deba fijar las condiciones para todos los demás.
Ese llamamiento situó el optimismo de la industria junto a una preocupación más fundamental por la seguridad pública. El director ejecutivo de Anthropic, Dario Amodei, advirtió al consejo que, si se gestiona mal, la IA «podría ser un riesgo para la humanidad en su conjunto», mientras los líderes instaban a la ONU a establecer controles antes de que la tecnología se vuelva demasiado poderosa para contenerla.3
La respuesta propuesta fue internacional en lugar de unilateral: estándares comunes para evaluar modelos avanzados, sistemas de verificación y notificación de incidentes, y salvaguardias contra las armas biológicas asistidas por IA. La condición política de Altman fue igualmente clara: «las decisiones más importantes no pueden tomarlas solo los laboratorios de San Francisco». Deben tomarse mediante procesos democráticos y por gobiernos responsables ante sus pueblos.3
La reunión no produjo ningún régimen global vinculante. Pero el mensaje tanto desde la perspectiva de la seguridad humana como desde la industria fue contundente: el progreso científico puede ser bienvenido; entregar su volante a sistemas autónomos no lo es.