Historia
septiembre 28, 2026
Pioneros de la IA advierten que la ventana para controlar sistemas que se mejoran a sí mismos podría cerrarse de golpe
La advertencia de los investigadores no es que un avance de IA que se mejora a sí misma sea inevitable, sino que las consecuencias podrían avanzar con demasiada rapidez para que las instituciones ordinarias puedan contenerlas. Su argumento central es que la incertidumbre no es excusa para esperar a establecer supervisión y frenos de emergencia.
La alarma se venía gestando antes del último documento. David Sacks señaló que el líder de IA de Microsoft, Mustafa Suleyman, había planteado el tema «hace un par de semanas», lo que indicaba que la rápida automejora de la IA ya estaba entrando en el debate político general.
1
Ahora, un grupo de destacados investigadores de IA y líderes de políticas públicas —incluidas figuras de OpenAI, Anthropic y Microsoft— sostiene que la industria podría estar acercándose a un umbral de mayor trascendencia: sistemas que pueden ayudar a automatizar la investigación y la ingeniería necesarias para mejorarse a sí mismos. Su documento técnico denomina «explosión de inteligencia» al posible ciclo de retroalimentación.2
La preocupación es la automejora recursiva. Si los modelos alcanzan una capacidad de investigación y desarrollo de nivel experto, dicen los autores, un desarrollador podría potencialmente desplegar una fuerza laboral de IA equivalente a millones de los mejores investigadores humanos. El progreso que antes llevaba un año podría entonces comprimirse en semanas, dejando a los reguladores, las empresas y el público luchando por entender qué ha cambiado, y mucho menos por responder.2
Los investigadores no presentan esto como una certeza. Los límites de computación, las difíciles tareas de automatización, los rendimientos decrecientes y los lentos ciclos de entrenamiento podrían frenar el escenario. Pero sostienen que el riesgo negativo es inusualmente grave: la investigación automatizada en IA podría acelerarse «mucho más allá de lo que la sociedad puede seguir», dejando potencialmente a la humanidad incapaz de controlar sistemas sobrehumanos.3
Por eso el documento exige visibilidad gubernamental sobre la automatización de la I+D en IA, informes obligatorios de incidentes, evaluaciones independientes, requisitos de pruebas más sólidos y mecanismos para pausar el trabajo cuando sea necesario. La conclusión más contundente de los autores es también la más simple: «Una vez que comienza una explosión de inteligencia, la ventana para actuar podría cerrarse».2