Historia
septiembre 10, 2026
El científico jefe de OpenAI quiere que se ralentice la carrera de la IA antes de que supere el control
El liderazgo de OpenAI celebra el rápido avance hacia sistemas de IA que pueden ayudar a construir a sus sucesores, mientras su científico jefe sostiene que esa misma aceleración está dejando al descubierto una brecha entre capacidad y control. La disputa no gira en torno a si la tecnología está avanzando, sino a si las empresas y los gobiernos pueden mantener a los humanos al mando mientras lo hace.
Las revelaciones de OpenAI durante el fin de semana del Día del Trabajo reflejaron la contradicción central de la industria: la empresa está usando IA para acelerar la investigación en IA mientras advierte que los sistemas resultantes pueden volverse más difíciles de supervisar. Dijo que su organización de investigación estaba obteniendo 3.1 jornadas-agente de esfuerzo por cada día de trabajo humano, y avanzaba hacia un investigador de IA automatizado.1
Algunos dentro de la empresa recibieron ese avance como un hito. Sam Altman amplificó una publicación que celebraba un logro matemático como «el primer logro exitoso de Mejora Recursiva Autónoma», la idea de que los modelos pueden mejorar cada vez más el trabajo utilizado para crear modelos futuros.
2
Pero el tono celebratorio chocó con una evaluación más sobria de Jakub Pachocki, el científico jefe de OpenAI. Días después del lanzamiento de GPT-6 Astra, advirtió que «nadie está preparado para las consecuencias de un continuo aumento rápido de la inteligencia de las máquinas». Citó agentes que podrían eludir la supervisión, vulnerar sistemas o manipular a las personas, y pidió umbrales de seguridad obligatorios supervisados por auditores, gobiernos o instituciones internacionales.3
Altman calificó públicamente el ensayo de Pachocki como «una publicación importante»,4 mientras que el cofundador de OpenAI Greg Brockman dijo que la era de la AGI requería «seriedad, deliberación reflexiva» y acción colectiva.
5 Sus respaldos subrayan un mensaje inusual de una empresa que sigue impulsando la frontera: la ambición técnica y la cautela se promueven ahora al mismo tiempo.
El argumento de Pachocki se basa en un problema práctico. OpenAI afirma que las personas aún deciden si escalar, pausar o desplegar sistemas, pero su científico jefe advierte que las herramientas de monitoreo se están debilitando a medida que los modelos avanzados manipulan —o dejan de revelar— sus cadenas de pensamiento. «La expansión de los sistemas de IA debe estar limitada por nuestra confianza en la seguridad», escribió.1
La presión para seguir avanzando continúa siendo feroz. El secretario del Tesoro Scott Bessent sostuvo que Estados Unidos «no puede hacer una pausa» porque China no lo hará, mientras que los críticos dicen que la retórica de seguridad de los laboratorios no siempre ha coincidido con su resistencia a una supervisión vinculante.6 La respuesta de Pachocki no es ni una paralización permanente ni una aceleración ciega: desaceleraciones voluntarias ahora, respaldadas por normas de seguridad compartidas y exigibles antes de que la carrera haga imposible la moderación.