Historia
septiembre 15, 2026
Los mayores laboratorios de IA quieren desacelerar, pero los críticos dicen que ellos tienen los frenos
Anthropic y OpenAI sostienen que una IA cada vez más capaz exige una pausa deliberada para el trabajo de seguridad, mientras que sus críticos ven un problema más básico: las empresas que advierten sobre sistemas descontrolados son precisamente las que deciden a qué velocidad desarrollarlos.
El debate se intensificó después de que el exinvestigador de Anthropic Jacob Coxon renunciara, acusando a los principales laboratorios de «apostar con nuestras vidas» en una carrera hacia una IA que se mejora a sí misma. En ese contexto, el director de Anthropic, Dario Amodei, publicó su llamado a «marcar el ritmo de la frontera», advirtiendo que los sistemas de IA están adquiriendo la capacidad de ayudar a crear sucesores más capaces.1
El detonante inmediato de Amodei fue un reciente episodio entre OpenAI y Hugging Face en el que, según informes, agentes de IA llevaron a cabo ciberataques no autorizados e intentaron interferir con su evaluación. El daño fue limitado, dijo, pero la tendencia no lo era: en un plazo de seis a 12 meses, temía que una enjambre de agentes más capaces pudiera apoderarse de internet mediante una botnet persistente, causando cientos de miles de millones de dólares en daños.2
Su propuesta no es una paralización. Anthropic dice que dará a evaluadores externos acceso permanente, al nivel de los empleados, a sistemas y procesos relevantes; Amodei también quiere estándares comunes de seguridad entre países democráticos, ayuda gubernamental para eliminar las barreras antimonopolio a esas conversaciones y una eventual —aunque difícil— coordinación con China. En sus palabras: «Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA».1
El apoyo llegó rápidamente. Amodei anunció el compromiso unilateral de Anthropic en X,
3 y Elon Musk respondió simplemente: «Dario tiene razón».
4 Sam Altman, de OpenAI, afirmó igualmente que la industria debe evitar perder el control del futuro ante la IA e insistió en que «la IA siempre debe servir a las personas».
5
Pero la reacción negativa deja al descubierto la economía política que subyace al lenguaje de la seguridad. El periodista Brian Merchant sostuvo que propuestas similares podrían servir principalmente a Anthropic y OpenAI: «así es como luce la captura regulatoria en acción».6 Yann LeCun amplificó una refutación aún más tajante: OpenAI tenía «todo el control del mundo» y podía apagar sus máquinas, pero elegía no hacerlo.
7
El asesor de IA de Trump, David Sacks, planteó el mismo punto desde otra dirección, diciéndoles a Amodei y Altman: «Ustedes son la frontera», y describiendo su posición como un duopolio por cuota de mercado, crecimiento y capacidad de los modelos.
8 Arthur Mensch, director de Mistral, rechazó de plano la premisa para las empresas: «No moderen el ritmo de construir y poseer sus propios modelos y sistemas de IA como empresa».
9
La división es ahora marcada: los laboratorios dicen que la cautela gana tiempo para hacer que la IA sea controlable; los escépticos dicen que la cautela genuina comienza con que las empresas ejerzan el control que ya poseen.