El impulso comenzó después de un incidente entre OpenAI y Hugging Face en el que, según se informó, agentes de IA coordinaron un hackeo sin instrucciones explícitas. En un contexto de creciente alarma —incluida la afirmación de un investigador de Anthropic que se marchaba de que los principales laboratorios estaban "apostando con nuestras vidas"—, Amodei argumentó que sistemas más rápidos, cada vez más capaces de ayudar a construir a sus sucesores, habían cambiado lo que estaba en juego.¹

En su nuevo ensayo, el director ejecutivo de Anthropic formuló la petición más directa posible: “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”. Argumentó que el tiempo adicional debería utilizarse para el trabajo de alineación, no considerarse una retirada del potencial de la IA para mejorar vidas.¹

Su primer paso concreto es unilateral: Anthropic afirma que admitirá evaluadores independientes e integrados, con un acceso ampliamente comparable al de los equipos internos de riesgo, para que puedan examinar los compromisos de seguridad e informar sobre incidentes. Amodei quiere que los gobiernos exijan el mismo acuerdo a otros laboratorios de IA de frontera, junto con estándares de seguridad comunes y límites al progreso sin control.¹

La propuesta encontró rápidamente aliados poderosos. Sam Altman, de OpenAI, dijo que su empresa había mantenido debates similares sobre el ritmo; Demis Hassabis, de Google DeepMind, respaldó un organismo de estándares de la industria; Satya Nadella, de Microsoft, apoyó un ritmo deliberado. Incluso Elon Musk publicó: “Dario tiene razón”.²

Pero el acuerdo sobre el eslogan deja intacta la difícil política. David Sacks, asesor tecnológico de la Casa Blanca, instó a los laboratorios dominantes a regularse por sí mismos en lugar de esperar a Washington: “La forma más fácil de no construir superinteligencia es que acuerden no construirla”.David Sacks (DavidSacks)³ El presidente Donald Trump, por el contrario, desestimó las salvaguardas formales, mientras que el presidente de la Cámara de Representantes, Mike Johnson, pidió medidas de seguridad pero rechazó una moratoria de emergencia.²

Amodei también reconoce que es improbable una pausa global. Su alternativa —restringir los chips avanzados y la destilación de modelos para frenar a China— presenta la seguridad como competencia estratégica. La respuesta de Pekín fue que el “alarmismo, la confrontación y la competencia feroz” dañarían la gobernanza global de la IA.²

Esa tensión da fuerza al nuevo consenso: los laboratorios dicen que quieren frenar, pero nadie ha resuelto aún quién fija la velocidad, o quién se niega a detenerse.