Historia
septiembre 13, 2026
El llamamiento de Anthropic para ralentizar la IA gana aliados, pero tropieza con un problema de China
La propuesta de Dario Amodei presenta una carrera más lenta de IA como una necesidad de seguridad, respaldada por figuras destacadas de la industria; los escépticos ven un plan que podría afianzar a los mayores laboratorios, mientras la competencia geopolítica hace más difícil sostener cualquier moderación coordinada.
El CEO de Anthropic, Dario Amodei, ha convertido un debate sobre seguridad ya de por sí acalorado en una exigencia concreta: las empresas de IA de frontera deberían ralentizar deliberadamente el ritmo al que hacen más capaces a sus modelos.
En un ensayo publicado el sábado, Amodei sostuvo que gastar más en salvaguardas ya no es suficiente porque la IA está mejorando a la hora de ayudar a construir a sus propios sucesores. «Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de I.A.», escribió, argumentando que el tiempo adicional podría permitir que el trabajo de alineación y seguridad se ponga al día.1 Advirtió que un progreso sin control podría superar la capacidad de la humanidad para comprender y controlar los sistemas.2
El compromiso inmediato de Anthropic es dar a evaluadores independientes acceso permanente, equivalente al de los empleados, a sus sistemas, incluida la capacidad de evaluar las prácticas de seguridad e informar de incidentes. Amodei presentó esto como la primera parte de un plan de tres pasos: supervisión externa, estándares compartidos entre empresas de países democráticos y una eventual coordinación con gobiernos autoritarios sobre peligros definidos de forma estricta. Él mismo anunció la medida en X.
3
La urgencia surge tras la creciente preocupación por incidentes de seguridad relacionados con agentes de IA y la renuncia pública del investigador de Anthropic Jacob Coxon, quien afirmó que los principales laboratorios estaban «jugando con nuestras vidas» en una carrera hacia una superinteligencia que se mejora a sí misma.4 Amodei ha sugerido que una ralentización de incluso uno o dos años podría reducir de forma significativa las probabilidades de una catástrofe.2
La respuesta de los rivales fue sorprendentemente comprensiva. El jefe de OpenAI, Sam Altman, dijo que estaba de acuerdo en marcar el ritmo de la frontera, mientras que Elon Musk ofreció un respaldo tajante: «Dario tiene razón».
5 David Sacks, por su parte, afirmó que Anthropic y OpenAI deberían avanzar precisamente porque constituyen un «duopolio» de IA de frontera.
6
Pero el aparente consenso oculta una fuerte disputa. Los críticos de los mensajes sobre riesgo existencial sostienen que un pacto de seguridad liderado por los dos mayores laboratorios podría convertirse en captura regulatoria, en lugar de una protección pública significativa.7 Y el plan de Amodei afronta su prueba más difícil en el extranjero: reconoce que las empresas estadounidenses no pueden contenerse indefinidamente si los desarrolladores chinos siguen avanzando, lo que convierte los controles de chips y los acuerdos limitados entre Estados Unidos y China en elementos centrales de cualquier ralentización viable.2