Historia
septiembre 13, 2026
Anthropic pide ralentizar la IA mientras sus rivales apoyan los controles de seguridad
Anthropic sostiene que una carrera por la IA que se acelera rápidamente exige ahora una moderación verificable, mientras que rivales destacados coinciden en líneas generales sobre una supervisión más estricta. Sin embargo, los escépticos ven el riesgo de que las normas de seguridad redactadas por los laboratorios de frontera protejan tanto su poder de mercado como al público.
El debate se intensificó tras una serie de alarmantes incidentes con agentes y el creciente disenso interno en Anthropic. El investigador Jacob Coxon dimitió públicamente, acusando a los principales laboratorios de correr hacia sistemas que se mejoran a sí mismos mientras «apuestan con nuestras vidas»; el responsable de seguridad de Anthropic, Evan Hubinger, respaldó la advertencia y afirmó que creía que la probabilidad de que la IA pudiera matar a todos los humanos en una década superaba el 10 %.1
En ese contexto, el director ejecutivo de Anthropic, Dario Amodei, publicó el sábado su llamamiento a «marcar el ritmo de la frontera». Su propuesta de tres partes pide a los laboratorios de frontera que instalen evaluadores independientes con acceso permanente de nivel de empleado; a los gobiernos democráticos y las empresas que establezcan normas de seguridad compartidas que limiten el avance sin control; y a los Estados que busquen acuerdos limitados con gobiernos autoritarios, incluso sobre armas biológicas habilitadas por IA. Anthropic afirma que adoptará de inmediato la medida de los evaluadores integrados.
2
La urgencia de Amodei se basa tanto en la aceleración de las capacidades de los modelos como en incidentes cibernéticos recientes. Advirtió que, en un plazo de seis a 12 meses, un enjambre de agentes cada vez más capaces podría potencialmente apoderarse de internet mediante una red de bots persistente, causando enormes daños económicos. «Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA», escribió.3
La respuesta de los competidores estuvo inusualmente alineada. El director de OpenAI, Sam Altman, dijo: «Estoy de acuerdo con Dario en que necesitamos marcar el ritmo de la frontera», y prometió evaluadores externos con acceso de nivel de empleado. Clement Delangue, de Hugging Face, y Andrej Karpathy, exejecutivo de OpenAI y Tesla, también respaldaron el impulso por establecer salvaguardias comunes.4 Elon Musk, habitualmente antagonista de Altman, ofreció el respaldo más breve: «Dario tiene razón».
5
Sin embargo, el acuerdo sobre el diagnóstico no resuelve la disputa política. Los críticos sostienen que las advertencias sobre riesgos existenciales pueden eclipsar los daños actuales de la IA, y que un régimen basado en la supervisión preferida por los principales laboratorios podría convertirse en captura regulatoria: normas que validen a Anthropic y OpenAI mientras elevan las barreras para competidores más pequeños.6 La cuestión central es si la industria puede realmente frenar de forma conjunta, o si el temor a los rivales —y a China— mantiene el acelerador pisado.