Historia
septiembre 14, 2026
La desaceleración propuesta para la seguridad de la IA enfrenta un problema de confianza
Amodei y sus aliados dicen que una pausa deliberada es la única forma de mantener una IA cada vez más capaz bajo control humano. Los escépticos no descartan la necesidad de salvaguardias, pero cuestionan si unas reglas diseñadas por los principales laboratorios aportarían rendición de cuentas o afianzarían su poder.
A principios de la semana, el exinvestigador de Anthropic Jacob Coxon dimitió, acusando al sector de «jugarse nuestras vidas» en una carrera hacia sistemas que se mejoran a sí mismos. La salida avivó un debate sobre seguridad ya inflamado por informes de fallos de agentes de IA y la carrera comercial entre los principales laboratorios.1
El sábado, el CEO de Anthropic, Dario Amodei, convirtió esa ansiedad en una exigencia concreta: «Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA». Sostuvo que los sistemas capaces de ayudar a construir a sus sucesores podrían superar la capacidad de los investigadores para comprenderlos y controlarlos, al tiempo que advirtió que una enjambre descontrolado de agentes más capaces podría amenazar internet en un plazo de seis a 12 meses.2
Su respuesta no es una paralización. Es «marcar el ritmo de la frontera»: dar tiempo para que la alineación, las pruebas y la supervisión se pongan al día. Anthropic afirma que concederá de inmediato a evaluadores independientes acceso permanente, al nivel de los empleados, a sus sistemas y procesos internos, con libertad para informar de sus hallazgos sin control editorial de la empresa.3 Amodei presentó la medida como la primera parte de un plan más amplio de estándares comunes entre países democráticos y de una eventual y difícil coordinación con Estados autoritarios.
4
El apoyo llegó rápidamente. Sam Altman, de OpenAI, dijo que el sector debe evitar perder el control del futuro en favor de la IA e insistió en que «la IA siempre debe servir a las personas».
5 Elon Musk ofreció un respaldo aún más escueto: «Dario tiene razón».
6
Pero el acuerdo sobre el peligro no ha zanjado la discusión sobre el poder. David Sacks señaló que Amodei y Altman son ellos mismos «la frontera», y calificó a Anthropic y OpenAI de duopolio por cuota de mercado, crecimiento de ingresos y capacidad de los modelos.
7 Otros críticos sostienen que las previsiones apocalípticas pueden distraer de daños que ya están ocurriendo, y que las reglas de control del ritmo diseñadas por la industria podrían convertirse en «captura regulatoria... en acción».8
Esa es la línea divisoria: los defensores de la seguridad quieren escrutinio externo antes de que los saltos de capacidad se vuelvan irreversibles; los opositores temen que las empresas que plantean ese argumento terminen decidiendo quién puede competir.