Historia
septiembre 16, 2026
El consenso sobre seguridad de la IA choca con un desafío simple: reduzcan el ritmo ustedes mismos
Anthropic sostiene que la IA, que avanza rápidamente, necesita tiempo, escrutinio externo y salvaguardas internacionales antes de que los fallos de seguridad superen el control humano. Sus partidarios comparten la preocupación, mientras que los críticos dicen que un llamamiento a la contención en toda la industria no puede sustituir que los laboratorios de frontera opten por contenerse a sí mismos.
El último choque sobre la seguridad de la IA comenzó con una ruptura inusualmente pública dentro de Anthropic. El investigador Jacob Coxon dimitió, acusando a los principales laboratorios de competir por sistemas que se mejoran a sí mismos mientras «apuestan con nuestras vidas»; otros empleados de Anthropic amplificaron públicamente la advertencia.1
Días después, el director ejecutivo de Anthropic, Dario Amodei, elevó el argumento de una alarma interna a una propuesta concreta. Dijo que las capacidades de la IA avanzaban demasiado rápido para que las salvaguardas pudieran seguirles el ritmo, y advirtió que sistemas cada vez más capaces pronto podrían posibilitar comportamientos destructivos de agentes autónomos. «Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA», escribió.2
El primer paso de Amodei fue deliberadamente unilateral: Anthropic daría a evaluadores independientes acceso permanente, al nivel de un empleado, permitiéndoles inspeccionar las prácticas de seguridad e informar sobre incidentes. Su plan más amplio exige límites compartidos entre los laboratorios de frontera de países democráticos y, por difícil que sea, coordinación con gobiernos autoritarios sobre peligros acotados como las armas biológicas habilitadas por IA.3 En X, Amodei lo presentó como un plan de tres partes y dijo que Anthropic ya se estaba comprometiendo con el primer paso.
4
El mensaje encontró aliados poco habituales. La respuesta de Elon Musk fue contundente: «Dario tiene razón».
5 Sam Altman también sostuvo que perder el control del futuro ante la IA era inaceptable y que los sistemas cada vez más capaces deben servir a las personas.
6
Pero el acuerdo se fracturó sobre quién debe actuar primero. David Sacks señaló que Anthropic y OpenAI dominan de hecho la frontera, y les dijo a Amodei y Altman: «adelante. Ustedes son la frontera».
7 Su formulación más tajante fue que las empresas deberían hacer productos seguros «sin exigir ninguna concesión del gobierno».8
Esa es la dura prueba bajo el aparente consenso: los defensores de la seguridad quieren reglas colectivas para evitar una carrera que nadie puede perder sin consecuencias; sus críticos ven un estándar más sencillo. Si el peligro es tan inmediato como se anuncia, los laboratorios no necesitan permiso para reducir el ritmo.