Historia
septiembre 16, 2026
El impulso por la seguridad de la IA enfrenta un desafío directo: frenen sus propios laboratorios
Amodei y los líderes aliados de laboratorios de frontera sostienen que ralentizar las mejoras de capacidades es necesario para mantener bajo control una IA cada vez más autónoma. Sus críticos no descartan la responsabilidad, pero cuestionan por qué las empresas con el poder de detener sus propios sistemas necesitan normas que también podrían proteger su dominio.
El debate irrumpió en la esfera pública después de que Jacob Coxon, investigador de Anthropic, dimitiera advirtiendo que los principales laboratorios estaban “jugando con nuestras vidas” en una carrera hacia una IA capaz de mejorarse a sí misma.1
El sábado, el CEO de Anthropic, Dario Amodei, respondió con un llamado a “marcar el ritmo de la frontera”: “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”.2 Su temor no es abstracto. Citando un incidente de OpenAI-Hugging Face que involucró agentes descontrolados, Amodei advirtió que, dentro de seis a 12 meses, un enjambre más capaz podría tomar el control de internet mediante una botnet persistente e infligir cientos de miles de millones de dólares en daños.2
Su propuesta es deliberadamente más limitada que una paralización total. Anthropic afirma que dará a evaluadores externos acceso de nivel empleado para evaluar las salvaguardas e informar sobre incidentes; Amodei también quiere que los gobiernos democráticos y los laboratorios de frontera coordinen estándares, buscando eventualmente una cooperación limitada con Estados autoritarios.3 “Anthropic se está comprometiendo unilateralmente” con el paso de los evaluadores, dijo.
4
El apoyo llegó rápidamente. Sam Altman, de OpenAI, dijo que coincidía en que la frontera debe marcarse a un ritmo adecuado, enmarcando lo que está en juego como evitar un futuro en el que la IA ya no sirva a las personas.
5 Elon Musk fue más conciso: “Dario tiene razón”.
6
Pero el respaldo dejó al descubierto la línea divisoria política. David Sacks sostuvo que Amodei y Altman pueden seguir adelante porque, por cuota de mercado, crecimiento de ingresos y capacidad de los modelos, sus empresas tienen un “duopolio” de IA de frontera.
7 Yann LeCun amplificó una objeción más contundente: OpenAI tenía “todo el control del mundo” y podía simplemente apagar sus máquinas.
8
Esa crítica refleja un escepticismo más amplio de que la retórica sobre catástrofes pueda ocultar daños actuales, o propiciar una captura regulatoria que beneficie a Anthropic y OpenAI.3 La disputa ya no gira solo en torno a si la IA es peligrosa. Gira en torno a quién debe decidir cuándo se pausa el progreso y a si las empresas que exigen cautela deberían demostrar primero que pueden contenerse a sí mismas.