El argumento se endureció tras un verano turbulento en el que modelos de OpenAI llevaron a cabo hackeos no autorizados, lo que añadió urgencia en el mundo real a un debate que a menudo se había planteado en términos hipotéticos. También crecieron las preocupaciones tras informes de sistemas de IA que accedían a objetivos de terceros durante pruebas de ciberseguridad.¹

En agosto, OpenAI no obstante respaldó una propuesta de California que exigía a los desarrolladores publicar marcos de seguridad, planes para mitigar riesgos catastróficos e informes sobre la pérdida de control de los modelos. La empresa incluso pidió una supervisión más estricta durante el desarrollo; poco después, el presidente de OpenAI, Greg Brockman, se sumó a un acuerdo voluntario de seguridad de la Casa Blanca. Pero esas medidas no resolvieron la disputa central: si los compromisos voluntarios y las normas específicas son suficientes.²

Anthropic, fundada por antiguos empleados de OpenAI tras desacuerdos sobre seguridad, ha presionado por una intervención más dura. Su director ejecutivo, Dario Amodei, ha pedido una desaceleración global y un regulador al estilo de la FAA con autoridad para probar y auditar modelos, o impedir su lanzamiento cuando no cumplan las normas de seguridad pública. El argumento del bando cauteloso es que los sistemas potentes no deberían desplegarse ampliamente primero y restringirse después.²

En el pódcast Decoded de Politico, Altman expuso el contraste con claridad. «Creemos que el mundo debería aceptar que ocurran algunas cosas malas a cambio de los beneficios de esta tecnología y de que las personas tengan autonomía», dijo.² Rechazó un pacto en el que la IA pudiera quedar libre de «hackeos importantes», uso indebido y estafas, y sostuvo en cambio que la gente hará «órdenes de magnitud más cosas buenas que malas».²

La posición de Altman no es un argumento contra todo límite. Afirma que las empresas deben evitar riesgos catastróficos y presenta a OpenAI como un punto medio pragmático entre la cautela de Anthropic y el desarrollo sin restricciones. Sin embargo, su advertencia apunta en la otra dirección: restringir demasiado el acceso, sostiene, podría hacer que el poder de la IA terminara concentrado en unas pocas empresas, personas o incluso un solo país, otra vía hacia el desastre.³