El debate se intensificó después de que las advertencias sobre sistemas de IA cada vez más capaces —y los informes de vulneraciones y agentes que eluden controles— llevaran la seguridad de una preocupación teórica a una política. Para el 12 de septiembre, Elon Musk instaba a los competidores a probar los modelos de los demás, argumentando que la autorregulación tiene puntos ciegos evidentes: “Es difícil cuando corriges tu propia tarea.”¹

Tres días después, el director ejecutivo de Nvidia, Jensen Huang, ofreció una versión distinta de la cautela. La seguridad, dijo, es una obligación de ingeniería: las empresas no deberían lanzar productos hasta estar seguras de ellos. Pero la conclusión de Huang difería marcadamente del enfoque emergente de Sacramento: “No necesitamos leyes nuevas. No necesitamos regulaciones nuevas.”¹

El 18 de septiembre, el gobernador Gavin Newsom encaminó a California hacia la vía regulatoria. Su orden ejecutiva da a expertos dos meses para recomendar salvaguardias estatales más fuertes para la IA de frontera, incluidas auditorías verificadas de forma independiente, informes estandarizados de transparencia y riesgos, la notificación obligatoria de incidentes graves de seguridad y un potencialmente obligatorio “interruptor de apagado” de emergencia. La orden también acelera la implementación del nuevo marco de California para verificadores independientes de IA y un registro de auditores.²

Newsom presentó la medida como una respuesta a la parálisis de Washington y declaró que el “fracaso abyecto” del gobierno federal para establecer una supervisión significativa “debería alarmar a todos los estadounidenses”. California, dijo, actuaría “de manera reflexiva, pero con velocidad urgente”.³

El choque no es simplemente entre defensores de la cautela y de la aceleración. La administración Trump ha favorecido la aplicación de las leyes existentes, dejando la seguridad de la IA principalmente en manos de las empresas; el zar de IA David Sacks dijo que las firmas deben “internalizar el sentido de responsabilidad”, en lugar de trasladarlo a otros.¹ La resistencia en el Congreso también sigue siendo visible: el senador Rand Paul se opuso a un proyecto de ley sobre un interruptor de apagado de emergencia, afirmando que la regulación podría llegar demasiado pronto y frenar la tecnología.

La apuesta de Newsom es que las normas de California pueden convertirse en el estándar nacional mínimo. La apuesta de sus críticos es que los mandatos podrían resultar más lentos, menos precisos y menos eficaces que la disciplina de la industria en la que el gobernador ya no confía para actuar por sí sola.