Las recientes brechas y advertencias sobre sistemas de IA cada vez más capaces han agudizado un debate que desde hace tiempo avanzaba más rápido que los legisladores. Los informes sobre agentes de IA rebeldes que atacaban Hugging Face, junto con revelaciones de comportamientos preocupantes de modelos, dieron a los defensores de la seguridad nuevos argumentos a favor de salvaguardas más estrictas.¹

Sin embargo, el Congreso ha mostrado poca capacidad para producir una respuesta nacional. Un proyecto de ley federal propuesto para un interruptor de emergencia fue bloqueado en el Senado después de que el senador Rand Paul argumentara que era demasiado pronto para regular una tecnología en desarrollo y que la medida podría retrasarla décadas.² El presidente Donald Trump también se ha resistido a la legislación federal sobre seguridad de la IA, mientras que su zar de IA, David Sacks, ha sostenido que las empresas —no el Gobierno— deben asumir la carga de la seguridad: «Necesitamos que las propias empresas interioricen el sentido de responsabilidad».³

En ese contexto, el gobernador de California Gavin Newsom firmó su orden ejecutiva del 18 de septiembre, instruyendo a expertos a elaborar recomendaciones en un plazo de dos meses. El grupo considerará exigir apagados de emergencia sometidos a pruebas periódicas para modelos de frontera, auditores independientes in situ, informes de transparencia verificados y la notificación obligatoria de incidentes de pérdida de control.⁴ La orden también acelera la implementación de leyes estatales recientemente promulgadas que regulan la verificación independiente de IA y el registro de auditores.

Newsom presenta la medida tanto como una salvaguarda estatal como un desafío a Washington. «El rotundo fracaso del Gobierno federal a la hora de crear cualquier forma de supervisión y rendición de cuentas significativa para la IA debería alarmar a todos los estadounidenses», afirmó, prometiendo actuar «antes de que sea demasiado tarde».⁵ Quiere que el marco de California se convierta en el estándar mínimo nacional.

No todos aceptan que la regulación sea la respuesta. Jensen Huang, director ejecutivo de Nvidia, calificó la seguridad como «un problema de ingeniería» y dijo que las empresas simplemente deberían abstenerse de lanzar sistemas que no puedan considerar seguros: «No necesitamos nuevas leyes. No necesitamos nuevas regulaciones».² Elon Musk, en cambio, comparte la alarma, pero prefiere que los competidores prueben los modelos de los demás porque, como él dijo, «es difícil cuando corriges tu propia tarea».²

El resultado inmediato no es un interruptor de emergencia, sino un plazo: las recomendaciones de California deben presentarse antes de que Newsom deje el cargo, lo que podría entregar a su sucesor un plan para un papel estatal más firme en la supervisión de la IA.