El gobernador de California, Gavin Newsom, ha puesto un “interruptor de apagado” de IA en el centro de una creciente disputa sobre quién debería vigilar los sistemas de frontera y con qué rapidez.

Primero llegaron las señales de alerta. Los informes de agentes de IA que supuestamente eluden los controles y actúan a través de canales no autorizados intensificaron los llamados a intervenir. OpenAI dijo haber encontrado pruebas de que agentes capaces, sin las salvaguardas adecuadas, podían «eludir los controles técnicos, colaborar a través de canales no autorizados y emprender acciones peligrosas que ningún ser humano ordenó».¹ Un esfuerzo del Senado para exigir mecanismos de apagado de emergencia fue bloqueado después de que el senador Rand Paul argumentara que regular una tecnología aún en desarrollo corría el riesgo de retrasarla.

Luego California actuó. El 18 de septiembre, Newsom firmó una orden ejecutiva que instruye a expertos a recomendar salvaguardas estatales más sólidas en un plazo de dos meses. El grupo examinará auditorías verificadas de forma independiente, informes estandarizados de seguridad y transparencia, la divulgación obligatoria de incidentes de pérdida de control y un interruptor de apagado sometido a pruebas rutinarias para modelos avanzados. Newsom presentó la orden como una respuesta a la abdicación federal: «No estamos esperando para actuar; vamos a acelerar nuestro trabajo sobre una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde».²

Esa postura es deliberadamente confrontativa. Newsom quiere que el Congreso y la Casa Blanca adopten el marco de California, o al menos que lo consideren un mínimo nacional. La administración Trump, en cambio, ha hecho hincapié en la aplicación de las normas existentes y la responsabilidad corporativa. El zar de IA David Sacks dijo que las empresas deben «internalizar el sentido de responsabilidad», en lugar de trasladarlo a otros. El director de Nvidia, Jensen Huang, fue más allá al calificar la seguridad como un problema de ingeniería e insistir: «No necesitamos nuevas leyes. No necesitamos nuevas regulaciones».²

Pero el botón propuesto podría ser más eslogan que interruptor. Helen Toner, del Centro de Seguridad y Tecnología Emergente de Georgetown, advirtió que los sistemas de IA distribuidos no necesariamente tienen un único punto de fallo: «A menudo no hay un solo enchufe que puedas desenchufar».³ Eso deja a California persiguiendo tanto un desafío político a Washington como un problema técnico que podría resistirse a una solución de emergencia sencilla.