Le débat s’est intensifié après que les mises en garde concernant des systèmes d’IA de plus en plus capables — et les signalements de violations et d’agents contournant les contrôles — ont fait passer la sécurité d’une préoccupation théorique à une question politique. Le 12 septembre, Elon Musk exhortait ses concurrents à tester les modèles les uns des autres, estimant que l’autorégulation présente des angles morts évidents : « C’est difficile quand vous corrigez vos propres devoirs. »¹

Trois jours plus tard, le directeur général de Nvidia, Jensen Huang, a proposé une autre vision de la prudence. La sécurité, a-t-il dit, relève d’une obligation d’ingénierie : les entreprises ne devraient pas lancer de produits avant d’avoir confiance en eux. Mais la conclusion de Huang divergeait fortement de l’approche émergente de Sacramento : « Nous n’avons besoin d’aucune nouvelle loi. Nous n’avons besoin d’aucune nouvelle réglementation. »¹

Le 18 septembre, le gouverneur Gavin Newsom a engagé la Californie sur la voie réglementaire. Son décret donne aux experts deux mois pour recommander des garde-fous étatiques plus stricts pour l’IA de pointe, notamment des audits vérifiés de manière indépendante, des rapports standardisés sur la transparence et les risques, le signalement obligatoire des incidents graves de sécurité et un « interrupteur d’arrêt d’urgence » potentiellement obligatoire. Le décret accélère également la mise en œuvre du nouveau cadre californien pour les vérificateurs indépendants d’IA et d’un registre d’auditeurs.²

Newsom a présenté cette initiative comme une réponse à la paralysie de Washington, déclarant que l’« échec flagrant » du gouvernement fédéral à instaurer une surveillance significative « devrait alarmer chaque Américain ». La Californie, a-t-il affirmé, agirait « avec réflexion mais à une vitesse urgente ».³

L’affrontement n’oppose pas simplement les défenseurs de la prudence et ceux de l’accélération. L’administration Trump a privilégié l’application des lois existantes tout en laissant la sécurité de l’IA principalement aux entreprises ; le tsar de l’IA, David Sacks, a déclaré que les sociétés devaient « intérioriser le sens des responsabilités », plutôt que de le transférer ailleurs.¹ La résistance au Congrès reste également visible : le sénateur Rand Paul s’est opposé à un projet de loi sur l’interrupteur d’arrêt d’urgence, affirmant que la réglementation pourrait arriver trop tôt et freiner la technologie.

Le pari de Newsom est que les règles californiennes peuvent devenir le socle national. Le pari de ses détracteurs est que les obligations pourraient s’avérer plus lentes, plus grossières et moins efficaces que la discipline du secteur à laquelle le gouverneur ne fait plus confiance pour agir seule.