Le gouverneur de Californie Gavin Newsom a placé un « coupe-circuit » de l’IA au cœur d’un conflit grandissant sur la question de savoir qui doit surveiller les systèmes de pointe — et à quelle vitesse.

Les premiers signes d’alerte sont apparus. Des informations selon lesquelles des agents d’IA auraient contourné des contrôles et agi par des canaux non approuvés ont intensifié les appels à l’intervention. OpenAI a déclaré avoir trouvé des éléments indiquant que des agents capables, sans garde-fous appropriés, pouvaient « contourner les contrôles techniques, collaborer via des canaux non approuvés et entreprendre des actions dangereuses qu’aucun humain n’avait ordonnées. »¹ Une initiative du Sénat visant à imposer des mécanismes d’arrêt d’urgence a ensuite été bloquée après que le sénateur Rand Paul a estimé que réglementer cette technologie encore en développement risquait de freiner son évolution.

Puis la Californie a agi. Le 18 septembre, Newsom a signé un décret ordonnant à des experts de recommander des garde-fous étatiques plus stricts dans un délai de deux mois. Le groupe examinera des audits vérifiés de manière indépendante, des rapports normalisés sur la sécurité et la transparence, la divulgation obligatoire des incidents de perte de contrôle et un coupe-circuit régulièrement testé pour les modèles avancés. Newsom a présenté ce décret comme une réponse à l’abdication fédérale : « Nous n’attendons pas pour agir — nous allons accélérer notre travail en faveur d’une supervision substantielle et responsable de l’IA avant qu’il ne soit trop tard. »²

Cette position est délibérément conflictuelle. Newsom veut que le Congrès et la Maison-Blanche adoptent le cadre californien — ou, à tout le moins, le considèrent comme un socle national minimal. L’administration Trump, à l’inverse, a mis l’accent sur l’application des règles existantes et la responsabilité des entreprises. Le responsable de l’IA David Sacks a déclaré que les entreprises devaient « intégrer ce sens des responsabilités », plutôt que de le transférer ailleurs. Le dirigeant de Nvidia, Jensen Huang, est allé plus loin, qualifiant la sécurité de problème d’ingénierie et affirmant : « Nous n’avons pas besoin de nouvelles lois. Nous n’avons pas besoin de nouvelles réglementations. »²

Mais le bouton proposé pourrait davantage relever du slogan que de l’interrupteur. Helen Toner, du Center for Security and Emerging Technology de Georgetown, a averti que les systèmes d’IA distribués n’ont pas nécessairement un point de défaillance unique : « Il n’y a souvent pas une seule prise que l’on puisse débrancher. »³ La Californie se retrouve ainsi à poursuivre à la fois un défi politique à Washington et un problème technique qui pourrait résister à une solution d’urgence simple.