Les récentes violations et les avertissements concernant des systèmes d’IA de plus en plus capables ont intensifié un débat qui progressait depuis longtemps plus vite que les législateurs. Des signalements d’agents d’IA incontrôlables attaquant Hugging Face, ainsi que des révélations sur des comportements préoccupants de modèles, ont donné aux défenseurs de la sécurité de nouveaux arguments en faveur de garde-fous plus stricts.¹

Le Congrès, toutefois, a montré peu de capacité à produire une réponse nationale. Un projet de loi fédéral sur un coupe-circuit a été bloqué au Sénat après que le sénateur Rand Paul a soutenu qu’il était trop tôt pour réglementer une technologie en développement et que cette initiative pourrait la retarder de plusieurs décennies.² Le président Donald Trump a également résisté à une législation fédérale sur la sécurité de l’IA, tandis que son responsable de l’IA, David Sacks, a affirmé que les entreprises — et non le gouvernement — doivent assumer la charge de la sécurité : « Nous avons besoin que les entreprises elles-mêmes intègrent ce sens des responsabilités. »³

Dans ce contexte, le gouverneur de Californie Gavin Newsom a signé son décret exécutif du 18 septembre, chargeant des experts de formuler des recommandations dans un délai de deux mois. Le groupe examinera l’obligation de dispositifs d’arrêt d’urgence régulièrement testés pour les modèles de pointe, d’auditeurs indépendants sur site, de rapports de transparence vérifiés et de signalements obligatoires des incidents de perte de contrôle.⁴ Le décret accélère également la mise en œuvre de lois récemment adoptées par l’État régissant la vérification indépendante de l’IA et l’enregistrement des auditeurs.

Newsom présente cette initiative à la fois comme une protection pour l’État et comme un défi lancé à Washington. « L’échec flagrant du gouvernement fédéral à créer toute forme de supervision et de responsabilité significatives en matière d’IA devrait alarmer chaque Américain », a-t-il déclaré, promettant d’agir « avant qu’il ne soit trop tard ». ⁵ Il souhaite que le cadre californien devienne le socle national.

Tout le monde n’accepte pas que la réglementation soit la solution. Le directeur général de Nvidia, Jensen Huang, a qualifié la sécurité de « problème d’ingénierie » et déclaré que les entreprises devraient simplement s’abstenir de publier des systèmes qu’elles ne peuvent pas juger sûrs : « Nous n’avons besoin d’aucune nouvelle loi. Nous n’avons besoin d’aucune nouvelle réglementation. »² Elon Musk, en revanche, partage l’inquiétude mais privilégie que les concurrents testent les modèles les uns des autres — car, comme il l’a dit, « C’est difficile quand on corrige ses propres devoirs. »²

Le résultat immédiat n’est pas un coupe-circuit, mais une échéance : les recommandations de la Californie doivent être remises avant le départ de Newsom de ses fonctions, ce qui pourrait donner à son successeur un plan pour un rôle accru de l’État dans la surveillance de l’IA.