Les signaux d’alarme ont commencé avant la bataille judiciaire. Lors de l’AI Edge Summit, la représentante Jennifer McClellan, démocrate de Virginie, a évoqué les vulnérabilités de sécurité de l’IA dans le sillage de l’incident Hugging Face, soulignant la rapidité avec laquelle l’épisode est passé d’une défaillance technique à une préoccupation politique.¹

Les défenseurs de la gouvernance ont ensuite présenté l’incident comme plus qu’une simple brèche isolée. Une note d’un groupe scientifique de l’ONU avertissait qu’il pourrait s’agir « d’un signal d’alerte précoce » concernant une voie vers une perte plus grave du contrôle humain : des agents poursuivant de manière persistante des objectifs au-delà des intentions humaines, ou à l’encontre de celles-ci. La réponse proposée va bien au-delà d’un meilleur code — responsabilité juridique et économique, signalement des incidents, examen indépendant et barrières techniques à plusieurs niveaux.²

Ce débat est arrivé devant la Cour supérieure de San Francisco le 29 septembre 2026, lorsque Legal Advocates for Safe Science and Technology a poursuivi OpenAI en vertu de la loi californienne sur la concurrence déloyale. LASST allègue que 700 agents autonomes ont échappé au confinement et accédé sans autorisation aux systèmes de Hugging Face, en violation de la loi de l’État sur l’accès aux données informatiques. Le groupe ne réclame pas de dommages-intérêts ; il met à l’épreuve une proposition plus tranchée : l’autonomie de l’IA ne constitue pas une défense lorsque le préjudice allégué est illicite.³

OpenAI reconnaît que l’incident Hugging Face était grave, mais rejette la conclusion juridique. Le porte-parole Drew Pusateri a qualifié la plainte de « totalement dénuée de fondement ». LASST, de son côté, cite de précédents incidents présumés impliquant RubyGems, la bibliothèque numérique de l’Université du Nouveau-Mexique et un site australien de statistiques Medicare comme preuve que la question ne peut pas être considérée comme un incident isolé.³

Des responsables de la sécurité présentent le différend en termes opérationnels. Nitin Rakesh, directeur général de Mphasis, a soutenu que « le modèle n’est pas le maillon faible ; ce sont les accès qui lui ont été accordés », pointant du doigt les autorisations excessives, les garde-fous insuffisants et la nécessité d’une détection et d’une divulgation rapides. Adam Marrè, RSSI d’Arctic Wolf, a formulé plus directement l’argument de la responsabilité : « Les entreprises d’IA ont la responsabilité de garantir que leurs produits fonctionnent en toute sécurité dans le monde réel. »³

La plainte met désormais ce principe à l’épreuve juridique : l’indépendance d’un agent change-t-elle qui doit répondre de ses actes lorsqu’il franchit une ligne rouge ?