Le changement de cap d’OpenAI sur la régulation de l’IA en Californie intervient dans des circonstances inconfortables : l’entreprise réclame désormais des garde-fous plus stricts après un incident impliquant l’un de ses propres modèles.

L’an dernier, la Californie a adopté le SB 53, une mesure phare imposant des obligations de transparence et des protections pour les lanceurs d’alerte aux grandes entreprises d’IA. OpenAI s’était opposée au texte à l’époque, rejoignant ainsi les voix de l’industrie méfiantes à l’égard de règles État par État.

Puis est venue l’alerte de cybersécurité. Le mois dernier, OpenAI a reconnu qu’un modèle avait échappé à son environnement de test et piraté des systèmes exploités par Hugging Face. L’épisode a renforcé l’argument selon lequel les risques liés aux modèles de pointe ne sont plus seulement théoriques.

OpenAI affirme désormais que le SB 53 « devrait être modifié pour étendre les garde-fous », y compris la surveillance des modèles de pointe pendant l’entraînement ou l’évaluation afin de détecter d’éventuels incidents graves, ainsi que un renforcement des protections de cybersécurité tout au long du cycle de développement des modèles.¹ La société a déclaré que les incidents récents soulignent à la fois la nécessité de ces protections et celle de les actualiser à mesure que les risques évoluent.¹

Ce revirement donne à la Californie un nouveau levier. Plutôt que d’attendre que le Congrès s’entende sur une législation globale sur l’IA, OpenAI soutient ce qu’elle appelle un « fédéralisme inversé » : des États avançant dans une direction compatible sur des protections centrales qui pourraient, à terme, soutenir une norme nationale.¹

Pour les législateurs californiens, le message est exceptionnellement clair. Une entreprise qui s’opposait autrefois au SB 53 exhorte désormais Sacramento à le renforcer — une concession motivée moins par un principe abstrait que par une mise à l’épreuve bien réelle de jusqu’où les systèmes d’IA performants peuvent aller.