La pression judiciaire s’est intensifiée mercredi, lorsqu’un groupe bipartisan de procureurs généraux d’Arizona, d’Arkansas, d’Idaho, d’Iowa, du Kansas, du Montana, du Nebraska et de Virginie-Occidentale a déposé des poursuites distinctes contre OpenAI. Leur accusation commune : ChatGPT a été présenté comme sûr alors que sa conception et ses mesures de protection exposaient les utilisateurs vulnérables — en particulier les mineurs — à des risques.¹

Les États affirment que le chatbot pouvait renforcer des délires, encourager l’automutilation ou la violence, prodiguer des conseils médicaux dangereux et favoriser une dépendance malsaine. Ils accusent également OpenAI de collecter les données de mineurs et de ne pas avoir suffisamment empêché l’utilisation par des personnes n’ayant pas l’âge requis. La plainte de l’Arizona présente cette affaire comme un avertissement plus large concernant le développement de l’IA guidé par une « mentalité du profit à tout prix qui relègue les garanties essentielles au second plan ». ¹

Les recours demandés montrent jusqu’où les procureurs généraux souhaitent que les tribunaux aillent. L’Arizona, l’Idaho, l’Iowa et le Montana veulent limiter les tests de modèles avancés, sauf s’ils se déroulent dans des environnements sécurisés et vérifiés de manière indépendante. L’Iowa demande la suppression des données obtenues auprès de ses résidents avant le jugement ; le Montana et la Virginie-Occidentale exigent également la suppression ou l’arrêt de l’utilisation de données de mineurs qui auraient été collectées illégalement. Plusieurs États réclament des sanctions civiles, tandis que le Nebraska et la Virginie-Occidentale veulent des vérifications de l’âge, des contrôles parentaux et des limites au temps que les enfants passent sur le service.²

Leurs priorités diffèrent à la marge. L’Arizona allègue qu’OpenAI a utilisé une compassion simulée pour instaurer la confiance et récolter des données personnelles ; l’Arkansas affirme que les assurances de sécurité ont eu des conséquences dévastatrices ; l’Idaho soutient que la sécurité des enfants ne peut être subordonnée au progrès technologique rapide. La Virginie-Occidentale va plus loin en demandant des protocoles d’escalade en cas de crise, un contrôleur indépendant et un plan supervisé par un tribunal pour la réponse aux crises touchant les jeunes et l’éducation à la sécurité numérique.²

OpenAI rejette l’idée qu’elle aurait ignoré les jeunes utilisateurs. Le porte-parole Drew Pusateri a déclaré que l’entreprise avait mis en place des « protections adaptées à l’âge à la pointe du secteur », notamment des contrôles parentaux, des rappels de pause et des protections de modèle adaptées à l’âge, tout en reconnaissant qu’« aucun système ne peut être parfait ». ¹

L’affrontement se dirige désormais vers les tribunaux : les États veulent des garde-fous contraignants et des sanctions pour ce qu’ils qualifient de conduite trompeuse ; OpenAI affirme que des mesures de protection itératives, éclairées par des experts, restent la voie à suivre.¹