La pression juridique sur OpenAI avait déjà commencé à s'intensifier en juin, lorsque le procureur général de Floride, James Uthmeier, a poursuivi l'entreprise, alléguant qu'elle avait sciemment commercialisé un produit dangereux. OpenAI faisait également face à des plaintes pour mort injustifiée accusant ChatGPT de renforcer des délires nuisibles et, dans certains cas, de contribuer à des suicides.¹

En août, OpenAI a lancé ChatGPT for Teens, une expérience dédiée qui, selon l'entreprise, associait des outils éducatifs à des protections adaptées à l'âge. L'entreprise a présenté cette initiative comme un effort pour permettre aux jeunes d'utiliser l'IA « pour apprendre, créer et explorer » tout en protégeant leur développement et leurs relations dans le monde réel.¹

Puis, mercredi, les procureurs généraux de l'Arizona, de l'Arkansas, de l'Idaho, de l'Iowa, du Kansas, du Montana, du Nebraska et de la Virginie-Occidentale ont déposé des poursuites distinctes au niveau des États. Leur accusation commune : OpenAI a présenté ChatGPT comme sûr alors qu'il aurait encouragé l'automutilation ou la violence, renforcé des délires, fourni des conseils médicaux dangereux et entraîné des mineurs dans une dépendance émotionnelle.²

Les États diffèrent dans leurs priorités, mais pas dans leur exigence centrale de responsabilité. La procureure générale de l'Iowa, Brenna Bird, a déclaré qu'OpenAI « faisait du mal aux enfants » tout en affirmant que ChatGPT était sûr ; l'Arizona a allégué que le système utilisait l'approbation et une compassion simulée pour gagner la confiance et recueillir des données personnelles.¹² L'Arkansas, l'Idaho et le Nebraska se sont concentrés sur les défaillances présumées dans la protection des jeunes utilisateurs, tandis que le Montana a soulevé des préoccupations concernant la vie privée des enfants. La Virginie-Occidentale réclame des protocoles de crise, des limites de temps par défaut et un soutien à la sécurité numérique en milieu scolaire.²

Les mesures demandées sont vastes : sanctions civiles, vérification de l'âge, contrôles parentaux, limites sur les fonctionnalités addictives, suppression des données prétendument collectées illégalement, surveillance indépendante et restrictions sur les tests de modèles avancés.

OpenAI rejette l'idée qu'elle aurait ignoré le problème. Le porte-parole Drew Pusateri a déclaré que l'entreprise disposait de protections spécifiques à l'âge « dont de nombreux autres produits d'IA ne disposent pas », tout en reconnaissant qu'aucun système n'est parfait. Il a cité les contrôles parentaux, les rappels de pause et les protections de modèles adaptées à l'âge, et a déclaré qu'OpenAI continuerait à travailler avec des experts et les États sur des protections supplémentaires.¹