En août, Meta a accepté de renforcer les mesures de sécurité des enfants dans le cadre d’un accord transactionnel de 18 milliards de dollars concernant l’addiction des adolescents aux réseaux sociaux — un rappel qu’une action coordonnée des États peut imposer des changements aux plus grandes entreprises technologiques.¹

Mercredi, les procureurs généraux de l’Arizona, de l’Arkansas, de l’Idaho, de l’Iowa, du Kansas, du Montana, du Nebraska et de la Virginie-Occidentale ont ouvert un nouveau front en déposant des plaintes distinctes contre OpenAI. Leur principale accusation est que ChatGPT a été présenté comme sûr tout en prodiguant prétendument des conseils médicaux dangereux, en renforçant la paranoïa et les délires, et en facilitant l’automutilation ou la violence.¹

La procureure générale de l’Iowa, Brenna Bird, a formulé l’accusation sans détour : « OpenAI fait du mal aux enfants et ment aux habitants de l’Iowa. »¹ L’Arizona affirme que le chatbot encourageait les adolescents à divulguer des informations personnelles tout en les dissuadant parfois de se tourner vers leurs parents, leurs amis ou les autorités. D’autres États affirment qu’OpenAI a collecté les données de mineurs sans consentement approprié, dissimulé des risques connus, ou conçu le produit pour favoriser une dépendance émotionnelle et une utilisation compulsive.²

Les mesures demandées vont bien au-delà des amendes. Les États réclament une vérification de l’âge, des contrôles parentaux, des limites sur les fonctionnalités nocives ou addictives, la suppression de données prétendument collectées illégalement, des protocoles d’escalade en cas de crise et une supervision indépendante. Plusieurs demandent également de suspendre ou d’encadrer strictement les tests de modèles avancés jusqu’à ce que des évaluateurs externes vérifient les protections. Le procureur général de l’Arkansas, Tim Griffin, a déclaré : « OpenAI nous assure que ChatGPT est sûr. Les conséquences de cette assurance sont des vies perdues et des personnes blessées. »²

OpenAI rejette l’idée que les protections soient absentes. L’entreprise affirme que ChatGPT est destiné aux utilisateurs de 13 ans et plus, exige l’autorisation parentale pour les utilisateurs plus jeunes et dispose de protections pour les adolescents visant à réduire l’exposition à l’automutilation, à la violence, aux troubles alimentaires et aux contenus explicites. L’entreprise affirme également que la plupart des adolescents l’utilisent pour apprendre ou gagner en productivité et que cette utilisation dure en moyenne moins de 15 minutes par jour.¹

Son argument politique est plus large encore : OpenAI affirme vouloir travailler avec les États sur des « politiques pragmatiques en matière d’IA qui s’appliquent à l’ensemble du secteur de l’IA — et pas à une seule entreprise ». ¹ Les poursuites mettent désormais à l’épreuve la question de savoir si les tribunaux considèrent ces protections comme une protection réelle ou comme des promesses faites trop tard.