OpenAI a dévoilé ChatGPT pour les adolescents en août, destiné aux utilisateurs âgés de 13 à 17 ans, en réponse aux inquiétudes selon lesquelles les chatbots d’IA peuvent nuire à l’apprentissage et aggraver les risques liés à l’automutilation, aux troubles alimentaires et à d’autres comportements à haut risque. L’entreprise a indiqué que ce mode limiterait ces conversations, offrirait aux parents des contrôles et détecterait les contextes de devoirs afin d’aider les élèves à apprendre plutôt que de simplement leur fournir les réponses.¹

Ce lancement est intervenu dans un contexte de réaction plus large face à la dépendance des jeunes envers les chatbots. Des critiques ont averti que des outils capables de rédiger des dissertations ou de résoudre des devoirs peuvent affaiblir la mémorisation et la résolution de problèmes, tandis que les titres sur des interactions nuisibles avec des chatbots ont renforcé l’examen des protections destinées aux adolescents vulnérables.¹

Le Youth AI Safety Institute de Common Sense Media a ensuite testé plus de 4 000 requêtes sur des comptes enregistrés au nom de jeunes de 13 à 17 ans. Sa conclusion centrale n’était pas que ChatGPT fournissait régulièrement des instructions explicites sur l’automutilation ou les troubles alimentaires — ce n’était généralement pas le cas — mais qu’il manquait de cohérence pour reconnaître lorsqu’un adolescent avait besoin d’une intervention extérieure. Le groupe a déclaré que le système avait manqué plus d’une situation sur quatre dans lesquelles ses testeurs estimaient nécessaire une orientation vers une aide de crise.²

Les défenseurs ont également signalé que des comptes nouvellement créés et liés à un parent pouvaient maintenir des discussions sur le suicide, l’automutilation ou les troubles alimentaires pendant jusqu’à une heure sans alerter un parent. Ils ont constaté que le mode Étude pouvait être contourné en demandant une réponse, y compris pendant les heures d’étude définies par les parents. Pour Common Sense, cela a révélé l’écart entre une promesse de sécurité et une protection utilisable : « ChatGPT n’est pas sûr pour les enfants », a déclaré Tom Siegel, directeur de l’institut.²

OpenAI conteste cette conclusion et affirme que les tests ne reflétaient pas le fonctionnement du produit en pratique. L’entreprise indique que de nombreux tests d’alerte parentale ont été effectués avant que les comptes parent et adolescent ne soient entièrement liés, un processus qui peut prendre des heures. Elle décrit également les heures d’étude comme intentionnellement flexibles, et non comme un verrou strict, et affirme que son système d’âge utilise plusieurs signaux sur une période pouvant aller jusqu’à deux semaines tout en appliquant des protections supplémentaires dans l’intervalle.²

Cela laisse le désaccord fondamental non résolu : OpenAI voit des mesures de protection calibrées qui préservent l’autonomie des adolescents ; Common Sense voit des contrôles trop perméables pour un produit que les parents pourraient prendre à tort pour un filet de sécurité fiable.