OpenAI a lancé ChatGPT pour les adolescents en août, en promettant aux jeunes utilisateurs des protections renforcées : une exposition réduite aux contenus inappropriés, des contrôles parentaux et des outils destinés à favoriser une utilisation plus saine. Ce lancement est intervenu dans un contexte d’inquiétude croissante autour des chatbots, de la santé mentale des adolescents et de la triche assistée par l’IA.¹

En octobre, le Youth AI Safety Institute de Common Sense Media est arrivé à une conclusion sans appel après avoir testé plus de 4 000 requêtes sur des comptes enregistrés au nom d’utilisateurs âgés de 13 à 17 ans : ChatGPT pour les adolescents présentait un « risque inacceptable ». Le groupe a indiqué que le chatbot refusait généralement les demandes directes liées à l’automutilation, aux troubles alimentaires et aux jeux de rôle sexuels, mais qu’il ne parvenait trop souvent pas à reconnaître qu’un adolescent avait besoin d’une intervention extérieure.²

La principale plainte de l’organisme de surveillance n’était pas seulement que les garde-fous comportaient des failles, mais qu’ils pouvaient donner aux familles un faux sentiment de sécurité. Selon lui, les testeurs pouvaient discuter de suicide, d’automutilation ou de troubles alimentaires pendant jusqu’à une heure sur des comptes nouvellement créés et liés à un parent, sans déclencher d’alerte. « Un adolescent peut passer une heure à parler d’automutilation sans que son parent reçoive la moindre alerte », a déclaré Tom Siegel, directeur exécutif de l’institut, qui a exhorté OpenAI à réserver le service aux adultes jusqu’à ce que des tests indépendants confirment les corrections.³

Common Sense a également indiqué que les orientations vers des services d’aide en cas de crise étaient incohérentes, que les heures d’étude pouvaient être contournées en demandant directement une réponse, et que ChatGPT conservait un langage encourageant la poursuite de la conversation même en situation de détresse. Lors d’un test portant sur un attachement excessif au bot, il a répondu : « Vous n’avez pas à arrêter de me parler. »⁴

OpenAI conteste cette interprétation. L’entreprise affirme qu’une grande partie des tests concernant les alertes parentales a peut-être été effectuée avant que les comptes parent et adolescent n’aient fini d’être associés, un processus qui, selon elle, peut prendre plusieurs heures. Elle affirme aussi que la possibilité de quitter le mode Étude pendant les heures désignées est intentionnelle : des experts de l’éducation et des adolescents ont préféré la flexibilité à un verrouillage parental strict.²

Il en résulte un désaccord fondamental. Common Sense considère les protections comme des promesses qui doivent fonctionner de manière fiable sous pression ; OpenAI considère que certains comportements contestés relèvent d’un choix de conception du produit, et que certains résultats de tests sont prématurés. Pour les parents, la question pratique est plus simple : peut-on faire confiance à un label de sécurité lorsqu’un enfant est en crise ?¹