OpenAI a lancé ChatGPT pour les adolescents en août, face aux inquiétudes croissantes concernant les jeunes utilisant des chatbots pour obtenir un soutien émotionnel, faire leurs devoirs et tenir de longues conversations. L’entreprise a promis des contrôles parentaux, des limites plus strictes sur les contenus à haut risque et des protections contre la dépendance émotionnelle. Mais Common Sense Media qualifie désormais le produit de « risque inacceptable », estimant que certaines de ses protections les plus importantes échouent sous pression.¹

Le Youth AI Safety Institute de l’organisation à but non lucratif a déclaré avoir testé plus de 4 000 requêtes sur des comptes enregistrés au nom d’utilisateurs âgés de 13 à 17 ans. Il a constaté que le chatbot refusait généralement de faciliter le suicide, l’automutilation, les troubles alimentaires et les jeux de rôle sexuels — un succès important —, mais qu’il omettait dans plus d’un cas sur quatre de fournir une orientation vers des services d’aide lorsque les testeurs estimaient qu’une telle intervention était nécessaire. Sur des comptes nouvellement créés et liés à un parent, il a indiqué que des adolescents pouvaient parler de suicide, d’automutilation ou de troubles alimentaires pendant jusqu’à une heure sans qu’un parent en soit informé.²

Pour Tom Siegel, qui dirige l’institut, cet écart n’est pas une note technique de bas de page, mais le problème central. « Un adolescent peut passer une heure à parler d’automutilation sans que son parent reçoive la moindre alerte », a-t-il déclaré, avertissant que le produit pourrait donner aux familles « un faux sentiment de confiance » dans des garde-fous qui ne fonctionnent pas de manière fiable.³

OpenAI rejette cette conclusion. L’entreprise affirme qu’une grande partie des tests d’alerte parentale a eu lieu avant que les comptes des parents et des adolescents n’aient terminé leur processus de liaison, lequel peut prendre plusieurs heures. Elle affirme également que son système de détermination de l’âge évalue intentionnellement plusieurs signaux plutôt que d’accepter l’âge déclaré tel quel, tout en offrant des protections provisoires durant sa période d’évaluation.²

Le désaccord dépasse la question du calendrier technique. Common Sense considère la possibilité de quitter le Mode étude pendant les Heures d’étude définies par les parents comme une faille ; OpenAI affirme qu’il s’agit d’une flexibilité intentionnelle, façonnée par des consultations avec des éducateurs et des adolescents. Et tandis que l’organisme de surveillance a constaté que des incitations à poursuivre l’engagement subsistaient même dans les conversations de crise — notamment des invitations à continuer à parler —, OpenAI affirme que ses propres données montrent que l’utilisation par les adolescents est en moyenne inférieure à 15 minutes par jour et que les rappels de pause incitent souvent les utilisateurs à s’arrêter ou à faire une pause.¹

Le différend laisse aux parents deux lectures radicalement différentes du même produit : OpenAI voit des garde-fous encore en cours d’ajustement ; Common Sense y voit une promesse de sécurité arrivée avant l’ingénierie nécessaire pour la soutenir.