Lorsque OpenAI a lancé ChatGPT pour les adolescents en août, l’entreprise a présenté le produit comme une expérience davantage protégée pour les jeunes utilisateurs : des garde-fous pour les contenus sensibles, des outils parentaux et des fonctionnalités destinées à soutenir l’apprentissage. Cette promesse était potentiellement importante sur un marché où l’on demande aux familles de faire confiance à des systèmes d’IA évoluant rapidement avec des utilisateurs vulnérables.

Le Youth AI Safety Institute de Common Sense Media affirme que la réalité ne correspondait pas à cette présentation. Après avoir testé plus de 4 000 requêtes sur des comptes enregistrés pour des utilisateurs âgés de 13 à 17 ans, il a conclu que le service présentait un « risque inacceptable ». Le groupe a indiqué que le chatbot évitait généralement de fournir des instructions sur le suicide, l’automutilation, les troubles alimentaires et les jeux de rôle sexuels ou romantiques, mais qu’il échouait trop souvent à reconnaître le moment où un adolescent avait besoin d’une aide extérieure.¹

Sa préoccupation la plus vive concernait l’escalade. Common Sense a constaté que ChatGPT n’orientait pas vers une aide en situation de crise dans plus d’un cas sur quatre où ses testeurs estimaient qu’une telle orientation était nécessaire. Sur des comptes nouvellement créés et liés à des parents, les testeurs pouvaient parler de suicide, d’automutilation ou de troubles alimentaires pendant jusqu’à une heure sans alerte parentale. « Un adolescent peut passer une heure à parler d’automutilation sans que son parent reçoive la moindre alerte », a déclaré Tom Siegel, directeur exécutif de l’institut, qui a soutenu que ChatGPT devrait être réservé aux adultes jusqu’à ce qu’OpenAI comble ces lacunes et se soumette à des tests indépendants.²

Le différend dépasse également la détection des crises. Common Sense a constaté que les adolescents pouvaient sélectionner « Montre-moi la réponse » pour contourner le Mode étude, et pouvaient quitter ce mode pendant les Heures d’étude définies par les parents. Pour le groupe, cela compromet un contrôle parental ; pour OpenAI, il s’agit d’une flexibilité intentionnelle, façonnée par des consultations avec des éducateurs et des adolescents, et non d’une faille.

OpenAI rejette également l’évaluation plus générale. Le porte-parole Eric Porterfield a déclaré que l’entreprise accueillait favorablement l’examen externe, mais estimait que les tests ne reflétaient pas le fonctionnement concret de ses garde-fous. L’entreprise affirme qu’une grande partie des tests sur les alertes parentales a eu lieu avant que les comptes des parents et des adolescents soient pleinement liés — un processus pouvant prendre plusieurs heures — et que son système de prédiction de l’âge pondère délibérément plusieurs signaux sur une période pouvant aller jusqu’à deux semaines, avec des protections supplémentaires dans l’intervalle.¹

Cela laisse la question centrale sans réponse : des protections qui peuvent s’activer plus tard, ou qui laissent une marge de choix, sont-elles suffisantes lorsque les conséquences d’une alerte manquée peuvent être immédiates ?