OpenAI offre aux plus jeunes utilisateurs autorisés de ChatGPT une porte d’entrée séparée, promettant une expérience centrée sur l’apprentissage avec des garde-fous plus stricts. Mais ce lancement intervient alors que la pression s’accentue sur la manière dont les plateformes d’IA façonnent les jeunes — et tandis que des critiques soulignent que nombre de ces garde-fous ne sont pas nouveaux.

Mardi, OpenAI a présenté ChatGPT for Teens pour les utilisateurs de 13 à 17 ans. Toute personne qui déclare avoir cet âge, ou dont le système de prédiction d’âge d’OpenAI estime qu’elle a moins de 18 ans, sera orientée vers l’expérience pour adolescents ; les enfants de moins de 13 ans restent exclus du service.¹

L’entreprise affirme que le produit est conçu pour empêcher l’IA de devenir soit un raccourci, soit un substitut au soutien humain. Le Study Mode s’appuie sur des consignes et une aide étape par étape, tandis que de nouveaux « rappels de devoirs responsables » sont censés détecter les tentatives de contourner un devoir et rediriger les élèves vers un travail réel sur celui-ci. « L’IA doit soutenir l’apprentissage, pas le court-circuiter », a déclaré OpenAI, en ajoutant que les enseignants doivent rester maîtres de l’utilisation en classe.²

L’offre fait également des protections jeunesse le réglage par défaut : limites renforcées concernant l’automutilation, la violence, les troubles alimentaires, les activités dangereuses et les contenus explicites ; invites de pause ; avertissements avant le téléversement d’images sensibles ; et outils parentaux incluant des Quiet Hours et des notifications de sécurité étroitement ciblées. OpenAI indique que ses règles pour les moins de 18 ans interdisent également le langage romantique, l’encouragement à la dépendance émotionnelle et les suggestions selon lesquelles le chatbot aurait des sentiments ou une conscience.²

Le désaccord central porte davantage sur la nouveauté que sur l’orientation. OpenAI présente la version pour adolescents comme la prochaine étape d’un programme de sécurité plus large, aux côtés d’un partenariat avec CodeAI destiné à apprendre aux élèves à questionner et comprendre l’IA. Des analyses indépendantes la décrivent toutefois comme une consolidation de travaux antérieurs : la prédiction d’âge a débuté plus tôt cette année, tandis que les contrôles parentaux et le Study Mode étaient déjà apparus il y a environ un an. Les nouveautés principales sont surtout les rappels de devoirs, les Study Hours configurables et des notifications supplémentaires concernant les troubles alimentaires.¹

Cela revient à demander aux familles de considérer un produit unifié pour adolescents comme une amélioration significative de la sécurité, alors même que le test le plus déterminant sera de savoir si les outils existants fonctionnent de concert lorsque les utilisateurs les plus vulnérables en ont le plus besoin.