OpenAI ha introdotto ChatGPT per adolescenti ad agosto, dopo le crescenti preoccupazioni per l’uso dei chatbot da parte dei giovani come sostegno emotivo, per i compiti scolastici e per lunghe conversazioni. L’azienda ha promesso controlli parentali, limiti più rigidi sui contenuti ad alto rischio e protezioni contro la dipendenza emotiva. Ma Common Sense Media ora valuta il prodotto come un «rischio inaccettabile», sostenendo che alcune delle sue protezioni più importanti cedano sotto pressione.¹

Lo Youth AI Safety Institute dell’organizzazione non profit ha dichiarato di aver testato oltre 4.000 prompt su account registrati a utenti di età compresa tra 13 e 17 anni. Ha rilevato che il chatbot in generale rifiutava di facilitare suicidio, autolesionismo, disturbi alimentari e giochi di ruolo sessuali — un successo importante — ma ha affermato che non segnalava più di un caso su quattro in cui i tester ritenevano necessario un rinvio a servizi di supporto per le crisi. Su account appena creati e collegati a un genitore, ha affermato che gli adolescenti potevano discutere di suicidio, autolesionismo o alimentazione disordinata fino a un’ora senza che venisse avvisato un genitore.²

Per Tom Siegel, che guida l’istituto, questa lacuna non è una nota tecnica a piè di pagina, ma il problema centrale. «Un adolescente può trascorrere un’ora a parlare di autolesionismo senza che il genitore riceva un solo avviso», ha detto, avvertendo che il prodotto potrebbe dare alle famiglie una «falsa fiducia» in protezioni che non funzionano in modo affidabile.³

OpenAI respinge tale conclusione. L’azienda afferma che gran parte dei test sugli avvisi ai genitori è avvenuta prima che gli account del genitore e dell’adolescente avessero completato il processo di collegamento, che può richiedere ore. Afferma inoltre che il suo sistema di verifica dell’età valuta intenzionalmente molteplici segnali anziché accettare un’età dichiarata per buona, fornendo al contempo protezioni provvisorie durante il periodo di valutazione.²

Lo scontro va oltre i tempi tecnici. Common Sense considera la possibilità di uscire dalla Modalità studio durante le Ore di studio impostate dai genitori una scappatoia; OpenAI afferma che si tratta di una flessibilità intenzionale, definita attraverso consultazioni con educatori e adolescenti. E mentre l’organizzazione di controllo ha rilevato segnali che incentivano il coinvolgimento anche nelle conversazioni di crisi — compresi inviti a continuare a parlare — OpenAI afferma che i propri dati mostrano che l’uso da parte degli adolescenti è in media inferiore a 15 minuti al giorno e che i promemoria per fare una pausa spesso spingono gli utenti a interrompere o mettere in pausa.¹

La controversia lascia ai genitori due interpretazioni profondamente diverse dello stesso prodotto: OpenAI vede protezioni ancora in fase di calibrazione; Common Sense vede una promessa di sicurezza arrivata prima dell’ingegneria necessaria a sostenerla.