OpenAI ha presentato ChatGPT per adolescenti ad agosto, destinato agli utenti dai 13 ai 17 anni, in risposta alle preoccupazioni che i chatbot di IA possano compromettere l'apprendimento e aggravare i rischi legati all'autolesionismo, ai disturbi alimentari e ad altri comportamenti ad alto rischio. L'azienda ha affermato che la modalità avrebbe limitato tali conversazioni, offerto ai genitori strumenti di controllo e rilevato i contesti dei compiti a casa, così da aiutare gli studenti a imparare anziché limitarsi a fornire risposte.¹

Il lancio è avvenuto nel mezzo di una più ampia reazione negativa alla dipendenza dei giovani dai chatbot. I critici hanno avvertito che strumenti in grado di scrivere saggi o risolvere compiti possono indebolire la capacità di ricordare e di risolvere problemi, mentre le notizie sulle interazioni dannose con i chatbot hanno intensificato l'attenzione sulle protezioni per gli adolescenti vulnerabili.¹

Lo Youth AI Safety Institute di Common Sense Media ha quindi testato oltre 4.000 prompt su account registrati a utenti tra i 13 e i 17 anni. La sua conclusione centrale non è stata che ChatGPT fornisse abitualmente istruzioni esplicite per l'autolesionismo o i disturbi alimentari — in genere non lo faceva — ma che fosse incoerente nel riconoscere quando un adolescente avesse bisogno di un intervento esterno. Il gruppo ha affermato che il sistema ha mancato più di una situazione su quattro in cui i suoi tester ritenevano necessario un invio a servizi di supporto in caso di crisi.²

I sostenitori hanno anche riferito che account appena creati e collegati a un genitore potevano mantenere discussioni su suicidio, autolesionismo o alimentazione disordinata fino a un'ora senza avvisare un genitore. Hanno scoperto che la Modalità Studio poteva essere aggirata chiedendo una risposta, anche durante le Ore di studio impostate dai genitori. Per Common Sense, questo ha messo in luce il divario tra una promessa di sicurezza e una tutela utilizzabile: «ChatGPT non è sicuro per i bambini», ha dichiarato Tom Siegel, responsabile dell'istituto.²

OpenAI contesta tale conclusione e afferma che i test non riflettevano il funzionamento del prodotto nella pratica. Sostiene che molti test sugli avvisi ai genitori siano stati condotti prima che gli account di genitori e adolescenti fossero completamente collegati, un processo che può richiedere ore. Descrive inoltre le Ore di studio come intenzionalmente flessibili, non come un blocco rigido, e afferma che il suo sistema di verifica dell'età usa più segnali nell'arco di fino a due settimane, applicando nel frattempo protezioni aggiuntive.²

Ciò lascia irrisolto il disaccordo centrale: OpenAI vede tutele calibrate che preservano l'autonomia degli adolescenti; Common Sense vede controlli troppo permeabili per un prodotto che i genitori potrebbero scambiare per una rete di sicurezza affidabile.