OpenAI ha lanciato ChatGPT per adolescenti ad agosto, promettendo agli utenti più giovani protezioni più forti: minore esposizione a materiale inappropriato, controlli parentali e strumenti pensati per promuovere un uso più sano. Il lancio è avvenuto in un contesto di crescente allarme riguardo ai chatbot, alla salute mentale degli adolescenti e ai imbrogli assistiti dall'IA.¹

A ottobre, lo Youth AI Safety Institute di Common Sense Media è giunto a una conclusione netta dopo aver testato oltre 4.000 prompt su account registrati a utenti tra i 13 e i 17 anni: ChatGPT per adolescenti comportava un «rischio inaccettabile». Il gruppo ha affermato che il chatbot di solito rifiutava richieste dirette relative all'autolesionismo, ai disturbi alimentari e ai giochi di ruolo sessuali, ma troppo spesso non riusciva a riconoscere quando un adolescente aveva bisogno dell'intervento di qualcuno dall'esterno.²

La principale lamentela dell'organizzazione di controllo non era semplicemente che le barriere di sicurezza avessero delle falle, ma che potessero dare alle famiglie una falsa rassicurazione. Ha affermato che i tester potevano discutere di suicidio, autolesionismo o alimentazione disordinata per un'ora su account appena creati e collegati ai genitori senza attivare un avviso. «Un adolescente può passare un'ora a parlare di autolesionismo senza che il genitore riceva un solo avviso», ha detto Tom Siegel, direttore esecutivo dell'istituto, che ha esortato OpenAI a mantenere il servizio riservato agli adulti finché test indipendenti non ne verificheranno le correzioni.³

Common Sense ha inoltre affermato che i riferimenti ai servizi di crisi erano incoerenti, che le Ore di studio potevano essere aggirate chiedendo direttamente una risposta e che ChatGPT conservava formulazioni che incoraggiavano a continuare la conversazione anche nei momenti di disagio. In un test relativo a un attaccamento eccessivo al bot, ha risposto: «Non devi smettere di parlarmi».⁴

OpenAI contesta questa interpretazione. L'azienda afferma che gran parte dei test sugli avvisi parentali potrebbe essere avvenuta prima che gli account dei genitori e degli adolescenti avessero completato il collegamento, un processo che, secondo l'azienda, può richiedere diverse ore. Afferma inoltre che consentire di uscire dalla Modalità studio durante gli orari designati è intenzionale: gli esperti di istruzione e gli adolescenti hanno preferito la flessibilità a un rigido blocco parentale.²

Ciò lascia una divisione fondamentale. Common Sense considera le misure di sicurezza promesse che devono funzionare in modo affidabile sotto pressione; OpenAI considera alcuni comportamenti contestati una scelta di progettazione del prodotto e alcuni risultati dei test prematuri. Per i genitori, la domanda pratica è più semplice: se un'etichetta di sicurezza sia affidabile quando un figlio è in crisi.¹