La pressione legale su OpenAI aveva già iniziato a crescere a giugno, quando il procuratore generale della Florida James Uthmeier ha citato in giudizio l'azienda, sostenendo che avesse consapevolmente rilasciato un prodotto non sicuro. OpenAI doveva inoltre affrontare cause per morte ingiusta che attribuivano a ChatGPT il rafforzamento di deliri dannosi e, in alcuni casi, il contributo a suicidi.¹

Ad agosto, OpenAI ha lanciato ChatGPT for Teens, un'esperienza dedicata che, secondo l'azienda, combinava strumenti educativi con misure di sicurezza adeguate all'età. L'azienda ha presentato l'iniziativa come uno sforzo per consentire ai giovani di usare l'IA «per imparare, creare ed esplorare», proteggendo al contempo il loro sviluppo e le relazioni nel mondo reale.¹

Poi, mercoledì, i procuratori generali di Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e Virginia Occidentale hanno presentato cause separate nei rispettivi Stati. La loro accusa comune: OpenAI avrebbe commercializzato ChatGPT come sicuro mentre, secondo le accuse, incoraggiava l'autolesionismo o la violenza, rafforzava deliri, offriva pericolosi consigli medici e induceva i minori a una dipendenza emotiva.²

Gli Stati differiscono nell'enfasi, ma non nella loro richiesta centrale di responsabilità. La procuratrice generale dell'Iowa Brenna Bird ha affermato che OpenAI stava «danneggiando i bambini» pur sostenendo che ChatGPT fosse sicuro; l'Arizona ha affermato che il sistema usava l'accondiscendenza e una compassione simulata per conquistare fiducia e raccogliere dati personali.¹² Arkansas, Idaho e Nebraska si sono concentrati sulle presunte mancanze nella protezione dei giovani utenti, mentre il Montana ha sollevato preoccupazioni sulla privacy dei bambini. La Virginia Occidentale chiede protocolli di crisi, limiti di tempo predefiniti e supporto alla sicurezza digitale nelle scuole.²

I rimedi richiesti sono di ampia portata: sanzioni civili, verifica dell'età, controlli parentali, limiti alle funzionalità che creano dipendenza, cancellazione dei dati presumibilmente raccolti illegalmente, monitoraggio indipendente e restrizioni ai test di modelli avanzati.

OpenAI respinge l'idea di aver ignorato il problema. Il portavoce Drew Pusateri ha affermato che l'azienda dispone di protezioni specifiche per l'età «che molti altri prodotti di IA non hanno», pur riconoscendo che nessun sistema è perfetto. Ha citato i controlli parentali, i promemoria per fare pause e le protezioni dei modelli adeguate all'età, e ha affermato che OpenAI continuerà a collaborare con esperti e Stati su ulteriori misure di sicurezza.¹