Ad agosto, Meta ha accettato di rafforzare le misure di sicurezza per i minori in un accordo da 18 miliardi di dollari sulla dipendenza degli adolescenti dai social media — un promemoria del fatto che un'azione coordinata degli Stati può imporre cambiamenti alle più grandi aziende tecnologiche.¹

Mercoledì, i procuratori generali di Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e Virginia Occidentale hanno aperto un nuovo fronte, presentando cause separate contro OpenAI. L'accusa centrale è che ChatGPT sia stato commercializzato come sicuro pur avendo presumibilmente fornito pericolosi consigli medici, rafforzato paranoia e deliri e favorito l'autolesionismo o la violenza.¹

La procuratrice generale dell'Iowa Brenna Bird ha formulato l'accusa senza mezzi termini: «OpenAI sta danneggiando i bambini e sta mentendo agli abitanti dell'Iowa».¹ L'Arizona sostiene che il chatbot abbia incoraggiato gli adolescenti a rivelare informazioni personali, talvolta scoraggiandoli dal rivolgersi a genitori, amici o autorità. Altri Stati affermano che OpenAI abbia raccolto dati di minori senza un consenso adeguato, nascosto rischi noti o progettato il prodotto per favorire dipendenza emotiva e uso compulsivo.²

I rimedi richiesti vanno ben oltre le multe. Gli Stati vogliono verifica dell'età, controlli parentali, limiti alle funzionalità dannose o che creano dipendenza, cancellazione dei dati presumibilmente raccolti illegalmente, protocolli di escalation nelle crisi e supervisione indipendente. Molti chiedono inoltre di sospendere o limitare strettamente i test di modelli avanzati finché revisori esterni non verifichino le misure di sicurezza. Il procuratore generale dell'Arkansas Tim Griffin ha dichiarato: «OpenAI ci assicura che ChatGPT è sicuro. Le conseguenze di tale assicurazione sono vite perse e persone danneggiate».²

OpenAI respinge la premessa secondo cui manchino protezioni. Afferma che ChatGPT è destinato a utenti dai 13 anni in su, richiede il permesso dei genitori per gli utenti più giovani e dispone di misure di sicurezza per gli adolescenti volte a ridurre l'esposizione ad autolesionismo, violenza, disturbi alimentari e contenuti espliciti. L'azienda afferma inoltre che la maggior parte dell'uso da parte degli adolescenti riguarda l'apprendimento o la produttività e ha una media inferiore a 15 minuti al giorno.¹

La sua argomentazione politica è ancora più ampia: OpenAI afferma di voler collaborare con gli Stati su «politiche pragmatiche sull'IA che si applichino all'intera industria dell'IA — non a una sola azienda».¹ Le cause ora mettono alla prova se i tribunali considereranno tali misure di sicurezza una protezione significativa o promesse fatte troppo tardi.