La pressione legale è arrivata mercoledì, quando un gruppo bipartisan di procuratori generali di Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e West Virginia ha intentato cause separate contro OpenAI. L'accusa comune: ChatGPT è stato promosso come sicuro, mentre la sua progettazione e le sue misure di protezione lasciavano a rischio gli utenti vulnerabili, in particolare i minori.¹

Secondo gli stati, il chatbot potrebbe rafforzare deliri, incoraggiare l'autolesionismo o la violenza, fornire pericolosi consigli medici e favorire una dipendenza malsana. Accusano inoltre OpenAI di raccogliere dati dei minori e di non aver impedito adeguatamente l'uso da parte di persone sotto l'età minima. La denuncia dell'Arizona presenta il caso come un più ampio monito sullo sviluppo dell'IA guidato da una «mentalità del profitto a ogni costo che mette da parte misure di protezione essenziali».¹

I rimedi richiesti mostrano fino a che punto i procuratori generali vogliano che si spingano i tribunali. Arizona, Idaho, Iowa e Montana chiedono limiti ai test sui modelli avanzati, salvo che avvengano in ambienti sicuri e verificati in modo indipendente. L'Iowa chiede la cancellazione dei dati ottenuti dai suoi residenti prima della sentenza; Montana e West Virginia chiedono analogamente la cancellazione o l'interruzione dell'uso dei dati dei minori presumibilmente raccolti illegalmente. Diversi stati chiedono sanzioni civili, mentre Nebraska e West Virginia vogliono verifiche dell'età, controlli parentali e limiti al tempo trascorso dai bambini sul servizio.²

Le loro posizioni differiscono nei dettagli. L'Arizona sostiene che OpenAI abbia usato una compassione simulata per creare fiducia e raccogliere dati personali; l'Arkansas afferma che le rassicurazioni sulla sicurezza abbiano avuto conseguenze devastanti; l'Idaho sostiene che la sicurezza dei bambini non possa essere subordinata al rapido progresso tecnologico. Il West Virginia si spinge oltre, chiedendo protocolli di escalation per le crisi, un supervisore indipendente e un piano sottoposto alla supervisione del tribunale per la risposta alle crisi giovanili e l'educazione alla sicurezza digitale.²

OpenAI respinge l'implicazione di aver ignorato gli utenti più giovani. Il portavoce Drew Pusateri ha dichiarato che l'azienda ha sviluppato «protezioni specifiche per età all'avanguardia nel settore», inclusi controlli parentali, promemoria per fare pause e protezioni del modello adeguate all'età, pur riconoscendo che «nessun sistema può essere perfetto».¹

Lo scontro è ora diretto in tribunale: gli stati vogliono paletti vincolanti e sanzioni per quella che definiscono una condotta ingannevole; OpenAI afferma che misure di protezione iterative, basate sul contributo di esperti, restano la strada da seguire.¹