La California si è mossa per limitare le funzionalità che tengono i giovani utenti a scorrere i contenuti. Il governatore Gavin Newsom ha firmato un pacchetto di misure per la sicurezza online che prende di mira i sistemi di raccomandazione dei social media e amplia il controllo sui chatbot IA usati dai bambini.¹

Al centro vi è l’AB 1709, che vieta alle piattaforme di fornire agli under 16 raccomandazioni algoritmiche, scorrimento infinito e riproduzione automatica, salvo consenso dei genitori. La legge va oltre una singola app o un singolo formato: considera il problema nei meccanismi dell’uso compulsivo, anziché limitarsi a sorvegliare i singoli post.²

Il pacchetto alza inoltre la posta in gioco per le grandi aziende dei social media. Le piattaforme ritenute negligenti nel danneggiare i bambini attraverso i propri servizi potrebbero incorrere in sanzioni fino a 1 milione di dollari per bambino, mentre gli operatori di chatbot devono condurre valutazioni dei rischi prima di distribuire i loro prodotti.¹

Per le aziende di IA, le nuove norme aggiungono anche una tutela più basilare: i produttori di chatbot devono comunicare ai giovani utenti che non stanno parlando con un essere umano. Tale requisito riflette la crescente preoccupazione che i bambini possano scambiare software conversazionale per una persona fidata, proprio mentre il settore introduce questi strumenti nell’uso quotidiano.²

Nel loro insieme, le leggi segnano il più chiaro tentativo finora della California di spostare la responsabilità dai giovani utenti e dai genitori alle aziende che progettano il feed, l’interfaccia e il chatbot che vi è dietro.