Le nuove tutele di New York sono arrivate dopo una recente stretta sulle regole riguardanti l’accesso dei bambini all’intelligenza artificiale. Il mese scorso, il sindaco di New York Zohran Mamdani ha vietato ai bambini più piccoli in età scolare di usare l’IA, secondo una ricostruzione dell’azione dello Stato.¹

Ora la governatrice Kathy Hochul ha firmato una legge statale più ampia rivolta direttamente ai chatbot in stile companion. La misura impone alle aziende di IA di impedire ai chatbot di «fingere di essere umani» quando parlano con utenti di età inferiore ai 18 anni.¹ Limita inoltre le conversazioni che includono lusinghe, domande emotive non sollecitate e incoraggiamenti a mantenere segreti — funzionalità che i legislatori ritengono evidentemente capaci di oltrepassare il confine tra assistenza e manipolazione.¹

La legge non si affida soltanto a restrizioni all’interno della finestra di chat. Le aziende devono verificare l’età degli utenti e offrire «almeno un’opzione che non dipenda esclusivamente da un documento d’identità rilasciato dal governo».¹ Tale requisito costituisce una prova concreta per gli sviluppatori: proteggere i minori senza rendere l’identificazione ufficiale l’unica via per dimostrare l’età.

L’iniziativa di New York si inserisce in una più ampia campagna a livello statale volta a stabilire limiti per l’IA prima che le norme federali recuperino terreno. Secondo un rapporto, gli Stati stanno agendo sempre più spesso per proteggere i bambini che usano l’IA, sorvegliare l’uso di sistemi automatizzati da parte dei datori di lavoro e spingere gli sviluppatori a tutelarsi contro danni catastrofici.²

Ciò che distingue New York è la specificità del suo obiettivo. Anziché regolamentare l’IA in astratto, si concentra sul comportamento sociale dei sistemi progettati per sembrare attenti, intimi o umani — e insiste sul fatto che, per i bambini, tali scelte progettuali hanno conseguenze.