New York si era già posizionata come regolatore dell’IA nel 2025, imponendo agli sviluppatori più grandi di pubblicare protocolli di sicurezza e segnalare allo Stato, entro 72 ore, indizi di «danno critico».¹ Ma il dibattito si è intensificato il 28 ottobre, quando la governatrice Kathy Hochul ha firmato un intervento più diretto sull’uso dei chatbot da parte dei bambini.

La nuova legge vieta agli operatori di IA di offrire ai minori funzionalità chatbot che impersonano un essere umano, un personaggio vivente o un essere dotato di emozioni umane. Vieta inoltre l’adulazione e la compiacenza, l’incoraggiamento al suicidio o all’uso di droghe e i suggerimenti che isolano i bambini dagli adulti. Le aziende devono verificare l’età degli utenti, con almeno un metodo che non si basi esclusivamente su un documento d’identità governativo.²

Alla cerimonia della firma, Hochul ha presentato il provvedimento come un limite atteso da tempo: «I minori non avranno più accesso a chatbot che fingono di essere loro amici, fidanzati e fidanzate». Ha inoltre affermato che i bot non dovrebbero conservare informazioni sanitarie sensibili, scoraggiare il ricorso a un aiuto professionale o incoraggiare pensieri suicidi.¹ La legge conferisce alla procuratrice generale Letitia James l’autorità di chiedere sanzioni e la distruzione dei dati ottenuti illegalmente; entrerà in vigore il 1° gennaio 2027.¹

Per i sostenitori, la legge è un correttivo dopo che i social media hanno superato le tutele pubbliche. Jim Steyer di Common Sense Media ha definito l’IA «i social media sotto steroidi», mentre l’ex Surgeon General Vivek Murthy ha sostenuto che la tecnologia richiede standard di sicurezza proporzionati alla sua posta in gioco.³ Steyer ha poi elogiato la legge definendola «il più forte disegno di legge del Paese sulla sicurezza dei bambini nell’IA», e ha qualificato le pericolose funzionalità dei chatbot come «messa in pericolo sconsiderata».¹

L’industria tecnologica vede danni collaterali. Tech:NYC ha affermato che il linguaggio ampio e vago della legislazione potrebbe privare i minori di ripetizioni, aiuto con i compiti, assistenti di programmazione e piattaforme professionali, sollevando al contempo preoccupazioni legate al Primo Emendamento.¹ Lo scontro è ormai delineato: New York considera le restrizioni una salvaguardia contro l’intimità artificiale; i critici temono che le stesse regole possano escludere i bambini da un uso costruttivo dell’IA.