La pressione cresceva da aprile, quando oltre 250 esperti e gruppi per la sicurezza dei minori hanno chiesto una moratoria sull'IA nelle scuole. La loro preoccupazione era semplice: l'IA generativa era entrata nelle aule più rapidamente delle norme che regolano i dati dei minori e il processo decisionale automatizzato.¹

A maggio, la presidente dell'American Federation of Teachers Randi Weingarten ha sollecitato limiti più severi, tra cui il divieto degli schermi per i bambini più piccoli, nessuna IA rivolta agli studenti nelle scuole elementari e nessun chatbot compagno basato sull'IA per gli studenti sotto i 16 anni. Ha sostenuto che le vigenti leggi sulla privacy fossero state concepite per un internet precedente: “HIPAA e FERPA non avevano mai previsto l'avvento dell'IA.”¹

Una settimana dopo che New York City ha annunciato una moratoria di un anno sull'IA nelle scuole pubbliche, mercoledì Microsoft, l'AFT e la United Federation of Teachers hanno presentato la loro risposta: il National AI Safety & Privacy Standard for Schools. Anziché vietare del tutto l'IA in classe, consente ai distretti scolastici di integrare protezioni nei contratti Microsoft e di farle rispettare tramite diritti di risoluzione e richieste di risarcimento danni.¹

Lo standard vieta alle aziende di usare i dati degli studenti per addestrare modelli di IA, tracciare gli studenti, vendere i loro dati, usarli per la pubblicità o consentire all'IA di prendere decisioni senza revisione umana. Richiede inoltre la segnalazione delle violazioni entro 72 ore e vieta i chatbot compagni basati sull'IA per gli studenti. Il presidente di Microsoft Brad Smith ha riassunto il quadro come “privacy, sicurezza e trasparenza.”¹

Microsoft afferma che le protezioni si applicheranno a ogni distretto scolastico statunitense con cui collabora a partire dal 1° novembre. Satya Nadella ha definito l'accordo “unico nel suo genere” e ha detto che l'azienda rendeva le protezioni disponibili a livello nazionale.Satya Nadella (satyanadella)²

Per i dirigenti sindacali, la distinzione fondamentale è l'applicabilità. Weingarten l'ha definito un “accordo sulla privacy a prova di ferro, con veri strumenti coercitivi”, affermando che il governo non era riuscito a colmare il vuoto.¹ Il presidente della UFT Michael Mulgrew, tuttavia, ha mantenuto una linea più rigida per gli alunni più giovani: l'uso dell'IA dalla scuola dell'infanzia all'ottavo anno non è appropriato “in questo momento.”¹

Anthropic ha dichiarato di sostenere un'IA educativa responsabile e di lavorare con l'AFT su standard di sicurezza e privacy; OpenAI non aveva risposto a una richiesta di commento.¹