La pression montait depuis avril, lorsque plus de 250 experts et organisations de protection de l’enfance ont appelé à un moratoire sur l’IA dans les écoles. Leur préoccupation était simple : l’IA générative était entrée dans les salles de classe plus rapidement que les règles encadrant les données des enfants et la prise de décision automatisée.¹

En mai, la présidente de l’American Federation of Teachers, Randi Weingarten, a réclamé des limites plus strictes, notamment une interdiction des écrans pour les plus jeunes enfants, aucune IA destinée aux élèves à l’école primaire et aucun chatbot compagnon basé sur l’IA pour les élèves de moins de 16 ans. Elle a soutenu que les lois existantes sur la vie privée avaient été conçues pour un Internet antérieur : « HIPAA et FERPA n’avaient jamais envisagé l’avènement de l’IA. »¹

Une semaine après que New York a annoncé un moratoire d’un an sur l’IA dans les écoles publiques, Microsoft, l’AFT et la United Federation of Teachers ont dévoilé mercredi leur réponse : la National AI Safety & Privacy Standard for Schools. Au lieu d’interdire purement et simplement l’IA en classe, elle permet aux districts d’intégrer des protections dans les contrats Microsoft et de les faire respecter par des droits de résiliation et des demandes de dommages-intérêts.¹

La norme interdit aux entreprises d’utiliser les données des élèves pour entraîner des modèles d’IA, de suivre les élèves, de vendre leurs données, de les utiliser à des fins publicitaires ou de permettre à l’IA de prendre des décisions sans examen humain. Elle impose également de signaler les violations dans les 72 heures et interdit les chatbots compagnons basés sur l’IA pour les élèves. Le président de Microsoft, Brad Smith, a résumé le cadre par « confidentialité, sécurité et transparence ». ¹

Microsoft affirme que ces protections s’appliqueront à chaque district scolaire américain avec lequel l’entreprise travaille à compter du 1er novembre. Satya Nadella a qualifié l’accord de « premier en son genre » et a déclaré que l’entreprise mettait ces protections à disposition dans tout le pays.Satya Nadella (satyanadella)²

Pour les dirigeants syndicaux, la distinction essentielle est celle du caractère contraignant. Weingarten l’a qualifié d’« accord de confidentialité à toute épreuve, avec de véritables moyens de contrainte », affirmant que le gouvernement n’avait pas comblé cette lacune.¹ Le président de l’UFT, Michael Mulgrew, a toutefois maintenu une ligne plus ferme pour les jeunes élèves : l’utilisation de l’IA de la maternelle à la huitième année n’est pas appropriée « à ce stade ». ¹

Anthropic a déclaré soutenir une IA éducative responsable et travailler avec l’AFT sur des normes de sécurité et de confidentialité ; OpenAI n’avait pas répondu à une demande de commentaire.¹