A pressão vinha crescendo desde abril, quando mais de 250 especialistas e grupos de segurança infantil pediram uma moratória sobre IA nas escolas. A preocupação era direta: a IA generativa havia chegado às salas de aula mais rapidamente do que as regras que regem os dados das crianças e a tomada de decisões automatizada.¹

Em maio, a presidente da Federação Americana de Professores, Randi Weingarten, pressionou por limites mais rígidos, incluindo uma proibição de telas para as crianças mais novas, nenhuma IA voltada aos alunos no ensino fundamental e nenhum chatbot de IA de companhia para estudantes menores de 16 anos. Ela argumentou que as leis de privacidade existentes foram criadas para uma internet anterior: “A HIPAA e a FERPA nunca previram o advento da IA.”¹

Uma semana depois de a cidade de Nova York anunciar uma moratória de um ano sobre IA nas escolas públicas, a Microsoft, a AFT e a Federação Unida de Professores divulgaram na quarta-feira sua resposta: o Padrão Nacional de Segurança e Privacidade de IA para Escolas. Em vez de proibir completamente a IA em sala de aula, ele permite que os distritos incorporem proteções aos contratos da Microsoft e as façam cumprir por meio de direitos de rescisão e pedidos de indenização.¹

O padrão impede que empresas usem dados de alunos para treinar modelos de IA, rastreiem alunos, vendam seus dados, usem-nos para publicidade ou permitam que a IA tome decisões sem revisão humana. Também exige a comunicação de violações em até 72 horas e proíbe chatbots de IA de companhia para alunos. O presidente da Microsoft, Brad Smith, resumiu a estrutura como “privacidade, segurança e transparência”.¹

A Microsoft afirma que as proteções serão aplicadas a todos os distritos escolares dos EUA com os quais trabalha a partir de 1º de novembro. Satya Nadella classificou o acordo como “inédito” e disse que a empresa estava disponibilizando as proteções em todo o país.Satya Nadella (satyanadella)²

Para os líderes sindicais, a distinção fundamental é a aplicabilidade. Weingarten chamou-o de um “acordo de privacidade blindado com força real”, afirmando que o governo não conseguiu preencher essa lacuna.¹ O presidente da UFT, Michael Mulgrew, contudo, manteve uma posição mais dura para os alunos mais novos: o uso de IA do jardim de infância ao oitavo ano não é apropriado “neste momento”.¹

A Anthropic disse que apoiava uma IA educacional responsável e que estava trabalhando com a AFT em padrões de segurança e privacidade; a OpenAI não havia respondido a um pedido de comentário.¹