La presión se había acumulado desde abril, cuando más de 250 expertos y grupos de seguridad infantil pidieron una moratoria sobre la IA en las escuelas. Su preocupación era sencilla: la IA generativa había entrado en las aulas más rápido que las normas que regulan los datos de los niños y la toma de decisiones automatizada.¹

En mayo, la presidenta de la Federación Estadounidense de Docentes, Randi Weingarten, presionó por límites más estrictos, incluida una prohibición de pantallas para los niños más pequeños, ninguna IA dirigida a los estudiantes en la escuela primaria y ningún chatbot acompañante de IA para estudiantes menores de 16 años. Sostuvo que las leyes de privacidad existentes se habían creado para una internet anterior: “HIPAA y FERPA nunca contemplaron la llegada de la IA”.¹

Una semana después de que la ciudad de Nueva York anunciara una moratoria de un año sobre la IA en las escuelas públicas, Microsoft, la AFT y la Federación Unida de Docentes presentaron el miércoles su respuesta: el Estándar Nacional de Seguridad y Privacidad de la IA para Escuelas. En lugar de prohibir por completo la IA en las aulas, permite a los distritos incorporar protecciones en los contratos de Microsoft y hacerlas cumplir mediante derechos de cancelación y reclamaciones por daños y perjuicios.¹

El estándar prohíbe a las empresas utilizar datos de estudiantes para entrenar modelos de IA, rastrear a los estudiantes, vender sus datos, usarlos para publicidad o permitir que la IA tome decisiones sin revisión humana. También exige informar sobre brechas de seguridad en un plazo de 72 horas y prohíbe los chatbots acompañantes de IA para estudiantes. El presidente de Microsoft, Brad Smith, resumió el marco como «privacidad, seguridad y transparencia».¹

Microsoft afirma que las protecciones se aplicarán a todos los distritos escolares de Estados Unidos con los que trabaja a partir del 1 de noviembre. Satya Nadella calificó el acuerdo de «pionero» y dijo que la empresa estaba poniendo las protecciones a disposición de todo el país.Satya Nadella (satyanadella)²

Para los líderes sindicales, la distinción clave es la exigibilidad. Weingarten lo calificó de «acuerdo de privacidad blindado y con verdadera fuerza», y afirmó que el gobierno no había logrado cubrir esa carencia.¹ Sin embargo, el presidente de la UFT, Michael Mulgrew, mantuvo una postura más dura para los alumnos más jóvenes: el uso de IA desde el jardín de infancia hasta octavo grado no es apropiado «en este momento».¹

Anthropic afirmó que apoyaba una IA educativa responsable y que estaba trabajando con la AFT en normas de seguridad y privacidad; OpenAI no había respondido a una solicitud de comentarios.¹