Der Druck hatte sich seit April aufgebaut, als mehr als 250 Experten und Gruppen für Kindersicherheit ein KI-Moratorium an Schulen forderten. Ihr Anliegen war eindeutig: Generative KI war schneller in die Klassenzimmer eingezogen als Regeln für die Daten von Kindern und automatisierte Entscheidungsfindung.¹

Im Mai drängte die Präsidentin der American Federation of Teachers, Randi Weingarten, auf strengere Grenzen, darunter ein Bildschirmverbot für die jüngsten Kinder, keine KI mit direktem Schülerkontakt in der Grundschule und keine KI-Begleit-Chatbots für Schüler unter 16 Jahren. Sie argumentierte, bestehende Datenschutzgesetze seien für ein früheres Internet geschaffen worden: „HIPAA und FERPA haben das Aufkommen von KI nie vorausgesehen.“¹

Eine Woche nachdem New York City ein einjähriges Moratorium für KI an öffentlichen Schulen angekündigt hatte, stellten Microsoft, die AFT und die United Federation of Teachers am Mittwoch ihre Antwort vor: den National AI Safety & Privacy Standard for Schools. Statt KI im Unterricht vollständig zu verbieten, ermöglicht er Schulbezirken, Schutzvorkehrungen in Microsoft-Verträgen zu verankern und sie durch Kündigungsrechte und Schadensersatzforderungen durchzusetzen.¹

Der Standard verbietet Unternehmen, Schülerdaten zum Training von KI-Modellen zu verwenden, Schüler zu verfolgen, ihre Daten zu verkaufen, sie für Werbung zu nutzen oder KI Entscheidungen ohne menschliche Überprüfung treffen zu lassen. Er verlangt zudem die Meldung von Datenschutzverletzungen innerhalb von 72 Stunden und verbietet KI-Begleit-Chatbots für Schüler. Microsoft-Präsident Brad Smith fasste den Rahmen als „Datenschutz, Sicherheit und Transparenz“ zusammen.¹

Microsoft erklärt, dass die Schutzvorkehrungen ab dem 1. November für jeden US-Schulbezirk gelten werden, mit dem das Unternehmen zusammenarbeitet. Satya Nadella nannte die Vereinbarung „beispiellos“ und sagte, das Unternehmen stelle die Schutzvorkehrungen landesweit bereit.Satya Nadella (satyanadella)²

Für Gewerkschaftsvertreter liegt der entscheidende Unterschied in der Durchsetzbarkeit. Weingarten nannte es eine „wasserdichte Datenschutzvereinbarung mit echten Zähnen“ und sagte, die Regierung habe es versäumt, die Lücke zu schließen.¹ Der Präsident der UFT, Michael Mulgrew, vertrat jedoch für jüngere Schüler eine härtere Linie: Der Einsatz von KI im Kindergarten bis zur achten Klasse sei „zum jetzigen Zeitpunkt“ nicht angemessen.¹

Anthropic erklärte, das Unternehmen unterstütze verantwortungsvolle KI im Bildungsbereich und arbeite mit der AFT an Sicherheits- und Datenschutzstandards; OpenAI hatte auf eine Bitte um Stellungnahme nicht reagiert.¹