Давление нарастало с апреля, когда более 250 экспертов и организаций по защите детей призвали ввести мораторий на ИИ в школах. Их обеспокоенность была простой: генеративный ИИ проник в классы быстрее, чем появились правила, регулирующие данные детей и автоматизированное принятие решений.¹

В мае президент Американской федерации учителей Рэнди Вайнгартен потребовала более жестких ограничений, включая запрет экранов для самых маленьких детей, отказ от ИИ, напрямую взаимодействующего с учениками, в начальной школе и запрет чат-ботов-компаньонов на базе ИИ для учащихся младше 16 лет. По ее словам, действующие законы о конфиденциальности были созданы для более ранней эпохи интернета: «HIPAA и FERPA никогда не предполагали появления ИИ».¹

Через неделю после того, как Нью-Йорк объявил годичный мораторий на ИИ в государственных школах, Microsoft, AFT и Объединенная федерация учителей в среду представили свой ответ: Национальный стандарт безопасности и конфиденциальности ИИ для школ. Вместо прямого запрета ИИ в классах он позволяет школьным округам закреплять меры защиты в контрактах с Microsoft и обеспечивать их соблюдение через право расторжения договоров и требования о возмещении ущерба.¹

Стандарт запрещает компаниям использовать данные учащихся для обучения моделей ИИ, отслеживать учащихся, продавать их данные, использовать их для рекламы или позволять ИИ принимать решения без проверки человеком. Он также требует сообщать об утечках в течение 72 часов и запрещает чат-ботов-компаньонов на базе ИИ для учащихся. Президент Microsoft Брэд Смит охарактеризовал эту систему как «конфиденциальность, безопасность и прозрачность».¹

Microsoft заявляет, что меры защиты будут применяться ко всем школьным округам США, с которыми она работает, начиная с 1 ноября. Сатья Наделла назвал соглашение «первым в своем роде» и заявил, что компания делает эти меры защиты доступными по всей стране.Satya Nadella (satyanadella)²

Для лидеров профсоюзов ключевое различие заключается в возможности принудительного исполнения. Вайнгартен назвала это «железобетонным соглашением о конфиденциальности с реальными рычагами воздействия», заявив, что государство не смогло заполнить этот пробел.¹ Однако президент UFT Майкл Малгрю придерживался более жесткой позиции в отношении младших школьников: использование ИИ в детском саду и с первого по восьмой класс неуместно «на данном этапе».¹

Anthropic заявила, что поддерживает ответственный образовательный ИИ и работает с AFT над стандартами безопасности и конфиденциальности; OpenAI не ответила на запрос о комментарии.¹