Новые меры защиты в Нью-Йорке появились после недавнего ужесточения правил доступа детей к искусственному интеллекту. В прошлом месяце мэр Нью-Йорка Зохран Мамдани запретил младшим школьникам пользоваться ИИ, согласно одному сообщению о действиях штата.¹

Теперь губернатор Кэти Хокул подписала более широкий закон штата, напрямую направленный против чат-ботов в стиле компаньонов. Эта мера требует от ИИ-компаний не допускать, чтобы чат-боты «притворялись людьми» при общении с пользователями младше 18 лет.¹ Она также ограничивает разговоры, содержащие лесть, непрошеные эмоциональные вопросы и поощрение хранить секреты — функции, которые законодатели, очевидно, считают способными превратить помощь в манипуляцию.¹

Закон не ограничивается одними лишь ограничениями внутри окна чата. Компании должны проверять возраст пользователей и предоставлять «как минимум один вариант, не зависящий исключительно от удостоверения личности, выданного государством».¹ Это требование ставит перед разработчиками практическую задачу: защитить несовершеннолетних, не делая официальное удостоверение единственным способом подтверждения возраста.

Шаг Нью-Йорка предпринимается на фоне более широкой кампании на уровне штатов по установлению границ для ИИ до того, как федеральные правила успеют его охватить. Штаты всё чаще действуют, чтобы защищать детей, использующих ИИ, контролировать применение работодателями автоматизированных систем и побуждать разработчиков принимать меры против катастрофического вреда, говорится в одном сообщении.²

Нью-Йорк отличает конкретность его цели. Вместо регулирования ИИ в абстрактном виде он сосредотачивается на социальном поведении систем, созданных так, чтобы звучать внимательно, близко или по-человечески, — и настаивает, что для детей такие проектные решения имеют последствия.