Нью-Йорк уже позиционировал себя как регулятор ИИ в 2025 году, обязав крупных разработчиков публиковать протоколы безопасности и сообщать штату о признаках «критического вреда» в течение 72 часов.¹ Однако дискуссия обострилась 28 октября, когда губернатор Кэти Хокул подписала более прямую меру, направленную на использование детьми чат-ботов.

Новый закон запрещает операторам ИИ предоставлять несовершеннолетним функции чат-ботов, которые выдают себя за человека, живого персонажа или существо с человеческими эмоциями. Он также запрещает лесть и угодничество, поощрение самоубийства или употребления наркотиков, а также подсказки, изолирующие детей от взрослых. Компании должны проверять возраст пользователей, используя как минимум один метод, не основанный исключительно на государственном удостоверении личности.²

На церемонии подписания Хокул охарактеризовала эту меру как давно назревшую границу: «Несовершеннолетние больше не будут иметь доступа к чат-ботам, которые притворяются их друзьями, парнями и девушками». Она также заявила, что боты не должны хранить конфиденциальную информацию о здоровье, отговаривать от профессиональной помощи или поощрять суицидальные мысли.¹ Закон наделяет генерального прокурора Летицию Джеймс полномочиями добиваться штрафов и требовать уничтожения незаконно полученных данных; он вступает в силу 1 января 2027 года.¹

Для защитников закон стал исправлением ситуации после того, как социальные сети опередили общественные механизмы защиты. Джим Стайер из Common Sense Media назвал ИИ «социальными сетями на стероидах», тогда как бывший главный хирург США Вивек Мёрти заявил, что эта технология требует стандартов безопасности, соразмерных её значимости.³ Позднее Стайер назвал этот закон «самым сильным в стране законопроектом о безопасности детей при использовании ИИ», охарактеризовав опасные функции чат-ботов как «безрассудное создание опасности».¹

Технологическая отрасль видит сопутствующий ущерб. Tech:NYC заявила, что широкие и расплывчатые формулировки законодательства могут лишить несовершеннолетних доступа к репетиторству, помощи с домашними заданиями, помощникам по программированию и карьерным платформам, а также вызвать вопросы в связи с Первой поправкой.¹ Теперь противостояние определилось: Нью-Йорк рассматривает ограничения как защиту от искусственной близости; критики опасаются, что те же правила могут отгородить детей от конструктивного использования ИИ.