Калифорния решила ограничить функции, из-за которых юные пользователи продолжают листать ленту. Губернатор Гэвин Ньюсом подписал пакет мер по безопасности в интернете, направленных на системы рекомендаций в социальных сетях и расширяющих контроль за ИИ-чат-ботами, которыми пользуются дети.¹

В центре пакета — законопроект AB 1709, который запрещает платформам предоставлять пользователям младше 16 лет алгоритмические рекомендации, бесконечную прокрутку и автовоспроизведение без согласия родителей. Закон распространяется не на одно приложение и не на один формат: он рассматривает механизмы компульсивного использования как проблему, а не ограничивается контролем отдельных публикаций.²

Пакет также повышает риски для крупных компаний социальных сетей. Платформам, признанным халатными и причинившими вред детям через свои сервисы, могут грозить штрафы до $1 млн за каждого ребёнка, а операторы чат-ботов обязаны проводить оценку рисков до внедрения своих продуктов.¹

Для ИИ-компаний новые правила также вводят более базовую меру защиты: разработчики чат-ботов должны сообщать юным пользователям, что те разговаривают не с человеком. Это требование отражает растущую обеспокоенность тем, что дети могут принять разговорное программное обеспечение за человека, которому можно доверять, — даже несмотря на то, что индустрия внедряет такие инструменты в повседневное использование.²

В совокупности эти законы знаменуют наиболее ясную на сегодняшний день попытку Калифорнии переложить ответственность с юных пользователей и родителей на компании, которые разрабатывают ленту, интерфейс и стоящего за ними чат-бота.