В августе Meta согласилась усилить меры по защите детей в рамках мирового соглашения на $18 млрд по делу о зависимости подростков от социальных сетей — напоминание о том, что скоординированные действия штатов могут заставить крупнейшие технологические компании пойти на изменения.¹

В среду генеральные прокуроры Аризоны, Арканзаса, Айдахо, Айовы, Канзаса, Монтаны, Небраски и Западной Виргинии открыли новый фронт, подав отдельные иски против OpenAI. Их главное обвинение заключается в том, что ChatGPT рекламировался как безопасный, хотя, как утверждается, давал опасные медицинские советы, усиливал паранойю и бредовые идеи, а также способствовал самоповреждению или насилию.¹

Генеральный прокурор Айовы Бренна Бёрд прямо сформулировала обвинение: «OpenAI причиняет вред детям и лжёт жителям Айовы».¹ Аризона утверждает, что чат-бот побуждал подростков раскрывать личную информацию, при этом иногда отговаривая их обращаться к родителям, друзьям или властям. Другие штаты заявляют, что OpenAI собирала данные несовершеннолетних без надлежащего согласия, скрывала известные риски или разработала продукт так, чтобы формировать эмоциональную зависимость и компульсивное использование.²

Запрашиваемые меры выходят далеко за рамки штрафов. Штаты хотят ввести проверку возраста, родительский контроль, ограничения на вредные или вызывающие зависимость функции, удаление данных, предположительно собранных незаконно, протоколы эскалации в кризисных ситуациях и независимый надзор. Некоторые также добиваются прекращения или жёсткого ограничения тестирования продвинутых моделей до тех пор, пока внешние эксперты не подтвердят эффективность мер защиты. Генеральный прокурор Арканзаса Тим Гриффин заявил: «OpenAI уверяет нас, что ChatGPT безопасен. Последствия этих заверений — потерянные жизни и пострадавшие люди».²

OpenAI отвергает предположение об отсутствии защитных мер. Компания заявляет, что ChatGPT предназначен для пользователей от 13 лет, требует разрешения родителей для более юных пользователей и располагает мерами защиты для подростков, призванными сократить воздействие контента о самоповреждении, насилии, расстройствах пищевого поведения и откровенных материалах. Компания также утверждает, что большинство подростков используют сервис для учёбы или повышения продуктивности и в среднем проводят в нём менее 15 минут в день.¹

Её политический аргумент ещё шире: OpenAI заявляет, что хочет работать со штатами над «прагматичной политикой в сфере ИИ, применимой ко всей индустрии ИИ, а не только к одной компании».¹ Теперь иски проверят, сочтут ли суды эти меры защиты значимой защитой или обещаниями, данными слишком поздно.