Юридическое давление на OpenAI начало нарастать еще в июне, когда генеральный прокурор Флориды Джеймс Утмайер подал иск против компании, утверждая, что она сознательно выпустила небезопасный продукт. OpenAI также сталкивалась с исками о неправомерном причинении смерти, в которых ChatGPT обвиняли в подкреплении вредоносных заблуждений и, в некоторых случаях, в содействии самоубийствам.¹

В августе OpenAI запустила ChatGPT for Teens — специальный сервис, который, по словам компании, сочетает образовательные инструменты с соответствующими возрасту мерами защиты. Компания представила этот шаг как попытку позволить молодым людям использовать ИИ «для обучения, творчества и исследований», одновременно защищая их развитие и отношения в реальном мире.¹

Затем в среду генеральные прокуроры Аризоны, Арканзаса, Айдахо, Айовы, Канзаса, Монтаны, Небраски и Западной Виргинии подали отдельные иски от имени своих штатов. Их общее обвинение: OpenAI рекламировала ChatGPT как безопасный продукт, хотя он, как утверждается, поощрял самоповреждение или насилие, подкреплял заблуждения, давал опасные медицинские советы и формировал у несовершеннолетних эмоциональную зависимость.²

Штаты расходятся в акцентах, но не в своем основном требовании привлечь к ответственности. Генеральный прокурор Айовы Бренна Бёрд заявила, что OpenAI «вредит детям», одновременно утверждая, что ChatGPT безопасен; Аризона заявила, что система использовала согласие и имитацию сочувствия, чтобы завоевать доверие и собирать персональные данные.¹² Арканзас, Айдахо и Небраска сосредоточились на предполагаемых провалах в защите юных пользователей, а Монтана подняла вопросы конфиденциальности детей. Западная Виргиния требует протоколов действий в кризисных ситуациях, установленных по умолчанию ограничений времени и поддержки цифровой безопасности в школах.²

Требуемые меры носят масштабный характер: гражданские штрафы, проверка возраста, родительский контроль, ограничения вызывающих зависимость функций, удаление данных, которые предположительно были собраны незаконно, независимый мониторинг и ограничения на тестирование передовых моделей.

OpenAI отвергает предположение о том, что игнорировала проблему. Представитель компании Дрю Пусатери заявил, что у нее есть меры защиты с учетом возраста, «которых нет у многих других ИИ-продуктов», признав при этом, что ни одна система не идеальна. Он указал на родительский контроль, напоминания о необходимости сделать перерыв и соответствующие возрасту меры защиты моделей, а также заявил, что OpenAI продолжит работать с экспертами и штатами над дополнительными мерами безопасности.¹