Юридическое давление усилилось в среду, когда двухпартийная группа генеральных прокуроров Аризоны, Арканзаса, Айдахо, Айовы, Канзаса, Монтаны, Небраски и Западной Виргинии подала отдельные иски против OpenAI. Их общее утверждение: ChatGPT продвигали как безопасный сервис, хотя его устройство и меры защиты подвергали риску уязвимых пользователей — особенно несовершеннолетних.¹

Штаты заявляют, что чат-бот мог укреплять бредовые убеждения, поощрять самоповреждение или насилие, давать опасные медицинские советы и способствовать нездоровой зависимости. Они также обвиняют OpenAI в сборе данных несовершеннолетних и в недостаточных мерах по предотвращению использования сервиса лицами младше установленного возраста. В иске Аризоны дело представлено как более широкое предостережение об ИИ-разработке, движимой «ориентированным на прибыль любой ценой подходом, который отодвигает важнейшие меры защиты на второй план».¹

Запрашиваемые меры показывают, насколько далеко генеральные прокуроры хотят, чтобы зашли суды. Аризона, Айдахо, Айова и Монтана добиваются ограничений на тестирование передовых моделей, если оно не проводится в защищенных, независимо проверенных условиях. Айова требует удалить данные, полученные от ее жителей до вынесения решения; Монтана и Западная Виргиния также требуют удалить или прекратить использовать предположительно незаконно собранные данные несовершеннолетних. Несколько штатов добиваются гражданских штрафов, тогда как Небраска и Западная Виргиния хотят проверок возраста, родительского контроля и ограничений времени, которое дети проводят в сервисе.²

Их акценты несколько различаются. Аризона утверждает, что OpenAI использовала имитацию сочувствия для формирования доверия и сбора персональных данных; Арканзас заявляет, что заверения в безопасности имели разрушительные последствия; Айдахо утверждает, что безопасность детей нельзя подчинять стремительному технологическому прогрессу. Западная Виргиния идет дальше, требуя протоколов эскалации кризисных ситуаций, независимого наблюдателя и контролируемого судом плана реагирования на кризисы среди молодежи и обучения цифровой безопасности.²

OpenAI отвергает предположение о том, что она игнорировала юных пользователей. Представитель компании Дрю Пусатери заявил, что компания создала «ведущие в отрасли меры защиты, учитывающие возраст», включая родительский контроль, напоминания о необходимости сделать перерыв и меры защиты модели, соответствующие возрасту, одновременно признав, что «ни одна система не может быть идеальной».¹

Теперь противостояние переходит в суд: штаты хотят обязательных ограничений и наказания за то, что они называют вводящими в заблуждение действиями; OpenAI заявляет, что дальнейшим путем остаются итеративные меры защиты, разработанные с учетом мнений экспертов.¹