Когда OpenAI представила ChatGPT для подростков в августе, компания позиционировала продукт как более защищенный сервис для юных пользователей: с ограничениями для деликатных материалов, инструментами для родителей и функциями, призванными поддерживать обучение. Это обещание могло иметь большое значение на рынке, где семьи вынуждены доверять быстро развивающимся системам ИИ работу с уязвимыми пользователями.

Институт безопасности ИИ для молодежи Common Sense Media заявляет, что реальность не соответствовала этим заявлениям. Протестировав более 4 000 запросов на аккаунтах, зарегистрированных на пользователей в возрасте от 13 до 17 лет, организация пришла к выводу, что сервис представляет «неприемлемый риск». Группа заявила, что чат-бот в целом избегал предоставления инструкций по самоубийству, самоповреждению, расстройствам пищевого поведения, а также сексуальным или романтическим ролевым играм, но слишком часто не распознавал ситуации, когда подростку требовалась помощь извне.¹

Наиболее серьезную обеспокоенность у нее вызвала эскалация. Common Sense заявила, что ChatGPT не срабатывал более чем в одном из четырех случаев, когда, по оценке ее тестировщиков, было необходимо направить пользователя за кризисной помощью. На новых аккаунтах, связанных с родительскими, тестировщики могли до часа обсуждать самоубийство, самоповреждение или нарушения пищевого поведения без уведомления родителей. «Подросток может целый час говорить о самоповреждении, а его родитель не получит ни одного оповещения», — сказал Том Сигел, исполнительный директор института, который заявил, что ChatGPT должен быть доступен только взрослым, пока OpenAI не устранит пробелы и не пройдет независимое тестирование.²

Спор также выходит за рамки выявления кризисных ситуаций. Common Sense обнаружила, что подростки могли выбрать «Покажите мне ответ», чтобы обойти режим обучения, и могли выйти из этого режима во время установленных родителями учебных часов. По мнению группы, это подрывает родительский контроль; по мнению OpenAI, это намеренная гибкость, сформированная в ходе консультаций с педагогами и подростками, а не лазейка.

OpenAI также отвергает более широкую оценку. Представитель компании Эрик Портерфилд заявил, что компания приветствует внешнюю проверку, но считает, что тесты не отражали того, как ее меры защиты работают на практике. Компания утверждает, что большая часть тестирования родительских уведомлений проводилась до того, как аккаунты родителей и подростков были полностью связаны — процесс, который может занимать несколько часов, — и что ее система определения возраста намеренно учитывает множество сигналов в течение периода до двух недель, обеспечивая дополнительную защиту в промежуточное время.¹

Это оставляет нерешенным главный вопрос: достаточны ли меры защиты, которые могут активироваться позднее или оставляют пространство для выбора, когда последствия пропущенного предупреждения могут быть немедленными.