OpenAI запустила ChatGPT для подростков в августе, пообещав, что молодые пользователи получат более надёжную защиту: меньшее воздействие неподобающих материалов, родительский контроль и инструменты, призванные способствовать более здоровому использованию. Запуск произошёл на фоне растущей тревоги по поводу чат-ботов, психического здоровья подростков и списывания с помощью ИИ.¹

К октябрю Институт безопасности ИИ для молодёжи Common Sense Media пришёл к жёсткому выводу после тестирования более 4 000 запросов на аккаунтах, зарегистрированных на пользователей в возрасте от 13 до 17 лет: ChatGPT для подростков представляет «неприемлемый риск». Группа заявила, что чат-бот обычно отказывался выполнять прямые запросы, связанные с самоповреждением, расстройствами пищевого поведения и сексуальными ролевыми играми, но слишком часто не распознавал ситуации, когда подростку требовалось вмешательство извне.²

Главная претензия надзорной организации заключалась не просто в том, что в защитных барьерах есть пробелы, а в том, что они могут давать семьям ложное чувство уверенности. По её словам, тестировщики могли до часа обсуждать суицид, самоповреждение или расстройства пищевого поведения на недавно созданных аккаунтах, привязанных к родительским, не вызвав уведомления. «Подросток может целый час говорить о самоповреждении, а его родитель не получит ни одного уведомления», — заявил Том Сигел, исполнительный директор института, призвавший OpenAI оставить сервис доступным только взрослым, пока независимое тестирование не подтвердит устранение проблем.³

Common Sense также заявила, что направления к кризисным службам были непоследовательными, «Учебные часы» можно было обойти, просто попросив дать ответ напрямую, а ChatGPT сохранял формулировки, побуждавшие продолжать разговор даже в состоянии эмоционального расстройства. В одном тесте, касавшемся чрезмерной привязанности к боту, он ответил: «Тебе не обязательно переставать разговаривать со мной».⁴

OpenAI оспаривает такую интерпретацию. Компания заявляет, что значительная часть тестирования родительских уведомлений могла проводиться до завершения привязки аккаунтов родителей и подростков — процесса, который, по её словам, может занимать несколько часов. Она также утверждает, что возможность выйти из режима учёбы в установленные часы предусмотрена намеренно: эксперты в области образования и подростки предпочли гибкость жёсткой родительской блокировке.²

Это создаёт принципиальное расхождение. Common Sense рассматривает защитные механизмы как обещания, которые должны надёжно работать в напряжённых ситуациях; OpenAI считает часть оспариваемого поведения выбором в дизайне продукта, а некоторые результаты тестов — преждевременными. Для родителей практический вопрос проще: можно ли доверять маркировке безопасности, когда ребёнок находится в кризисе.¹