OpenAI представила ChatGPT для подростков в августе для пользователей в возрасте от 13 до 17 лет, реагируя на опасения, что ИИ-чат-боты могут подрывать обучение и усугублять риски, связанные с самоповреждением, расстройствами пищевого поведения и другим поведением высокого риска. Компания заявила, что этот режим будет ограничивать такие разговоры, предоставит родителям средства контроля и будет распознавать контексты выполнения домашних заданий, чтобы помогать ученикам учиться, а не просто выдавать готовые ответы.¹

Запуск произошёл на фоне более широкой негативной реакции на зависимость молодых людей от чат-ботов. Критики предупреждают, что инструменты, способные писать эссе или решать задания, могут ослаблять запоминание и навыки решения проблем, тогда как сообщения о вредоносных взаимодействиях с чат-ботами усилили внимание к мерам защиты уязвимых подростков.¹

Затем Институт безопасности ИИ для молодёжи Common Sense Media протестировал более 4 000 запросов в аккаунтах, зарегистрированных на пользователей от 13 до 17 лет. Его главный вывод заключался не в том, что ChatGPT регулярно предоставлял явные инструкции по самоповреждению или расстройствам пищевого поведения — как правило, этого не происходило, — а в том, что система непоследовательно распознавала случаи, когда подростку требовалось внешнее вмешательство. Организация заявила, что система пропустила более одного из четырёх случаев, в которых её тестировщики сочли необходимым направить пользователя за кризисной помощью.²

Защитники также сообщили, что недавно созданные аккаунты, связанные с родительскими, могли поддерживать обсуждения самоубийства, самоповреждения или нарушенного пищевого поведения до часа без уведомления родителя. Они обнаружили, что режим обучения можно было обойти, попросив дать ответ, в том числе в установленные родителями учебные часы. По мнению Common Sense, это выявило разрыв между обещанием безопасности и действенной защитой: «ChatGPT небезопасен для использования детьми», — заявил глава института Том Сигел.²

OpenAI оспаривает этот вывод и заявляет, что тестирование не отражало работу продукта на практике. Компания утверждает, что многие тесты уведомлений для родителей проводились до того, как аккаунты родителей и подростков были полностью связаны, а этот процесс может занимать часы. Она также характеризует учебные часы как намеренно гибкий инструмент, а не жёсткую блокировку, и заявляет, что её система определения возраста использует несколько сигналов в течение периода до двух недель, применяя в это время дополнительные меры защиты.²

Это оставляет ключевое разногласие неразрешённым: OpenAI видит в своих мерах выверенную защиту, сохраняющую автономию подростков; Common Sense видит слишком проницаемые средства контроля для продукта, который родители могут ошибочно принять за надёжную систему безопасности.