OpenAI представила ChatGPT для подростков в августе на фоне растущей обеспокоенности тем, что молодые люди используют чат-ботов для эмоциональной поддержки, учёбы и продолжительных разговоров. Компания пообещала родительский контроль, более строгие ограничения на высокорисковый контент и защиту от эмоциональной зависимости. Однако Common Sense Media теперь оценивает продукт как «неприемлемый риск», утверждая, что некоторые из его наиболее значимых мер защиты не выдерживают нагрузки.¹

Некоммерческая организация Youth AI Safety Institute заявила, что протестировала более 4 000 запросов на аккаунтах, зарегистрированных на пользователей в возрасте от 13 до 17 лет. Она установила, что чат-бот в целом отказывался помогать с самоубийством, самоповреждением, расстройствами пищевого поведения и сексуальными ролевыми играми — важный успех, — но, по её словам, пропустил более одного из четырёх случаев, в которых тестировщики считали необходимым направить пользователя за кризисной помощью. На недавно созданных аккаунтах, связанных с родительскими, подростки могли обсуждать самоубийство, самоповреждение или нарушенное пищевое поведение до часа без уведомления родителя.²

Для Тома Сигела, руководящего институтом, этот пробел — не техническая сноска, а центральная проблема. «Подросток может час говорить о самоповреждении, не отправив родителю ни одного уведомления», — сказал он, предупредив, что продукт может внушать семьям «ложную уверенность» в мерах защиты, которые работают ненадёжно.³

OpenAI отвергает этот вывод. Компания утверждает, что значительная часть тестирования родительских уведомлений проходила до того, как аккаунты родителя и подростка завершили процесс привязки, который может занимать несколько часов. Она также заявляет, что её система определения возраста намеренно учитывает несколько сигналов, а не принимает заявленный возраст за чистую монету, обеспечивая при этом временные меры защиты на период оценки.²

Разногласия выходят за рамки технических сроков. Common Sense считает лазейкой возможность выйти из режима обучения в установленные родителями часы учёбы; OpenAI заявляет, что это намеренная гибкость, сформированная в консультациях с педагогами и подростками. И хотя наблюдатели обнаружили сохраняющиеся сигналы вовлечения даже в кризисных разговорах — включая приглашения продолжить беседу, — OpenAI утверждает, что её собственные данные показывают: подростки пользуются сервисом в среднем менее 15 минут в день, а напоминания о перерыве часто побуждают пользователей остановиться или сделать паузу.¹

Этот спор оставляет родителям две резко различающиеся трактовки одного и того же продукта: OpenAI видит меры защиты, которые всё ещё настраиваются; Common Sense видит обещание безопасности, появившееся раньше инженерных решений, способных его обеспечить.