OpenAI внедряет новые функции безопасности в ChatGPT, ориентированные на подростков, усиливая дискуссию о том, сколько защиты — и контроля — нужно молодым людям при использовании мощных инструментов ИИ.

Ранние обещания «безопасного ИИ» для подростков

15 июля OpenAI публично заявила, что подростки должны иметь широкий доступ к ИИ, сравнив ограничение до совершеннолетия с тем, как если бы предыдущему поколению предложили не пользоваться интернетом или поисковыми системами до 18 лет.¹ Компания представила такой доступ как важную подготовку к «одной из определяющих технологий их времени», но только при условии, что он будет сопровождаться «мерами защиты, разработанными специально для подростков», включая предсказание возраста, расширенные родительские настройки и обучающие функции.¹

OpenAI заявила, что её подход основан на четырёх принципах: ставить безопасность подростков на первое место, даже когда это противоречит другим целям, поощрять получение реальной поддержки в трудные моменты, относиться к подросткам как к подросткам и быть прозрачной в отношении ожиданий.¹

Новые напоминания о перерывах и уведомления для родителей

Днём позже были раскрыты детали конкретных изменений в продукте. OpenAI внедрит уведомления, которые появляются, когда подростки проводят «продолжительное время» в ChatGPT, побуждая их делать перерывы.² Компания также будет предупреждать родителей, если аккаунт подростка будет заблокирован за нарушение правил о «насильственных угрозах или актах насилия онлайн».²

Эти шаги представлены как часть более широкой работы по созданию «инструментов» и «автоматизированных защитных барьеров», которые позволяют подросткам безопасно исследовать, учиться и творить, при этом продолжая получать пользу от ИИ для учёбы, поиска информации и повышения продуктивности.¹

Баланс между автономией, обучением и контролем

С точки зрения людей, новые напоминания о перерывах подчеркивают опасения по поводу чрезмерного времени у экрана и избыточного использования ИИ, тогда как родительские уведомления о блокировках вызывают вопросы о конфиденциальности подростков и о том, как семьи будут воспринимать меры принуждения.²

С точки зрения политики OpenAI в области ИИ, те же меры представлены как необходимая инфраструктура, чтобы сделать «доступ к безопасному ИИ» жизнеспособным для поколения, которое уже активно использует ChatGPT для обучения и развития навыков.¹ Сейчас основное напряжение связано с тем, обеспечивают ли эти меры безопасности правильный баланс между расширением возможностей подростков за счёт трансформирующей технологии и их подчинением новым формам цифрового надзора.