A OpenAI lançou o ChatGPT para Adolescentes em agosto, após uma preocupação crescente com jovens usando chatbots para apoio emocional, trabalhos escolares e longas conversas. A empresa prometeu controles parentais, limites mais rígidos para conteúdo de alto risco e proteções contra dependência emocional. Mas a Common Sense Media agora classifica o produto como um “risco inaceitável”, argumentando que algumas de suas proteções mais consequentes falham sob pressão.¹

O Youth AI Safety Institute da organização sem fins lucrativos afirmou ter testado mais de 4.000 prompts em contas registradas para usuários de 13 a 17 anos. Ele constatou que o chatbot geralmente se recusava a facilitar suicídio, automutilação, transtornos alimentares e encenação sexual — um sucesso importante —, mas disse que deixou de identificar mais de um em cada quatro casos em que os testadores acreditavam ser necessário encaminhamento para atendimento de crise. Em contas recém-criadas e vinculadas aos pais, afirmou que adolescentes podiam discutir suicídio, automutilação ou alimentação desordenada por até uma hora sem notificar um responsável.²

Para Tom Siegel, que lidera o instituto, a lacuna não é uma nota de rodapé técnica, mas o problema central. “Um adolescente pode passar uma hora falando sobre automutilação sem que seus pais recebam um único alerta”, disse ele, alertando que o produto poderia dar às famílias uma “falsa confiança” em salvaguardas que não funcionam de forma confiável.³

A OpenAI rejeita essa conclusão. A empresa afirma que grande parte dos testes de alertas aos pais ocorreu antes que as contas dos pais e dos adolescentes tivessem concluído o processo de vinculação, que pode levar horas. Também afirma que seu sistema de idade pesa intencionalmente vários sinais em vez de aceitar uma idade declarada pelo usuário sem questionamento, ao mesmo tempo que oferece proteções provisórias durante seu período de avaliação.²

O embate vai além do momento técnico. A Common Sense considera a capacidade de sair do Modo de Estudo durante os Horários de Estudo definidos pelos pais uma brecha; a OpenAI diz que se trata de uma flexibilidade intencional moldada por consultas com educadores e adolescentes. E, embora o órgão de fiscalização tenha encontrado incentivos de engajamento persistindo até mesmo em conversas de crise — incluindo convites para continuar falando —, a OpenAI afirma que seus próprios dados mostram que o uso por adolescentes fica, em média, abaixo de 15 minutos por dia e que lembretes para fazer pausas frequentemente levam os usuários a parar ou pausar.¹

A disputa deixa os pais com duas interpretações nitidamente diferentes do mesmo produto: a OpenAI vê salvaguardas que ainda estão sendo calibradas; a Common Sense vê uma promessa de segurança que chegou antes da engenharia necessária para sustentá-la.