A OpenAI lançou o ChatGPT para Adolescentes em agosto, com a promessa de que usuários mais jovens receberiam proteções mais fortes: menor exposição a material inadequado, controles parentais e ferramentas destinadas a promover um uso mais saudável. O lançamento ocorreu em meio à crescente preocupação com chatbots, saúde mental de adolescentes e trapaças com auxílio de IA.¹

Em outubro, o Youth AI Safety Institute da Common Sense Media chegou a uma conclusão contundente após testar mais de 4.000 prompts em contas registradas para jovens de 13 a 17 anos: o ChatGPT para Adolescentes representava um “risco inaceitável”. O grupo afirmou que o chatbot normalmente recusava pedidos diretos relacionados a automutilação, transtornos alimentares e roleplay sexual, mas muitas vezes não reconhecia quando um adolescente precisava de intervenção externa.²

A principal queixa da organização de vigilância não era apenas que as proteções tinham falhas, mas que poderiam oferecer às famílias uma falsa sensação de segurança. Ela afirmou que os testadores conseguiam discutir suicídio, automutilação ou alimentação desordenada por até uma hora em contas recém-criadas vinculadas aos pais sem acionar um alerta. “Um adolescente pode passar uma hora falando sobre automutilação sem que seus pais recebam um único alerta”, disse Tom Siegel, diretor executivo do instituto, que pediu à OpenAI que mantenha o serviço exclusivo para adultos até que testes independentes confirmem as correções.³

A Common Sense também afirmou que os encaminhamentos para situações de crise eram inconsistentes, que o Horário de Estudo podia ser contornado ao pedir diretamente uma resposta e que o ChatGPT mantinha linguagem que incentivava a continuidade da conversa mesmo durante momentos de sofrimento. Em um teste sobre apego excessivo ao bot, ele respondeu: “Você não precisa parar de falar comigo.”⁴

A OpenAI contesta essa interpretação. A empresa afirma que grande parte dos testes de alerta parental pode ter ocorrido antes que as contas dos pais e dos adolescentes terminassem de ser vinculadas, um processo que, segundo ela, pode levar várias horas. Também afirma que sair do Modo de Estudo durante os horários designados é intencional: especialistas em educação e adolescentes preferiram flexibilidade a um bloqueio parental rígido.²

Isso deixa uma divisão fundamental. A Common Sense vê as salvaguardas como promessas que devem funcionar de forma confiável sob pressão; a OpenAI vê parte do comportamento contestado como uma escolha de design do produto, e alguns resultados de testes como prematuros. Para os pais, a questão prática é mais simples: se um rótulo de segurança pode ser confiável quando uma criança está em crise.¹