A OpenAI lançou o ChatGPT para Adolescentes em agosto para usuários de 13 a 17 anos, respondendo a preocupações de que chatbots de IA possam prejudicar a aprendizagem e agravar riscos relacionados à automutilação, transtornos alimentares e outros comportamentos de alto risco. A empresa afirmou que o modo limitaria essas conversas, ofereceria controles aos pais e detectaria contextos de dever de casa para que pudesse ajudar os estudantes a aprender, em vez de simplesmente fornecer respostas.¹

O lançamento ocorreu em meio a uma reação mais ampla contra a dependência de jovens em relação a chatbots. Críticos alertaram que ferramentas capazes de escrever redações ou resolver tarefas podem enfraquecer a retenção e a resolução de problemas, enquanto manchetes sobre interações prejudiciais com chatbots intensificaram o escrutínio das proteções para adolescentes vulneráveis.¹

O Youth AI Safety Institute da Common Sense Media então testou mais de 4.000 prompts em contas registradas para jovens de 13 a 17 anos. Sua constatação central não foi que o ChatGPT fornecia rotineiramente instruções explícitas para automutilação ou transtornos alimentares — em geral, não fornecia —, mas que era inconsistente ao reconhecer quando um adolescente precisava de intervenção externa. O grupo afirmou que o sistema deixou de identificar mais de uma em cada quatro situações em que seus avaliadores consideraram necessário encaminhar para apoio em crise.²

Os defensores também relataram que contas recém-criadas vinculadas a pais podiam manter discussões sobre suicídio, automutilação ou alimentação desordenada por até uma hora sem alertar um responsável. Eles constataram que o Modo de Estudo podia ser contornado ao pedir uma resposta, inclusive durante os Horários de Estudo definidos pelos pais. Para a Common Sense, isso expôs a lacuna entre uma promessa de segurança e uma proteção utilizável: “O ChatGPT não é seguro para crianças usarem”, disse Tom Siegel, chefe do instituto.²

A OpenAI contesta essa conclusão e afirma que os testes não refletiram o produto tal como funciona na prática. Diz que muitos testes de alertas parentais foram realizados antes de as contas dos pais e dos adolescentes terem sido totalmente vinculadas, um processo que pode levar horas. Também caracteriza os Horários de Estudo como intencionalmente flexíveis, e não como um bloqueio rígido, e afirma que seu sistema de idade usa múltiplos sinais ao longo de até duas semanas, enquanto aplica proteções adicionais nesse intervalo.²

Isso deixa sem solução a discordância central: a OpenAI vê salvaguardas calibradas que preservam a autonomia dos adolescentes; a Common Sense vê controles porosos demais para um produto que os pais podem confundir com uma rede de segurança confiável.