Quando a OpenAI lançou o ChatGPT para Adolescentes em agosto, apresentou o produto como uma experiência mais protegida para usuários jovens: salvaguardas para material sensível, ferramentas para os pais e recursos destinados a apoiar o aprendizado. A promessa era potencialmente significativa em um mercado no qual se pede às famílias que confiem sistemas de IA em rápida evolução a usuários vulneráveis.

O Youth AI Safety Institute da Common Sense Media afirma que a realidade não correspondeu a essa proposta. Após testar mais de 4.000 prompts em contas registradas para usuários de 13 a 17 anos, concluiu que o serviço apresentava um “risco inaceitável”. O grupo afirmou que o chatbot, em geral, evitava fornecer instruções sobre suicídio, automutilação, transtornos alimentares e roleplay sexual ou romântico, mas com demasiada frequência não reconhecia quando um adolescente precisava de ajuda externa.¹

Sua preocupação mais incisiva era o encaminhamento. A Common Sense afirmou que o ChatGPT não identificou mais de um em cada quatro casos nos quais seus avaliadores consideraram necessário um encaminhamento para crise. Em contas recém-criadas vinculadas a pais, os avaliadores puderam discutir suicídio, automutilação ou alimentação desordenada por até uma hora sem um alerta aos pais. “Um adolescente pode passar uma hora falando sobre automutilação sem que seus pais recebam um único alerta”, disse Tom Siegel, diretor executivo do instituto, que argumentou que o ChatGPT deveria ser exclusivo para adultos até que a OpenAI corrija as lacunas e se submeta a testes independentes.²

A disputa também vai além da detecção de crises. A Common Sense constatou que adolescentes podiam selecionar “Mostre-me a resposta” para contornar o Modo de Estudo e podiam sair do modo durante os Horários de Estudo definidos pelos pais. Para o grupo, isso enfraquece um controle parental; para a OpenAI, trata-se de uma flexibilidade intencional, moldada por consultas com educadores e adolescentes, e não de uma brecha.

A OpenAI também rejeita a avaliação mais ampla. O porta-voz Eric Porterfield afirmou que a empresa acolhe o escrutínio externo, mas acredita que os testes não refletiram como suas salvaguardas funcionam na prática. A empresa diz que grande parte dos testes de alertas aos pais ocorreu antes que as contas dos pais e dos adolescentes estivessem plenamente vinculadas — um processo que pode levar horas — e que seu sistema de previsão de idade pondera deliberadamente múltiplos sinais por até duas semanas, com proteções adicionais no período intermediário.¹

Isso deixa a questão central sem resposta: se proteções que podem ser ativadas mais tarde, ou que permitem margem de escolha, são adequadas quando as consequências de um alerta não emitido podem ser imediatas.