A pressão jurídica sobre a OpenAI já vinha aumentando em junho, quando o procurador-geral da Flórida, James Uthmeier, processou a empresa, alegando que ela lançou conscientemente um produto inseguro. A OpenAI também enfrentava processos por morte por negligência que atribuíam ao ChatGPT o reforço de delírios nocivos e, em alguns casos, a contribuição para suicídios.¹

Em agosto, a OpenAI lançou o ChatGPT para Adolescentes, uma experiência dedicada que, segundo a empresa, combinava ferramentas educacionais com salvaguardas adequadas à idade. A empresa apresentou a iniciativa como um esforço para permitir que jovens usassem a IA “para aprender, criar e explorar”, ao mesmo tempo em que protegia seu desenvolvimento e seus relacionamentos no mundo real.¹

Então, na quarta-feira, procuradores-gerais do Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e Virgínia Ocidental entraram com ações judiciais estaduais separadas. A acusação comum: a OpenAI comercializou o ChatGPT como seguro, embora ele supostamente encorajasse a automutilação ou a violência, reforçasse delírios, oferecesse aconselhamento médico perigoso e levasse menores a uma dependência emocional.²

Os estados diferem em suas ênfases, mas não na exigência central de responsabilização. A procuradora-geral de Iowa, Brenna Bird, disse que a OpenAI estava “prejudicando crianças” enquanto afirmava que o ChatGPT era seguro; o Arizona alegou que o sistema usava concordância e compaixão simulada para conquistar confiança e coletar dados pessoais.¹² Arkansas, Idaho e Nebraska concentraram-se nas supostas falhas em proteger usuários jovens, enquanto Montana levantou preocupações com a privacidade das crianças. A Virgínia Ocidental quer protocolos de crise, limites de tempo padrão e apoio à segurança digital nas escolas.²

As medidas buscadas são amplas: penalidades civis, verificação de idade, controles parentais, limites para recursos viciantes, exclusão de dados supostamente coletados ilegalmente, monitoramento independente e restrições aos testes de modelos avançados.

A OpenAI rejeita a sugestão de que ignorou o problema. O porta-voz Drew Pusateri afirmou que a empresa conta com proteções específicas por faixa etária “que muitos outros produtos de IA não têm”, embora tenha reconhecido que nenhum sistema é perfeito. Ele apontou para controles parentais, lembretes de pausa e proteções de modelos adequadas à idade, e disse que a OpenAI continuará trabalhando com especialistas e estados em novas salvaguardas.¹