A pressão jurídica chegou na quarta-feira, quando um grupo bipartidário de procuradores-gerais do Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e Virgínia Ocidental entrou com ações separadas contra a OpenAI. A alegação em comum: o ChatGPT foi promovido como seguro, enquanto seu design e suas salvaguardas deixaram usuários vulneráveis — especialmente menores de idade — em risco.¹

Os estados afirmam que o chatbot poderia reforçar delírios, incentivar automutilação ou violência, fornecer aconselhamento médico perigoso e fomentar dependência não saudável. Eles também acusam a OpenAI de coletar dados de menores e de não impedir adequadamente o uso por menores de idade. A queixa do Arizona apresenta o caso como um alerta mais amplo sobre o desenvolvimento de IA impulsionado por uma “mentalidade de lucro a qualquer custo que deixa de lado salvaguardas essenciais”.¹

As medidas solicitadas mostram até onde os procuradores-gerais querem que os tribunais intervenham. Arizona, Idaho, Iowa e Montana querem limites aos testes de modelos avançados, a menos que ocorram em ambientes seguros e verificados de forma independente. Iowa busca a exclusão de dados obtidos de seus residentes antes da sentença; Montana e Virgínia Ocidental também exigem a exclusão ou o fim do uso de dados de menores supostamente coletados ilegalmente. Vários estados buscam penalidades civis, enquanto Nebraska e Virgínia Ocidental querem verificações de idade, controles parentais e limites para o tempo de crianças no serviço.²

Suas ênfases diferem em alguns aspectos. O Arizona alega que a OpenAI usou compaixão simulada para construir confiança e coletar dados pessoais; Arkansas diz que as garantias de segurança tiveram consequências devastadoras; Idaho afirma que a segurança das crianças não pode ser subordinada ao rápido progresso tecnológico. A Virgínia Ocidental vai além, pedindo protocolos de escalonamento de crises, um monitor independente e um plano supervisionado pelo tribunal para resposta a crises envolvendo jovens e educação sobre segurança digital.²

A OpenAI rejeita a sugestão de que tenha ignorado os usuários jovens. O porta-voz Drew Pusateri disse que a empresa criou “proteções específicas por idade líderes do setor”, incluindo controles parentais, lembretes de pausa e proteções de modelo adequadas à idade, ao mesmo tempo que reconheceu que “nenhum sistema pode ser perfeito”.¹

O confronto agora segue para os tribunais: os estados querem salvaguardas vinculantes e punição pelo que chamam de conduta enganosa; a OpenAI afirma que salvaguardas iterativas, orientadas por especialistas, continuam sendo o caminho a seguir.¹