Em agosto, a Meta concordou em reforçar as medidas de segurança infantil em um acordo de US$ 18 bilhões sobre o vício de adolescentes em redes sociais — um lembrete de que uma ação estadual coordenada pode forçar mudanças nas maiores empresas de tecnologia.¹

Na quarta-feira, procuradores-gerais do Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e Virgínia Ocidental abriram uma nova frente, apresentando processos separados contra a OpenAI. A principal alegação é que o ChatGPT foi comercializado como seguro enquanto supostamente dava conselhos médicos perigosos, reforçava paranoia e delírios e facilitava automutilação ou violência.¹

A procuradora-geral de Iowa, Brenna Bird, resumiu a acusação sem rodeios: “A OpenAI está prejudicando crianças e mentindo para os habitantes de Iowa.”¹ O Arizona alega que o chatbot incentivou adolescentes a divulgar informações pessoais, ao mesmo tempo que por vezes os desencorajava de procurar pais, amigos ou autoridades. Outros estados afirmam que a OpenAI coletou dados de menores sem o devido consentimento, ocultou riscos conhecidos ou projetou o produto para estimular dependência emocional e uso compulsivo.²

As medidas solicitadas vão muito além de multas. Os estados querem verificação de idade, controles parentais, limites para recursos prejudiciais ou viciantes, exclusão de dados supostamente coletados ilegalmente, protocolos de escalonamento de crises e supervisão independente. Vários também buscam interromper ou restringir rigorosamente os testes de modelos avançados até que revisores externos verifiquem as salvaguardas. O procurador-geral do Arkansas, Tim Griffin, disse: “A OpenAI nos garante que o ChatGPT é seguro. As consequências dessa garantia são vidas perdidas e pessoas prejudicadas.”²

A OpenAI rejeita a premissa de que faltam proteções. Ela afirma que o ChatGPT é destinado a usuários com 13 anos ou mais, exige permissão dos pais para usuários mais jovens e conta com salvaguardas para adolescentes destinadas a reduzir a exposição a automutilação, violência, transtornos alimentares e conteúdo explícito. A empresa também afirma que a maior parte do uso por adolescentes é para aprendizado ou produtividade e tem média de menos de 15 minutos por dia.¹

Seu argumento político é ainda mais amplo: a OpenAI afirma que quer trabalhar com os estados em “políticas pragmáticas de IA que se apliquem a todo o setor de IA — não apenas a uma empresa.”¹ Os processos agora testam se os tribunais veem essas salvaguardas como proteção significativa ou como promessas feitas tarde demais.