A imagem pública do uso de chatbots tem sido traçada em grande parte pelas empresas que os operam. Um novo Observatório de IA diz que essa imagem é arrumada demais — e que a realidade mais caótica inclui companhia, questões de saúde, conteúdo sexual e desinformação política.

O projeto foi construído enquanto pesquisadores se deparavam com uma lacuna básica: assistentes de IA têm bilhões de usuários, mas as evidências de como as pessoas realmente conversam com eles permanecem “escassas e fragmentadas”. O Observatório agrega conversas anonimizadas e consentidas de sete fontes existentes para criar um recurso público de pesquisa.¹

Sua co-líder, a pesquisadora de Stanford Anka Reuel, diz que o problema dos estudos divulgados pelas empresas não é que sejam inúteis, mas que são seletivos. “Não existe uma fonte independente para corroborar isso”, disse ela sobre os dados divulgados pelos principais laboratórios.² A equipe combinou 24.521 conversas e 85.633 turnos de 5.000 usuários em 52 modelos entre 2023 e 2025.

Os resultados desafiam a moldura centrada em trabalho usada em relatórios proeminentes da indústria. Quando os pesquisadores aplicaram à sua base de dados a metodologia focada em produtividade da Anthropic, 48% dos chats teriam sido excluídos. Essas trocas omitidas eram mais propensas a envolver saúde e relacionamentos, temas adultos ou ilícitos, assédio e ódio, e conteúdo sexual.

A linha do tempo também mostra uma mudança no uso. No conjunto de dados WildChat, as conversas se tornaram mais longas e mais conversacionais ao longo do tempo, enquanto a auto-divulgação do chatbot diminuiu e as trocas sensíveis caíram — um padrão que, segundo os pesquisadores, pode refletir tanto o crescente uso para companhia quanto salvaguardas mais rígidas. Plataformas diferentes também atraíram comportamentos diferentes: Grok e Gemini foram usados mais para recuperação de informações, com a desinformação concentrada no Grok; Claude esteve mais associado à programação, o Gemini a interações sociais e de interpretação de papéis, e o ChatGPT à ajuda com dever de casa.

A posição da indústria é mais qualificada do que de rejeição. Um representante da Anthropic disse que sua pesquisa publicada reflete as questões específicas que suas equipes escolhem estudar e enfatizou o valor de pesquisas externas e independentes. O Observatório, por sua vez, admite que seu conjunto de dados voluntário não pode representar todo o uso de IA e pode subcontar os chats mais sensíveis. Ainda assim, o co-líder Shayne Longpre argumentou que “Nenhum relatório de uma única empresa conta a história completa.”²