A Amazon introduziu seus perfis “Sobre você” com IA em maio, reformulando o já conhecido mecanismo de recomendações como algo que os clientes podem inspecionar. O recurso se baseia em históricos de compras, pesquisas, listas salvas, avaliações e conversas com a Alexa para Compras, permitindo então que os usuários editem ou excluam as suposições que orientam as sugestões de produtos.¹

O momento transformou a ferramenta em um espetáculo nas redes sociais. À medida que compradores começaram a comparar dossiês, as inferências supostamente úteis da Amazon pareciam menos com uma segmentação varejista genérica e mais com uma análise de personalidade não solicitada: uma usuária disse que o sistema concluiu que ela tinha “nádegas achatadas”; outra descobriu que ele havia identificado um marido com “pernas magras”. Uma terceira pessoa se surpreendeu com a observação de que usa o celular no chuveiro para ler livros do Kindle. O apelo, e o desconforto, está em ver o perfil que normalmente fica escondido atrás da cortina.¹

Um teste da redação do Business Insider sugeriu que o algoritmo não é nem clarividente nem totalmente aleatório. Os funcionários geralmente encontraram cerca de 30 a 45 observações. Ele frequentemente reconhecia animais de estimação, locais, hábitos de compras de supermercado e aquisições, mas confundia detalhes familiares e relacionamentos. A conta compartilhada de um editor levou a Amazon a identificar um gato e ignorar outro; outro perfil atribuiu incorretamente a alguém uma namorada chamada “Barry”. Ainda assim, muitas avaliações chegaram perto o suficiente para parecerem invasivas: uma repórter disse que o sistema sabia que ela preferia produtos orgânicos e recipientes de vidro para alimentos, enquanto outra foi rotulada como tendo necessidades de “segurança no banheiro” após comprar uma cadeira para banho.²

Esse histórico misto é central para o desconforto. Suposições erradas podem ser engraçadas, mas o sistema subjacente é construído a partir de um amplo rastro comportamental — e suas conclusões ainda podem direcionar as pessoas a determinados produtos e marcas. Uma análise argumenta que a página da Amazon é apenas um fragmento visível de uma mudança muito maior: serviços de IA estão recebendo acesso a e-mails, calendários, mensagens de texto e contas bancárias, à medida que empresas buscam formas de transformar em receita os caros investimentos em IA.³

Por enquanto, a Amazon oferece aos usuários alguma possibilidade de correção. A questão mais ampla é se a capacidade de editar um dossiê oferece segurança suficiente quando os compradores entendem quão detalhado esse dossiê pode se tornar.