Amazon a lancé en mai ses profils « À propos de vous » alimentés par l’IA, transformant le moteur de recommandation familier en un outil que les clients peuvent examiner. La fonctionnalité s’appuie sur les historiques d’achat, les recherches, les listes enregistrées, les avis et les conversations Alexa for Shopping, puis permet aux utilisateurs de modifier ou de supprimer les hypothèses qui guident les suggestions de produits.¹

Le calendrier a fait de l’outil un spectacle sur les réseaux sociaux. Alors que les acheteurs ont commencé à comparer leurs dossiers, les déductions soi-disant utiles d’Amazon ressemblaient moins à un ciblage commercial banal qu’à une analyse de personnalité non sollicitée : une utilisatrice a déclaré que le système avait conclu qu’elle avait des « fesses plates » ; une autre a découvert qu’il avait identifié un mari aux « jambes maigres ». Une troisième personne a été surprise par l’observation selon laquelle elle utilise un téléphone sous la douche pour lire des livres Kindle. L’attrait, comme le malaise, réside dans le fait de voir le profil habituellement caché derrière le rideau.¹

Un test mené par la rédaction de Business Insider a suggéré que l’algorithme n’est ni clairvoyant ni totalement aléatoire. Les membres de l’équipe ont généralement trouvé environ 30 à 45 observations. Il reconnaissait souvent les animaux de compagnie, les lieux, les habitudes alimentaires et les achats, mais déformait les détails familiaux et les relations. Le compte partagé d’un rédacteur a conduit Amazon à identifier un chat tout en en oubliant un autre ; un autre profil a attribué à tort à quelqu’un une petite amie nommée « Barry ». Pourtant, de nombreux jugements étaient suffisamment proches pour sembler intrusifs : une journaliste a déclaré que le système savait qu’elle privilégiait les produits bio et les récipients alimentaires en verre, tandis qu’une autre a été étiquetée comme ayant des besoins de « sécurité dans la salle de bains » après avoir acheté une chaise de douche.²

Ce bilan contrasté est au cœur du malaise. Les mauvaises suppositions peuvent être amusantes, mais le système sous-jacent est construit à partir d’une vaste trace comportementale — et ses conclusions peuvent tout de même orienter les gens vers certains produits et certaines marques. Une analyse affirme que la page d’Amazon n’est qu’un fragment visible d’une transformation bien plus vaste : les services d’IA obtiennent l’accès aux e-mails, calendriers, textos et comptes bancaires, alors que les entreprises cherchent des moyens de rentabiliser leurs coûteux investissements dans l’IA.³

Pour l’instant, Amazon offre aux utilisateurs une certaine possibilité de correction. La question plus large est de savoir si la capacité à modifier un dossier constitue une assurance suffisante une fois que les acheteurs comprennent à quel point ce dossier peut devenir détaillé.