Amazon führte im Mai seine KI-gestützten „Über Sie“-Profile ein und machte aus der vertrauten Empfehlungsmaschine etwas, das Kunden einsehen können. Die Funktion greift auf Kaufhistorien, Suchanfragen, gespeicherte Listen, Bewertungen und Alexa-for-Shopping-Gespräche zurück und ermöglicht es Nutzern anschließend, die Annahmen zu bearbeiten oder zu löschen, die Produktempfehlungen steuern.¹

Der Zeitpunkt hat das Tool zu einem Spektakel in den sozialen Medien gemacht. Als Käufer begannen, ihre Dossiers zu vergleichen, wirkten Amazons angeblich hilfreiche Schlussfolgerungen weniger wie gewöhnliches Retail-Targeting und mehr wie ungefragte Charakteranalysen: Eine Nutzerin sagte, das System habe festgestellt, sie habe einen „flachen Hintern“; eine andere stellte fest, dass es bei ihrem Ehemann „dünne Beine“ erkannt hatte. Eine dritte Person war erschrocken über die Beobachtung, dass sie unter der Dusche ein Telefon benutzt, um Kindle-Bücher zu lesen. Reiz und Unbehagen liegen darin, das Profil zu sehen, das normalerweise hinter dem Vorhang bleibt.¹

Ein Test der Business-Insider-Redaktion deutete darauf hin, dass der Algorithmus weder hellseherisch noch völlig zufällig ist. Mitarbeiter fanden häufig etwa 30 bis 45 Beobachtungen. Oft erkannte er Haustiere, Orte, Einkaufsgewohnheiten und Käufe, verstümmelte jedoch Familiendetails und Beziehungen. Der gemeinsam genutzte Account eines Redakteurs führte dazu, dass Amazon eine Katze identifizierte, eine andere jedoch übersah; einem anderen Profil wurde fälschlicherweise eine Freundin namens „Barry“ zugeordnet. Dennoch lagen viele Einschätzungen nah genug an der Realität, um aufdringlich zu wirken: Eine Reporterin sagte, das System wisse, dass sie Bio-Produkte und Lebensmittelbehälter aus Glas bevorzuge, während eine andere nach dem Kauf eines Duschstuhls mit Bedürfnissen im Bereich „Badsicherheit“ versehen wurde.²

Diese gemischte Bilanz steht im Zentrum des Unbehagens. Falsche Vermutungen können amüsant sein, doch das zugrunde liegende System wird aus einer breiten Verhaltensspur aufgebaut – und seine Schlussfolgerungen können Menschen dennoch zu bestimmten Produkten und Marken lenken. Einer Analyse zufolge ist Amazons Seite nur ein sichtbares Fragment eines weitaus größeren Wandels: KI-Dienste erhalten Zugang zu E-Mails, Kalendern, Textnachrichten und Bankkonten, während Unternehmen nach Wegen suchen, kostspielige KI-Investitionen in Einnahmen zu verwandeln.³

Vorerst bietet Amazon Nutzern ein gewisses Maß an Korrekturmöglichkeiten. Die weitergehende Frage ist, ob die Möglichkeit, ein Dossier zu bearbeiten, ausreichend beruhigt, sobald Käufer verstehen, wie detailliert dieses Dossier werden kann.