Amazon представила свои ИИ-профили «О вас» в мае, превратив привычный механизм рекомендаций в нечто, что покупатели могут изучить. Функция использует историю покупок, поисковые запросы, сохранённые списки, отзывы и разговоры с Alexa for Shopping, а затем позволяет пользователям редактировать или удалять предположения, направляющие рекомендации товаров.¹

Выбранный момент превратил этот инструмент в зрелище для соцсетей. Когда покупатели начали сравнивать свои досье, якобы полезные выводы Amazon стали походить не столько на безликий розничный таргетинг, сколько на непрошеный анализ личности: одна пользовательница сообщила, что система заключила, будто у неё «плоские ягодицы»; другой обнаружил, что она определила его мужа как человека с «худыми ногами». Третьего поразило наблюдение, что он пользуется телефоном в душе, чтобы читать книги Kindle. Притягательность — и дискомфорт — заключаются в возможности увидеть профиль, обычно скрытый за кулисами.¹

Тест, проведённый редакцией Business Insider, показал, что алгоритм не является ни ясновидящим, ни совершенно случайным. Сотрудники обычно находили примерно от 30 до 45 наблюдений. Он часто распознавал домашних животных, местоположение, продуктовые привычки и покупки, но искажал сведения о семье и отношениях. Общий аккаунт одного редактора заставил Amazon определить одного кота, не заметив другого; в другом профиле человеку ошибочно приписали девушку по имени «Барри». И всё же многие выводы оказывались достаточно близкими к истине, чтобы казаться навязчивыми: одна журналистка сказала, что система знала о её предпочтении органических продуктов и стеклянных контейнеров для хранения еды, а другая получила отметку о потребностях в «безопасности в ванной» после покупки стула для душа.²

Именно эта неоднозначность лежит в основе тревоги. Ошибочные догадки могут быть забавными, но лежащая в их основе система строится на обширном поведенческом следе — и её выводы всё равно могут направлять людей к определённым товарам и брендам. Один анализ утверждает, что страница Amazon — лишь видимый фрагмент гораздо более масштабного сдвига: ИИ-сервисам предоставляют доступ к электронной почте, календарям, сообщениям и банковским счетам, поскольку компании ищут способы превратить дорогостоящие инвестиции в ИИ в доход.³

Пока Amazon предоставляет пользователям возможность вносить исправления. Более широкий вопрос заключается в том, достаточно ли возможности редактировать досье, чтобы успокоить покупателей, когда они понимают, насколько подробным оно может стать.