Amazon presentó en mayo sus perfiles «Sobre ti» impulsados por IA, replanteando el conocido motor de recomendaciones como algo que los clientes pueden inspeccionar. La función se basa en historiales de compras, búsquedas, listas guardadas, reseñas y conversaciones con Alexa para compras, y luego permite a los usuarios editar o eliminar las suposiciones que orientan las sugerencias de productos.¹

El momento ha convertido la herramienta en un espectáculo en las redes sociales. Cuando los compradores empezaron a comparar expedientes, las inferencias supuestamente útiles de Amazon se parecían menos a la segmentación comercial insulsa y más a un análisis de personalidad no solicitado: una usuaria dijo que el sistema concluyó que tenía «nalgas planas»; otra descubrió que había identificado a un marido con «piernas delgadas». Una tercera se sorprendió por la observación de que usa un teléfono en la ducha para leer libros de Kindle. El atractivo, y la incomodidad, radican en ver el perfil que normalmente se mantiene tras bambalinas.¹

Una prueba de la redacción de Business Insider sugirió que el algoritmo no es ni clarividente ni completamente aleatorio. El personal encontró habitualmente entre 30 y 45 observaciones. A menudo reconocía mascotas, ubicaciones, hábitos de compra de comestibles y adquisiciones, pero confundía detalles familiares y relaciones. La cuenta compartida de una editora llevó a Amazon a identificar a un gato mientras pasaba por alto a otro; otro perfil asignó erróneamente a alguien una novia llamada «Barry». Sin embargo, muchos juicios acertaron lo suficiente como para resultar invasivos: una reportera dijo que el sistema sabía que prefería productos orgánicos y recipientes de vidrio para alimentos, mientras que a otra se la etiquetó como alguien con necesidades de «seguridad en el baño» después de comprar una silla para ducha.²

Ese historial mixto es central para la inquietud. Las conjeturas erróneas pueden ser divertidas, pero el sistema subyacente se construye a partir de un amplio rastro de comportamiento, y sus conclusiones aún pueden orientar a las personas hacia determinados productos y marcas. Un análisis sostiene que la página de Amazon es solo un fragmento visible de un cambio mucho mayor: se está concediendo a los servicios de IA acceso al correo electrónico, calendarios, mensajes de texto y cuentas bancarias, mientras las empresas buscan formas de convertir en ingresos sus costosas inversiones en IA.³

Por ahora, Amazon ofrece a los usuarios cierta capacidad de corrección. La cuestión más amplia es si la posibilidad de editar un expediente ofrece suficiente tranquilidad una vez que los compradores comprenden cuán detallado puede llegar a ser ese expediente.