Los algoritmos no necesitan acertar todo el tiempo para resultar útiles. Les basta con encontrar patrones que permitan estimar qué contenido podría interesarnos, qué producto podríamos buscar o qué recomendación tendría mayor probabilidad de funcionar.
El problema aparece cuando la señal es correcta, pero su significado no lo es.
Una búsqueda ocurrió. Un video fue visto. Una compra quedó registrada. El sistema puede relacionar esas acciones con otras, pero desconoce muchas de las razones que existen detrás. Y ahí empiezan algunos de sus errores más cotidianos.
Los sistemas pueden reconocer lo que hacemos sin conocer siempre la razón por la que lo hacemos.
-
Buscamos algo para otra persona
Una búsqueda suele funcionar como una señal de interés. Pero no todo lo que buscamos tiene que ver con nosotros.
Podemos comparar teléfonos para ayudar a un familiar, revisar vuelos para alguien más o buscar un regalo que jamás compraríamos para nosotros.
El sistema registra una actividad completamente real: consultamos determinados productos, visitamos varias páginas y quizá comparamos precios.
Lo que desconoce es para quién estábamos haciendo todo eso.
Por eso, después de comprar un regalo o ayudar a otra persona a elegir algo, pueden aparecer durante días recomendaciones relacionadas con un interés que en realidad nunca fue nuestro.
-
Un interés puede durar muy poco
Algunas señales tienen una vida corta.
Si nuestro refrigerador deja de funcionar, probablemente pasaremos varios días revisando modelos, precios, reseñas, tiendas y características. Durante ese periodo, el comportamiento parece muy consistente: claramente estamos interesados en refrigeradores.
Pero después de comprar uno, ese interés puede desaparecer prácticamente de un día para otro.
Los sistemas necesitan tiempo y nuevas señales para actualizar esa lectura. Mientras ocurre, podemos seguir encontrando anuncios y recomendaciones relacionados con algo que ya resolvimos.
El dato era correcto. Lo que cambió fue nuestro contexto.
-
Mirar algo no significa que nos guste
Esta quizá sea una de las señales más ambiguas.
Podemos abrir una publicación porque nos interesa, pero también porque nos sorprende, nos molesta, queremos verificarla o simplemente sentimos curiosidad.
Incluso permanecer bastante tiempo frente a un contenido puede tener significados opuestos.
Un sistema ve la interacción y puede relacionarla con otros comportamientos. La emoción o intención que existe detrás resulta mucho más difícil de reconstruir.
Ahí aparece una de las paradojas de la personalización digital: prestar atención a algo puede hacer que recibamos más contenido parecido, aunque precisamente lo hayamos visto porque nos desagradó.
-
Compartimos cuentas, dispositivos y espacios
Una misma pantalla puede tener varias historias detrás.
Una televisión familiar, una tableta compartida, una computadora utilizada por distintas personas o una cuenta que todos usan pueden mezclar señales que pertenecen a intereses diferentes.
De pronto aparecen caricaturas junto a documentales, videojuegos junto a decoración o música que nadie recuerda haber buscado.
Desde fuera puede parecer que el algoritmo perdió completamente la brújula.
En realidad, está intentando encontrar coherencia dentro de señales que proceden de varias personas.
Algo parecido puede ocurrir cuando distintos dispositivos, servicios o cuentas participan en una misma experiencia digital. Las fronteras entre “mi actividad” y “la actividad alrededor de mí” no siempre son tan limpias como parecen.
-
Nuestros intereses cambian
Quizá el error más sencillo de entender sea también uno de los más difíciles de resolver: nosotros cambiamos.
Dejamos hobbies, encontramos otros. Cambiamos de trabajo, de rutinas, de ciudad, de necesidades o de prioridades. Un sistema puede tener una gran cantidad de información sobre comportamientos anteriores y, aun así, estar trabajando con una versión de nosotros que empieza a quedarse atrás.
Por eso las recomendaciones tampoco son una fotografía definitiva. Se ajustan conforme aparecen nuevas señales, algunas lecturas se fortalecen y otras pierden relevancia.
En cierto sentido, los sistemas siempre están intentando alcanzarnos.
También podemos cambiar lo que dejamos disponible
Entender estos errores sirve además para recordar que una parte de esas señales puede administrarse.
Podemos revisar qué permisos tienen nuestras aplicaciones, qué actividad conservan nuestras cuentas y qué opciones de personalización están activadas. También podemos decidir cuándo una aplicación necesita nuestra ubicación, revisar historiales o modificar determinados controles relacionados con anuncios y recomendaciones.
Cambiar esas configuraciones no borra automáticamente toda nuestra historia digital. Sí permite tener mayor claridad sobre qué información seguimos compartiendo y cómo queremos utilizar determinados servicios.
En iPhone, herramientas como el Reporte de privacidad de las apps ayudan a revisar accesos y permisos. Android cuenta con su Panel de privacidad, y servicios como Google permiten consultar y modificar parte de la actividad utilizada para personalización.
Entender cómo nos leen también implica reconocer qué parte de esa lectura podemos ajustar.
Una interpretación nunca tiene todo el contexto
Durante esta semana vimos que búsquedas, interacciones, ubicación, perfiles y otras formas de actividad pueden convertirse en señales que los sistemas relacionan. Pero relacionar señales sigue siendo distinto a vivir la experiencia que las produjo.
El sistema registra que buscamos vuelos; nosotros sabemos si era por vacaciones, trabajo o por ayudar a alguien. Registra que vimos un video completo; nosotros sabemos si nos fascinó o nos indignó.
Ahí está uno de los límites más interesantes de esta lectura digital. Un algoritmo puede encontrar un patrón correcto y equivocarse sobre lo que significa.
Y basta mirar de vez en cuando nuestras propias recomendaciones para recordar que, por muy buenos que sean encontrando señales, todavía tienen mucho que aprender sobre nuestras razones.