Análisis

Cuando una IA recuerda algo de nosotros: entre la confianza y la incomodidad

Dos investigaciones recientes muestran cómo las referencias a conversaciones anteriores influyen en nuestra percepción de confianza, utilidad y privacidad.

Imagina que vuelves a conversar con un asistente de inteligencia artificial después de varios días. Le planteas una pregunta y, antes de responder, recupera una preferencia que mencionaste anteriormente. La referencia parece natural, facilita continuar la conversación y puede producir una sensación interesante: la tecnología ha tomado en cuenta algo que le contaste.

Ahora imagina que ese mismo asistente menciona un detalle personal que resulta ajeno a tu consulta. La capacidad técnica es aparentemente la misma, pero nuestra interpretación puede cambiar. Lo que parecía atención comienza a sentirse como una intromisión.

Esta diferencia ha despertado el interés de investigadores que estudian cómo percibimos la memoria de los sistemas conversacionales. Sus hallazgos permiten explorar una cuestión que va más allá de las funciones de una plataforma: qué convierte un recuerdo digital en una señal de confianza y cuándo puede producir incomodidad.

Cuando recordar resulta pertinente

Una investigación publicada el 10 de septiembre de 2026 en Frontiers in Psychology examinó cómo reaccionan las personas cuando un chatbot menciona información que supuestamente conserva de interacciones anteriores.

El trabajo, desarrollado por Runhua Huang, Yanzhi Huang y Huichao Guo, reunió seis experimentos controlados con 2,140 participantes. Los investigadores compararon tres condiciones: respuestas sin referencias a memoria, respuestas con recuerdos relacionados con la tarea y respuestas que introducían información personal o ajena al contexto.

Los participantes interactuaron con un prototipo conversacional que presentaba referencias ficticias a supuestos recuerdos. Así, los investigadores pudieron estudiar cómo cambiaban las evaluaciones de confianza ante diferentes mensajes, manteniendo controladas varias condiciones de la experiencia.

En el primer experimento, la confianza alcanzó un promedio de 4.86 puntos cuando el recuerdo era pertinente, frente a 4.47 cuando la respuesta carecía de memoria y 4.35 cuando incluía una referencia intrusiva, en una escala de siete puntos. Las diferencias estadísticamente significativas favorecieron al recuerdo pertinente frente a las otras dos condiciones; entre las respuestas sin memoria y las intrusivas no se encontró una diferencia significativa en ese experimento.

A lo largo de los seis estudios, el resultado más consistente fue que las referencias pertinentes recibían evaluaciones más favorables que las intrusivas. Sin embargo, las comparaciones con las respuestas sin memoria variaron según el experimento y el resultado evaluado.

El contexto cambia nuestra interpretación

Los investigadores utilizaron situaciones relacionadas con decisiones de consumo y consultas sobre bienestar. Una referencia a una preferencia de compra podía integrarse naturalmente en la conversación, mientras que mencionar hábitos nocturnos o señales de estrés podía provocar una interpretación diferente.

Para estudiar este fenómeno, propusieron el concepto Memory Boundary Fit, relacionado con el grado en que una referencia a información anterior parece apropiada dentro de los límites de la conversación actual.

El concepto abre una posibilidad interesante: nuestra confianza podría depender de la relación entre la información recordada, la tarea que estamos realizando y las expectativas sobre cómo debe utilizarse ese conocimiento.

Los propios autores advierten una limitación fundamental. Las respuestas comparadas también variaban en sensibilidad de la información, utilidad percibida y señales de posible vigilancia. Por eso, los experimentos todavía no permiten identificar cuál de esos factores explica por sí solo las diferencias observadas.

La investigación muestra un patrón de percepción, mientras deja abiertas preguntas sobre los mecanismos psicológicos que lo producen.

Explora cómo cambia la percepción de una conversación

Para comprender estas diferencias, podemos comparar tres maneras de responder a una misma solicitud: sin memoria, con un recuerdo pertinente y con una referencia que puede resultar intrusiva.

El siguiente interactivo presenta ejemplos ilustrativos y explica los principales hallazgos y límites de las investigaciones.

Entre la competencia y la privacidad

Un segundo estudio, publicado el 11 de septiembre de 2026 en Psychology & Marketing, aporta otra perspectiva sobre la relación entre memoria y percepción.

La investigación de Maedeh Parvizian y sus colaboradores reunió tres experimentos en línea basados en escenarios de atención al cliente mediante chatbots. El equipo examinó cómo la presencia de memoria a largo plazo podía influir en la satisfacción, la intención de seguir utilizando el servicio y las preocupaciones relacionadas con la privacidad.

Los resultados mostraron que la presencia de memoria favorecía la satisfacción y la intención de uso continuo. Una parte importante de esa relación se explicaba por una mayor percepción de competencia: cuando el asistente parecía recordar antecedentes, las personas podían considerarlo más capaz de realizar su tarea.

Sin embargo, los investigadores también encontraron efectos que podían contrarrestar esos beneficios. Las referencias a memoria podían despertar preocupaciones sobre privacidad y favorecer interpretaciones antropomórficas, es decir, atribuciones de características humanas a la tecnología.

Esto ayuda a comprender por qué una misma función puede recibir valoraciones diferentes. Recuperar información relevante puede representar eficiencia y continuidad, mientras que conocer antecedentes personales también lleva a preguntarnos cómo fueron conservados y utilizados.

En la atención al cliente mediante IA, esta tensión adquiere implicaciones comerciales. Desde la investigación psicológica, lo interesante es observar cómo las personas interpretan la capacidad de recordar antes de evaluar sus posibles beneficios.

La importancia de decidir qué se conserva

El tercer experimento de Psychology & Marketing examinó qué ocurría cuando las personas podían elegir cómo se utilizarían sus datos dentro de un escenario con memoria.

Los participantes que contaban con un mecanismo explícito de control percibieron mayor capacidad para gestionar su información. Los resultados también mostraron relaciones entre ese control, menores preocupaciones de privacidad y evaluaciones más favorables del servicio.

El hallazgo permite distinguir dos aspectos de la experiencia: la capacidad tecnológica de conservar antecedentes y la posibilidad de que las personas intervengan en el uso de esos antecedentes.

El estudio de Frontiers in Psychology también evaluó un panel para inspeccionar y modificar recuerdos. Aunque ese panel elevó la confianza promedio, no eliminó específicamente la diferencia desfavorable asociada con las referencias intrusivas.

Ambos resultados sugieren que el control de datos merece estudiarse junto con la forma en que se utilizan los recuerdos. Una herramienta de edición puede ofrecer mayor transparencia, pero la pertinencia de una referencia sigue formando parte de la experiencia.

Lo que todavía necesitamos investigar

Las dos investigaciones aportan evidencia reciente, aunque sus resultados deben interpretarse dentro de sus diseños experimentales.

El estudio de Frontiers in Psychology utilizó interacciones breves con recuerdos simulados y reclutó participantes vinculados a una institución educativa de China. El de Psychology & Marketing recurrió a escenarios estandarizados que permitían comparar condiciones, pero que difícilmente reproducen toda la complejidad de una relación prolongada con un asistente real.

Por ello, quedan pendientes investigaciones que observen conversaciones a lo largo de semanas o meses, recuerdos efectivamente recuperados de sesiones anteriores y decisiones reales de los usuarios sobre conservar, modificar o compartir información.

También será importante comprender cómo cambian nuestras expectativas. Una preferencia puede resultar útil en determinado momento y perder vigencia después. Un dato que compartimos para resolver una situación particular podría tener otro significado cuando vuelve a aparecer en una conversación distinta.

En nuestra relación cotidiana con la memoria de la IA, esas diferencias comienzan a adquirir importancia porque esperamos continuidad, pero también reconocemos el valor de actualizar nuestras decisiones y preferencias.

La memoria conversacional se está convirtiendo en un nuevo campo de investigación sobre la interacción entre personas y sistemas inteligentes. Sus efectos psicológicos dependen de factores que todavía estamos aprendiendo a distinguir.

Una inteligencia artificial puede recuperar información del pasado. La confianza comienza a definirse cuando interpretamos por qué ha elegido traerla al presente.

▏

Desde la investigación

La firma:

Research MentePost
Research MentePost
Equipo editorial dedicado al análisis, la investigación y la divulgación de temas sociales, científicos y tecnológicos, con enfoque crítico y contextual.
Nota MentePost
Esta publicación forma parte del especial «La memoria de nuestras conversaciones con IA», dedicado a explorar cómo la continuidad entre conversaciones influye en nuestra experiencia con los asistentes digitales, la percepción de confianza y el control de nuestra información.

En esta conversación:

Abrir conversación:

Publicar respuesta

Por favor ingrese su comentario!
Ingresa tu nombre aquí

🔒 Tu correo no se mostrará públicamente.

Artículos relacionados

Sigue explorando