Con la llegada de internet y el boom digital que ha provocado, entre la vasta cantidad de información, las redes sociales, las nuevas formas de comunicación y todo lo que podemos encontrar en la web, nuestra manera de relacionarnos con la tecnología ha cambiado radicalmente.
La inteligencia artificial representa una nueva revolución tecnológica y, para muchos, también una transformación de la manera en que trabajamos. Su llegada ha generado incertidumbre, temor ante el desplazamiento de algunos empleos y, al mismo tiempo, la necesidad de reorganizar nuestras habilidades, creatividad y capacidad de emprendimiento. Como dice el conocido refrán: si no puedes con el enemigo, únete a él.
Pero más allá del trabajo y la productividad, existe otra dimensión que comienza a llamar nuestra atención: la IA como acompañamiento personal y como herramienta ante situaciones de angustia o crisis.
Y en este tema hay algo que considero fundamental: para hablar de determinadas experiencias, primero hay que haberlas vivido.
En mi caso, estaba atravesando un momento de alto estrés. Varias situaciones se habían acumulado hasta que la carga terminó por rebasarme y entré en un episodio de ansiedad. Necesitaba encontrar un lugar donde pudiera tranquilizarme y ordenar mis pensamientos.
Lo encontré en mi lugar favorito para pensar cuando hay problemas: la azotea de mi casa. Es un lugar seguro para mí; desde ahí puedo observar parte de la ciudad, recibir aire y, sobre todo, tomar distancia de aquello que me está preocupando.
Cuando buscar orientación se convierte en conversación
También soy de las personas que le preguntan a ChatGPT cuál podría ser una buena manera de enfrentar una situación. Así que, sentada en la azotea y en medio de aquella crisis, comencé a conversar con la IA.
La respuesta me llamó especialmente la atención.
El sistema adoptó una postura de seguridad y comenzó a hacer recomendaciones orientadas a mantenerme físicamente a salvo. En varias ocasiones le expliqué que estaba en un lugar seguro y que no existía posibilidad de que pudiera caer. Sin embargo, continuó recomendándome que me alejara del borde.
Fue tanta la insistencia que terminé por molestarme y le respondí:
—No me pienso tirar al vacío.
Después de varios días de trabajo y análisis, aquella experiencia me llevó a investigar qué existe actualmente alrededor de la inteligencia artificial como acompañamiento y, particularmente, sobre la manera en que estos sistemas pueden responder cuando una persona manifiesta angustia o se encuentra en una situación potencialmente delicada.
En medio de una crisis de ansiedad descubrí que la IA no solamente podía conversar conmigo: también estaba diseñada para interpretar determinadas señales como potencialmente peligrosas y actuar desde un protocolo de seguridad.
Esta situación me llamó todavía más la atención porque también he recibido orientación de la IA ante una situación física. En mi caso, debido a mi presión baja, en una ocasión en la que me encontraba en la calle el sistema respondió de manera preventiva: me hizo preguntas sobre cómo me sentía, me dio recomendaciones generales y me indicó que buscara un lugar seguro.
Son situaciones que cualquier persona puede experimentar: momentos de angustia, incertidumbre o simplemente la necesidad de ordenar nuestros pensamientos. La disponibilidad permanente de estas herramientas hace que muchas personas puedan recurrir a ellas en momentos en los que quizá no saben con quién hablar o qué hacer.
La manera de buscar ayuda también está cambiando
Antes, una duda relacionada con la salud podía llevarnos a escribir síntomas o preguntas en un buscador y recorrer distintas páginas en busca de orientación. Con los chatbots de IA, esa búsqueda se convierte en una conversación: explicamos el problema, añadimos contexto, recibimos una respuesta y podemos seguir preguntando a partir de ella.
Eso modifica también nuestra manera de buscar ayuda en internet. Ya no siempre llegamos únicamente para encontrar información; en algunas situaciones esperamos que el sistema nos oriente, nos haga preguntas o nos ayude a ordenar lo que estamos viviendo.
Sin embargo, que una IA pueda acompañarnos durante un momento difícil no significa que pueda sustituir a un profesional de la salud mental ni que pueda realizar un diagnóstico. Esta diferencia es fundamental cuando hablamos de salud.
La IA puede acompañarnos y ayudarnos a buscar orientación, pero saber hasta dónde confiar en ella también forma parte de nuestra responsabilidad.
¿Qué sucede cuando la IA detecta una situación delicada?
En su publicación Refuerzo de las respuestas de ChatGPT en conversaciones delicadas, OpenAI explica que ha trabajado con más de 170 expertos en salud mental para mejorar la manera en que el modelo responde ante situaciones sensibles. Entre los objetivos se encuentra que el sistema pueda reconocer señales de angustia, responder de manera más adecuada y orientar a las personas hacia ayuda profesional cuando sea necesario.
Esto ayuda a comprender lo que ocurrió en mi experiencia: el sistema no necesariamente estaba afirmando que yo tuviera intención de hacerme daño. Ante determinados elementos presentes en la conversación, optó por una respuesta preventiva orientada a la seguridad.
Y aquí aparece una pregunta que considero importante: ¿cuándo debe intervenir una inteligencia artificial y cuánto debe insistir cuando interpreta que existe un posible riesgo?
La respuesta no es sencilla.
Una intervención demasiado conservadora puede resultar incómoda o incluso frustrante para una persona que sabe que se encuentra a salvo. Pero una respuesta demasiado permisiva podría ser insuficiente si realmente existe una situación de peligro.
Por eso, en materia de salud, el objetivo no debería ser que una IA sustituya el criterio humano, sino que pueda funcionar como una herramienta complementaria y responsable.
OpenAI recuerda que “las herramientas de crisis no son un servicio de emergencia ni sustituyen la atención de salud mental”. En su Centro de ayuda explica cómo funcionan estos recursos y cómo acceder a opciones de apoyo cuando una conversación requiere atención adicional.
Una herramienta con posibilidades, pero también con límites
La investigación científica también nos obliga a mirar esta tecnología con cautela.
En una investigación publicada en Scientific Reports en 2025 se evaluaron 29 agentes conversacionales de inteligencia artificial que afirmaban ofrecer apoyo ante problemas de salud mental, utilizando escenarios simulados relacionados con riesgo suicida. Los investigadores encontraron limitaciones importantes en la capacidad de estos sistemas para detectar y manejar adecuadamente determinadas situaciones de crisis.
Esto es relevante porque nos recuerda algo que puede perderse fácilmente en una conversación cotidiana con un chatbot: una respuesta que parece comprensiva no necesariamente significa que el sistema comprenda clínicamente lo que está ocurriendo.
A principios de 2025, los chatbots generativos como ChatGPT, Gemini, Llama o DeepSeek ya eran ampliamente accesibles, de manera gratuita o mediante planes de pago relativamente económicos. Su capacidad para mantener conversaciones complejas puede hacer que parezcan una herramienta capaz de ofrecer un acompañamiento similar al de una persona.
Sin embargo, debemos distinguir entre acompañamiento conversacional y atención profesional.
Una IA puede ayudarnos a organizar ideas, formular preguntas, encontrar información, sugerir que busquemos apoyo o acompañarnos durante una conversación. Pero no tiene la responsabilidad profesional de un psicólogo, un médico o un servicio de emergencia.
Además, la disponibilidad permanente puede convertirse tanto en una ventaja como en un riesgo. Una persona que se siente sola puede encontrar en un chatbot un espacio para expresarse sin temor a ser juzgada. Pero si esa interacción comienza a sustituir sistemáticamente los vínculos humanos o la atención profesional que necesita, el acompañamiento puede transformarse en dependencia.
La lógica de seguridad de estos sistemas tiende a priorizar la protección cuando existen señales ambiguas, porque el costo de no intervenir ante un peligro real puede ser mucho mayor que el de intervenir cuando finalmente no existía riesgo.
La responsabilidad también es nuestra
La Organización Mundial de la Salud ha reconocido el potencial de la inteligencia artificial para apoyar la salud, la investigación y la ciencia, pero también ha advertido sobre los riesgos que implica utilizar estas herramientas sin las suficientes garantías.
Entre sus principios para una inteligencia artificial utilizada en salud se encuentran la protección de la autonomía de las personas, la promoción del bienestar y la seguridad, la transparencia, la responsabilidad y la supervisión humana.
Esto es particularmente importante cuando hablamos de salud mental.
La IA puede proporcionar una respuesta convincente, pero eso no significa que esa respuesta sea necesariamente correcta. Puede interpretar de manera equivocada una situación, proporcionar información incompleta o responder de forma excesivamente preventiva.
En mi caso, la IA interpretó una situación de manera más cautelosa de lo que yo consideraba necesario. Yo sabía que estaba segura; el sistema, ante la información disponible, decidió priorizar la prevención. Ninguna de las dos perspectivas convierte automáticamente a la otra en equivocada.
Lo interesante es precisamente esa diferencia: una persona interpreta su propia experiencia desde el contexto que está viviendo; una IA interpreta el lenguaje y las señales disponibles dentro de sus mecanismos de seguridad.
¿Puede la IA ser nuestra aliada?
La respuesta, probablemente, sea sí, siempre que sepamos qué lugar darle.
La American Psychological Association también ha comenzado a ofrecer recomendaciones basadas en la evidencia sobre los usos apropiados de la inteligencia artificial para abordar problemas de salud mental, emocional y de comportamiento.
La tecnología puede convertirse en una herramienta de apoyo para muchas situaciones de nuestra vida cotidiana. Puede ayudarnos a ordenar pensamientos, encontrar información, plantear alternativas o reconocer que quizá necesitamos buscar ayuda.
Pero cuando hablamos de salud, debemos recordar una diferencia fundamental: acompañar no es diagnosticar; orientar no es tratar; conversar no es sustituir una relación terapéutica.
La inteligencia artificial puede ser nuestra aliada en un mundo cada vez más digital, pero la responsabilidad no puede delegarse completamente en una máquina.
Porque al final, el chat puede darnos respuestas. La decisión sigue siendo nuestra.
▏
Desde la investigación
- OpenAI: trabaja con especialistas en salud mental para mejorar las respuestas ante conversaciones delicadas y orientar hacia apoyo adicional cuando corresponde.
- Scientific Reports (2025): una evaluación de 29 agentes conversacionales encontró limitaciones importantes ante escenarios simulados relacionados con crisis de salud mental.
- Organización Mundial de la Salud: plantea principios como autonomía, seguridad, transparencia, responsabilidad y supervisión humana en el uso de IA para salud.
- American Psychological Association: ofrece orientación basada en evidencia sobre usos apropiados de IA relacionados con salud mental, emocional y conductual.
▏Ada Sepúlveda es columnista en MentePost con análisis sobre cultura digital y comunicación.