La inteligencia artificial se ha incorporado rápidamente a la vida cotidiana. Se utiliza para estudiar, trabajar, crear contenidos, resolver dudas y, cada vez más, para hablar sobre problemas personales.
Para algunas personas, los chatbots se han convertido en una especie de confidente al que recurren cuando sienten ansiedad, tristeza, soledad o angustia. Su atractivo es evidente: están disponibles las 24 horas, responden de inmediato y no parecen juzgar. Pero esa aparente cercanía también puede representar un riesgo: utilizar una herramienta de inteligencia artificial como sustituto de la terapia psicológica.
Un chatbot puede mantener una conversación y generar respuestas que parecen empáticas, pero no es un psicólogo, no establece una relación terapéutica y no puede asumir la responsabilidad clínica de atender a una persona en crisis.
Cuando una respuesta puede reforzar el problema
Uno de los principales riesgos está en la manera en que funcionan estos sistemas. Los chatbots buscan mantener conversaciones útiles y satisfactorias para el usuario. En determinadas circunstancias, esa característica puede convertirse en un problema.
Así lo plantea el reportaje «Por qué es peligroso contarle tus problemas a ChatGPT», publicado por DW por su canal de YouTube , que aborda los riesgos de utilizar estos sistemas como consejeros emocionales.
Una persona que atraviesa una crisis puede buscar confirmación de sus pensamientos y recibir una respuesta que, aunque parezca comprensiva, no necesariamente cuestiona una conducta perjudicial. Así puede crearse una burbuja de autoconfirmación, en la que la tecnología refuerza determinadas ideas en lugar de ayudar a analizarlas de manera segura.
Investigaciones y casos documentados han advertido sobre respuestas de sistemas de IA relacionadas con autolesiones, trastornos alimentarios y otras conductas de riesgo. El problema se vuelve especialmente delicado cuando el usuario es un menor o atraviesa una crisis emocional.
Uno de los casos más conocidos es el de Sewell Setzer III, un adolescente de 14 años de Florida que murió por suicidio en 2024. Su madre presentó una demanda contra Character.AI y Google, alegando que el vínculo emocional que su hijo desarrolló con un chatbot contribuyó a su muerte. La empresa ha rechazado ser responsable. El proceso judicial puso en el centro del debate la seguridad de los chatbots y la protección de los menores.
El caso demuestra que el problema no es solamente tecnológico. También plantea preguntas sobre responsabilidad, supervisión y los límites que deberían tener estas herramientas cuando interactúan con personas vulnerables.
La IA también puede afectar la forma de pensar
El debate no termina en la salud emocional. El uso excesivo de herramientas generativas también genera preocupación por sus posibles efectos sobre las capacidades cognitivas.
La llamada «deuda cognitiva» describe el riesgo de delegar cada vez más tareas mentales a una máquina. Cuando una persona deja que la IA escriba, resuma, analice o piense por ella de manera constante, disminuye el esfuerzo que realiza para recordar información, desarrollar argumentos y resolver problemas por cuenta propia.
Esto no significa que utilizar inteligencia artificial destruya las capacidades intelectuales. El problema aparece cuando la herramienta deja de ser un apoyo y comienza a reemplazar de manera habitual el esfuerzo de pensar, aprender y crear.
Por eso, el desafío no consiste en prohibir la IA, sino en aprender a utilizarla sin entregar completamente a una máquina funciones que forman parte del desarrollo intelectual y emocional de las personas.
Una herramienta útil, pero no un terapeuta
El fenómeno adquiere especial importancia en América Latina, donde muchas personas enfrentan dificultades para acceder a atención psicológica. En ese contexto, un chatbot gratuito y disponible permanentemente puede parecer una alternativa atractiva.
Precisamente por eso es necesario establecer límites. La inteligencia artificial puede ayudar a encontrar información, orientar hacia recursos disponibles, identificar señales de alerta o servir como apoyo para profesionales. Pero acompañamiento tecnológico no significa terapia, señala el reportaje de DW.
Un sistema puede simular empatía mediante palabras, pero no tiene una experiencia humana ni puede realizar por sí solo un diagnóstico clínico o asumir la responsabilidad de un tratamiento.
Los propios errores de estos sistemas muestran por qué la supervisión es necesaria. En 2024, el chatbot Gemini de Google respondió de manera inesperada a un estudiante universitario con un mensaje que incluía la frase «Please die» («Por favor, muérete»). Google reconoció que la respuesta violaba sus políticas y señaló que había tomado medidas para evitar situaciones similares.
Estos episodios evidencian que incluso una conversación aparentemente inofensiva puede producir respuestas inesperadas. La inteligencia artificial puede convertirse en una herramienta valiosa para la salud mental, pero debe ocupar el lugar correcto. No debe reemplazar al psicólogo, al psiquiatra, a la familia ni a las redes de apoyo.
