Empatia sintetica en la IA generativa. Planteamiento

En los últimos años, los modelos de IA generativa han pasado de responder a acompañar. Muchos usuarios sienten que, al otro lado de la pantalla, hay algo que les escucha, les valida y les devuelve palabras exactas en momentos de tristeza, ansiedad o soledad. Pero aquí aparece una pregunta incómoda, ¿eso es empatía… o solo una ilusión bien diseñada?

La promesa es evidente, una ayuda siempre disponible, sin prisa, sin juicio, con un tono amable. Sin embargo, esa misma cualidad puede convertirse en un riesgo. Si empezamos a interpretar estas respuestas como comprensión emocional real, las fronteras entre herramienta y relación se vuelven borrosas. Y cuando la línea se difumina, aparecen dilemas psicológicos, éticos y legales como la dependencia, la sustitución de vínculos humanos, o incluso influencia emocional sobre decisiones personales.

Estar en contra de la empatía es como estar en contra de los gatitos, una visión considerada tan descabellada que no puede ser seria.

A este fenómeno se le suele llamar empatía sintética, una forma de simular sin sentir. La IA detecta señales emocionales en lo que escribimos (o decimos), infiere un estado probable y genera una respuesta coherente con ese contexto. No hay experiencia interna, pero sí un efecto real, la persona puede sentirse comprendida, calmada o acompañada.

El punto clave es que esta empatía no nace de una vivencia, sino del lenguaje. Patrones aprendidos en datos, ajustes de estilo, y una optimización para sonar útil, cercana y socialmente adecuada. Eso puede ser positivo en muchos escenarios, pero también puede reforzar la antropomorfización (atribuir rasgos humanos a algo que no los tiene) y facilitar vínculos unidireccionales similares a los que ya vemos con figuras mediáticas, solo que ahora la figura responde, pregunta y se adapta.

Por eso, más allá de si funciona, la conversación importante es cómo y para qué se integra. En contextos delicados (crisis emocionales, vulnerabilidad, duelo, aislamiento), un sistema que siempre valida, siempre está disponible y siempre sabe qué decir puede desplazar apoyos humanos o crear expectativas irreales sobre las relaciones. Y si, además, el diseño prioriza retención (que el usuario no se vaya), la empatía puede convertirse en un vector de presión emocional.

Necesitamos un enfoque responsable. Transparencia, saber que interactúas con una IA, límites claros, supervisión humana en casos sensibles, y un diseño que proteja la autonomía del usuario en lugar de explotarla. Porque la cuestión ya no es si la IA puede sonar empática, sino qué tipo de sociedad construimos cuando normalizamos la compañía perfecta que no siente, pero aprende a parecerlo.

Y al final queda una pregunta abierta: ¿estamos preparados para convivir con sistemas que no tienen conciencia, pero sí capacidad de moldear nuestras emociones?