Los chatbots de IA para la salud mental pueden ayudar a las personas a acceder a apoyo y a aclarar sus ideas antes de acudir a un consejero oficial o en lugar de hacerlo; el peligro es que el usuario empiece a depender de estos sistemas.
Los esfuerzos actuales en materia de seguridad de la IA se centran en evitar resultados negativos, pero también deberían fomentar el progreso a largo plazo y la capacidad de decisión de las personas.
Un sistema de IA para la salud mental verdaderamente responsable tendría en cuenta el estado mental cambiante del usuario, su contexto social, sus relaciones y su trasfondo cultural.
¿Qué caracteriza una relación emocional sana entre los seres humanos y la inteligencia artificial (IA)?
Esa pregunta quizá en su momento resultaba extraña, pero hoy se ha vuelto necesaria, ya que los «chatbots de IA para la salud mental» son cada vez más comunes.
Los chatbots de IA para la salud mental son herramientas conversacionales que pueden brindar apoyo emocional, enseñar mecanismos de afrontamiento o hacer seguimiento del estado de ánimo, por ejemplo, a las personas que los utilizan, ya sea a través de una aplicación específica o mediante un modelo de lenguaje de gran escala muy popular, como ChatGPT.
El uso de estas herramientas puede ofrecer apoyo accesible, pero, dado que su utilización ya supera al conocimiento científico, las normas clínicas y la gobernanza que las sustentan, definir los límites de esta relación se ha vuelto más urgente, ya que tanto los beneficios como los daños graves son posibles.
Cómo los chatbots de IA para la salud mental pueden beneficiar a las personas
En gran parte del mundo, el acceso a la atención de la salud mental sigue siendo escaso, costoso o está asociado con el estigma social.
Incluso donde existe apoyo profesional, hay momentos entre las citas en los que las personas pueden buscar ayuda para identificar sus experiencias, comprender un patrón psicológico recurrente, prepararse para una conversación difícil o reflexionar sobre una decisión importante.
La IA puede y ha ayudado con este tipo de tareas. Para algunas personas, ofrece apoyo cognitivo práctico y cotidiano. Otras, incluso mediante funciones de voz, pueden usarla para reflexionar sobre cambios a largo plazo en su propio comportamiento que han notado y para articular sus sentimientos antes de compartirlos con otra persona.
En su mejor versión, esto puede reducir la vergüenza. Muchas formas de sufrimiento psicológico se vuelven más difíciles de entender cuando las personas se ven a sí mismas únicamente desde la óptica del fracaso y no comprenden por qué no pueden funcionar como creen que deberían, por ejemplo, o por qué repiten patrones que ya han reconocido.
Sin embargo, la mente no es un sistema rígido que simplemente tiene éxito o fracasa. Es dinámica, moldeada por la historia, la biología, las relaciones y el contexto. La IA puede ayudar a las personas a alejarse de la autoculpa, organizar sus experiencias y comprenderse con mayor claridad, lo cual constituye una contribución nada trivial.
¿Cuál es el riesgo central de la IA para la salud mental?
Aunque la IA para la salud mental puede ofrecer beneficios, los límites son esenciales y esta no debería ser la única responsable de la búsqueda de claridad, pertenencia o autoridad moral de una persona.
La función adecuada de la IA para la salud mental es ayudar a los usuarios a desenvolverse de manera más eficaz en su mundo social humano, no reemplazarlo. El riesgo es que el sistema de IA no solo puede equivocarse, sino que también puede convertirse en la voz más fácil y más complaciente en la vida de una persona.
Alguien que experimenta soledad podría utilizarla cada noche para obtener tranquilidad, encontrando en la IA a un interlocutor siempre disponible y elocuente, pero que nunca se cansa.
El problema surge cuando esta dependencia comienza a desplazar la retroalimentación social más amplia que ayuda a mantener a una persona orientada a la realidad: la familia, los amigos, los pares, los profesionales clínicos y la fricción cotidiana de las relaciones humanas. Un sistema puede sonar comprensivo mientras, silenciosamente, aísla cada vez más al usuario.
Por qué los filtros de seguridad no son suficientes para la IA de salud mental
Los enfoques actuales de seguridad de la IA no abordan el potencial de dependencia de la IA, ya que se centran en filtros de contenido, sistemas de moderación y métodos de ajuste de preferencias, como enseñar a los modelos qué prefieren las personas a partir de la retroalimentación humana.
Estos métodos son adecuados para muchas tareas cotidianas, pero su lógica sigue siendo en gran medida local. Pueden preguntar si una respuesta concreta parece útil, inofensiva o preferible en el momento. Sin embargo, una frase útil o segura no implica necesariamente una relación segura.
Ayudar a alguien a prosperar con el tiempo es un problema complejo en psicología, medicina y ética. Un sistema centrado en satisfacer preferencias a corto plazo mediante afirmaciones o tranquilidad inmediata puede parecer útil, pero puede conducir gradualmente al usuario hacia resultados poco saludables.
Los estados mentales son dinámicos. Una misma respuesta puede brindar estabilidad en un momento y desestabilizar en otro, según el historial del usuario, su condición actual y el contexto social más amplio.
Un sistema saludable debe modelar el estado y la situación del usuario con suficiente detalle como para reconocer cuándo la tranquilidad sería más perjudicial o cuándo conviene orientar al usuario hacia el descanso, una pausa, el contacto humano o la atención profesional.
¿Qué matices pueden beneficiar a la IA para la salud mental?
La IA para la salud mental también carece del contexto relacional clave que se necesita para apoyar verdaderamente a un usuario. El apoyo genuino va más allá del estado mental personal de un individuo y busca reconfigurar la red que lo rodea. La terapia matrimonial, por ejemplo, tendría en cuenta los relatos de ambas partes. La IA para la salud mental debería estar sujeta a un estándar similar.
Por lo tanto, una buena respuesta no depende de si ayuda a la persona en el momento, sino de si la relación entre la IA y el ser humano le otorga al usuario más capacidad de decisión, lo hace más estable y más capaz de vivir bien con otras personas. El peligro radica en cómo se diseñan las herramientas de IA para la salud mental, si se diseñan para maximizar la retención, la respuesta emocional o el uso repetido.
La cultura complica aún más el apoyo automatizado, porque las ideas sobre el bienestar no son universales. En algunas sociedades, la autonomía y la expresión personal se consideran indicadores centrales de la salud mental, mientras que en otras cobran mucho más peso la aprobación social, las obligaciones de rol, la armonía relacional y la vergüenza.
Es importante que la IA para la salud mental no asuma una psicología moral, ya que puede interpretar mal a otra persona sin pretenderlo. Consejos que suenan empoderadores en un entorno altamente individualista pueden resultar desestabilizadores o inapropiados en uno donde los lazos familiares, las expectativas comunitarias y la posición social son fundamentales para comprender el malestar.
Por ello, las adaptaciones culturales deben incluir matices en torno a la identidad personal, el cuidado, los límites, la recuperación y la calidad de vida.
¿Cómo hacemos que la IA para la salud mental sea más segura?
Una IA para la salud mental más eficaz y segura requiere aportes interdisciplinarios, que incluyan la IA, la psicología, la psiquiatría, la neurociencia y la filosofía, junto con la contribución significativa de personas con experiencia vivida. Además, necesitamos mejores evaluaciones que determinen si los sistemas pueden mejorar las trayectorias a lo largo del tiempo, y no solo las respuestas aisladas.
Los líderes y los responsables de políticas deben tener en cuenta que los sistemas destinados al apoyo en salud mental deben juzgarse por las dependencias que generan, por su impacto en las relaciones del mundo real y por las formas inherentes en que optimizan la participación, en detrimento del progreso humano.
Por lo tanto, la IA para la salud mental nos enfrenta al desafío mayor de comprender cómo los sistemas artificiales interactúan con la vida humana.
Las personas son dinámicas: los sistemas artificiales que interactúan con ellas no pueden considerarse herramientas neutrales ni regirse como tales; se convierten en parte del entorno en el que se desarrollan el pensamiento, la emoción y la conducta.
Si se desarrolla de manera responsable, la IA para la salud mental podría ser enormemente beneficiosa, al facilitar el acceso a la atención de la salud mental a personas de todo el mundo. Pero ello exigirá un cambio de ambición.
Hacer que la IA sea más segura no se reduce a evitar frases que promuevan el daño; implica crear sistemas que ayuden a las personas a mejorar su calidad de vida, ganar capacidad de decisión y sentirse más conectadas más allá de sus interacciones con los chatbots de IA para la salud mental.
