«Ya no quiero vivir :( :( :(». Estas fueron las últimas palabras que publicó una joven de 14 años de Miami, un año antes de iniciar una transmisión en directo por Facebook y ahorcarse frente a la cámara web. Según se informó, miles de personas vieron su transmisión de dos horas, entre ellas una amiga que llamó a la policía. Por desgracia, las autoridades llegaron demasiado tarde para salvarla.
Aunque esta historia resulta especialmente alarmante, lamentablemente no es un caso único: el suicidio es la segunda causa de muerte entre los adolescentes de Estados Unidos, Europa y el Sudeste Asiático. Cada día, millones de publicaciones en redes sociales, chats y consultas en Facebook, Snapchat, Google, Siri y Alexa están relacionados con la salud mental. Estas publicaciones podrían servir como un rastro de pistas que conduzca a las personas con mayor riesgo de suicidio. Pero ¿hay una manera responsable de que las empresas tecnológicas usen esta información para intervenir? ¿Cómo deberían responder Google o Siri a alguien que busca información sobre la depresión o el suicidio? ¿Cómo debería reaccionar Snapchat cuando dos adolescentes hablan en secreto de autolesionarse haciéndose cortes?
Estas preguntas no son meramente hipotéticas: algunas empresas tecnológicas ya están tomando medidas. En Estados Unidos, cualquier búsqueda en Google de síntomas de depresión clínica abre ahora un panel de información y una prueba privada de detección de la depresión (PHQ-9), junto con recursos educativos y de derivación verificados («panel de información»). Google ha declarado que no vinculará la identidad de una persona con sus respuestas a la prueba, pero recopilará datos anonimizados para mejorar la experiencia del usuario. A medida que millones de personas realizan estas pruebas en línea, se genera un vasto tesoro de datos que, combinado con otra información sobre cada usuario, podría resultar útil algún día para crear una huella digital de la depresión.
En respuesta a los suicidios transmitidos en directo, Facebook lanzó un algoritmo de inteligencia artificial (IA) que analiza las publicaciones de las personas (en algunos países) en busca de imágenes o palabras que puedan indicar autolesiones. Si detecta ese tipo de conducta, proporciona recursos al usuario y alerta a un «Equipo de Empatía» interno. Se puede avisar a los servicios de emergencia si las dos primeras medidas no logran evitar las autolesiones. Las personas no pueden excluirse de esta iniciativa de Facebook. Mark Zuckerberg, director ejecutivo de Facebook, afirma que durante el primer mes desde su lanzamiento el algoritmo ayudó a más de 100 personas.
Estos esfuerzos iniciales, según nuestra conversación con responsables de equipo de Facebook y Google, parecen sinceros y bien meditados. Felicitamos a ambas empresas por impulsar este diálogo. Pero, como ocurre en cualquier nueva frontera, la innovación plantea preguntas y desafíos:
¿Se necesita un consentimiento específico para que las empresas de redes sociales supervisen nuestra salud mental?
Si las empresas supervisan nuestra salud mental, ¿deben regularse y estudiarse sus algoritmos para demostrar su eficacia?
¿Debería Facebook permitir que continúe la transmisión en directo de un suicidio o interrumpirla cuando esté claro lo que está ocurriendo?
¿Se pueden usar los datos de salud mental de las personas para dirigirles anuncios, por ejemplo, de antidepresivos?
¿Estarán más expuestas a este tipo de vigilancia las personas que viven en países con normas débiles de privacidad de datos? La IA de Facebook ya no está disponible en Europa porque no cumple las normas de privacidad más estrictas del continente.
Por último, aunque no menos importante: ¿la solución a los problemas de salud mental de los adolescentes consiste en más redes sociales supervisadas por IA o en menos?
Hoy en día, la capacidad de los algoritmos de IA para analizar el estado de ánimo reflejado en las publicaciones de redes sociales sigue siendo imperfecta. Existe una gran variación cultural en la forma de expresar las enfermedades mentales y, como saben la mayoría de los profesionales clínicos, muchas personas que planean suicidarse lo niegan, lo que complica los estudios. Un análisis de 55 millones de mensajes de texto realizado por Crisis Text Line, un servicio de salud mental basado en mensajes de texto, reveló que es más probable que las personas que contemplan el suicidio usen palabras como «puente» o «pastillas» que la palabra «suicidio».
A pesar de estos desafíos, Zuckerberg acertó al prever que la IA podría detectar conductas suicidas en línea más rápido que un amigo. La combinación de IA con consejeros capacitados para responder a publicaciones de riesgo sin duda mejoraría la situación actual. Ha llegado el momento de crear una alianza público-privada con múltiples partes interesadas para ampliar rápidamente esta innovación y ayudar a toda la sociedad. Para tener éxito, dicha alianza debe regirse por directrices de investigación responsable, hacer transparentes los algoritmos y garantizar que los resultados de los estudios sean de acceso abierto. Así se garantizará que investigadores de todo el mundo puedan contribuir y ayudar a evitar que se erosione la confianza pública en todas las empresas tecnológicas implicadas.
Los avances en la ciencia del cerebro y la IA tienen un enorme potencial para mejorar el bienestar y la salud mental de las personas, siempre que se enmarquen en un marco ético y científico adecuado.
El Dr. Murali Doraiswamy hablará sobre la relación entre la tecnología y la salud mental en la Reunión Anual 2018 del Foro Económico Mundial, durante la sesión del Foro Abierto «Sufrir en silencio: abordar la depresión», que tendrá lugar el viernes 26 de enero, de 9:00 a 10:30, en Davos. Esta sesión se ha diseñado conjuntamente con estudiantes de la Escuela Secundaria de Davos y se transmitirá en directo con interpretación simultánea al alemán y al inglés.
