Facebook utiliza el aprendizaje automático para prevenir los suicidios

Las redes sociales ofrecen foros para aquellos que planean quitarse la vida, debido a la cantidad de personas que transmiten en vivo sus intentos de suicidio.

Facebook ha tomado ahora la iniciativa de monitorear su red en busca de pistas que den a entender que alguien está contemplando suicidarse. Ha creado un algoritmo de inteligencia artificial (IA) que busca patrones típicos en las publicaciones en redes sociales que pueden identificar a un posible suicida.

“La IA es en realidad más precisa que los informes que recibimos de personas que están marcadas como posibles suicidas o capaces de autolesionarse”, dijo la gerente de productos de Facebook, Vanessa Callison-Burch en una entrevista con BuzzFeed News.

Cuando el algoritmo detecta patrones preocupantes, se los señala a los administradores de la comunidad. De esa forma, los administradores de la comunidad pueden investigar más y llegar de manera proactiva a los usuarios que se cree que están en alto riesgo. En los casos que se consideran menos urgentes, dice que motiva a los amigos a comunicarse con la persona en riesgo con un mensaje escrito previamente para facilitar el inicio de una conversación.

Para abordar la transmisión de videos en vivo de los intentos de suicidio, Facebook también ha lanzado una nueva herramienta para que los amigos denuncien los videos que encuentran preocupantes. Una vez notificada, Facebook pondrá a disposición recursos de prevención en la pantalla para que la persona que transmite en Facebook Live pueda conversar en vivo con una línea de asesoramiento, por ejemplo. La compañía se ha asociado con varias organizaciones de asesoramiento y autoayuda para brindar apoyo. Además, se ofrecerán recursos a la persona que informó sobre el video para que también pueda intervenir.

Facebook ha enfrentado críticas porque ha optado por no cortar estos videos en vivo, pero la compañía ha dicho que lo hace para darles a los amigos y a la familia la posibilidad de intervenir.

Si busca "cómo suicidarse" en Google, el motor de búsqueda muestra la línea de ayuda del buen samaritano, junto con anuncios de varias otras organizaciones de apoyo. Quora formula preguntas sobre el suicidio con una lista de líneas de apoyo para contactar. Sin embargo, ambos sitios siguen generando vínculos a los "manuales" de suicidio.

En cambio, Siri de Apple sugiere la posibilidad de hablar con un centro de prevención del suicidio, y muestra una lista de recursos de prevención.

A medida que la IA y el aprendizaje automático avanzan, ofrecen el potencial para detectar y apoyar a los que están en problemas antes de que sea demasiado tarde.