Un creciente volumen de pruebas ilustra las formas en que las redes sociales han radicalizado a usuarios y han provocado violencia.
Existe un debate creciente sobre la necesidad de frenar el extremismo y el deseo de garantizar la libertad de expresión.
¿Qué relación tienen las predicciones de los programas de televisión con las teorías conspirativas de la extrema derecha? En TikTok, una aplicación popular entre niños menores de 14 años, existe un camino muy corto de uno a otro.
Según un par de informes publicados recientemente por un organismo de vigilancia de medios, TikTok puede canalizar con rapidez a los jóvenes usuarios desde intereses relativamente inofensivos hacia temas más preocupantes, e incluso hacia los brazos de algunos de los movimientos extremistas implicados en el mortífero ataque contra el Capitolio de EE. UU. en enero.
Un cuerpo de pruebas que crece constantemente indica que la radicalización a través de internet es un fenómeno muy real y peligroso, y parece haber alcanzado una masa crítica. Entonces, ¿qué se debería hacer al respecto?
El director ejecutivo de Twitter, Jack Dorsey, reconoció durante una audiencia en el Congreso el mes pasado que el servicio de redes sociales desempeñó un papel en el supremacista blanco ataque contra el Capitolio de EE. UU. Dorsey dijo a los legisladores que Twitter trabaja para abordar el extremismo y la desinformación.
A principios de este mes, YouTube realizó su primera divulgación pública del porcentaje de visualizaciones procedentes de vídeos retirados posteriormente por infringir las normas, entre ellas la promoción del extremismo violento. Pero se limitó a no compartir lo que probablemente sería la “espectacular” cifra total de visualizaciones que estos vídeos acumulan antes de desaparecer.
A medida que nuestros mundos digital y físico siguen chocando, nuestra seguridad en línea, basada en el contenido que creamos, vemos y compartimos, se convertirá en nuestra seguridad personal, sin más.
Farah Lalani, curadora comunitaria de los sectores de medios, entretenimiento e información, Foro Económico Mundial, y Cathy Li, directora del sector de medios, entretenimiento y deporte, Foro Económico Mundial
Los tentáculos algorítmicos de las redes sociales requieren sorprendentemente pocos estímulos para arrastrar a las personas a una cascada de mensajes xenófobos, racistas, antisemitas y de extremismo religioso. Los resultados reales se han acumulado, y aunque algunos contenidos solo han tenido un impacto indirecto, no han sido menos mortíferos, como la propaganda anticientífica a la que se culpa de la muerte de miles de personas.
Según un informe publicado en diciembre, las plataformas de redes sociales, entre ellas YouTube, contribuyeron a radicalizar al autor de un atentado terrorista de 2019 contra mezquitas en Christchurch (Nueva Zelanda), que dejó 51 muertos. El informe señalaba la creencia del agresor en la teoría del “Gran Reemplazo”, que sostiene que las poblaciones blancas están siendo desempoderadas y reemplazadas por personas de color, una teoría también popular entre los alborotadores del Capitolio de EE. UU.
A un escritor francés se le atribuye haber popularizado la teoría del Gran Reemplazo hace aproximadamente una década. Desde entonces, ha sido muy promovida en línea por grupos como Generación Identitaria (Génération identitaire), que fue prohibido por el gobierno francés el mes pasado.
En India, Facebook ha tenido dificultades para responder a los extremistas religiosos violentos; se abstuvo de prohibirlos por temor a poner en peligro al personal de la empresa y sus perspectivas de negocio. En Australia, un funcionario gubernamental trazó recientemente un paralelismo entre las formas en que los extremistas de derecha reclutan en línea allí y los métodos empleados por el Estado Islámico.
(Aunque el Estado Islámico ha sufrido derrotas en Oriente Medio, sus recientes esfuerzos por reforzar su perfil en línea han incluido conversaciones en foros sobre el establecimiento de un nuevo califato en África.)
En Alemania, un estudio encontró una relación directa entre el sentimiento antirrefugiados en línea y los ataques violentos. Sugería que las publicaciones en redes sociales de un partido político de derecha probablemente han empujado a “algunos posibles autores más allá del límite”.
Una forma de intentar frenar el extremismo en línea es retirando de las plataformas a los instigadores más populares y problemáticos. Sin embargo, a menudo pueden simplemente migrar a rincones más sórdidos de internet y llevar consigo a sus seguidores.
Por tanto, es posible que se estén preparando normas y regulaciones más estrictas para un sector que en gran medida se ha dejado a su aire. Un legislador estadounidense abrió la audiencia del Congreso del mes pasado sobre el papel de las redes sociales en la promoción del extremismo al afirmar que “la autorregulación ha llegado al final de su camino.”
La Alianza Global para Medios Responsables, en colaboración con el Foro Económico Mundial, trabaja para mejorar la seguridad de los entornos digitales, abordar los medios nocivos y engañosos y proteger a los consumidores y las marcas.
Para más contexto, aquí tiene enlaces a lecturas adicionales de la plataforma de Inteligencia Estratégica del Foro Económico Mundial:
Este estudio estadounidense, basado en entrevistas con supremacistas blancos y extremistas islámicos, mostró que en más de dos tercios de los casos la exposición a la propaganda a través de internet y otros medios desempeñó un papel en su radicalización. (RAND)
Según este informe, la comunidad chií de Pakistán está siendo objeto de ataques; entre agosto y septiembre de 2020, casi la mitad de todas las menciones de chiíes en redes sociales en el país fueron negativas, y el término más utilizado fue la palabra urdu para “infiel”. (The Diplomat)
Tendremos que crear un vocabulario para hablar de cómo los amigos cayeron en el agujero equivocado de YouTube y salieron hablando otro idioma, según este artículo, que defiende una mayor explicación de cómo las redes sociales se aprovechan de la desesperanza y el miedo. (NiemanLab)
India ha prohibido decenas de aplicaciones chinas en medio de las tensiones entre ambos países y ha lanzado alternativas de desarrollo nacional. Según este artículo, no está claro si estos servicios están preparados para resistir su apropiación por parte de grupos extremistas. (Observer Research Foundation)
“Nadie quiere creer que ha creado algo terrible.” Un periodista que cubre la desinformación y las conspiraciones en línea profundiza en la falta de responsabilidad de las empresas tecnológicas por amplificar nuestros peores instintos. (NiemanLab)
La COVID-19 ha dejado a los jóvenes australianos aislados y vulnerables ante los mensajes de odio de la extrema derecha, según este artículo. Señala que todos los socios de intercambio de inteligencia de los “Cinco Ojos” del país han tratado de incluir a las organizaciones extremistas de derecha en la lista de grupos terroristas, y sostiene que Australia debería hacer lo mismo con el mismo rigor. (ASPI)
Cuando los esfuerzos gubernamentales por reprimir generan críticas: las nuevas normas “draconianas” de India sobre lo que puede decirse en línea, supuestamente diseñadas para combatir la desinformación, tendrán profundas implicaciones para la privacidad y la libertad de expresión, según este análisis. (EFF)
En la plataforma Inteligencia Estratégica, puede encontrar fuentes de análisis de expertos relacionados con la Gobernanza de Internet, Paz y Resiliencia y cientos de temas adicionales. Deberá registrarse para acceder.
