La detención del fundador y director ejecutivo de Telegram ha intensificado el escrutinio de la forma en que se modera actualmente el contenido en las plataformas de redes sociales.
Una experta afirma que «se avecinan unos años complicados» para equilibrar unas salvaguardias más estrictas con las exigencias de libertad de expresión.
Varios países están centrando sus esfuerzos en encontrar formas de aumentar la transparencia al respecto y reforzar las protecciones.
Poco después de que Hamás lanzara su ataque sorpresa contra Israel en octubre pasado, los canales que el grupo terrorista utilizaba en Telegram se llenaron de imágenes de las atrocidades posteriores.
¿La respuesta? Una restricción de esos canales que, según se informó, sirvió de poco para restringirlos.
Casi un año después, la labor constante de Telegram para cultivar una reputación de bastión de la libertad de expresión, a veces hasta un extremo, ha sufrido un revés con la detención de su fundador y director ejecutivo en París.
Pavel Durov se ha visto obligado a permanecer en Francia, donde está siendo investigado por su presunta complicidad en actividades delictivas en su popular plataforma. «La policía me interrogó durante 4 días», publicó en su canal. «Ningún innovador creará herramientas nuevas si sabe que se le puede responsabilizar personalmente por el posible uso indebido de esas herramientas».
El repentino sobresalto del escrutinio jurídico plantea la pregunta: ¿Cómo se moderan normalmente estos servicios? Es decir, ¿cómo se espera que se moderen?
Como ocurre con tantos otros aspectos de nuestra existencia cada vez más automatizada, las personas siguen desempeñando un papel central. Puede que los cubículos de oficina llenos de contratistas que miraban pantallas y tomaban decisiones rápidas sobre el contenido hayan dado paso a la inteligencia artificial y el aprendizaje automático, pero las personas, a menudo sobrecargadas de trabajo e infravaloradas siguen siendo una última línea de defensa esencial.
Sin embargo, según Sasha Havlicek, directora ejecutiva del Institute for Strategic Dialogue, la paciencia con la forma actual de hacer las cosas está disminuyendo. «En todas las plataformas se producen fallos sistémicos y constantes en la moderación de contenidos», afirmó.
Por algo se ha calificado la moderación de contenidos como el problema más difícil de internet.
En muchos sentidos, es una red de seguridad desatendida para empresas concebidas para atraer a grandes audiencias y, en el proceso, extraer de ellas las reacciones más intensas posibles. Es posible que se espere que los moderadores arbitren al instante sobre cuestiones del derecho a expresarse, que los filósofos llevan siglos sopesando.
Por supuesto, algunas decisiones son más fáciles que otras.
Está la «punta afilada» del problema, como la llama Havlicek: actividades claramente ilegales y perjudiciales, que delimitan una zona gris «terrible pero legal» más difícil de vigilar. Aun así, según Havlicek, en gran parte del mundo, sobre todo en las regiones no anglófonas, incluso esa punta afilada suele quedar impune.
«Ahora se da una situación interesante: tenemos a los Cinco Ojos y a la UE, sin Estados Unidos, avanzando esencialmente hacia la regulación», afirmó, en referencia a los cinco países anglófonos (Australia, Canadá, Nueva Zelanda, el Reino Unido y Estados Unidos) que coordinan la recopilación de inteligencia.
Sin embargo, Havlicek advirtió que «existe el peligro de avivar demasiado» a los absolutistas de la libertad de expresión, que ya equiparan los esfuerzos por regular las redes sociales con la censura represiva. «Así que se avecinan unos años complicados».
La escasez de moderadores de contenido cualificados parece ser un problema que puede abordarse con facilidad.
La información divulgada por las plataformas más grandes para cumplir con la Ley de Servicios Digitales de la UE (aún incipiente, pero potencialmente «transformadora», según Havlicek) incluye el número de moderadores que dominan los idiomas locales. Por ejemplo, el informe más reciente de X indica que hay 1.535 moderadores que declaran dominar el inglés, 29 el español, dos el italiano y uno el polaco.
«Incluso 20 personas por país parecen un poco pocas», afirmó Havlicek. «Estos son los mercados con mejor cobertura en cuanto a moderación de contenido, así que pueden imaginarse lo que eso significa para el resto».
¿Un candidato ideal para la automatización?
El impacto psicológico que suelen sufrir los moderadores de contenido ya es ampliamente conocido. Incluso sirvió de base para una obra de Broadway: la protagonista de JOB es una mujer atribulada que «debe eliminar de internet algunos de los contenidos más incomprensiblemente atroces», según Playbill.
«Quienes hacen este trabajo ahora no reciben el sueldo ni las protecciones que necesitan», afirmó Havlicek.
Los moderadores han presentado demandas relacionadas en varios países. Se han publicado relatos reveladores en reportajes periodísticos desde hace al menos una década. La organización de Havlicek, que trabaja con gobiernos y plataformas para trazar un camino más seguro y estable, cuenta con su propio equipo dedicado a investigaciones relacionadas; hay normas estrictas que limitan las horas que cualquiera puede dedicar a esa investigación y el asesoramiento psicológico es obligatorio.
Todo esto parece hacer de la moderación de contenidos una candidata ideal para la automatización. Pero las personas cualificadas siguen siendo necesarias para asuntos más complejos: por ejemplo, juzgar el uso de la ironía o analizar en profundidad distintas perspectivas sobre una situación política concreta.
A mayor escala, dijo Havlicek, no se trata solo de eliminar o etiquetar piezas de contenido problemáticas. En realidad, se trata de los sistemas de selección de contenidos: de cómo los algoritmos diseñados para mantener a los usuarios enganchados y generar ingresos publicitarios pueden distorsionar el entorno, empujando a las personas hacia «espacios más extremos».
Esto preocupa especialmente a medida que aumenta la intriga geopolítica y las elecciones están en juego. ¿Y si para difundir desinformación bastara con amplificar voces que existirían de todos modos, como alega el Departamento de Justicia de Estados Unidos que hizo una empresa en una acusación formal reciente?
A estas alturas, las plataformas tienen mucha práctica identificando «operaciones informativas de actores estatales», afirmó Havlicek, aunque les cuesta seguir el ritmo de unas tácticas en constante evolución.
Havlicek afirmó que medidas como una Ley de Servicios Digitales de la UE plenamente desarrollada podrían ser de gran ayuda. Un aspecto clave de la legislación es permitir que investigadores independientes accedan a los datos de las plataformas. Esto busca aumentar la transparencia y evaluar mejor los riesgos.
«Tendremos que demostrar que algo como la DSA puede funcionar», afirmó.
Solo las plataformas en línea consideradas «muy grandes» tienen obligaciones en virtud de la ley. Los servicios deben rendir cuentas por la seguridad de los usuarios, «especialmente cuando sus bases de usuarios son lo bastante grandes como para tener un impacto en la sociedad en su conjunto», afirmó Havlicek.
Telegram todavía no ha llegado a ese punto, pero se está acercando.
El servicio es uno de tantos que sostienen que, cuando la moderación funciona bien, nadie se da cuenta. «Las afirmaciones de algunos medios de que Telegram es una especie de paraíso anárquico son absolutamente falsas», escribió Durov en su canal. «Eliminamos millones de publicaciones y canales perjudiciales cada día».
Una oferta de empleo reciente de Telegram para un puesto de moderador de contenido busca candidatos con sólidas habilidades analíticas y «rapidez de reacción».
Unos cinco meses antes de su detención, Durov había reflexionado que «todas las grandes aplicaciones de redes sociales son blancos fáciles de las críticas» por sus esfuerzos de moderación. Prometió que Telegram abordaría el problema con «eficiencia, innovación y respeto por la privacidad y la libertad de expresión».
Tras la detención, escribió que «establecer el equilibrio adecuado entre privacidad y seguridad no es fácil», aunque su empresa se mantendría fiel a sus principios.
Al día siguiente, acompañado de un emoji de celebración, anunció que Telegram había alcanzado los 10 millones de suscriptores de pago.
Más lecturas sobre moderación de contenidos y amenazas actuales
Para más contexto, aquí encontrarán enlaces a otras lecturas de la plataforma Strategic Intelligence del Foro Económico Mundial:
Según este investigador veterano, la moderación de contenidos no es una solución a largo plazo. Será necesario invertir más en periodismo local, mejorar la alfabetización mediática y ofrecer mejores herramientas para verificar los hechos. (Universidad Cornell)
Según este artículo, los políticos llevan mucho tiempo quejándose de cómo se gestionaba Telegram; lo que ha cambiado es su respuesta. (Wired)
Según este análisis, las democracias deben protegerse de forma proactiva de las amenazas «híbridas» que plantea el contenido de los servicios de redes sociales mediante una regulación más estricta. (Instituto Australiano de Política Estratégica)
«Desde el golpe de Estado, los actores favorables a la junta han aprovechado el enfoque poco restrictivo de Telegram respecto a la moderación de contenidos». Este análisis profundiza en los altibajos de la autorregulación en la historia de los servicios populares. (Carnegie Endowment for International Peace)
«La distinción entre el discurso adecuado y el inadecuado suele ser difusa». El Tribunal Supremo de Estados Unidos escuchó recientemente un caso del que los observadores esperaban que aclarara hasta dónde puede llegar el Gobierno al presionar a las plataformas para que supriman contenido. Quedaron decepcionados. (EFF)
«La subversión mediante la explotación de la libre circulación de información es el arma predilecta por debajo del umbral de la guerra». Este artículo explora el papel de los «actores extranjeros» en los recientes disturbios en el Reino Unido, alimentados por las redes sociales. (RUSI)
¿Cuándo se convierte la expresión política libre en «radicalización»? Este análisis vincula la actual crisis política de Francia con la facilidad con que pueden surgir en las redes sociales cámaras de eco de contenido de extrema derecha. (LSE)
En la plataforma Strategic Intelligence pueden encontrar análisis de expertos sobre Desinformación, Medios de comunicación, Justicia, y cientos de temas adicionales. Tendrá que registrarse para verlos.
