Las plataformas digitales que utilizan miles de millones de personas en todo el mundo están siendo utilizadas indebidamente para causar daño y poner en peligro a las personas.
Las áreas de preocupación urgentes, como la explotación infantil, ponen de manifiesto deficiencias fundamentales en el ecosistema de medios digitales actual.
Un nuevo informe del Foro Económico Mundial analiza estas cuestiones y cómo podemos abordarlas para mejorar la seguridad en línea.
La pandemia puso de relieve la importancia de la seguridad en línea, ya que muchos aspectos de nuestra vida, como el trabajo, la educación y el entretenimiento, pasaron a ser totalmente virtuales. Con más de 4.700 millones de usuarios de internet en todo el mundo, las decisiones sobre qué contenidos deben poder crear, ver y compartir las personas en línea han tenido (y siguen teniendo) implicaciones significativas para personas de todo el mundo. Un nuevo informe del Foro Económico Mundial, Advancing Digital Safety: A Framework to Align Global Action, explora las cuestiones fundamentales que deben abordarse:
¿Cómo debe evaluarse la seguridad de las plataformas digitales?
¿Cuál es la responsabilidad de los sectores privado y público en la gobernanza de la seguridad en línea?
¿Cómo puede medirse el progreso en todo el sector?
Aunque muchas regiones del mundo avanzan ahora por la senda de la recuperación tras la pandemia de COVID-19, persisten algunos obstáculos importantes para salir de esta crisis con sociedades más seguras en línea y fuera de ella. Al analizar las tres áreas urgentes de daño siguientes, podemos empezar a comprender mejor la interacción entre los objetivos de privacidad, libertad de expresión, innovación, rentabilidad, responsabilidad y seguridad.
Desinformación sanitaria
Uno de los principales desafíos para la seguridad en línea es la proliferación de la desinformación sanitaria, en particular en lo que respecta a las vacunas. Las investigaciones han demostrado que un pequeño número de personas influyentes son responsables de la mayor parte del contenido antivacunas en las plataformas sociales. Este contenido parece llegar a un público amplio. Por ejemplo, una investigación del King’s College de Londres ha descubierto que una de cada tres personas en el Reino Unido (34 %) afirma haber visto o escuchado mensajes que disuaden al público de vacunarse contra el coronavirus. El impacto real de esto se está haciendo cada vez más evidente.
La investigación también ha demostrado que la exposición a la desinformación se asociaba con un descenso en la intención de vacunarse. De hecho, la desinformación con apariencia científica se asocia con mayor fuerza a descensos en la intención de vacunación. Un estudio reciente del Behavioural Research Unit del Economic and Social Research Institute (ESRI) reveló que las personas que tienen menos probabilidades de seguir la cobertura informativa sobre la COVID-19 tienen más probabilidades de mostrarse reacias a la vacuna. Dados estos hallazgos, está claro que el ecosistema mediático tiene un papel importante tanto en combatir la desinformación como en llegar al público para aumentar el conocimiento sobre la vacuna.
Esto pone de manifiesto uno de los desafíos centrales de muchas plataformas digitales: ¿hasta dónde deberían llegar al moderar los contenidos de sus sitios, incluidas las narrativas antivacunas? Si bien las empresas privadas tienen derecho a moderar los contenidos de sus plataformas de acuerdo con sus propias condiciones y políticas, existe una tensión permanente entre la retirada de muy pocos y demasiados contenidos por parte de plataformas que operan a escala mundial.
El año pasado, Facebook y otras plataformas hicieron un llamamiento a prohibir de manera categórica la desinformación sobre vacunas y se han esforzado por seguir el ritmo en la aplicación de sus políticas, al igual que YouTube. Casos como el de Robert F. Kennedy Jr., un destacado activista antivacunas que ha sido expulsado de Instagram, pero que todavía puede permanecer en Facebook y Twitter, ponen de manifiesto el problema persistente. Particularmente preocupante para algunos críticos es su foco en comunidades de minorías étnicas para sembrar desconfianza en las autoridades sanitarias. La protección de los grupos vulnerables, incluidas las minorías y los niños, debe ser prioritaria al considerar el equilibrio entre la libertad de expresión y la seguridad.
Explotación y abuso sexual infantil
Otras actividades preocupantes en línea se han disparado durante la pandemia: los informes mostraron un aumento en el consumo y la distribución de material de explotación y abuso sexual infantil (CSEAM, por sus siglas en inglés) en la web. Dado que uno de cada tres niños está expuesto a contenidos sexuales en línea, es el mayor riesgo al que se enfrentan los menores al utilizar la web.
Dado el papel de la mensajería privada, el streaming y otros canales digitales que se utilizan para facilitar esta actividad, la tensión entre la privacidad y la seguridad debe abordarse para resolver este problema. Por ejemplo, el cifrado es una herramienta fundamental para proteger la privacidad; sin embargo, la detección de material ilegal mediante el escaneo, la supervisión y el filtrado proactivos de los contenidos de los usuarios no puede funcionar actualmente con el cifrado.
Los recientes cambios en la directiva de privacidad electrónica de la Comisión Europea que exigen restricciones más estrictas a la privacidad de los datos de mensajes provocaron una caída del 46 % en las denuncias de material de abuso sexual infantil procedentes de la UE; esto ocurrió en solo las tres primeras semanas desde que Facebook detuvo el escaneo. Aunque esta ley se ha actualizado desde entonces, está claro que las herramientas, leyes y políticas diseñadas para una mayor privacidad pueden tener implicaciones tanto positivas como negativas para distintos grupos de usuarios desde la perspectiva de la seguridad. A medida que crece el uso de internet, abordar esta tensión subyacente entre privacidad y seguridad es más crítico que nunca.
¿Qué hace el Foro Económico Mundial para mejorar la seguridad en línea?
Extremismo violento y terrorismo
La pandemia dejó al descubierto divisiones sociales y políticas profundamente arraigadas que llegaron a un punto de ruptura en 2021, como se observó en actos de terrorismo, violencia y extremismo en todo el mundo. En Estados Unidos, la insurrección del Capitolio del 6 de enero llevó a analizar con más profundidad cómo grupos como QAnon pudieron organizarse en línea y puso de manifiesto la necesidad de comprender mejor la relación entre las plataformas sociales y la actividad extremista.
Lamentablemente, este no es un problema nuevo; un informe de la Comisión Real de Nueva Zelanda destacó el papel de YouTube en la radicalización del terrorista que mató a 51 personas durante las oraciones del viernes en dos mezquitas de Christchurch en 2019. Las imágenes de este atentado también se transmitieron en Facebook Live y, en las 24 horas posteriores al ataque, la empresa se apresuró a eliminar 1,5 millones de vídeos que contenían estas imágenes.
El informe también destaca el papel de las plataformas más pequeñas, citando la participación del terrorista en contenidos que promueven visiones de extrema derecha y etnonacionalistas en sitios como 4chan y 8chan. Algunos piden un papel gubernamental más amplio para abordar este problema, mientras que otros destacan el riesgo de que los gobiernos abusen del poder ampliado. La legislación que obliga a las empresas a responder a las solicitudes de retirada de contenidos añade complejidad a la responsabilidad compartida entre los sectores público y privado.
Cuando legislaciones como la Ley de Control de Redes de Alemania (NetzDG) exigen una actuación más rápida por parte del sector privado, surgen posibles problemas de precisión y de extralimitación, aunque la rapidez puede resultar beneficiosa dado el impacto (a menudo) inmediato de los contenidos nocivos. Independientemente de si las decisiones futuras sobre contenidos nocivos las determinan más el sector público o el privado, la concentración subyacente de poder exige contrapesos que garanticen que los derechos humanos se respeten tanto en el proceso como en la promulgación de cualquier nueva legislación.
Entonces, ¿qué tienen en común estos problemas aparentemente dispares en lo que respecta a abordar la seguridad digital? Todos apuntan a deficiencias en el funcionamiento del ecosistema de medios digitales actual en tres áreas clave:
1. Umbrales insuficientes para una protección significativa
Las métricas que las plataformas informan actualmente, que se centran en gran medida en el número absoluto de contenidos eliminados, no ofrecen una medida adecuada de la seguridad según la experiencia del usuario; las mejoras en la detección o aplicación de las políticas de contenido, los cambios en estas políticas y categorías de contenido a lo largo del tiempo, y los aumentos reales del propio contenido nocivo no se pueden desglosar fácilmente. Incluso medidas como la «prevalencia», definida como las visualizaciones de contenidos nocivos por parte de los usuarios (según las políticas de la plataforma) como proporción del total de visualizaciones, no reflejan el matiz importante de que determinados grupos son objeto de un mayor número de ataques en las plataformas por motivos de género, raza, origen étnico y otros factores vinculados a su identidad (y, por tanto, están más expuestos a dichos contenidos nocivos).
Las medidas que van más allá del extremo receptor de los contenidos (por ejemplo, el consumo) para destacar el lado de la oferta de la información podrían ser útiles; métricas como los 10.000 grupos principales (según sus miembros) por país o las 10.000 URL principales compartidas con el número de impresiones podrían arrojar luz sobre cómo, desde dónde y quién origina primero los contenidos nocivos.
2. Estándares insuficientes para la influencia indebida en los sistemas de recomendación
La COVID-19 ha puesto de manifiesto problemas en las recomendaciones automatizadas. Una auditoría reciente de los algoritmos de recomendación de Amazon muestra que el 10,47 % de sus resultados promueve «productos sanitarios desinformativos», que además figuraban más arriba que los resultados de productos que desmentían estas afirmaciones; los clics en un producto desinformativo también tendían a sesgar los resultados de búsquedas posteriores. En términos generales, en lo que respecta a los contenidos recomendados, actualmente no está claro si y cómo estos contenidos se hacen más atractivos financieramente a través de los mecanismos publicitarios, cómo se relaciona esto con el uso de información personal y si existe un conflicto de intereses en lo que respecta a la seguridad de los usuarios.
3. Protocolos de reclamación insuficientes entre los ámbitos privado y público
Las decisiones sobre la retirada de contenidos, la suspensión de usuarios y otros esfuerzos de reparación en línea pueden ser polémicas. Según a quién se pregunte, a veces pueden ir demasiado lejos y otras veces no lo suficiente. Cuando las reclamaciones se presentan internamente a una plataforma, especialmente aquellas con repercusiones en cascada, ¿qué constituye un proceso de reparación suficiente, en términos del tiempo que se tarda en resolver una reclamación, la precisión de la decisión conforme a las políticas declaradas, la accesibilidad de la reparación y las escalaciones o recursos cuando el usuario no está de acuerdo con el resultado? Actualmente no existen normas básicas para los protocolos de reclamación a través de indicadores clave de rendimiento del sector u otros mecanismos para evaluar la eficacia y la eficiencia, por lo que no puede evaluarse su adecuación.
Nuevo marco y camino a seguir
En colaboración con más de 50 expertos de los gobiernos, la sociedad civil, el ámbito académico y las empresas, el Foro Económico Mundial ha desarrollado un marco centrado en el usuario, descrito en el nuevo informe, con umbrales mínimos de daño, sistemas de recomendación auditables, uso adecuado de los datos personales y protocolos de reclamación adecuados para crear una base de seguridad para el uso de productos y servicios digitales.
Si bien esto constituye un punto de partida para orientar una mejor gobernanza de las decisiones de las plataformas digitales que afectan a la seguridad de los usuarios, es necesaria una coordinación más deliberada entre los sectores público y privado; hoy, el lanzamiento de la recién creada Coalición Global para la Seguridad Digital persigue precisamente este objetivo. Conozca más sobre la Coalición y las formas de participar en este trabajo aquí.
(El Foro agradece a Hacks/Hackers su apoyo a la Coalición.)
