La invasión de Ucrania ha creado y agravado numerosos problemas de seguridad en línea.
Las principales plataformas digitales han cambiado sus políticas y prácticas para abordar estos problemas, entre ellos la explotación de personas, la información errónea y la desinformación, y el continuo auge del extremismo en todo el mundo.
Teniendo en cuenta estos problemas, las nuevas normativas buscan abordar la rendición de cuentas de las plataformas, la transparencia y la seguridad de los usuarios en línea.
Los desafíos de seguridad digital derivados de la invasión de Ucrania son numerosos: incluyen un aumento de la trata y la explotación de personas, la proliferación de información errónea y desinformación, y un incremento de la actividad extremista violenta y terrorista.
Trata y explotación de personas
Un número sin precedentes de personas ha huido de la violencia armada en Ucrania y se ha dirigido al oeste. Individuos malintencionados aprovechan esta situación para captar a mujeres y niños con fines de trata y explotación. El tráfico de búsquedas globales de «pornografía ucraniana» ha aumentado un 600 % desde el inicio de la crisis humanitaria, según datos de Thompson Reuters Special Services, mientras que las búsquedas de «acompañantes ucranianas» aumentaron un 200 %. Esa demanda ofrece a los tratantes un incentivo económico para captar y explotar a mujeres ucranianas a gran escala, en un momento en que el modelo de negocio de la trata se ha trasladado en gran medida a internet, según la Oficina de la Representante Especial y Coordinadora de la OSCE (OSR/CTHB).
Información errónea y desinformación
Información falsa sobre los motivos de la invasión de Ucrania —como la necesidad de «desnazificar» un «Estado fallido»— se ha propagado. Gran parte de la información errónea sobre la guerra en Ucrania se ha generado y difundido en forma de imágenes y vídeos, a diferencia del contenido basado en texto que predominó durante la pandemia de COVID-19. Moderar información falsa resulta mucho más difícil en el caso del contenido visual, debido al tiempo adicional que necesitan los moderadores y los sistemas automatizados para evaluarlo. Además, depende menos de un idioma compartido y puede provocar una reacción emocional más intensa que el contenido basado en texto, lo que facilita y hace más probable que se comparta en distintas regiones.
Seguridad digital frente al extremismo, el odio y la violencia
Incluso antes de la guerra en Ucrania, ya se había documentado un aumento global de la violencia supremacista blanca, junto con el crecimiento de las comunidades extremistas en línea. A raíz de la invasión, han surgido complejas consecuencias para diversos grupos supremacistas blancos y extremistas de todo el mundo.
La empresa emergente de confianza y seguridad proactivas ActiveFence, ha constatado que extremistas neonazis y supremacistas blancos de todo el mundo han promovido sus agendas bajo la apariencia de apoyar a Ucrania. Expertos en lucha antiterrorista han señalado que un componente clave de la campaña del Kremlin para explotar las divisiones en Occidente consiste en recurrir a supremacistas blancos transnacionales para promover el extremismo violento motivado por razones raciales y étnicas.
Por desgracia, los canales digitales han facilitado el reclutamiento, la recaudación de fondos y la realización de actividades vinculadas a causas extremistas violentas y terroristas, especialmente a través de plataformas tecnológicas alternativas. Un informe de RAND Corporation describe cómo el crecimiento de los canales digitales ha coincidido con un aumento de la actividad extremista de extrema derecha en línea. La actividad reciente ha demostrado que difundir ataques y explotar las redes sociales es ya la nueva normalidad del terrorismo.
La respuesta de las plataformas digitales
Las principales digitales plataformas han adoptado una postura general contra la invasión y han cambiado sus políticas y prácticas para contrarrestar la desinformación rusa y los medios estatales. En general, estas plataformas se han movilizado para proteger a los usuarios ucranianos y reforzar sus vínculos con los gobiernos democráticos, en lugar de mantener la neutralidad. Human Rights Watch y otras organizaciones vigilan de cerca las respuestas de las empresas de redes sociales, incluidas las medidas que van más allá de bloquear los medios afiliados al Estado ruso y financiados por este.
Estas decisiones sientan precedentes para el futuro y plantean interrogantes sobre conflictos pasados y actuales. También ponen de relieve preguntas clave que deben responderse:
1. ¿Cómo deben desarrollarse protocolos y prácticas más amplios para tiempos de guerra a fin de reducir los sesgos en las decisiones que las plataformas toman por iniciativa propia?
Los expertos sugieren que un proceso y unos protocolos para tiempos de guerra —inspirados, en términos generales, en los protocolos desarrollados tras la masacre de Christchurch en Nueva Zelanda en 2019—, que puedan aplicarse con flexibilidad y teniendo en cuenta el contexto cuando estallan los combates, podrían contribuir a garantizar respuestas coherentes en tiempos de guerra.
Cuando se trate de eliminar o moderar de otro modo contenido durante un conflicto, las plataformas deberían hacerlo basándose en un conjunto establecido de prácticas —para evitar sesgos y medidas arbitrarias— e impulsar un enfoque proactivo y sistemático de la gobernanza de las plataformas.
2. ¿Cómo deberían ajustarse durante los períodos de crisis las métricas y expectativas relativas a la rapidez y precisión de la moderación de contenidos y a otras medidas de calidad?
Aunque acertar con las decisiones de seguridad digital es aún más crucial durante los conflictos importantes, los moderadores de contenidos y los sistemas tienen más dificultades para aplicar las normas con precisión ante los frecuentes cambios de políticas y el gran volumen de contenido. Actualmente no existen normas exigibles sobre medidas correctivas «suficientes», tiempos de respuesta y otras métricas clave relativas a la moderación de contenidos y conductas en los sitios de las plataformas.
3. ¿Cómo deberían las plataformas archivar y guardar el contenido violento con fines probatorios?
Las empresas están eliminando, conforme a sus políticas declaradas y con razón, el contenido que representa violencia y otros materiales que infringen las normas de las plataformas. Pero ¿cómo debería archivarse ese contenido, dado su posible valor probatorio en futuros procesos por crímenes de guerra?
Las investigaciones de Human Rights Watch, así como del Berkeley Human Rights Center, Mnemonic y WITNESS, han demostrado que posibles pruebas de delitos graves están desapareciendo, a veces sin que nadie lo sepa. Deberían establecerse prácticas y normas coherentes para archivar y almacenar de otro modo ese contenido en las principales plataformas digitales, a fin de garantizar que siga siendo accesible si se necesita en el futuro.
4. ¿Cómo deberían compartirse las decisiones sobre políticas y otras cuestiones de seguridad digital para garantizar la transparencia, y qué mecanismos de rendición de cuentas deberían establecerse para asegurar la coherencia entre las regiones en conflicto y los idiomas?
Aunque muchas plataformas han adoptado justificadamente una postura firme ante la invasión rusa, actualmente no existen normas ni directrices exigibles sobre la transparencia de esas decisiones. También se ha informado de que las capacidades lingüísticas de los equipos de moderación contratados o utilizados por muchas plataformas son insuficientes para abordar la proliferación de contenido dañino en regiones donde no se habla inglés.
Actualmente no se dispone de una cobertura lingüística suficiente ni de métricas de transparencia que permitan evaluar si la cobertura de moderación es adecuada o equitativa entre idiomas y regiones, lo que dificulta exigir responsabilidades a las plataformas. Este problema cobra aún más importancia en tiempos de guerra.
Las próximas normativas, entre ellas la Ley de Servicios Digitales en Europa, el Proyecto de Ley de Seguridad en Línea en el Reino Unido y las Expectativas Básicas de Seguridad en Línea de Australia, buscan abordar la rendición de cuentas de las plataformas, la transparencia y la seguridad de los usuarios en línea, y pretenden responder a algunas de estas cuestiones. Iniciativas como la Coalición Global para la Seguridad Digital también han reunido a líderes de los sectores público y privado para debatir enfoques transjurisdiccionales de la seguridad digital que sean sistemáticos, coherentes y estén preparados para el futuro.
Aunque aún no se conocen las consecuencias a largo plazo de la guerra en Ucrania, está claro que el impacto de las medidas adoptadas por las principales plataformas digitales para proteger a los usuarios en línea se hará sentir durante años.
