Las denuncias de daños en línea aumentaron significativamente durante la pandemia de COVID-19.
Solo unos pocos gobiernos de todo el mundo han empezado a abordar seriamente el abuso en línea.
¿Qué más se puede hacer para legislar contra los daños en línea y educar a la sociedad en general?
La «nueva normalidad» de trabajar, estudiar y socializar desde casa durante la COVID-19 provocó un aumento significativo de las denuncias de daños en línea. Según la Oficina del Comisionado de eSafety de Australia, en 2020, las denuncias de contenido ilegal en línea aumentaron un 90 %, las denuncias de difusión no consentida de imágenes íntimas aumentaron un 114 %, y las denuncias de acoso en línea y ciberacoso aumentaron hasta aproximadamente un 40 % y un 30 %, respectivamente.
Aunque la pandemia mundial aumentó significativamente la prevalencia y la denuncia de daños en línea, muchos de estos problemas no son nuevos. En un primer estudio internacional publicado en 2020 sobre la difusión no consentida de imágenes íntimas en Australia, Nueva Zelanda y el Reino Unido, se constató que, entre 6.109 encuestados, 1 de cada 3 había sufrido abuso sexual basado en imágenes, y que los grupos étnica y sexualmente diversos sufrían tasas más altas de victimización.
En 2019, un informe sobre deepfakes (vídeos falsos generados por ordenador sin consentimiento) reveló que el 96 % de los deepfakes son pornográficos, y que el 100 % de esos deepfakes pornográficos muestran a mujeres. Según una investigación del Pew Research Center, en Estados Unidos, aproximadamente 1 de cada 4 adultos estadounidenses ha sufrido acoso en línea, y desde 2017 se han registrado episodios más graves.
Estos países están respondiendo a los daños en línea
Durante más de 20 años, las empresas de redes sociales han permanecido en gran medida sin regulación por parte de los gobiernos, y solo recientemente los países de todo el mundo han empezado a abordar seriamente daños en línea como el ciberabuso, el ciberacoso, el abuso sexual basado en imágenes (la difusión no consentida de imágenes íntimas) y, más recientemente, el abuso mediante deepfakes.
En el Reino Unido, Estados Unidos y Australia, los gobiernos han realizado recientes esfuerzos jurídicos históricos y pioneros a nivel mundial para hacer frente a los daños en línea. Entonces, ¿cómo están respondiendo?
Reino Unido
En el Reino Unido, se ha publicado un reciente Proyecto de Ley de Seguridad en Línea que propone un nuevo deber legal de diligencia para las empresas de redes sociales con respecto a sus usuarios, que incluye el deber de realizar una «evaluación de riesgos de contenido ilegal» para valorar el nivel de riesgo de que los usuarios se encuentren con contenido terrorista, contenido de explotación y abuso sexual infantil, y contenido ilegal, entre otras cosas. Este deber de diligencia también exigiría a las empresas de redes sociales adoptar «medidas proporcionadas para mitigar y gestionar eficazmente los riesgos de daño a las personas».
El Proyecto de Ley de Seguridad en Línea del Reino Unido también propone facultar a OFCOM, el regulador de comunicaciones del Reino Unido, con competencias reguladoras en materia de seguridad en línea para imponer a determinados servicios regulados, incluidas las empresas de redes sociales, una sanción máxima de «la cantidad mayor entre 18 millones de libras y el 10 % de los ingresos mundiales computables de la persona» por incumplir dichos deberes.
Australia
En Australia, los contribuyentes financian el funcionamiento de un regulador australiano de seguridad en línea encargado de hacer frente a los daños en línea. La Oficina del Comisionado de eSafety es responsable de responder a las denuncias de difusión no consentida de imágenes íntimas. En el marco del régimen de abuso de imágenes íntimas de Australia, el Comisionado de eSafety tiene facultad para imponer multas de AUD$105.000 a las personas que compartan imágenes íntimas sin consentimiento, y las empresas que incumplan la retirada de dicho contenido podrán ser multadas con AUD$525.000.
En 2021, una nueva legislación sobre seguridad en línea fue aprobada en Australia para «crear un nuevo sistema de avisos de retirada basado en denuncias contra el ciberabuso» perpetrado contra adultos australianos. El Comisionado de eSafety de Australia tendrá la facultad de garantizar que las empresas de redes sociales «adopten todas las medidas razonables» para retirar el material de ciberabuso en un plazo de 24 horas. El incumplimiento estará sujeto a una sanción civil.
Estados Unidos
En Estados Unidos, la Ley de Reautorización de la Ley contra la Violencia hacia la Mujer de 2021, aprobada por la Cámara de Representantes, ha sido recibida en el Senado. La propuesta legislativa federal incluía como enmienda la Ley SHIELD (Stopping Harmful Image Exploitation and Limiting Distribution Act, Ley para Detener la Explotación Dañina de Imágenes y Limitar su Distribución), que propone tipificar como delito la distribución y la amenaza intencionada de distribuir representaciones visuales íntimas de una persona sin su consentimiento, castigado con dos años de prisión y una multa.
¿Son suficientes estas respuestas?
Los países de todo el mundo están dando pasos significativos para promulgar y aplicar marcos jurídicos, normativos y políticos, así como infraestructuras, que protejan a sus ciudadanos en línea y que exijan responsabilidades a las empresas tecnológicas por los daños en línea que se producen en sus plataformas. Pero vivimos en un mundo cada vez más globalizado e interconectado, y una de las limitaciones más importantes a las que debe enfrentarse la comunidad mundial es la necesidad urgente de una respuesta global y colaborativa frente a los daños en línea. Los gobiernos, las fuerzas del orden y las industrias mundiales deben abordar estas cuestiones, no solo para exigir cuentas a los responsables, sino para garantizar el acceso a la justicia de las víctimas y supervivientes.
Que los países introduzcan legislación nacional para combatir los daños en línea es un gran comienzo, pero su eficacia está limitada por cuestiones jurisdiccionales. Mientras no se superen, siempre se quedarán cortas como enfoque para combatir los daños en línea, porque para hacer frente a este problema sin fronteras y global necesitamos una respuesta sin fronteras y global. En 2021, no bastará con que los países tipifiquen como delito los daños en línea, retiren el contenido ilegal y exijan a las empresas de redes sociales que cumplan con las solicitudes de retirada, sin responsabilizar también a los responsables al otro lado de las fronteras nacionales. Abordar las cuestiones de rendición de cuentas y cumplimiento de la ley a través de las fronteras seguirá siendo un obstáculo importante que superar a medida que los países continúen respondiendo a los daños en línea.
¿Qué más hay que hacer?
Más allá de la necesidad de una respuesta global y colaborativa, los esfuerzos legislativos, normativos y políticos nacionales solo llegarán hasta cierto punto en esta lucha contra los daños en línea. También necesitamos un enfoque multifacético de toda la sociedad para combatir los daños en línea, mediante la educación en las escuelas, así como iniciativas de educación para espectadores (bystander), formación especializada para las fuerzas del orden, servicios de asesoramiento con enfoque en el trauma para las víctimas y supervivientes, políticas y prácticas laborales que ayuden a las víctimas y supervivientes, e indemnizaciones para las víctimas. Existe una gran variedad de soluciones que deberían aplicarse a nivel nacional e internacional, y basadas en los recientes avances en este ámbito, para crear un mundo más seguro, en línea y fuera de línea, para todos. El futuro se presenta prometedor.
El Consejo Global del Futuro sobre Política de Datos del Foro Económico Mundial lidera una iniciativa multisectorial destinada a explorar estas cuestiones, Caminos hacia la Justicia Digital, en colaboración con el Consejo Global del Futuro sobre Medios, Entretenimiento y Deporte y el Consejo Global del Futuro sobre IA para la Humanidad. Para obtener más información, póngase en contacto con Evîn Cheikosman en evin.cheikosman@weforum.org.
