La cantidad de contenido dañino en internet aumenta rápidamente.
La opacidad y la falta de un enfoque común son obstáculos para avanzar.
Una nueva iniciativa busca fomentar la colaboración en el sector de los medios de comunicación.
Internet nos ha facilitado la vida de muchas maneras. Podemos comprar productos en línea y recibirlos casi de inmediato. Podemos encontrar a personas a las que les gusta la misma raza de perro poco común que a nosotros y compartir con ellas un sinfín de fotos en Instagram. Podemos reaccionar al contenido en tiempo real, ya sean memes divertidos o noticias de última hora.
Pero esa misma experiencia sin fricciones que la mayoría disfrutamos para aprender, entretenernos o conectar con otras personas también ha sido aprovechada por quienes buscan hacer daño, y la velocidad, el alcance, el acceso y la eficiencia que ofrece internet son iguales para todos sus usuarios.
El contenido circula libremente y en abundancia por internet. Cada minuto, se publican 500 horas de vídeo en YouTube y se suben 243.000 fotos a Facebook. Por desgracia, esta proliferación también alcanza al contenido dañino. En el último año, el número de denuncias de imágenes de explotación infantil que circulan por internet se ha duplicado, hasta llegar a 45 millones. Solo en Facebook, en el tercer trimestre de 2019 se retiraron 11,6 millones de piezas de contenido relacionadas con la desnudez infantil y la explotación sexual de menores, un aumento considerable respecto al trimestre anterior. El acoso y la intimidación, la propaganda terrorista y el uso de cuentas falsas para enviar spam o cometer fraudes también se extienden por muchos sitios.
Es difícil determinar qué parte del aumento del contenido dañino se debe a una mayor circulación de este tipo de contenido y qué parte, a las mejoras en su detección y en la aplicación de medidas. En cualquier caso, depredadores y otros actores malintencionados utilizan los espacios en línea para acelerar actividades ilegales y dañinas de una forma sin precedentes. Muchos sostienen que este tipo de actividad siempre ha existido y que la web abierta apenas ahora la está sacando a la luz. Sin embargo, la disrupción digital, que ha creado una experiencia de usuario sin fricciones, y el giro hacia modelos de negocio basados en la publicidad y en maximizar la interacción han hecho que sea más rápido y fácil que todo tipo de contenido alcance una escala masiva. Pero, con tanta tecnología y conocimiento al alcance de la mano, ¿por qué no hemos logrado limpiar mejor los espacios en línea?
Una razón es que el propio problema se ha vuelto opaco. Algunos directivos tecnológicos contraponen la libertad de expresión a una internet censurada de tal manera que llevan a la gente a adoptar una postura absolutista al respecto. Aceptar el argumento de que hay que dejar que el contenido nocivo en internet siga su curso como prueba de nuestra voluntad de defender la libertad de expresión permite a los responsables eludir cualquier medida y seguir como si nada. Como señaló John A. Powell, profesor de Derecho en Berkeley, en esteartículo de The New York Times, «Tenemos que proteger los derechos de quienes hablan, pero ¿qué pasa con los derechos de todos los demás?».
Aunque las empresas privadas no están sujetas a la Primera Enmienda, la mayoría seguimos de acuerdo en la importancia de defender la libertad de expresión en los espacios digitales públicos. Pero ahí es donde debería empezar la conversación, no terminar. Para impulsar este importante diálogo, también debemos reconocer que nadie puede vulnerar los derechos humanos de otra persona en nombre de la libertad de expresión. Como ejemplo de las consecuencias reales del daño digital, un informe del Departamento de Justicia de Estados Unidos identificó la extorsión sexual como la amenaza que más está creciendo para los menores y citó un estudio del FBI que concluyó que más de una cuarta parte de los casos de extorsión sexual terminaron en suicidio o intento de suicidio. La forma en que se ha planteado el problema hasta ahora presenta una falsa disyuntiva engañosa y peligrosa: no se trata de amenazar la libertad de expresión, sino de valorar todas las protecciones y aplicar medidas adecuadas para que nadie sufra daños en nombre de esa libertad. Así ayudaremos a garantizar que, a largo plazo, todas las personas puedan sentirse seguras y tener voz.
Otra gran dificultad para abordar este problema es la falta de un enfoque, una terminología y una comprensión comunes de las contrapartidas que implica el contenido dañino en internet. Términos como «discurso de odio» y «noticias falsas» han homogeneizado un problema de contenido que presenta diferencias muy marcadas. Las responsabilidades de los sectores público y privado, los plazos previstos para actuar y el riesgo para la ciudadanía varían considerablemente según el tipo de contenido. Cada plataforma tiene sus propias categorías y métricas de transparencia; cada marca de consumo que se anuncia en ella establece sus propios criterios de riesgo sobre el contenido junto al cual quiere que se anuncien sus productos. Aunque será difícil lograr un uso coherente de la terminología y de los métodos de denuncia en todo el ecosistema mediático, aquellos ámbitos donde hay más consenso, como la explotación infantil y el contenido extremista, pueden servir de punto de partida para abordar el contenido dañino de forma más colaborativa.
El problema también es complejo desde la perspectiva de los usuarios. Dado que a la gran mayoría de los adultos les preocupa cómo utilizan las empresas los datos que recopilan sobre ellos, es probable que la mayoría prefiera usar servicios con más privacidad y cifrado. Sin embargo, las estimaciones indican que el número de denuncias de abuso sexual infantil presentadas a través de CyberTipline se reduciría a la mitad con el cifrado de extremo a extremo. No se ha explicado claramente a los consumidores la disyuntiva entre la privacidad y la detección de contenido dañino. En cualquier caso, los usuarios no tienen suficiente poder adquisitivo para influir en las decisiones de las plataformas cuyos ingresos dependen en su mayoría de los anunciantes.
Desde la perspectiva del mercado, los modelos de negocio actuales de los medios no son intrínsecamente malos. De hecho, todos salen ganando cuando las cosas funcionan bien: los consumidores, que reciben un servicio gratuito; los anunciantes de marca, que consiguen alcance; las plataformas, que obtienen ingresos; y los creadores de contenido, que reciben financiación. Sin embargo, cuando quienes buscan crear o compartir contenido dañino se aprovechan de esta interacción, el riesgo para la sociedad supera con creces los beneficios de la eficiencia del mercado. Se ha creado una iniciativa llamada Alianza Global por unos Medios Responsables para impulsar una colaboración poco habitual en todo el sector de los medios, reconociendo que el dinero de la publicidad de las marcas es la principal fuente de financiación de los creadores de contenido en las plataformas, y que esto conlleva tanto la responsabilidad como el poder de impulsar el cambio.
Ya se trate de los horrendos atentados terroristas retransmitidos en directo desde Christchurch o del brutal asesinato de un estudiante, cuyo vídeo se subió a internet hace una década, las consecuencias del contenido dañino para la sociedad son graves. A medida que nuestros mundos digital y físico siguen convergiendo, nuestra seguridad en línea, basada en el contenido que creamos, vemos y compartimos, acabará siendo nuestra seguridad personal, sin más.
