Para proteger a los usuarios de Internet, en particular a los niños, los medios de comunicación, las empresas tecnológicas y los organismos reguladores deben cooperar para desarrollar una solución eficaz.
Actualmente, los daños en línea son competencia casi exclusiva de las empresas tecnológicas, por lo que estas tienen mucho que enseñar a los organismos reguladores sobre la realidad de hacerles frente.
Solo mediante una cooperación eficaz se pueden prevenir los daños en línea y hacer de Internet un lugar más seguro para todos.
En los últimos años ha cambiado la manera en que las personas, los gobiernos y los medios de comunicación conciben la confianza y la seguridad.
De hecho, si Google Trends sirve de indicador, en los últimos 10 años el interés público por la moderación de contenidos —la función central de la confianza y la seguridad— se ha multiplicado por veinticinco.
Pero en este ámbito hay demasiadas opiniones y muy poca cooperación.
Las grandes tecnológicas, los medios y los organismos reguladores: un enfrentamiento a tres bandas
Hasta hace poco, la Sección 230 de Estados Unidos era la «norma vigente» en materia de seguridad en línea. Promulgada a mediados de la década de 1990, la ley limitaba la responsabilidad de las empresas tecnológicas por el contenido alojado en sus plataformas.
Más de 30 años después, las plataformas tecnológicas se han utilizado para compartir material de abuso sexual infantil (MASI), incitar a la violencia y difundir discursos de odio, divulgar desinformación que daña el tejido de nuestras sociedades y retransmitir en directo atentados terroristas y decapitaciones. Aunque no siempre tienen responsabilidad legal, han estado abordando complejos problemas sociales con poca orientación de los órganos legislativos, y por ello se enfrentan a un escrutinio considerable.
La falta de legislación y cooperación ha generado una percepción cada vez más extendida de que las plataformas tecnológicas, los gobiernos y los medios de comunicación ocupan posiciones opuestas en el debate sobre los contenidos nocivos. Algunos acusan a las plataformas de limitar la libertad de expresión, y otros, de lucrarse con la proliferación de daños en línea. Algunos consideran que los legisladores son autoritarios, mientras que otros creen que se extralimitan; por su parte, se ve a los medios como quienes avivan la polémica e impulsan el escrutinio público.
Sin embargo, se han introducido nuevas leyes destinadas a establecer directrices específicas sobre la seguridad en línea. La Ley de Servicios Digitales de la UE y el Proyecto de Ley de Seguridad en Línea del Reino Unido buscan proteger las interacciones en línea, pero siguen sin tener en cuenta la perspectiva y los conocimientos especializados que las plataformas tecnológicas han adquirido a lo largo de los años. Esto puede suponer una oportunidad perdida para encontrar una solución integral a la seguridad en línea.
La colaboración es clave para prevenir los daños en línea
Un enfoque colaborativo es posible y, de hecho, esencial. Un ejemplo es el Código de Diseño Apropiado para la Edad del Reino Unido. Puesto en marcha en septiembre de 2021, el código se elaboró mediante un proceso iterativo durante el cual su organismo encargado de hacerlo cumplir, la Oficina del Comisionado de Información, publicó orientaciones y aclaraciones basadas en la comunicación directa con decenas de plataformas tecnológicas.
Además, hemos visto colaboraciones constructivas entre grupos de la sociedad civil y plataformas tecnológicas, así como organismos gubernamentales. Organizaciones como el Family Online Safety Institute y el National Center for Missing and Exploited Children actúan como mediadoras entre las empresas tecnológicas y el gobierno en cuestiones relacionadas con la seguridad infantil. La 5Rights Foundation ha apoyado a los organismos reguladores británicos en la elaboración de códigos de protección infantil, como la Ley de Diseño Apropiado para la Edad.
Este enfoque colaborativo puede aplicarse a la moderación de contenidos. Pensemos en la directriz aparentemente sencilla de que, cuando se detecte contenido nocivo en una plataforma, se debe actuar. Cuando estas acciones, antes voluntarias, se convierten en ley, es importante comprender sus detalles y limitaciones, algo que puede lograrse aprovechando la gran cantidad de conocimientos que las plataformas tecnológicas han acumulado a lo largo de los años.
¿Qué es el contenido nocivo?
¿Cómo se determina qué se considera nocivo? ¿Solo cuenta el MASI gráfico, o también las descripciones textuales de daños contra niños? ¿Y la desinformación? ¿Dónde se traza la línea entre las mentiras inofensivas y los relatos peligrosos que pueden perjudicar la salud pública?
¿Qué constituye una detección ética?
¿Cuándo basta con esperar a que los usuarios señalen el contenido para que llegue a los moderadores, y cuándo hacen falta medidas más proactivas? Si se comparten en una plataforma enlaces que llevan a los usuarios a contenido nocivo, ¿también deberían detectarse o la detección debería limitarse a las infracciones directas dentro de la plataforma? ¿Qué limitaciones relacionadas con la privacidad y el cifrado pueden dificultar la detección proactiva? ¿Quién enseña a los algoritmos de inteligencia artificial qué deben detectar y cómo entienden esos algoritmos la diferencia entre un cuchillo en un programa de cocina y uno en un ataque? En la detección realizada por moderadores humanos, ¿cómo se equilibra la necesidad de tener plataformas seguras con el bienestar de los moderadores?
¿Qué medidas deberían tomarse?
¿Cómo deciden las plataformas cuándo eliminar un contenido, etiquetarlo o eliminar por completo al usuario? ¿Cómo abordan las cuestiones de la libertad de expresión frente a la libertad frente a los daños?
También deben tenerse en cuenta el aspecto cultural de los contenidos nocivos y las posibles consecuencias jurídicas de compartir contenidos entre países. Un contenido que resulta nocivo en una cultura puede no serlo en otra, y las plataformas deben sopesar las consecuencias de actuar en un país frente a no actuar en otro con respecto a un mismo contenido.
Las medidas de cumplimiento tienen dos filos: se juzga a las plataformas cuando actúan, pero se las denigra cuando no lo hacen.
Solo teniendo en cuenta el panorama completo pueden tomarse decisiones legislativas que hagan obligatorios los procesos que algunas plataformas tecnológicas llevan años facilitando.
El equilibrio en la moderación de contenidos
La moderación de contenidos exige equilibrar las libertades individuales, las necesidades de múltiples partes interesadas, las limitaciones tecnológicas y los resultados deseados. Esto solo puede lograrse mediante la colaboración.
Los gobiernos, las plataformas tecnológicas y los grupos de la sociedad civil pueden y deben trabajar juntos para:
1. Comprender los daños que acechan en los espacios en línea. Más allá de las amenazas evidentes, los actores malintencionados de todos los ámbitos de abuso se aprovechan de los espacios digitales para causar daño. Antes de actuar, es fundamental comprender a fondo sus motivaciones, técnicas y herramientas.
2. Analizar los complejos desafíos. La detección de contenido nocivo plantea muchos desafíos desde el punto de vista tecnológico y ético. Es esencial entender qué pueden hacer realmente las empresas tecnológicas para combatir estos daños en línea y qué implica esto para la privacidad de los usuarios.
3. Diseñar soluciones nuevas y más integrales. Este problema tiene repercusiones mucho más allá de los espacios digitales en los que participamos. Teniendo esto en cuenta, las medidas contra algunos de estos daños en línea no pueden quedar únicamente en manos de las plataformas tecnológicas.
Solo cuando las plataformas tecnológicas y los organismos reguladores aborden este problema con disposición a comunicarse, voluntad de colaborar de verdad y un auténtico espíritu de asociación se podrá alcanzar una solución óptima y proteger a las víctimas de los daños en línea.
