El debate sobre la responsabilidad de las plataformas por los contenidos está dividido en dos posturas diametralmente opuestas. Una sostiene que solo podemos abordar los problemas muy reales del fraude, el acoso, la incitación a la violencia, la radicalización y la manipulación política haciendo que las plataformas sean estrictamente responsables de los contenidos que aparecen en sus servicios; la otra afirma que convertir a las plataformas en policías crea una clase de poderosos guardianes sin rendición de cuentas y elimina precisamente aquello que ha hecho que las redes sociales sean tan valiosas para la participación cívica y los movimientos democráticos.
Los argumentos de ambos lados tienen fundamento y abundan los ejemplos. Quienes defienden la responsabilidad de las plataformas señalanla manipulación rusa de las elecciones, la explosión de las «noticias falsas» y el uso de Facebook por parte de los autores del genocidio rohinyá. Quienes se oponen a que las plataformas sean responsables señalan el papel fundamental de las redes sociales en levantamientos democráticos populares, como la Primavera Árabe y el movimiento Black Lives Matter; el daño causado por los «falsos positivos», propiciados por algoritmos excesivamente inclusivos y mal diseñados, que censuran expresiones controvertidas legítimas (e incluso necesarias); y la ineficacia de intentar retirar los contenidos perjudiciales.
Quizá sea revelador de cómo las redes sociales nos han acostumbrado a pensar en términos extremos que las únicas opciones que se debaten sean los regímenes de responsabilidad estricta (por lo general, con disposiciones de «notificación y retirada») o una postura completamente pasiva que aboga por la desregulación total y la inmunidad frente a cualquier contenido de terceros.
Los problemas de las iniciativas actuales de los intermediarios
Uno de los obstáculos para desarrollar un enfoque equilibrado y eficaz es la falta de datos reales. Las plataformas pueden publicar «informes de transparencia» (voluntariamente o por obligación legal), pero estos se centran exclusivamente en métricas cuantitativas que nos dicen poco sobre la eficacia o el impacto de las medidas que han adoptado.
Por ejemplo, el primer informe de transparencia publicado recientemente en virtud de la Ley alemana de aplicación de la ley en las redes (NetzDG) incluye una tabla con el número de denuncias recibidas por una plataforma obligada a informar y cuántas dieron lugar a retiradas de contenido. Esto podría indicar que las plataformas no están aplicando criterios demasiado amplios,como sugirió un experto, o, al combinar este informe con otros datos, que se ha bloqueado contenido legal, como sostiene Reporteros Sin Fronteras, pero no nos dice nada sobre el impacto.
Al dar prioridad a las métricas cuantitativas en vez de las cualitativas, estos informes se centran por completo en la pregunta equivocada. Deberían preguntarse: ¿la moderación más agresiva de contenidos aborda los problemas sociales muy reales que queremos resolver y, de ser así, a qué costo?
Las pruebas existentes sugieren que las plataformas sencillamente no son muy buenas moderando contenidos. Por ejemplo, hace años que sabemos que imponer a las plataformas la responsabilidad por el material de terceros que infringe los derechos de autor da lugar a un número considerable de falsos positivos y, en consecuencia, a retiradas de contenido, y aparentemente tiene poco impacto en las infracciones en línea en general. El sistema de moderación de contenidos protegidos por derechos de autor más exitoso, Content ID de Google le ha costado a Google más de 60 millones de dólares desarrollar y mantener, sin satisfacer a nadie.
Determinar si un contenido de terceros infringe los derechos de autor de otra persona es el caso más sencillo de moderación internacional de contenidos por parte de las plataformas. La legislación sobre derechos de autor es bastante uniforme en todo el mundo, aunque no por completo. Consiste en comparar una obra con otra y determinar si coinciden. Si las variaciones relativamente modestas entre países en las excepciones y limitaciones o en la aplicación de los criterios de infracción desconciertan a sistemas costosos y sofisticados como Content ID, no es razonable esperar que las plataformas y los algoritmos puedan abordar la cuestión mucho más difícil y delicada de la moderación de contenidos relacionados con el discurso de odio, la incitación a la violencia y la indecencia.
Los indicios anecdóticos sugieren que las plataformas gestionan mal estos casos, con posibles costos considerables tanto para quienes se expresan como para la comunidad en general. Algunos ejemplos parecen triviales a primera vista, pero tienen implicaciones importantes. Pensemos en el nuevo sistema de identificación de anuncios políticos de Facebook, que ha bloqueado anuncios de empresas corrientes cuyos nombres incluyen «Bush» o «Clinton». No se trata solo de una molestia, sino de un problema muy real para empresas inocentes que se ven imposibilitadas de anunciarse en la mayor plataforma de redes sociales del mundo.
Mientras tanto, el bloqueo accidental por parte de Facebook de periódicos que promueven la cobertura política (mientras no bloquea muchos anuncios políticos) no solo resulta molesto o supone una pérdida de ingresos para los periódicos, sino que priva al público de información periodística sobre cuestiones políticas urgentes. No poder promover una noticia importante en los días previos a unas elecciones puede tener consecuencias muy reales y perjudiciales que simplemente no quedan reflejadas en un informe de transparencia centrado en métricas.
Más preocupante aún es la alarmante tendencia de las iniciativas de moderación de contenidos a afectar de forma imprevista a comunidades vulnerables o tradicionalmente marginadas. El sistema de identificación política de Facebook ha impedido en la práctica que los inmigrantes indocumentados en Estados Unidos compren anuncios políticos. Amparándose en sus normas comunitarias, Facebook ya ha retirado accidentalmente avisos sobre protestas por los derechos civiles. Si el objetivo es prevenir la violencia contra comunidades y personas vulnerables, la supresión accidental de iniciativas para denunciar y organizarse contra esa violencia debe tomarse en serio al evaluar la eficacia de la moderación de contenidos.
El impulso para hacer responsables a las plataformas en línea de la moderación de contenidos tiene un efecto corrosivo en la sociedad en su conjunto, dada la manera opaca y aparentemente arbitraria en que grandes corporaciones sin rendición de cuentas ejercen su labor de vigilancia. En Estados Unidos, el presidente Trump ha acusado repetidamente a Google Search y a otras plataformas de redes sociales de parcialidad. Los republicanos del Congreso y los activistas conservadores han formulado repetidamente acusaciones similares. Al mismo tiempo, los progresistas y las comunidades racializadas han sostenido que las plataformas de redes sociales discriminan sistemáticamente sus contenidos.
Esto erosiona aún más nuestra confianza en la información periodística, socava la utilidad de las plataformas de redes sociales para el debate cívico en el espacio público y acentúa las divisiones sociales entre bandos políticos rivales, convencidos cada uno de que las plataformas favorecen injustamente a sus adversarios. Más preocupante aún, anima a las plataformas a responder a las amenazas de quienes están en el poder, que reclaman una mayor regulación, promoviendo más activamente contenidos diseñados para ganarse el favor de esos políticos.
Debemos explorar otras opciones
En la edición reeditada recientemente de su libro, Internet of Garbage, Sarah Jeong (víctima ella misma de acoso coordinado en línea) sostiene que, en los primeros años de internet, el énfasis en la detección y la eliminación redujo a esas dos opciones todos los esfuerzos por proteger a los usuarios vulnerables. Sin embargo, como explica Jeong, «todo ciclo de acoso que se centre en la detección y la eliminación está condenado a girar en círculos». Esto no significa, sin embargo, que debamos retirarnos y contemplar la situación sin poder hacer nada. «La eliminación debe considerarse una herramienta más del repertorio, no el objetivo final», concluye Jeong. «Porque eliminar no es vencer, ni alcanzar la libertad o liberarse del miedo. Es simplemente eliminar».
Cada nuevo medio de comunicación electrónica de masas ha exigido replantearse cómo evitar que lo utilicen quienes incitan al odio, demagogos y delincuentes. Por ejemplo, los países han desarrollado leyes para impedir que la gente use el teléfono para cometer fraudes o amenazar a otras personas. Estas leyes no se centran únicamente en detectar y eliminar contenidos ni delegan toda la responsabilidad en la compañía telefónica o la emisora. Al mismo tiempo, están diseñadas para tener en cuenta las preocupaciones sobre la libertad de expresión y el debido proceso. Por lo general, estas soluciones penalizan ciertos usos de la nueva tecnología, establecen alguna forma de cooperación y obligación de informar entre la emisora o el operador de red, prevén algún tipo de debido proceso judicial y contemplan excepciones para los casos de daño inminente.
Estas soluciones no son perfectas, pero representan un equilibrio pragmático y viable que la sociedad ha alcanzado entre los guardianes privados arbitrarios y la impotencia. Ha llegado el momento de que los países exploren seriamente un equilibrio similar, y debidamente pragmático y viable, para las redes sociales. Nadie espera que las soluciones del pasado para regular las comunicaciones sean suficientes por sí solas, pero deberíamos empezar por estudiarlas.
En resumen, ha llegado el momento de alejarse de los dos extremos: decirles a las plataformas «retiren el contenido» o a los gobiernos «no intervengan». Las partes interesadas deben unirse y reconocer dos principios fundamentales: que el statu quo es peligrosamente intolerable para las personas y las normas democráticas, pero que las plataformas no pueden hacer desaparecer por arte de magia los contenidos nocivos sin imponer costos muy reales a las personas y a la sociedad en su conjunto. Solo cuando los gobiernos y las partes interesadas hayan aceptado esta realidad podrá comenzar la verdadera labor de abordar eficazmente los contenidos peligrosos en línea.
