Protección vs. censura: cómo encontrar el equilibrio al frenar la desinformación en línea

Los días en que las teorías conspirativas, la desinformación y las noticias falsas se limitaban a los márgenes de internet han quedado atrás. Hoy forman parte del debate global general, influyen en elecciones, alteran mercados y ponen a prueba los límites de la libertad de expresión. Como reveló el Informe de Riesgos Globales 2025 del Foro Económico Mundial, la desinformación sigue siendo, por segundo año consecutivo, el principal riesgo a corto plazo. Tiene el poder de erosionar la confianza, profundizar las divisiones y debilitar la gobernanza y la cooperación global. Con una regulación que aún no alcanza el ritmo acelerado del cambio tecnológico, el riesgo no solo persiste, sino que crece.

En la Reunión Anual del Foro Económico Mundial de este año, dos sesiones clave —Truth vs. Myth in Elections (Verdades vs. mitos en las elecciones) y To Moderate or Not to Moderate? (Moderar o no moderar)— abordaron los crecientes desafíos de la desinformación, los dilemas de la moderación de contenidos y el frágil equilibrio entre la integridad democrática, los derechos humanos y la innovación tecnológica.

Si bien los panelistas coincidieron en que la trayectoria actual es insostenible, la pregunta es si es posible alcanzar un consenso ante las complejidades que enfrentan las plataformas digitales: equilibrar su responsabilidad de frenar los contenidos nocivos sin socavar la libertad de expresión ni acentuar la polarización en las sociedades.

En 2024, el 50 % de la población mundial acudió a las urnas, con narrativas falsas e información engañosa moldeando los escenarios políticos en todo el mundo y profundizando la fragmentación geopolítica.

El caso de Moldavia es ilustrativo. Su primer ministro, Dorin Recean, describió cómo redes extranjeras de desinformación interfirieron en las elecciones de su país mediante la difusión de deepfakes generados con inteligencia artificial que mostraban a niños con uniformes militares junto a banderas de la Unión Europea, afirmando falsamente que la integración a la UE conduciría a la guerra. La desinformación no se trata solo de mentiras. Se trata de miedo, emociones y división. “Intentan asociar la UE con la guerra y dicen: ‘Miren lo que pasa en Ucrania. Si quieren la UE, lo mismo ocurrirá en Moldavia’”, advirtió Recean, y agregó que la inversión en ataques de desinformación fue del 2,5 % del PIB de Moldavia.

A medida que los gobiernos comienzan a comprender las implicancias del impacto de la desinformación, la Ley de Servicios Digitales (DSA, por sus siglas en inglés) de la Comisión Europea está emergiendo como referencia en los debates sobre rendición de cuentas. “Lo que es ilegal fuera de línea debe ser ilegal en línea”, declaró Jean-Noël Barrot, ministro francés para Europa. “La transparencia en los algoritmos no es negociable”, sostuvo. “En Francia, los comentarios racistas u homofóbicos son ilegales y pueden ser juzgados por un tribunal, por lo que las plataformas deben seguir las mismas reglas en línea. En cuanto a la desinformación, la DSA exige que las plataformas tomen medidas para reducir los riesgos sistémicos que conlleva. Esto se vuelve cada vez más esencial, especialmente considerando cómo las generaciones más jóvenes interactúan con la información.”

Sin embargo, Sasha Havlicek, del Institute for Strategic Dialogue, advirtió sobre los riesgos de simplificar en exceso y señaló que los actores malintencionados aprovechan la apertura de las plataformas digitales, utilizando tácticas engañosas como redes de bots y cuentas falsas para distorsionar el discurso público de formas invisibles para el usuario promedio. “La infraestructura algorítmica amplifica aquello que tiene más probabilidades de captar tu atención. El modelo de negocio de la economía de la atención amplifica desproporcionadamente lo más sensacionalista, lo más extremo, en lugar de lo moderado”, explicó.

Moderar a miles de millones de usuarios no es tarea fácil. La moderación de contenidos sigue siendo técnicamente compleja y políticamente delicada. Solo en 2024, las principales plataformas moderaron 1.600 millones de piezas de contenido, según Michael McGrath, comisionado europeo para la Democracia, la Justicia y el Estado de Derecho. “La libertad de expresión debe ser protegida, y sobre eso no hay discusión. Es innegociable. Pero existen límites para lograr el equilibrio adecuado”, agregó.

La moderación a gran escala conlleva riesgos. Tirana Hassan, exdirectora ejecutiva de Human Rights Watch, subrayó que las políticas de moderación deben basarse en principios de derechos humanos para evitar abusos. “La moderación debe proteger, no silenciar. Una regulación excesiva corre el riesgo de facilitar el control autoritario”, afirmó. “Invertir en una buena moderación de contenidos, tanto digital como humana, puede implicar el cumplimiento de obligaciones legales. No son cosas que se contradicen”, añadió. Tirana también destacó la necesidad de proteger a los grupos vulnerables en línea, señalando que en algunos casos fueron víctimas de engaños y fueron expuestos en las plataformas, arriesgándose a sufrir daños físicos e incluso al desplazamiento.

Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, advirtió que “muchos de estos productos terminan en situaciones de crisis o conflicto, donde existe una responsabilidad aún mayor de garantizar que no se utilicen para deshumanizar o alimentar más violencia”.

Mientras tanto, las empresas tecnológicas enfrentan una paradoja. La inteligencia artificial generativa ha amplificado la difusión de contenido falso y engañoso, pero también promete ayudar a identificarlo y filtrarlo. Algunos de estos desafíos provienen de cómo están estructuradas las plataformas y de los algoritmos que, a menudo, amplifican el contenido de maneras que tienen consecuencias sociales inesperadas.

Según Havlicek, los algoritmos enfocados en el engagement promueven la controversia en lugar de un contenido de calidad. “Debido a la economía de la atención, no estamos en un entorno de libertad de expresión. Es uno curado, donde los gigantes tecnológicos deciden finalmente lo que ves según los datos que recopilan y el dinero que van a ganar”, explicó.

Y no solo las instituciones son responsables. Según el Edelman Trust Barometer 2025, a nivel global, el 40 % de los encuestados aprueba el activismo hostil, incluyendo atacar a personas en línea o difundir intencionalmente desinformación como una herramienta legítima para generar cambios. Este sentimiento es especialmente predominante entre los encuestados de 18 a 34 años, con un 53 % de ellos afirmando que aprobarían difundir desinformación de manera intencional por una causa que apoyen. Esta alarmante tendencia refleja una crisis de confianza en aumento. Las personas ahora están adoptando tácticas que antes se consideraban poco éticas.

Estas dos sesiones en Davos no solo ofrecieron un análisis del impacto de la desinformación y cómo moderar el contenido en redes sociales, sino que también brindaron algunas direcciones posibles. Aquí algunos de los puntos clave que surgieron sobre cómo abordar los desafíos de la desinformación:

Los periodistas y las organizaciones de la sociedad civil deben desempeñar un papel crucial en contrarrestar la desinformación a través de la investigación periodística, la verificación de hechos y las iniciativas de educación pública. Latour destacó la importancia de mantener la independencia editorial y la transparencia para reconstruir la confianza pública en los medios. “La sugerencia de que la desinformación no jugó un papel importante en el último año [en relación con las elecciones] es grotesca. Eso es desinformación”, añadió.

En una era dominada por la amplificación algorítmica y el contenido sintético, contrarrestar la desinformación exige más que soluciones tecnológicas o marcos regulatorios. Requiere una responsabilidad compartida basada en el pensamiento crítico, la transparencia y la resiliencia.

El debate abierto es vital para la democracia. Reconstruir la confianza no se trata de consenso. La lucha por la verdad no se trata de "ganar". Se trata de fomentar entornos donde las diversas perspectivas puedan coexistir sin hostilidad.