El MIT lanzó el programa de Reconocimiento de Operaciones de Influencia (RIO) para detectar automáticamente narrativas de desinformación en línea.
En los días previos a las elecciones francesas de 2017, los investigadores lograron identificar cuentas de desinformación con una precisión del 96 % utilizando el sistema RIO.
El equipo espera seguir desarrollando esta herramienta RIO para que tanto los gobiernos como la industria puedan utilizarla para defenderse de la desinformación.
Las campañas de desinformación no son nuevas: basta pensar en la propaganda bélica utilizada para influir en la opinión pública contra un enemigo. Sin embargo, lo que sí es nuevo es el uso de internet y las redes sociales para difundir estas campañas. La propagación de la desinformación a través de las redes sociales tiene el poder de cambiar elecciones, reforzar teorías conspirativas y sembrar la discordia.
Steven Smith, miembro del personal del Grupo de Arquitecturas y Algoritmos de Software de Inteligencia Artificial del Laboratorio Lincoln del MIT, forma parte del equipo que se propuso comprender mejor estas campañas mediante el lanzamiento del programa de Reconocimiento de Operaciones de Influencia (RIO). Su objetivo era crear un sistema que detectara automáticamente las narrativas de desinformación, así como a las personas que las difunden dentro de las redes sociales. A principios de este año, el equipo publicó un artículo sobre su trabajo en las Actas de la Academia Nacional de Ciencias y recibieron un premio R&D 100 el otoño pasado.
El proyecto surgió en 2014, cuando Smith y sus colegas estudiaban cómo los grupos malintencionados podían aprovechar las redes sociales. Observaron una actividad inusual y en aumento en los datos de redes sociales procedentes de cuentas que aparentaban promover narrativas prorrusas.
"Nos quedamos bastante perplejos", dice Smith sobre los datos. Así que el equipo solicitó financiación interna a través de la Oficina de Tecnología del laboratorio y puso en marcha el programa para estudiar si se utilizaban técnicas similares en las elecciones francesas de 2017.
En los 30 días previos a las elecciones, el equipo de RIO recopiló datos de redes sociales en tiempo real para buscar y analizar la propagación de la desinformación. En total, compilaron 28 millones de publicaciones de Twitter procedentes de 1 millón de cuentas. Después, mediante el sistema RIO, lograron detectar cuentas de desinformación con una precisión del 96 %.
Lo que hace único al sistema RIO es que combina múltiples técnicas analíticas para crear una visión completa de dónde y cómo se están propagando las narrativas de desinformación.
"Si se intenta responder a la pregunta de quién es influyente en una red social, tradicionalmente se observan los recuentos de actividad", afirma Edward Kao, otro miembro del equipo de investigación. En Twitter, por ejemplo, los analistas considerarían el número de tuits y retuits. "Lo que descubrimos es que, en muchos casos, esto no es suficiente. En realidad, no indica el impacto de las cuentas en la red social."
Como parte del trabajo de doctorado de Kao en el programa Lincoln Scholars del laboratorio, un programa de becas para matrícula, desarrolló un enfoque estadístico —hoy utilizado en RIO— para determinar no solo si una cuenta de redes sociales difunde desinformación, sino también cuánto contribuye la cuenta a que la red en su conjunto cambie y amplifique el mensaje.
Erika Mackin, otra integrante del equipo de investigación, también aplicó un nuevo enfoque de aprendizaje automático que ayuda a RIO a clasificar estas cuentas analizando datos relacionados con comportamientos como si la cuenta interactúa con medios extranjeros o qué idiomas utiliza. Este enfoque permite a RIO detectar cuentas hostiles que están activas en campañas diversas, desde las elecciones presidenciales francesas de 2017 hasta la propagación de desinformación sobre la Covid-19.
Otro aspecto singular de RIO es que puede detectar y cuantificar el impacto de cuentas gestionadas tanto por bots como por humanos, mientras que la mayoría de los sistemas automatizados que se utilizan hoy en día solo detectan bots. RIO también tiene la capacidad de ayudar a quienes utilizan el sistema a prever cómo distintas contramedidas podrían frenar la propagación de una campaña de desinformación concreta.
¿Qué hace el Foro Económico Mundial en materia de ciberseguridad?
El Centro para la Ciberseguridad ofrece una plataforma de confianza donde los líderes se reúnen para comprender los riesgos cibernéticos cambiantes y sus implicaciones sistémicas. Se centra en generar comprensión y confianza en un mundo digital cada vez más interconectado.
Al facilitar la colaboración intersectorial y el intercambio de conocimientos, el Centro ayuda a sus socios a fortalecer la ciberresiliencia y a abordar desafíos que requieren respuestas colectivas.
El equipo prevé que RIO sea utilizado tanto por gobiernos como por la industria, y no solo en las redes sociales, sino también en el ámbito de los medios tradicionales, como periódicos y televisión. Actualmente, trabajan con Joseph Schlessinger, estudiante de West Point que también es estudiante de posgrado en el MIT y becario militar en el Laboratorio Lincoln, para comprender cómo se propagan las narrativas en los medios europeos. También se encuentra en marcha un nuevo programa de continuidad para profundizar en los aspectos cognitivos de las operaciones de influencia y en cómo las actitudes y los comportamientos individuales se ven afectados por la desinformación.
“Defenderse de la desinformación no es solo una cuestión de seguridad nacional, sino también de proteger la democracia”, afirma Kao.
