Se están utilizando programas basados en IA para crear ultrafalsificaciones que pueden sembrar discordia en la sociedad y generar caos en los mercados.
Pronto, los algoritmos producirán contenido indistinguible del creado por seres humanos.
La intervención humana es necesaria para mejorar la detección de la desinformación mediante IA, pero educar a las personas para que evalúen objetivamente el contenido en línea es la máxima prioridad.
La desinformación amenaza la estabilidad de nuestra sociedad más que cualquier otra cosa que podamos imaginar. Es una pandemia que ha envuelto por igual a economías pequeñas y grandes. En todo el mundo, las personas afrontan amenazas a su vida y seguridad personal debido al volumen de información errónea cargada de emociones y divisiva desde el punto de vista social, gran parte de la cual está impulsada por las tecnologías emergentes. Este contenido manipula la percepción de las personas o difunde falsedades absolutas en la sociedad.
Se están utilizando programas basados en IA para crear ultrafalsificaciones de dirigentes políticos mediante la adaptación de vídeos, audios e imágenes. Estas ultrafalsificaciones pueden sembrar discordia en la sociedad y generar caos en los mercados. La IA también mejora en la generación de contenido con apariencia humana mediante modelos lingüísticos como GPT-3, capaces de redactar artículos, poemas y ensayos a partir de una instrucción de una sola línea. La IA ha hecho tan sencilla la manipulación de todo tipo de contenido que programas de código abierto como FaceSwap y DeepFaceLab pueden convertir incluso a aficionados discretos en focos de discordia social. En una época en que los seres humanos ya no saben en quién confiar, la «tecnología para el bien» parece ser la única salvación.
Análisis semántico para el filtrado básico de la desinformación
La primera idea que viene a la mente para combatir la desinformación con tecnología es analizar el contenido. Las herramientas basadas en IA pueden realizar análisis lingüísticos de textos y detectar indicios, como patrones de palabras, estructuras sintácticas y legibilidad, para diferenciar el contenido generado por computadora del texto escrito por personas. Estos algoritmos pueden analizar cualquier texto y examinar vectores de palabras, su posición y sus connotaciones para identificar rastros de discurso de odio. Además, los algoritmos de IA pueden aplicar ingeniería inversa a imágenes y vídeos manipulados para detectar ultrafalsificaciones y señalar el contenido que debe marcarse.
Pero eso no basta: las redes generativas antagónicas son cada vez más sofisticadas, y pronto los algoritmos producirán contenido indistinguible del creado por seres humanos. Para empeorar las cosas, estos algoritmos de análisis semántico no pueden interpretar el contenido de imágenes con discurso de odio que no han sido manipuladas, sino que se comparten en un contexto equivocado o malicioso, o acompañadas de contenido adicional. Tampoco pueden comprobar si son falsas las afirmaciones de ciertos contenidos. Las barreras lingüísticas también añaden dificultades. En esencia, se puede evaluar el sentimiento que expresa una publicación en línea, pero no su veracidad. Aquí es donde se requiere la intervención humana junto con la IA.
Rastrear el origen: el siguiente nivel de investigación
A menudo se ha descubierto que las noticias falsas comparten un mismo origen: el lugar del que parten antes de difundirse. El proyecto Fandango, por ejemplo, utiliza noticias que verificadores humanos han marcado como falsas y luego busca publicaciones en redes sociales o páginas en línea con palabras o afirmaciones similares. Esto permite a periodistas y expertos rastrear las noticias falsas hasta su origen y eliminar todas las amenazas potenciales antes de que se propaguen sin control.
Servicios como Politifact, Snopes y FactCheck emplean editores humanos que pueden realizar la investigación inicial necesaria para verificar la autenticidad de un reportaje o una imagen. Una vez que se detecta una falsedad, los algoritmos de IA ayudan a rastrear la web y contrarrestar contenidos similares que puedan fomentar la discordia social. Si se determina que el contenido es auténtico, se puede asignar una puntuación de reputación al artículo del sitio web. El Trust Project utiliza criterios como las fuentes, las referencias, las normas éticas y las correcciones para evaluar la credibilidad de los medios de comunicación.
Ante el aumento exponencial de las noticias falsas y el discurso de odio, y la rápida propagación de este contenido en las redes sociales, no basta con depender de verificadores humanos. Este proceso también presenta sesgos, ya que lo que resulta ofensivo y socialmente divisivo depende de la opinión subjetiva de cada verificador. Por ejemplo, un artículo presuntamente polémico puede tratar sobre un hecho real, pero emplear un lenguaje cargado de emoción que coincida con el criterio de un verificador y no con el de otro. Por tanto, este método de filtrado puede ayudar a establecer la veracidad del contenido, pero no sus sentimientos.
Analizar la difusión para frenar la propagación
Hay una diferencia notable entre la forma en que las noticias falsas y las auténticas circulan por las redes sociales. Investigadores del MITafirman que las noticias falsas llegan a 1.500 personas en Twitter seis veces más rápido que las auténticas. Además, la longitud de la cadena de difusión de las noticias auténticas —el número de personas que han difundido una publicación en redes sociales— nunca superó las 10 personas, mientras que en el caso de las noticias falsas llegó a 19. Esto se debe en parte a enjambres de bots desplegados por actores malintencionados para hacer virales las noticias falsas.
Los seres humanos también son responsables, pues las personas suelen compartir noticias falsas más rápido, sin mucho pensamiento crítico ni capacidad de juicio. GoodNews utiliza un motor de IA para identificar noticias falsas mediante métricas de interacción, ya que estas reciben más veces que se comparten que «me gusta», mientras que en las noticias auténticas ocurre lo contrario. Estas técnicas, que detectan contenido sospechoso a partir de su difusión, pueden ayudar a prevenir la radicalización.
Las personas, en el centro
El uso de tecnología es una medida reactiva cuando el mundo necesita un enfoque proactivo para combatir la desinformación. La IA no tendrá éxito por sí sola si no educamos a la población —especialmente a los jóvenes— para que esté alerta ante la desinformación. Algunas escuelas de la India enseñan métodos de pensamiento crítico y fomentan hábitos de verificación de datos entre estudiantes de secundaria. Las noticias falsas no son una mera cuestión de algoritmos, sino de la filosofía que guía nuestra forma de abordar el conocimiento, sea bueno o malo. Las comunidades de usuarios informados pueden contribuir a actividades éticas de seguimiento, mientras que la puesta en común de conocimientos colaborativos entre organizaciones profesionales es fundamental para verificar la información en bruto.
Humanizar el enfoque para combatir la desinformación debe ser la máxima prioridad a fin de construir una sociedad bien informada y formada por personas con pensamiento crítico. La falta de medidas proactivas en las que participen todas las partes interesadas puede provocar una rápida erosión de la confianza en los medios y las instituciones, lo que precede a la anarquía. Hasta que las personas aprendan a evaluar objetivamente el contenido en línea, las tecnologías basadas en IA deben ser nuestras aliadas en la lucha contra la desinformación en internet.
