Quizás haya notado el pánico que existe en torno a la amenaza de los 'deepfakes'. Son una forma de los llamados 'medios sintéticos', que aprovechan los avances en IA y aprendizaje automático para modificar elementos de una foto, un video o una pista de audio, o para recrear la voz o el rostro de una persona con una sutileza realista. La insidiosa idea de que el rostro o la voz de cualquiera puedan ser falsos, o de que cualquier video o foto no sea fiable, pone en entredicho nuestra confianza en la realidad.
Hasta la fecha, los deepfakes se han utilizado en algunos casos para atacar la credibilidad de periodistas. También se han utilizado ampliamente para incluir a celebridades sin su consentimiento en contenidos pornográficos. Sin embargo, los usos malintencionados más amplios, destinados a perturbar el debate político, socavar la seguridad nacional, confundir las investigaciones sobre derechos humanos y atacar a empresas y grupos de la sociedad civil, todavía no están generalizados. Actualmente tenemos la oportunidad, antes de entrar en el 'ojo de la tormenta', de ser proactivos y no alarmistas al abordar las amenazas. Ahora es el momento de prepararse, no de entrar en pánico, ante los deepfakes.
Por eso he liderado esfuerzos en WITNESS, la organización de derechos humanos centrada en el poder del video y la tecnología para el bien, para reunir a personas clave y desarrollar enfoques pragmáticos. Recientemente celebramos la primera reunión de expertos que reunió a tecnólogos, personas del sector, investigadores, investigadores de derechos humanos y periodistas para dar forma a las soluciones que se comparten aquí.
¿Por qué importan los deepfakes? Nuestra cultura se estructura cada vez más en torno a las imágenes. Registramos nuestras vidas en Snapchat e Instagram y usamos YouTube como nuestra enciclopedia. En WITNESS hemos visto cómo esto es importante para exponer la injusticia y la impunidad, desde los periodistas cívicos y activistas que documentaron la guerra civil de Siria hasta la forma en que el movimiento Movement for Black Lives se consolidó en torno a pruebas visuales de la violencia policial. Sin embargo, también estamos cognitivamente mal preparados para distinguir las imágenes falsas de los hechos y para diferenciar la fabricación de la realidad recordada en la memoria. Mientras tanto, las instituciones de verificación de datos y comprobación a gran escala apenas empiezan a ponerse al día con el audio, las imágenes y los videos falsos.
Cómo podemos hacer frente a los deepfakes
En primer lugar, debemos construir sobre lo que ya existe. En los derechos humanos y el periodismo existe una práctica sólida de lo que se conoce como inteligencia de fuentes abiertas (OSI, por sus siglas en inglés), utilizada para comprobar la veracidad de las imágenes y la credibilidad de las fuentes encontradas en línea. Se basa en la experiencia de la última década con lo que podríamos llamar shallowfakes (falsificaciones superficiales), un tema que el Media Lab de WITNESS ha investigado con frecuencia. Ejemplos de 'shallowfakes' incluyen manipulaciones de audio en videos para desacreditar a los refugiados en Europa, videos descontextualizados compartidos en aplicaciones de mensajería para incitar a la violencia comunal y crear un 'incendio digital', así como videos alterados deliberadamente para socavar las investigaciones sobre crímenes de guerra.
Debemos conectar a los investigadores que desarrollan nuevas herramientas de detección de deepfakes con los periodistas que utilizan técnicas de OSI en las redacciones de todo el mundo. Si nos preocupa el uso de estas herramientas de manipulación en las próximas elecciones, debemos apoyar los esfuerzos interempresariales de prevención de la desinformación, como el actual proyecto Comprova en Brasil. Las redacciones también deben seguir apoyándose mutuamente para contrarrestar la perniciosa amenaza de la negación plausible, que utiliza la existencia de deepfakes como munición para afirmar que no se puede creer nada de lo que se ve o se oye.
En segundo lugar, debemos asegurarnos de plantear las preguntas correctas sobre la infraestructura tecnológica que queremos para combatir los deepfakes. Una respuesta habitual a los deepfakes es exigir que cada imagen tenga una procedencia clara, incluida la capacidad de rastrearla hasta una fuente inicial y de verificar cualquier edición realizada. El uso de la cadena de bloques (blockchain) u otra forma de registro distribuido de medios es un elemento frecuente en esta solución.
En principio, esto suena bien, pero en la práctica se plantean serias dudas sobre cómo hacerlo, no solo desde el punto de vista técnico, sino también de forma que no genere sus propios daños. Por ejemplo, ¿cómo podrán las personas que se encuentran en situaciones de alto riesgo proteger su identidad o revocar una autenticación de medios que pueda ponerlas en peligro más adelante? ¿Cómo evitaremos un efecto de trinquete desproporcionado, por el cual la introducción de una nueva tecnología excluya a las personas que no tienen las herramientas más recientes? En nuestro entorno informativo actual, esas personas serían los defensores de los derechos humanos y los periodistas cívicos de Myanmar y Brasil que ya se enfrentan a alegaciones de 'noticias falsas'. Necesitamos un esfuerzo concertado que reúna a empresas, desde fabricantes de chips hasta plataformas, en un diálogo significativo sobre cómo avanzar en esto de manera responsable.
También debemos abordar el papel de la moderación en las redes sociales y las plataformas de intercambio de videos. Como ha señalado el Relator Especial de la ONU sobre la Libertad de Expresión recientemente, las plataformas deberían basar sus políticas en el derecho internacional de los derechos humanos, incluida la libertad de expresión, y promover la transparencia en la toma de decisiones. Muchos deepfakes serán contenidos creativos, comunicaciones personales o sátira. Esperamos que los usos malintencionados sean una pequeña minoría, y no debemos adoptar decisiones que corran el riesgo de generar incluso un pequeño número de falsos positivos, es decir, eliminaciones incorrectas.
Esto plantea la cuestión de qué es realmente un elemento de medios sintéticos. ¿Buscamos intercambios de rostros, o sutiles cambios en el fondo de una imagen, o incluso el efecto de desenfoque del modo retrato de su teléfono inteligente? Las plataformas deberán mejorar la señalización de la presencia de manipulación de imágenes facilitada por IA.
Aquí existe un incentivo para que las plataformas colaboren (y, cuando sea necesario, tomen decisiones sobre contenidos malintencionados que, por ejemplo, puedan provocar un daño inminente), como ya han hecho en temas como el contraterrorismo violento, el spam y las imágenes de explotación infantil. Este incentivo a la colaboración también es técnico. En el proceso de creación de estas manipulaciones con IA, el falsificador tiene la ventaja técnica, hasta que existan suficientes ejemplos de una técnica particular para incorporarlos en un enfoque de detección.
Los avances recientes en detección, incluida la base de datos FaceForensics, dependen de que la IA reciba datos de entrenamiento, como imágenes creadas con los enfoques de falsificación más recientes. Al compartir lo que encuentran, las plataformas tendrán la mejor información para detectar manipulaciones. También podrían compartir información sobre las señales de actividad de actores malintencionados que acompañan al uso de deepfakes, por ejemplo, el uso de bots u otros intentos de manipulación. De lo contrario, los actores malintencionados explotarán el eslabón más débil: la plataforma con las herramientas de detección más deficientes.
Por último, debemos pensar en qué nuevas alfabetizaciones necesita el público en general para hacer frente a audios, videos y fotos más fáciles de falsificar y personalizados. Al igual que con las soluciones anteriores, estas deben estar relacionadas con enfoques más amplios para comprender cómo las personas interactúan con la desinformación y la información errónea, y cómo las comparten. Para empezar, necesitamos investigar cómo ayudar a las personas a evaluar mejor el contenido visual falsificado de forma creíble. Y debemos investigar cómo orientar mejor la experiencia del usuario en los lugares donde las personas encontrarán este contenido: motores de búsqueda, redes sociales, aplicaciones de mensajería y plataformas de video.
En un taller reciente sobre modelización de amenazas organizado por WITNESS, un participante sugirió que debemos 'generar confianza en las personas' para que puedan distinguir lo verdadero de lo falso en las imágenes. Parte de esto consiste en mostrar lo que una máquina puede detectar en el contenido sintetizado, cuando sabemos que el ojo humano fallará, por ejemplo, mostrando un mapa de calor digital de las áreas manipuladas.
Es probable que la primera oleada de deepfakes y de medios sintéticos malintencionados llegue en 2019. Tenemos la oportunidad de prepararnos.
