La desinformación figura entre los principales riesgos mundiales para 2024, y los deepfakes son uno de los usos de la IA que más preocupan.
Los deepfakes empleados por chatbots y avatares de IA multimodales en tiempo real, guiados por agendas, permitirán formas de manipulación muy personalizadas y eficaces.
Una mentalidad de confianza cero se convertirá en una herramienta esencial para distinguir lo auténtico de lo sintético en entornos en línea cada vez más inmersivos.
Los avances en inteligencia artificial generativa (genAI) y en los grandes modelos de lenguaje (LLM) han propiciado la aparición de los deepfakes. El término «deepfake» se basa en el uso del aprendizaje profundo (DL) para recrear versiones nuevas, pero falsas, de imágenes, vídeos o material de audio existentes. Pueden parecer tan realistas que para las personas puede resultar muy difícil detectarlas como falsas.
Los métodos de manipulación facial son especialmente interesantes porque los rostros son un elemento muy importante de la comunicación humana. Estos contenidos audiovisuales generados por IA pueden mostrar de forma convincente a personas reales (y a menudo influyentes) diciendo o haciendo cosas que nunca hicieron, lo que da lugar a contenido engañoso capaz de influir profundamente en la opinión pública.
Esta tecnología ofrece grandes beneficios en la industria del entretenimiento, pero cuando se utiliza de forma indebida para la manipulación política, la capacidad de los deepfakes para fabricar desinformación convincente podría provocar la abstención de los votantes, inclinar elecciones, polarizar a la sociedad, desacreditar a figuras públicas o incluso avivar tensiones geopolíticas.
El Foro Económico Mundial ha clasificado la desinformación entre los principales riesgos de 2024. Además, los deepfakes figuran entre los usos de la IA que más preocupan.
Con la creciente accesibilidad de las herramientas de genAI, quienes crean deepfakes hoy no necesitan conocimientos técnicos ni grandes recursos económicos para generar vídeos, audios o imágenes sintéticos hiperrealistas de personas reales. Por ejemplo, el investigador detrás de Countercloud utilizó herramientas de IA ampliamente disponibles para crear un proyecto de investigación sobre desinformación totalmente automatizado por menos de 400 dólares al mes, lo que ilustra lo barato y fácil que se ha vuelto crear campañas de desinformación a gran escala.
El bajo coste, la facilidad y la escala agravan el problema de desinformación existente, especialmente cuando se emplean para la manipulación política y la polarización social. Entre el 8 de diciembre de 2023 y el 8 de enero de 2024, se identificaron más de 100 anuncios de vídeo deepfake en Meta que suplantaban al primer ministro británico Rishi Sunak; muchos provocaban respuestas emocionales, por ejemplo, al utilizar expresiones como «la gente está indignada».
No se puede subestimar el potencial de los deepfakes que propagan desinformación para perturbar los procesos democráticos, dañar reputaciones e incitar disturbios públicos, especialmente dada la creciente integración de los medios digitales en las campañas políticas, la difusión de noticias y las plataformas de redes sociales.
Retos futuros, como los deepfakes utilizados por chatbots de IA multimodales en tiempo real guiados por agendas, permitirán formas de manipulación muy personalizadas y eficaces, agravando los riesgos que afrontamos hoy. La naturaleza descentralizada de internet, las diferencias entre las leyes internacionales de privacidad y la constante evolución de la IA hacen que impedir el uso de deepfakes maliciosos sea muy difícil, cuando no imposible.
Medidas de respuesta
1. Tecnología
Hoy ya existen múltiples sistemas de detección basados en la tecnología. Mediante el aprendizaje automático, las redes neuronales y el análisis forense, estos sistemas pueden analizar contenido digital para detectar incoherencias típicamente asociadas a los deepfakes. Los métodos forenses que examinan la manipulación facial pueden utilizarse para verificar la autenticidad de un contenido. Sin embargo, sigue siendo difícil crear y mantener herramientas automatizadas de detección que analicen el contenido en línea y en tiempo real. Con el tiempo y una adopción generalizada, las medidas de detección basadas en IA tendrán un efecto beneficioso en la lucha contra los deepfakes.
2. Iniciativas en materia de políticas
Según Charmaine Ng, miembro del Consejo del Futuro Global del WEF sobre Política Tecnológica: «Necesitamos iniciativas internacionales y de múltiples partes interesadas que exploren soluciones prácticas, viables y aplicables al problema mundial de los deepfakes. En Europa, mediante la propuesta de Ley de IA, y en Estados Unidos, mediante la Orden Ejecutiva sobre IA, los gobiernos intentan introducir cierto nivel de rendición de cuentas y confianza en el sistema de valor de la IA, indicando a otros usuarios si el contenido es auténtico o no.
Exigen a las plataformas en línea que detecten y etiqueten el contenido generado por IA, y a los desarrolladores de genAI que incorporen salvaguardias para impedir que actores maliciosos utilicen la tecnología para crear deepfakes. Ya se está trabajando para alcanzar un consenso internacional sobre una IA responsable y establecer límites claros, y debemos aprovechar este impulso».
Exigir a los proveedores de genAI y LLM que incorporen trazabilidad y marcas de agua en los procesos de creación de deepfakes antes de su distribución podría aportar cierto nivel de rendición de cuentas e indicar si el contenido es sintético. Sin embargo, los actores maliciosos podrían eludir estas medidas utilizando versiones con restricciones eliminadas o creando sus propias herramientas no conformes. Se necesita un consenso internacional sobre normas éticas, definiciones de uso aceptable y clasificaciones de lo que constituye un deepfake malicioso para formar un frente unido contra el uso indebido de esta tecnología.
3. Sensibilización pública
La sensibilización pública y la alfabetización mediática son medidas fundamentales para contrarrestar los ataques de ingeniería social y manipulación potenciados por la IA. Desde la educación temprana, se debe dotar a las personas de las habilidades necesarias para distinguir el contenido real del fabricado, comprender cómo se distribuyen los deepfakes y conocer las tácticas psicológicas y de ingeniería social que emplean los actores maliciosos. Los programas de alfabetización mediática deben dar prioridad al pensamiento crítico y proporcionar a las personas herramientas para verificar la información que consumen. Las investigaciones han demostrado que la alfabetización mediática es una habilidad poderosa que puede proteger a la sociedad frente a la desinformación impulsada por la IA al reducir la disposición de las personas a compartir deepfakes.
4. Mentalidad de confianza cero
En ciberseguridad, el enfoque de «confianza cero» consiste en no confiar en nada de forma predeterminada y, en cambio, verificarlo todo. Aplicado a las personas que consumen información en línea, exige una dosis saludable de escepticismo y una verificación constante. Esta mentalidad coincide con las prácticas de atención plena, que animan a las personas a hacer una pausa antes de reaccionar ante contenido que provoca emociones y a interactuar con el contenido digital de forma consciente y deliberada. Fomentar una cultura de confianza cero mediante programas de atención plena en ciberseguridad (CMP) ayuda a preparar a los usuarios para afrontar los deepfakes y otras ciberamenazas impulsadas por la IA, frente a las cuales la tecnología por sí sola ofrece una defensa difícil.
A medida que nuestra vida transcurre cada vez más en línea y el metaverso está a punto de hacerse realidad, la mentalidad de confianza cero cobra aún más relevancia. En estos entornos inmersivos, será fundamental distinguir lo real de lo sintético.
¿Cómo está creando el Foro Económico Mundial salvaguardias para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Promueve un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
Mediante espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios desarrollar una comprensión común y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
No existe una solución milagrosa para mitigar eficazmente la amenaza que representan los deepfakes en los espacios digitales. Se necesita, más bien, un enfoque de varios niveles que combine medios tecnológicos y normativos con una mayor sensibilización pública. Esto requiere la colaboración mundial entre países, organizaciones y la sociedad civil, así como una voluntad política firme.
Mientras tanto, la mentalidad de confianza cero promoverá una postura proactiva en materia de ciberseguridad e impulsará tanto a las personas como a las organizaciones a mantenerse siempre alerta ante el engaño digital, mientras los límites entre el mundo físico y el virtual siguen difuminándose.
