Los deepfakes son medios sintéticos manipulados para mostrar falsamente a personas diciendo o haciendo cosas que nunca hicieron en realidad.
Los deepfakes pueden utilizarse para difundir información falsa, dañar reputaciones e incluso influir en las elecciones.
Actualmente no existe un marco regulatorio mundial que rija el uso de los deepfakes.
Menos de un mes después de la invasión rusa de Ucrania, apareció en las redes sociales un vídeo que supuestamente mostraba al presidente ucraniano Volodymyr Zelenskyy instando a sus soldados a entregar las armas y abandonar la lucha contra Rusia. Aunque la sincronización labial del vídeo parecía algo convincente, las diferencias en el acento del señor Zelenskyy, así como en sus movimientos faciales y su voz, despertaron sospechas sobre su autenticidad.
Un examen más detenido reveló, mediante una simple captura de pantalla, que el vídeo era efectivamente falso: un deepfake. Este fue el primer caso conocido de uso de un vídeo deepfake en un contexto bélico.
Los deepfakes son medios sintéticos, incluidos audios, imágenes o vídeos, que se han manipulado y alterado para mostrar falsamente a personas diciendo o haciendo cosas que nunca hicieron en realidad.
¿Cómo está creando el Foro Económico Mundial salvaguardias para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Promueve un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
Mediante espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios desarrollar una comprensión común y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
El 5 de junio, el presidente ruso Vladimir Putin declaró la ley marcial y la movilización militar en las regiones fronterizas con Ucrania, y anunció estas medidas a través de varias cadenas rusas de radio y televisión. Pero pronto se descubrió que el discurso del señor Putin también era una falsificación: un deepfake emitido a través de canales de televisión y radio pirateados. El deepfake era tan convincente que llevó a las autoridades rusas de la región de Belgorod a emitir advertencias y alertar a la población para que no cayera en la trampa del deepfake, cuyo propósito era «sembrar el pánico entre los residentes pacíficos de Belgorod».
El auge de los deepfakes constituye un vívido ejemplo del crecimiento exponencial de la inteligencia artificial y de los desafíos que plantea para la gobernanza nacional e internacional. La tecnología deepfake, impulsada por la invención en 2014 de las redes generativas antagónicas (GAN, por sus siglas en inglés), un tipo de marco de aprendizaje automático, busca crear contenido nuevo enfrentando dos redes neuronales entre sí en una dinámica competitiva.
En 2018, las GAN habían avanzado hasta el punto de poder generar, por ejemplo, imágenes muy realistas de personas que nunca habían existido. En otoño de 2017 se subieron a Reddit los primeros vídeos deepfake. Estos primeros deepfakes consistían en superponer los rostros de actrices de Hollywood a los cuerpos de intérpretes de vídeos para adultos. En menos de dos años, se habían identificado en línea casi 15.000 vídeos deepfake, y un alarmante 96 % de ellos correspondía a contenido para adultos. Además, el 100 % de las víctimas que aparecían en esos vídeos eran mujeres.
Resulta alarmante que a principios de este año se informara de que los pedófilos ya están empleando deepfakes para crear imágenes explícitas de abuso infantil. Un pedófilo de Quebec, Canadá, fue condenado recientemente después de que la policía encontrara en su ordenador 545.000 imágenes y vídeos de menores, de los cuales 86.000 eran deepfakes generados a partir de imágenes auténticas de menores recopiladas en las redes sociales, especialmente en Facebook.
La tecnología deepfake también ha demostrado su potencial para otros fines nefastos, más allá de la explotación de personas. Puede utilizarse para alterar exploraciones médicas, creando tumores falsos o eliminando los reales, o para manipular imágenes satelitales y fabricar accidentes geográficos completos o geografías falsas. Las implicaciones son profundas y plantean riesgos no solo para la privacidad personal, sino también para diversos sectores, como la atención sanitaria y la seguridad nacional.
El 30 de noviembre de 2022, OpenAI, un laboratorio estadounidense de inteligencia artificial, lanzó ChatGPT, un chatbot de IA. En cinco días, ChatGPT alcanzó los cinco millones de usuarios. Netflix tardó tres años y medio en lograr ese mismo hito. En apenas dos meses, la aplicación ya contaba con 100 millones de usuarios, lo que la convirtió en la aplicación de consumo de crecimiento más rápido de la historia, hasta que este mes la superó Threads, la aplicación de Meta. Aunque la primera versión de ChatGPT (ChatGPT 3.5) obtuvo una puntuación mediocre (percentil 10) en el examen uniforme de abogacía de Estados Unidos, la versión posterior, ChatGPT 4, lanzada el 14 de marzo de 2023, superó al 90 % de los aspirantes a abogados que intentaron aprobar el examen.
En un experimento reciente, el profesor asociado del MIT y becario polímata del GCSP Kevin Esvelt y sus estudiantes utilizaron algoritmos de «modelos de lenguaje grandes» de acceso gratuito, como GPT-4, para elaborar una hoja de ruta detallada para obtener virus extremadamente peligrosos. En apenas una hora, el chatbot sugirió cuatro patógenos con potencial pandémico, proporcionó instrucciones para generarlos a partir de ADN sintético e incluso recomendó empresas de síntesis de ADN que probablemente no revisarían los pedidos. Su conclusión fue alarmante: el fácil acceso a los chatbots de IA hará que «aumente drásticamente el número de personas capaces de matar a decenas de millones».
La creciente accesibilidad de la IA generativa ofrece oportunidades, pero también entraña enormes riesgos, entre ellos la manipulación selectiva de personas. Un estudio reciente reveló que las respuestas generadas por IA a las consultas de pacientes superaban a las respuestas de los médicos en calidad y empatía. Los chatbots ya superan la empatía, esa capacidad intrínsecamente humana de comprender los sentimientos de otra persona desde su perspectiva y no desde la nuestra. Esto debería servir de llamada de atención para los gobiernos, pues abre la puerta a posibles campañas de subversión a gran escala y da lugar a una nueva forma de guerra —la guerra cognitiva— en la que se utiliza la opinión pública como arma para influir en las políticas y desestabilizar las instituciones públicas. Pronto, la IA generativa y herramientas como ChatGPT podrían considerarse armas de engaño masivo.
Estos ejemplos subrayan el ritmo exponencial al que avanza la IA. El desafío radica en que las personas y las organizaciones tienden a pensar de forma lineal cuando consideran los acontecimientos futuros. Ante un crecimiento exponencial, como la rápida propagación de la pandemia de COVID-19, muchos gobiernos han demostrado a menudo respuestas lentas e inadecuadas.
En una era definida por tecnologías exponenciales emergentes, la gobernanza mundial y nacional debe adaptarse para responder mejor y anticiparse. La previsión estratégica, es decir, la capacidad de imaginar futuros posibles y actuar en consecuencia, debería convertirse en un procedimiento habitual para toda organización que participe en la gobernanza nacional y mundial. Esto exige que las personas que trabajan en esas instituciones aporten habilidades y perfiles diversos. Además, para abordar eficazmente las consecuencias de las transformaciones tecnológicas exponenciales es necesario detectar señales débiles, lo que pone de relieve la necesidad de promover a los polímatas —personas con conocimientos de diversas materias— para superar el pensamiento en silos y el pensamiento grupal.
El 18 de julio, el Consejo de Seguridad de la ONU celebrará su primera reunión para debatir las posibles amenazas que plantea la inteligencia artificial para la paz y la seguridad internacionales. La ONU ya aborda algunos aspectos de esta cuestión a través, por ejemplo, del Grupo de Expertos Gubernamentales (GGE) sobre Armas Letales Autónomas (LAWS), que examina el posible impacto de las armas autónomas en el derecho internacional humanitario y la posibilidad de regularlas o prohibirlas. Sin embargo, las armas autónomas también tienen profundas implicaciones para la estabilidad estratégica, un ámbito que el GGE apenas ha debatido.
La IA es una tecnología de doble uso aún más transformadora que la electricidad y, por tanto, tiene profundas implicaciones para la seguridad internacional. El secretario general de la ONU expresó recientemente su apoyo a la creación de un organismo de la ONU dedicado a la IA, similar al Organismo Internacional de Energía Atómica. Un organismo de este tipo, centrado en el conocimiento y dotado de competencias regulatorias, podría mejorar la coordinación entre las numerosas iniciativas de IA que surgen en todo el mundo y promover la gobernanza mundial de la IA.
Sin embargo, para tener éxito, la ONU debe trascender su ADN intergubernamental tradicional e incorporar a la comunidad científica, al sector privado (la principal fuente de innovaciones en IA) y a la sociedad civil en nuevos marcos de gobernanza, incluidas las asociaciones público-privadas. Como se mencionó en la reciente Cumbre de la ONU sobre IA para el Bien, celebrada en Ginebra, la ciudad, que cuenta con un ecosistema de gobernanza propicio para este tipo de iniciativas, ofrece un lugar ideal para hacer realidad esta visión.
El dilema de los deepfakes y la IA generativa constituye un serio recordatorio del inmenso poder de la inteligencia artificial y de los múltiples desafíos de seguridad que plantea. En la búsqueda de una gobernanza responsable de la IA, debemos dar prioridad a la protección frente a su uso malicioso y, al mismo tiempo, promover un entorno que fomente la innovación ética y el progreso social.
Adoptar la previsión estratégica, liberarnos del pensamiento lineal y fomentar colaboraciones diversas y la seguridad desde el diseño son pasos fundamentales para configurar colectivamente un futuro impulsado por la IA que respete los principios éticos, preserve los valores democráticos y proteja el bienestar de la humanidad ante paisajes tecnológicos transformadores. Al abrir este camino, podemos sentar las bases de una sociedad más equitativa, segura y próspera en la era de la IA.
