Un nuevo video deepfake muestra al fundador de Facebook, Mark Zuckerberg, diciendo palabras que nunca pronunció.
El video, publicado en Instagram y creado por los artistas Bill Posters y Daniel Howe junto con la empresa publicitaria Canny, se basó en un video real de Zuckerberg de 2017. Para crear el deepfake, Canny entrenó un algoritmo propio con un fragmento de 21 segundos del video de 2017 y también con un video de un actor de voz leyendo un guion. Visualmente, el resultado es convincente, aunque la voz no suena del todo como la de Zuckerberg.
«Imaginen esto por un segundo: un hombre con control total sobre los datos robados de miles de millones de personas, todos sus secretos, sus vidas, sus futuros», dice la imagen de Zuckerberg en el video, cuyo pie incluye «#deepfake». «Se lo debo todo a Spectre. Spectre me mostró que quien controla los datos controla el futuro».
(Spectre fue una premiada instalación artística interactiva presentada en el Sheffield Doc Fest de 2019, en el Reino Unido.)
El video pone a prueba de manera efectiva la política de Facebook sobre la eliminación de información errónea de su plataforma. Facebook recibió recientemente críticas por negarse a eliminar un video de la presidenta de la Cámara de Representantes, Nancy Pelosi, que se había ralentizado para que pareciera estar borracha. Facebook dijo que redujo la distribución del video para que apareciera con menos frecuencia en las noticias y lo marcó como falso.
Instagram, propiedad de Facebook, dijo que trataría el deepfake de Zuckerberg igual que el video de Pelosi. «Si verificadores de datos externos lo califican de falso, lo filtraremos de las secciones de recomendaciones de Instagram, como Explorar y las páginas de hashtags», dijo Stephanie Otway, portavoz de la empresa, a The New York Times.
El equipo responsable del deepfake de Zuckerberg también creó uno de Kim Kardashian.
La tecnología deepfake existe desde hace años, pero recientemente se ha vuelto lo bastante sofisticada como para engañar a algunos espectadores desprevenidos. En mayo, investigadores de Samsung publicaron un video en el que describían una nueva IA capaz de tomar una sola imagen del rostro de una persona y animarla de forma convincente. Si te preocupa que se utilice esta tecnología como arma, no eres la única persona: el Departamento de Defensa ya está desarrollando herramientas para detectar deepfakes automáticamente. Pero es posible que estas herramientas nunca sean totalmente eficaces.
«En teoría, si se le dieran a una [red generativa antagónica, que crea tecnología deepfake] todas las técnicas que conocemos para detectarla, podría superar todas esas técnicas», dijo David Gunning, director del programa de DARPA a cargo del proyecto del Departamento de Defensa, a MIT Technology Review. «No sabemos si hay un límite. No está claro».
Aunque pudiéramos detectar los deepfakes, algunos espectadores quizá no tendrían mucho interés en distinguir entre lo real y lo falso, especialmente en política. Por ejemplo, el presidente Donald Trump tuiteó recientemente un video manipulado de la presidenta de la Cámara de Representantes, Nancy Pelosi, que se había ralentizado para que pareciera estar borracha. El video sigue en la cuenta de Twitter del presidente, pese a los informes que confirmaron que había sido manipulado, y actualmente tiene más de 6 millones de visualizaciones. No está claro cuántas personas saben —o están dispuestas a reconocer— que se trata de contenido falso.
