El número de vídeos deepfake en línea ha aumentado a un ritmo anual estimado de alrededor del 900 %.
Los avances tecnológicos han facilitado cada vez más su producción, lo que ha suscitado interrogantes sobre la mejor manera de prevenir su uso malintencionado.
Se ha sugerido que la mejor forma de inmunizar a la población frente al peligro de los deepfakes es mediante la exposición y la sensibilización.
Cuando Donald Trump reconoció con retraso su derrota dos meses después de las elecciones presidenciales estadounidenses del año pasado, algunos medios se centraron en una cuestión fundamental: si su discurso había tenido lugar realmente en absoluto.
La espectacular proliferación de deepfakes (imágenes en línea que pueden hacer que cualquier persona parezca hacer o decir cualquier cosa dentro de los límites de la imaginación, la crueldad o la astucia de alguien) ha empezado a socavar la confianza en nuestra capacidad para discernir la realidad.
Los avances recientes de la tecnología han sorprendido incluso a observadores experimentados del sector tecnológico, y han permitido que cualquiera con un teléfono y acceso a una aplicación como Avatarify pueda producir una versión aceptable.
Según la estimación de una startup, el número de vídeos deepfake en línea pasó de 14 678 en 2019 a 145 277 en junio del año siguiente. El mes pasado, el FBI advirtió de que los “actores malintencionados” probablemente desplegarán deepfakes en Estados Unidos con fines de operaciones de influencia extranjera y actividades delictivas en un futuro próximo. En todo el mundo, existe preocupación por que la tecnología se convierta cada vez más en una fuente de desinformación, división, fraude y extorsión.
Cuando la junta militar que gobierna Myanmar publicó recientemente un vídeo en el que alguien incriminaba al líder civil detenido del país, este fue ampliamente descartado como un deepfake. El año pasado, las declaraciones del primer ministro belga que vinculaban la COVID-19 con el cambio climático resultaron ser un deepfake, y el uso de la tecnología por parte del político indio Manoj Tiwari en su campaña generó alarma. En Gabón, la creencia de que un vídeo del presidente, enfermo, era un deepfake desencadenó una crisis nacional a principios de 2019.
La manipulación de imágenes para alterar la percepción pública por razones políticas se remonta, como mínimo, a Stalin, quien eliminó de las fotos oficiales a los camaradas caídos en desgracia.
Sin embargo, algunos afirman que una cuestión más apremiante es la mayor vulnerabilidad de las personas que no son figuras públicas frente a las agresiones en línea. La periodista india Rana Ayyub ha detallado los intentos de silenciarla mediante pornografía deepfake, por ejemplo.
Algunos sostienen que la amenaza de la propia tecnología está exagerada y que el verdadero problema es que los actores malintencionados pueden ahora desestimar las pruebas en vídeo de conductas indebidas gritando “deepfake”, del mismo modo que podrían desestimar como “noticias falsas” los informes de los medios que no les agradan.
Aun así, según un informe, los deepfakes “a medida”, técnicamente sofisticados, suponen una amenaza significativa; podrían reservarse para un momento clave, como unas elecciones, para maximizar su impacto. En 2020, el coste estimado de la tecnología necesaria para producir un deepfake “de última generación” era inferior a 30 000 dólares, según el informe.
La popularización del término “deepfakes” tuvo un origen turbio en 2018. Desde entonces, las peticiones para regular o prohibirlos se han multiplicado; se ha propuesto legislación al respecto en Estados Unidos y, en 2019, China convirtió en delito penal la publicación de un deepfake sin revelar su naturaleza. Facebook anunció el año pasado que prohibiría los deepfakes que no sean parodias o sátiras, y Twitter anunció que prohibiría los deepfakes con probabilidad de causar daño.
Se ha sugerido que la mejor forma de inmunizar a la población frente al peligro de los deepfakes es mediante la exposición. Se han realizado diversos esfuerzos para ayudar al público a comprender lo que está en juego.
El año pasado, los creadores de la popular serie de dibujos animados estadounidense “South Park” publicaron el vídeo viral “Sassy Justice”, que incluye versiones deepfake de Trump y Mark Zuckerberg. En una entrevista, explicaron que la inquietud por los deepfakes puede haber quedado en segundo plano frente a los temores relacionados con la pandemia, pero que el tema merece, no obstante, ser desmitificado.
Para más contexto, a continuación se incluyen enlaces a lecturas adicionales de la plataforma de Inteligencia Estratégica del Foro Económico Mundial:
Una creciente conciencia sobre los deepfakes permitió a las personas detectar rápidamente perfiles falsos en línea de “empleados de Amazon” que criticaban a los sindicatos, según este informe, aunque una hipersensibilidad hacia la tecnología también podría llevar a las personas a dejar de creer en los medios auténticos. (MIT Technology Review)
Los sistemas diseñados para ayudarnos a detectar deepfakes pueden ser engañados, según un estudio publicado recientemente, al insertar “ejemplos adversarios” en cada fotograma de vídeo y confundir a los modelos de aprendizaje automático. (Science Daily)
Los regímenes autoritarios pueden aprovechar los gritos de “deepfake”. Según este artículo de opinión, los poderosos recurren cada vez más a las afirmaciones de falsificación profunda y manipulación de vídeos para alegar una negación verosímil cuando surgen imágenes incriminatorias. (Wired)
Es fácil culpar a los deepfakes de la proliferación de la desinformación, pero, según este artículo de opinión, la tecnología no es más eficaz que los medios tradicionales de mentir de forma creativa, como simplemente añadir una cita inventada a la imagen de alguien y compartirla. (NiemanLab)
Un estudio publicado recientemente reveló que uno de cada tres singapurenses que conocen los deepfakes cree haber difundido contenido deepfake en redes sociales, que más tarde supieron que formaba parte de un engaño. (Science Daily)
“Te hace sentir realmente impotente”. La pornografía deepfake está arruinando la vida de las mujeres, según este informe, aunque podría llegar una solución legal. (MIT Technology Review)
“Una caja de Pandora propagandística en la palma de cada mano”. Los intentos de deepfake siguen siendo relativamente fáciles de detectar, según este artículo, pero pronto los mismos efectos que antes requerían cientos de técnicos y millones de dólares serán posibles con un teléfono móvil. (Australian Strategic Policy Institute)
En la plataforma Inteligencia Estratégica, encontrará fuentes de análisis de expertos relacionados con la inteligencia artificial, identidad digital y cientos de temas adicionales. Deberá registrarse para poder verlos.
