Blockchain puede ayudar a combatir la amenaza de los deepfakes. Así es como

• Los deepfakes amenazan todos los ámbitos de la sociedad mediante el uso malintencionado de la inteligencia artificial.
  

• La tecnología blockchain tiene el poder de restaurar la confianza y la seguridad en el ecosistema digital.
  

• Se necesita una acción multiactor para reforzar la gobernanza digital y proteger a las víctimas de las injusticias digitales.

La omnipresencia de las redes sociales, la aparición de herramientas sofisticadas de manipulación digital y los sistemas legislativos y judiciales, todavía anticuados, con escasos recursos y limitados, amplían la brecha de rendición de cuentas entre las víctimas de daños digitales y su camino hacia la justicia digital.

Imagine que una mañana se despierta con una avalancha de mensajes y llamadas de sus amigos, familiares y compañeros de trabajo sobre una serie de imágenes y vídeos íntimos suyos publicados en sus redes sociales sin su conocimiento ni consentimiento. Nada de este contenido en el que usted aparece es real; de hecho, fueron creados mediante deepfake. ¿Cómo respondería? ¿Quién produjo este contenido en primer lugar? ¿Cómo obtiene justicia por este delito?

Por desgracia, no hay respuestas claras a ninguna de estas preguntas. En consecuencia, las personas y los grupos históricamente marginados se han convertido en los más expuestos a la amenaza de los deepfakes, a la imaginería íntima no consentida (conocida coloquialmente como «porno de venganza») y a los daños basados en datos en su conjunto, lo que hace que abordar este problema sea hoy más urgente que nunca.

Los deepfakes se están normalizando; eso es un gran problema

Los deepfakes son representaciones sintéticas creadas con IA moderna (inteligencia artificial) para representar discursos y acciones. La mayor amenaza que plantean los deepfakes es que favorecen una cultura de impunidad, en la que los malos actores enfrentan pocas o ninguna consecuencia por el daño que causan a las víctimas de imágenes íntimas no consentidas. Y con los sitios web de «desnudado» nuevos y mucho más avanzados, que utilizan algoritmos de aprendizaje profundo para quitar la ropa a mujeres en fotos sin su consentimiento, los responsables cuentan con más libertad, incentivos y herramientas para seguir con sus conductas dañinas.

Este reciente desarrollo ha acumulado más de 38 millones de visitas desde comienzos de 2021 y se ha convertido en una de las herramientas de deepfake más populares jamás creadas. Las fotos y los enlaces de este nuevo sitio web no se limitan a la web oscura, ni ha sido excluido del índice de motor de búsqueda de Google. Funciona sin ninguna restricción y desde entonces se ha extendido a grandes plataformas como Twitter, Facebook y Reddit, por citar solo algunas.

Las mujeres llevan años sufriendo el trauma de los deepfakes; de hecho, de los 85.000 deepfakes que circulan en línea, más del 99 % son deepfakes pornográficos de mujeres. Aunque las mujeres constituyen cerca de la mitad de la población mundial, las formas en que las tecnologías en línea, como los deepfakes y la desinformación, las tienen como objetivo a ellas y a sus historias pasan desapercibidas y reciben una atención insuficiente por parte de la legislación y de los responsables de políticas.

Casos de alto perfil

Tomemos como ejemplo el caso de 2018 de Rana Ayyub, periodista de investigación que fue objeto de un vídeo deepfake pornográfico destinado a silenciarla. Este llegó a millones de teléfonos móviles en India; Ayyub terminó en el hospital con ansiedad y palpitaciones, y ni el gobierno indio ni las redes sociales actuaron hasta que relatores especiales de las Naciones Unidas intervinieron y pidieron la protección de Ayyub.

Rana Ayyub, periodista de investigación.

También está el caso de 2017 de Svitlana Zalishchuk, entonces miembro del Parlamento de Ucrania, cuya imagen pública había sido empañada por “cheap fakes” – fotos mal editadas que la sexualizaban, la degradaban e intentaban expulsarla de la vida pública. Es casi seguro que la campaña contra Zalishchuk fue una operación del Kremlin.

Hay numerosos casos adicionales como estos, que se multiplican a medida que la facilidad y la accesibilidad de estas tecnologías emergentes avanzan sin control. Solo el año pasado, se descubrió que los usuarios utilizaban un canal de Telegram para pagar 1,25 $ y generar imágenes de desnudos de más de 680.000 mujeres, en su mayoría de Europa del Este y Rusia, sin su conocimiento ni consentimiento.

En un caso menos destacado, pero no menos significativo, una YouTuber estadounidense y artista de ASMR4, Gibi, ha sido objeto de repetidos ataques con deepfakes y acoso en línea. El problema llegó a ser tan grave que tuvo que cambiar de nombre, mudarse de su casa y extremar la vigilancia al revelar cualquier información potencialmente identificativa sobre sí misma. Desde entonces ha descubierto varias empresas en línea que obtienen beneficios vendiendo su imagen sin su consentimiento en deepfakes y otro material falso, a menudo pornográfico. Incluso se le ha acercado una empresa que ofrece eliminar los deepfakes de ella, por 700 $ por vídeo.

Dado que el mundo digital es una extensión de nuestra realidad física, lo que es punible en el mundo físico también debería serlo en el mundo virtual. Sin embargo, cuando se trata de enjuiciar delitos cometidos por medios digitales, uno de los mayores obstáculos para su castigo es la falta de adaptación de los delitos tradicionales a las nuevas circunstancias, así como la dificultad para descubrir al autor o los autores del delito digital. El potencial de la tecnología blockchain se está investigando y desarrollando para ayudar a abordar este último problema.

¿Cómo puede ayudar blockchain?

Los sistemas blockchain utilizan un libro de registro descentralizado e inmutable para registrar información de forma que cada entidad que lo utiliza la verifica y la vuelve a verificar continuamente, lo que hace casi imposible modificar la información una vez creada. Una de las aplicaciones más conocidas de blockchain es gestionar la transferencia de criptomonedas como Bitcoin. Pero la capacidad de blockchain de ofrecer validación descentralizada de la autenticidad y una cadena de custodia clara la hace potencialmente eficaz como herramienta para rastrear y verificar no solo recursos financieros, sino todo tipo de contenidos.

Para entender el potencial de blockchain en la lucha contra los deepfakes, es importante conocer los fundamentos de los algoritmos hash, las firmas criptográficas (el medio para transformar datos de una forma legible (también conocida como texto plano) a una forma protegida (también conocida como texto cifrado), y de vuelta a la forma legible) y el sellado de tiempo en blockchain (una forma segura de registrar la fecha de creación y modificación de un documento).

Si bien los algoritmos criptográficos y el hash no son exclusivos de blockchain, estas características concretas de la tecnología se potencian cuando se combinan con otras características de la tecnología blockchain, como su naturaleza inmutable.

Piense en un hash criptográfico como una huella digital única para un contenido o archivo específico. Por ejemplo, la imagen siguiente ilustra cómo la información que pasa por un algoritmo de hash criptográfico toma una entrada de texto de cualquier tamaño y genera una salida de longitud fija. Esta salida se denomina hash. Cualquier otra persona con datos similares puede utilizar ese algoritmo para generar el mismo hash, y la comparación de hashes puede indicarle que comparte la misma información. Esto puede resultar útil para demostrar que un fragmento de texto, un archivo o un contenido no se ha alterado con el tiempo.

A ello se suma la inmutabilidad que aporta blockchain –la capacidad de que un registro en blockchain sea permanente e irreversible–, de modo que el hash o “huella digital” no puede modificarse y se convierte en una referencia a prueba de manipulaciones del contenido digital en un momento concreto. Si aplicamos esto a la identificación de deepfakes, significa que en una red blockchain los hashes pueden ser útiles para demostrar que imágenes, vídeos o contenidos en general no se han alterado con el tiempo. La tecnología blockchain, al permitir la procedencia y la trazabilidad del contenido digital, puede por tanto ayudar a crear un registro de auditoría para dicho contenido.

Junto con tecnologías convencionales, como las firmas digitales y el cifrado estándar para garantizar el no repudio, el sellado de tiempo en blockchain puede servir para aportar información útil para identificar deepfakes, como confirmar la fecha de origen de un elemento o demostrar que el contenido ha estado en posesión de alguien en un momento determinado. Este sellado de tiempo ya se utiliza hoy en aplicaciones específicas de diversos sectores, como la procedencia de bienes en cadenas de suministro, notarios que verifican firmas en contratos y otros.

Por ejemplo, la empresa de autenticación de fotos y vídeos Truepic notariza y sella con marca de tiempo contenidos en las blockchains de Bitcoin y Ethereum para establecer una cadena de custodia desde la captura hasta el almacenamiento. Añadir características de blockchain, como la inmutabilidad, proporciona una garantía inmutable adicional. Esto ofrece un historial verificable del contenido digital compartido. Puede ayudar a los consumidores de contenido digital a verificar el origen de dicho contenido.

Por qué no es una panacea

Cabe señalar que cualquier beneficio que aporte blockchain depende siempre del diseño y la implementación concretos, y gira en torno a varias decisiones de arquitectura. El sellado de tiempo puede ayudar a demostrar la existencia de un documento, pero no prueba la titularidad (que queda sujeta a diversas consideraciones, incluidos, por ejemplo, los acuerdos de propiedad intelectual vigentes).

Hay límites a lo que blockchain puede hacer para combatir los deepfakes y descubrir a los responsables de estos daños. Combinada con otras tecnologías emergentes, como la IA, blockchain puede efectivamente reforzar su capacidad de identificación de deepfakes. Sin embargo, los problemas tecnológicos no pueden resolverse exclusivamente con soluciones tecnológicas.

Para que blockchain ayude de manera efectiva, son fundamentales las alianzas cohesionadas entre comunidades internacionales de líderes gubernamentales, empresariales, de la sociedad civil y técnicos comprometidos con dar forma a la gobernanza de la creación y el consumo de contenido digital. Las políticas complementarias, las estrategias de participación ciudadana y los cambios culturales y sociales también son esenciales para reducir el alcance y la escala de la tecnología deepfake. Al aportar mayor transparencia sobre el ciclo de vida del contenido y cerrar la brecha de rendición de cuentas para las víctimas de injusticias digitales, blockchain podría ofrecer un mecanismo potencial para restaurar la confianza en nuestro ecosistema digital.

El Foro Económico Mundial ha publicado un libro blanco, Caminos hacia la justicia digital, que incluye una guía de recursos para víctimas de deepfakes.

El Consejo Global del Futuro sobre Política de Datos del Foro Económico Mundial lidera una iniciativa multiactor destinada a explorar estas cuestiones, Caminos hacia la justicia digital, en colaboración con el Consejo Global del Futuro sobre Medios, Entretenimiento y Deporte y el Consejo Global del Futuro sobre IA para la Humanidad. Para más información, contacte con Evîn Cheikosman en evin.cheikosman@weforum.org.