Para vencer a los deepfakes, necesitamos demostrar lo que es real. Te enseñamos cómo.

● El crecimiento de las técnicas de manipulación de imágenes está erosionando tanto la confianza como la toma de decisiones informada.

● Si bien es imposible identificar y demostrar falsificaciones en tiempo real, podemos determinar qué imágenes son verdaderas.

● Ya existe un software que puede verificar la procedencia de las imágenes: el siguiente paso estará basado en hardware.

Hoy en día, el mundo captura más de 1,2 billones de imágenes digitales y vídeos anualmente, una cifra que aumenta aproximadamente un 10% cada año. Alrededor del 85% de esas imágenes se capturan con un teléfono inteligente, un dispositivo que llevan más de 2.700 millones de personas en todo el mundo.

Pero a medida que aumentan las tasas de captura de imágenes, también lo hace la tasa de manipulación de imágenes. En los últimos años, el nivel y la velocidad de la manipulación audiovisual ha sorprendido incluso a los profesionales más experimentados. El advenimiento de las Redes Generativas Antagónicas (RGA) o «deepfakes» ha capturado la mayoría de los titulares debido a su capacidad para socavar por completo cualquier confianza en la verdad visual.

Incluso si los deepfakes nunca proliferan en el ámbito público, el mundo se ha visto afectado por los «cheapfakes», un término que se refiere a métodos de manipulación de imágenes más rudimentarios, como fotos, retransmisión, aceleración y ralentización de vídeos y otras técnicas relativamente poco sofisticadas. Los «cheapfakes» ya han sido la herramienta principal en la proliferación de la desinformación y el fraude online, que ha tenido un impacto significativo en las empresas y la sociedad.

El crecimiento de la manipulación de imágenes ha hecho que sea más difícil tomar decisiones acertadas basadas en imágenes y vídeos, algo que las empresas y las personas están haciendo a un ritmo cada vez mayor. Esto incluye decisiones personales que van desde compras en mercados de igual a igual, conocer gente cuando tienen citas online o votar; y decisiones comerciales, como realizar una reclamación de seguros o ejecutar un préstamo. Incluso las decisiones de importancia mundial se ven afectadas, como la respuesta internacional a imágenes y vídeos que muestran atrocidades o violencia atroz en zonas de conflicto o áreas no permisivas, y muchas otras cosas.

Cada uno de estos ejemplos concretos o distintos resalta dos tendencias contradictorias; confiamos en las imágenes y vídeos más que nunca, pero confiamos en ellos menos de lo que lo hemos hecho nunca. Esta es una brecha importante que crece día a día y ha obligado al gobierno y a los tecnólogos a invertir en tecnología de detección de imágenes.

Lamentablemente, no existe una forma sostenible de detectar imágenes falsas en tiempo real y a escala. Es probable que este hecho indiscutible no cambie a corto plazo por varios motivos. En primer lugar, casi todos los metadatos se pierden, se eliminan o se alteran a medida que una imagen viaja a través de Internet. Cuando esa imagen llegue a un sistema de detección, será imposible reproducir metadatos perdidos y, por tanto, detalles como la fecha, la hora y la ubicación originales de una imagen probablemente sigan siendo desconocidos.

En segundo lugar, casi todas las imágenes digitales se comprimen y cambian de tamaño instantáneamente una vez que se comparten en Internet, si bien algunas manipulaciones son positivas (como la recompresión), otras pueden ser significativas y tener como objetivo el engaño del consumidor de contenido. En cualquier caso, la recompresión y el cambio de tamaño de las imágenes a medida que se cargan y transmiten hace que sea difícil, si no imposible, detectar manipulaciones a nivel de píxeles debido a la pérdida de fidelidad en la foto real.

En tercer lugar, cuando se identifica y democratiza una técnica de detección automatizada o basada en el aprendizaje automático, los malos actores identificarán rápidamente una solución alternativa para que no se les pueda detectar.

Lo que dificulta todavía más la detección son las redes sociales, que difunden contenido, falso o real, en cuestión de segundos. Aquellos que intentan engañar pueden introducir contenido falso en las plataformas de redes sociales de forma instantánea. Incluso si se desacredita con éxito, probablemente sea demasiado tarde para detener la propagación del contenido falso, y la disonancia cognitiva y el sesgo influirían más en las decisiones de los consumidores.

Entonces, si la detección no funciona, ¿de qué herramientas dotamos a las personas, las empresas y la comunidad internacional para tomar mejores decisiones? A través de la procedencia de las imágenes. Si el mundo no puede demostrar lo que es falso, entonces debe demostrar lo que es real.

Actualmente existe tecnología, como Controlled Capture, software desarrollado por mi compañía, Truepic, que puede establecer la procedencia de las imágenes y verificar los metadatos críticos en el punto de captura. Esto es posible gracias a los avances en tecnología de teléfonos inteligentes, redes celulares, visión por ordenador y blockchain. Sin embargo, para restaurar verdaderamente la confianza en las imágenes a nivel global, el uso de imágenes verificadas necesitará ir más allá del software y llegar al hardware.

Para lograr este ambicioso objetivo, la tecnología de veracidad de la imagen deberá integrarse en los conjuntos de chips que alimentan los teléfonos inteligentes. Truepic está trabajando con Qualcomm Technologies, el mayor fabricante de conjuntos de chips para teléfonos inteligentes, para demostrar la viabilidad de este enfoque. Una vez completada, esta integración permitiría a los fabricantes de teléfonos inteligentes incluir un modo 'verificado' para la aplicación de cámara propia de cada teléfono, poniendo así la tecnología de imagen verificada en manos de cientos de millones de usuarios. El resultado final serán imágenes firmadas criptográficamente con procedencia verificada, lo que permitirá a los responsables de la toma de decisiones tomar decisiones inteligentes a escala personal, comercial o global. Este es el futuro de la toma de decisiones en la era de la desinformación y los «deepfakes».