El crecimiento de las técnicas de manipulación de imágenes está erosionando tanto la confianza como la toma de decisiones informadas.
Aunque es imposible identificar y demostrar la falsedad de los contenidos en tiempo real, podemos determinar qué imágenes son veraces.
Ya existe software capaz de verificar la procedencia de las imágenes; el siguiente paso será basado en hardware.
Hoy en día, el mundo captura más de 1,2 billones de imágenes digitales y vídeos al año, una cifra que aumenta alrededor de un 10 % cada año. Alrededor del 85 % de esas imágenes se capturan con un teléfono inteligente, un dispositivo que llevan más de 2.700 millones personas en todo el mundo.
Pero a medida que aumentan las tasas de captura de imágenes, también aumenta la tasa de manipulación de imágenes. En los últimos años, el nivel y la velocidad de la manipulación audiovisual (AV) han sorprendido incluso a los expertos más experimentados. La aparición de las redes generativas antagónicas (GAN), o «deepfakes», ha acaparado la mayoría de los titulares debido a su capacidad para socavar por completo cualquier confianza en la verdad visual.
Y aunque los deepfakes nunca se propagaran en el dominio público, el mundo ha sido igualmente trastocado por los «cheapfakes», un término que se refiere a métodos de manipulación de imágenes más rudimentarios, como el retoque con Photoshop, la retransmisión, la aceleración y ralentización de vídeos, y otras técnicas relativamente poco sofisticadas. Los cheapfakes ya han sido la principal herramienta en la propagación de la desinformación y el fraude en línea, que han tenido repercusiones significativas para las empresas y la sociedad.
El crecimiento de la manipulación de imágenes ha dificultado la toma de decisiones acertadas basadas en imágenes y vídeos, algo que empresas e individuos hacen cada vez con más frecuencia. Esto incluye decisiones personales que van desde compras en mercados entre particulares, conocer a personas en citas en línea o votar, hasta decisiones empresariales, como tramitar una reclamación de seguro o formalizar un préstamo. Incluso se ven afectadas decisiones de importancia global, como la respuesta internacional a imágenes y vídeos que muestran atrocidades o violencia flagrante en zonas de conflicto o áreas no permisivas, y mucho más.
Cada uno de estos casos de uso, muy diferentes entre sí, pone de manifiesto dos tendencias contradictorias: dependemos más que nunca de imágenes y vídeos, pero confiamos en ellos menos que nunca. Se trata de una brecha significativa que crece día a día y que ha obligado a gobiernos y tecnólogos a invertir en tecnología de detección de imágenes.
Por desgracia, no existe una forma sostenible de detectar imágenes falsas en tiempo real y a escala. Este hecho desalentador probablemente no cambiará en breve.
Hay varias razones para ello. En primer lugar, casi todos los metadatos se pierden, se eliminan o se alteran a medida que una imagen viaja por internet. Cuando esa imagen llega a un sistema de detección, será imposible reproducir los metadatos perdidos, por lo que datos como la fecha, la hora y el lugar originales de una imagen probablemente seguirán siendo desconocidos.
En segundo lugar, casi todas las imágenes digitales se comprimen y redimensionan al instante una vez compartidas por internet; aunque algunas manipulaciones son inocuas (como la recompresión), otras pueden ser significativas y tener como fin engañar al consumidor de contenidos. En cualquier caso, la recompresión y el redimensionamiento de las imágenes al cargarse y transmitirse hace que sea difícil, si no imposible, detectar manipulaciones a nivel de píxel debido a la pérdida de fidelidad de la fotografía original.
En tercer lugar, cuando se identifica y se democratiza una técnica de detección automatizada o basada en aprendizaje automático, los malos actores pronto encontrarán una solución alternativa para seguir sin ser detectados.
Lo que hace la detección aún más difícil son las redes sociales, que difunden contenidos, falsos o reales, en cuestión de segundos. Quienes pretenden engañar pueden introducir contenido falso en las plataformas de redes sociales de forma instantánea. Incluso un desmentido exitoso probablemente llegaría demasiado tarde para detener la propagación del contenido falso, y la disonancia cognitiva y el sesgo influirían aún más en las decisiones de los consumidores.
Entonces, si la detección no funcionará, ¿cómo dotamos a las personas, las empresas y la comunidad internacional de las herramientas para tomar mejores decisiones? A través de la procedencia de las imágenes. Si el mundo no puede demostrar qué es falso, debe demostrar qué es real.
Hoy en día, existe la tecnología —como Controlled Capture, un software desarrollado por mi empresa, Truepic— que permite tanto establecer la procedencia de las imágenes como verificar los metadatos críticos en el momento de la captura. Esto es posible gracias a los avances en la tecnología de los teléfonos inteligentes, las redes celulares, la visión artificial y la cadena de bloques. Sin embargo, para restaurar verdaderamente la confianza en las imágenes a escala global, el uso de imágenes verificadas deberá ampliarse más allá del software hasta llegar al hardware.
Para lograr este ambicioso objetivo, la tecnología de veracidad de imágenes deberá integrarse en los chipsets que alimentan los teléfonos inteligentes. Truepic está trabajando con Qualcomm Technologies, el mayor fabricante de chipsets para teléfonos inteligentes, para demostrar la viabilidad de este enfoque. Una vez completada, esta integración permitiría a los fabricantes de teléfonos añadir un modo «verificado» a la aplicación de cámara nativa de cada teléfono, poniendo así la tecnología de imágenes verificadas al alcance de cientos de millones de usuarios. El resultado final serán imágenes firmadas criptográficamente con procedencia verificada, que permitirán a los responsables de la toma de decisiones elegir con acierto a escala personal, empresarial o global. Este es el futuro de la toma de decisiones en la era de la desinformación y los deepfakes.
