Para frenar los deepfakes, los investigadores han desarrollado una técnica experimental que autentica las imágenes desde su captura hasta su entrega mediante inteligencia artificial.
Determinar si una foto o un vídeo es auténtico es cada vez más problemático. Las técnicas sofisticadas para alterar fotos y vídeos se han vuelto tan accesibles que los deepfakes (fotos o vídeos manipulados que resultan notablemente convincentes y que a menudo incluyen a celebridades o figuras políticas) se han vuelto habituales.
En las pruebas, el prototipo de canal de procesamiento de imágenes aumentó las probabilidades de detectar la manipulación de imágenes y vídeos de aproximadamente un 45 por ciento a más de un 90 por ciento, sin sacrificar la calidad de la imagen.
Paweł Korus, profesor adjunto de investigación del departamento de informática e ingeniería de la Escuela Tandon de la Universidad de Nueva York, fue pionero en este enfoque. Sustituye el flujo típico de revelado fotográfico por una red neuronal (una forma de IA) que introduce artefactos cuidadosamente diseñados directamente en la imagen en el momento de su captura. Estos artefactos, similares a «marcas de agua digitales», son extremadamente sensibles a la manipulación.
«A diferencia de las técnicas de marcas de agua utilizadas anteriormente, estos artefactos aprendidos por IA pueden revelar no solo la existencia de manipulaciones fotográficas, sino también su naturaleza», afirma Korus.
El proceso está optimizado para la incorporación en la cámara y puede sobrevivir a las distorsiones de imagen que aplican los servicios en línea de intercambio de fotos.
Las ventajas de integrar estos sistemas en las cámaras son evidentes.
«Si la propia cámara produce una imagen más sensible a la manipulación, cualquier ajuste se detectará con alta probabilidad», afirma Nasir Memon, profesor de informática e ingeniería y coautor, junto con Korus, de un artículo que describe la técnica. «Estas marcas de agua pueden sobrevivir al posprocesamiento; sin embargo, son bastante frágiles ante modificaciones: si altera la imagen, la marca de agua se rompe», afirma Memon.
La mayoría de los otros intentos de determinar la autenticidad de una imagen examinan únicamente el producto final, una tarea notoriamente difícil.
Korus y Memon, en cambio, consideran que la imagen digital moderna ya depende del aprendizaje automático. Cada foto tomada con un teléfono inteligente pasa por un procesamiento casi instantáneo para ajustar la poca luz y estabilizar la imagen, procesos que se realizan gracias a la IA integrada en el dispositivo.
En los próximos años, es probable que los procesos impulsados por IA sustituyan por completo a los canales tradicionales de imagen digital. Durante esta transición, Memon afirma que «tenemos la oportunidad de cambiar de forma notable las capacidades de los dispositivos de próxima generación en lo que respecta a la integridad y la autenticación de las imágenes. Los canales de imagen optimizados para la investigación forense podrían ayudar a recuperar un elemento de confianza en ámbitos donde la línea que separa lo real de lo falso puede resultar difícil de trazar con seguridad».
Korus y Memon señalan que, aunque su enfoque resulta prometedor en las pruebas, es necesario seguir trabajando para perfeccionar el sistema. Esta solución es de código abierto y está disponible aquí.
Los investigadores presentarán su artículo en la Conferencia sobre Visión por Computadora y Reconocimiento de Patrones, en Long Beach (California).
Fuente: Universidad de Nueva York
