Los deep fakes son fotos realistas, generadas por ordenador, de personas que no existen, cada vez más utilizadas con fines de marketing y también con fines maliciosos.
Nuevas investigaciones demuestran que las personas tienen dificultades para distinguir entre rostros reales y generados por ordenador, advierte un profesor de psicología.
Y el crecimiento de perfiles falsos y otros contenidos artificiales en línea podría, con el tiempo, erosionar la confianza social, afirma.
Los algoritmos mejorados integrados en las redes sociales podrían ayudarnos a distinguir en el futuro entre rostros reales y falsos.
Aunque creas que se te dan bien analizar rostros, según muestran las investigaciones muchas personas no pueden distinguir de forma fiable entre fotos de rostros reales e imágenes generadas por ordenador. Esto es especialmente problemático ahora que los sistemas informáticos pueden crear fotos de aspecto realista de personas que no existen.
Recientemente, un perfil falso de LinkedIn con una foto de perfil generada por ordenador acaparó la atención de los medios porque logró conectar con funcionarios estadounidenses y otras personas influyentes en la plataforma de networking, por ejemplo. Los expertos en contrainteligencia incluso afirman que los espías crean sistemáticamente perfiles fantasma con este tipo de imágenes para localizar a objetivos extranjeros en las redes sociales.
Estos deep fakes se están extendiendo en la cultura cotidiana, por lo que las personas deberían ser más conscientes de cómo se utilizan en marketing, publicidad y redes sociales. Las imágenes también se emplean con fines maliciosos, como la propaganda política, el espionaje y la guerra de información.
Crearlos implica una tecnología llamada red neuronal profunda, un sistema informático que imita la forma en que aprende el cerebro. Esta red se “entrena” exponiéndola a conjuntos de datos de rostros reales cada vez más grandes.
De hecho, dos redes neuronales profundas se enfrentan entre sí, compitiendo por producir las imágenes más realistas. Como resultado, los productos finales reciben el nombre de imágenes GAN, donde GAN son las siglas de Generative Adversarial Networks (redes generativas antagónicas). El proceso genera imágenes nuevas que son estadísticamente indistinguibles de las imágenes de entrenamiento.
En nuestro estudio publicado en iScience, demostramos que no distinguir estos rostros artificiales de los reales tiene implicaciones para nuestro comportamiento en línea. Nuestra investigación sugiere que las imágenes falsas podrían erosionar nuestra confianza en los demás y cambiar profundamente la forma en que nos comunicamos en línea.
Mis colegas y yo comprobamos que las personas percibían los rostros GAN como aún más reales que las fotos auténticas de rostros de personas reales. Aunque todavía no está claro por qué ocurre esto, este hallazgo sí pone de relieve los avances recientes de la tecnología utilizada para generar imágenes artificiales.
Y también encontramos una relación interesante con el atractivo: los rostros valorados como menos atractivos también se valoraron como más reales. Los rostros menos atractivos podrían considerarse más típicos y el rostro típico puede utilizarse como referencia frente al que se evalúan todos los rostros. Por tanto, estos rostros GAN parecen más reales porque se asemejan más a las plantillas mentales que las personas han construido a partir de la vida cotidiana.
Pero considerar auténticos estos rostros artificiales también puede tener consecuencias para los niveles generales de confianza que concedemos a un círculo de personas desconocidas: un concepto conocido como “confianza social”.
Tendemos a interpretar en exceso los rostros que vemos, y las primeras impresiones que nos formamos guían nuestras interacciones sociales. En un segundo experimento que formó parte de nuestro último estudio, observamos que las personas tendían más a confiar en la información transmitida por rostros que previamente habían juzgado como reales, aunque hubieran sido generados artificialmente.
No es sorprendente que las personas confíen más en los rostros que creen reales. Pero descubrimos que la confianza se erosionaba una vez que se informaba a las personas sobre la posible presencia de rostros artificiales en las interacciones en línea. Entonces mostraban niveles de confianza más bajos en general, independientemente de que los rostros fueran reales o no.
Este resultado podría considerarse útil en algunos aspectos, porque hizo que las personas fueran más suspicaces en un entorno en el que podrían actuar usuarios falsos. Desde otra perspectiva, sin embargo, podría erosionar gradualmente la propia naturaleza de nuestra forma de comunicarnos.
En general, tendemos a actuar partiendo de la premisa predeterminada de que las demás personas son básicamente veraces y dignas de confianza. El crecimiento de perfiles falsos y otros contenidos artificiales en línea plantea la cuestión de hasta qué punto su presencia y nuestro conocimiento de ellos pueden alterar este estado de «premisa de veracidad» y, finalmente, erosionar la confianza social.
Cambiar nuestras premisas por defecto
La transición a un mundo en el que lo real es indistinguible de lo que no lo es también podría transformar el panorama cultural, pasando de ser principalmente veraz a ser principalmente artificial y engañoso.
Si cuestionamos con regularidad la veracidad de lo que experimentamos en línea, podría obligarnos a redirigir nuestro esfuerzo mental desde el procesamiento de los propios mensajes hacia el procesamiento de la identidad del emisor. En otras palabras, el uso generalizado de contenidos en línea muy realistas, pero artificiales, podría exigirnos pensar de forma diferente, de maneras que no esperábamos.
En psicología, utilizamos un término llamado «monitorización de la realidad» para describir cómo identificamos correctamente si algo procede del mundo exterior o de nuestro propio cerebro. El avance de las tecnologías capaces de producir rostros, imágenes y videollamadas falsos, pero muy realistas, implica que la monitorización de la realidad debe basarse en información distinta de nuestros propios juicios. También exige un debate más amplio sobre si la humanidad todavía puede permitirse presumir de veracidad.
Es fundamental que las personas sean más críticas al evaluar rostros digitales. Esto puede incluir el uso de búsquedas inversas de imágenes para comprobar si las fotos son auténticas, desconfiar de los perfiles de redes sociales con poca información personal o con un gran número de seguidores, y ser conscientes del potencial de la tecnología de deep fakes para usarse con fines perversos.
La siguiente frontera en este ámbito debería ser la mejora de los algoritmos para detectar rostros digitales falsos. Estos podrían integrarse después en las plataformas de redes sociales para ayudarnos a distinguir lo real de lo falso cuando se trate de los rostros de nuevos contactos.
