Un nuevo sitio web llama la atención sobre el hecho de que la inteligencia artificial puede falsificar fotos de rostros humanos con suficiente calidad como para engañar a la gente.
Whichfaceisreal.com es el nuevo sitio web de Jevin West, de la Escuela de Información, y de Carl Bergstrom, del departamento de biología de la Universidad de Washington. Este dúo llamó la atención de manera generalizada desde 2017 por su innovadora clase titulada «Calling Bullshit in the Age of Big Data» («Llamando a las tonterías en la era del big data»).
Al igual que en su clase, Bergstrom y West pretenden abordar —y ayudar a la gente a orientarse en— la creciente cantidad de información errónea y engaños que observan en línea. Cuando los dos vieron el sitio web Thispersondoesnotexist.com, impulsado por inteligencia artificial, que genera retratos extremadamente realistas de personas completamente inexistentes, quisieron difundir que la capacidad de generar rostros creíbles y de apariencia real ya era posible y se estaba extendiendo en internet.
«No creamos la tecnología», subraya Bergstrom. «Queríamos difundir que esto ya es posible. En general, hasta ahora, hemos confiado en los rostros de las fotos: si es una foto, es una persona real; al menos hasta ahora».
Como explican Bergstrom y West en WhichFaceisReal, los ingenieros de software de NVIDIA Corporation desarrollaron el algoritmo «fenomenal» que utilizan para crear rostros falsos realistas. Emplea lo que se denomina una red generativa antagónica (GAN, por sus siglas en inglés), en la que dos redes neuronales «juegan al gato y al ratón», y cada una intenta crear imágenes artificiales mientras la otra intenta distinguir la diferencia.
«Las dos redes se entrenan mutuamente», escriben. «Tras unas semanas, la red que crea imágenes puede producir imágenes como las falsificaciones de este sitio web».
"Hasta ahora, en general, alrededor del 70 por ciento de los participantes elige correctamente al intentar distinguir lo falso de lo real."
undefined
Y, al igual que con su trabajo de Calling BS, el sitio web se hizo popular de inmediato, con unas 4 millones de «partidas» del juego en unas dos semanas.
¿Adivina la gente bien? En su mayoría, sí, afirma West. Hasta ahora, en general, alrededor del 70 por ciento de los participantes elige correctamente al intentar distinguir lo falso de lo real, y es posible que el sitio les esté ayudando a mejorar.
«En nuestro análisis inicial parece ser el caso, pero necesitamos verificarlo con un análisis más riguroso», afirma West. «También estamos investigando qué tipo de imágenes son las más difíciles de discernir. Por ejemplo, ¿son más difíciles de identificar las falsificaciones de personas más jóvenes o mayores?».
Sin embargo, existen algunas pistas y «indicios» que ayudan a elegir con más acierto. Bergstrom y West ofrecen consejos en una pestaña de su sitio titulada «learn» («aprender»). Busca incoherencias en el fondo de la foto, o en cómo están representados el cabello o las gafas.
"Al igual que cuando la gente empezó a darse cuenta de que las imágenes podían manipularse con Photoshop, queremos que el público sepa que la IA puede replicar rostros humanos"
undefined
Y existe lo que denominan la «bala de plata» para detectar falsificaciones en línea: el algoritmo que utilizaron, llamado StyleGAN, no puede generar múltiples imágenes falsas desde distintas perspectivas de la misma persona falsa. Por ello, su consejo para verificar es buscar una segunda foto de la misma persona.
O, como dice Bergstrom, «¿Cómo sabes si tu próxima pareja de Tinder es real? Fíjate si tiene también un bonito retrato y una buena foto de sí mismo acariciando a un tigre. Busca siempre esa foto del tigre».
West y Bergstrom planean seguir añadiendo funciones a su sitio para aumentar el reto de elegir entre lo real y lo falso: podrían eliminar los fondos (que se encuentran entre los «indicios») para que la elección sea más difícil, y pedirán a los usuarios que vean una sola foto y digan si es real o generada.
«Queremos generar conciencia pública sobre esta tecnología», afirma West. «Al igual que cuando la gente empezó a darse cuenta de que las imágenes podían manipularse con Photoshop, queremos que el público sepa que la IA puede replicar rostros humanos.
«Eso, esperamos, hará que la gente empiece a cuestionar de otras maneras lo que ve. Esperamos que nos obligue a todos a corroborar las pruebas incluso cuando vemos una foto que parece humana».
