Los avances recientes en la tecnología de vídeos deepfake han provocado un rápido aumento de este tipo de vídeos en el dominio público durante el último año. Las aplicaciones de intercambio de rostros, como Zao, por ejemplo, permiten a los usuarios intercambiar sus caras por las de una celebridad, creando un vídeo deepfake en cuestión de segundos.
Estos avances son el resultado del modelado generativo profundo, una nueva tecnología que nos permite generar duplicados de rostros reales y crear imágenes nuevas, y asombrosamente realistas, de personas que no existen.
Esta nueva tecnología ha suscitado, con toda razón, preocupaciones sobre la privacidad y la identidad. Si nuestros rostros pueden ser creados por un algoritmo, ¿sería posible replicar aún más detalles de nuestra identidad digital personal o de atributos como nuestra voz, o incluso crear un doble corporal real?
De hecho, la tecnología ha avanzado rápidamente, pasando de duplicar solo rostros a duplicar cuerpos enteros. Las empresas tecnológicas están preocupadas y están tomando medidas: Google publicó 3.000 vídeos deepfake con la esperanza de que los investigadores desarrollen métodos para combatir los contenidos malintencionados y para identificarlos más fácilmente.
Aunque con razón se están planteando preguntas sobre las consecuencias de la tecnología deepfake, es importante no perder de vista el hecho de que la inteligencia artificial (IA) puede utilizarse tanto para el bien como para el mal. Los líderes mundiales se preocupan por cómo desarrollar y aplicar tecnologías que beneficien genuinamente a las personas y al planeta, y por cómo involucrar a toda la sociedad en su desarrollo. Crear algoritmos de forma aislada no permite tener en cuenta las preocupaciones sociales más amplias para incorporarlas a sus aplicaciones prácticas.
Por ejemplo, el desarrollo de modelos generativos profundos abre nuevas posibilidades en la atención sanitaria, donde con razón nos preocupa proteger la privacidad de los pacientes en tratamiento e investigaciones en curso. Con grandes cantidades de datos digitales reales de pacientes, un solo hospital con capacidad computacional adecuada podría crear una población de pacientes virtuales completamente imaginaria, eliminando la necesidad de compartir los datos de pacientes reales.
También nos gustaría ver avances en la IA que den lugar a formas nuevas y más eficientes de diagnosticar y tratar enfermedades en individuos y poblaciones. La tecnología podría permitir a los investigadores generar datos realistas para desarrollar y probar nuevas formas de diagnosticar o monitorizar enfermedades sin arriesgar violaciones de la privacidad de los pacientes reales.
Estos ejemplos en la atención sanitaria ponen de manifiesto que la IA es una tecnología habilitadora que no es intrínsecamente buena ni mala. Una tecnología como esta depende del contexto en el que la creamos y utilizamos.
Las universidades tienen un papel fundamental que desempeñar en este ámbito. En el Reino Unido, las universidades lideran el mundo en investigación e innovación y se centran en generar un impacto en los desafíos del mundo real. En UCL, lanzamos recientemente el Centro de Inteligencia Artificial de UCL, que estará a la vanguardia de la investigación mundial en IA. Nuestros académicos trabajan con una amplia gama de expertos y organizaciones para crear nuevos algoritmos que apoyen la ciencia, la innovación y la sociedad.
La IA debe complementar y ampliar el esfuerzo humano, no reemplazarlo. Necesitamos combinar controles y contrapesos que impidan o eviten el uso inadecuado de la tecnología, al tiempo que creamos la infraestructura adecuada y las conexiones entre distintos expertos para garantizar que desarrollemos tecnología que ayude a la sociedad a prosperar.
