Un nuevo estudio ha descubierto que los rostros falsos creados por IA se consideran más fiables que las imágenes de personas reales.
Los investigadores responsables del estudio piden salvaguardias para prevenir los deepfakes.
La IA plantea «nuevos y complejos problemas éticos», afirma el Foro Económico Mundial.
Un nuevo estudio ha descubierto que los rostros falsos creados mediante inteligencia artificial (IA) se consideran más fiables que las imágenes de personas reales.
Los resultados ponen de relieve la necesidad de salvaguardias para prevenir los deepfakes, que ya se han utilizado para la pornografía de venganza, el fraude y la propaganda, afirman los investigadores responsables del informe.
El temor a los deepfakes
El estudio —realizado por la doctora Sophie Nightingale, de la Universidad de Lancaster, en el Reino Unido, y el profesor Hany Farid, de la Universidad de California en Berkeley, en Estados Unidos— pidió a los participantes que identificaran como reales o falsos una selección de 800 rostros y que evaluaran su fiabilidad.
Tras realizar tres experimentos distintos, los investigadores descubrieron que, en promedio, los rostros sintéticos creados por IA se consideraron un 7,7 % más fiables que los rostros reales. Esto es «estadísticamente significativo», añaden. La mayoría de los tres rostros considerados más fiables eran falsos, mientras que los cuatro rostros considerados menos fiables eran reales, según la revista New Scientist.
La IA aprende qué rostros nos gustan
Los rostros falsos se crearon mediante redes generativas antagónicas (GAN), programas de IA que aprenden a crear rostros realistas mediante un proceso de ensayo y error.
El estudio, Los rostros sintetizados por IA son indistinguibles de los reales y más fiables, se publicó en la revista Proceedings of the National Academy of Sciences of the United States of America (PNAS).
El estudio insta a implantar salvaguardias, entre ellas la posibilidad de incorporar «marcas de agua robustas» en las imágenes para proteger al público de los deepfakes.
Los investigadores afirman que las directrices para crear y distribuir imágenes sintetizadas también deberían incorporar «directrices éticas para investigadores, editores y distribuidores de medios».
Herramientas de IA ética
El Foro Económico Mundial afirma que usar la IA de forma responsable es el «reto inmediato» al que se enfrenta el ámbito de la gobernanza de la IA.
En su informe, El recorrido de la gobernanza de la IA: desarrollo y oportunidades, el Foro afirma que la IA ha sido esencial para impulsar ámbitos como la innovación, la sostenibilidad ambiental y la lucha contra la COVID-19. Sin embargo, esta tecnología también «nos plantea nuevos y complejos problemas éticos» y «avanza más rápido que nuestra capacidad para gobernarla».
El informe examina una serie de prácticas, herramientas y sistemas para desarrollar y utilizar la IA.
Entre ellos figuran sistemas de etiquetado y certificación; auditorías externas de algoritmos para reducir los riesgos; regulación de las aplicaciones de IA, y una mayor colaboración entre la industria, los gobiernos, el mundo académico y la sociedad civil para desarrollar marcos de gobernanza de la IA.
