Estados Unidos prepara nuevas leyes para protegerse del contenido dañino de tipo deepfake.
Los deepfakes pueden destruir reputaciones y socavar la democracia.
La Iniciativa de Confianza Digital y la Coalición Mundial para la Seguridad Digital del Foro Económico Mundial buscan combatir el contenido dañino en línea.
¿Qué tienen en común Tom Cruise, Barack Obama, Rishi Sunak y Taylor Swift? Todos han sido protagonistas de vídeos deepfake publicados en línea.
Los deepfakes son contenidos creados con IA. Pueden utilizarse para suplantar a personas reales y ser tan verosímiles que solo un ordenador pueda detectar que no son auténticos.
Los deepfakes de Tom Cruise se hicieron virales en TikTok y se crearon con intención de entretener de manera desenfadada. El propio Cruise no ha tomado medidas para que retiren los vídeos, según un reportaje de CNN.
Cuando deja de ser divertido hacer deepfakes
La proliferación de herramientas de IA está generando una gran preocupación por el uso de deepfakes para destruir reputaciones, socavar elecciones democráticas y debilitar la confianza en las fuentes genuinas de información verificada en línea. El Informe de Riesgos Globales 2024 del Foro Económico Mundial sitúa la información errónea y la desinformación como la principal amenaza a la que se enfrentará el mundo en los próximos dos años.
En febrero de 2024, apareció un deepfake de audio que imitaba la voz del presidente de Estados Unidos, Joe Biden. El audio se utilizó en una llamada telefónica automatizada dirigida a votantes demócratas del estado de New Hampshire, en Estados Unidos. En el mensaje falso se oye una versión de la voz de Biden generada por IA que insta a la gente a no votar en las primarias del estado.
¿Cómo está creando el Foro Económico Mundial mecanismos de protección para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Promueve un diálogo fundamentado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite que sus socios desarrollen una comprensión común y trabajen juntos en enfoques responsables para la innovación y el uso de la IA.
Ante las elecciones estadounidenses, potencialmente divisivas, previstas para noviembre de 2024, en las que probablemente Biden se enfrentará a Donald Trump por la presidencia, las autoridades de Estados Unidos están redactando nuevas leyes que prohibirían producir y distribuir deepfakes que suplanten a personas.
Medidas legales para prohibir los deepfakes
Las leyes propuestas han sido presentadas por la Comisión Federal de Comercio de Estados Unidos (FTC). La FTC advierte que el avance de la tecnología está impulsando un enorme aumento de los deepfakes utilizados para estafar a personas desprevenidas.
«Los estafadores utilizan herramientas de IA para suplantar a personas con una precisión inquietante y a una escala mucho mayor. Con el auge de la clonación de voz y otros fraudes impulsados por la IA, proteger a los estadounidenses del fraude por suplantación es más importante que nunca», afirmó Lina M. Khan, presidenta de la FTC. «Las ampliaciones propuestas a la norma definitiva sobre suplantación lograrían precisamente eso y reforzarían las herramientas de la FTC para combatir las estafas basadas en IA que suplantan a personas».
Aunque estas leyes propuestas buscan frenar a los estafadores, también abarcan la suplantación de entidades gubernamentales y empresariales y, por tanto, si se promulgan, podrían ofrecer protección legal al proceso electoral.
Deepfakes y sociedades divididas
Uno de los temas centrales de la Reunión Anual del Foro Económico Mundial en Davos, en enero de 2024, fue reconstruir la confianza.
Las posibles consecuencias de los deepfakes para la confianza pública son profundas. Cuando se utilizan para tergiversar a políticos, líderes cívicos y directivos de empresas, pueden erosionar la confianza de la gente en el gobierno, los medios de comunicación, los sistemas judiciales y las instituciones privadas.
A medida que el público se vuelve cada vez más escéptico respecto de la autenticidad del contenido digital, ese escepticismo puede conducir a un alejamiento general de la vida cívica y a un deterioro del debate público informado.
La Iniciativa de Confianza Digital del Foro busca contrarrestar estas consecuencias negativas garantizando que la tecnología se desarrolle y utilice de manera que proteja y respete las expectativas y los valores de la sociedad. La Coalición Mundial para la Seguridad Digital del Foro también promueve un enfoque que involucre a toda la sociedad y movilice a los gobiernos, el sector privado y los grupos ciudadanos para fomentar la alfabetización mediática e informacional y combatir la desinformación.
«Las sociedades abiertas y democráticas dependen de información veraz para funcionar», afirma Daniel Dobrygowski, responsable de Gobernanza y Confianza del Foro Económico Mundial. «Cuando se utilizan nuevas tecnologías para intensificar los ataques a la verdad y a las instituciones democráticas, los gobiernos, el sector privado y la ciudadanía deben actuar para evitar una posible disrupción digital de la democracia», añade Dobrygowski.
Cómo detectar un deepfake
A medida que la IA se consolida como tecnología clave para producir deepfakes, también ofrece un gran potencial para detectar contenido falso. La Universidad de Stanford ha desarrollado herramientas de IA capaces de detectar los procesos de sincronización de labios que se utilizan con frecuencia para poner palabras nunca pronunciadas en boca de alguien.
Grandes empresas tecnológicas, entre ellas Microsoft, han desarrollado herramientas para mantener a las familias seguras en línea. Incluyen guías para ayudar a las personas a detectar información errónea y desinformación, mediante el pensamiento crítico y el cuestionamiento de la autenticidad de lo que están viendo.
A medida que el mundo se adentra en la era de la IA, las medidas legales para controlar su uso indebido serán esenciales para proteger la confianza en la información y las instituciones. Como usuarios de internet, quizá todos debamos plantearnos con más frecuencia la pregunta:¿es real?
