Los clips de audio deepfake de figuras públicas tienen el potencial de perturbar la democracia.
Utilizamos la síntesis de voz con IA, como hicieron las generaciones anteriores de tecnología de sonido, para la expresión creativa y para difundir desinformación y duda.
¿Qué se puede hacer para frenar el uso malintencionado del contenido generado por IA?
¿Cómo reaccionaría si escuchara a un político por el que estaba dispuesto a votar hablando en privado sobre cómo robar las elecciones? ¿O a un candidato de carácter sereno en una rabieta? ¿Le haría cambiar de opinión? ¿Cambiaría su voto? Cuando circuló el audio de un maquinador político eslovaco y de un líder de la oposición británico enfadado, deberíamos haber hecho una pausa para escuchar con más atención. Las voces sintéticas (deepfakes) les ponen palabras en la boca.
Las nuevas voces sintéticas son producto de la inteligencia artificial (IA) generativa. Se entrenan con muestras de voz y se les da un guion que deben interpretar. Por supuesto, las voces generadas por computadora no son del todo malas. Stephen Hawking encontró una voz con la que revelar el universo, y Val Kilmer interpretó frases en Top Gun: Maverick usando una IA entrenada con grabaciones hechas antes de que perdiera la voz por un cáncer. Pero Hawking y Kilmer autorizaron las voces y controlaron lo que decían.
El audio deepfake tiene el poder de engañar
Tenemos un historial de abuso de la tecnología diseñada para manipular y compartir sonido. Los suplantadores que se hacen pasar por líderes mundiales avergüenzan habitualmente a los políticos con bromas telefónicas, pero las voces también pueden usarse para dar credibilidad a ideas e incluso para persuadirnos de hacer algo que de otro modo no haríamos. Hacia el final de la Segunda Guerra Mundial, cuando Winston Churchill quiso frenar los movimientos de tropas alemanas, recurrió a su equipo de propaganda de artes oscuras. Dos imitadores convincentes se hicieron con Radio Colonia fingiendo ser los locutores de continuidad de la emisora y persuadieron a civiles para que inundaran las calles. Pero imitar una voz conocida requiere habilidad y tiempo, por lo que los imitadores convincentes han sido un recurso escaso, hasta ahora. Las voces sintéticas pueden clonarse y trabajar incansablemente, repitiendo cualquier cosa que les demos, e incluso adaptar su mensaje a un público de una sola persona. La IA puede suplantar a alguien a una escala y velocidad que nunca habíamos conocido.
Ya existen voces listas para usar de Joe Biden y Donald Trump en sitios web comunitarios como FakeYou, y cualquiera puede hacer que digan cualquier cosa. Si la voz que se busca no está disponible, alguien la creará en un día por 25 dólares. Una voz realista que tenga que superar un escrutinio minucioso requiere más tiempo y experiencia, y necesita una IA de alta gama para eliminar imperfecciones delatoras, pero eso puede ser excesivo cuando no prestamos la debida atención.
El audio tiene un poder único para bajar nuestras defensas. En 2020, un director de un banco de Hong Kong recibió una llamada telefónica de uno de sus clientes, un hombre al que conocía y cuya voz conocía bien. El cliente quería que se transfirieran 35 millones de dólares para cerrar una adquisición. El director realizó la transferencia. Había sido engañado por una voz sintética. ¿Hasta dónde tendría que llegar una llamada para que acusara a alguien que conoce bien de ser una máquina?
Las voces son cada vez más convincentes, y el esfuerzo de entrenamiento se reduce. Microsoft afirma que su servicio VALL-E puede generar una voz a partir de una muestra de tres segundos. Encuentra la coincidencia más cercana en su biblioteca de miles de voces existentes, muchas basadas en audiolibros de dominio público, y la ajusta para imitar la muestra. Más voces significarán coincidencias más precisas, y más usuarios aportarán el combustible que la IA necesita: retroalimentación sobre cómo lo hizo.
¿Cómo podemos confiar en lo que oímos?
Prevenir será mejor que curar. Microsoft no ha publicado VALL-E de forma abierta, y Resemble AI, una de las cada vez más numerosas empresas que producen voces sintéticas para uso comercial, exige que el hablante original grabe su consentimiento antes de clonar su voz. Pero ¿quién vigilará al sector en general, y puede hacerse sin desacreditar ni silenciar la libertad de expresión, ni ofrecer una negación plausible a cualquiera que haya sido grabado legítimamente diciendo algo que no debería?
En enero de 2023, China introdujo normas que los proveedores de servicios deben cumplir para etiquetar y vigilar el contenido de «síntesis profunda», y los países del G7 han emitido un código de conducta no vinculante. Avance importante, aunque ambos carecen de detalles concretos.
Las marcas de agua inaudibles podrían incrustarse en los archivos de audio sintetizados y en los datos de entrenamiento, y las falsificaciones malintencionadas podrían detectarse al subirlas. El servicio de detección de Resemble AI servicio tardó solo 200 milisegundos en determinar que el clip británico era falso, pero a las empresas de redes sociales siempre les disgusta introducir fricciones cuando los usuarios publican. Zohaib Ahmed, director ejecutivo de Resemble AI, ve la solución como un «antivirus para la IA», «esta cosa oculta que se incrustará no solo en estos canales de distribución, sino en el propio sistema operativo». Establece paralelismos con SSL y con el candado que muestra claramente a los usuarios cuándo se puede confiar en una conexión.
¿Cómo crea el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda el diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
TikTok actualizó recientemente sus normas comunitarias para prohibir el contenido generado por IA en el que una figura pública sea «utilizada para respaldos políticos o comerciales o para cualquier otra infracción de nuestras políticas», pero si una falsificación se cuela, será una carrera por eliminarla o marcarla antes de que se descontrole. Ya sabemos cómo acaba eso.
Faltan un año para las elecciones en 40 países que en conjunto representan el 40% de la población mundial, entre ellos Estados Unidos, el Reino Unido y la India, y es fácil imaginar escenarios peligrosos. ¿Qué pasaría si un líder confesara haber robado unas elecciones? Es posible que los medios de comunicación no se dejen engañar, pero las redes sociales avivarán el fuego. La filtración eslovaca se produjo durante un apagón mediático de dos días justo antes de la votación; la mentira ya había dado la vuelta al mundo antes de que la verdad pudiera siquiera ponerse las botas. El Partido Progresista de Eslovaquia, cuyo líder aparecía en el falso clip, quedó segundo en las elecciones, pero, como ocurre con todas las campañas de desinformación, es difícil calcular el efecto del audio en el resultado.
Mientras esperamos a que se impongan servicios y políticas que domestiquen las voces sintéticas, los productores y distribuidores deben reconocer hasta qué punto nos influye lo que oímos y ayudarnos a escuchar con más espíritu crítico. «No creas nada de lo que veas, solo la mitad de lo que oigas». Pero ¿qué mitad?
