¿Destruirá la tecnología de falsificaciones profundas la democracia, preguntó el New York Times. Mientras algunos apenas estamos aprendiendo la jerga, otros esperan que entremos en este valiente nuevo mundo posterior a los hechos en uno o dos años. Preocupado por esta nueva tendencia tecnológica, un grupo de legisladores estadounidenses envió una carta al director de Inteligencia Nacional con esta advertencia:
“Las falsificaciones digitales hiperrealistas utilizan técnicas sofisticadas de aprendizaje automático para producir representaciones convincentes de personas haciendo o diciendo cosas que nunca hicieron, sin su consentimiento ni conocimiento. Al difuminar la línea entre hechos y ficción, la tecnología de falsificaciones profundas podría socavar la confianza pública en las imágenes y los vídeos grabados como representaciones objetivas de la realidad.”
En la actualidad, podemos detectar a simple vista la mayoría de las falsificaciones. Pero, como ocurre con todo lo digital, las mejoras son exponenciales. Y allí donde la tecnología no logre convencer, el sesgo de confirmación cerrará la brecha. Si el contenido se ajusta a sus creencias, es probable que pase por alto las expresiones faciales antinaturales o la pista de voz apagada.
Un clásico de las falsificaciones profundas es un vídeo de Buzzfeed en el que aparece el presidente Obama haciendo proclamas escandalosas. El clip muestra cómo se creó el engaño. Podría consolarnos el hecho de que la producción de este vídeo requería un actor que imitara la voz de Obama. Sin embargo, este requisito está a punto de quedar obsoleto, como ha demostrado recientemente el experimento de la BBC con tecnología de imitación de voz. Puede probar usted mismo la prueba de la BBC, pero la mayoría de las personas encuestadas coincidieron en que la IA superó a un imitador profesional.
Ya sea con mala intención o no, alguien podría usar plataformas abiertas como FakeApp para crear falsificaciones de vídeo rudimentarias. Internet no perdió el tiempo en democratizar esta peligrosa capacidad. Ya no se necesitará formación técnica ni grandes recursos para causar un considerable caos de desinformación.
No es la primera vez que una tecnología disruptiva plantea un importante desafío cívico. Y sería acertado esperar que, a medida que las falsificaciones profundas se vuelvan más avanzadas, también lo hagan las tecnologías de detección. Facebook, por ejemplo, acaba de anunciar planes para acelerar sus esfuerzos por detectar y eliminar la desinformación, y la Unión Europea financió In Video Veritas – un complemento de navegador para detectar vídeos falsos.
Pero nuestro desafío va más allá de la mera detección: se trata de la polarización de nuestra sociedad y de las burbujas de filtro, que son efectos secundarios peligrosos de una realidad impulsada por algoritmos y saturada de información. Los titulares sensacionalistas, sean o no verídicos, ya se propagan como la pólvora. Contenidos de calidad cuestionable u origen oscuro pueden volverse virales en un abrir y cerrar de ojos. Los vídeos apelan a un nivel visceral más que cualquier texto o imagen, y el peligro de que el engaño se propague y moldee nuestras percepciones es muchas veces mayor.
Por un lado, una mayor conciencia es un remedio por excelencia. Si comprendiéramos lo fácil que es manipular un vídeo y producir una falsificación de alta calidad, todos estaríamos más alerta. Por otro lado, una mayor vigilancia implica una confianza decreciente y un impulso para replegarnos aún más en nuestras cámaras de eco digitales, otorgando crédito a un círculo cada vez más reducido.
Para afrontar esta amenaza, no existen respuestas fáciles. Pero aquí hay algunas ideas sobre por dónde empezar:
Los responsables políticos deben ser proactivos y audaces. Las medidas preventivas podrían incluir la comunicación temprana de sanciones, ya sea a los productores o editores de contenidos malintencionados, y protocolos claros de aplicación. Sin embargo, lo más importante sería un acercamiento a las plataformas de medios tradicionales y digitales para replantear a fondo la red de seguridad en torno al contenido en línea. Tomemos como ejemplo el intercambio ilícito de música entre pares. En su momento más álgido, la tendencia parecía imparable, pero se frenó mediante acciones legales combinadas con nuevos modelos de negocio.
Los gigantes tecnológicos deberían evaluar su papel en la sociedad. Las burbujas de filtro no se inventaron en Silicon Valley, pero han crecido hasta un nivel que amenaza el orden sociopolítico, junto con las plataformas digitales que las reforzaron. Si el producto es gratuito, tú eres el producto, reza un viejo refrán. Mientras los clientes de los servicios en línea sigan siendo el producto, nuestros bienes comunes digitales seguirán siendo vulnerables. Cuando uno paga por consumir contenido digital en una plataforma u otra, tiene un interés directo y la legitimidad para exigir controles de calidad más estrictos. Cuando el FT introdujo un muro de pago en 2002, esto iba en contra de muchas convenciones de la época. Una plataforma de “periodismo social”, Medium, se lanzó una década después y hoy ofrece suscripciones de pago. Por una cuota de membresía de 11,99 dólares al mes, ahora se puede ver YouTube sin anuncios. Parece que esta tendencia ya está tomando impulso.
A medida que evolucionaron las ciberamenazas, también lo hizo la seguridad en internet. Los primeros cortafuegos y el software antivirus ayudaron a eliminar el código malicioso, pero ahora la arquitectura de Confianza Cero se está consolidando como un nuevo estándar. La seguridad de los sistemas antiguos se basaba en la lista negra de contenidos malos y en permitir el resto; el nuevo enfoque se fundamenta en una suposición diferente: todo contenido se considera un riesgo a menos que esté en la lista blanca. Quizá este cambio de paradigma sea inevitable para todo el contenido digital en el futuro. En este sentido, la tecnología blockchain podría resultar útil, como defendió Antonio García Martínez en su artículo para Wired.
Además de la recomendación evidente de que todos apliquemos el pensamiento crítico a la información que consumimos, ya es hora de que los ciudadanos exijan a sus representantes electos un nuevo contrato social para la era digital.
Las falsificaciones profundas pondrán a prueba la solidez de nuestras instituciones y desafiarán ideas fundamentales como los hechos y la verdad. Sembrarán dudas, cuando no derrotismo y cinismo. Si la humanidad no es capaz de actuar de forma preventiva, la proliferación de falsificaciones habilitadas por la IA podría desencadenar un círculo vicioso, con divisiones cada vez mayores en la sociedad acompañadas por el deterioro de la confianza. No podemos permitirnos esperar y ver. Debemos prestar atención, actuar ahora y redefinir el marco de interacción entre humanos y algoritmos.
