En 2024, 4.200 millones de personas acudirán a las urnas, lo que, en la era de la inteligencia artificial (IA), podría hacer que la desinformación y la información errónea no supongan el ejercicio democrático previsto.
El Informe de Riesgos Globales 2024 señaló la desinformación y la información errónea como uno de los principales riesgos, que podría desestabilizar la sociedad al poder cuestionarse la legitimidad de los resultados electorales.
La convergencia de la «era de la posverdad», los procesos electorales y el auge de la IA generativa en el último año implica que las empresas tecnológicas, los gobiernos y los medios deben considerar cómo pueden contribuir a proteger las democracias.
El año 2024 marca el año con más elecciones en todo el mundo.
Mientras Bangladés y Taiwán ya eligieron a sus líderes a principios de este mes; las próximas elecciones en grandes democracias, incluidas las de Estados Unidos, India y el Reino Unido, se convirtieron en un foco de debate en Davos 2024, la recientemente concluida Reunión Anual en Davos (Suiza).
Mientras los líderes debatían sobre cómo algunos resultados podían reflejar las fortalezas y debilidades de la democracia, también se abordó cómo la inteligencia artificial (IA) podría ayudar y obstaculizar este proceso electoral.
¿Socavando la democracia?
La desinformación y la información errónea se encuentran entre los principales riesgos identificados por la Encuesta de Percepción de Riesgos Globales. Las interfaces de fácil uso de los modelos de IA a gran escala ya han provocado una explosión de información falsificada y de los llamados contenidos “sintéticos”, desde la clonación sofisticada de voces hasta sitios web falsificados, tal como detalla el Informe de Riesgos Globales 2024.
El informe también advirtió de que la desinformación en estas elecciones podría desestabilizar las sociedades al desacreditar y cuestionar la legitimidad de los gobiernos. Los defensores de la IA sostienen que la misma tecnología de IA generativa (GenAI) que podría socavar las democracias también podría ayudar a combatir las fuerzas nefastas que buscan hacerlo.
“¿Cuál es la verdad y cuál es la verdad fundamental en el entorno informativo actual?” En la era de los deepfakes, ese es el punto de partida de cualquier debate, afirmó en Davos Alexandra Reeve Givens, directora ejecutiva del Centre for Democracy and Technology.
Otras amenazas observadas durante las elecciones llegarán en forma de llamadas automatizadas y mensajes de texto automatizados dirigidos, con información falsa destinada a alterar el comportamiento de los votantes, algo que la IA facilita. Los funcionarios electorales también se enfrentan a amenazas de phishing y doxing.
También existe un problema más profundo: la confianza.
“Nos convertimos en individuos cívicos gracias a la crianza, no genéticamente”, planteó Ian Bremmer, presidente de Eurasia Group, en la sesión 4.200 millones de personas en las urnas. “Nos convertimos en seres cívicos y existen instituciones a nuestro alrededor que nos moldean y nos permiten conectar con las personas que nos rodean; y si miramos a Estados Unidos en los últimos 40 años, esas instituciones se han fragmentado y han perdido la confianza.”
“La crianza está siendo reemplazada por un algoritmo”, añadió, y denunció el “experimento en tiempo real que se está llevando a cabo con nosotros y con la democracia en este momento”.
El reciente Barómetro de Confianza Edelman también reveló que la mayoría de los encuestados creía que, cuando la innovación se gestiona mal, tanto la tecnología como la sociedad los dejan atrás, lo que lleva a pensar que el sistema está sesgado y podría causar más daño que bien; en particular, el capitalismo.
La autora sobre confianza y profesora Rachel Botsman añadió en la misma sesión, dirigiéndose a Bremmar, que los sistemas de IA distribuyen esencialmente la confianza, lo que altera la democracia.
“Lo que me aterroriza es que esto crea un vacío de caos y lo que podríamos llamar las personas más indignas de confianza entienden estas dinámicas. Entienden cómo tomar todos estos fragmentos y este caos y crear una especie de verdad absoluta, crear una especie de certeza falsa que a menudo se confunde con poder, y ahí es donde se pierde la confianza.”
En un contexto electoral, donde es difícil controlar la información, hay una energía caótica, dijo Botsman, y añadió: “Por eso, las voces que se imponen suelen ser claras y absolutas, y se oponen a algo en lugar de defender algo.”
La pregunta, también planteada por el director editorial de Foreign Policy, Ravi Agrawal, en una sesión titulada Proteger la democracia frente a bots y tramas, por tanto, es: "¿Cómo podemos asegurar que la IA y la tecnología sean fuerzas para el bien y no para el caos?"
¿Poner la tecnología al servicio del bien o detener la IA nefasta?
“Los buenos tienen más acceso a la IA”, afirmó Matthew Prince, cofundador y director ejecutivo de Cloudflare, al considerar cómo el aprendizaje automático podría identificar amenazas y su papel protector.
Añadió que la accesibilidad a la tecnología que ellos ofrecen —y, presumiblemente, la de otros como ellos— podría ayudar, al menos, a las naciones con menos recursos a contar con una infraestructura gubernamental estable que beneficie a todos. Por eso, dijo, “nos incumbe proteger las democracias en todas partes”.
Durante Construir confianza en la democracia, François Valérian, presidente de Transparencia Internacional, coincidió en que el big data y la inteligencia artificial ayudan a las organizaciones de la sociedad civil a identificar los patrones de corrupción y los conflictos de intereses que socavan las democracias.
“Con el paso a lo digital, las personas pueden ver sus propios datos y, si hay un error, pueden decir: oiga, hay un error en ellos, y el gobierno debe corregirlo”, afirmó.
Hay que construir cierta confianza en torno al uso de la tecnología para el bien; el escándalo del Reino Unido por un sistema informático que acusó falsamente de fraude a cientos de gestores de oficinas de correos es un ejemplo.
Al mismo tiempo, se argumentó que la pandemia hizo que la gente se familiarizara con la digitalización, con menos temor a las filtraciones y el hackeo de datos en cada momento. Sin embargo, los controles y contrapesos habituales sobre los datos son más difíciles en la IA, donde no todo es visible para el usuario.
Los debates regulatorios han avanzado notablemente, y las plataformas tecnológicas también reconocen que la seguridad debe ser central para la innovación, algo que todavía no parece que vaya a disminuir.
Como dijo Satya Nadella, presidente ejecutivo y director ejecutivo de Microsoft: “No creo que el mundo vaya a tolerar que cualquiera de nosotros presente algo que no haya pensado en términos de seguridad, confianza y equidad.”
Acertar con la regulación
“La mayor lección de la historia es no quedar tan impresionados por alguna tecnología como para sentir que no podemos controlarla, que no podemos usarla para el bien de nuestra gente.
“En ese contexto, necesitamos que nuestros políticos se impliquen”, añadió Nadella, en la sesión de Davos Una conversación con Satya Nadella, al reconocer que la falta de comprensión de la tecnología ha impedido los intentos regulatorios.
En otro momento, el canciller del Exchequer del Reino Unido, Jeremy Hunt abogó por un enfoque de “mano ligera” por parte del gobierno para no “matar a la gallina de los huevos de oro antes de que tenga la oportunidad de crecer”: no se sabe del todo de qué es capaz, por lo que se necesita un enfoque cauteloso. También se reconoció que los resultados producidos por la IA son un objetivo en movimiento, lo que dificulta la regulación, ya que habría que indicar al sistema que cualquier resultado hipotético debe ser prohibido.
Sam Altman, de OpenAI, fue más allá y planteó la cuestión de quién toma las decisiones.
“Creo que nos corresponde a nosotros encontrar la manera de obtener la opinión de la sociedad sobre cómo vamos a tomar estas decisiones”, razonó. “No solo sobre cuáles son los valores del sistema, sino también sobre cuáles son los umbrales de seguridad y qué tipo de coordinación global necesitamos para garantizar que lo que sucede en un país no afecte negativamente en gran medida a otro.”
¿Cómo podemos asegurar que la IA y la tecnología sean fuerzas para el bien y no para el caos?
Ravi Agrawal, director editorial, Foreign Policy
Para unir a líderes de la industria, gobiernos, instituciones académicas y organizaciones de la sociedad civil en torno al desarrollo de sistemas de IA transparentes e inclusivos, el Foro Económico Mundial lanzó la Alianza para la Gobernanza de la IA en junio de 2023. La iniciativa busca dar forma al futuro de la gobernanza de la IA, fomentar la innovación y garantizar que el potencial de la IA se aproveche en beneficio de la sociedad, al tiempo que se respetan las consideraciones éticas y la inclusión.
Exigir cuentas a quienes desinforman
Lo que la regulación y otras salvaguardas frente al uso indebido de la IA no pueden hacer es controlar la desinformación procedente de los políticos, como señala el politólogo Rasmus Nielsen destacó en un reciente artículo de opinión en el FT.
Los ejemplos más obvios surgieron durante la administración estadounidense anterior, pero en el Reino Unido, la organización sin ánimo de lucro FullFact informó de que hasta 50 diputados hicieron declaraciones falsas sin corregirlas.
Las consecuencias de estas prácticas han sido que millones de estadounidenses creyeran que hubo elecciones robadas en 2022, y la cuestión es cómo podrían los políticos utilizar la IA para engañar en las elecciones de 2024.
El funcionamiento básico de los medios es fundamental para determinar la verdad: un mensaje que surgió en distintas sesiones que abordaron el dilema de la desinformación y la información errónea.
Por tanto, defender la libertad de los medios y permitir una verificación de hechos eficaz, algo que también podrían facilitar los posibles productos de IA. Esto implica legislación, pero también compromisos de las grandes tecnológicas para respetar los códigos de buenas prácticas sobre desinformación, sugirió Vera Jourová, vicepresidenta de Valores y Transparencia de la Comisión Europea.
Jourová también consideró que la “sensibilización, es decir, reducir la capacidad de absorción de la sociedad para creer las mentiras”, es un elemento importante para combatir la desinformación y la información errónea.
La Coalición Mundial para la Seguridad Digital del Foro trabaja para acelerar un enfoque de toda la sociedad frente a la desinformación y para hacer frente a los contenidos nocivos en línea. La iniciativa busca facilitar el intercambio de buenas prácticas para la nueva regulación de la seguridad en línea e impulsar la colaboración en programas para mejorar la alfabetización mediática digital. Una reciente publicación del Foro también analizó los Principios para el futuro de los medios responsables en la era de la IA, que detalla recomendaciones orientadas a la acción, entre ellas el desarrollo responsable de la IA, la innovación abierta y la colaboración internacional.
Por tanto, la IA podría ser una fuerza para el bien, una fuerza nefasta y un posible multiplicador de malos actores, como indicaron las sesiones de este año. Sin embargo, algunos advirtieron contra culpar a la tecnología de las amenazas actuales que vemos, entre ellos Alexander Soros, presidente del Consejo de Administración de Open Society Foundations:
“Sabes, creo que es una excusa fácil decir que la tecnología ha sido una amenaza para la humanidad desde la invención de la imprenta, que fue mucho más disruptiva que cualquier cosa que la IA vaya a hacer en relación con la civilización humana.”
