Tecnologías emergentes

De deepfakes a la ingeniería social: esto es lo que hay que saber sobre elecciones, ciberseguridad e IA

La entrada de un colegio electoral, que ilustra la posibilidad de fraude en las elecciones.

La colaboración es fundamental para crear resiliencia en el proceso electoral. Image: Red Dot/Unsplash

Gretchen Bueermann
Knowledge Lead, Centre for Cybersecurity, World Economic Forum
Daniel Dobrygowski
Head, Governance and Trust, World Economic Forum
Comparte:
A hand holding a looking glass by a lake
Innovación mediante crowdsourcing
Involúcrate con nuestra plataforma digital de crowdsourcing para lograr un impacto a escala
Mantente al día:

Tecnologías emergentes

  • Los contenidos generados por IA se están convirtiendo en una poderosa herramienta de manipulación.
  • La prevalencia de los deepfakes es especialmente preocupante en lo que respecta a los procesos electorales.
  • Existe una necesidad urgente de cooperación mundial para contrarrestar las amenazas a la democracia relacionadas con la inteligencia artificial y la ciberseguridad.

En septiembre de 2023, en los días previos a las elecciones en Eslovaquia, una tormenta de desinformación puso en tela de juicio el proceso democrático. En una supuesta grabación de audio que apareció en Facebook, un candidato y un representante de los medios de comunicación supuestamente discutían planes para manipular las elecciones, incluida la compra de votos.

Aunque el audio rápidamente se denunció como falso, el daño ya estaba hecho. Este incidente fue un escalofriante testimonio de la evolución del panorama electoral, en el que la inteligencia artificial (IA) se está convirtiendo en una poderosa herramienta de manipulación.

El incidente subraya la vulnerabilidad de los sistemas electorales frente a los deepfakes y la capacidad de los mismos para influir y sacar partido rápido y barato de las limitaciones temporales de la comprobación de hechos. Este problema no se limita a determinadas elecciones o naciones. Debido a la interconexión de los medios digitales y a la relativa homogeneidad de las comunicaciones y las plataformas de las redes sociales, los agentes maliciosos pueden experimentar en un país y rápidamente pivotar y expandir con éxito los ataques a procesos democráticos en todo el mundo. Si tenemos en cuenta el número de elecciones del año que viene, el abanico de posibles blancos es el más amplio desde los albores de la era digital.

En 2024 se celebrarán más de 40 elecciones nacionales en países que representan más del 50% del PIB mundial, incluidos países en América Latina. La experiencia de Eslovaquia sirve de ejemplo para las próximas elecciones en todo el mundo. Las mayores democracias del mundo, el Reino Unido, la India, la UE y Estados Unidos, se preparan para sus elecciones el año que viene y la comunidad internacional debe aprender de Eslovaquia. La prevalencia de contenidos generados por inteligencia artificial y una superficie de ciberataques cada vez más vasta y propicia a la interferencia exigen una reevaluación de las herramientas para proteger la democracia. Asimismo, requieren una cooperación mundial urgente para contrarrestar las amenazas emergentes.

¿Has leído?

Elecciones y ciberseguridad

El panorama de las amenazas a la ciberseguridad durante las elecciones es polifacético y está en constante evolución. Aunque las papeletas de voto son aún la forma más común de votar en todo el mundo, las amenazas cibernéticas y otras amenazas digitales pueden seguir afectando a la capacidad de los ciudadanos para votar y a la información que utilizan para elegir. Elecciones son vulnerables a un espectro de amenazas tecnológicas que van desde los problemas tradicionales de ciberseguridad, como la piratería informática y las violaciones de datos, hasta formas más sofisticadas de manipulación, como los deepfakes y la desinformación generada por IA.

Las amenazas pueden explotar las vulnerabilidades de la infraestructura electoral, dirigiéndose a los sistemas de votación electrónica y a las bases de datos de votantes. Estas vulnerabilidades se ven agravadas por el hecho de que los atacantes no necesitan tener éxito en sus ataques. Dado que la fuerza de las democracias se basa en la legitimidad de sus elecciones, basta con sembrar dudas sobre la integridad de los sistemas electorales para erosionar potencialmente la cohesión social y el apoyo a los resultados.

La IA permite a los usuarios aumentar significativamente la escala, el alcance y la velocidad de sus actividades, incluso si un usuario se centra en objetivos antisociales y perjudiciales. Las tácticas de ingeniería social, incluidas las campañas de phishing y desinformación, ya plantean riesgos significativos para la integridad de los procesos electorales. La naturaleza interconectada de la tecnología en las elecciones modernas amplifica el impacto potencial de estas amenazas y la velocidad a la que las herramientas de IA procesan la información aumenta exponencialmente estos impactos. Como se ha visto en Eslovaquia, la manipulación de grabaciones de audio mediante IA demuestra la acuciante necesidad de medidas integrales para salvaguardar la base democrática de las elecciones frente a las disrupciones digitales.

¿Qué riesgos cibernéticos afectan especialmente a las elecciones?

  • Sistemas de registro de votantes: la manipulación o puesta en peligro de las bases de datos de registro de votantes puede dar lugar a la privación del derecho de voto o a registros fraudulentos.
  • Vulnerabilidades de las máquinas de votación: la piratería o manipulación de las máquinas de votación electrónicas puede manipular el recuento de votos y los ataques de malware o ransomware a las máquinas de votación pueden interrumpir el proceso de votación.
  • Sistemas de gestión electoral: la manipulación de los sistemas de gestión electoral puede dar lugar a una asignación errónea de los recursos o a una comunicación inexacta de los resultados.
  • Phishing e ingeniería social: los ataques de phishing dirigidos a funcionarios electorales o partidos políticos pueden comprometer información sensible o introducir programas maliciosos.

¿Cómo puede agravar estos riesgos el uso malicioso de la IA?

  • Información errónea o desinformación: las campañas que deliberadamente difunden información errónea a través de las redes sociales u otros canales pueden influir en la opinión pública, sembrar dudas sobre la integridad de las elecciones e influir en los resultados electorales.
  • Deepfakes: en esta especie específica de desinformación, los vídeos o grabaciones de audio deepfake generados por IA pueden utilizarse para difundir información falsa sobre candidatos o manipular la percepción pública.
  • Desinformación automatizada: Los algoritmos de IA pueden emplearse para generar y difundir grandes volúmenes de desinformación, lo que dificulta su detección y combate.
  • Anuncios dirigidos: la microfocalización de información errónea o desinformación mediante mediante anuncios personalizados dirigidos a los votantes puede utilizarse para manipular la opinión o suprimir la participación electoral.
  • Preocupaciones por la privacidad de los datos: cuando la información electoral se extrae del documento nacional de identidad, de los registros de residencia o de otras fuentes que se conectan con información personal identificable (IPI), el procesamiento automatizado puede crear vías para la filtración de datos personales que no son relevantes para determinar la elegibilidad electoral.
  • Manipulación algorítmica de las redes sociales: Los algoritmos de IA de las plataformas de medios sociales pueden manipularse para amplificar determinados mensajes políticos o suprimir otros, influyendo en la opinión pública.

Para hacer frente a estos riesgos, autoridades electorales, proveedores de tecnología y responsables políticos deben trabajar juntos para aplicar medidas sólidas de ciberseguridad, garantizar la integridad de los sistemas de IA y promover la transparencia en los procesos electorales. Las auditorías de seguridad periódicas, campañas de concienciación pública y la cooperación internacional son componentes esenciales para salvaguardar las elecciones en la era digital.

Las organizaciones ya están trabajando para abordar estos problemas. En Estados Unidos, la CISA ha publicado un conjunto de herramientas de ciberseguridad para proteger las elecciones que incluye guías para proteger elementos como los sitios web de información al votante, los sistemas de correo electrónico y las redes. Asimismo, en la UE, la Comisión Europea ofrece apoyo para hacer frente a la desinformación en línea. Muchos otros países y organizaciones internacionales han publicado guías similares, pero ¿son suficientes?

Descubre

¿Qué está haciendo el Foro Económico Mundial en el ámbito de la cuarta revolución industrial?

Las directrices y las mejores prácticas para proteger las elecciones contra las perturbaciones tecnológicas hacen hincapié en estos temas principales:

La importancia de medidas proactivas de ciberseguridad

Las medidas proactivas de ciberseguridad son fundamentales para salvaguardar las elecciones frente a ciberamenazas en constante evolución. Al anticiparse a las posibles vulnerabilidades y adelantarse a los actores maliciosos, los sistemas electorales pueden reducir significativamente el riesgo de ciberataques. Esto incluye una supervisión continua, auditorías de seguridad periódicas y la aplicación de tecnologías avanzadas para detectar y mitigar posibles amenazas antes de que puedan comprometer la integridad de los procesos electorales. Un enfoque proactivo garantiza que los sistemas electorales se fortalezcan contra los ciberriesgos emergentes, contribuyendo a la resistencia general de la infraestructura electoral.

Auditorías de limitación de riesgos para garantizar la integridad de las elecciones

Las auditorías de limitación de riesgos pretenden alcanzar dos objetivos importantes. En primer lugar, que las elecciones se desarrollen según lo previsto, lo que incluye que la tecnología electoral funcione según lo diseñado. En segundo lugar, los ciudadanos y los observadores electorales deben disponer de la información necesaria para estar seguros del correcto funcionamiento del proceso de votación. Tales auditorías sirven como mecanismos beneficiosos de creación de credibilidad ante un panorama tecnológico y de riesgos que cambia rápidamente.

La educación para crear resiliencia frente a las ciberamenazas y la desinformación

La educación y la formación desempeñan un papel crucial en la mejora de la ciberresiliencia, especialmente en contextos electorales. Proporcionar a los funcionarios electorales, al personal informático y a otras partes interesadas una formación completa sobre las mejores prácticas de ciberseguridad les dota de capacidades necesarias para identificar y mitigar eficazmente las ciberamenazas. Tanto los funcionarios electorales como el público en general también se beneficiarían de una mayor alfabetización mediática e informativa, incluida la concienciación sobre tácticas de ingeniería social, la prevención del phishing y una mejor formación y sistemas para identificar deepfake y otros contenidos generados por IA. Un personal bien informado y formado está mejor preparado para navegar por el complejo panorama de las ciberamenazas, reforzando así la resiliencia general de los sistemas electorales.

Colaboración entre organismos públicos, expertos en ciberseguridad y el público en general

La colaboración es fundamental para crear una ciberresiliencia sólida en el proceso electoral. Los organismos gubernamentales, los expertos en ciberseguridad y el público deben trabajar juntos para compartir información, conocimientos y recursos. Los organismos gubernamentales pueden aplicar y hacer cumplir las normas de ciberseguridad, mientras que los expertos en ciberseguridad aportan conocimientos especializados para identificar y abordar las amenazas emergentes. Involucrar al público a través de campañas de concienciación fomenta un sentido de responsabilidad colectiva y anima a las personas a adoptar prácticas seguras en línea. Un enfoque colaborativo garantiza una estrategia de defensa polifacética, mejorando la resistencia general de los sistemas electorales frente a una amplia gama de ciberamenazas.

Mientras el mundo lidia con las consecuencias de las elecciones eslovacas, una cosa está clara: la intersección entre elecciones y ciberseguridad es más peligrosa que nunca. Los actores maliciosos que utilizan IA se han convertido en adversarios formidables, desafiando las herramientas tradicionales de los verificadores de hechos y explotando las vulnerabilidades de las políticas de las redes sociales. La comunidad internacional debe actuar con rapidez, desarrollando estrategias y herramientas sólidas para salvaguardar la integridad de las elecciones frente a la desinformación impulsada por la IA. La batalla por unas elecciones seguras ha entrado en una nueva era y el mundo debe estar a la altura de las circunstancias.

No te pierdas ninguna actualización sobre este tema

Crea una cuenta gratuita y accede a tu colección personalizada de contenidos con nuestras últimas publicaciones y análisis.

Inscríbete de forma gratuita

Licencia y republicación

Los artículos del Foro Económico Mundial pueden volver a publicarse de acuerdo con la Licencia Pública Internacional Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0, y de acuerdo con nuestras condiciones de uso.

Las opiniones expresadas en este artículo son las del autor y no del Foro Económico Mundial.

Comparte:
World Economic Forum logo
Agenda Global

La Agenda Semanal

Una actualización semanal de los temas más importantes de la agenda global

Suscríbete hoy

Puedes anular tu suscripción en cualquier momento utilizando el enlace que figura en nuestros correos electrónicos. Para obtener más información, consulta nuestro Política de privacidad.

¿Qué esperar de las infraestructuras públicas digitales en 2024?

Benjamin Bertelsen and Ritul Gaur

21 de febrero de 2024

Sobre nosostros

Eventos

Medios

Socios y Miembros

  • Únete

Ediciones en otros idiomas

Política de privacidad y normas de uso

© 2024 Foro Económico Mundial