La proliferación de la inteligencia artificial en la era digital ha traído consigo innovaciones y desafíos, en particular en materia de integridad de la información.
Las tecnologías de IA que pueden generar «deepfakes» pueden utilizarse para producir tanto información errónea como desinformación.
No obstante, la IA también puede ayudar a combatir la información falsa mediante el análisis de patrones, el lenguaje y el contexto para facilitar la moderación de contenidos.
La proliferación de la inteligencia artificial (IA) en la era digital ha traído consigo innovaciones notables y desafíos singulares, en particular en el ámbito de la integridad de la información.
Las tecnologías de IA, con su capacidad para generar textos, imágenes, audios y vídeos falsos convincentes (a menudo denominados «deepfakes»), plantean dificultades importantes para distinguir el contenido auténtico de las creaciones sintéticas. Esta capacidad permite a los malhechores automatizar y ampliar las campañas de desinformación, incrementando notablemente su alcance e impacto.
Sin embargo, la IA no es un villano en esta historia. También desempeña un papel crucial en la lucha contra la desinformación y la información errónea. Los sistemas avanzados impulsados por IA pueden analizar patrones, el uso del lenguaje y el contexto para facilitar la moderación de contenidos, la verificación de hechos y la detección de información falsa.
Comprender los matices que existen entre la información errónea (difusión involuntaria de falsedades) y la desinformación (difusión deliberada) —algo crucial para las contramedidas eficaces— también podría facilitarse mediante el análisis de contenidos con IA.
«La industria en la era inteligente» en Davos 2025
El coste social de la desinformación
Las consecuencias de la desinformación impulsada por IA sin control son profundas y pueden erosionar el propio tejido de la sociedad.
El Informe de Riesgos Globales 2024 del Foro Económico Mundial identifica la desinformación y la información errónea como amenazas graves en los próximos años, destacando el posible auge de la propaganda interna y la censura.
El uso político indebido de la IA plantea graves riesgos, ya que la rápida difusión de deepfakes y de contenidos generados por IA dificulta cada vez más que los votantes distingan la verdad de la falsedad, lo que puede influir en su comportamiento electoral y socavar el proceso democrático. Las elecciones pueden verse alteradas, la confianza pública en las instituciones puede disminuir, pueden desencadenarse disturbios sociales e incluso puede estallar la violencia.
Además, las campañas de desinformación pueden dirigirse a grupos demográficos específicos con contenidos dañinos generados por IA. La desinformación de género, por ejemplo, perpetúa estereotipos y misoginia, marginando aún más a los grupos vulnerables.
Estas campañas manipulan la percepción pública, provocando un daño social generalizado y ahondando las divisiones sociales existentes.
Un enfoque multifacético para combatir los contenidos falsos
El rápido desarrollo de las tecnologías de IA a menudo supera la capacidad de supervisión gubernamental, lo que puede provocar daños sociales si no se gestiona con cuidado.
Las iniciativas del sector, como la autenticidad del contenido y la marca de agua digital, abordan cuestiones clave relacionadas con la desinformación y la titularidad del contenido. Estas herramientas requieren un diseño cuidadoso y la participación de múltiples partes interesadas para evitar su uso indebido, como la erosión de la privacidad o la persecución de periodistas en zonas de conflicto.
Por ejemplo, la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) – integrada por Adobe, Arm, Intel, Microsoft y TruePic – aborda la prevalencia de información engañosa en línea mediante el desarrollo de normas técnicas para certificar el origen y el historial, o procedencia, del contenido multimedia.
Para mitigar aún más los riesgos asociados a la IA, los desarrolladores y las organizaciones deben implementar salvaguardas sólidas, medidas de transparencia y marcos de rendición de cuentas.
Mediante el establecimiento de sistemas integrales, los desarrolladores pueden garantizar que la IA se despliegue de forma ética y responsable, fomentando así la confianza y promoviendo el uso beneficioso de la IA en diversos ámbitos.
Además de las medidas técnicas, la educación pública en alfabetización mediática y en pensamiento crítico es esencial para capacitar a las personas para desenvolverse en el complejo panorama de la información digital.
Las escuelas, las bibliotecas y las organizaciones comunitarias desempeñan un papel fundamental en la promoción de estas competencias, al proporcionar recursos y programas de formación que ayuden a las personas a desarrollar la capacidad de evaluar de forma crítica las fuentes de información, distinguir la información errónea del contenido veraz y tomar decisiones informadas.
La colaboración es clave para combatir la desinformación
Además, la colaboración entre las partes interesadas, incluidos responsables políticos, empresas tecnológicas, investigadores y organizaciones de la sociedad civil, es vital para abordar de manera eficaz los multifacéticos desafíos que plantea la información errónea y la desinformación habilitadas por la IA.
Esta situación subraya la importancia de fomentar una comprensión y una cooperación globales para hacer frente a la difusión de información falsa facilitada por el auge de los contenidos de fabricación humana y de las tecnologías de IA.
La Alianza para la Gobernanza de la IA, una iniciativa emblemática del Foro Económico Mundial y parte del Centro para la Cuarta Revolución Industrial, reúne a expertos y organizaciones de todo el mundo para abordar los complejos desafíos de la IA, incluida la generación de contenidos engañosos o dañinos y la vulneración de los derechos de propiedad intelectual.
Mediante esfuerzos colaborativos, la Alianza desarrolla recomendaciones pragmáticas para garantizar que la IA se desarrolle e implemente de forma responsable, ética y en beneficio máximo de la humanidad.
Otra iniciativa del Foro es la Coalición Mundial para la Seguridad Digital, que encabeza los esfuerzos para combatir la desinformación mediante la promoción de un enfoque de toda la sociedad para mejorar la alfabetización mediática. Esto incluye comprender cómo se produce, distribuye y consume la información falsa, e identificar las competencias necesarias en cada etapa para contrarrestarla.
La coalición reúne a empresas tecnológicas, funcionarios públicos, la sociedad civil y organizaciones internacionales para intercambiar mejores prácticas y coordinar acciones destinadas a reducir los daños en línea.
Avanzar en nuestro enfoque de seguridad digital
A medida que la IA sigue transformando nuestro mundo, es imperativo avanzar en nuestro enfoque de seguridad digital e integridad de la información.
¿Cómo crea el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Mediante una colaboración, una innovación y una regulación reforzadas, podemos aprovechar los beneficios de la IA y, al mismo tiempo, protegernos de sus riesgos, garantizando un futuro en el que la tecnología fomente la confianza pública y los valores democráticos en lugar de socavarlos.
Trabajando juntos, podemos garantizar que la IA sirva como herramienta para la verdad y el progreso, y no para la manipulación y la división.
