La desinformación y la información errónea es el riesgo más grave a corto plazo que enfrenta el mundo.
La IA está amplificando información manipulada y distorsionada que podría desestabilizar a las sociedades.
El Informe de Riesgos Globales 2024 del Foro Económico Mundial revela riesgos interconectados derivados del uso indebido de la IA.
Está surgiendo una serie de nuevos riesgos que amenazan con desestabilizar aún más el orden mundial.
Además de los conflictos y las incertidumbres económicas que han azotado al mundo durante siglos, el acceso generalizado a la inteligencia artificial (IA) plantea nuevas amenazas.
La edición 2024 del Informe de Riesgos Globales del Foro Económico Mundial clasifica las amenazas más graves a las que nos enfrentamos a corto plazo (dos años) y también ofrece una perspectiva a más largo plazo del panorama de riesgos (10 años).
El informe presenta tres cambios importantes respecto al del año pasado, todos ellos relacionados con la proliferación –y el posible uso indebido– de la IA generativa. Uno de estos riesgos emergentes se clasifica como el más grave a corto plazo. Así se desglosan los nuevos riesgos.
1. Desinformación y información errónea
La información manipulada y falsificada es ahora el riesgo más grave a corto plazo que enfrenta el mundo, según el Informe de Riesgos Globales 2024.
Durante los próximos dos años, la desinformación y la información errónea supondrán uno de los mayores desafíos de la historia para el proceso democrático.
Casi tres mil millones de personas están llamadas a participar en elecciones en todo el mundo. Los votantes de Bangladés, India, Indonesia, México, Pakistán, el Reino Unido y Estados Unidos están convocados a votar.
“La desinformación y la información errónea pueden alterar radicalmente los procesos electorales en varias economías”, afirma el informe. Según el informe, esta alteración podría desencadenar disturbios civiles y enfrentamientos. También conducirá a una desconfianza creciente hacia las fuentes de los medios de comunicación y del gobierno. La desinformación y la información errónea también profundizarán las visiones polarizadas en sociedades donde la opinión política ya está arraigada.
El riesgo que representa la desinformación y la información errónea se ve agravado por la adopción generalizada de la IA generativa para producir lo que se conoce como “contenido sintético”. Esto abarca desde ultrafalsificaciones (deepfakes) en vídeo, clonación de voz y la producción de sitios web falsificados.
Los reguladores están actuando para crear nuevas leyes que controlen el uso indebido de la IA, pero la velocidad a la que avanza la tecnología probablemente superará el proceso regulatorio.
¿Cómo está creando el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
2. Consecuencias adversas de las tecnologías de IA
Más allá de la amenaza para la democracia y la cohesión social, los posibles efectos negativos de la IA constituyen otro riesgo creciente que aparece en el Informe de Riesgos Globales 2024.
En el horizonte temporal de dos años del informe, los riesgos relacionados con la IA ocupan el puesto 29 en gravedad, pero si avanzamos 10 años, la amenaza asciende al número seis en la clasificación, a medida que la IA se integra en todos los aspectos de la sociedad. Además de la propagación de información falsa, los riesgos incluyen la pérdida masiva de empleos, la militarización de la IA con fines bélicos, el uso delictivo de la IA para lanzar ciberataques y el sesgo inherente de los sistemas de IA que utilizan las empresas y los Estados nacionales.
Otro riesgo relacionado con la IA surge de un enfoque prudente de la regulación, que hasta ahora ha favorecido la innovación sobre la cautela frente a las incertidumbres sobre los posibles resultados que la IA puede producir.
3. Concentración del poder tecnológico
La IA se está convirtiendo rápidamente en la tecnología más poderosa que la humanidad haya desarrollado jamás, con innumerables aplicaciones potenciales en los ámbitos civil y militar.
El Informe de Riesgos Globales 2024 plantea inquietudes sobre la naturaleza del desarrollo de una tecnología tan poderosa y transformadora, y afirma: “La producción de tecnologías de IA está muy concentrada en una cadena de suministro única e integrada a escala mundial que favorece a unas pocas empresas y países. Esto crea riesgos significativos para la cadena de suministro que podrían materializarse durante la próxima década.”
Entre estos riesgos se encuentran la priorización de los intereses de seguridad nacional en el desarrollo de la IA, el aumento desmedido de los costes de producción debido a una carrera inflacionaria por componentes –incluidos minerales y semiconductores– y las prácticas anticompetitivas para aumentar los beneficios.
Según el informe, la UE ya está considerando normativas para frenar las facultades de los “guardianes digitales” y garantizar una competencia justa en el desarrollo de la IA.
No cabe duda de que la IA ofrece un enorme potencial para mejorar la experiencia humana en ámbitos tan diversos como la sanidad, la educación, el empleo y el entretenimiento. Pero, como destaca el Informe de Riesgos Globales 2024, esta tecnología emergente genera nuevos riesgos que, si no se gestionan con cuidado, podrían representar algunas de las mayores amenazas a las que se enfrentará la humanidad en las próximas décadas.
