En la era de la IA, las campañas de desinformación pueden dirigirse a las personas, pero también a las máquinas.
La IA agéntica y los enjambres de IA pueden utilizarse para difundir contenido falso o engañoso y perturbar el ecosistema mundial de información.
Protegerse frente a estas campañas autónomas de influencia exigirá reforzar la seguridad cognitiva y la resiliencia tanto de las personas como de las máquinas.
Los avances tecnológicos han cambiado profundamente el ecosistema mundial de información, que ahora es más digital, accesible, complejo y fragmentado. La inteligencia artificial (IA) ocupa un lugar central en esta transformación al democratizar el acceso a la información y sustentar la toma de decisiones basada en datos por parte de gobiernos y empresas.
Desde 2022, la IA generativa, en particular los grandes modelos de lenguaje (LLM), ha inundado el ecosistema de información con contenido de calidad desigual. Se estima que el 50 % de los artículos publicados recientemente ya se generan con IA, mientras que el contenido sintético aparece en hasta el 74 % de las páginas web nuevas. Esto desdibuja la línea entre el contenido generado por personas y el generado por máquinas, y afecta a los datos de entrada de inteligencia empresarial y análisis.
Desinformación y guerra cognitiva
La desinformación se difunde con la intención de manipular o engañar, mientras que la información errónea también es inexacta o engañosa, pero se comparte sin que quien la difunde lo sepa.
Ambas son anteriores a la IA pero la era digital ha intensificado su sofisticación, escala y alcance, algo que se ve agravado por los algoritmos de recomendación y la monetización incesante de los datos.
Las operaciones de influencia llevan mucho tiempo utilizando la desinformación y han evolucionado junto con la tecnología. Al principio, los deepfakes eran fáciles de detectar, pero los más recientes resultan lo bastante convincentes como para explotarlos con fines políticos y económicos. Los LLM multimodales de bajo coste han reducido las barreras de entrada para los actores malintencionados y permiten difundir desinformación a gran escala en texto, audio y vídeo.
Las empresas están expuestas a través de las cadenas de suministro y de la manipulación del mercado mediante campañas coordinadas de desinformación sobre noticias que afectan a las cotizaciones o deepfakes que suplantan la identidad de directivos. Este riesgo debería estar en el radar de todos los consejos de administración.
Los motivos varían. Algunos actores malintencionados pueden buscar extorsionar y cometer fraude, mientras que otros podrían centrarse en la subversión: explotar vulnerabilidades políticas y sociales para socavar la autoridad establecida.
La subversión está en el centro de la práctica emergente de la guerra cognitiva. Mientras que la desinformación manipula el relato, la guerra cognitiva busca influir en cómo las personas, las empresas, las instituciones y las sociedades interpretan la realidad y toman decisiones.
IA agéntica y enjambres de IA
La IA agéntica añade complejidad a este panorama de amenazas. Los agentes de IA, que perciben y actúan de forma autónoma en su entorno, se están extendiendo rápidamente por las empresas, los gobiernos y las fuerzas armadas, pese a sus limitaciones de fiabilidad y seguridad.
Se estima que 28,6 millones de agentes estaban en uso en empresas en 2025, y se prevé que la cifra supere los 2.000 millones en 2030.
Esta proliferación también suscita preocupación por el uso indebido. Los agentes autónomos ya han automatizado parcialmente las operaciones cibernéticas, por lo que los ataques que antes requerían una gran experiencia ahora pueden ejecutarse de forma autónoma, a velocidad y escala de máquina.
El riesgo se agrava cuando agentes de IA especializados operan en redes coordinadas o enjambres. Aunque aún están en una fase incipiente, estos enjambres de IA podrían amplificar la desinformación gracias a una mayor autonomía, sofisticación, escala y velocidad. A diferencia de los bots sujetos a reglas fijas, la IA agéntica podría permitir operaciones de influencia adaptativas y de principio a fin, con escasa supervisión humana una vez fijado un objetivo.
Este riesgo no es hipotético. En un entorno simulado de redes sociales creado como parte de un estudio reciente de la USC, 500 agentes de IA se coordinaron de forma autónoma para promover a un candidato político. Si se dirigieran contra empresas o figuras públicas, estas campañas impulsadas por agentes podrían causar daños a la reputación en cuestión de días, aunque la confianza tarde años en construirse.
Dos objetivos: la cognición humana y la de las máquinas
La IA agéntica lleva la desinformación más allá de la generación y amplificación masivas, hacia la automatización y la saturación. Esto hace que cada vez sea más difícil distinguir lo verdadero de lo falso. Mientras que la IA generativa permitió una desinformación hiperpersonalizada, la IA agéntica puede fabricar un consenso sintético a gran escala, con ayuda de datos personales utilizados para elaborar perfiles.
Es aquí donde la desinformación podría convertirse en guerra cognitiva: la cognición humana podría convertirse en un objetivo central de los conflictos modernos, mientras que las operaciones autónomas de influencia facilitarían el lanzamiento de campañas subversivas y dificultarían su rastreo.
Los enjambres de IA encuentran terreno fértil en lo que algunos denominan una crisis epistémica cada vez más profunda debido al deterioro de la capacidad de la sociedad para ponerse de acuerdo sobre hechos fundamentales. Intermediarios tradicionales, como la ciencia, los medios de comunicación y los organismos gubernamentales, han visto disminuir su autoridad con el auge de internet y las redes sociales. Esto ha debilitado la confianza colectiva y ha dejado a las sociedades más expuestas a la desinformación. La IA agéntica podría explotar estas vulnerabilidades con precisión.
Y en la era de la IA, la guerra cognitiva también puede apuntar a la cognición de las máquinas: procesos de los sistemas artificiales que se asemejan a la percepción, la inferencia y el razonamiento humanos.
A medida que proliferan los datos sintéticos, también aumentan los riesgos de envenenamiento de datos. El acondicionamiento de LLM puede sembrar contenido engañoso en la web abierta para que se incorpore a los datos de entrenamiento y distorsione los resultados de los modelos. Estos ataques requieren poco para tener éxito: un estudio mostró que bastan 250 documentos envenenados para insertar una vulnerabilidad oculta en un LLM.
Incluso sin manipulación deliberada, los modelos pueden destacar la desinformación cuando apenas existe información creíble. Los enjambres podrían llenar rápidamente esos vacíos de datos con contenido sintético y distorsionar desde el principio la percepción pública. A medida que escasean los datos generados por personas, los modelos se entrenan cada vez más con datos sintéticos, con el riesgo de reforzar errores y sesgos. Este fenómeno se conoce como colapso del modelo.
Hay indicios de que las interacciones con la IA pueden cambiar las creencias sobre temas sociales controvertidos.
Por tanto, los modelos de IA son objetivos de gran valor. Ponerlos en riesgo puede contaminar tanto la cognición de las máquinas como la humana, así como la información fiable y el juicio imparcial esenciales para tomar decisiones en los sectores público y privado. La IA agéntica agrava este riesgo cuando la escala y la velocidad de sus decisiones superan la capacidad de supervisión humana.
Cómo desarrollar la seguridad cognitiva
Defender el ecosistema de información exige un enfoque de varias capas con dos objetivos interconectados: proteger la seguridad cognitiva y desarrollar la resiliencia cognitiva de las personas y las máquinas.
En el ámbito humano, la resiliencia individual, institucional y social requiere medidas educativas, políticas y regulatorias. La alfabetización sistemática en medios de comunicación e IA, junto con una educación adaptada, puede ayudar a mejorar el pensamiento crítico y proteger la seguridad cognitiva humana.
Las organizaciones necesitan prácticas como la auditoría de IA y los ejercicios de equipos rojos, además de protocolos para verificar la información antes de que influya en las decisiones. También es importante conocer los riesgos de manipulación cognitiva, como la inteligencia corrupta, la presión fabricada y la suplantación de líderes.
En términos más generales, la regulación debe abordar la rendición de cuentas y modificar los incentivos sistémicos que favorecen la desinformación, como su menor coste de producción frente al contenido veraz, así como la tendencia de las plataformas digitales a priorizar la interacción por encima de la exactitud.
A medida que los sistemas de IA pasan a formar parte de la infraestructura cognitiva mundial, la seguridad cognitiva también debe extenderse a las máquinas. Los modelos soberanos o internos entrenados con conjuntos de datos fiables y verificados reducen la exposición al envenenamiento de datos y al colapso del modelo. Los avances en la interpretabilidad mecanicista —la capacidad de entender el funcionamiento interno de los modelos— permitirían rastrear y auditar mejor el comportamiento de la IA.
La supervisión entre plataformas resulta prometedora para predecir cómo se difunden las narrativas falsas, mientras que los agentes de IA defensivos podrían detectar la desinformación identificando patrones de coordinación poco probables en las personas. También podrían supervisar la reputación de marca para señalar campañas difamatorias antes de que cobren fuerza.
Todas estas medidas exigirán un cambio de mentalidad que trate los fundamentos de la cognición humana y de las máquinas como infraestructura crítica.
Desarrollar resiliencia frente a las amenazas cognitivas es tanto un reto de gobernanza como técnico. Exige capacidad institucional, investigación intersectorial, colaboración internacional y una participación genuina de múltiples partes interesadas.
