A principios de este mes, investigadores crearon un malware impulsado por IA que puede utilizarse para hackear tomografías computarizadas de hospitales, generando imágenes falsas de cáncer que engañaron incluso a los médicos más expertos. Si se introdujera en las redes hospitalarias actuales, se podría tratar con radiación o quimioterapia a personas sanas por tumores inexistentes, mientras que pacientes con cáncer en fase inicial podrían ser enviados a casa con diagnósticos falsos. La información médica actual sobre el tratamiento del cáncer, los coágulos sanguíneos, las lesiones cerebrales y los virus podría manipularse, corromperse y destruirse. Este es solo un ejemplo de cómo el «envenenamiento de datos» —cuando se manipulan datos para engañar— supone un riesgo para nuestras infraestructuras más críticas. Sin una comprensión común de cómo la IA converge con otras tecnologías para crear amenazas nuevas y de rápida evolución, muchas más cosas que nuestras visitas al hospital podrían convertirse en una pesadilla.
Los responsables de formular políticas deben empezar a trabajar con tecnólogos para comprender mejor los riesgos de seguridad que surgen de la combinación de la IA con otras tecnologías de doble uso y sistemas de información críticos. De lo contrario, deben prepararse para daños económicos y sociales a gran escala causados por nuevas formas de envenenamiento automatizado de datos y ciberataques. En una era de crecientes conflictos entre IA y cibertecnología, nuestro sistema de gobernanza multilateral se necesita más que nunca.
Los ataques a los datos son el arma nuclear del siglo XXI. Mucho más importante que quién controla un territorio es quién controla los datos, pues tiene la capacidad de manipular el corazón y la mente de las poblaciones. Los algoritmos impulsados por IA pueden corromper datos para influir en las creencias, actitudes y diagnósticos y en la toma de decisiones, con un impacto cada vez más directo en nuestra vida cotidiana. El envenenamiento de datos es una herramienta nueva y extremadamente poderosa para quienes desean sembrar el engaño y la desconfianza en nuestros sistemas.
El riesgo se amplifica por la convergencia de la IA con otras tecnologías: pronto el envenenamiento de datos podría infectar bases de datos genómicas de países enteros y, potencialmente, convertir la investigación biológica en un arma, instalaciones nucleares, cadenas de suministro de fabricación, estrategias de negociación financiera y el discurso político. Lamentablemente, la mayoría de estos ámbitos se gobiernan de forma aislada, sin una comprensión adecuada de cómo las nuevas tecnologías podrían crear, al converger, riesgos sistémicos a escala mundial. En un nuevo informe titulado La nueva geopolítica de los riesgos convergentes: la ONU y la prevención en la era de la IA, analizo estos riesgos interrelacionados, desarrollo escenarios que ilustran cómo podrían desplegarse las tecnologías emergentes en el período venidero y propongo una vía para que el sistema multilateral ayude a prevenir crisis a gran escala desencadenadas por la convergencia de la IA.
Riesgos convergentes: envenenamiento de datos, enjambres de drones y biolaboratorios automatizados
He aquí un escenario probable:
1. Envenenamiento de datos: Al igual que en la falsificación de tomografías computarizadas de hospitales, actores malintencionados podrían usar algoritmos de aprendizaje automático para lanzar ataques de envenenamiento de datos contra cadenas de suministro biotecnológicas automatizadas. A medida que los experimentos biológicos se llevan a cabo cada vez más mediante software de IA, un malware podría corromper las instrucciones de ingeniería y contaminar reservas vitales de antibióticos, vacunas y costosas terapias celulares.
2. Ingeniería genética: Los laboratorios en la nube permiten controlar hasta 50 tipos de experimentos biológicos desde cualquier lugar del mundo, sentado frente al ordenador. Los hackers podrían aprovechar ese flujo de trabajo automatizado para modificar la composición genética de la bacteria E. coli y convertirla en un agente biológico resistente a múltiples fármacos.
3. Distribución: Como paso siguiente, los hackers podrían utilizar drones comerciales equipados con aerosoles para dispersar las bacterias resistentes a múltiples fármacos en sistemas de agua o granjas. Los agricultores ya usan drones para rociar insecticidas en los cultivos.
4. Narrativas falsas: Por último, los hackers podrían inundar las redes sociales con mensajes de advertencia sobre antibióticos contaminados, sembrando miedo y confusión entre las poblaciones afectadas.
Una combinación de envenenamiento de datos, uso de la fabricación biológica como arma y manipulación de información estratégica tendría costos económicos drásticos y podría causar la muerte de personas. También tendría un impacto significativo en el bienestar social. Sin embargo, el daño más grave recaería en la confianza de la ciudadanía: la confianza en las instituciones de gobierno, los sistemas de datos de emergencia, los laboratorios industriales, las cadenas de suministro de alimentos, los hospitales y las infraestructuras críticas.
Conflictos entre IA y cibertecnología: Estados y poblaciones vulnerables
Las nuevas formas de ataques encubiertos de envenenamiento de datos van mucho más allá de la seguridad biológica. La capacidad de distintos actores para influir en la opinión pública y desestabilizar instituciones políticas, financieras y críticas podría tener consecuencias profundas y duraderas para la paz y la seguridad.
Los actores estatales y no estatales ya pueden generar falsificaciones de alta calidad dirigidas a grupos étnicos o religiosos para incitar a la violencia y la discriminación. En Myanmar, un informe de la ONU confirmó que las publicaciones de Facebook habían alimentado discursos de odio virulentos contra los musulmanes rohinyás. En India, en el verano de 2018, mensajes manipuladores en redes sociales, incluidas Facebook y WhatsApp, señalaron a ciertos grupos como responsables de secuestros de niños. La histeria causó más de 30 muertes y dejó muchos heridos. A medida que se difuminan los límites entre la realidad y el engaño, aumenta la posibilidad de movilizar a gran escala personas, recursos y armas en torno a narrativas falsas.
Las repercusiones de la manipulación de datos para la ciberseguridad y la seguridad humana son corrosivas; se amplían tanto el panorama de amenazas híbridas como la superficie de ataque. Todos los países son objetivos potenciales, pero especialmente aquellos con infraestructuras tecnológicas y cibernéticas deficientes, vulnerables y obsoletas.
Dado que los Estados vulnerables no pueden prevenir ni mitigar los ataques de envenenamiento de datos, podrían convertirse en terrenos propicios para las operaciones de mercenarios cibernéticos, grupos terroristas y otros actores, que comprometerían cada vez más la integridad de los datos y la solidez de nuestro sistema de inteligencia globalizado.
Podríamos enfrentarnos a una nueva geopolítica de la desigualdad y la inseguridad, impulsada por la creciente brecha digital y de ciberseguridad. Para afrontar estos desafíos, la comunidad internacional necesita una comprensión común de los riesgos de seguridad emergentes, impulsada por incentivos para adoptar un enfoque compartido de prevención.
La necesidad de previsión estratégica
Estos sombríos escenarios apuntan a la necesidad de desarrollar colectivamente una previsión estratégica sobre los tipos de riesgos mundiales que plantea la convergencia de la IA. Durante el último año, he trabajado con el Centro de Investigación de Políticas de la Universidad de las Naciones Unidas para iniciar esta labor y ayudar a la ONU a desarrollar mejores capacidades de previsión.
Los líderes empresariales y gubernamentales deberían realizar análisis de previsión conjuntos en distintos ámbitos tecnológicos para anticipar y mitigar amenazas emergentes que podrían aprovechar la manipulación de datos y dirigirse contra infraestructuras críticas. Por ejemplo, ya sabemos que los centros de datos (como las bases de datos médicas o los bancos) y los entornos en la nube (como los biolaboratorios en la nube) son muy vulnerables al envenenamiento de datos y a otros tipos de ciberataques adversarios. Las iniciativas de previsión deben incluir de forma imperativa la cooperación con los Estados del Sur Global.
Desde la manipulación de datos sobre la seguridad de las vacunas o las terapias génicas hasta las campañas de desinformación sobre la salud de las instituciones financieras, la superficie de ataque en los conflictos entre IA y cibertecnología es amplia y compleja. Es urgente que los gobiernos colaboren con el sector privado para crear sistemas de alerta temprana más eficaces que detecten y analicen las fuentes de falsificación de datos y propaganda dirigida. Los Estados deberán cartografiar continuamente cómo influyen estas nuevas herramientas de engaño en el discurso y la opinión públicos. También tendrán que promover la alfabetización en ciberseguridad y (bio)tecnología entre amplios sectores de la población.
Estoy convencido de que no existe una solución unilateral o bilateral para los tipos de amenazas generalizadas que plantean estas nuevas tecnologías. Nuestra capacidad para comprender los riesgos emergentes para la seguridad mundial debe desarrollarse colectivamente o corre el riesgo de infectarse.
