La IA puede automatizar la manipulación de conjuntos de datos médicos y ampliar el impacto de un ciberataque en los sectores de la salud y la biotecnología.
Las amenazas cibernéticas y biológicas pueden erosionar la confianza en la tecnología.
La erosión de la confianza en la tecnología es peligrosa en cualquier momento, pero especialmente durante una pandemia mundial como la COVID-19.
La tomografía computarizada (TC) pulmonar mostró los devastadores signos de la COVID-19 y la respuesta inflamatoria, la tormenta de citocinas. Pero ¿y si la TC estaba equivocada?
Esto no es una preocupación pasajera. En 2018, se diseñó un ataque malicioso para piratear las tomografías computarizadas de los hospitales, generando tumores pulmonares falsos que se ajustaban a la anatomía única de un paciente y provocaban una tasa de diagnósticos erróneos superior al 90 %. Además, investigadores de la Universidad de Harvard probaron ataques adversarios contra algoritmos utilizados para diagnosticar imágenes de cáncer de piel y demostraron que bastaba con modificar unos pocos píxeles de la imagen original de la biopsia para alterar el diagnóstico.
Estos ejemplos son solo una muestra de cómo la IA puede automatizar la manipulación de conjuntos de datos médicos y ampliar el impacto de un ciberataque en los sectores de la salud y la biotecnología. Estos ataques se producen en una era de riesgos híbridos para la seguridad, en la que las amenazas pandémicas convergen con la instrumentalización de tecnologías potentes de doble uso. Aunque se desarrollan con fines beneficiosos, las tecnologías de doble uso también pueden causar daños inherentes, ya sea por «daños no intencionados» accidentales o como resultado de una intención maliciosa deliberada. La convergencia de las amenazas cibernéticas y biológicas reduce nuestra capacidad, en una crisis sanitaria mundial, para confiar en lo que las imágenes digitales de nuestro cuerpo nos dicen sobre un virus complejo como la COVID-19 y sobre la rapidez con que analizamos patógenos en futuras crisis, naturales o provocadas por el ser humano.
¿Qué está haciendo el Foro Económico Mundial ante el brote de coronavirus?
Estos riesgos convergentes para la seguridad tienen consecuencias corrosivas para todos los países, pero en particular para aquellos que cuentan con infraestructuras médicas, biotecnológicas y cibernéticas deficientes y obsoletas, o que carecen de capacidad para proteger a sus poblaciones vulnerables de la instrumentalización de las amenazas pandémicas y tecnológicas.
Para proteger a quienes soportan el mayor peso de las crisis sistémicas, los países deben pasar de medidas reactivas a proactivas y desarrollar plataformas mundiales de prevención que permitan identificar y prevenir estas amenazas.
Una plataforma mundial de prevención podría abordar tres desafíos clave:
1. Aumento de la inseguridad cibernética, biológica y humana
Las crisis sanitarias mundiales crean condiciones de extrema fragilidad en las que las tecnologías de doble uso pueden aprovecharse para aumentar la inseguridad. Como señaló el secretario general de la ONU en su discurso ante el Consejo de Seguridad: «Las debilidades y la falta de preparación que quedaron al descubierto durante la pandemia ofrecen una ventana a cómo podría desarrollarse un ataque bioterrorista, y pueden aumentar sus riesgos. Grupos no estatales podrían acceder a cepas virulentas capaces de causar una devastación similar en sociedades de todo el mundo».
La pandemia actual ofrece a los Estados y a los grupos terroristas una ventana en tiempo real a las fortalezas y debilidades de las sociedades en situaciones de emergencia. Los últimos meses han demostrado cómo una amenaza biológica podría paralizar hospitales y cadenas de suministro de alimentos, destruir la confianza de la ciudadanía en la información crítica y las instituciones públicas, y provocar disturbios sociales, desinformación, incluso violencia.
Además, la capacidad de los actores maliciosos para acceder a laboratorios en la nube podría automatizar el diseño de patógenos con resistencia a múltiples fármacos o reproducir una cepa similar a la de la COVID-19. Ambas podrían propagarse fácilmente en espacios públicos mediante tecnologías de drones.
2. Erosión de la confianza digital
A medida que convergen, las tecnologías emergentes crean una interdependencia cada vez mayor entre las amenazas a la seguridad cibernética, biológica y humana. En el contexto de la crisis de la COVID-19, la dependencia de las instalaciones médicas y las cadenas de suministro de la biotecnología respecto de las empresas energéticas, los centros de datos y las redes de información genera graves vulnerabilidades. La combinación de la manipulación de datos médicos y los ciberataques a la fabricación biológica podría tener consecuencias económicas drásticas y resultados letales para la población. Sin embargo, el daño más duradero recaería en la confianza de la ciudadanía: la confianza en las instituciones de salud pública, los sistemas de datos de emergencia, los laboratorios, los hospitales y las infraestructuras críticas.
3. Riesgos convergentes en los conflictos
Los Estados afectados por conflictos que se enfrentan a amenazas convergentes para la seguridad sufren crisis de magnitud, mortalidad y alcance sin precedentes. Estos Estados tienen menos capacidad para prepararse ante sucesos de baja probabilidad y gran impacto en plena emergencia sanitaria, y serán menos resilientes si alguno llega a producirse. Por ejemplo, en un país donde las infraestructuras críticas ya están fallando, un ciberataque contra instalaciones médicas o contra la red eléctrica conectada podría ser devastador. Incluso en países ricos, los ciberdelincuentes han atacado hospitales y redes digitales durante la crisis de la COVID-19, intensificando las estrategias de ingeniería social para aprovecharse de las personas en un momento de vulnerabilidad.
Mirar al futuro y prevenir la próxima crisis
Las amenazas actuales en sectores como la bioseguridad o la ciberseguridad se gestionan en compartimentos estancos. Para impulsar cambios, serán fundamentales nuevas colaboraciones. Se podría convocar a un grupo de líderes gubernamentales, del sector privado y de la tecnología para realizar análisis de previsión conjunta en distintos ámbitos tecnológicos, incluidos la IA, la ciberseguridad y la bioseguridad. Con el objetivo de comprender la convergencia de sucesos biológicos de gran impacto con tecnologías de doble uso, este grupo podría definir un enfoque común para la prevención y la mitigación.
Los esfuerzos de previsión deberían incluir la cooperación con Estados afectados por conflictos. Los expertos en prevención de conflictos deberían colaborar con actores del sector privado y de la sociedad civil para adaptar mejor las estrategias de prevención a las amenazas específicas y a las necesidades éticas de las comunidades vulnerables. Ya empiezan a surgir iniciativas de este tipo. Por ejemplo, empresas emergentes e innovadores de la ONU y del Instituto Alan Turing ya colaboran en el uso de la IA para la recopilación colectiva de datos y la previsión de riesgos de seguridad emergentes.
Esta «previsión inclusiva» podría proporcionar a los países y organismos herramientas para formular escenarios que permitan establecer prioridades de riesgo, en particular en zonas de conflicto, y desarrollar enfoques responsables para aprovechar las tecnologías emergentes con fines preventivos.
Los riesgos convergentes para la seguridad tienen efectos poderosos y corrosivos en la paz y el bienestar humano. El sistema multilateral debe aprender de esta crisis sin precedentes y prepararse para que se repita, con consecuencias más mortales y un alto potencial de instrumentalización. La previsión, utilizada como estrategia de liderazgo, puede ayudar a evitar fallos éticos y de gobernanza.
