Los riesgos de frontera son amenazas de baja probabilidad y alto impacto que podrían surgir a medida que los seres humanos exploran nuevos ámbitos, ya sean tecnológicos, ecológicos o territoriales.
Los Sistemas de Armas Autónomas Letales no necesitan control humano para actuar y representan un riesgo de frontera crítico.
Las regulaciones globales sobre el uso de la inteligencia artificial militarizada son insuficientes, pero existen vías para avanzar
Los avances significativos de la tecnología de inteligencia artificial (IA) en los últimos años han dado lugar a una creciente sofisticación del armamento militar. Entre los dispositivos nuevos más destacados se encuentran los Sistemas de Armas Autónomas Letales (L.A.W.S., por sus siglas en inglés): máquinas diseñadas para identificar, atacar y destruir objetivos sin control humano.
Estas máquinas, y los riesgos que plantea su despliegue, han sido material para la literatura y el cine de ciencia ficción, con la película alemana Metrópolis de 1927 y la novela distópica de Ray Bradbury de 1953 Fahrenheit 451. Pero los L.A.W.S. ya no son solo especulación. Hoy en día, los sistemas de IA pueden, de forma independiente, utilizar datos, predecir el comportamiento humano, recabar inteligencia, realizar vigilancia, identificar posibles objetivos y tomar decisiones tácticas en combates virtuales. El uso de robots en el ámbito militar se está volviendo habitual, y el salto a robots totalmente autónomos optimizados para la guerra ya es realista. La gran pregunta ahora no es qué tipos de L.A.W.S. podrían existir, sino si representan un riesgo de frontera para la humanidad.*
¿Qué son los riesgos de frontera?
Los riesgos de frontera son amenazas de baja probabilidad y alto impacto que podrían surgir a medida que los seres humanos exploran nuevos ámbitos, ya sean tecnológicos, ecológicos o territoriales. Sus resultados no pueden predecirse fácilmente (especialmente por un grupo no especializado sin conocimientos expertos), pero tienen la capacidad de alterar el mundo tal como lo conocemos. Estos riesgos de frontera se ilustran mejor con tres metáforas: “reyes dragón” (eventos raros de alto impacto que son algo predecibles), “rinocerontes grises” (eventos muy probables de alto impacto que solo ocurren tras una larga serie de advertencias) y “cisnes negros” (eventos de alto impacto prácticamente imposibles de predecir). Los riesgos de frontera que podrían surgir de la plena militarización de las armas autónomas incluyen las consecuencias catastróficas de las incursiones militares y una crisis existencial humana en la era de la conciencia de las máquinas.
¿Por qué los sistemas militares se están volviendo autónomos?
Los drones ya son utilizados por los militares hoy en día, pero presentan vulnerabilidades. La mayoría depende del mando humano a través de un conjunto de canales de comunicación que los adversarios pueden infiltrar. Además, se requiere personal considerable para operar los múltiples drones desplegados en el terreno. Al eliminar la necesidad de control humano, se pueden desplegar miles de L.A.W.S. a la vez, todos capaces de tomar decisiones tácticas y oportunas por sí mismos. Esto intensifica la velocidad y la expansión del alcance de los combatientes, y reduce la necesidad de proximidad a los objetivos. Los L.A.W.S. también superan las limitaciones de la mente y el cuerpo humanos (por ejemplo, no corren el riesgo de sufrir trastornos de estrés postraumático ni de emitir juicios erróneos en favor de la autoconservación).
No obstante, existen algunas preguntas sin respuesta y posibles consecuencias imprevistas. La carrera de las potencias mundiales por liderar este campo ha dado lugar a lo que el general de cuatro estrellas del Ejército de EE. UU. David Petraeus llamó “la etapa inicial de una Guerra Fría tecnológica.” De manera similar, el emprendedor Elon Musk advirtió en 2017 que la competencia por las aplicaciones militares de la inteligencia artificial podría intensificarse hasta el punto de provocar la Tercera Guerra Mundial. Debido a la popularidad de las especulaciones sobre un apocalipsis provocado por robots en la cultura popular a lo largo de las décadas, el temor a los L.A.W.S. ya está arraigado en el imaginario público. Sin embargo, por motivos de soberanía política, algunos Estados no parecen tan preocupados por los posibles riesgos de los L.A.W.S. Además, faltan regulaciones globales suficientes sobre el uso de la IA militarizada. Mientras que las Naciones Unidas y el Parlamento Europeo han presentado propuestas para prohibir el uso de robots autónomos letales en la guerra, siguen sin respuesta preguntas sobre cómo podrían regularse estas armas y si la regulación entraría en conflicto con la soberanía de los Estados.
¿Salvarán las máquinas o nos matarán?
Las máquinas cometen errores, aunque con menos frecuencia que los soldados humanos. Pero, mientras que los humanos responden por sus actos, las máquinas no pueden sufrir consecuencias legales. Dada la complejidad del derecho internacional humanitario (DIH) en materia de guerra, podría existir el riesgo de liberar máquinas que tengan dificultades para distinguir entre combatientes activos, soldados heridos y quienes se rinden, infringiendo las Convenciones de Ginebra de 1949. Se podría argumentar que la idea de armas totalmente autónomas ya contraviene el DIH. Por ejemplo, la Cláusula Martens prioriza la dignidad humana y la capacidad de los soldados de mostrar compasión hacia sus semejantes. Pero los robots impulsados por líneas de código aún no tienen la capacidad de tomar tales decisiones y podrían acabar infringiendo las normas. Otra preocupación sobre las violaciones del DIH se pone de manifiesto en la posibilidad de que los L.A.W.S. actúen por cuenta propia. Una idea que solía parecer materia de la ficción distópica más imaginativa está cobrando cada vez más fuerza en los últimos años; Musk y el físico teórico el profesor Stephen Hawking advirtieron ambos sobre IA conscientes que se hagan con el control y amenacen la civilización humana. La Convención de las Naciones Unidas sobre Ciertas Armas Convencionales y el artículo 14 de las Normas de Nueva Delhi prohíbe el uso de armas que podrían escapar al control de quienes las emplean, poniendo así en peligro a la población civil. Aunque ese escenario todavía podría considerarse improbable, se trata de un tipo de riesgo de frontera que podría tener un impacto catastrófico en el mundo.
Vías para evitar los riesgos de los L.A.W.S.
Aunque los L.A.W.S. representan otro avance para la intervención militar, podría ser mucho más seguro emplear un enfoque de “human-on-the-loop” en el que las personas conserven el control sobre las armas en una función de supervisión. Es posible que los L.A.W.S. no planteen un riesgo catastrófico aparente como, por ejemplo, la COVID-19, los ciberataques o el cambio climático, pero debemos aplicar nuevas perspectivas al análisis de todos estos riesgos y a cómo evitarlos. Necesitamos canales más transparentes para la comunicación de riesgos, invertir en instituciones que supervisen la gestión de los riesgos de la IA y promulgar políticas que controlen la velocidad a la que se desarrolla la tecnología militar. Las Naciones Unidas pueden proscribir ciertos niveles de riesgo en el despliegue militar e incentivar a quienes despliegan de forma conforme con el DIH (por ejemplo, como la colaboración del Foro con los Premios Smart Toy para premiar a los fabricantes de robots que priorizan la ética en sus creaciones). El enfoque debería centrarse menos en perfeccionar el arte de la guerra y más en aprender a frenar, mediante la tecnología, la propensión generalizada a librar guerras. En última instancia, esto supondría una victoria para el DIH, la ética científica y la civilización humana.
(Esta es en parte la razón por la que el Foro Económico Mundial creó el Consejo Global de Futuro sobre Riesgos de Frontera: para aprovechar su diversa membresía, con una mirada orientada al futuro, a fin de aportar ideas nuevas sobre los riesgos globales futuros, identificar las principales conmociones futuras para la próxima generación y proponer oportunidades de políticas que generen resiliencia hoy frente a estos riesgos.)
(Jake Okechukwu Effoduh es Global Shaper del Hub de Abuja.)
