Mediante el uso de inteligencia artificial (IA) de código abierto y procesamiento ligero a bordo, los dispositivos civiles, como los drones utilizados para fotografía, pueden convertirse en armas autónomas letales.
Una vez adaptado el software de los vehículos aéreos no tripulados (UAV) comerciales para fines letales, su difusión mundial es inevitable y no hay forma práctica de impedir la propagación de este código.
Los Estados deben acordar medidas contra la proliferación para impedir que los actores no estatales creen cantidades muy grandes de armas reutilizando productos civiles.
La incipiente carrera armamentista entre las grandes potencias en el ámbito de los sistemas de armas autónomas letales está atrayendo mucha atención. Las negociaciones sobre un posible tratado para prohibir estas armas se han estancado mientras la tecnología avanza rápidamente.
Se ha prestado menos atención al hecho de que las capacidades de inteligencia artificial (IA) de código abierto y el procesamiento a bordo ligero y de bajo consumo permiten crear armas autónomas «caseras» convirtiendo dispositivos civiles, como cuadricópteros equipados con cámaras.
Armas autónomas letales caseras
Los actores no estatales ya pueden desplegar drones caseros pilotados a distancia, así como armas que, como los misiles de crucero, pueden dirigirse por sí mismas a ubicaciones designadas y lanzar explosivos. Algunos ejemplos son un ataque contra bases rusas en Siria en el que participaron 13 drones y un intento de asesinato contra el primer ministro de Irak. The Washington Post informa que «[l]a Fuerza Quds [iraní] ha proporcionado entrenamiento a militantes sobre cómo modificar UAV comerciales [vehículos aéreos no tripulados] para uso militar».
¿Serán las armas autónomas caseras y totalmente autónomas el siguiente paso lógico? Estas armas podrían eludir o destruir sistemas defensivos, localizar y atacar objetivos según criterios visuales o perseguir a personas concretas mediante reconocimiento facial o de la marcha.
Los UAV comerciales ya pueden maniobrar entre campos de obstáculos densos y fijar como objetivo a personas concretas. Una vez adaptado ese software para fines letales, su difusión mundial es inevitable. No hay forma práctica de impedir la propagación de este código. La única contramedida plausible es impedir la proliferación de las plataformas físicas subyacentes.
No parece haber una forma evidente de detener la fabricación y el uso de pequeñas cantidades de armas autónomas caseras. Estas no supondrían una amenaza muy distinta de la que representan pequeñas cantidades de armas pilotadas a distancia, que los actores no estatales pueden desplegar fácilmente. Con cualquiera de las dos tecnologías, cabe esperar que las víctimas civiles en ataques atroces pasen de dos a tres cifras. Por otro lado, al no necesitar enlaces de comunicación, que pueden interferirse o rastrearse, los asesinatos a distancia podrían convertirse en un problema mayor.
La verdadera amenaza, sin embargo, proviene de las grandes cantidades de armas: enjambres capaces de causar decenas de miles de víctimas y, con el tiempo, millones. Las exhibiciones acrobáticas con más de 3.000 UAV pequeños controlados de forma centralizada ya son habituales en eventos corporativos. Actualmente, hacer que estos UAV sean totalmente autónomos requiere capacidad de procesamiento y energía a bordo que solo pueden transportar cuadricópteros relativamente grandes (de unos 50 cm). Sin embargo, los ASIC —chips de bajo consumo y propósito específico con toda la IA integrada— podrían dar lugar a armas autónomas letales de apenas unos centímetros de diámetro. Un millón de estos dispositivos cabrían en un contenedor estándar. En otras palabras, las entidades capaces de reunir grandes cantidades de pequeñas armas autónomas pueden crear armas de destrucción masiva.
Por tanto, tendría sentido que los Estados nación acordaran medidas contra la proliferación para impedir que los actores no estatales creen cantidades muy grandes de armas reutilizando productos civiles. Hay abundantes precedentes: por ejemplo, las normas del Tratado sobre la No Proliferación de las Armas Nucleares relativas a la titularidad y transferencia de materiales nucleares, reflejadas en las normas detalladas de la Comisión Reguladora Nuclear sobre la cantidad de uranio que pueden comprar o poseer las personas; y los procedimientos de la Organización para la Prohibición de las Armas Químicas para garantizar que los productos químicos industriales no se desvíen a la fabricación de armas.
En concreto, todos los fabricantes de UAV civiles, como cuadricópteros y aviones pequeños de ala fija, deberían aplicar medidas como las normas de conocimiento del cliente, el geocercado y los interruptores de corte físicos. Los Estados nación también pueden recurrir a medidas de inteligencia para detectar e impedir intentos de acumular componentes en grandes cantidades o montar líneas de ensamblaje. También sería útil que las asociaciones profesionales internacionales de IA —entre ellas, la Association for Computing Machinery, la Association for the Advancement of Artificial Intelligence y el Institute of Electrical and Electronics Engineers— adoptaran políticas y promulgaran códigos de conducta que prohíban desarrollar software capaz de decidir matar a seres humanos.
Las armas autónomas letales cuentan con poco apoyo
A medida que las armas pilotadas a distancia se convierten en herramientas de guerra generalizadas, también es importante garantizar que no puedan transformarse fácilmente en armas autónomas mediante cambios de software. Un pequeño grupo terrorista solo puede desplegar una cantidad reducida de armas pilotadas a distancia, pero puede desplegar una cantidad muy grande de armas autónomas, sencillamente porque estas no requieren pilotos humanos. La conversión puede dificultarse mucho si estas armas se diseñan sin conexión entre los procesadores a bordo y los circuitos de disparo.
Por supuesto, los esfuerzos mundiales por impedir el desvío a gran escala de tecnología civil para crear armas autónomas letales no sirven de nada si los actores no estatales pueden obtenerlas fácilmente directamente de los fabricantes. Por ejemplo, la empresa turca STM vende el dron Kargu, presentado en 2017 con una ojiva de 1,1 kg y del que se afirma que tiene capacidad de «ataque autónomo», reconocimiento facial y otras funciones. Los Kargu se han entregado a actores no estatales y se utilizaron en Libia en 2020 pese a un embargo de armas, según la ONU.
Si tiene sentido impedir que los actores no estatales construyan sus propias armas de destrucción masiva, también tiene sentido impedir que los fabricantes de armas lo hagan por ellos. En otras palabras, las principales potencias mundiales tienen todos los motivos para apoyar, en lugar de bloquear, un tratado que prohíba el desarrollo, la fabricación, el despliegue y el uso de armas autónomas letales.
