La humanidad se enfrenta a una nueva y grave realidad: el auge de las armas autónomas. Puede parecer el guion de una película de Hollywood, pero el riesgo es real: que los seres humanos estén tan alejados de las decisiones en tiempos de guerra que las decisiones de vida o muerte queden, en la práctica, en manos de sensores y programas informáticos.
¿Qué futuro se perfila si la decisión de quitar una vida se deja en manos de algoritmos? Los robots y los sistemas informáticos carecen de la capacidad humana distintiva y única para comprender tanto el complejo entorno en el que operan como las armas que utilizan. Además, cuanto más complejos sean los sistemas de armas —por ejemplo, al incorporar aprendizaje automático— y mayor libertad se les conceda para actuar sin intervención humana, más imprevisibles serán las consecuencias de su uso.
En el Comité Internacional de la Cruz Roja creemos que la responsabilidad por las decisiones de matar, herir y destruir debe seguir recayendo en los seres humanos. Es el soldado o combatiente humano —no una máquina— quien comprende la ley y las consecuencias de infringirla, y quien es responsable de aplicarla. Estas obligaciones no pueden transferirse a un programa informático. Los gobiernos —con la participación de la sociedad civil y del sector tecnológico— deben actuar sin demora para acordar límites a la autonomía de los sistemas de armas.
Los avances tecnológicos representan grandes oportunidades. Ya sea en los ámbitos de la medicina, el transporte, la agricultura, el comercio, las finanzas o prácticamente cualquier otro, la robótica, la inteligencia artificial y el aprendizaje automático están teniendo un efecto transformador al mejorar la forma en que analizamos los datos del mundo que nos rodea y actuamos en función de ellos. Es lógico que estas tecnologías se consideren para fines de seguridad y defensa nacionales; por eso no sorprende que muchos países estén invirtiendo fuertemente en inteligencia artificial y en sistemas robóticos militares con mayor autonomía.
Pero, cuando se trata de conflictos armados, no debemos olvidar que incluso las guerras tienen límites. Los gobiernos, que ahora deben definir los límites de los sistemas de armas autónomas, tienen que garantizar el cumplimiento del derecho internacional humanitario y basarse firmemente en los principios de humanidad y los dictados de la conciencia pública.
La buena noticia es que, cuando el Grupo de Expertos Gubernamentales encargado de examinar los sistemas de armas autónomas se reunió en abril de este año en Ginebra, Suiza, hubo un amplio acuerdo en que debe mantenerse el control humano sobre los sistemas de armas.
En cierto sentido, sin embargo, esa es la parte fácil. En su próxima reunión, a finales de agosto, los gobiernos deben ahora partir de este acuerdo para responder a la pregunta más difícil: ¿qué nivel de control humano se requiere para garantizar tanto la compatibilidad con nuestras leyes como la aceptabilidad según nuestros valores?
La respuesta importa porque algunos sistemas de armas con autonomía en sus «funciones críticas» de selección y ataque de objetivos ya se utilizan en circunstancias limitadas para tareas muy específicas, como derribar misiles o cohetes entrantes. Tras la activación por parte de un operador humano, es el sistema de armas el que selecciona un objetivo y lanza un contraataque.
Sin embargo, el alcance de los posibles sistemas de armas futuros impulsados por inteligencia artificial es mucho más amplio. Abarca toda la gama de sistemas robóticos armados y podría basarse en la tecnología de sistemas de inteligencia artificial de «apoyo a la toma de decisiones» que ya se están probando para analizar transmisiones de vídeo y detectar posibles objetivos.
Ante el ritmo vertiginoso de los nuevos avances, los gobiernos —con el apoyo de la comunidad científica y técnica— deben actuar con urgencia para acordar límites que preserven el elemento humano fundamental, sin ahogar ni frenar el progreso tecnológico que aporta beneficios evidentes.
La alternativa es la profundamente inquietante perspectiva de una nueva carrera armamentística y un futuro en el que las guerras se libren con algoritmos, con consecuencias inciertas tanto para la población civil como para los combatientes.
