Este artículo forma parte de la plataforma de Geoestrategia del Foro Económico Mundial
El informe, Mapeo del desarrollo de la autonomía en los sistemas de armas, presenta las principales conclusiones y recomendaciones de un estudio de un año sobre el desarrollo de la autonomía en los sistemas de armas.
El informe busca ayudar a diplomáticos y miembros de la sociedad civil interesados en la cuestión de las armas autónomas letales (LAWS, por sus siglas en inglés) a comprender mejor los fundamentos tecnológicos de la autonomía y a hacerse una idea de la velocidad y la trayectoria de los avances de la autonomía en los sistemas de armas. Ofrece ejemplos concretos que podrían servir para empezar a delimitar los puntos en los que el avance de la autonomía en las armas puede plantear preocupaciones técnicas, jurídicas, operativas y éticas.
El informe también pretende servir de punto de partida para investigar más a fondo los posibles parámetros de un control humano significativo, exponiendo algunas de las lecciones aprendidas sobre el uso de armas existentes con capacidades autónomas. Además, busca ayudar a diplomáticos y miembros de la sociedad civil a identificar opciones realistas para supervisar y regular el desarrollo de tecnologías emergentes en el ámbito de las LAWS.
¿Cuáles son los fundamentos tecnológicos de la autonomía?
Las principales conclusiones son las siguientes:
1 La autonomía tiene muchas definiciones e interpretaciones, pero suele entenderse como la capacidad de una máquina para realizar una tarea prevista sin intervención humana, mediante la interacción de sus sensores y su programación informática con el entorno.
2 La autonomía depende de una amplia variedad de tecnologías, pero principalmente del software. Su viabilidad depende de (a) la capacidad de los desarrolladores de software para formular una tarea prevista como un problema matemático y una solución; y (b) la posibilidad de cartografiar o modelar de antemano el entorno operativo.
3 La autonomía puede crearse o mejorarse mediante el aprendizaje automático. El uso del aprendizaje automático en los sistemas de armas sigue siendo experimental, ya que continúa planteando problemas fundamentales de previsibilidad.
¿Cuál es el estado de la autonomía en los sistemas de armas?
El informe examina el estado de la autonomía en los sistemas de armas desplegados y en los que están en desarrollo. Las principales conclusiones son las siguientes:
1. La autonomía ya se utiliza para respaldar diversas capacidades de los sistemas de armas, entre ellas la movilidad, la selección de objetivos, la inteligencia, la interoperabilidad y la gestión de la salud.
2. Los sistemas de reconocimiento automático de objetivos (ATR, por sus siglas en inglés), la tecnología que permite a los sistemas de armas adquirir objetivos de forma autónoma, existen desde la década de 1970. Los sistemas ATR todavía tienen capacidades limitadas de percepción y toma de decisiones. Su rendimiento se deteriora rápidamente a medida que los entornos operativos se vuelven más complejos y empeoran las condiciones meteorológicas.
3. Los sistemas de armas existentes capaces de adquirir y atacar objetivos de forma autónoma son, en su mayoría, sistemas defensivos. Funcionan bajo supervisión humana y están concebidos para disparar de forma autónoma solo en situaciones en las que se considera que el tiempo disponible para atacar es demasiado breve para que las personas puedan responder.
4. Las municiones merodeadoras son el único tipo de sistema de armas «ofensivo» del que se sabe que puede adquirir y atacar objetivos de forma autónoma. Los seres humanos determinan de antemano el tiempo que permanecen merodeando, las zonas geográficas de despliegue y la categoría de objetivos que pueden atacar.
¿Qué impulsa y qué obstaculiza el desarrollo de la autonomía en los sistemas de armas?
Los principales factores impulsores identificados en el informe son:
1. Estratégico. Estados Unidos ha citado recientemente la autonomía como piedra angular de sus cálculos de capacidades estratégicas y planes de modernización militar. Esto parece haber provocado reacciones de otras grandes potencias militares, en particular Rusia y China.
2. Operativo. Los planificadores militares creen que la autonomía permite a los sistemas de armas alcanzar mayor velocidad, precisión, persistencia, alcance y coordinación en el campo de batalla.
3. Económico. Se cree que la autonomía ofrece oportunidades para reducir los costes operativos de los sistemas de armas, en particular mediante un uso más eficiente del personal.
Los principales obstáculos son:
1. Tecnológico. Los sistemas autónomos deben ser más adaptables para operar de forma segura y fiable en entornos complejos, dinámicos y adversarios; es preciso desarrollar nuevos procedimientos de validación y verificación para los sistemas adaptables o capaces de aprender.
2. Resistencia institucional. El personal militar a menudo no confía en la seguridad y fiabilidad de los sistemas autónomos; algunos profesionales militares consideran que el desarrollo de ciertas capacidades autónomas amenaza directamente su ética profesional o es incompatible con los paradigmas operativos a los que están acostumbrados.
3. Jurídico. El derecho internacional incluye varias obligaciones que restringen el uso de capacidades autónomas de selección de objetivos. También exige que el mando militar mantenga, en la mayoría de las circunstancias, algún tipo de control o supervisión humanos sobre el comportamiento del sistema de armas.
4. Normativo. La sociedad civil ejerce cada vez más presión normativa contra el uso de la autonomía para tomar decisiones sobre la selección de objetivos, lo que convierte el desarrollo de sistemas de armas autónomos en una cuestión potencialmente delicada desde el punto de vista político para las fuerzas armadas y los gobiernos.
5. Económico. La capacidad de gasto de las fuerzas armadas nacionales es limitada, y los sistemas de adquisición de defensa de la mayoría de los países productores de armas siguen sin ser adecuados para desarrollar la autonomía.
¿Dónde se están produciendo las innovaciones pertinentes?
El informe examina los ecosistemas de innovación que impulsan el avance de la autonomía. Concluye lo siguiente:
1. En el ámbito de la ciencia y la tecnología básicas, los avances en la autonomía de las máquinas proceden principalmente de investigaciones en tres disciplinas: inteligencia artificial (IA), robótica y teoría del control.
2. Estados Unidos es el país que ha demostrado los esfuerzos militares de investigación y desarrollo (I+D) en autonomía más visibles, articulados y quizá exitosos. China y la mayoría de los otros nueve mayores países productores de armas han identificado la IA y la robótica como áreas importantes de I+D. Varios de estos países siguen con cautela los pasos de Estados Unidos y buscan llevar a cabo proyectos de I+D centrados en la autonomía.
3. La industria civil lidera la innovación en tecnologías autónomas. Los actores más influyentes son grandes empresas de tecnología de la información, como Alphabet (Google), Amazon y Baidu, y grandes fabricantes de automóviles (por ejemplo, Toyota) que han entrado en el negocio de los vehículos autónomos.
4. Los productores tradicionales de armas participan sin duda en el desarrollo de tecnologías autónomas, pero los recursos que pueden destinar a I+D son muy inferiores a los movilizados por las grandes empresas comerciales del sector civil. Sin embargo, el papel de las empresas de defensa sigue siendo crucial, porque las tecnologías autónomas comerciales rara vez pueden ser adoptadas por las fuerzas armadas sin modificaciones y las empresas del sector civil suelen tener poco interés en obtener contratos militares.
Recomendaciones para futuros debates
El informe concluye con ocho recomendaciones que buscan ayudar al Grupo de Expertos Gubernamentales sobre las LAWS, recién creado en las Naciones Unidas, a encontrar una base constructiva para los debates y, posiblemente, lograr avances tangibles en algunos de los principales aspectos objeto de discusión.
1. Debatir el desarrollo de la «autonomía en los sistemas de armas» en lugar de tratar las armas autónomas o las LAWS como una categoría general.
2. Dejar de centrarse en la autonomía «plena» y explorar, en cambio, cómo la autonomía transforma el control humano.
3. Ampliar el alcance de la investigación más allá de la selección de objetivos para tener en cuenta el uso de la autonomía en operaciones colaborativas (por ejemplo, enjambres) y en el procesamiento de inteligencia.
4. Aclarar los avances actuales del aprendizaje automático y sus posibles implicaciones para el control de la autonomía.
5. Utilizar estudios de casos para vincular de nuevo el debate sobre legalidad, ética y control humano significativo con la realidad del desarrollo y el uso de los sistemas de armas.
6. Facilitar el intercambio de experiencias con el sector civil, en particular con las industrias aeroespacial, automotriz y de robótica civil, sobre las definiciones de autonomía y control humano, así como sobre la validación y verificación de sistemas autónomos.
7. Investigar opciones para garantizar que los futuros esfuerzos destinados a supervisar y posiblemente controlar el desarrollo de aplicaciones letales de la autonomía no inhiban la innovación civil.
8. Investigar opciones para prevenir el riesgo de que actores no estatales conviertan tecnologías civiles en armas.
Mapeo del desarrollo de la autonomía en los sistemas de armas, Vincent Boulanin y Maaike Verbruggen.
