Este artículo forma parte de la plataforma de Geoestrategia
Las visiones exageradas y catastróficas de los peligros inminentes de los «robots asesinos» surgen de una necesidad genuina de considerar las implicaciones éticas y jurídicas de los avances en inteligencia artificial y robótica cuando se aplican en un contexto militar.
Pese a ello, alcanzar un acuerdo internacional sobre la mejor manera de abordar estos desafíos se ve obstaculizado, en parte, por la incapacidad incluso de consensuar una definición de las capacidades que suscitan preocupación.
Uno de los mayores problemas es garantizar que los operadores humanos mantengan el control sobre el uso de la fuerza letal, pero incluso adoptar este enfoque, que parece específico, agrupa varias formas en que podría perderse ese control.
Una ametralladora activada por un sensor térmico sería un uso indebido de la automatización simple. Los sistemas que saturan a los operadores humanos con información y no les dan tiempo suficiente para tomar decisiones podrían considerarse técnicamente imposibles de controlar. La tripulación humana responsable de decidir los objetivos de una aeronave pilotada a distancia podría sentirse lo bastante desvinculada de sus decisiones como para perder el control efectivo sobre ellas.
Estas y otras posibilidades se examinaron la semana pasada en la reunión del Grupo de Expertos Gubernamentales (GGE) de la ONU sobre los sistemas de armas autónomas letales. Este foro es el lugar adecuado para abordar las implicaciones de las nuevas tecnologías, pero está claro que debe especificar mejor los riesgos que examina.
Llamamientos a una prohibición
Los sistemas automatizados, que responden a las órdenes de los operadores con acciones predecibles, existen desde hace mucho tiempo. Pero, a medida que la automatización se vuelve más sofisticada, aumentan las preocupaciones y los llamamientos a prohibir el desarrollo de sistemas autónomos letales, incluso por parte de Estados que no tienen la intención ni la capacidad interna para desarrollar equipos militares altamente automatizados.
Estas preocupaciones ya han llamado la atención de muchos Estados, que por iniciativa propia se esfuerzan por identificar y mitigar los riesgos que plantean las nuevas tecnologías, y por garantizar que se utilicen de conformidad con el derecho internacional humanitario y también con las políticas nacionales, que a menudo son más estrictas.
En los Estados que desarrollan armas de manera responsable existen numerosas medidas de control sobre la adquisición y el uso de armas. Su objetivo último es garantizar que los mandos y operadores militares sean competentes y estén bien informados, y que las herramientas que utilizan refuercen —en lugar de menoscabar— su control sobre el uso de la fuerza.
Beneficios positivos
Algunos han señalado que los sistemas automatizados bien diseñados, cuando se utilizan bajo un control humano eficaz, pueden reforzar el cumplimiento de los principios del derecho internacional humanitario. Estos beneficios positivos explican en parte por qué una prohibición no es la respuesta adecuada.
Los avances en IA permiten imaginar un sistema impredecible que produzca resultados «mejores» que la toma de decisiones humana. Sin embargo, una máquina así no tomaría decisiones del mismo modo que los seres humanos, por muy fuerte que sea nuestra tendencia a antropomorfizarla. Carece de agencia moral.
Sin un agente moral de ese tipo, no es posible garantizar el cumplimiento del derecho internacional humanitario. El principio de proporcionalidad, por ejemplo, exige evaluar si los daños y las pérdidas de vidas civiles son excesivos en relación con la ventaja militar prevista. Por sofisticadas que sean las nuevas máquinas, eso excede sus capacidades; por tanto, el derecho internacional humanitario ya prohíbe de hecho el uso de tales sistemas. Si el argumento jurídico es convincente, el táctico lo es aún más: el sentido común por sí solo impide permitir la ejecución automatizada de resultados impredecibles al aplicar la fuerza letal.
En el ámbito complejo e intrínsecamente humano de la guerra, lo irreal es la idea misma de ceder deliberadamente la responsabilidad a una máquina
no definido
El Reino Unido recibe críticas en el informe del Comité Selecto sobre IA de la Cámara de los Lores, publicado el lunes pasado, por mantener una definición de autonomía que describe un sistema capaz de comprender por sí solo la intención superior y las órdenes, algo que se ha criticado ampliamente por ser poco realista. De hecho, en el ámbito complejo e intrínsecamente humano de la guerra, lo irreal es la idea misma de ceder deliberadamente la responsabilidad a una máquina. La definición del Reino Unido representa el estándar mínimo para que esto pudiera contemplarse; casi con toda seguridad no existe actualmente y bien podría no existir nunca.
Por tanto, prohibir el desarrollo y el uso de sistemas de armas autónomas letales no es la solución sencilla que parece.
Sin embargo, la discusión no debería terminar aquí. La automatización sofisticada sí plantea nuevos desafíos para el control humano. El GGE es un foro que puede ayudar a los Estados a superar estos desafíos compartiendo buenas prácticas y recabando aportaciones de expertos, académicos y la sociedad civil. También brinda la oportunidad de considerar los posibles efectos que la escala y el equilibrio de riesgos asociados a las armas automatizadas podrían tener en las normas de la guerra.
Pero, ante todo, los Estados deben asumir la responsabilidad de aplicar las obligaciones jurídicas internacionales y éticas que ya tienen en el desarrollo y el uso de nuevas tecnologías armamentísticas.
Prohibir las armas autónomas no es la solución, la mayor Kathleen McKendrick, miembro visitante del Departamento de Seguridad Internacional de Chatham House y jefa del Estado Mayor (Ejército británico)
