Líderes de la industria tecnológica, respaldados por algunas de las mayores organizaciones científicas e industriales del mundo, han firmado un compromiso global contra el desarrollo de sistemas de armas autónomos que utilizan inteligencia artificial (IA).
Ingenieros y científicos de la industria tecnológica afirman que «ni participarán ni apoyarán el desarrollo, la fabricación, el comercio ni el uso de armas autónomas letales».
Los sistemas de armas autónomos letales (LAWS, por sus siglas en inglés), también llamados robots asesinos, son armas capaces de identificar, apuntar y matar a una persona sin que un ser humano tome o autorice esas decisiones.
El compromiso, presentado en Estocolmo durante la Conferencia Conjunta Internacional sobre Inteligencia Artificial (IJCAI) de 2018, el principal encuentro mundial de investigación en IA, con más de 5.000 asistentes, fue firmado por 150 empresas y más de 2.400 personas de 90 países que trabajan en inteligencia artificial (IA) y robótica.
Entre las empresas firmantes figuran Google DeepMind, la Fundación XPRIZE, University College London, ClearPath Robotics/OTTO Motors, la Asociación Europea de Inteligencia Artificial y la Sociedad Sueca de Inteligencia Artificial.
Entre las personas firmantes figuran Jeff Dean, director de investigación de Google.ai; el empresario Elon Musk; los pioneros de la IA Stuart Russell, Yoshua Bengio y Anca Draga; el diputado laborista británico Alex Sobel; y Toby Walsh, de la Universidad de Nueva Gales del Sur (UNSW).
Ética
Walsh, profesor de inteligencia artificial en la UNSW de Sídney, señala los problemas éticos.
«No podemos dejar en manos de las máquinas la decisión sobre quién vive y quién muere», afirma.
«No tienen la ética necesaria para hacerlo. Les animo a ustedes y a sus organizaciones a comprometerse a garantizar que la guerra no se vuelva más terrible de esta manera».
El compromiso, organizado por el Future of Life Institute, insta a los gobiernos, el mundo académico y la industria a seguir su ejemplo:
«Quienes suscribimos este documento instamos a los gobiernos y a sus dirigentes a crear un futuro con normas, reglamentos y leyes internacionales firmes contra las armas autónomas letales. … Pedimos a las empresas y organizaciones tecnológicas, así como a los dirigentes, responsables políticos y otras personas, que se unan a este compromiso».
Max Tegmark, profesor de física en el Instituto Tecnológico de Massachusetts y presidente del Future of Life Institute, anunció el compromiso.
«Me entusiasma ver que los líderes de la IA pasan de las palabras a la acción y ponen en práctica una política que los políticos no han logrado implementar hasta ahora», dijo Tegmark.
«La IA tiene un enorme potencial para ayudar al mundo, si estigmatizamos y prevenimos su uso indebido. Las armas de IA que deciden de forma autónoma matar a personas son tan repugnantes y desestabilizadoras como las armas biológicas, y deberían tratarse del mismo modo».
El compromiso comienza con esta declaración: «La inteligencia artificial está llamada a desempeñar un papel cada vez más importante en los sistemas militares. Existe una oportunidad y una necesidad urgentes de que la ciudadanía, los responsables políticos y los dirigentes distingan entre los usos aceptables e inaceptables de la IA».
Un peligro claro e inminente
Ryan Gariepy, fundador y director de tecnología de Clearpath Robotics y OTTO Motors, firme opositor de las armas autónomas letales, dijo: «Clearpath sigue creyendo que la proliferación de sistemas de armas autónomas letales constituye un peligro claro e inminente para la ciudadanía de todos los países del mundo. Ninguna nación estará a salvo, por poderosa que sea».
«Las preocupaciones de Clearpath son compartidas por una amplia variedad de otras empresas y desarrolladores clave de sistemas autónomos, y esperamos que los gobiernos de todo el mundo decidan invertir tiempo y esfuerzo en sistemas autónomos que mejoren la salud, la seguridad y la productividad de sus poblaciones, en lugar de sistemas cuyo único uso sea desplegar fuerza letal».
A quienes defienden una prohibición internacional de los LAWS les preocupa que los robots sean difíciles de controlar —más fáciles de piratear, más propensos a acabar en el mercado negro y más fáciles de conseguir para terroristas y déspotas—, lo que podría desestabilizar a todos los países.
En diciembre de 2016, la Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales (CCW) de las Naciones Unidas inició el debate formal sobre los LAWS. Hasta ahora, 26 países participantes en la Conferencia han anunciado su apoyo a algún tipo de prohibición, entre ellos China.
La próxima reunión de la ONU sobre los LAWS se celebrará el mes que viene.
Texto íntegro del compromiso
La inteligencia artificial (IA) está llamada a desempeñar un papel cada vez más importante en los sistemas militares. Existe una oportunidad y una necesidad urgentes de que la ciudadanía, los responsables políticos y los dirigentes distingan entre los usos aceptables e inaceptables de la IA.
En este sentido, quienes suscribimos este documento estamos de acuerdo en que la decisión de quitar una vida humana nunca debe delegarse en una máquina. Esta postura tiene un componente moral: no debemos permitir que las máquinas tomen decisiones que acaben con vidas y por las que otros —o nadie— sean considerados responsables.
También hay un sólido argumento pragmático: las armas autónomas letales, que seleccionan y atacan objetivos sin intervención humana, serían peligrosamente desestabilizadoras para todos los países y todas las personas. Miles de investigadores de IA coinciden en que, al eliminar el riesgo, la atribución de responsabilidades y la dificultad de quitar vidas humanas, las armas autónomas letales podrían convertirse en poderosos instrumentos de violencia y opresión, sobre todo si se vinculan con sistemas de vigilancia y datos.
Además, las armas autónomas letales tienen características muy distintas de las armas nucleares, químicas y biológicas, y las acciones unilaterales de un solo grupo podrían desencadenar con demasiada facilidad una carrera armamentista que la comunidad internacional carece de herramientas técnicas y sistemas de gobernanza global para gestionar. Estigmatizar y prevenir esa carrera armamentista debería ser una prioridad máxima para la seguridad nacional y mundial.
Quienes suscribimos este documento instamos a los gobiernos y a sus dirigentes a crear un futuro con normas, reglamentos y leyes internacionales firmes contra las armas autónomas letales. Dado que actualmente no existen, optamos por imponernos un estándar elevado: ni participaremos ni apoyaremos el desarrollo, la fabricación, el comercio ni el uso de armas autónomas letales. Pedimos a las empresas y organizaciones tecnológicas, así como a los dirigentes, responsables políticos y otras personas, que se unan a este compromiso.
