Ciento dieciséis especialistas en robótica e investigadores de IA, entre ellos el fundador de SpaceX, Elon Musk, y Google, cofundador de DeepMind, Mustafa Suleyman, han firmado una carta dirigida a las Naciones Unidas en la que piden una supervisión estricta de las armas autónomas, también llamadas «robots asesinos». Aunque la carta en sí es más cautelosa, un comunicado de prensa señala que el grupo quiere «prohibir su uso a nivel internacional».
Entre los demás firmantes de la carta figuran directivos y fundadores de Universal Robotics, de Dinamarca; Element AI, de Canadá; y Aldebaran Robotics, de Francia.
La carta describe en términos alarmantes los riesgos de las armas robóticas y afirma que urge tomar medidas enérgicas. Está dirigida a un grupo de funcionarios de la ONU que estudia añadir las armas robóticas a la Convención sobre Ciertas Armas Convencionales. La Convención, que data de 1981, y los tratados paralelos restringen actualmente las armas químicas, las armas láser cegadoras, las minas y otras armas que se considera que causan «sufrimientos innecesarios o injustificables a los combatientes o afectan indiscriminadamente a la población civil».
Podría decirse que los guerreros robóticos reducirían las bajas entre los soldados humanos, al menos las de las naciones más ricas y avanzadas. Pero el riesgo para la población civil es la principal preocupación de Musk y del grupo de Suleyman, que escriben: «pueden ser armas de terror, armas que los déspotas y los terroristas utilizan contra poblaciones inocentes, y armas pirateadas para que se comporten de maneras indeseables».
La carta también advierte que no actuar con rapidez conducirá a una «carrera armamentista» hacia los robots asesinos, aunque podría decirse que ya está en marcha. Empresas como Raytheon, Dassault, MiG, y BAE Systems ofrecen sistemas de armas autónomas o tecnologías precursoras, o las están desarrollando.
Yoshua Bengio, fundador de Element AI, planteó otra advertencia intrigante: convertir la IA en arma podría «perjudicar el desarrollo futuro de las aplicaciones beneficiosas de la IA». Ese es precisamente el escenario imaginado en la novela de ciencia ficción de Frank Herbert, Dune, ambientada en un universo donde todas las máquinas pensantes están prohibidas por su papel en guerras pasadas.
El grupo de la ONU sobre armas tenía previsto reunirse el lunes 21 de agosto, pero, según se ha informado, la reunión se aplazó hasta noviembre.
