Este artículo forma parte de la plataforma de Geoestrategia
A lo largo de toda la historia de la humanidad, la política ha estado impulsada fundamentalmente por la acción consciente de las personas y por las acciones e interacciones colectivas de los seres humanos en redes y organizaciones. Ahora, los avances en inteligencia artificial (IA) abren la posibilidad de un cambio fundamental en este orden: la ideade que una entidad no humana tenga capacidad de acción propia podría transformar radicalmente nuestra comprensión de la política en sus niveles más amplios.
En gran medida debido a la influencia de la literatura, el cine y la televisión, la visión popular de la IA puede tender a lo fantasioso. Las representaciones ficticias y apocalípticas de guerras entre humanos y robots han influido en una cobertura alarmista de avances de la IA que, en ocasiones, son relativamente menores.
También, de vez en cuando, figuras destacadas de los ámbitos de la ciencia y la tecnología han lanzado graves advertencias de que la IA podría representar una amenaza existencial para la vida humana. En conjunto, esto ha generado en el público general la percepción de que una nueva forma de inteligencia que supera a la humana está a la vuelta de la esquina, o incluso ya está entre nosotros.
Los seres humanos ya convivimos con formas limitadas de IA: la tecnología de IA nos ayuda a orientarnos, traducir textos y encontrar vuelos baratos, por citar solo algunos ejemplos; y, pese a sus defectos y limitaciones conocidos, parece destinada a ser emblemática de un futuro radicalmente transformado.
Pequeños pasos
Pero las ideas más extremas sobre lo que los avances de la IA podrían significar para la forma en que viven, trabajan y se relacionan los seres humanos están muy alejadas de la realidad actual. La naturaleza de la IA en 2018 —y, muy probablemente, en el futuro previsible— es más bien prosaica. De hecho, el campo registra avances relativamente menores que aportan beneficios prácticos concretos en ámbitos determinados, en lugar de una IA de aplicación general.
Inteligencia artificial y asuntos internacionales: la disrupción prevista examina algunos de los desafíos que el avance y la creciente aplicación de la IA podrían plantear a los responsables de formular políticas. Reúne distintas perspectivas sobre el impacto que la IA podría tener en áreas seleccionadas de los asuntos internacionales —desde los puntos de vista militar, de la seguridad humana y económico— durante los próximos 10–15 años.
El informe establece un marco amplio para definir y distinguir los tipos de funciones que la inteligencia artificial podría desempeñar en la formulación de políticas y los asuntos internacionales: analíticas, predictivas y operativas.
En funciones analíticas, los sistemas de IA podrían permitir que menos personas tomen decisiones de alto nivel o automatizar tareas repetitivas, como vigilar sensores instalados para garantizar el cumplimiento de tratados. En estas funciones, es muy posible que la IA cambie —y en algunos aspectos ya haya cambiado— las estructuras mediante las cuales quienes toman decisiones comprenden el mundo. Sin embargo, es probable que el impacto final de esos cambios sea limitado y no transformador.
Los usos predictivos de la IA podrían tener efectos más agudos, aunque probablemente en un horizonte temporal más largo. Estos usos pueden cambiar la forma en que los responsables de formular políticas y los Estados comprenden los posibles resultados de determinados cursos de acción. Si esos sistemas llegan a ser suficientemente precisos y fiables, esto podría crear una brecha de poder entre los actores que dispongan de ellos y los que no, con resultados especialmente impredecibles.
Es poco probable que los usos operativos de la IA se materialicen plenamente a corto plazo. Los obstáculos normativos, éticos y tecnológicos para desarrollar vehículos, armas y otros sistemas del mundo físico totalmente autónomos, como asistentes personales robóticos, son muy considerables, aunque se avanza rápidamente para superarlos. A más largo plazo, sin embargo, estos sistemas podrían transformar radicalmente no solo la forma en que se toman las decisiones, sino también la manera en que se ejecutan.
Recomendaciones
El informe formula las siguientes recomendaciones para los gobiernos y las organizaciones internacionales no gubernamentales, que desempeñarán un papel especialmente importante en el desarrollo y la promoción de nuevas normas éticas:
A medio y largo plazo, la experiencia en IA no debe concentrarse en un reducido número de países ni limitarse a sectores estrechos de la población. Los gobiernos de todo el mundo deben invertir en desarrollar y conservar talento y conocimientos especializados propios en IA para que sus países sean independientes de la experiencia dominante en IA, que actualmente suele concentrarse en Estados Unidos y China. También deben procurar que se forme talento en ingeniería sobre una base amplia, a fin de mitigar los problemas de sesgo inherentes.
Las empresas, las fundaciones y los gobiernos deben asignar fondos al desarrollo y despliegue de sistemas de IA con fines humanitarios. El sector humanitario podría beneficiarse considerablemente de estos sistemas, que, por ejemplo, podrían reducir los tiempos de respuesta en situaciones de emergencia. Sin embargo, dado que es poco probable que la IA con fines humanitarios sea rentable de inmediato para el sector privado, es necesario realizar un esfuerzo concertado para desarrollarla sin ánimo de lucro.
El conocimiento de las capacidades y limitaciones de los sistemas de inteligencia artificial no debe ser un dominio exclusivo de los expertos técnicos. La educación y la formación sobre qué es la IA —y, algo fundamental, qué no es— deben estar al alcance del mayor número posible de personas, mientras que quienes desarrollan estas tecnologías deben dar mucha más prioridad a comprender los objetivos éticos y normativos que las sustentan.
Es fundamental establecer relaciones de trabajo sólidas entre los desarrolladores de IA del sector público y del privado, especialmente en el ámbito de la defensa, ya que gran parte de la innovación se produce en el sector comercial. Para garantizar que los sistemas inteligentes encargados de tareas críticas puedan realizarlas de manera segura y ética, será necesario que exista apertura entre distintos tipos de instituciones.
Se necesitan códigos de conducta claros para garantizar que los beneficios de la IA se compartan ampliamente y que sus riesgos asociados se gestionen adecuadamente. Al elaborar estos códigos, los responsables de formular políticas y los tecnólogos deben comprender de qué manera la regulación de los sistemas de inteligencia artificial puede diferir fundamentalmente de la regulación de las armas o los flujos comerciales, y extraer a la vez lecciones pertinentes de esos modelos.
Los desarrolladores y los reguladores deben prestar especial atención a las interfaces entre las personas y las máquinas. La inteligencia artificial y la humana son fundamentalmente distintas, por lo que las interfaces entre ambas deben diseñarse con cuidado y revisarse constantemente para evitar malentendidos que, en muchas aplicaciones, podrían tener consecuencias graves.
Inteligencia artificial y asuntos internacionales: la disrupción prevista, Dr. Jacob Parakilas, Mary L. «Missy» Cummings, Dr. Heather Roff, Kenn Cukier y Hannah Bryce, Chatham House
