Este artículo forma parte de la plataforma de Geoestrategia del Foro Económico Mundial Plataforma de Geoestrategia
¿Podría la inteligencia artificial trastocar los conceptos de disuasión nuclear que han ayudado a evitar una guerra nuclear en el mundo desde 1945? Los asombrosos avances de la IA, junto con la proliferación de drones, satélites y otros sensores, plantean la posibilidad de que los países puedan localizar y amenazar mutuamente sus fuerzas nucleares, lo que intensificaría las tensiones.
El teniente coronel Stanislav Petrov se sentó en el puesto de mando de un búnker secreto a las afueras de Moscú. Su tarea aquella noche era sencilla: vigilar los ordenadores que analizaban datos de satélites y observar a Estados Unidos en busca de cualquier señal de un lanzamiento de misiles. Eran poco después de medianoche del 26 de septiembre de 1983.
Una sirena resonó en las paredes del búnker. Una sola palabra apareció parpadeando en la pantalla frente a él.
"Lanzamiento."
El temor a que los ordenadores, por error o por malicia, puedan llevar a la humanidad al borde de la aniquilación nuclear ha obsesionado a la imaginación desde los primeros días de la Guerra Fría.
El peligro podría pronto dejar de ser ciencia ficción para convertirse en realidad. Los asombrosos avances de la IA han creado máquinas capaces de aprender y pensar, lo que ha desencadenado una nueva carrera armamentística entre las principales potencias nucleares del mundo. No son los robots asesinos de los blockbusters de Hollywood los que deben preocuparnos, sino la manera en que los ordenadores podrían desafiar las reglas básicas de la disuasión nuclear y llevar a los humanos a tomar decisiones devastadoras.
Esa es la premisa de un nuevo documento de RAND Corporation, ¿Cómo podría la inteligencia artificial afectar al riesgo de guerra nuclear? Forma parte de un proyecto especial de RAND, conocido como Security 2040, cuyo objetivo es mirar más allá del horizonte y anticipar las amenazas que se avecinan.
"Esto no es solo un escenario de película", afirmó Andrew Lohn, ingeniero de RAND, coautor del documento, cuya experiencia con la IA incluye su uso para dirigir drones, identificar cantos de ballenas y predecir los resultados de partidos de la NBA. "Cosas relativamente sencillas pueden aumentar las tensiones y llevarnos a lugares peligrosos si no tenemos cuidado".
¿Fallo o Armagedón?
Petrov diría más tarde que su silla parecía una sartén. Sabía que el sistema informático tenía fallos. Los soviéticos, preocupados por quedarse atrás en la carrera armamentística con Estados Unidos, lo habían puesto en servicio apresuradamente solo unos meses antes. Su pantalla indicaba ahora "alta fiabilidad", pero el instinto de Petrov decía lo contrario.
Descolgó el teléfono para avisar a su oficial de guardia. "Falsa alarma", dijo. De repente, el sistema se llenó de nuevas alertas: otro lanzamiento, y luego otro, y otro más. Las palabras en la pantalla brillaban en rojo:
"Ataque con misiles."
Para entender cómo los ordenadores inteligentes podrían aumentar el riesgo de guerra nuclear, hay que comprender un poco por qué la Guerra Fría nunca se volvió nuclear. Existen muchas teorías, pero la "represalia garantizada" ha sido siempre una de las piedras angulares. En términos simples, significa: si me golpeas, te devuelvo el golpe. Con armas nucleares en juego, ese contragolpe podría arrasar ciudades enteras, una pérdida que ninguno de los dos bandos estuvo nunca dispuesto a arriesgar.
Esa teoría conduce a algunas conclusiones aparentemente contraintuitivas. Si ambos bandos tienen armas que pueden sobrevivir a un primer ataque y responder, la situación es estable. Ninguno querrá arriesgarse a lanzar ese primer golpe. La situación se vuelve más peligrosa e incierta si un bando pierde, o incluso solo cree que podría perder, la capacidad de responder. Podría reaccionar creando nuevas armas para recuperar su ventaja. O podría decidir que necesita lanzar sus golpes antes, antes de ser golpeado primero.
Ahí es donde podría residir el verdadero peligro de la IA. Los ordenadores ya pueden analizar miles de fotografías de vigilancia, buscando patrones que el ojo humano nunca vería. No hace falta mucha imaginación para concebir un sistema más avanzado que procese imágenes de drones, datos de satélites e incluso publicaciones en redes sociales para elaborar una imagen completa de las armas y las defensas de un adversario.
Los sistemas autónomos no necesitan matar a personas para socavar la estabilidad y hacer más probable una guerra catastrófica
undefined
Un sistema que puede estar en todas partes y verlo todo podría convencer a un adversario de que es vulnerable a un primer ataque desarmante, es decir, de que podría perder su capacidad de respuesta. Ese adversario se apresuraría a buscar nuevas formas de igualar las fuerzas, por cualquier medio necesario. Ese camino conduce más cerca de la guerra nuclear.
"Los sistemas autónomos no necesitan matar a personas para socavar la estabilidad y hacer más probable una guerra catastrófica", afirmó Edward Geist, investigador de política asociado de RAND, especialista en seguridad nuclear y coautor del nuevo documento. "Las nuevas capacidades de la IA podrían hacer que la gente piense que perderá si duda. Eso podría hacer que tengan los dedos más nerviosos en el gatillo. En ese punto, la IA estará haciendo más probable la guerra, aunque los humanos sigan, entre comillas, al mando".
Una intuición
La pantalla del ordenador de Petrov mostraba ahora cinco misiles dirigiéndose a la Unión Soviética. Las sirenas sonaban. Petrov sostenía el teléfono con el oficial de guardia en una mano y el intercomunicador con la sala de ordenadores en la otra. Los técnicos le decían que no podían localizar los misiles en sus pantallas de radar ni en sus telescopios.
No tenía sentido. ¿Por qué Estados Unidos iniciaría una guerra nuclear con solo cinco misiles? Petrov volvió a levantar el teléfono y repitió:
Falsa alarma.
Hoy los ordenadores pueden aprender a caminar por sí mismos: tropiezan, se caen, pero siguen aprendiendo hasta conseguirlo. Sus redes neuronales imitan la arquitectura del cerebro. Hace poco, un ordenador venció a uno de los mejores jugadores del mundo en el antiguo juego de estrategia Go con una jugada tan extraña, pero tan eficaz, que el jugador humano se levantó, salió de la sala y necesitó 15 minutos para hacer su siguiente movimiento.
Rusia anunció recientemente planes para un dron submarino del juicio final que podría guiarse por sí mismo a través de los océanos para entregar una ojiva nuclear lo bastante potente como para vaporizar una gran ciudad
undefined
El potencial militar de esta superinteligencia no ha pasado desapercibido para las principales potencias nucleares del mundo. Estados Unidos ha experimentado con embarcaciones autónomas capaces de rastrear un submarino enemigo durante miles de millas. China ha demostrado algoritmos de "inteligencia de enjambre" que permiten a los drones cazar en manada. Y Rusia anunció recientemente planes para un dron submarino del juicio final que podría guiarse por sí mismo a través de los océanos para entregar una ojiva nuclear lo bastante potente como para vaporizar una gran ciudad.
Quien gane la carrera por la supremacía en IA, ha dicho el presidente ruso Vladímir Putin, "se convertirá en el gobernante del mundo". El fundador de Tesla, Elon Musk, tuvo una opinión distinta: la carrera por la supremacía en IA, advirtió, es la causa más probable de la Tercera Guerra Mundial.
El momento de la verdad
Durante unos momentos aterradores, Stanislav Petrov estuvo al borde de la guerra nuclear. A mediados de 1983, la Unión Soviética estaba convencida de que Estados Unidos preparaba un ataque nuclear. El sistema informático que parpadeaba en rojo frente a él era su póliza de seguro, un esfuerzo para garantizar que, si Estados Unidos atacaba, la Unión Soviética tuviera tiempo de responder.
Pero aquella noche, el sistema había interpretado mal el brillo del sol reflejado en las cimas de las nubes.
"Falsa alarma." El oficial de guardia no pidió ninguna explicación. Transmitió el mensaje de Petrov a lo largo de la cadena de mando.
La próxima generación de IA tendrá un "potencial significativo" para socavar los cimientos de la seguridad nuclear, concluyeron los investigadores. El momento del diálogo internacional es ahora.
Mantener la paz nuclear en una época de avances tecnológicos como este requerirá la cooperación de todas las potencias nucleares. Exigirá nuevas instituciones y acuerdos globales, nuevos entendimientos entre Estados rivales y nuevas salvaguardas tecnológicas, diplomáticas y militares.
Es posible que un futuro sistema de IA resulte tan fiable, tan fríamente racional, que retrase las manecillas del reloj del juicio final nuclear. Al fin y al cabo, errar es humano. Una máquina que no comete errores, no siente presión y no tiene sesgos personales podría proporcionar un nivel de estabilidad que la Era Atómica nunca ha conocido.
Ese momento todavía está lejos en el futuro, concluyeron los investigadores, pero los años que quedan hasta entonces serán especialmente peligrosos. Un mayor número de países con armas nucleares y una creciente dependencia de la IA, especialmente antes de que alcance madurez tecnológica, podrían provocar errores de cálculo catastróficos. Y para entonces, quizá sea demasiado tarde para que un teniente coronel que trabaja en el turno de noche pueda detener la maquinaria de guerra.
La historia del encuentro de Stanislav Petrov con el desastre nuclear advierte a una nueva generación sobre las responsabilidades que conlleva impulsar cambios tecnológicos profundos y potencialmente desestabilizadores. Petrov, que falleció en 2017, lo resumió así: "Somos más sabios que los ordenadores", dijo. "Nosotros los creamos".
Los investigadores de RAND reunieron a algunos de los principales expertos en IA y estrategia nuclear en una serie de talleres. Les pidieron que imaginaran el estado de los sistemas de armas nucleares en 2040 y que exploraran las formas en que la IA podría ser una fuerza estabilizadora o desestabilizadora para entonces.
PERSPECTIVA UNO: escepticismo sobre la tecnología
Muchos de los expertos en IA se mostraron escépticos de que, para entonces, la tecnología haya avanzado lo suficiente como para desempeñar un papel significativo en las decisiones nucleares. Tendría que superar su vulnerabilidad al hackeo, así como los esfuerzos adversarios por envenenar sus datos de entrenamiento, por ejemplo, comportándose de forma inusual para sentar precedentes falsos.
PERSPECTIVA DOS: las tensiones nucleares aumentarán
Pero los estrategas nucleares respondieron que un sistema de IA no tendría que funcionar a la perfección para aumentar las tensiones nucleares. Bastaría con que un adversario creyera que lo hace y actuara en consecuencia. El resultado sería una nueva era de competencia y desconfianza entre rivales con armas nucleares.
PERSPECTIVA TRES: la IA aprende que la jugada ganadora es no jugar
Algunos de los expertos mantuvieron la esperanza de que, algún día, en un futuro lejano, la IA pudiera llegar a ser tan fiable como para conjurar la amenaza de una guerra nuclear. Podría utilizarse, por ejemplo, para seguir el desarrollo nuclear y comprobar que los países cumplen los acuerdos de no proliferación. O podría rescatar a los humanos de errores y malas decisiones tomadas bajo la presión de un enfrentamiento nuclear. Como dijo un experto, una futura IA podría concluir, como el ordenador de la película "Juegos de guerra" de 1983, que la única jugada ganadora en una guerra nuclear es no jugar.
Cómo la inteligencia artificial podría aumentar el riesgo de guerra nuclear, Doug Irving, RAND Corporation
