En los debates sobre las implicaciones de la inteligencia artificial (IA), casi siempre alguien evoca el mito griego antiguo de la caja de Pandora. En la versión moderna y de cuento de hadas de la historia, Pandora aparece como una joven trágicamente curiosa que abre una urna sellada y desata sin querer una miseria eterna sobre la humanidad. Al igual que el genio que ha escapado de la botella, el caballo que ha huido del establo o el tren que ha salido de la estación, el mito se ha convertido en un cliché.
Sin embargo, la verdadera historia de Pandora es mucho más pertinente para los debates sobre la IA y el aprendizaje automático de lo que muchos creen. Lo que muestra es que es mejor escuchar a los «prometeicos», preocupados por el futuro de la humanidad, que a los «epimeteicos», fácilmente deslumbrados por la perspectiva de ganancias a corto plazo.
Uno de los mitos griegos más antiguos, la historia de Pandora se registró por primera vez hace más de 2500 años, en la época de Homero. En el relato original, Pandora no era una joven inocente que cedió a la tentación de abrir una vasija prohibida. Más bien, como nos cuenta el poeta Hesíodo, Pandora fue «hecha, no nacida». Encargada por Zeus, todopoderoso, y diseñada según sus crueles especificaciones por Hefesto, el dios de la invención, Pandora era un androide de apariencia realista creado para parecer una doncella hechizante. Su propósito era atrapar a los mortales como manifestación de kalos kakon: «el mal oculto en la belleza».
El nombre de Pandora significa «todos los dones» y refleja el hecho de que todos los dioses contribuyeron a su creación. Tras su creación en la fragua de Hefesto, Hermes escoltó a la deslumbrante joven «mujer» hasta la tierra y la presentó como esposa a Epimeteo. Su dote fue la fatídica caja sellada que contenía más «dones».
Epimeteo era hermano de Prometeo, el titán rebelde que defendió —y, según algunas versiones, creó— a la humanidad. Prometeo se preocupó por la evidente vulnerabilidad de los humanos, así que enseñó a hombres y mujeres a usar el fuego y otras herramientas de forma responsable. Pero esto enfureció a Zeus, un tirano despiadado que custodiaba celosamente su acceso exclusivo a tecnologías asombrosas. Como castigo, Zeus encadenó a Prometeo a una roca y envió a su águila, similar a un dron y también forjada por Hefesto, para que le devorara el hígado.
Por su parte, Pandora fue concebida deliberadamente para castigar a la humanidad por aceptar el don del fuego de Prometeo. En esencia, una seductora androide de IA, no tenía padres, recuerdos de la infancia ni emociones de ningún tipo, y nunca envejecería ni moriría. Estaba programada para cumplir una única misión malévola: infiltrarse en un entorno terrenal y luego abrir la vasija.
Pero aún no es toda la historia. Como nos cuenta Platón, el nombre de Prometeo significa «previsión», porque siempre miraba hacia el futuro, a diferencia de su despreocupado hermano Epimeteo, cuyo nombre significa «retrospección». Como el más racional y justificadamente paranoico de los dos, Prometeo intentó advertir a su hermano que no aceptara el peligroso regalo de Zeus. Pero Epimeteo quedó cautivado por Pandora y la acogió en su vida sin reflexionar. Solo después se dio cuenta de su terrible error.
La imagen popular de Pandora retrocediendo horrorizada mientras una nube de males sale de la vasija es, por tanto, una invención moderna. Lo mismo ocurre con la empalagosa imagen de la Esperanza que emerge por último de la vasija para calmar las almas de los hombres. En las representaciones de la Grecia clásica, Pandora aparece como un autómata astuto: la pintura en vasija más famosa de ella muestra a una joven de pie, rígida, con una sonrisa inquietante.
Además, en la antigüedad, la Esperanza se personificaba como una joven llamada Elpis, y por lo general representaba una falta de previsión. Más que un beneficio, la Esperanza simbolizaba la incapacidad de mirar hacia el futuro o de elegir con sensatez entre posibles resultados; representaba el pensamiento ilusorio, no un optimismo que sostiene la vida. Y para los griegos, era solo otra manifestación de kalos kakon: un mal hermoso que se había desatado sobre los humanos. Por ello, al menos un artista antiguo representó a Elpis/Esperanza, de forma muy parecida a Pandora, con una sonrisa burlona.
Con la IA y el aprendizaje automático evolucionando rápidamente hacia una tecnología de «caja negra», el símbolo de la vasija sellada de Pandora ha adquirido un nuevo significado. Pronto, la lógica operativa de los sistemas de toma de decisiones basados en IA será incomprensible no solo para sus usuarios, sino también para sus creadores. Entre otras amenazas, la posibilidad de que los sistemas de IA sean hackeados por actores malintencionados, o desplegados por terroristas y tiranos, se cierne ahora como una gran amenaza.
Cuando el fundador de Facebook, Mark Zuckerberg, el Andrew McAfee del MIT, Lili Cheng, de Microsoft, y otros optimistas de la IA nos aseguran que la IA traerá grandes beneficios, es inevitable pensar en Epimeteo y Elpis. ¿Deberíamos confiar realmente en que la humanidad se adapte y resuelva los problemas que plantea la IA a medida que surjan?
Parece más sensato prestar atención a pensadores prometeicos modernos como el fallecido Stephen Hawking, el fundador de Microsoft Bill Gates, y los otros 115 líderes tecnológicos que en 2017 alertaron sobre la amenaza de la IA y la robótica armadas. «No tenemos mucho tiempo para actuar», advirtieron. «Una vez abierta esta caja de Pandora, será difícil cerrarla». Además, las preocupaciones de estos prometeicos han sido respaldadas por el cofundador de Google, Sergey Brin, y por especialistas en ética de la IA como Joanna Bryson y Patrick Lin, quienes advierten contra aceptar imprudentemente los «dones» de la IA antes de averiguar cómo controlarlos.
Según encuestas recientes, el optimismo sobre los beneficios potenciales de la IA ha disminuido considerablemente entre quienes desarrollan sistemas de IA. Comprender cómo funciona la IA parecería correlacionarse con expectativas más realistas. En lugar de una esperanza ciega, la previsión basada en el conocimiento y la experiencia debería guiar la forma en que gestionamos el futuro de esta tecnología y nuestra relación con ella.
