Comentarios recientes de Elon Musk y Stephen Hawking, así como un nuevo libro sobre la superinteligencia de las máquinas del profesor de Oxford Nick Bostrom, han despertado en los medios la preocupación de que la inteligencia artificial (IA) pueda algún día suponer una amenaza existencial para la humanidad. ¿Deberíamos preocuparnos?
Empecemos por la opinión de los expertos. Una encuesta reciente entre los científicos de IA vivos más citados del mundo arrojó tres conclusiones principales:
Los científicos de IA esperan firmemente que la «inteligencia de máquina de alto nivel» (HLMI, por sus siglas en inglés) —es decir, una IA que «pueda desempeñar la mayoría de las profesiones humanas al menos tan bien como una persona típica»— se construya en algún momento de este siglo. Sin embargo, consideran muy difícil predecir cuándo ocurrirá esto a lo largo del siglo.
Suponiendo que la HLMI se construya en algún momento, los científicos de IA esperan que la superinteligencia de las máquinas —una IA que «supere ampliamente el rendimiento de todos los seres humanos en la mayoría de las profesiones»— aparezca en las décadas siguientes.
Los científicos de IA están divididos sobre si la HLMI tendrá un impacto positivo o negativo en la humanidad. Los encuestados asignaron probabilidades a cinco clases distintas de resultados, desde «catástrofe existencial» hasta «extremadamente bueno». La categoría de resultado con la mayor probabilidad media asignada fue «bueno en conjunto» (40%). La probabilidad media asignada a «catástrofe existencial» fue de apenas el 8%.
En primer lugar, ¿deberíamos confiar en la opinión de los expertos sobre el momento en que llegarán la HLMI y la superinteligencia de las máquinas? A fin de cuentas, los científicos de IA son expertos en construir sistemas prácticos de IA, como drones militares, Siri de Apple y el motor de búsqueda y el coche autónomo de Google; no son expertos en hacer pronósticos a largo plazo. Además, su historial de predicciones sobre los avances de la IA es como mucho, irregular. Así que quizá no deberíamos dar demasiado peso a encuestas como esta.
Pero ¿podemos hacerlo mejor que la opinión de los expertos? Un análisis retrospectivo de más de 1.000 pronósticos tecnológicos sugiere que los modelos y los análisis cuantitativos de tendencias suelen superar a la opinión de los expertos tanto en los pronósticos a corto plazo como en los de largo plazo. Por desgracia, esos métodos son difíciles de aplicar para pronosticar la inteligencia de máquina de alto nivel. Las predicciones basadas en la ley de Moore y tendencias similares en el hardware informático han resultado relativamente acertadas, pero estas tendencias nos dicen poco sobre cuándo llegará la HLMI, porque esta depende no solo del hardware disponible, sino también de avances en algoritmos de IA que son difíciles de predecir.
Dada esta incertidumbre, deberíamos ser escépticos tanto ante las afirmaciones tajantes de que la HLMI llegará pronto como ante las que aseguran que tardará mucho en llegar.
En segundo lugar, ¿qué hay del impacto social? Antes de llegar a conclusiones, es importante aclarar dos ideas equivocadas comunes sobre el argumento habitual a favor de considerar la IA una amenaza existencial (eventual):
El argumento de que la IA es una amenaza existencial que merece atención hoy no presupone que la HLMI vaya a llegar pronto ni que las capacidades de la IA mejoren «exponencialmente».
Nick Bostrom y yo estamos entre quienes consideran que la IA es una amenaza existencial (eventual) que merece atención hoy. Pero no creemos que las capacidades de la IA progresen «exponencialmente» en general y, de hecho, ambos prevemos que la HLMI tardará más en llegar de lo que suelen creer los científicos de IA. Promovemos más investigación para comprender y mitigar estos riesgos, no porque creamos probable que la HLMI llegue en las próximas dos décadas, sino porque creemos que garantizar resultados positivos de los sistemas de IA más inteligentes que los seres humanos probablemente requerirá varias décadas de investigación y coordinación, como ocurre, por ejemplo, con la gestión del cambio climático. Para consultar listas de estudios técnicos y estratégicos que podrían llevarse a cabo hoy, véase aquí y aquí.
La preocupación no es que la HLMI «despierte» de repente y quiera exterminarnos. Más bien, es que la extinción de la humanidad sea un efecto secundario de que la HLMI utilice racionalmente todos los recursos disponibles para alcanzar sus objetivos.
Probablemente la HLMI no «despertará» de repente ni será maliciosa. Esos escenarios antropomorfizan demasiado los sistemas de IA. Pero, a diferencia de los sistemas sencillos de IA actuales, la HLMI formulará y ejecutará planes de manera autónoma para alcanzar sus objetivos, ya sea maximizar la producción de clips, ganar unas elecciones o detectar posibles terroristas en todo el mundo. Y, como ha el libro de texto sobre IA más destacado del mundo, explicado el informático de UC Berkeley Stuart Russell, coautor de ese libro, el problema es que:
«[Los objetivos de la IA] podrían no estar perfectamente alineados con los valores de la humanidad, que son, en el mejor de los casos, muy difíciles de definir».
Todo sistema inteligente suficientemente capaz preferirá garantizar su propia continuidad y adquirir recursos físicos y computacionales, no por sí mismos, sino para cumplir la tarea que se le haya asignado.
O, como escribió una vez mi colega de MIRI Eliezer Yudkowsky: «La IA no te ama ni te odia, pero estás hecho de átomos que puede usar para otra cosa».
Pero estos puntos por sí solos no demuestran que la IA suponga una amenaza existencial grave para la humanidad. Quizá los desafíos técnicos de seguridad parezcan menos intimidantes después de unas décadas más de investigación sobre IA. Quizá, cuando el riesgo se acerque, el mundo se una y resuelva el problema, como hicimos con los clorofluorocarbonos que dañaban la capa de ozono tras el Protocolo de Montreal.
La buena noticia es que el debate sobre el riesgo de la IA ha comenzado en serio y que se están destinando recursos, aunque modestos pero cada vez mayores, a averiguar cuán grave es el riesgo y qué podemos hacer para mitigarlo. Quizá el estudio del riesgo de la IA a largo plazo haya alcanzado la etapa a la que habían llegado los estudios sobre los clorofluorocarbonos en 1980, y pronto descubramos que el desafío no es tan difícil de superar como temían los pesimistas. O quizá hayamos llegado a la etapa a la que habían llegado los estudios sobre el cambio climático en 1975, cuando no había consenso, pero unos pocos científicos dedicados al tema habían reunido las primeras pruebas del calentamiento antropogénico. El tiempo lo dirá.
Autor: Luke Muehlhauser es director ejecutivo del Machine Intelligence Research Institute y miembro del Consejo de la Agenda Global sobre Inteligencia Artificial y Robótica del Foro Económico Mundial.
Imagen: La mano del robot humanoide AILA (androide ligero de inteligencia artificial) acciona un cuadro de mandos durante una demostración del Centro Alemán de Investigación en Inteligencia Artificial en la feria informática CeBit, en Hannover, el 5 de marzo de 2013. REUTERS/Fabrizio Bensch.
