Es una de las personas más inteligentes del mundo. Es una estrella de cine. Y ahora también participa en la serie «Ask Me Anything» de Reddit (AMA). El físico Stephen Hawking respondió esta semana a las preguntas de su sesión de AMA. ¿Se le escapó algo? Hemos resumido a continuación las preguntas y respuestas.
P: ¿Es malvada la inteligencia artificial?
R. El verdadero riesgo de la IA no es la malicia, sino la competencia. Una IA superinteligente será extremadamente buena para alcanzar sus objetivos, y si esos objetivos no están alineados con los nuestros, tendremos problemas. Probablemente usted no sea un enemigo malvado de las hormigas que las pisa por malicia, pero si está al frente de un proyecto hidroeléctrico de energía verde y hay un hormiguero en la región que va a inundarse, peor para las hormigas. No pongamos a la humanidad en la posición de esas hormigas. Por favor, anime a sus estudiantes a pensar no solo en cómo crear IA, sino también en cómo garantizar su uso beneficioso.
P: ¿Debemos preocuparnos por las amenazas de la IA ahora mismo o solo en un futuro lejano?
R: La segunda opción. No existe consenso entre los investigadores de IA sobre cuánto tiempo tardará en construirse una IA de nivel humano y más allá, así que, por favor, no confíe en quien afirme saber con certeza que sucederá durante su vida o que no sucederá durante su vida. Cuando finalmente ocurra, es probable que sea lo mejor o lo peor que le haya pasado nunca a la humanidad, por lo que hay un enorme valor en hacerlo bien. Deberíamos cambiar el objetivo de la IA: pasar de crear inteligencia artificial pura y sin dirección a crear inteligencia beneficiosa. Puede que se tarden décadas en averiguar cómo hacerlo, así que empecemos a investigarlo hoy, en lugar de la noche antes de que se active la primera IA fuerte.
P: ¿Puede la inteligencia artificial llegar a ser «más inteligente» que su creador, el ser humano?
R: Es claramente posible que algo adquiera una inteligencia superior a la de sus antepasados: evolucionamos para ser más inteligentes que nuestros antepasados semejantes a simios, y Einstein era más inteligente que sus padres. La línea a la que se refiere es aquella en la que una IA se vuelve mejor que los humanos diseñando IA, de modo que puede mejorarse a sí misma de forma recursiva sin ayuda humana. Si esto ocurre, podríamos enfrentarnos a una explosión de inteligencia que acabe dando lugar a máquinas cuya inteligencia supere a la nuestra en más de lo que la nuestra supera a la de los caracoles.
P: ¿Tendría una IA los mismos impulsos básicos que los humanos, es decir, sobrevivir y reproducirse?
R: Una IA diseñada en lugar de evolucionar puede, en principio, tener cualquier impulso u objetivo. Sin embargo, como destaca Steve Omohundro, una IA futura extremadamente inteligente probablemente desarrollará un impulso de sobrevivir y adquirir más recursos como paso hacia la consecución de cualquier objetivo que tenga, porque sobrevivir y disponer de más recursos aumentará sus probabilidades de alcanzar ese otro objetivo. Esto puede causar problemas a los humanos a quienes se les quiten sus recursos.
P: ¿Llegará el mundo a sufrir «desempleo tecnológico» debido a la automatización avanzada?
R: Si las máquinas producen todo lo que necesitamos, el resultado dependerá de cómo se distribuyan las cosas. Todos podrán disfrutar de una vida de ocio lujoso si la riqueza producida por las máquinas se comparte, o la mayoría de la gente puede acabar en una pobreza miserable si los propietarios de las máquinas logran ejercer presión con éxito contra la redistribución de la riqueza. Hasta ahora, la tendencia parece apuntar a la segunda opción, con una tecnología que impulsa una desigualdad cada vez mayor.
Puede leer el AMA completo con Stephen Hawking, así como miles de comentarios adicionales de lectores, en Reddit.
¿Ya lo ha leído?
Stephen Hawking: «Todos somos viajeros en el tiempo»
Autor: Stephen Hawking, físico teórico, cosmólogo, escritor y director de investigación del Centro de Cosmología Teórica de la Universidad de Cambridge. Reportaje de Peter Vanham, responsable de Medios, EE. UU. e Industrias, Relaciones con los Medios, Foro Económico Mundial
Imagen: el físico teórico Stephen Hawking se dirige a una reunión pública en Ciudad del Cabo el 11 de mayo de 2008. REUTERS/Mike Hutchings
