Algunos de los principales actores de la inteligencia artificial (IA) se han unido para pedir que toda investigación se centre en los beneficios que podemos obtener de la IA «evitando al mismo tiempo posibles inconvenientes». La investigación en IA sigue buscando nuevas formas de desarrollar tecnologías capaces de realizar tareas que actualmente llevan a cabo los seres humanos, pero no está exenta de críticas y preocupaciones.
No estoy seguro de que el famoso físico teórico británico Stephen Hawking entendiera la ironía, pero resultó algo irónico que recientemente celebrara la llegada del software predictivo más inteligente que controla su habla advirtiéndonos que:
El desarrollo de una inteligencia artificial completa podría significar el fin de la raza humana.
Por supuesto, Hawking no es el único que opina así. El empresario en serie y tecnólogo Elon Musk también advirtió el año pasado que:
[…] debemos tener mucho cuidado con la inteligencia artificial. Si tuviera que adivinar cuál es nuestra mayor amenaza existencial, probablemente sería esa.
Ambos abordan una cuestión que toca miedos psicológicos profundos que han atormentado a la humanidad durante siglos. ¿Qué ocurre si nuestras creaciones acaban provocando nuestra propia caída? Este temor se expresa en historias como Frankenstein, de Mary Shelley.
Una carta abierta sobre la IA
En respuesta a estas preocupaciones, investigadores destacados de la industria y el mundo académico (así como Hawking y Musk) acaban de firmar una carta abierta .
Entre las firmas figuran las del presidente de la Association for the Advancement of Artificial Intelligence, los fundadores de las startups de IA DeepMind y Vicarious, y reconocidos investigadores de Google, Microsoft, Stanford y otras instituciones.
Por transparencia, mi firma también figura entre las primeras de la lista, que sigue recibiendo más apoyo cada día.
La carta sostiene que existe ahora un amplio consenso en que la investigación en IA avanza de manera constante y que probablemente su impacto en la sociedad aumentará.
Por este motivo, la carta concluye que debemos empezar a investigar cómo garantizar que los sistemas de IA, cada vez más capaces, sean robustos (en su comportamiento) y beneficiosos (para los seres humanos). Por ejemplo, debemos averiguar cómo crear sistemas de IA que generen mayor prosperidad para la sociedad, incluso para quienes pierdan su empleo.
La carta incluye un enlace a un documento que expone algunas prioridades de investigación interdisciplinaria que deberían abordarse antes de desarrollar la inteligencia artificial. Entre ellas hay prioridades a corto plazo, como optimizar los beneficios económicos, y prioridades a largo plazo, como poder verificar las propiedades formales de los sistemas de IA.
La amenaza de la IA para la sociedad
Hollywood ha ofrecido muchas visiones memorables de la amenaza que la IA podría representar para la sociedad, desde 2001: Una odisea del espacio de Arthur C. Clarke, pasando por Robocop y Terminator hasta películas recientes como Her y Transcendence, todas las cuales presentan una visión distópica de un futuro transformado por la IA.
En mi opinión (que comparten muchos de mis colegas), es probable que aún falte tiempo para que la IA pueda amenazar el futuro de nuestra sociedad.
Durante los últimos 30 o 40 años, los investigadores de IA han venido prediciendo que tardaremos otros 30 o 40 años. Y si se les pregunta hoy a la mayoría, seguirán diciendo (como yo) que probablemente harán falta otros 30 o 40 años.
Lograr que las computadoras se comporten de manera inteligente es un problema científico difícil de resolver. El cerebro humano es, por órdenes de magnitud, el sistema más complejo que conocemos. Replicar el tipo de inteligencia que muestran los seres humanos probablemente requerirá avances importantes en IA.
El cerebro humano realiza toda su magia con solo 20 vatios de potencia. Es una obra de ingeniería extraordinaria.
Otros riesgos para la sociedad
También hay peligros más inmediatos que afronta la humanidad, como el cambio climático o la actual crisis financiera mundial. Estos requieren atención inmediata.
El Future of Humanity Institute de la Universidad de Oxford tiene una larga lista de amenazas además de la IA que ponen en peligro nuestra sociedad, entre ellas:
la nanotecnología
la biotecnología
el agotamiento de los recursos
la superpoblación.
Esto no significa que no haya aspectos de la IA que deban recibir atención en un futuro próximo.
El debate sobre el futuro de la IA
La Campaign to Stop Killer Robots está impulsando el debate sobre si debemos prohibir las armas totalmente autónomas.
Estoy organizando un debate sobre este tema en la próxima conferencia anual de la Association for the Advancement of Artificial Intelligence, que tendrá lugar a finales de este mes en Austin, Texas, en Estados Unidos.
Steve Goose, director de la División de Armas de Human Rights Watch, defenderá la prohibición, mientras que Ron Arkin, roboticista y roboeticista estadounidense, argumentará en contra.
Otra cuestión que requiere atención más inmediata es el impacto que tendrá la IA en la naturaleza del trabajo. ¿Cómo se adapta la sociedad a una mayor automatización y a que se necesiten menos personas para trabajar?
Si logramos hacerlo bien, podríamos eliminar gran parte de las tareas tediosas de nuestras vidas. Si lo hacemos mal, las crecientes desigualdades documentadas por el economista francés Thomas Piketty solo empeorarán.
Debatiremos todas estas cuestiones y otras más en el primer International Workshop on AI and Ethics, que también se celebrará en Estados Unidos en el marco de la AAAI Conference on Artificial Intelligence.
Es importante que empecemos a tener estos debates ahora, no solo para evitar posibles inconvenientes, sino también para construir un futuro en el que la IA mejore el mundo para todos.
Este artículo se publica en colaboración con The Conversation. La publicación no implica que el Foro Económico Mundial respalde las opiniones expresadas.
Para seguir las novedades del Foro: Agenda, suscríbase a nuestro boletín semanal.
Autor: Toby Walsh es profesor y líder del grupo de investigación del Optimisation Research Group en NICTA.
Imagen: Twendy-One, un robot diseñado para ayudar a personas mayores y con discapacidad en las tareas del hogar, muestra cómo sirve una tostada en la Universidad de Waseda, en Tokio, el 8 de enero de 2009. REUTERS/Issei Kato.
