El famoso físico teórico, Stephen Hawking, ha reavivado el debate sobre si nuestra búsqueda de una inteligencia artificial mejorada conducirá algún día a máquinas pensantes que nos sustituyan.
El científico británico hizo esta afirmación durante una entrevista amplia con la BBC. Hawking padece la enfermedad de la neurona motora, esclerosis lateral amiotrófica (ELA), y en la entrevista se habló de una nueva tecnología que está usando para comunicarse.
Funciona modelando el uso previo que hace de las palabras para predecir cuáles utilizará a continuación, de forma similar a la escritura predictiva disponible en muchos teléfonos inteligentes.
Pero el profesor Hawking también expresó su preocupación por el desarrollo de máquinas que podrían superarnos.
«Una vez que los humanos desarrollen inteligencia artificial, esta despegará por sí sola y se rediseñará a un ritmo cada vez mayor», según se informó, dijo a la BBC.
«El desarrollo de una inteligencia artificial completa podría significar el fin de la raza humana».
¿Podrían las máquinas pensantes tomar el control?
Agradezco que alguien de tanto renombre, capacidad y credibilidad como el profesor Hawking plantee la posibilidad de que los ordenadores tomen el control (y algún día acaben con la humanidad), y merece una respuesta breve.
La cuestión de la inteligencia de las máquinas se remonta al menos al descifrador de códigos británico y padre de la informática, Alan Turing , quien en 1950 se planteó la pregunta: «¿Pueden pensar las máquinas?».
La posibilidad de que estas máquinas inteligentes tomen el control se ha debatido de una u otra forma en diversos medios populares y expresiones culturales. Pensemos en las películas Colossus: el proyecto Forbin (1970) y Westworld (1973), y, más recientemente, en Skynet, de la película de 1984 Terminator y sus secuelas, por nombrar solo algunas.
Todas ellas tienen en común la cuestión de delegar responsabilidades en las máquinas. La noción de la singularidad tecnológica (o superinteligencia artificial) se remonta al menos al pionero de la inteligencia artificial, Ray Solomonoff , quien en 1967 advirtió:
Aunque no hay perspectivas de que existan máquinas muy inteligentes en un futuro próximo, los peligros que plantean son muy graves y los problemas, muy difíciles. Sería conveniente que un gran número de personas inteligentes dedicaran mucha reflexión a estos problemas antes de que se presenten. En mi opinión, la realización de la inteligencia artificial será un suceso repentino. En cierto momento del desarrollo de la investigación no habremos tenido experiencia práctica con una inteligencia de máquina de ningún nivel serio; un mes más tarde, tendremos una máquina muy inteligente y todos los problemas y peligros asociados con nuestra inexperiencia.
Además de formular esta variante de la advertencia de Hawking ya en 1967, en 1985 Solomonoffse esforzó por establecer un plazo para la singularidad tecnológica y reflexionar sobre sus efectos sociales.
Comparto las preocupaciones de Solomonoff, Hawking y otras personas sobre las consecuencias de máquinas más rápidas e inteligentes, pero el autor, informático e inventor estadounidense Ray Kurzweil es uno de los muchos que ven los beneficios.
Sea quien sea quien resulte tener razón (siempre que nuestro planeta no sea destruido entretanto por algún otro peligro), creo que Solomonoff fue visionario al defender en 1967 que dedicáramos mucha reflexión a este asunto.
Las máquinas ya están tomando el control
Mientras tanto, vemos que se delegan cada vez más responsabilidades en las máquinas. Por un lado, puede tratarse de calculadoras de mano, cálculos matemáticos rutinarios o sistemas de posicionamiento global (GPS).
Por otro lado, pueden ser sistemas de control del tráfico aéreo, misiles guiados, camiones sin conductor en explotaciones mineras o las recientes pruebas de coches sin conductor en nuestras carreteras.
Los seres humanos delegan responsabilidades en las máquinas por motivos como mejorar el tiempo, el coste y la precisión. Pero las pesadillas que podrían surgir ante daños causados, por ejemplo, por un vehículo sin conductor incluirían cuestiones legales, de seguros y de atribución de responsabilidades.
Se sostiene que los ordenadores podrían tomar el control cuando su inteligencia supere la de los seres humanos. Pero también hay otros riesgos asociados con esta delegación de responsabilidades.
Fallos en las máquinas
Algunos sostendrían que la caída de la bolsa de 1987 se debió en gran medida a las operaciones bursátiles informatizadas.
También se han producido cierres de redes eléctricas debido a errores informáticos. Y, a menor escala, mi corrector ortográfico intrusivo a veces «corrige» lo que escribo y lo convierte en algo potencialmente ofensivo. ¿Un error informático?
Los fallos de hardware o software pueden ser difíciles de detectar, pero aun así pueden causar estragos en sistemas a gran escala, incluso sin hackers ni intenciones maliciosas, y probablemente más aún si los hay. Entonces, ¿cuánta confianza podemos depositar realmente en que las máquinas con grandes responsabilidades hagan un trabajo mejor que nosotros?
Aunque los ordenadores no tomen el control de forma consciente, puedo imaginar diversos caminos por los que los sistemas informáticos se descontrolen. Estos sistemas podrían ser tan rápidos y tener componentes tan pequeños que resultara difícil repararlos e incluso apagarlos.
En parte siguiendo el espíritu del artículo de Solomonoff de 1967 , me gustaría que guionistas e investigadores de inteligencia artificial colaboraran para plantear escenarios de este tipo y estimular aún más el debate público.
Como un posible escenario, quizá parte del habla se convierta mal a texto, empeore con una mala traducción automática y provoque una corrupción sutil de las instrucciones de la máquina, que desemboque en cualquier clase de caos.
Otra posible caja de Pandora, quizá relacionada, podría derivarse de análisis más rápidos de macrodatos sobre el cerebro humano mediante métodos estadísticos y aprendizaje automático. (Y, como algunos se atreverían a añadir, ¿somos los seres humanos los garantes de todo lo bueno, moral y correcto?)
Como dijo Solomonoff en 1967, necesitamos este debate público y, dada la importancia de lo que está en juego, creo que ahora lo necesitamos pronto.
Publicado en colaboración con The Conversation
Autor: David Dowe es profesor asociado en la Facultad de Tecnología de la Información Clayton de la Universidad de Monash.
Imagen: Un competidor sostiene en alto uno de sus robots futbolistas para la cámara durante el torneo Robocup en Singapur, el 22 de junio de 2010. REUTERS/Vivek Prakash.
