Expertos de distintos ámbitos se reunieron este mes en la Reunión Anual de los Consejos Mundiales del Futuro del Foro Económico Mundial.
El profesor Stuart Russell, informático, dijo a los asistentes que el mundo debe superar el «solucionismo» de la IA.
Algunos de los mayores desafíos de la IA deben resolverse mediante nuevas formas de colaboración y planteando las preguntas adecuadas, afirmó Russell.
Desde la simulación de moléculas un millón de veces más rápida que hace 10 años, hasta la posibilidad de aplicar la inteligencia artificial (IA) para una atención sanitaria de calidad, las aplicaciones de la IA ofrecen numerosas oportunidades potenciales para impulsar los negocios, mejorar la vida de las personas y afrontar los desafíos globales.
Pero la IA no es la solución universal a los problemas, y tener una idea más clara de qué es y qué no es la IA será fundamental para superar el «solucionismo», afirma Stuart Russell, catedrático de Informática en la Universidad de California, Berkeley.
Durante su intervención en la sesión plenaria inaugural de la Reunión Anual de los Consejos Mundiales del Futuro del Foro Económico Mundial, Russell explicó que el «solucionismo» es la actitud según la cual, con datos suficientes, los algoritmos de aprendizaje automático pueden ofrecer una solución para todos nuestros problemas. También habló de cómo desmentir los conceptos erróneos más comunes sobre la IA y de la mejor manera de avanzar en este campo de estudio.
¿Cómo está el Foro Económico Mundial creando salvaguardias para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Favorece un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
¿Qué es la inteligencia artificial?
Russell comenzó destacando lo sorprendente que puede resultar que muchos de nosotros tengamos dificultades para definir algo que vemos cada día en las portadas de los periódicos.
Un concepto erróneo es pensar en la IA como una tecnología. «La inteligencia artificial es un campo de estudio, no una tecnología», y se define por el problema de cómo desarrollar máquinas capaces de realizar tareas comúnmente asociadas a los seres inteligentes, explicó Russell.
Un segundo concepto erróneo es pensar que la IA es algo nuevo, cuando en realidad lleva 80 años en desarrollo. Lo que sí es nuevo, añadió, es la velocidad a la que avanza hoy el progreso.
El progreso parece acelerarse hacia el objetivo que se planteó muy al principio de la investigación: crear máquinas que igualen o superen el rendimiento humano en todas las tareas concebibles.
«Si creamos sistemas más poderosos que nosotros, surge una pregunta evidente: ¿cómo conservamos el poder sobre entidades más poderosas que nosotros para siempre?», dijo.
«Alan Turing, quien fundó la informática, pronunció un discurso en 1951 en el que decía que ‘una vez que el pensamiento de las máquinas se hubiera iniciado, pronto superaría nuestras débiles capacidades. En algún momento tendríamos que esperar que las máquinas tomaran el control’. Esa fue su respuesta: que no podemos mantener ese poder», dijo Russell. «Lo que está claro es que más nos vale dar respuesta a estas preguntas antes de producir esas máquinas que son más poderosas que nosotros».
Cuando se le preguntó por los avances en esta cuestión por parte del Foro Económico Mundial, en su Consejo Mundial del Futuro sobre el Futuro de la Inteligencia Artificial, Russell respondió que «tenemos algunas respuestas parciales a esa pregunta, pero esas respuestas parciales no están listas para el mercado.
«No son escalables y no compiten con las tecnologías que las empresas están lanzando al mercado, ni con las tecnologías en las que las empresas están invirtiendo decenas de miles de millones al mes para desarrollarlas, escalarlas y hacerlas aún más potentes.»
Añadió que «esas tecnologías no tienen ninguna posibilidad de ser seguras. No seremos capaces de controlarlas porque ni siquiera entendemos cómo funcionan».
«Así pues, la pregunta que debemos plantearnos es cómo pueden los gobiernos diseñar regulaciones para que las empresas construyan sistemas de IA seguros desde su diseño, en lugar de limitarse a construir sistemas de IA e intentar después hacerlos seguros, sin conseguirlo.»
¿Qué se necesita para mantener el control sobre la IA?
Algunos de los mayores desafíos en el ámbito de la IA deben resolverse mediante la colaboración y planteando las preguntas adecuadas, afirmó Russell.
A diferencia de otros sectores, la industria digital no cuenta con los mismos estudios secundarios ni informes de impacto que la orienten, añadió. «Escribimos unos pocos millones de líneas de software y las lanzamos al mundo, le guste o no.»
Este enfoque no tiene en cuenta el contexto, o más concretamente la integración sociotécnica, de un tipo particular de software.
«¿Qué ocurre cuando se toma una gran pieza de software y se introduce en el mundo, en un lugar concreto? Supongamos que tiene un software que realiza la clasificación por urgencia de los casos de emergencia en un hospital, y lo instala en una sala de urgencias. ¿Qué ocurre?»
«¿Mejora o empeora las cosas? En informática no nos planteamos esa pregunta. Preguntamos si es bueno en la clasificación por urgencia. Pero esa no es la pregunta correcta», destacó Russell.
«La pregunta correcta es si mejora o empeora las cosas», explicó, señalando la necesidad de contar con la ayuda de sociólogos, economistas, especialistas en negocios y otros profesionales para analizar qué preguntas plantear al desarrollar software.
A largo plazo, plantearse las preguntas adecuadas es fundamental. Por ejemplo, ¿qué papel tendrán los seres humanos cuando las máquinas puedan realizar muchas tareas mejor que nosotros? Si tenemos una IA de propósito general, ¿podrán los humanos coexistir con ella? ¿Qué papel tendrán los seres humanos cuando las máquinas lo hagan todo mejor que nosotros?
Y, por último: «¿Cuál es el futuro que queremos, en el que tengamos esta tecnología y, al mismo tiempo, seamos una civilización dinámica y con visión de futuro, y, esperemos, mucho mejor que la actual? Y si no se puede imaginar ese futuro, si no se puede describirlo, entonces hay que preguntarse por qué vamos hacia allí».
«Esta es una pregunta para toda nuestra civilización», explicó.
¿Confía la sociedad en la IA?
Comprender si las sociedades confían en la IA es fundamental para contextualizar estas observaciones.
Lo que está claro es que la confianza en la IA varía de forma significativa entre países, con un rango que va desde el 75 % de los encuestados en una encuesta mundial que se muestran algo dispuestos a confiar en la IA en India, hasta menos del 30 % en Estonia, Japón o Finlandia.
La aceptación también varía de forma significativa según el sector, con un 44 % de personas dispuestas a confiar en la aplicación de la IA en la atención sanitaria para el diagnóstico y el tratamiento, mientras que un 31 % adicional se mostró ambivalente.
Este mayor nivel de disposición a confiar en la IA en la atención sanitaria probablemente refleja los importantes beneficios inmediatos que una mejor precisión en el diagnóstico y el tratamiento médicos aporta a los pacientes, junto con una mayor confianza en los médicos en muchos países.
En un contexto de confianza variable, y dado que los avances tecnológicos ya están transformando los sistemas en los que operamos, la cuestión de las regulaciones gubernamentales para diseñar sistemas de IA seguros y la necesidad imperiosa de mantener el control sobre la IA quizá sean más importantes que nunca.
En este contexto, la cuestión de qué futuro en el que tengamos IA junto con una civilización dinámica y con visión de futuro es una cuestión que nos concierne a todos.
