Las promesas y los peligros de la IA: Stuart Russell en Radio Davos

• La IA, inteligencia artificial, está transformando todos los aspectos de nuestra vida.

• El profesor Stuart Russell afirma que debemos hacer que la IA sea «compatible con los seres humanos».

• Debemos prepararnos para un mundo en el que las máquinas sustituyan a las personas en la mayoría de los empleos.

• La IA de las redes sociales cambia a las personas para que hagan más clics, afirma Russell.

• «Hemos dejado que los algoritmos actúen sin restricciones durante demasiado tiempo», afirma.

• Página del episodio: https://www.weforum.org/podcasts/radio-davos/episodes/ai-stuart-russell

Seis de cada 10 personas en todo el mundo esperan que la inteligencia artificial cambie profundamente sus vidas en los próximos tres a cinco años, según una nueva encuesta de Ipsos para el Foro Económico Mundial en la que participaron casi 20.000 personas de 28 países.

La mayoría afirmó que los productos y servicios que utilizan IA ya les facilitan la vida en ámbitos como la educación, el entretenimiento, el transporte, las compras, la seguridad, el medioambiente y la alimentación. Pero solo la mitad dice confiar en las empresas que utilizan IA tanto como en otras empresas.

Pero ¿qué es exactamente la inteligencia artificial? ¿Cómo puede resolver algunos de los mayores problemas de la humanidad? ¿Y qué amenazas representa la propia IA para la humanidad?

Kay Firth-Butterfield, responsable de inteligencia artificial y aprendizaje automático del Centro para la Cuarta Revolución Industrial del Foro Económico Mundial, se unió al presentador de Radio Davos, Robin Pomeroy, para explorar estas preguntas con Stuart Russell, uno de los mayores expertos mundiales en IA.

Informes sobre IA y audio mencionados en este pódcast:

Futuros económicos positivos con IA

Kit de herramientas de IA para la alta dirección

Encuesta de Ipsos

Conferencias Reith de Stuart Russell (BBC)

Stuart Russell explica por qué el futuro de la IA está en nuestras manos.

02:49

Transcripción: Las promesas y los peligros de la IA: Stuart Russell en Radio Davos

Kay Firth-Butterfield: Es un placer presentar a Stuart, que ha escrito dos libros sobre inteligencia artificial: Human Compatible: Artificial Intelligence and the Problem of Control. Pero quizá el libro al que te referías cuando dijiste que había «escrito literalmente el libro sobre inteligencia artificial» sea Artificial Intelligence: A Modern Approach; es el libro con el que la mayoría de los estudiantes de todo el mundo aprende IA. Stuart y yo nos conocimos en 2014, en una conferencia que dio en el Reino Unido sobre sus preocupaciones por las armas autónomas letales. Aunque hoy no hablaremos de eso, lleva años trabajando incansablemente en la ONU para lograr la prohibición de esas armas. Stuart ha colaborado ampliamente con nosotros en el Foro Económico Mundial. En 2016 se convirtió en copresidente del Consejo Global de IA y Robótica del Foro Económico Mundial. Luego, en 2018, se incorporó a nuestro Consejo Global de IA. Como miembro del Consejo, nos impulsó a pensar en cómo lograr futuros positivos con la IA, planificando y desarrollando políticas desde ahora para abrir camino hacia ese futuro.

Robin Pomeroy: Stuart, estás en pantalla con nosotros por Zoom. Es un placer conocerte.

Stuart Russell: Muchas gracias por invitarme. Me alegra mucho reunirme contigo y con Kay.

Robin: ¿En qué lugar del mundo estás ahora?

Stuart: Estoy en Berkeley, California.

Robin: Donde eres profesor. He estado escuchando tus conferencias en BBC Radio 4 y en el World Service, las Conferencias Reith. Así que ahora siento que soy un experto, cosa que no podía decir hace un par de semanas. Pero empecemos desde el principio. Para alguien que solo tiene una idea vaga de lo que es la inteligencia artificial —todos sabemos qué son los ordenadores y usamos aplicaciones—, ¿cuánto de eso es inteligencia artificial? ¿Y adónde nos llevará en el futuro, más allá de lo que ya tenemos?

Stuart: En realidad, es sorprendentemente difícil trazar una línea clara y decir: «Bueno, este programa es IA y aquel no». En este campo, cuando pensamos en IA, el objeto del que hablamos es algo que llamamos «agente»: algo que actúa según lo que haya percibido. Las percepciones pueden provenir de una cámara o de un teclado. Las acciones pueden consistir en mostrar cosas en una pantalla, girar el volante de un coche autónomo, disparar un proyectil desde un tanque o cualquier otra cosa. El objetivo de la IA es garantizar que las acciones resultantes sean las adecuadas, es decir, que logren los objetivos que hemos fijado para el agente. Esto se relaciona con un concepto que existe desde hace mucho tiempo en economía y filosofía, llamado «agente racional»: un agente cuyas acciones pueden alcanzar sus objetivos.

Eso es lo que intentamos hacer. Y los agentes pueden ser muy, muy sencillos. Un termostato es un agente. Tiene percepción: simplemente mide la temperatura. Y tiene acciones: encender o apagar la calefacción. Además, sigue dos reglas muy simples: si hace demasiado calor, la apaga; si hace demasiado frío, la enciende. ¿Eso es IA? En realidad, no importa demasiado si queremos llamarlo IA o no. No hay una línea divisoria clara, como decir: «Si tiene 17 reglas, es IA; si solo tiene 16, no lo es». Eso no tendría sentido. Así que lo vemos como un continuo que va desde agentes extremadamente sencillos hasta agentes extremadamente complejos, como los seres humanos.

Hoy en día hay sistemas de IA por todas partes en la economía: los motores de búsqueda son sistemas de IA. Ya no se limitan a buscar palabras clave; intentan entender tu consulta. Alrededor de un tercio de las consultas que llegan a los motores de búsqueda se responde con bases de conocimiento, en lugar de limitarse a mostrar páginas web donde encontrar la respuesta. De hecho, te dan la respuesta porque disponen de muchos conocimientos en un formato legible por máquina.

Los altavoces inteligentes y los asistentes digitales del teléfono son sistemas de IA. La traducción automática —que uso mucho porque tengo que pagar impuestos en Francia— hace un gran trabajo al traducir una legislación fiscal francesa incomprensible a una legislación fiscal inglesa incomprensible. No me ayuda mucho, pero la traducción es muy buena. Y luego está el coche autónomo, que diría que es una aplicación bastante paradigmática de la IA, pues pone a prueba muchas capacidades: percibir, entender la situación y tomar decisiones complejas que deben tener en cuenta los riesgos y las numerosas eventualidades posibles que pueden surgir al conducir. Y, por supuesto, en el extremo más avanzado están los seres humanos.

Robin: En algún momento del futuro, las máquinas, la IA, podrán hacer todo lo que puede hacer una persona, pero mejor. ¿Es eso hacia lo que nos dirigimos?

Stuart: Sí. Ese siempre ha sido el objetivo: lo que llamo «IA de propósito general». También se conoce con otros nombres: IA a nivel humano, IA superinteligente e inteligencia artificial general. Pero me decanté por «IA de propósito general» porque suena un poco menos amenazante que «IA superinteligente». Y, como dices, se refiere a sistemas de IA capaces de realizar cualquier tarea que los seres humanos puedan llevar a cabo con su intelecto o, si todavía no pueden hacerla, de aprender a hacerla muy rápidamente y desempeñarla tan bien como las personas o mejor. Creo que la mayoría entiende que, una vez alcanzado el nivel humano en una tarea determinada, no es tan difícil superarlo. Las máquinas tienen enormes ventajas en capacidad de cálculo, velocidad y ancho de banda; pueden almacenar y recuperar información de la memoria a un ritmo que los cerebros humanos no pueden igualar.

Robin: Kay, te cedo la palabra y me aparto un poco. Si quieres, seré tu copresentador. Yo también tengo muchísimas preguntas, así que me meteré de vez en cuando, para tu disgusto. Pero, básicamente, el resto de la entrevista es todo tuyo.

Kay: Gracias. Stuart, has mencionado algunos ejemplos de IA con los que nos encontramos constantemente. Pero una de las formas en que los seres humanos, desde los más jóvenes hasta los mayores, utilizan la IA a diario es en las redes sociales. Oímos hablar mucho de la radicalización a través de las redes sociales. De hecho, en una conferencia reciente a la que asistí, Cédric O, ministro de Tecnologías de la Información de Francia, describió la IA como la mayor amenaza actual para la democracia. ¿Podrías explicar a nuestros oyentes cómo el uso actual de la IA impulsa esa polarización de ideas?

Stuart: Creo que es una pregunta de enorme importancia. El problema para responderla es que, en realidad, no conocemos la respuesta, porque los datos están guardados bajo llave en las empresas de redes sociales. Básicamente, son billones de eventos por semana: ¡billones! Hay miles de millones de personas que interactúan con las redes sociales cientos de veces al día, y cada una de esas interacciones —hacer clic, deslizar, descartar, indicar que algo gusta o no, dar un pulgar arriba o abajo; lo que se te ocurra— genera datos a los que no se puede acceder. Ni siquiera puede hacerlo, por ejemplo, el consejo de supervisión de Facebook, que supuestamente debe vigilar esto y para eso fue creado. Pero ese consejo no tiene acceso a los datos internos.

Hay algunos indicios anecdóticos y conjuntos de datos que nos permiten realizar análisis sugerentes, pero diría que no son concluyentes. Sin embargo, si pensamos en cómo funcionan los algoritmos, lo que intentan hacer es maximizar los clics. Quieren que hagas clic en cosas, interactúes con contenido o pases tiempo en la plataforma; esta última es una métrica ligeramente distinta, pero, en esencia, mide lo mismo.

Y podrías decir: «Bueno, de acuerdo, la única manera de que la gente haga clic en cosas es enviarles aquello que les interesa. ¿Qué tiene eso de malo?». Pero esa no es la respuesta. Así no se maximizan los clics. Para maximizarlos, se envía a las personas una cadena de contenido que las transforma en alguien más propenso a hacer clic en el contenido que se les pueda enviar en el futuro.

Así que, según los modelos matemáticos que hemos creado, los algoritmos han aprendido a manipular a las personas y cambiarlas para que en el futuro sean más propensas a interactuar y se pueda obtener más ingresos de ellas.

Al mismo tiempo, por supuesto, ha surgido una enorme industria impulsada por personas para alimentar todo este proceso: la industria del ciberanzuelo y la de la desinformación. La gente se ha apropiado de la capacidad de los algoritmos para cambiar a las personas con gran rapidez. Hay cientos de interacciones al día y cada una supone un pequeño empujón. Pero si empujas a alguien cientos de veces al día durante días seguidos, puedes cambiar mucho sus creencias, preferencias y opiniones. A los algoritmos no les importan tus opiniones; solo les importa que seas susceptible a lo que te envían. Pero a las personas sí les importa, y se han apropiado del proceso para aprovecharse de él y crear la polarización que les conviene para sus fines. Creo que es fundamental que tengamos más visibilidad. Los investigadores de IA la quieren porque queremos entender lo que ocurre y ver si podemos solucionarlo. Los gobiernos la quieren porque temen que toda su estructura social se esté desintegrando o que otros países, a los que no les importan sus intereses, los estén socavando.

Robin: Stuart, ¿sabemos si eso es una especie de efecto secundario de los algoritmos o si alguien lo incorporó a los algoritmos en algún momento? ¿La polarización?

Stuart: Creo que es un efecto secundario. Estoy dispuesto a conceder a las plataformas de redes sociales el beneficio de la duda: no creo que lo pretendieran. Pero sabemos que, cuando los algoritmos funcionan bien en el sentido de que generan muchos ingresos y beneficios para la empresa, se crea mucha presión para no cambiarlos. Así que, de forma consciente o inconsciente, los algoritmos quedan protegidos por una superestructura multinacional que genera y disfruta los miles de millones de dólares que producen, y que quiere proteger esa fuente de ingresos.

Kay: Stuart, has dicho que nos «manipulan», pero también que a los algoritmos no les importa. ¿Podrías explicar cómo sería uno de esos algoritmos? Y supongo que no le importa porque no sabe nada de los seres humanos.

Stuart: Así es. No sabe siquiera que existen los seres humanos. Desde el punto de vista del algoritmo, cada persona no es más que un historial de clics. ¿Qué se mostró y la persona hizo clic o no? Así que, digamos que las últimas 100 o 1.000 interacciones son esa persona. El algoritmo aprende entonces cómo tomar esas mil interacciones y elegir qué enviar a continuación. Lo llamamos una «política»: decide qué enviar a continuación, dada la historia de las interacciones. La política se aprende con el tiempo para maximizar la tasa de clics a largo plazo. Así que no solo intenta elegir lo mejor que te pueda hacer clicar a continuación. También elige, por la forma en que está construido el algoritmo, aquello que producirá los mejores resultados a largo plazo.

Es como si quisiera llegar a San Francisco desde aquí, ¿no? Elaboro un plan a largo plazo y luego empiezo a ejecutarlo: me levanto de la silla y hago otras cosas, ¿no? El algoritmo emprende una especie de viaje y ha aprendido a llegar a destinos donde las personas son más predecibles. Esa previsibilidad es lo que le importa al algoritmo para maximizar los ingresos. De todos modos, los algoritmos no serían conscientes, pero no actúan deliberadamente con el objetivo explícito de radicalizar a las personas, convertirlas en terroristas ni nada por el estilo. En cambio, los algoritmos futuros, que sepan mucho más, que sepan que las personas existen, que tenemos mente y una psicología particular, y que somos susceptibles a cosas distintas, podrían ser mucho más eficaces. Creo que al principio esto parece un poco paradójico: cuanto mejor es la IA, peor es el resultado.

Kay: Has hablado del aprendizaje de los algoritmos, algo que creo que mucha gente no entiende del todo. Llevamos mucho tiempo usando programas informáticos, pero esto es un poco diferente.

Stuart: En realidad, gran parte del software que hemos estado usando se creó mediante un proceso de aprendizaje. Por ejemplo, los sistemas de reconocimiento de voz. Nadie introduce una regla para distinguir entre «cat» y «cut». Simplemente damos al algoritmo muchos ejemplos de «cat» y muchos ejemplos de «cut», y el algoritmo aprende la regla que los distingue ajustando los parámetros de algo que puedes imaginar como un gran circuito con muchos pesos o intensidades de conexión ajustables. Al ajustar esos pesos, cambia la salida del circuito y este empieza a distinguir mejor entre «cat» y «cut». Intentas ajustar los pesos para que coincidan con los datos de entrenamiento, es decir, los ejemplos etiquetados, como decimos: los «cat» y los «cut». A medida que avanza el ajuste de todos los pesos, acaba ofreciendo un rendimiento perfecto o casi perfecto con los datos de entrenamiento. Luego esperas que, cuando aparezca un nuevo ejemplo de «cat» o «cut», lo clasifique correctamente. Así es como entrenamos los sistemas de reconocimiento de voz, y se hace desde hace décadas. Ahora lo hacemos un poco mejor, así que nuestros sistemas de reconocimiento de voz son más precisos y mucho más robustos: pueden entenderte incluso cuando conduces y hablas por una línea de teléfono móvil con interferencias. Ahora son lo bastante buenos como para entender lo que dices.

Por ejemplo, cuando compras un programa de reconocimiento de voz, como uno de dictado, suele haber una fase de aprendizaje posterior a la compra. El programa ya funciona bastante bien, pero puede mejorar aún más si se entrena específicamente con tu voz. Te da algunas frases para leer en voz alta y esos datos adicionales le permiten ser aún más preciso contigo.

Así que puedes pensar que lo que ocurre con los algoritmos de las redes sociales es algo parecido: una especie de personalización posterior a la compra. Están aprendiendo sobre ti. Al principio pueden recomendar artículos que interesan a la población general, que, por lo que veo, parecen ser los de Kim Kardashian. Pero, después de interactuar contigo durante un tiempo, aprenderán que, en realidad, prefieres recibir los resultados de críquet o algo así.

Kay: ¿Ocurre lo mismo con el reconocimiento facial? Oímos hablar mucho del reconocimiento facial, de los errores que puede cometer y de las personas de color. ¿Se debe a que los datos son incorrectos?

Stuart: Por lo general, no se debe a que los datos sean incorrectos. En ese caso, se debe a que hay muchos menos ejemplos de determinados tipos de personas en los datos. Cuando hay pocos ejemplos, la precisión para ese subgrupo es menor. Es una cuestión muy polémica y resulta bastante difícil lograr que las distintas partes del debate se pongan de acuerdo sobre si se pueden eliminar estas diferencias en las tasas de reconocimiento creando conjuntos de datos más representativos. Y, por supuesto, no existe un conjunto de datos perfectamente representativo. Lo que sería perfectamente representativo depende de si estás en Namibia, Japón, Islandia o Mongolia. No necesariamente sería apropiado usar exactamente los mismos datos en esos cuatro contextos. Por eso, estas cuestiones no son tanto técnicas como «sociotécnicas». Lo que importa es qué sucede cuando se implementa un sistema de IA en un contexto determinado y funciona durante un tiempo. Pasan muchas cosas. Por ejemplo, la gente podría empezar a evitar los lugares donde hay cámaras, pero quizá solo un tipo de personas evite esos lugares mientras que a las demás no les importe. Así se crea un nuevo sesgo en la recopilación de datos, y resulta muy difícil entender ese sesgo porque no se puede prever quién evitará la zona con cámaras. Aún estamos muy lejos de contar con una verdadera disciplina de ingeniería o un método científico que nos ayude a comprender cómo se integran sociotécnicamente los sistemas de IA, qué efectos pueden tener y cómo influye la sociedad en ellos y en su funcionamiento. Y, al final, ¿estamos todos mejor o peor? Los primeros indicios anecdóticos apuntan a que hay muchas maneras extrañas de que las cosas salgan mal, y ni siquiera las esperamos porque no estamos acostumbrados a pensar en ellas.

En la planificación urbana, en cambio, se ha aprendido a lo largo de siglos que pasan cosas inesperadas. Si amplías una carretera, crees que mejorará el tráfico, pero a veces resulta que las carreteras más anchas empeoran la circulación. Lo mismo ocurre al preguntarse si conviene construir un puente sobre el río. Se ha aprendido a pensar realmente en las consecuencias: por ejemplo, peatonalizar una calle puede parecer buena idea, pero el tráfico se desplaza a otro lugar y empeora la situación en el siguiente barrio. Hay toda clase de cuestiones complejas, y apenas estamos empezando a explorarlas; todavía no tenemos una disciplina adecuada. No existe nada equivalente a la planificación urbana para los sistemas de IA y su integración sociotécnica.

Kay: Creo que fue en 2019 cuando viniste a proponerme una idea: optimizar de verdad los beneficios de la IA para las personas y, en particular, de la IA de propósito general, de la que hablaste antes con Robin. Necesitamos replantearnos los sistemas políticos y sociales que utilizamos. Íbamos a encerrar en una habitación a varias personas, en concreto economistas y escritores de ciencia ficción. Nunca lo hicimos porque llegó la COVID. Pero organizamos unos talleres interesantísimos, y me gustaría que nos contaras un poco por qué te pareció importante y qué ideas surgieron de ellos.

Stuart: Quiero tranquilizar a quienes nos ven: no planeábamos encerrar literalmente a nadie en una habitación; era una metáfora. La preocupación, o la pregunta, era: ¿qué ocurre cuando la IA de propósito general llega a la economía real? ¿Cómo cambian las cosas? ¿Y podemos adaptarnos sin provocar una enorme dislocación? Es una cuestión muy antigua. Sorprendentemente, incluso Aristóteles tiene un pasaje en el que dice: «Imaginen que tuviéramos telares totalmente automatizados y plectros capaces de tocar la lira y producir música sin necesidad de seres humanos: entonces no necesitaríamos trabajadores». Es una idea asombrosa para el año 350 a. C.

Esa idea, que Keynes llamó «desempleo tecnológico» en 1930, es muy obvia para la gente, ¿no? Piensan: «Claro, si la máquina hace el trabajo, me quedaré sin empleo». A los luditas les preocupaba lo mismo. Durante mucho tiempo, los economistas creyeron tener una demostración matemática de que el desempleo tecnológico era imposible. Pero piénsalo: si la tecnología pudiera crear un doble de cada persona de la Tierra, más alegre, con menos resaca y dispuesto a trabajar gratis, ¿cuántos conservaríamos el empleo? Creo que ninguno. Así que hay algo que falla en el teorema matemático de los economistas.

Durante la última década, más o menos, la opinión en economía ha cambiado mucho. Y, de hecho, fue la primera Davosreunión a la que asistí, en 2015. Hubo una cena supuestamente para hablar de la «nueva economía digital». Pero los economistas que se levantaron —había allí varios ganadores del Premio Nobel y otros economistas muy distinguidos— se fueron levantando uno por uno y dijeron: «Saben, en realidad no quiero hablar de la economía digital. Quiero hablar de la IA y del desempleo tecnológico, y este es el mayor problema que afrontamos en el mundo, al menos desde el punto de vista económico». Porque, por lo que alcanzaban a ver, a medida que la IA de propósito general se convirtiera cada vez más en una realidad —ahora mismo aún estamos lejos de eso—, veríamos sistemas de IA capaces de realizar cada vez más tareas que los seres humanos hacen en el trabajo.

Por poner un ejemplo, si pensamos en los almacenes que Amazon y otras empresas utilizan actualmente para el comercio electrónico, están semiautomatizados. Funcionan así: en lugar de tener un almacén antiguo, con montones de cosas amontonadas por todas partes, donde las personas rebuscan y luego las llevan de vuelta para enviarlas, hay un robot que va a buscar la estantería que contiene lo que necesitas y se la lleva al trabajador. Así que el trabajador permanece en un sitio mientras estos robots van recogiendo estanterías con productos y se las acercan. Pero la persona tiene que sacar el objeto de la caja o de la estantería, porque eso todavía es demasiado difícil.

Y hay, digamos, entre tres y cuatro millones de personas en el mundo que tienen ese empleo. Al mismo tiempo, Amazon organizó un concurso sobre cómo recoger productos de cajas: ¿se podía crear un robot lo bastante preciso como para recoger prácticamente cualquier objeto —y hay una variedad muy amplia de objetos que se pueden comprar— de estanterías, cajas, etc., hacerlo con precisión y luego enviarlo a la unidad de despacho? Eso eliminaría de golpe entre tres y cuatro millones de empleos. Y el sistema ya está preparado para hacerlo. Así que no haría falta reorganizarlo todo: bastaría con poner un robot donde estaba la persona.

A la gente le preocupan los coches autónomos. Cuando sean una realidad, un taxi autónomo quizá cueste una cuarta parte que un taxi normal. Así que se ve lo que pasaría, ¿no? Creo que hay unos 25 millones de taxistas, formales o informales, en el mundo. El impacto sería algo mayor. Y, por supuesto, esto continúa con cada nueva capacidad. Se automatizan más tareas. ¿Podemos seguir el ritmo de ese cambio, encontrando otras cosas que las personas puedan hacer y luego formándolas para realizar esas nuevas tareas que quizá no sepan hacer? Está muy bien decir: «Ah, simplemente volveremos a capacitar a todo el mundo para que se convierta en científico de datos». Pero, en primer lugar, no necesitamos 2.500 millones de científicos de datos. Ni siquiera estoy seguro de que necesitemos 2,5 millones. Así que eso no es más que una gota en el océano.

Pero hay otras cosas; sí, necesitamos más personas que puedan atender a los adultos mayores. Pero no es tan fácil tomar a alguien que ha sido camionero durante 25 años y capacitarlo para trabajar en el sector de la atención geriátrica. Dar clases particulares a niños pequeños. Hay muchas otras necesidades insatisfechas en nuestro mundo. Creo que eso es obvio para casi todo el mundo: hay necesidades insatisfechas. Las máquinas quizá puedan satisfacer algunas, pero los seres humanos solo pueden hacerlo si reciben formación y tienen los conocimientos, la aptitud e incluso la inclinación para realizar ese tipo de trabajos.

La pregunta que nos hacíamos era: «De acuerdo, si este proceso continúa y la IA de propósito general hace prácticamente todo lo que hoy llamamos trabajo, ¿cómo será el mundo o cómo sería un mundo en el que querrías que vivieran tus hijos?». En la ciencia ficción encontramos modelos de mundos que parecen bastante deseables. Pero, como economías, no se sostienen. Así que los economistas dicen: «En ese mundo los incentivos no funcionarían: estas personas dejarían de hacer eso y aquellas harían otra cosa, y todo sería inestable». Y los economistas no suelen inventar cosas, ¿verdad? Solo hablan de que podríamos subir este impuesto o, ya sabes, bajar este tipo de interés. Todos los economistas de Davos que hablaron dijeron: «Quizá podríamos tener un seguro de desempleo privado». Bueno, sí, ¡eso sí que resuelve el problema! Así que quería reunir a estos dos grupos, para combinar la imaginación con una comprensión económica realista.

Robin: Me intriga saber quiénes eran optimistas y quiénes pesimistas: los economistas o los escritores de ciencia ficción. Imagino que a los escritores de ciencia ficción les encantan un poco las distopías y las cosas que salen terriblemente mal. Pero me pregunto si la otra cara de la moneda es que, en realidad, tienen una visión más optimista que los economistas, que están inmersos en el mundo real, donde las cosas salen mal constantemente. ¿Notaste alguna tendencia en uno u otro sentido?

Stuart: Como dices, a los escritores de ciencia ficción les gustan las distopías, pero los economistas son en su mayoría pesimistas; desde luego, lo eran los que estaban en la cena, y he interactuado con muchos durante estos talleres. Creo que muchos economistas siguen viendo que hay efectos compensatorios: no es tan sencillo como decir que, si la máquina hace el trabajo X, la persona deja de hacer el trabajo X y, por tanto, queda desempleada. Existen esos efectos compensatorios. Si una máquina hace algo de forma más barata, eficiente y productiva, aumenta la riqueza total, lo que a su vez incrementa la demanda de los demás empleos de la economía. Así se produce una especie de redistribución del trabajo desde los sectores que se están automatizando hacia los que todavía no lo están. Pero si se automatiza todo, entonces surge el argumento de los gemelos, ¿no? Es como crear un gemelo de cada persona dispuesto a trabajar gratis. Así que hay que pensar si existen ámbitos que no vamos a automatizar, ya sea porque no queremos o porque los seres humanos son intrínsecamente mejores. Esa es, creo, una visión optimista, y se podría sostener que Keynes compartía esa visión. La llamó «perfeccionar el arte de vivir». Nos enfrentaremos al problema permanente del ser humano: cómo vivir de manera agradable, sensata y plena. Y quienes cultiven mejor el arte de vivir tendrán mucho más éxito en ese futuro.

Así que cultivar el arte de vivir es algo que los seres humanos entienden. Entendemos qué es la vida y podemos ayudarnos unos a otros porque nos parecemos mucho. Tenemos los mismos sistemas nerviosos. Suelo poner el ejemplo de golpearse el pulgar con un martillo. Si alguna vez te ha pasado, sabes cómo se siente y puedes empatizar con otra persona a la que le ocurra.

No hace falta tener un doctorado en neurociencia para saber qué se siente al golpearse el pulgar con un martillo; y, si no te ha pasado, puedes hacerlo y ya lo sabrás, ¿no? Así que tenemos esta ventaja intrínseca para saber qué se siente: saber qué se siente cuando te rechaza el amor de tu vida, cuando pierdes a uno de tus padres, cuando quedas último en tu clase en la escuela, y cosas así. Así que tenemos esta ventaja comparativa adicional frente a las máquinas. Eso significa que los seres humanos probablemente tendrán una ventaja real en ese tipo de profesiones, las profesiones interpersonales. De hecho, creo que cada vez más personas se dedicarán a esos ámbitos. Algunas profesiones interpersonales, como la de asesor ejecutivo, están relativamente bien remuneradas porque prestan servicios a personas muy ricas y a empresas. Pero otras, como cuidar niños, están pésimamente pagadas, aunque supuestamente nos importan muchísimo nuestros hijos, más que nuestro director ejecutivo. Sin embargo, pagamos a alguien 5 dólares la hora y le dejamos comer todo lo que quiera de la nevera para cuidar de nuestros hijos, mientras que, si nos rompemos una pierna, pagamos a un cirujano ortopédico 5.000 dólares la hora y le dejamos comer todo lo que quiera de la nevera para que nos la arregle. ¿Por qué? Porque él sabe cómo hacerlo y la niñera no. Algunas son buenas y otras son absolutamente terribles. Como la niñera que me enseñó, o intentó enseñarnos a mi hermana y a mí, a fumar cuando teníamos siete y nueve años.

Robin: Alguien tiene que hacerlo.

Stuart: ¡Alguien tiene que hacerlo! Para que esta visión del futuro funcione, necesitamos una base científica completamente distinta, orientada hacia las ciencias humanas. ¿Cómo? ¿Cómo se mejora la vida de otra persona? ¿Cómo se educa a un niño, con su personalidad, sus rasgos y características particulares, y todo lo demás, para que tenga, como decía Keynes, la capacidad de vivir con sensatez, de manera agradable y plena? Sabemos muy poco sobre eso. Y llevará mucho tiempo cambiar toda la orientación de nuestra investigación científica y nuestro sistema educativo para que esta visión sea realmente viable desde el punto de vista económico. Si ese es el destino, debemos empezar a prepararnos para el viaje cuanto antes. La idea de estos talleres era imaginar posibles destinos y luego determinar qué implicaciones políticas tienen para el presente.

Kay: Así que estos destinos de los que hablamos pertenecen al futuro. Sé que esto puede ser como leer el futuro en una bola de cristal, pero ¿cuándo podríamos esperar que llegue la IA de propósito general, para poder prepararnos? Dices que tenemos que prepararnos ahora.

Stuart: Creo que es una pregunta muy difícil de responder. Y tampoco es una cuestión de todo o nada. El impacto irá aumentando. Cada avance en la IA amplía de manera significativa la gama de tareas que se pueden realizar. Como sabes, hemos estado trabajando en coches autónomos, y la primera demostración de conducción en autopista tuvo lugar en 1987. ¿Por qué ha tardado tanto? Principalmente porque las capacidades perceptivas de los sistemas eran insuficientes, y parte del problema era simplemente el hardware. Se necesita una cantidad enorme de hardware para procesar vídeo de alta resolución y alta frecuencia de fotogramas. Ese problema ya se ha resuelto en gran medida. Así que, con la percepción visual, ahora se abre toda una gama de posibilidades, no solo los coches autónomos: podemos empezar a pensar en robots que trabajen en la agricultura, robots que recojan piezas en los almacenes, etcétera. Solo esa capacidad podría afectar fácilmente a 500 millones de empleos. Y cuando se consiga comprender el lenguaje, eso podría afectar a otros 500 millones. Cada uno de estos cambios provoca esta gran expansión.

Así que estas cosas ocurrirán. No se podrá precisar la fecha exacta de llegada de la IA de propósito general. No será un solo día: «Ah, hoy ha llegado; ayer no la teníamos». Creo que la mayoría de los expertos dicen que, para finales de siglo, es muy, muy probable que tengamos IA de propósito general. La mediana de las estimaciones se sitúa en torno a 2045, y eso no está tan lejos: faltan menos de 30 años. Yo soy algo más prudente. Creo que el problema es más difícil de lo que pensamos. Pero me gustó lo queJohn McCarthy, uno de los fundadores de la IA, dijo cuando le hicieron esta pregunta: «Bueno, en algún momento entre cinco y 500 años». Y creo que necesitaremos varios Einsteins para lograrlo.

Robin: Por el lado positivo, si estas máquinas van a ser tan brillantes, ¿llegará el día en que simplemente digamos: «Acaben con el hambre en el mundo, resuelvan el cambio climático»? Y ellas se pondrán manos a la obra, y les daremos seis meses, o el plazo razonable que sea. Y de repente habrán resuelto el cambio climático. En una de tus conferencias Reith abordas el tema del cambio climático. Lo reduces a un ámbito concreto, la acidificación de los océanos. E imaginas un escenario en el que una máquina puede solucionar la acidificación de los océanos causada por el cambio climático. Pero hay un gran «pero». ¿Puedes explicarnos cuál es el problema cuando se encarga a una IA una tarea específica?

Stuart: Hay una gran diferencia entre pedirle algo a una persona y fijar eso como objetivo de un sistema de IA. Cuando le pides a una persona que te traiga una taza de café, no quieres decir que esa sea la misión de su vida y que nada más en el universo importe, aunque tenga que matar a todos los demás en Starbucks para traerte el café antes de que cierre. No es eso lo que quieres decir. Y, por supuesto, también debería tener en cuenta todas las demás cosas que nos importan a todos.

El problema de cómo construimos los sistemas de IA ahora es que les damos un objetivo fijo. Los algoritmos nos exigen especificar todos los detalles del objetivo. Y si dices: «¿Podemos solucionar la acidificación de los océanos?», sí, se podría usar una reacción catalítica que lo hiciera de manera muy eficiente, pero que consumiera una cuarta parte del oxígeno de la atmósfera, lo que aparentemente nos haría morir de forma bastante lenta y desagradable en el transcurso de varias horas. ¿Cómo evitamos este problema? Podrías decir: «De acuerdo, pues especifiquemos el objetivo con más cuidado. No olvidemos el oxígeno atmosférico». Y entonces, por supuesto, la reacción en el océano podría tener como efecto secundario envenenar a todos los peces. «De acuerdo, pues tampoco quería que matara a los peces». Y luego, «¿y las algas? De acuerdo, que no haga nada que provoque la muerte de todas las algas», y así sucesivamente. ¿No? La razón por la que no tenemos que hacer eso con los seres humanos es que muchas veces saben que no conocen todas las cosas que nos importan. Así que es probable que vuelvan a preguntar. Si le pides a una persona que te traiga una taza de café y estás en el hotel George V de París, donde creo que una taza cuesta 13 euros, es totalmente razonable que vuelva y diga: «Bueno, cuesta 13 euros. ¿Seguro que quieres que te traiga uno? También puedo ir al local de al lado y conseguirlo por mucho menos», ¿no? Eso se debe a que quizá no conozca tu sensibilidad al precio del café. No sabe si quieres gastar tanto. Y es completamente normal que una persona pregunte. «Voy a volver a pintar tu casa, ¿está bien si quito los tubos de desagüe y luego los vuelvo a poner?». No pensamos que eso sea una capacidad muy sofisticada, pero los sistemas de IA no la tienen porque, tal como los construimos ahora, tienen que conocer el objetivo completo.

Y en mi libro Compatible con los humanos que mencionó Kay, la idea principal es que, si construimos sistemas que saben que no conocen el objetivo, empiezan a mostrar comportamientos como pedir permiso antes de eliminar todo el oxígeno de la atmósfera. Y lo hacen porque eso supondría un cambio en el mundo, y el algoritmo quizá no sepa si lo preferimos o no. Por eso tiene un incentivo para preguntar: quiere evitar hacer algo que no se prefiera. Así se obtiene un comportamiento mucho más sólido y controlable. Y, en el caso extremo, si queremos apagar la máquina, en realidad querrá que la apaguen, porque quiere evitar hacer aquello que nos está molestando. Quiere evitarlo. No sabe qué está haciendo que nos molesta, pero quiere evitarlo. Así que quiere que la apaguemos si eso es lo que queremos. En todos estos sentidos, el control del sistema de IA proviene de la incertidumbre de la máquina sobre cuál es el verdadero objetivo. Cuando se construyen máquinas que creen con certeza que conocen el objetivo, es cuando aparece un comportamiento psicopático, y creo que vemos lo mismo en los seres humanos.

Kay: ¿Y eso ayudaría con esos algoritmos básicos de los que hablábamos, los que nos conducen por el camino de la radicalización? ¿O solo se aplica a la IA de propósito general?

Stuart: No, se aplica en todas partes. De hecho, hemos estado construyendo algoritmos diseñados según estos principios. Se puede plantear como un problema matemático formal. Lo llamamos «juego de asistencia»; «juego» en el sentido de la teoría de juegos, es decir, problemas de decisión en los que interviene más de una entidad. Así que implica que la máquina y el ser humano están acoplados precisamente por la incertidumbre sobre el objetivo humano. Y se pueden resolver esos juegos de asistencia. Se pueden derivar matemáticamente algoritmos que encuentran una solución, y luego examinarla y decir: «¡Vaya, sí, pidió permiso!» o «la parte humana de la solución realmente quiere enseñar a la máquina, porque quiere asegurarse de que entienda las preferencias humanas y así evitar errores».

En las redes sociales, este es probablemente el problema más difícil, porque no se trata solo de que hagan cosas que no nos gustan, sino de que en realidad cambian nuestras preferencias. Se podría decir que ese es un modo de fallo de cualquier sistema de IA que intenta satisfacer las preferencias humanas, algo que parece muy razonable. Una forma de satisfacerlas es cambiarlas para que ya estén satisfechas. Creo que los políticos son bastante buenos en eso. Y no queremos que los sistemas de IA hagan lo mismo. Pero es un problema particularmente difícil, porque no es que todos los usuarios de las redes sociales se odien a sí mismos, ¿no? No es así. No están sentados diciendo: «¡Cómo se atreve a convertirme en un exaltado neofascista!». Creen que su nuevo neofascismo es, en realidad, lo correcto y que antes vivían engañados. Así llegamos a algunos de los problemas más difíciles de la filosofía moral actual. ¿Cómo se actúa en nombre de alguien cuyas preferencias cambian con el tiempo? ¿Se actúa en nombre de la persona actual o de la futura? ¿Cuál de las dos? Y no hay una buena respuesta a esa pregunta. Creo que esto apunta a lagunas en nuestra comprensión de la filosofía moral. En ese sentido, resulta muy difícil desentrañar lo que está ocurriendo en las redes sociales.

Pero creo que una de las cosas que recomendaría es simplemente un cambio de mentalidad en las plataformas de redes sociales. En lugar de pensar: «De acuerdo, ¿cómo generamos ingresos?», pensar: «¿Qué les importa a nuestros usuarios? ¿Cómo quieren que sea el futuro? ¿Qué tipo de personas quieren ser?». Y si no lo sabemos —y creo que la respuesta es que no lo sabemos—, es decir, tenemos miles de millones de usuarios, todos distintos y con preferencias diferentes. No sabemos cuáles son esas preferencias. Pensemos en maneras de crear sistemas que al principio tengan mucha incertidumbre sobre las verdaderas preferencias del usuario y que intenten conocerlas mejor, pero respetándolas. Lo más difícil es que no se puede decir: «No toques las preferencias del usuario; bajo ninguna circunstancia puedes cambiarlas», porque basta con leer el Financial Times para que cambien. Uno se informa más. Aprende sobre toda clase de puntos de vista y luego se convierte en una persona distinta. Y queremos que las personas cambien con el tiempo. No queremos seguir siendo bebés recién nacidos para siempre. Pero no tenemos una buena manera de decir: «Bueno, este proceso de convertir a una persona en una persona nueva es bueno». Consideramos que la educación universitaria es buena o que viajar por el mundo es bueno. Por lo general, esas cosas hacen mejores a las personas, mientras que el lavado de cerebro es malo, y también es malo lo que las sectas hacen a las personas, y así sucesivamente. Pero lo que ocurre en las redes sociales está justo en un punto en el que no sabemos cómo responder a estas preguntas. Así que realmente necesitamos la ayuda de filósofos morales y otros pensadores.

Robin: Antes citaste a Keynes diciendo que, cuando las máquinas hagan todo nuestro trabajo, los seres humanos podrán cultivar esto: vivir la vida más plena posible en una época de abundancia. Pero, claro, él escribía antes de que todo el mundo pasara su tiempo libre desplazándose por las redes sociales.

Stuart: Hay una historia interesante que E. M. Forster escribió. Forster solía escribir novelas sobre la alta sociedad británica y la decadencia de la moral victoriana. Pero en 1909 escribió un relato de ciencia ficción titulado La máquina se detiene que recomiendo mucho. En él, todo el mundo depende por completo de las máquinas. Usan el correo electrónico y sufren por la acumulación de correos sin leer. Hacen muchas videoconferencias o reuniones por Zoom. Tienen iPads.

Robin: ¿Cómo pudo E. M. Forster escribir sobre los iPads?

Stuart: Exactamente. Lo llamó disco de vídeo, pero, ya sabes, es exactamente un iPad. Y, ya sabes, la gente se vuelve obesa por no hacer ejercicio porque está todo el tiempo pegada al correo electrónico en sus pantallas. Y, en realidad, el relato trata de que, si delegas la gestión de tu civilización en las máquinas, pierdes el incentivo para entenderla tú mismo o enseñar a la siguiente generación a comprenderla.

Y además podríamos ver Wall-E como una versión moderna de La máquina se detiene donde todo el mundo queda debilitado e infantilizado por la máquina porque perdimos el incentivo para comprender y dirigir realmente nuestra propia civilización. Y eso no había sido posible hasta ahora, ¿verdad? Hemos plasmado gran parte de nuestra civilización en libros, pero los libros no pueden dirigirla por nosotros. Así que siempre tenemos que enseñar a la siguiente generación. Y, si hacen los cálculos, se trata de alrededor de un billón de años-persona de enseñanza y aprendizaje en una cadena ininterrumpida que se remonta a decenas de miles de generaciones. ¿Y qué ocurre si esa cadena se rompe? Creo que de eso trata la historia. Y es algo que debemos comprender nosotros mismos a medida que avanza la IA.

Robin: Sin embargo, en el lado optimista, las generaciones actuales tienen al alcance de la mano conocimientos y sabiduría que sencillamente no teníamos hace 30 años. Si quiero leer la poesía de William Shakespeare, no tengo que ir a la biblioteca o a una librería: la tengo justo delante; o puedo escuchar sinfonías o aprender a tocar el piano. Envidio a quienes tienen 30 años menos que yo, porque pueden acceder a todos esos conocimientos si deciden no ser como Wall-E.

Stuart: Nunca han oído hablar de William Shakespeare ni de Mozart. Pueden decirte los nombres de todos los personajes de todos los videojuegos. Pero, como ven, creo que esto nos devuelve a la conversación que manteníamos antes sobre cómo debemos pensar en nuestro sistema educativo. Incluso si uno simplemente comparte la opinión de Keynes, su visión optimista del futuro no contemplaba una economía basada en servicios interpersonales, sino únicamente personas que vivieran felices y quizá muchas interacciones voluntarias y una especie de sistema no económico. Pero aun así creía que tendríamos que entender cómo educar a las personas para que pudieran vivir esa vida con éxito. Nuestro sistema actual no lo hace; no está pensado para eso. En realidad, educa a las personas para que desempeñen distintos tipos de funciones económicas, concebidas, según sostienen algunos, para la administración pública británica de finales de la época victoriana. ¿Y cómo se hace eso? No tenemos mucha experiencia, así que tenemos que aprender.

Kay: Has hablado un poco de lo que tenemos que hacer para controlar la inteligencia de propósito general. También hemos hablado de cómo esos principios se aplican hoy a las redes sociales. Azimov tenía tres principios de la robótica, y creo que tú tienes tres principios propios que esperas —y estás poniendo a prueba— para garantizar que toda IA nos dé prioridad a los seres humanos.

Robin: Stuart, antes de que respondas, ¿podría recordarles a los oyentes cuáles son las tres leyes? Acabo de consultar mi IA —Wikipedia— para averiguarlo. Son las leyes del escritor de ciencia ficción Isaac Asimov. Primera ley: un robot no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño. Segunda ley: un robot obedecerá las órdenes dadas por los seres humanos, excepto si estas órdenes entran en conflicto con la primera ley. La tercera ley dice: un robot debe proteger su propia existencia mientras dicha protección no entre en conflicto con la primera o la segunda ley. Así que, Stuart, ¿qué has propuesto en esa línea?

Stuart: Tengo tres principios, en cierto modo como homenaje a Asimov. Pero, en sus relatos, las reglas de Asimov son leyes que, en cierto sentido, los algoritmos de los robots consultan constantemente para decidir qué hacer. Yo concibo los tres principios que presento en el libro como orientaciones para los investigadores de IA sobre cómo plantear el problema matemático que su algoritmo debe resolver.

Así que los tres principios son los siguientes: el primero es que el único objetivo de todas las máquinas debe ser satisfacer las preferencias humanas. «Preferencias» es, en realidad, un término de la economía. No se refiere simplemente a qué tipo de pizza te gusta o por quién votaste. Se refiere a cuál es tu orden de preferencia entre todos los futuros posibles, en todo lo que importa. Es algo muy, muy amplio, complejo y abstracto, la mayor parte del cual nunca podrías explicar, aunque lo intentaras, y parte del cual literalmente desconoces. Porque literalmente no sé si me gustará lafruta durián si la pruebo. A algunas personas les encanta, y a otras les resulta absolutamente repugnante. No sé de qué tipo de persona soy, así que, literalmente, no puedo decirte si me gusta el futuro en el que como durián todos los días. Ese es el primer principio, ¿verdad? Queremos que las máquinas satisfagan las preferencias humanas.

El segundo principio es que la máquina no sabe cuáles son esas preferencias. Así que parte de una incertidumbre inicial sobre las preferencias humanas. Ya hemos hablado de que esta especie de humildad es lo que nos permite conservar el control. En cierto sentido, hace que las máquinas sean deferentes con los seres humanos.

El tercer principio simplemente fundamenta lo que entendemos por preferencias en los dos primeros principios, y establece que el comportamiento humano es la fuente de evidencia sobre las preferencias humanas. Podemos explicarlo un poco más. Básicamente, el modelo sostiene que los seres humanos tenemos preferencias respecto al futuro y que esas preferencias nos llevan a tomar las decisiones que tomamos. El comportamiento abarca todo lo que hacemos y todo lo que no hacemos: hablar, no hablar, sentarnos, leer el correo electrónico mientras vemos esta conferencia o esta entrevista, y demás. Cuando convertimos esos principios en un problema matemático, a eso nos referimos con el «juego de asistencia».

Y hay diferencias importantes con los principios de Asimov. Creo que algunos aspectos sí se reflejan, porque la idea de no permitir que un ser humano sufra daño podría traducirse, en mi opinión, como «satisfacer las preferencias humanas». El daño es, en cierto modo, lo contrario de las preferencias; de ahí, «satisfacer las preferencias humanas». Pero el lenguaje de los principios de Asimov refleja en realidad una mentalidad bastante común hasta los años cincuenta y sesenta: que la incertidumbre no importaba demasiado. Así que uno podría decir: «garantizar que no haya daños», ¿verdad? Pero piénsenlo: un coche autónomo que obedeciera la primera ley de Asimov nunca saldría del garaje, porque no hay forma de garantizar la seguridad en la autopista. Simplemente no se puede, porque otro vehículo siempre podría embestirte por un costado y aplastarte. Por eso hay que tener en cuenta la incertidumbre sobre el mundo, sobre cómo se comportarán los otros agentes y el hecho de que nuestros propios sentidos no nos proporcionan información completa y correcta sobre el estado del mundo. Hay incertidumbre por todas partes. Por ejemplo, ¿dónde está mi coche? No lo veo. Estoy en casa: está por ahí abajo, en algún sitio, pero no estoy seguro de que siga allí. Puede que alguien lo haya robado mientras conversábamos. Hay incertidumbre sobre casi todo en el mundo, y hay que tenerla en cuenta al tomar decisiones.

La tercera ley dice que el robot debe preservar su propia existencia siempre que eso no entre en conflicto con las dos primeras leyes. En el nuevo marco, eso es completamente innecesario, porque si el robot es útil para los seres humanos —es decir, si contribuye a ayudarnos a satisfacer nuestras preferencias—, esa es la razón para que siga existiendo. De lo contrario, no hay ninguna. Si es completamente inútil para nosotros o su existencia continuada nos perjudica, debería acabar con ella sin ninguna duda.

Y si han visto la película Interstellar, que, desde el punto de vista de la IA, es una de las representaciones más precisas y razonables de cómo debería funcionar y colaborar con nosotros, uno de los robots, TARS, se suicida porque, creo, su masa está causando algún problema con el agujero negro, así que dice: «De acuerdo, me voy al agujero negro para que los humanos puedan escapar». Lo hace con toda tranquilidad, mientras los humanos están muy angustiados y dicen: «No, no, no». Y eso se debe a que probablemente crecieron con Asimov. Deberían darse cuenta de que, en realidad, no: esto es totalmente razonable.

Kay: Una de las cosas que espero conseguir al invitarte a participar en este pódcast es que todos los oyentes acaben mucho mejor informados sobre la inteligencia artificial, porque en los medios vemos muchas cosas incorrectas sobre la IA, etc. Acabas de impartir las prestigiosas Conferencias Reith de la BBC y, gracias a tu trabajo, estás llegando a mucha gente. Sé que es difícil, pero ¿qué idea fundamental quieres que nuestros oyentes se lleven sobre la inteligencia artificial?

Stuart: Como sabemos por los memorandos empresariales, siempre hay tres puntos. Me gustaría transmitirles estos tres. El primero es que la IA es una tecnología. No es intrínsecamente buena ni malvada. Esa decisión depende de nosotros, ¿verdad? Podemos usarla bien o hacer un mal uso de ella. Los sistemas de IA mal diseñados entrañan riesgos, sobre todo aquellos que persiguen objetivos mal especificados.

De hecho, creo que durante demasiado tiempo hemos eximido de responsabilidad a los algoritmos en general, no solo a los sistemas de IA, sino a los algoritmos en general. Si lo pensamos, hubo una época en que también eximíamos de responsabilidad a los productos farmacéuticos: no existía la FDA ni ningún otro organismo que regulara los medicamentos, y cientos de miles de personas murieron o resultaron heridas por medicamentos mal formulados, falsificados y todo lo demás. Finalmente, a lo largo de aproximadamente un siglo, desarrollamos un sistema regulador para los medicamentos que es costoso, pero la mayoría cree que es bueno tenerlo. Estamos muy lejos de contar con algo parecido para los algoritmos, aunque quizá estos tengan un efecto enorme en miles de millones de personas en el mundo, en mayor medida incluso que los medicamentos. No creo que sea razonable dar por sentado que ese efecto vaya a ser necesariamente positivo. Creo que los gobiernos están empezando a darse cuenta y se esfuerzan mucho por encontrar la forma de regularlos sin causar un desbarajuste con normas demasiado restrictivas.

El segundo punto: sé que hemos hablado bastante de resultados distópicos, pero el potencial positivo de la IA es enorme, ¿verdad? Y, volviendo a Keynes, sí, realmente podría permitirnos vivir con sensatez, de forma agradable y plena, liberados de la lucha por la supervivencia que ha caracterizado toda la historia de la humanidad.

Hasta ahora, no hemos tenido elección. Tenemos que levantarnos de la cama o moriremos de hambre. En el futuro, tendremos elección. Espero que no decidamos simplemente quedarnos en la cama, sino que encontremos otros motivos para levantarnos y poder llevar una vida plena, interesante y satisfactoria. Eso es algo en lo que Keynes pensó, que predijo y que esperaba con ilusión, pero no ocurrirá automáticamente. Hay todo tipo de resultados distópicos, incluso cuando llegue esta edad dorada.

Y el tercer punto es que, diga lo que digan las películas, no es probable que las máquinas cobren conciencia, decidan que odian a los seres humanos y quieran matarnos.

Encuentra todos nuestros pódcasts aquí.

Suscríbete: Radio Davos; Meet the Leader; Book Club; Agenda Dialogues.

Únete al Club de Pódcasts del Foro Económico Mundial en Facebook.