Stuart Russell, profesor de Informática en la Universidad de California, Berkeley, y autor de Human Compatible, es uno de los expertos en inteligencia artificial más respetados del mundo.
En esta entrevista en vídeo, evalúa el estado actual de la IA, la amenaza que se percibe que supone para nuestras vidas y el poder de los algoritmos en las redes sociales y otros ámbitos.
La entrevista en vídeo forma parte de la nueva serie del Foro Económico Mundial Experts Explain , en la que voces destacadas de la economía, la ciencia y la psicología social comparten sus ideas más importantes.
«Si la tecnología pudiera crear un doble de cada persona de la Tierra, y ese doble fuera más alegre, tuviera menos resaca y estuviera dispuesto a trabajar gratis, ¿cuántos de nosotros conservaríamos el empleo?»
Estas palabras del profesor de Berkeley e informático Stuart Russell dan en el centro de nuestra inquietud ante la inteligencia artificial. ¿Cuánto de lo que hacemos puede aprender a hacer mejor la IA que nosotros? Y ¿cuán seguros nos sentiremos los humanos cuando lo consiga?
En esta entrevista en vídeo en profundidad, Russell aborda la inquietud colectiva ante una distopía tecnológica y explora la función y el alcance de la IA de «propósito general»: desde el humilde termostato doméstico hasta los pitidos y avisos ávidos de atención que nos mantienen pegados a nuestros teléfonos inteligentes.
«Si se incita a alguien cientos de veces al día durante días seguidos, se puede cambiar mucho sus creencias, preferencias y opiniones», afirma Russell.
«Los algoritmos están teniendo un efecto enorme en miles de millones de personas en el mundo. Creo que les hemos dado carta blanca durante demasiado tiempo.
Mira aquí un breve resumen de la entrevista:
¿Prefieres el audio? Además del vídeo, también puedes escuchar una conversación en formato pódcast entre Stuart Russell, nuestro editor de pódcast Robin Pomeroy y Kay Firth-Butterfield, directora de Inteligencia Artificial y Aprendizaje Automático del Foro Económico Mundial.
Aquí está la transcripción completa de la entrevista.
¿Qué es la IA?
Stuart Russell: En realidad, es sorprendentemente difícil trazar una línea clara y decir: bueno, este programa es IA y aquel otro no lo es.
Dentro del campo, cuando pensamos en el objeto del que hablamos, algo que llamamos agente, ¿no?, nos referimos a algo que actúa en función de lo que haya percibido; las percepciones pueden llegar a través de una cámara o un teclado. Las acciones pueden consistir en mostrar cosas en una pantalla, girar el volante de un coche autónomo, disparar un proyectil desde un tanque o lo que sea.
Y el objetivo de la IA es garantizar que las acciones que se producen sean las adecuadas, es decir, que alcancen los objetivos que hemos fijado para el agente. Esto se corresponde con un concepto que existe desde hace mucho tiempo en economía y filosofía: el agente racional. Es decir, un agente cuyas acciones pueden dar lugar al cumplimiento de sus objetivos. Eso es lo que intentamos hacer.
Y pueden ser muy, muy simples. Un termostato es un agente. Tiene percepción: simplemente mide la temperatura. Tiene una acción: encender o apagar la calefacción. Y tiene, por así decirlo, dos reglas muy, muy sencillas. Si hace demasiado calor, apágala. Si hace demasiado frío, enciéndela.
Y, ya sabes, ¿eso es IA? Bueno, en realidad no importa mucho si quieres llamarlo IA o no. No hay una línea divisoria clara. No tendría sentido decir: si tiene 17 reglas es IA, pero si solo tiene 16, no lo es. Así que lo vemos como un continuo, desde agentes extremadamente simples hasta agentes extremadamente complejos, como los seres humanos.
¿Qué es la IA de «propósito general»?
Ese siempre ha sido el objetivo: lo que llamo IA de propósito general. Tiene otros nombres: IA de nivel humano, IA superinteligente, inteligencia artificial general. Pero me decanté por «IA de propósito general» porque suena un poco menos amenazador que «IA superinteligente».
Y, como dices, se refiere a sistemas de IA capaces de realizar cualquier tarea que los seres humanos puedan llevar a cabo con su intelecto. Y, si no pueden, de aprender muy rápidamente a hacerla y realizarla tan bien como los humanos o mejor.
Creo que la mayoría de los expertos dice que, para finales de siglo, es muy, muy probable que tengamos IA de propósito general. Si tuviera que decir cuál es la fecha mediana, diría que alrededor de 2045. Así que no falta tanto: quedan menos de 30 años. Yo soy algo más pesimista. Creo que el problema es más difícil de lo que pensamos.
«Si la tecnología pudiera crear un doble de cada persona de la Tierra, y ese doble fuera más alegre, tuviera menos resaca y estuviera dispuesto a trabajar gratis, ¿cuántos de nosotros conservaríamos el empleo?»
Stuart Russell
¿La IA nos quitará el trabajo?
Es una cuestión muy antigua. Por increíble que parezca, Aristóteles tiene un pasaje en el que dice: mirad, si tuviéramos telares totalmente automatizados y plectros también totalmente automatizados, capaces de tocar la lira y producir música sin intervención humana, no necesitaríamos trabajadores. Y, ya sabes, es algo bastante sorprendente para el año 350 a. C. La gente entiende muy bien esa idea, que, creo, Keynes llamó «desempleo tecnológico» en 1930. Piensan: sí, claro, si la máquina hace el trabajo, yo me quedaré sin empleo. Los luditas se preocupaban por eso.
Y durante mucho tiempo, los economistas creyeron tener una demostración matemática de que el desempleo tecnológico era imposible. Pero, ya sabes, si lo piensas…
Si la tecnología pudiera crear un doble de cada persona de la Tierra, y ese doble fuera más alegre, tuviera menos resaca y estuviera dispuesto a trabajar gratis, ¿cuántos de nosotros conservaríamos el empleo? Creo que la respuesta es cero.
Así que hay algo que no encaja en el teorema matemático de los economistas. Y, durante la última década más o menos, creo que la opinión en economía ha cambiado mucho. De hecho, fue en la primera reunión de Davos a la que asistí, en 2015. Había una cena supuestamente dedicada a hablar de la nueva economía digital, pero los economistas que tomaron la palabra —entre ellos varios ganadores del Nobel y otros economistas muy distinguidos— se levantaron uno por uno y dijeron: «En realidad, no quiero hablar de la economía digital. Quiero hablar de la IA y el desempleo tecnológico. Es el mayor problema que afronta el mundo, al menos desde el punto de vista económico».
¿La IA provocará desempleo total?
Creo que muchos economistas siguen opinando que hay efectos compensatorios, pero no es tan sencillo como decir que, si la máquina hace el trabajo X, la persona deja de hacer el trabajo X y, por lo tanto, se queda sin empleo. Hay estos efectos compensatorios.
Si la máquina hace algo de forma más barata, eficiente y productiva, aumenta la riqueza total, lo que a su vez incrementa la demanda de los demás empleos de la economía. Así, se redistribuye la mano de obra desde los sectores que se están automatizando hacia los que aún no lo están.
Pero, si lo automatizas todo, entonces entra en juego el argumento de los dobles, ¿no? Es como crear un doble de cada persona que esté dispuesto a trabajar gratis.
Así que hay que pensar en otros ámbitos que no vamos a automatizar, ya sea porque no queremos o porque los humanos somos intrínsecamente mejores. Esta es, creo, una visión optimista, y se podría argumentar que Keynes la compartía. Él lo llamó «perfeccionar el arte de vivir». Nos enfrentaremos al problema permanente del ser humano: cómo vivir de forma agradable, sabia y plena. Y quienes cultiven mejor el arte de vivir tendrán mucho más éxito en ese futuro. Cultivar el arte de vivir es algo que los humanos entendemos. Entendemos qué es la vida y podemos hacerlo unos por otros porque nos parecemos mucho.
Tenemos una ventaja intrínseca porque sabemos cómo se siente que te abandone el amor de tu vida, perder a un progenitor o, ya sabes, quedar el último de la clase en la escuela, entre otras cosas. Así que tenemos una ventaja comparativa adicional frente a las máquinas. Eso significa que los empleos de ese tipo, los que implican relaciones interpersonales, probablemente serán aquellos en los que los humanos tengan una verdadera ventaja, y creo que cada vez más personas se dedicarán a ellos.
¿Podemos pedirle a la IA que resuelva nuestros problemas más difíciles?
Hay una gran diferencia entre pedirle algo a una persona y planteárselo como objetivo a un sistema de IA.
Cuando le pides a alguien que te traiga una taza de café, no quieres decir que esa deba ser la misión de su vida y que nada más en el universo importe. Ni siquiera si para conseguirte el café antes de que cierre Starbucks tuviera que matar a todas las demás personas que están allí. No es eso lo que quieres decir, ¿verdad?
Lo que quieres decir es que, por supuesto, también debería tener en cuenta todas las demás cosas que nos importan a todos. El problema con la forma en que construimos los sistemas de IA ahora es que les damos un objetivo fijo. Los algoritmos nos exigen especificarlo todo en el objetivo.
Y si dices: «¿Podemos resolver la acidificación de los océanos?», sí, podría haber una reacción catalítica que lo hiciera con gran eficiencia, pero que consumiera una cuarta parte del oxígeno de la atmósfera. Al parecer, eso nos haría morir de forma bastante lenta y desagradable a lo largo de varias horas. Entonces, ¿cómo evitamos este problema? Podrías decir: «Vale, especifiquemos el objetivo con más cuidado. No olvidemos el oxígeno atmosférico». Pero, claro, la reacción también podría producir algún efecto secundario que envenenara a todos los peces del océano. «Vale, quería decir que tampoco hay que matar a los peces». Y luego, ¿qué pasa con las algas marinas? «De acuerdo, no hagas nada que vaya a provocar la muerte de todas las algas marinas», y así sucesivamente.
Y en mi libro Human Compatible que mencionó Kay, la idea principal es que, si construimos sistemas que saben que desconocen cuál es el objetivo, empiezan a mostrar comportamientos como pedir permiso antes de eliminar todo el oxígeno de la atmósfera. Lo hacen porque eso supone un cambio en el mundo y el algoritmo quizá no sepa si es algo que preferimos o no. Por eso tiene un incentivo para preguntar: quiere evitar hacer algo que no se prefiera. Así se obtiene un comportamiento mucho más sólido y controlable. En el caso extremo, si queremos apagar la máquina, ella querrá que la apaguen porque quiere evitar hacer lo que sea que nos esté molestando. Quiere evitarlo. No sabe qué está haciendo para molestarnos, pero quiere evitarlo. Así que querrá que la apaguemos si eso es lo que queremos.
En todos estos sentidos, el control del sistema de IA se deriva de la incertidumbre de la máquina sobre cuál es el verdadero objetivo. Cuando construyes máquinas que creen con certeza que conocen el objetivo, es cuando aparece ese comportamiento psicopático. Creo que vemos lo mismo en los seres humanos.
¿Cuánto deberíamos preocuparnos por la IA?
La IA es una tecnología; no es intrínsecamente buena ni mala. Depende de nosotros decidir si la usamos bien o si hacemos un mal uso de ella.
Los sistemas de IA mal diseñados entrañan riesgos, sobre todo si persiguen el objetivo equivocado o si sus objetivos están mal especificados. Y creo que, en general, hemos dado carta blanca a los algoritmos, no solo a los sistemas de IA. Creo que les hemos dado carta blanca durante demasiado tiempo.
Piensa que hubo un tiempo en que dimos carta blanca a los productos farmacéuticos: no existía la FDA ni ningún otro organismo que regulara los medicamentos, y cientos de miles de personas murieron o resultaron heridas por medicamentos mal formulados, falsificados y de todo tipo. Finalmente, a lo largo de aproximadamente un siglo, desarrollamos un sistema de regulación de los medicamentos. Es costoso, ya sabes, pero la mayoría cree que es bueno tenerlo. Y estamos muy lejos de tener algo parecido para los algoritmos, aunque se puede hacer.
Quizá incluso más que los medicamentos, estos algoritmos están teniendo un efecto enorme en miles de millones de personas en el mundo. No creo que sea razonable suponer que necesariamente tendrá un efecto positivo. Creo que los gobiernos están empezando a darse cuenta y se esfuerzan por encontrar la manera de regularlos sin causar un desastre.
¿Están los algoritmos de IA destruyendo la sociedad?
El problema para responder a tu pregunta es que, en realidad, no sabemos la respuesta, porque los hechos están guardados bajo llave en las empresas de redes sociales. Y los datos son básicamente billones de interacciones a la semana: billones. Hay miles de millones de personas que usan las redes sociales cientos de veces al día, y cada interacción —hacer clic, deslizar, descartar, dar «me gusta» o «no me gusta», pulsar el pulgar hacia arriba o hacia abajo; lo que se te ocurra— genera datos. Todo eso es inaccesible.
Sin embargo, si piensas en lo que intentan hacer los algoritmos, básicamente buscan maximizar los clics. Quieren que hagas clic en cosas, interactúes con el contenido o pases tiempo en la plataforma. Esta última es una métrica ligeramente distinta, pero, en esencia, viene a ser lo mismo.
Podrías decir: «Bueno, vale. La única manera de conseguir que la gente haga clic en algo es mostrarle cosas que le interesan. ¿Qué tiene de malo?». Pero esa no es la respuesta. Esa no es la forma de maximizar los clics. Para hacerlo, en realidad se envía a la gente una cadena de contenidos que la transforma en alguien más propenso a hacer clic en cualquier contenido que se le muestre en el futuro. Así que los algoritmos —al menos según los modelos matemáticos que hemos creado— han aprendido a manipular a las personas, a cambiarlas para que en el futuro sean más susceptibles y se pueda monetizar su actividad a mayor escala.
Al mismo tiempo, por supuesto, ha surgido toda una enorme industria impulsada por personas que alimenta este proceso: la industria del clickbait, la de la desinformación. La gente ha secuestrado la capacidad de los algoritmos para cambiar rápidamente a las personas, porque hay cientos de interacciones al día y cada una es un pequeño empujón.
Pero si se incita a alguien cientos de veces al día durante días seguidos, se puede cambiar mucho sus creencias, preferencias y opiniones.
A los algoritmos no les importa qué opiniones tienes; solo les importa que seas susceptible a las cosas que te envían. Pero a la gente sí le importa, y ha secuestrado el proceso para aprovecharse de ello y crear la polarización que le conviene. Creo que es esencial que haya más transparencia. Los investigadores de IA la quieren porque queremos entender lo que ocurre y ver si podemos solucionarlo. Los gobiernos la quieren porque temen que toda su estructura social se esté desintegrando o que otros países, que no velan por sus intereses, la estén socavando.
¿Se puede solucionar el problema de la IA en las redes sociales?
El problema de las redes sociales es probablemente el más difícil, porque no solo hacen cosas que no nos gustan. También están cambiando nuestras preferencias. Si se quiere, es una especie de modo de fallo de cualquier sistema de IA que intente satisfacer las preferencias humanas, algo que parece muy razonable. Una manera de satisfacerlas es cambiarlas para que ya estén satisfechas, ¿no? Creo que los políticos son bastante buenos en eso. Y no queremos que los sistemas de IA lo hagan.
Pero es un problema perverso, porque no es que todos los usuarios de las redes sociales se detesten. No están sentados diciendo: «¿Cómo te atreves a convertirme en un neofascista exaltado?». Creen que su neofascismo recién adquirido es lo correcto y que antes estaban engañados. Esto nos lleva a algunos de los problemas actuales más difíciles de la filosofía moral. ¿Cómo se actúa en nombre de alguien cuyas preferencias cambian con el tiempo? ¿Se actúa en nombre de la persona actual o de la futura? ¿De cuál? No hay una buena respuesta. Creo que esto señala lagunas en nuestra comprensión de la filosofía moral. En ese sentido, es muy difícil desentrañar lo que ocurre en las redes sociales.
Creo que una de las cosas que recomendaría es simplemente un cambio de mentalidad por parte de las plataformas de redes sociales. En lugar de pensar: «¿Cómo podemos generar ingresos?», deberían pensar: «¿Qué les importa a los usuarios? ¿Cómo quieren que sea el futuro? ¿Cómo quieren ser ellos mismos?». Y si no lo sabemos —y creo que la respuesta es que no lo sabemos—,
quiero decir, tenemos miles de millones de usuarios, y cada persona es distinta y tiene preferencias distintas. No sabemos cuáles son. Pensemos en sistemas que, al principio, tengan mucha incertidumbre sobre las verdaderas preferencias del usuario. E intentemos conocerlas mejor, respetándolas. La parte más difícil es que no podemos decir: «No toques las preferencias del usuario. No se te permite cambiarlas bajo ninguna circunstancia». Leer el Financial Times, por ejemplo, cambia tus preferencias, ¿no? Te informa más. Aprendes sobre todo tipo de puntos de vista y luego eres una persona distinta.
Y queremos que las personas cambien con el tiempo. No queremos seguir siendo bebés recién nacidos para siempre, pero no sabemos decir con certeza que el proceso de convertir a alguien en una persona nueva sea bueno.
Creemos que la educación universitaria es buena, o que viajar por el mundo es bueno. Normalmente, esas cosas hacen mejores a las personas. En cambio, el lavado de cerebro es malo, y unirse a una secta también: lo que las sectas hacen a la gente es malo, y así sucesivamente. Pero lo que ocurre en las redes sociales está justo en un punto en el que no sabemos cómo responder a estas preguntas. Necesitamos la ayuda de filósofos morales y otros pensadores.
¿Qué principios debemos seguir para construir un futuro mejor con la IA de propósito general?
El primero de los tres principios es que el único objetivo de todas las máquinas debe ser satisfacer las preferencias humanas. «Preferencias» es, de hecho, un término de la economía. No se refiere solo a qué tipo de pizza te gusta o por quién votaste. Se refiere a cómo ordenas todos los futuros posibles según todo lo que importa.
Es algo muy, muy amplio, complejo y abstracto, y nunca podrías explicitar la mayor parte, aunque lo intentaras. Además, hay cosas que literalmente no sabes. Por ejemplo, no sé si me gustará la fruta durián cuando la pruebe. A algunas personas les encanta y a otras les parece absolutamente repugnante. No sé cuál de esos tipos de persona soy, así que literalmente no puedo decirte si me gusta el futuro en el que como durián todos los días. Ese es el primer principio: queremos que las máquinas satisfagan las preferencias humanas.
El segundo principio es que la máquina no sabe cuáles son esas preferencias. Por lo tanto, parte de una incertidumbre inicial sobre las preferencias humanas. Ya hemos hablado de que esta humildad es lo que nos permite mantener el control. En cierto sentido, hace que las máquinas sean deferentes con los seres humanos.
El tercer principio fundamenta lo que queremos decir con «preferencias» en los dos primeros y establece que el comportamiento humano es la fuente de evidencia sobre las preferencias humanas. Esto se puede explicar con más detalle. Básicamente, el modelo plantea que los humanos tenemos preferencias sobre el futuro y que esas preferencias son las que nos llevan a tomar las decisiones que tomamos. Y por comportamiento entendemos todo lo que hacemos y lo que no hacemos: hablar, no hablar, sentarnos, leer el correo mientras vemos esta charla o esta entrevista.
El potencial positivo de la IA es enorme. Volviendo a Keynes, sí, podría permitirnos vivir con sabiduría y satisfacción, con abundancia y libres de la lucha por la existencia que ha caracterizado toda la historia humana.
Hasta ahora no hemos tenido elección: tenemos que levantarnos de la cama o moriremos de hambre. En el futuro tendremos elección. Espero que no optemos simplemente por quedarnos en la cama, sino que tengamos otros motivos para levantarnos y vivir vidas plenas, interesantes y enriquecedoras.
Keynes reflexionó sobre eso, lo predijo y lo esperaba con ilusión, pero no va a ocurrir automáticamente.
Hay todo tipo de desenlaces distópicos, incluso cuando llegue esta edad de oro. A pesar de lo que nos cuentan las películas, no es probable que las máquinas cobren conciencia, decidan que odian a los humanos y quieran matarnos.
Mira aquí la serie completa de Experts Explain.
