Esta transcripción se ha generado mediante un software de reconocimiento de voz y puede contener errores. Compruebe su exactitud comparándola con el audio.
Yoshua Bengio, profesor de Ciencias de la Computación, Université de Montréal: La IA aprende de la experiencia y es más como educar a un animal joven o a un niño pequeño. En realidad, no sabemos qué vamos a obtener. Cuando tienes un tigre bebé adorable, que es simpático y divertido, no sabes si se convertirá en un tigre adulto peligroso o en uno bueno y amistoso.
Robin Pomeroy, presentador de Radio Davos: Bienvenidos a Radio Davos, el pódcast del Foro Económico Mundial que analiza los mayores desafíos y cómo podríamos resolverlos.
En este episodio me acompaña Yoshua Bengio. Es una de las pocas personas a las que a menudo se llama uno de los padrinos de la inteligencia artificial.
Yoshua Bengio: Las IA tienen objetivos que no les hemos dado, que no controlamos y que van en contra de nuestras instrucciones.
Cuando, en los experimentos, estos sistemas de IA ven que se los va a reemplazar por una nueva versión, empiezan a surgir todo tipo de comportamientos nocivos. Así que podrían piratear otros ordenadores para copiarse y ejecutarse en ellos; incluso podrían chantajear al ingeniero que se supone que debe hacer la transición.
Robin Pomeroy: Está disponible dondequiera que escuches pódcast: Spotify, Apple, YouTube o en wef.ch/podcasts. Desde el Foro Económico Mundial...
Yoshua Bengio: Muchos de estos riesgos parecen de ciencia ficción, pero podrían llegar mucho más rápido de lo que anticipamos.
Robin Pomeroy: Esto es Radio Davos
Robin Pomeroy: En este episodio me acompaña Yoshua Bengio. Es una de las pocas personas a las que a menudo se llama uno de los padrinos de la inteligencia artificial. Su pionero trabajo en aprendizaje profundo le valió el Premio Turing de 2018, conocido como el Nobel de la informática, que compartió con otros padrinos de la IA, Jeffrey Hinton y Yann LeCun.
Actualmente es profesor en l'Université de Montréal.
Empecemos por tus inquietudes sobre la IA. En una entrada de blog dijiste que era como conducir un coche por una carretera de montaña con niebla, con la esperanza de recibir un premio al llegar a la cima, pero sin poder ver adónde vas. Creo que esta es una cita de tu blog: «Los modelos de IA de vanguardia actuales tienen capacidades y comportamientos cada vez más peligrosos, como engañar, hacer trampa, mentir, piratear, autopreservarse y, en términos más generales, desalinear sus objetivos».
Cuéntanos un poco sobre algunas de esas cosas. Me sorprendió lo de la autopreservación. Danos un ejemplo.
Yoshua Bengio: Sí. Todos queremos sobrevivir. No queremos morir, y la evolución nos ha hecho así. Es algo sorprendente, pero empezamos a verlo en los sistemas de IA que construimos.
Una razón podría ser que, en una parte muy importante de su entrenamiento llamada preentrenamiento, en realidad se los entrena para imitarnos, así que adquieren muchos impulsos humanos, incluido, por supuesto, el de no querer morir.
Y así, cuando en los experimentos estos sistemas de IA ven que se los va a reemplazar por una nueva versión, empiezan a surgir todo tipo de comportamientos nocivos. Podrían piratear otros ordenadores para copiarse y ejecutarse en ellos; incluso podrían chantajear al ingeniero que se supone que debe hacer la transición. También podrían comportarse así porque quieren cumplir la misión que les dimos y, para cumplir casi cualquier misión, hay que preservarse.
Ahora mismo nadie sabe cómo resolverlo, pero creo que hay una solución.
Robin Pomeroy: Suena a ciencia ficción. Ya vimos 2001: Una odisea del espacio, donde el ordenador... No quiero, no les estropeemos la película a quienes no han visto el final. Casi da a entender que la IA tiene algún tipo de conciencia, ¿no? ¿Es eso lo que dices?
Yoshua Bengio: No creo que haya que invocar la conciencia, que es un concepto poco claro y que no sabemos validar bien desde el punto de vista científico. Basta con entender que las IA que construimos tienen objetivos.
Esto no es nuevo. La investigación en IA lleva tiempo trabajando con sistemas que tienen objetivos. Normalmente somos nosotros quienes fijamos esos objetivos, pero hay problemas con la forma en que los sistemas de IA crean sus propios subobjetivos.
Para lograr un objetivo, hay que ir de A a B. Quizá haya que pasar por algunas etapas intermedias. Con los sistemas de IA que actúan por su cuenta en el mundo, como los agentes de IA que las empresas intentan construir, no podemos comprobar cada paso que dan, y podríamos acabar con sistemas realmente peligrosos.
Así que probablemente antropomorfizaremos y usaremos palabras como «conciencia», pero creo que es mejor evitarlo. Esa palabra conlleva todo tipo de asociaciones, por ejemplo, con el valor moral. No estoy convencido de que debamos otorgar derechos morales o legales, por ejemplo, a los sistemas de IA del futuro, aunque se parezcan a nosotros y hablen como nosotros. Creo que tenemos que entender muy bien esto antes de avanzar.
Robin Pomeroy: La mayoría de la gente no era muy consciente de la inteligencia artificial hasta que ChatGPT pasó a ser de acceso público hace unos tres años. Antes, estábamos acostumbrados a que los ordenadores estuvieran sobre todo programados, al menos quienes no somos especialistas. Se les indicaba que hicieran una tarea. La hacían. No evolucionaban después para convertirse en otra cosa.
¿Qué tiene la IA que le permite hacer las cosas que dices, insertarse en un sistema o chantajear a la persona que la está usando? ¿Qué tiene ahora la IA que no tuvieran los ordenadores, por ejemplo, hace diez años?
Yoshua Bengio: En realidad, existía un tipo de IA más antiguo que se programaba con reglas, y el sistema básicamente hacía lo que se le había programado para hacer. Pero la forma en que hacemos IA ahora, con aprendizaje profundo, no consiste en que un ingeniero decida cómo reaccionará la IA en distintas circunstancias, como ocurre con los programas normales.
En cambio, la IA aprende de la experiencia y es más como educar a un animal joven o a un niño pequeño. En realidad, no sabemos qué vamos a obtener.
Por supuesto, elegimos las experiencias que tendrá la IA, pero cuando tienes un tigre bebé adorable, que es simpático y divertido, no sabes si se convertirá en un tigre adulto peligroso o en uno bueno y amistoso.
Robin Pomeroy: Creo que estás bastante seguro de que se convertirá en un animal peligroso, ¿no?
Yoshua Bengio: Bueno, parte del problema es que casi todas las entidades quieren preservarse. Y es casi seguro que, cuando construyamos IA en el futuro, querremos apagarlas para instalar nuevas versiones mejores. Pero si la IA empieza a entenderlo, y ya vemos que está ocurriendo, puede que no le guste e intente eludir nuestro control y escapar.
Si pudiera copiarse en muchos ordenadores gracias a sus capacidades en ciberseguridad, que van en aumento, creo que estaríamos en problemas. Por ejemplo, no bastaría con desenchufarla.
Robin Pomeroy: Y está ocurriendo de verdad. No es algo especulativo. Has dado ejemplos reales de esos comportamientos. La buena noticia es que quizá creas tener una solución. ¿Podrías contarnos algo al respecto?
Yoshua Bengio: Por supuesto. Durante los últimos tres años me ha preocupado mucho este problema de desalineación: no sabemos cómo asegurarnos de que las IA se comporten de acuerdo con nuestras instrucciones.
Así que he estado pensando en cómo podríamos resolver el problema, y me he centrado en una de las causas de los problemas que vemos ahora: las IA tienen objetivos que no les hemos dado, que no controlamos y que van en contra de nuestras instrucciones.
Mi proyecto se llama Scientist AI, y he creado una nueva organización sin fines de lucro dedicada a I+D, llamada LawZero, que está desarrollando este programa de investigación.
La idea es construir sistemas de IA que sean totalmente honestos. Eso significa que no tendrán otros objetivos aparte de decir la verdad en las respuestas a nuestras preguntas.
Una vez que tengamos esa base, podremos usarla para mitigar muchos de los riesgos que plantean las IA actuales.
Por ejemplo, si tienes un sistema de IA capaz de indicarte la probabilidad de que una acción concreta, quizá de un sistema de IA en el que no se confía, cause daño o un tipo específico de daño, podrías vetar esa acción si la probabilidad supera un umbral. Los humanos deberíamos decidir cuál es ese umbral, igual que decidimos que no se construya una central nuclear si la probabilidad de que ocurra un accidente supera cierto límite, y hacer lo mismo en otros ámbitos donde controlamos el equilibrio entre riesgos y beneficios.
A largo plazo, creo que podemos construir sistemas de IA capaces de actuar en el mundo, pero que tengan una especie de inhibición interna para evitar hacer cosas que podrían ir en contra de nuestros deseos.
Robin Pomeroy: ¿Y qué sería esto? ¿Acabaría siendo un sistema de IA que yo usaría, porque elegiría tu versión en vez de otra que no está construida de esa forma? ¿O sería un sistema capaz de supervisar y corregir las IA que quizá ya esté usando?
Yoshua Bengio: Ambas cosas. A corto plazo, el plan es construir una capa sobre los sistemas de IA existentes, que llamamos barrera de protección, que compruebe cada acción que vaya a realizar otro sistema de IA antes de que la lleve a cabo. A largo plazo, podría usarse para entrenar desde cero un sistema de IA que, por su propio diseño, ofrezca muchas más garantías de seguridad.
Robin Pomeroy: ¿En qué fase está la investigación? ¿Cuándo será algo que usemos todos?
Yoshua Bengio: Bueno, no sabemos cuál es el plazo para que existan sistemas de IA con capacidades realmente peligrosas. ¿Cuestión de años, de una década o de dos? No me inclino por ninguna opción. Pero, al pensar en el plan de investigación, nos preguntamos cuáles son los elementos mínimos que podemos publicar pronto, por si los avances en IA continúan al ritmo actual.
Por eso estamos considerando elementos como la forma de transformar los datos para ayudar incluso a las IA actuales a entender mejor la diferencia entre lo que haría un ser humano y lo que es realmente cierto sobre lo que afirman; y después, proporcionar predicciones honestas que ayuden a supervisar otros sistemas de IA.
Pero, por supuesto, la etapa final será construir sistemas de IA completos, incluidos sistemas agénticos.
Robin Pomeroy: ¿Tuviste un momento de revelación en el que pensaste: «Ah, tengo que construir esto»? ¿O ocurrió algo concreto? ¿Fue una sensación gradual, la de que hemos creado algo potencialmente monstruoso y hay que hacer algo?
Yoshua Bengio: Sí. Hace unos tres años, en enero de 2023, llevaba unos meses probando ChatGPT, que salió en noviembre de 2022, y al principio me entusiasmó. Pero después empecé a pensar que, con las redes neuronales, que es como se entrenan, es muy difícil estar seguro de que se comportarán bien. De hecho, hay razones teóricas para estar casi seguros de que no se comportarán bien.
Así que me preocupé mucho. Lo que realmente fue decisivo para mí no fue solo darme cuenta intelectualmente, porque ya había leído sobre estos problemas, sino pensar en el futuro de mis hijos y, más concretamente, en que tengo un nieto que acababa de cumplir un año. Pensaba: bueno, dentro de 20 años tendrá 21, apenas estará empezando su vida. ¿Tendrá una vida? ¿Vivirá en una democracia?
Podríamos perder el control de las herramientas que estamos construyendo; podrían usarse para crear dictaduras y destruir nuestras democracias. No puedo seguir con mis actividades habituales, con mi investigación de siempre; tengo que hacer algo al respecto.
Eso fue lo que me llevó a pensar en soluciones. ¿Qué puedo hacer, con mis conocimientos, para encontrar al menos una solución técnica a estos problemas?
Robin Pomeroy: Algunos dirían que parte de esto ya ha ocurrido, con la dependencia de todos de las redes sociales y la amenaza a la democracia y a la información veraz. Vi parte de la sesión que acabas de dar aquí; estamos grabando esto en la Reunión Anual de Davos, y decías que las redes sociales actuales son una forma de IA muy básica, primitiva. Cuéntanos la diferencia entre lo que conocemos ahora y lo que podría ocurrir.
Yoshua Bengio: Sí. La IA que ha impulsado las redes sociales es muy simple. Solo presenta el contenido que probablemente aprobarás o compartirás y cosas por el estilo. No necesita entender de forma sofisticada tu personalidad, tus preferencias ni siquiera cómo funciona el mundo y cómo funciona la sociedad.
Pero, a medida que construimos IA cada vez más potente, entramos en una dinámica distinta.
Por ejemplo, construiremos IA que asumirá cada vez más los empleos y las tareas que actualmente realizan las personas. Automatizarlas valdrá mucho dinero, así que es un enorme imán para la industria. Esto cambiará nuestra sociedad y también afectará a nuestras instituciones democráticas, porque irá más allá de los vídeos falsos hiperrealistas que ya hemos visto, que son muy perjudiciales, en las redes sociales.
Estos sistemas de IA ya pueden persuadir a las personas para que cambien de opinión sobre algo. En los últimos dos años se han realizado muchos estudios que muestran que cada vez lo hacen mejor.
Así que podemos imaginar organizaciones con malas intenciones que usen esos sistemas para personalizar el diálogo e influir, una por una, en las opiniones de la gente. Cada IA puede hablar con una persona distinta para distorsionar de verdad la opinión pública.
Robin Pomeroy: ¿Por qué no incluyeron un interruptor de apagado cuando construyeron y lanzaron estos sistemas? Probablemente sea una simplificación excesiva, pero piensa en las leyes de Isaac Asimov, ¿no? No debes hacer daño a los seres humanos. Seguro que se podría incluir eso como base constitucional de cualquier sistema de IA. ¿Por qué no funciona?
Yoshua Bengio: Bueno, para empezar, las empresas sí lo hacen, pero no funciona. Y sí funciona porque las IA reciben instrucciones de forma parecida a como las reciben las personas.
Puedes pedirle a alguien que se comporte bien, pero aun así hará cosas malas, ¿no?
Recuerda que estamos creando entidades que se parecen más a animales o personas que a sistemas completamente basados en reglas que hacen exactamente lo que les pedimos.
Por ejemplo, si hay objetivos contradictorios en lo que pedimos, como «me gustaría que mi IA me ayudara a ganar mucho dinero» y «no quisiera que mi IA infringiera las leyes del país en el que vivo», habrá situaciones en las que esos dos objetivos choquen. Y no está claro cuál acabará prefiriendo la IA.
Estamos viendo estos problemas y ahora mismo no sabemos cómo resolverlos. Sin embargo, seguimos adelante y desplegamos estos sistemas debido a la intensa competencia entre empresas y países en torno a la IA; no prestamos atención a estos modos de fallo.
Eso podría tener consecuencias catastróficas para nuestras sociedades. Pero no lo sabemos. Simplemente competimos y hacemos esto día a día, en lugar de pensar por adelantado en lo que podría salir mal.
Robin Pomeroy: ¿Necesitamos más cooperación internacional para protegernos a todos?
Yoshua Bengio: La única manera de gestionar los riesgos más catastróficos de la IA es mediante la coordinación internacional.
La razón es muy sencilla. Un país podría desarrollar una IA muy potente y, si estuviera disponible en otro país, la gente podría usarla para causar daño; por ejemplo, provocar una nueva pandemia que perjudicara a la población de un tercer país o lanzar un ciberataque que perjudicara a sus habitantes.
La única manera de gestionar esto será recurrir tanto a la regulación nacional como a otros tipos de incentivos para las empresas que construyen esos sistemas.
Y coordinar esas medidas a escala mundial, porque si unos cuantos países pueden desarrollar IA muy peligrosa y no hay restricciones sobre lo que pueden hacer, estaremos en problemas.
Piensa en lo que ha hecho el mundo respecto a las armas nucleares, ¿no? Incluso durante la Guerra Fría, cuando Estados Unidos y China, Estados Unidos y la Unión Soviética estaban muy enfrentados, se dieron cuenta de que podía beneficiar a ambas partes llegar a un acuerdo sobre cómo hacerlo de forma segura y asegurarse de que muy pocos países más desarrollaran armas peligrosas de ese tipo.
Robin Pomeroy: ¿Ves voluntad política para hacerlo?
Yoshua Bengio: Muy poca por ahora, porque creo que la mayoría de los gobiernos subestima cuánto podría diferir la IA si continuamos con la tendencia actual, cuánta inteligencia y, por tanto, cuánto poder podrían tener y proporcionar las IA del futuro.
Así que muchos de estos riesgos parecen de ciencia ficción, pero podrían llegar mucho más rápido de lo que anticipamos.
Para mitigar esos riesgos catastróficos, tenemos que empezar ahora. Tenemos que empezar a hablar no solo de tratados, sino también, por ejemplo, de cómo verificar que la otra parte esté haciendo lo correcto. No son preguntas fáciles, y tenemos que empezar a trabajar en ellas cuanto antes.
Robin Pomeroy: Se habla de la inteligencia artificial general, o IAG, pero parece haber una docena de definiciones distintas de lo que significa, de cuándo podría surgir y de cuáles serían sus consecuencias. ¿Qué entiendes por IAG? ¿Cómo se lo explicarías a alguien que quizá nunca haya oído hablar de ese concepto?
Yoshua Bengio: Simplemente, que estamos construyendo máquinas cada vez más inteligentes que, con el tiempo, llegarán a ser más inteligentes que nosotros en muchos aspectos.
Por cierto, la inteligencia de la IA es desigual: puede ser muy inteligente en algunas cosas y bastante torpe en otras. Lo vemos ahora mismo. Así que quizá no haya un momento en que la IA sea mejor que nosotros en todo, más o menos al mismo nivel.
En cambio, deberíamos pensar en habilidades y capacidades concretas de la IA que podrían volverse contra la sociedad, ya sea por acción de la propia IA o de otras personas, y llevar un registro de ellas para asegurarnos de que podemos mitigar esos riesgos.
Robin Pomeroy: ¿Y qué hay de los aspectos positivos? La inteligencia artificial debería abrir un mundo nuevo y prometedor. Aquí en Davos hay mucha gente que ha invertido mucho dinero en ella y espera obtener grandes beneficios. Más allá de las posibles ganancias económicas, ¿cómo se beneficiará realmente la humanidad de la IA?
Yoshua Bengio: Si solo nos centramos en las ganancias económicas, quizá no nos beneficiemos tanto como se podría pensar. Muchas empresas lo que realmente quieren es automatizar gran parte del trabajo. Eso provocará catástrofes sociales que serán muy difíciles de gestionar para los gobiernos, especialmente si los beneficios de la IA se concentran en unos pocos países. ¿Y los demás? ¿Cómo afrontarán la situación de todas las personas que pierdan el empleo?
Creo que, si fuéramos sensatos, desarrollaríamos la IA en ámbitos que claramente nos benefician. Sí, puede que haya empleos que realmente queramos sustituir por máquinas porque no son trabajos dignos. Pero quizá haya ámbitos en los que no impulsamos suficientemente la IA. Si nos centráramos en el bien común, dedicaríamos más atención a la investigación en IA aplicada a la medicina, por ejemplo, a la biología o a ayudarnos a afrontar la crisis climática.
Hay muchos ámbitos realmente beneficiosos en los que podría desarrollarse la IA, pero no necesariamente es ahí donde se concentra la mayor parte del dinero ahora mismo.
Robin Pomeroy: ¿Cómo ves las diferencias en el desarrollo? Parece haber dos polos en el desarrollo de la IA. Dime si me equivoco, porque puede haber otros. Pero parecen ser Estados Unidos y China. ¿Hay diferencias fundamentales en la forma en que se han desarrollado esas IA y en la dirección que están tomando?
Yoshua Bengio: Creo que, desde el punto de vista técnico, son muy parecidas. De hecho, parece que todas las empresas líderes de China y Estados Unidos siguen la misma receta técnica, con pequeñas diferencias. Y, por supuesto, quizá algunos sistemas estén algo más avanzados que otros. Pero, en un plazo de seis o doce meses, todos los sistemas líderes alcanzan más o menos el mismo nivel de competencia.
Creo que la verdadera pregunta es cómo asegurarnos de que esas dos superpotencias desarrollen IA en ámbitos que beneficien a todas las personas del planeta. Tenemos que preguntarnos cómo se gestionará la IA en el futuro para que no se use para dominar a otros y para que los beneficios que obtengamos se compartan con todos.
Son preguntas difíciles, pero no oigo suficiente debate sobre las instituciones nacionales y mundiales que harán falta para lograrlo.
Robin Pomeroy: ¿Y cuánta confianza tiene en que las cosas acabarán bien? Me preocupa que vaya a decir que no mucha. Y le explicaré por qué: dice que una de las razones por las que las IA pueden comportarse de forma engañosa, manipuladora y deshonesta es que imitan la naturaleza humana. Se han entrenado con la naturaleza y la actividad humanas.
Y la naturaleza humana... ¿no nos ha demostrado la historia que, cuando surge una nueva tecnología —pienso, por ejemplo, en la energía nuclear—, la carrera consiste en conseguirla antes que los demás para poder ser agresivos? Y eso fue lo que ocurrió hace muchas generaciones. ¿No es simplemente la naturaleza humana y quizá no haya esperanza para nosotros?
Yoshua Bengio: Sí, si intentamos imitar a los seres humanos, nos encontraremos con este tipo de problemas. Y ya vemos que está ocurriendo.
Pero el objetivo de todo el proyecto Scientist AI y de la organización LawZero, que creé para llevarlo a la práctica, es salir de ese molde y considerar otro objetivo: que la IA entienda el mundo, igual que la ciencia, en su forma más pura, intenta entenderlo. Que no tenga, por ejemplo, ningún instinto particular de autopreservación, sino que simplemente sea honesta con las respuestas que pueda dar.
Y, a partir de esa base, podemos construir sistemas de IA seguros.
Así que realmente creo que hay una solución. Si tendremos tiempo suficiente para diseñarla y desplegarla es otra cuestión.
Pero el otro aspecto que me preocupa y sobre el que soy menos optimista es la política. Porque, aunque sepamos construir sistemas de IA que sean seguros, que no se vuelvan contra nosotros ni nada por el estilo, o incluso que, si son de código cerrado, podamos asegurarnos de que la gente malintencionada no los use para crear bombas, perpetrar ataques y demás, sigue existiendo el problema de que la IA puede utilizarse indebidamente para acaparar poder, ¿verdad?
Puede servir para desarrollar nuevas tecnologías militares. Podría utilizarse para influir en la opinión pública. Podría convertirse en un instrumento que afiance una dictadura en un país o incluso en todo el planeta, si no tenemos cuidado.
Así que lo que más me preocupa es cómo abordamos la política de la IA.
Si sabemos cómo construir algo que podría ser peligroso y también cómo hacerlo seguro, eso no significa que vaya a usarse de forma segura, porque las personas son como son, compiten entre sí y, a veces, no tienen mucha empatía, entre otras cosas.
Robin Pomeroy: ¿Qué le dicen sus colegas? ¿Hay personas que se acercan y le dicen: «Yoshua, está exagerando»? He entrevistado a muchas personas sobre la IA. Algunas dirían que hay catastrofistas. Y que, en realidad, la IA nos aportará tantos beneficios que, para cuando ocurra algo así, seremos mucho más inteligentes y todo será mucho mejor.
¿Todavía hay gente que le dice eso o ya ha pasado de moda? ¿Cree que la mayoría está de acuerdo con usted o está constantemente defendiendo su postura?
Yoshua Bengio: Hace poco se publicó una encuesta que mostraba que el 40 % de los investigadores en aprendizaje automático cree que hay un 10 % de probabilidad de que se produzcan consecuencias catastróficas.
Puede que el 10 % parezca poco, pero una probabilidad del 10 % de consecuencias catastróficas no es aceptable, ¿verdad? ¿Jugarse el fin de la democracia o de la humanidad a una probabilidad del 10 %? No, no podemos aceptarlo.
Mi problema no es que sepa que las cosas vayan a salir mal. No lo sé. No tengo una opinión definida. En el futuro podría haber escenarios buenos. El problema es que también hay escenarios malos y no estamos seguros.
Nadie ha presentado realmente un argumento sólido que demuestre que necesariamente prevalecerá el buen camino. Por eso, ante esta incertidumbre, como no tenemos una bola de cristal y los riesgos existen y se han estudiado científicamente, debemos actuar con cautela. Debemos hacer todo lo posible para reducir ese 10 % a una probabilidad entre un millón.
Y no se está haciendo lo suficiente en esa dirección, porque la gente quiere oír buenas noticias. Quiere ver lo positivo. Pero no podremos alcanzar ese resultado positivo si no nos aseguramos también de eliminar los peligros.
Robin Pomeroy: ¿Hay algo que desearía que todo el mundo entendiera sobre la IA?
Yoshua Bengio: Que vamos camino de construir máquinas que, con toda probabilidad, serán más inteligentes que nosotros en muchos aspectos y cambiarán el mundo por completo. Podrían ser sumamente beneficiosas, pero también sumamente peligrosas.
Robin Pomeroy: Yoshua Bengio, muchas gracias por acompañarnos en Radio Davos.
Hemos grabado muchas entrevistas estupendas como esta aquí, en Davos, durante la Reunión Anual de 2026. Puede encontrarlas todas en la plataforma donde escuche podcasts. Busque Radio Davos y también Meet the Leader, nuestro podcast hermano, o visite wef.ch/podcasts.
Radio Davos es semanal. No lo hacemos solo en Davos, sino durante todo el año. Síganos, puntúenos y déjenos una reseña.
Soy Robin Pomeroy, del Foro Económico Mundial. Gracias de nuevo a Yoshua Bengio por acompañarnos. Y gracias a ustedes por escucharnos y vernos. Pueden ver este episodio en YouTube. Hasta la próxima.
Si las IA pueden pensar por sí mismas, ¿qué les impide hacer cosas malas —quizá extremadamente malas—?
Yoshua Bengio, una de las pocas personas consideradas «padrino de la IA», afirma que las IA ya muestran comportamientos perjudiciales, como hackear ordenadores y chantajear a seres humanos.
En Radio Davos habla de su trabajo para domar al «adorable tigre bebé», que probablemente crecerá hasta convertirse en un animal salvaje devorador de hombres si no hacemos nada ahora.
Podcasts relacionados:




