El día después de la AGI: dos 'estrellas del rock' de la IA sobre lo que significará para la humanidad

undefined
Este contenido ha sido traducido automáticamente con IA.

Esta transcripción se ha generado mediante un software de reconocimiento de voz y puede contener errores. Compruebe su exactitud con el audio.

Dario Amodei, CEO y cofundador, Anthropic: Nos ayudará a curar el cáncer. Puede ayudarnos a erradicar las enfermedades tropicales. Nos ayudará a comprender el universo. Pero existen riesgos inmensos y graves.

Robin Pomeroy, presentador, Radio Davos: Bienvenidos a Radio Davos, el pódcast del Foro Económico Mundial que analiza los mayores desafíos y cómo podemos resolverlos. Esta semana: ¿qué ocurre cuando la IA se convierte en AGI (inteligencia artificial general), es decir, más inteligente que los humanos en prácticamente todo?

Demis Hassabis, cofundador y director ejecutivo de Google DeepMind: Lo que ocurra después de que llegue la AGI nos llevará, realmente, a un territorio inexplorado.

Robin Pomeroy: Dos de las mentes humanas más brillantes, Demis Hassabis, CEO de Google DeepMind, y Dario Amodei, de Anthropic, se reunieron en Davos para una conversación titulada «El día después de la AGI».

Zanny Minton Beddoes, directora de redacción, The Economist: Para mí, fue como presidir una conversación entre los Beatles y los Rolling Stones.

Robin Pomeroy: La directora de redacción de The Economist pregunta a estos fundadores de IA, auténticas estrellas del rock, qué deberíamos saber el resto sobre la AGI, que podría estar ahora a solo unos años de distancia.

Zanny Minton Beddoes: ¿Lograremos superar la adolescencia tecnológica de esta tecnología sin destruirnos a nosotros mismos?

Dario Amodei: Creo que este es un riesgo. Es un riesgo que, si trabajamos todos juntos, podemos abordar. Podemos aprender a través de la ciencia a controlar y dirigir adecuadamente estas creaciones que estamos construyendo. Pero si las construimos mal, si todos competimos y avanzamos tan rápido que no hay barreras de protección, entonces creo que existe el riesgo de que algo salga mal.

Robin Pomeroy: Entonces, ¿qué es exactamente la AGI, cuándo llegará y qué significará? Esto es lo que se aborda en este episodio de Radio Davos, disponible dondequiera que escuche pódcast y en wef.ch/podcasts.

Soy Robin Pomeroy, del Foro Económico Mundial, y con este análisis del futuro de la IA y de la humanidad…

Demis Hassabis: Nos corresponde a nosotros, como humanidad, escribir lo que va a suceder a continuación.

Robin Pomeroy: Esto es Radio Davos.

Bienvenidos a Radio Davos. Esta semana hablamos de inteligencia artificial e inteligencia artificial general. Para hablar de ello, me acompaña un copresentador, Benjamin Larsen, desde San Francisco. Hola, Benjamin, ¿cómo estás?

Benjamin Larsen: Hola, Robin, es un placer estar aquí.

Robin Pomeroy: Nos alegra tenerte. Cuéntanos a qué te dedicas en el Foro Económico Mundial.

Benjamin Larsen: Soy responsable de seguridad en IA. Trabajo en el Centro para la Excelencia en IA del Foro. Estoy basado aquí, en San Francisco. Contamos con la llamada Alianza Global de IA, que cuenta con varias líneas de trabajo, y dirijo una de ellas, denominada Sistemas y Tecnologías Seguros, en la que nos centramos especialmente en la seguridad y la protección, entre otros aspectos, de los modelos y sistemas de frontera y de los agentes de IA.

Robin Pomeroy: Te has unido a mí para preparar esta sesión que tuvo lugar en la Reunión Anual del Foro Económico Mundial en Davos 2026, hace apenas unas semanas. Se ha visto muchísimas veces en línea. Participan dos fundadores y directores ejecutivos de empresas de IA. ¿Podrías hablarnos un poco de ellos? Se trata de Dario Amodei y Demis Hassabis. ¿Quiénes son y por qué es importante escucharlos?

Benjamin Larsen: Sí, por supuesto. Dario Amodei y Demis Hassabis son, esencialmente, dos de los líderes más influyentes que están marcando la dirección de la IA avanzada en la actualidad.

Dario es el director ejecutivo y cofundador de Anthropic, una de las principales empresas de investigación en IA. Anteriormente trabajó en OpenAI y es probablemente más conocido por su enfoque en la seguridad y la alineación de la IA, y en la creación de sistemas potentes, pero también seguros y controlables. Es algo que ocupa un lugar muy destacado para Anthropic.

Y luego está Demis. Demis es el director ejecutivo y cofundador de Google DeepMind. Se formó originalmente como neurocientífico y es conocido por avances como AlphaGo, un sistema que venció al jugador de Go líder mundial en 2016, pero también es muy conocido por la IA científica, es decir, avances de vanguardia como AlphaFold, un algoritmo de predicción de la estructura de las proteínas. Demis lleva mucho tiempo planteando la IA como un proyecto científico orientado a comprender la propia inteligencia. Y aquí es donde también entra en juego la AGI.

Robin Pomeroy: Entonces, la AGI, la inteligencia artificial general. ¿Es un concepto que está muy claro? Tengo la impresión de que probablemente existen varias definiciones o quizá una escala de definiciones. ¿Qué opinas? Si nunca hubiera oído esa expresión, ¿cómo la definirías para mí?

Benjamin Larsen: Sí, diría que quizá una forma de entenderlo es que puede haber inteligencia estrecha o específica, o inteligencia muy general. La AGI, que significa inteligencia artificial general, se refiere realmente a un sistema capaz de comprender, aprender y aplicar conocimientos en una amplia gama de tareas comparables a las de un ser humano.

Si piensas en nuestra inteligencia, Robin, no tenemos inteligencia en un único ámbito muy concreto, sino que somos capaces de interactuar y operar en el mundo físico, y eso exige un sentido de la inteligencia muy amplio y general.

Así pues, puedes pensar en esto como sistemas de IA que pasan de ser muy simples y acotados a comprender ampliamente el mundo e interactuar con él e interpretarlo de maneras muy similares y muy generales, es decir, parecidas a lo que hacemos los seres humanos.

Robin Pomeroy: Para las personas que en los últimos tres años más o menos se han quedado sorprendidas por la IA generativa, quizá digan: «Parece que algunos de estos modelos ya pueden hacer eso, porque puedes hacerle a uno de estos grandes modelos de lenguaje cualquier pregunta y suena muy autorizado. También puedes pedirle que haga tareas por ti, que resuelva cosas o que cree algo». ¿No es eso ya inteligencia general en cierta medida?

Benjamin Larsen: Se podría decir que en cierta medida lo es, y según una de las definiciones, ya que dirijo lo que se denomina un Consejo Futuro Global sobre AGI, copresidido por Yoshua Bengio y Akiko Murakami, que es la directora ejecutiva del Instituto de Seguridad en IA de Japón. La definición de trabajo de AGI que utilizamos es que se trataría de un sistema capaz de realizar tareas que exigen una función cognitiva similar a la de un ser humano en una serie de entornos digitales.

Y se podría decir que, en cierta medida, algunos sistemas ya son claramente capaces de hacerlo. Pero, de nuevo, puede que no incluya el componente «general». Así, un sistema podría realizar bien una tarea o desempeñarse bien en un ámbito, pero para que funcione en otros ámbitos de forma similar a un ser humano y para que pueda cambiar de tarea como lo hacemos nosotros, se requerirían importantes competencias de ingeniería.

Es decir, no basta con tomar cualquier sistema y conectarlo a cualquier entorno digital y pedirle que realice estas o aquellas acciones conforme a determinadas especificaciones. Eso es algo que todavía falta, pero ciertamente estamos viendo tendencias y tendencias hacia esta dirección, y lo estamos viendo ahora mismo.

Robin Pomeroy: ¿Y por qué es algo tan importante? Algunas personas también hablan de la singularidad, y no estoy del todo seguro de que puedas ayudarnos a entender qué significa. ¿Es que un día nos despertamos y de pronto nos rodean máquinas increíblemente inteligentes, IA que posee esta inteligencia general? ¿Por qué la gente está tan obsesionada con la AGI? Además, se oye a menudo a los responsables de muchas de estas empresas decir que en esto están trabajando, que quizá exista una carrera por lograr la AGI. ¿Por qué es algo tan importante?

Benjamin Larsen: Sí, en cuanto a la singularidad, para explicar brevemente qué es, se trata de un momento hipotético en el que los sistemas de IA serán capaces de mejorarse a sí mismos más rápido de lo que los humanos pueden comprenderlos o controlarlos.

En este escenario, tendríamos un progreso acelerado que podría conducir a un cambio social rápido o impredecible, en esencia.

Pero creo que conviene subrayar que no todo el mundo cree que la singularidad vaya a producirse, o al menos que vaya a ocurrir pronto. Algunos la consideran un experimento mental útil para poner a prueba supuestos, por ejemplo, sobre el crecimiento exponencial. Otros, en cambio, podrían considerarla un riesgo real que exige preparación y salvaguardas significativas ya desde hoy.

Por tanto, la forma en que vemos la AGI en el trabajo del Consejo que he mencionado es un enfoque mucho más gradual. No es algo que vayamos a despertar mañana para encontrarnos con una AGI parecida a como entendemos la singularidad. Pero se podría considerar la AGI como una forma irregular de inteligencia capaz de sobresalir y ser sobrehumana en algunos ámbitos. Por ejemplo, en cuanto a la información subyacente incorporada a los modelos de lenguaje actuales y a cómo pueden responder casi como lo haría un oráculo. Y eso es muy distinto de cómo respondemos los humanos, con una memoria limitada y una comprensión limitada de algunas materias.

Pero en otros ámbitos en los que nosotros destacaríamos, diríamos: ¿por qué ni siquiera puedes recordar lo que hablamos hace cinco minutos o algo así?

Así pues, hay diferencias reales, y por eso se puede entender como una forma irregular de inteligencia que en este momento avanza con rapidez en algunos campos, pero que sigue siendo muy limitada en otros.

Robin Pomeroy: Hay un concepto que se menciona muchas veces en lo que vamos a escuchar. Hablan de que los modelos de IA cierran el bucle. ¿Podrías explicarnos qué significa?

Benjamin Larsen: Cerrar el bucle significa pasar de sistemas de IA que solo son capaces de generar resultados. Si hoy en día le das una instrucción a un modelo de lenguaje, dirías: vale, tengo una entrada y espero una salida. Pero cerrar el bucle se refiere a sistemas que también pueden emprender acciones, observar los resultados y luego adaptar su comportamiento en consecuencia, con el tiempo.

Por tanto, se trata mucho más de un bucle, similar a la forma en que nosotros, de nuevo, pensamos, aprendemos y actuamos. No me limito a dar con una respuesta, sino que reflexiono sobre cuáles son las implicaciones de esa respuesta, dónde necesito buscar conocimientos adicionales, cómo resuelvo una parte de la tarea y, a partir de cómo resuelvo todos estos elementos, vuelvo a revisar cuál era la tarea original. Eso sería, en esencia, cerrar el bucle.

Se podría decir que esto implica iteración y es muy importante porque constituye un paso hacia la autonomía. Puedes imaginar que, si logras cerrar este bucle, tendrás una autonomía mayor y podrás dar pasos cada vez más numerosos para resolver tareas específicas.

Pero, por supuesto, también es muy importante subrayar que cuando se pretende cerrar este bucle o aspirar a una mayor autonomía, por ejemplo, en entornos agénticos, aparecen nuevos riesgos que exigen nuevos enfoques de gobernanza. Y es algo en lo que nos hemos centrado mucho en nuestra labor en el Foro.

Robin Pomeroy: Entonces, en un entorno de bucle cerrado, la IA ya no necesita ninguna intervención humana. Puede actuar por su cuenta, aprender cosas nuevas y decidir por sí misma lo que hace. ¿O estoy simplificando demasiado?

Benjamin Larsen: Creo que eso sería ir demasiado lejos respecto de dónde nos encontramos actualmente, pero, en el panorama general, sí vemos, por ejemplo, agentes de uso de ordenadores a los que simplemente puedes dar un ordenador portátil y pedirles que hagan varias cosas, y quizá puedas concederles cierto grado de libertad para que salgan a hacer sus propias cosas. Y entonces podrían emprender acciones impredecibles.

Por supuesto, no quieres eso en ningún entorno de trabajo, porque esto conlleva numerosos riesgos.

Pero también se podría decir que estos sistemas son algo más rudimentarios de lo que parece, en cuanto a la medida en que las acciones que realmente llevan a cabo se desvían o se dirigen a resolver u optimizar un problema concreto. Esto nos lleva de nuevo a la noción de singularidad de la que acabamos de hablar y a la pregunta de de dónde surge la dirección. ¿Proviene de un algoritmo que busca maximizar sus propios objetivos o metas, o de las metas y objetivos que fija un ser humano en el bucle que, en realidad, está ejecutando el sistema?

Así pues, creo que esa es una diferencia fundamental en cuanto al control frente a donde nos encontramos realmente hoy.

Pero, por supuesto, hay escenarios en los que hay que pensar mucho más detenidamente en qué sistemas estamos creando y, una vez que tengamos una inteligencia artificial general capaz de cerrar el bucle, como hemos comentado, cuál será el resultado y cómo podremos controlarlo y garantizarlo, en esencia.

Robin Pomeroy: Hay un reciente ciclo de expectación. Es curioso, yo estoy aquí sentado en Ginebra, y tú estás en San Francisco, cerca de donde ocurren cosas interesantes constantemente. De vez en cuando, algunas historias salen de la burbuja quizá de Silicon Valley, y una de ellas que mucha gente ha seguido de cerca es esta, que ha cambiado de nombre varias veces; OpenClaw, creo, es su última iteración.

Lo menciono porque has dicho que podrías dar un ordenador portátil a una IA y ponerla a hacer lo suyo. Y, según tengo entendido, eso es lo que ha estado ocurriendo aquí. Y eso es lo que ha emocionado a algunas personas. Muchas otras son bastante escépticas sobre lo que es. Pero ¿podrías explicar a alguien que no haya oído hablar de ello qué es y por qué algunas personas se entusiasmaron tanto?

Benjamin Larsen: OpenClaw, la última iteración del nombre, por supuesto. Se trata, en esencia, de la idea de un asistente personal de IA. Digamos que interactúo con OpenClaw; OpenClaw es totalmente de código abierto. Así que puedo tener, básicamente, un asistente personal. Puedo concederle acceso a mi correo electrónico, a mi calendario y a mis agendas. Y por primera vez tienes la idea de un asistente personal que es realmente útil y de ayuda.

Por supuesto, sigue siendo frágil y puede fallar mucho, pero la diferencia, Robin, es que esta vez se trata de un sistema de código abierto. Cualquiera puede modificar el agente, interactuar con él y darle acceso a recursos personales, etc., frente a muchos de los agentes que hemos visto hasta ahora, que tienden a ser propietarios, es decir, de código cerrado. Son empresas las que desarrollan estos sistemas, y están mucho más orientados a casos de uso específicos, etc. Y esa es una diferencia importante.

Pero lo que también hemos visto con OpenClaw, y esta es una historia con moraleja, es que, una vez que empiezas a conceder acceso a agentes en fase temprana y les permites acceder a todos tus sistemas, etc., aumenta también la superficie de ataque para los hackers y para la actividad malintencionada, que pueden infiltrarse y explotar vulnerabilidades de ciberseguridad, etc.

Y, desde luego, yo no me sentiría cómodo en una situación o escenario así, con la posibilidad de que algunos de mis datos personales queden expuestos, en esencia.

Por tanto, es un indicio de la dirección que tomaremos, en la que veremos mucha más innovación en agentes y asistentes de IA en los próximos tiempos, también en el ámbito del código abierto.

Y, junto con los protocolos subyacentes, como el protocolo de contexto de modelos y los protocolos de agente a agente, podemos esperar mucho más en los próximos tiempos, no solo en lo que respecta a la IA y a los asistentes personales, sino también en cuanto a los agentes en sentido amplio y a cómo está cambiando la noción de infraestructura subyacente, es decir, tener una web mucho más agéntica y muchas más superficies agénticas.

Y eso se relaciona con lo que hablamos antes sobre cerrar el bucle: veremos más autonomía en la IA y en los sistemas de software en general en los próximos tiempos.

Robin Pomeroy: Bien, pues escuchemos esta sesión de Davos. Son los dos, como moderadora de esta sesión, Zanny Minton Beddoes, directora de redacción de The Economist. Dice que ya lo ha hecho un par de veces con Dario Amodei y Demis Hassabis, y dijo que es como entrevistar a los Beatles y a los Rolling Stones al mismo tiempo, lo cual es una buena introducción.

Antes de dejarte ir, Ben, has mencionado el Consejo Futuro Global. Son grupos de una docena de expertos de todo el mundo que reúne el Foro Económico Mundial. En tu caso, es el Consejo Futuro Global sobre... ¿qué dijiste?

Benjamin Larsen: Es el Consejo Futuro Global sobre AGI.

Robin Pomeroy: ¿Ya hay material que la gente pueda consultar al respecto o es algo que hay que seguir en el futuro?

Benjamin Larsen: Sí, tenemos una página web en la que publicamos varios documentos de síntesis más breves, esencialmente documentos de precisión.

Estamos estudiando ámbitos como la agencia y el control, de los que hemos hablado aquí, Robin. Analizamos la colaboración internacional y cómo sería. Estudiamos la AGI y los desencadenantes de políticas, por ejemplo, las implicaciones para los mercados laborales, la transformación económica y social, etc. Y, por supuesto, al igual que en la conversación a la que estamos a punto de sintonizar, adoptamos una postura en varios de estos ámbitos y estamos aquí para ayudar a informar a las partes interesadas, para que tomen mejores decisiones en lo que respecta a la capacidad cada vez mayor de los sistemas, a esta noción de inteligencia artificial general, a cómo será en los próximos tiempos y a lo que debemos hacer ahora para prepararnos mejor.

Robin Pomeroy: Pondré un enlace a eso en las notas del programa.

Has mencionado que uno de los presidentes de ese Consejo Futuro Global es Yoshua Bengio. Lo conocí en Davos hace unas semanas, grabé una entrevista en la que habla mucho de los peligros de la inteligencia artificial, al igual que las dos personas que vamos a escuchar a continuación. Y son personas que realmente saben de lo que hablan, las tres. Así que estén atentos al episodio que llegará en las próximas semanas a Radio Davos.

Por ahora, Benjamin Larsen, muchas gracias por acompañarnos en Radio Davos.

Benjamin Larsen: Robin, ha sido un placer estar aquí.

Robin Pomeroy: Muy bien, pues escuchemos. Pueden ver esta sesión. También pondré un enlace, está en la página de YouTube del Foro Económico Mundial. Se titula «El día después de la AGI», y la primera voz que escucharán será la de la directora de redacción de The Economist, Zanny Minton Beddoes.

Zanny Minton Beddoes, directora de redacción, The Economist: Bienvenidos a todos, y bienvenidos a quienes nos siguen en directo en esta conversación que, debo decir, espero desde hace meses.

Tuve la suerte de moderar una conversación entre Dario Amadei y Demis Hassabis el año pasado en París, que, me temo, atrajo más atención por el hecho de que ustedes dos estaban apretujados en un sofá muy pequeño mientras yo me sentaba en uno enorme, lo cual probablemente fue culpa mía.

Pero dije en aquel momento que, para mí, era como, ya saben, presidir una conversación entre los Beatles y los Rolling Stones, y desde entonces no han vuelto a mantener una conversación en el escenario. Así que esta es, ahora, la secuela: las bandas se reúnen de nuevo, y me alegra mucho. No necesitan presentación. El título de nuestra conversación es «El día después de la AGI», que quizá vaya un poco por delante de nosotros, porque probablemente deberíamos hablar de lo rápido y fácilmente que llegaremos allí. Y quiero hacer una especie de actualización al respecto y luego hablar de las consecuencias.

Así pues, en primer lugar, sobre el calendario: Dario, el año pasado en París dijiste que tendríamos un modelo capaz de hacer todo lo que un humano podría hacer, al nivel de un premio Nobel en muchos campos, para 2026 o 2027. Estamos en 2026. ¿Sigues manteniendo ese calendario?

Dario Amodei, CEO y cofundador, Anthropic: Bueno, ya sabes, siempre es difícil saber exactamente cuándo va a ocurrir algo, pero no creo que vaya a estar tan lejos.

El mecanismo mediante el cual imaginaba que ocurriría era que crearíamos modelos buenos en programación y buenos en investigación en IA, y los usaríamos para producir la siguiente generación de modelos y acelerarla, para crear un bucle que aumentara la velocidad del desarrollo de los modelos.

Ahora mismo, en cuanto a los modelos que escriben código, tengo ingenieros dentro de Anthropic que dicen: ya no escribo ningún código. Dejo que el modelo escriba el código. Lo edito. Hago las tareas que lo rodean.

Creo que, no lo sé, quizá estemos a entre seis y doce meses de que el modelo haga la mayor parte, quizá todo, de lo que hacen los ingenieros de software [SWE], de principio a fin.

Y entonces es cuestión de lo rápido que se cierre ese bucle. No todas las partes de ese bucle son algo que la IA pueda acelerar, ¿verdad? Está el tema de los chips, está el fabricante de chips. Está el tiempo de entrenamiento del modelo.

Así que, bueno, creo que hay mucha incertidumbre. Es fácil ver cómo esto podría tardar unos pocos años. Me resulta muy difícil imaginar que pudiera tardar más que eso.

Pero si tuviera que adivinar, diría que esto avanzará más rápido de lo que la gente imagina y que ese elemento clave del código, y cada vez más la investigación, avanzando más rápido de lo que imaginamos, será el factor determinante.

Es realmente difícil predecir, de nuevo, cuánto nos va a acelerar esa curva exponencial. Pero algo rápido va a ocurrir.

Zanny Minton Beddoes: Demis, usted fue un poco más cauto el año pasado. Dijo que había un 50 % de probabilidades de que, para finales de la década, existiera un sistema capaz de exhibir todas las capacidades cognitivas que tienen los seres humanos. Está claro que, en programación, como dice Dario, ha sido notable. ¿Cuál es su impresión? ¿Se mantiene en su predicción y qué ha cambiado en el último año?

Demis Hassabis: Sí, mire, creo que sigo en la misma línea temporal. Creo que ha habido un progreso notable, pero considero que algunas áreas del trabajo de ingeniería, como la programación, o, por decirlo de alguna manera, las matemáticas, son un poco más fáciles de ver cómo podrían automatizarse, en parte porque es verificable cuál es el resultado.

Algunas áreas de las ciencias naturales son mucho más difíciles que eso. No necesariamente sabrá si el compuesto químico que ha creado o esta predicción sobre física es correcta. Puede que tenga que comprobarlo experimentalmente. Y todo eso llevará más tiempo.

Por eso creo que, actualmente, faltan algunas capacidades, no solo para resolver conjeturas o problemas existentes, sino para plantear la pregunta en primer lugar o formular la teoría o la hipótesis. Creo que eso es mucho, mucho más difícil, y que representa el nivel más alto de creatividad científica.

Y no está claro. Creo que tendremos esos sistemas. No creo que sea imposible, pero creo que puede que falten uno o dos ingredientes.

Queda por ver, en primer lugar, si este bucle de automejora en el que todos estamos trabajando puede cerrarse realmente sin un ser humano en el proceso. Creo que también hay riesgos en ese tipo de sistema, por cierto, que deberíamos debatir, y estoy seguro de que lo haremos. Pero eso podría acelerar las cosas si ese tipo de sistema funciona.

Zanny Minton Beddoes: Hablaremos de los riesgos dentro de un momento, pero creo que otro cambio del último año ha sido una especie de transformación en el orden de la carrera, si se quiere. Hace un año, acabábamos de vivir el momento DeepSeek, y todo el mundo estaba increíblemente entusiasmado con lo que sucedió. Y aún existía la sensación de que Google DeepMind iba algo por detrás de OpenAI.

Diría que ahora la situación es muy distinta. Quiero decir, han declarado código rojo, ¿no?

Ha sido un año muy intenso. Así que cuéntenos qué le ha sorprendido concretamente y lo bien que lo ha hecho este año, y si cree que, y después le preguntaré por el panorama de competidores.

Demis Hassabis: Bueno, mire, siempre estuve muy seguro de que volveríamos a estar en lo más alto de las clasificaciones y de los modelos de vanguardia (SOTA [State-of-the-Art]) en todos los ámbitos, porque creo que siempre hemos contado con el equipo de investigación más profundo y amplio, y se trataba de reunir todo eso, y de recuperar en toda la organización la intensidad, el enfoque y la mentalidad de startup.

Ha sido mucho trabajo y todavía nos queda mucho por hacer. Pero creo que ya se empieza a ver el progreso logrado, tanto en los modelos con Gemini 3, como en el ámbito de los productos, con la aplicación Gemini, que gana cuota de mercado de forma constante.

Así que siento que estamos avanzando muy bien, pero queda muchísimo trabajo por hacer. Y estamos aportando a Google DeepMind lo que podríamos llamar el motor de Google, donde nos estamos acostumbrando a lanzar nuestros modelos cada vez más rápido en los productos.

Zanny Minton Beddoes: Dario, una pregunta para usted sobre este aspecto, porque acaba de estar, o está en proceso, de una nueva ronda de financiación con una valoración extraordinaria. Pero usted es, a diferencia de Demis, lo que podríamos llamar un fabricante de modelos independiente, y creo que existe una preocupación cada vez mayor de que los fabricantes independientes no puedan aguantar lo suficiente hasta que lleguen los ingresos.

Se ha hablado mucho de OpenAI, pero cuénteme cómo lo piensa usted, y después hablaremos de la AGI en sí.

Dario Amodei: Sí, bueno, lo vemos así: a medida que hemos ido construyendo modelos cada vez mejores, ha existido una relación exponencial, no solo entre la cantidad de cómputo que se introduce en el modelo y su capacidad cognitiva, sino también entre dicha capacidad cognitiva y los ingresos que puede generar.

Así que nuestros ingresos han crecido 10 veces en los últimos tres años: de cero a 100 millones en 2023, de 100 millones a mil millones en 2024, y de mil millones a 10 000 millones en 2025. No sé si esa curva continuará literalmente. Sería una locura que así fuera, pero esas cifras empiezan a acercarse bastante a la escala de las mayores empresas del mundo.

Siempre hay incertidumbre. Estamos intentando impulsar esto desde cero. Es algo increíble, pero confío en que, si somos capaces de producir los mejores modelos en aquello en lo que nos centramos, las cosas irán bien.

Y, en general, diré que ha sido un buen año tanto para Google como para Anthropic. Creo que lo que realmente tenemos en común es que ambas son empresas, o al menos su área de investigación, dirigidas por investigadores que se centran en los modelos, en resolver problemas importantes para el mundo, ¿verdad? Que tienen estos problemas científicos difíciles como estrella polar.

Y creo que esas son el tipo de empresas que van a tener éxito en el futuro. Y creo que compartimos esa visión.

Zanny Minton Beddoes: Me voy a resistir a la tentación de preguntarle qué pasará con las empresas que no están dirigidas por investigadores, porque sé que no va a responder.

Pero pasemos ahora al área de las predicciones, y aunque se supone que hablamos del día después de la IA, hablemos de cerrar el bucle.

Las probabilidades de que obtengan modelos que cierren el bucle y que puedan impulsarse a sí mismos, si se quiere, porque ese es realmente el punto crucial del enfoque de umbral de «el ganador se lo lleva todo».

¿Sigue creyendo que es probable que lo veamos? ¿O esto va a ser mucho más una tecnología normal, en la que los seguidores y quienes se ponen al día puedan competir?

Demis Hassabis: Bueno, mire, desde luego no creo que vaya a ser una tecnología normal. Es decir, ya hay aspectos, como ha mencionado Dario, en los que ya nos ayuda con la programación y con algunos aspectos de la investigación.

Sin embargo, cerrar completamente el bucle creo que es una incógnita. Quiero decir que creo que es posible hacerlo. Puede que necesitemos la propia AGI para lograrlo en algunos ámbitos.

De nuevo, en los ámbitos donde hay más complejidad, no es tan fácil verificar la respuesta con rapidez. Existen dominios NP-difíciles. Así que, en cuanto empiezas a tratar con más, y en esto incluyo también, por cierto, la IA física para la AGI, la robótica que funciona, todas estas cosas, y luego tienes el hardware dentro del bucle, eso puede limitar la velocidad a la que pueden funcionar los sistemas de automejora. Pero creo que en la programación, las matemáticas y estas áreas similares, sí puedo ver claramente que eso funciona. Y luego la pregunta es más teórica: cuál es el límite de la ingeniería y las matemáticas para resolver las ciencias naturales.

Zanny Minton Beddoes: Darren, usted publicó el año pasado, creo que fue el año pasado, Máquinas de gracia amorosa, un ensayo que yo diría que era muy optimista sobre el potencial que se iba a desplegar. Me han dicho que está trabajando en una actualización de ese texto, un nuevo ensayo, así que, ya saben, espérenlo. Todavía no ha salido, pero está en camino. Quizá pueda adelantarnos algo, una especie de avance de cuál va a ser su gran conclusión un año después.

Dario Amodei: Sí, bueno, mi postura no ha cambiado. Siempre he creído que la IA va a ser increíblemente poderosa. Creo que Demis y yo estamos bastante de acuerdo en eso. Es solo una cuestión de cuándo exactamente.

Y como va a ser increíblemente poderosa, hará todas esas cosas maravillosas que mencioné en Máquinas de gracia amorosa. Nos ayudará a curar el cáncer. Puede que nos ayude a erradicar enfermedades tropicales. Nos ayudará a comprender el universo. Pero también existen riesgos inmensos y graves que, no es que no podamos abordarlos, no soy un agorero, pero debemos pensar en ellos y afrontarlos.

Y escribí Máquinas de gracia amorosa primero. Me encantaría dar alguna razón sofisticada de por qué lo escribí primero, pero simplemente el ensayo positivo era más fácil y más divertido de escribir que el negativo. Así que por fin dediqué un tiempo de vacaciones y pude escribir un ensayo sobre los riesgos. Y aun al escribir sobre los riesgos, intenté, ya saben, ser una persona optimista, ¿verdad? Así que, incluso mientras escribía sobre ellos, lo enfoqué de forma que se viera cómo superarlos, cómo tener un plan de batalla para combatirlos.

Y lo encuadré a partir de una escena de Contact, de Carl Sagan, la versión cinematográfica. En ella descubren vida alienígena y hay un panel internacional que entrevista a personas para representar a la humanidad ante el extraterrestre. Y una de las preguntas que le hacen a uno de los candidatos es qué le preguntaría a los alienígenas si pudiera hacerles una sola pregunta. Y uno de los personajes responde: preguntaría cómo lo hicieron, cómo lograron superar esta adolescencia tecnológica sin destruirse a sí mismos. ¿Cómo lo consiguieron?

Y desde que la vi, hace unos 20 años, creo que vi esa película, se me ha quedado grabada. Y ese es el marco que utilicé: estamos llamando a la puerta de estas capacidades increíbles, ¿verdad? La capacidad de construir básicamente máquinas a partir de arena, ¿verdad? Creo que era inevitable en el momento en que empezamos a trabajar con el fuego. Pero cómo lo gestionemos no es inevitable. Así que creo que en los próximos años vamos a tener que lidiar con cómo mantener bajo control estos sistemas, que son muy autónomos y más inteligentes que cualquier ser humano. ¿Cómo nos aseguramos de que las personas no los utilicen mal? Me preocupan cosas como el bioterrorismo. ¿Cómo nos aseguramos de que los Estados nación no los utilicen mal? Por eso me ha preocupado tanto, ya saben, el PCCh, otros gobiernos autoritarios. ¿Cuáles son los impactos económicos, ¿verdad? He hablado mucho del desplazamiento laboral.

Y lo que no hemos pensado, que en muchos casos puede ser lo más difícil de afrontar.

Así que estoy pensando en cómo abordar esos riesgos. Y, en cada caso, es una mezcla de cosas que nosotros, individualmente, como líderes de las empresas, tenemos que hacer, y cosas que podemos hacer trabajando juntos.

Y luego hará falta que algunas instituciones sociales más amplias, como los gobiernos, tengan un papel para afrontar todo esto.

Pero siento una urgencia: cada día ocurren todo tipo de cosas absurdas en el mundo exterior, fuera de la IA, ¿verdad? Pero mi postura es que esto está sucediendo tan rápido y es una crisis tan grande que deberíamos dedicar casi todo nuestro esfuerzo a pensar cómo superarla.

Zanny Minton Beddoes: No sé si me sorprende más que, primero, se tome vacaciones; segundo, que cuando se tome vacaciones piense en los riesgos de la IA, y tercero, que su ensayo esté planteado en términos de si vamos a superar la adolescencia tecnológica de esta tecnología sin destruirnos a nosotros mismos.

Así que me da algo de vértigo, pero usted, y puedo esperar a leerlo, ha mencionado varios ámbitos que pueden orientar el resto de nuestra conversación.

Empecemos por los empleos. Porque usted ha sido muy franco al respecto, y creo que dijo que la mitad de los empleos de oficina de nivel inicial podrían desaparecer en el próximo uno a cinco años.

Pero me voy a dirigir a usted, Demis, porque hasta ahora no hemos visto ningún impacto apreciable en el mercado laboral. Es cierto que el desempleo ha subido en Estados Unidos, pero todos los estudios económicos que he consultado, y sobre los que hemos escrito, sugieren que se trata de una contratación excesiva tras la pandemia, y que realmente no se debe a la IA. Si algo, la gente está contratando para desarrollar capacidades de IA.

¿Cree que, como siempre han sostenido los economistas, no se trata de la falacia de la cantidad fija de trabajo, sino que en realidad se crearán nuevos empleos, porque hasta ahora la evidencia parece apuntar en esa dirección?

Demis Hassabis: Bueno, creo que, a corto plazo, eso es lo que va a pasar, la evolución normal cuando llega una tecnología revolucionaria. Así que algunos empleos se verán alterados, pero creo que surgirán empleos nuevos, incluso más valiosos y quizá más significativos.

Creo que este año veremos los inicios de lo que podría afectar a los puestos de nivel júnior y de entrada, las prácticas y este tipo de cosas. Creo que hay algunos indicios que yo mismo puedo percibir, quizá una ralentización de la contratación y cosas así.

Pero creo que eso puede compensarse con creces con el hecho de que existen herramientas creativas increíbles, prácticamente disponibles para todos, casi gratis, y que, si ahora mismo tuviera que hablar con una clase de estudiantes universitarios, les diría que se volvieran increíblemente competentes con estas herramientas. Creo que, en la medida en que incluso quienes las construimos estamos tan ocupados construyéndolas, nos cuesta tener tiempo para explorar de verdad el enorme margen de capacidad que tienen incluso los modelos y productos actuales, por no hablar de los del mañana. Y creo que eso puede ser quizá mejor que unas prácticas tradicionales en cuanto a permitirte dar un salto y entrar en una profesión útil.

Así que creo que eso es lo que veo que va a pasar probablemente en los próximos cinco años. Quizá de nuevo discrepemos un poco en las escalas temporales. Pero creo que lo que ocurra después de que llegue la AGI es otra cuestión. Así que realmente creo que en ese momento estaríamos en un territorio desconocido.

Zanny Minton Beddoes: ¿Cree que tardará más de lo que pensaba el año pasado, cuando dijo que la mitad de todos los empleos de oficina de nivel inicial?

Dario Amodei: Tengo más o menos la misma opinión. De hecho, estoy de acuerdo con usted y con Demis en que, cuando hice el comentario, no había ningún impacto en el mercado laboral. No estaba diciendo que hubiera un impacto en el mercado laboral en ese momento.

Ahora creo que quizá estamos empezando a ver un pequeño comienzo de esto en la programación de software. Incluso lo veo dentro de Anthropic, donde puedo prever un momento en el que, en los puestos más júnior y en los intermedios, necesitemos menos personas y no más. Y estamos pensando cómo gestionarlo dentro de Anthropic de una forma sensata.

Lo de uno a cinco años, hace seis meses lo mantendría. Ya saben, si conectan esto con lo que dije antes, que es que quizá tengamos IA mejor que los humanos en todo dentro de uno o dos años, quizá un poco más, eso no parece encajar. La razón es que existe este retraso y esta cuestión de la sustitución, ¿verdad? Sé que el mercado laboral es adaptable, ¿verdad?, igual que sabemos que antes el 80 % de las personas se dedicaba a la agricultura. La agricultura se automatizó, y luego se convirtieron en trabajadores de fábricas, y después en trabajadores del conocimiento. Así que hay cierto grado de adaptabilidad también, ¿verdad? Debemos ser económicamente sofisticados sobre cómo funciona el mercado laboral.

Pero mi preocupación es que, a medida que esta curva exponencial sigue acumulándose, y no creo que vaya a tardar tanto, de nuevo, entre uno y cinco años, superará nuestra capacidad de adaptación.

Creo que quizá estoy diciendo lo mismo que Demis, solo que sin la diferencia que tenemos en cuanto a los plazos, que, en el fondo, creo que depende de la rapidez con la que se cierre el bucle en la programación.

Zanny Minton Beddoes: ¿Cuánta confianza tiene en que los gobiernos comprendan la magnitud de esto y estén empezando a pensar en qué respuestas políticas necesitan dar?

Demis Hassabis: No creo que se esté haciendo ni de lejos suficiente trabajo al respecto. Me sorprende constantemente que, incluso cuando me reúno con economistas en lugares como este, no sean más economistas profesionales, profesores, que piensen en lo que va a suceder.

Y no solo en el camino hacia la AGI, sino incluso si conseguimos todas las cuestiones técnicas que menciona Dario y los desplazamientos de empleo. Hay una pregunta: todos nos preocupamos por la economía de eso, pero quizá haya formas de distribuir esta nueva productividad, esta nueva riqueza, de manera más justa. No sé si tenemos las instituciones adecuadas para hacerlo, pero eso es lo que debería suceder en ese momento. Debería haber, ya saben, podríamos estar en un mundo posterior a la escasez.

Pero incluso hay cosas que me quitan el sueño: hay cuestiones aún más grandes en ese momento, relacionadas con el sentido y el propósito, y con muchas de las cosas que obtenemos de nuestro trabajo, no solo en lo económico. Esa es una pregunta, pero creo que puede ser más fácil de resolver, curiosamente, que lo que le ocurra a la condición humana y a la humanidad en su conjunto.

Y también soy optimista en que encontraremos nuevas respuestas. Hoy hacemos muchas cosas, desde los deportes extremos hasta el arte, que no tienen necesariamente una relación directa con el beneficio económico. Así que creo que encontraremos sentido, y quizá habrá versiones aún más sofisticadas de esas actividades. Además, creo que exploraremos las estrellas, así que también habrá que tener en cuenta todo eso en cuanto al propósito.

Pero creo que es realmente importante pensar ahora, incluso con mis plazos de cinco a 10 años, que no es mucho tiempo antes de que esto llegue.

Zanny Minton Beddoes: ¿Qué tan grande cree que es el riesgo de una reacción popular en contra de la IA que, de alguna manera, lleve a los gobiernos a hacer lo que, desde su perspectiva, podrían ser cosas absurdas? Porque pienso en la era de la globalización en los años noventa, cuando hubo cierto desplazamiento de empleos, los gobiernos no hicieron lo suficiente, y la reacción pública fue tal que hemos terminado más o menos donde estamos ahora. ¿Cree que existe el riesgo de que crezca un antagonismo hacia lo que ustedes están haciendo y hacia sus empresas en el conjunto de la sociedad?

Demis Hassabis: Creo que hay un riesgo, definitivamente, y creo que es bastante comprensible: hay miedo y preocupación por cosas como los empleos y el sustento. Creo que los próximos años van a ser muy complicados, creo, desde el punto de vista geopolítico, pero también por los diversos factores que hay aquí, como que queremos y estamos intentando hacer esto con AlphaFold y nuestro trabajo científico, e Isomorphic, nuestra empresa derivada, para resolver todas las enfermedades, curar enfermedades y desarrollar nuevas fuentes de energía. Creo que, como sociedad, está claro que queremos eso.

Creo que quizá el equilibrio de lo que hace la industria no dedica suficiente atención a ese tipo de actividades. Creo que deberíamos tener muchos más ejemplos, sé que Dario está de acuerdo conmigo, de cosas similares a AlphaFold que aporten bienes indiscutibles al mundo.

Y creo que, en realidad, corresponde a la industria y a todos los actores líderes demostrar más eso, mostrarlo, no solo hablar de ello, sino demostrarlo.

Pero luego van a surgir estas otras perturbaciones intensas. Pero creo que el otro problema es la competencia geopolítica. Obviamente, hay competencia entre las empresas, pero también entre Estados Unidos y China, principalmente. Así que, a menos que haya una cooperación o un entendimiento internacional en torno a esto, que creo que sería bueno, en cuanto a cosas como normas mínimas de seguridad para el despliegue, creo que Dario también estaría de acuerdo, creo que es sumamente necesario. Esta tecnología va a cruzar fronteras. Va a afectar a todo el mundo. Va a afectar a toda la humanidad. De hecho, Contact también es una de mis películas favoritas. Así que, curiosamente, no me di cuenta de que también era la suya, Dario, pero creo que este tipo de cosas deben resolverse.

Y si podemos, quizá sería bueno tener un ritmo algo más lento que el que estamos previendo actualmente, incluso con mis plazos, para que podamos hacer esto bien a nivel social. Pero eso requeriría cierta coordinación.

Dario Amodei: Prefiero sus plazos. Lo reconozco.

Zanny Minton Beddoes: Pero Dario, pasemos ahora a esto, porque desde la última vez que hablamos en París, el entorno geopolítico se ha vuelto, en todo caso, no sé, complicado, una locura, o la expresión que prefiera usar.

En segundo lugar, Estados Unidos tiene ahora un enfoque muy distinto respecto a China. Es mucho más, es una especie de todo vale, ir lo más rápido posible, pero luego vender chips a China.

Y eso es todo. Así que tiene una actitud diferente hacia Estados Unidos. Tiene una relación muy extraña entre Estados Unidos y Europa en este momento, en el plano geopolítico.

Frente a eso, quiero decir, le oigo hablar de que sería bueno contar con una organización similar al CERN. Quiero decir, eso está a un millón de años de donde estamos, del mundo real.

Entonces, en el mundo real, ¿han aumentado los riesgos geopolíticos? Y, si es así, ¿qué cree que debería hacerse al respecto? Y la administración parece estar haciendo lo contrario de lo que usted sugería.

Dario Amodei: Sí, quiero decir, mire, intentamos hacer lo mejor que podemos; somos solo una empresa y tratamos de operar en el entorno que existe, por muy absurdo que sea.

Pero, al menos, mis recomendaciones de política no han cambiado. No vender chips es una de las cosas más importantes que podemos hacer para asegurarnos de que tenemos tiempo para gestionar esto.

Ya dije antes que prefiero el calendario de Demis. Ojalá tuviéramos entre cinco y diez años; quizá tenga razón él y yo me equivoque, pero supongamos que tengo razón y que puede hacerse en uno o dos años. ¿Por qué no podemos ralentizarnos hasta el calendario de Demis?

Zanny Minton Beddoes: Bueno, simplemente podrían ralentizarse.

Dario Amodei: Bueno, no, pero la razón por la que no podemos hacerlo es que tenemos adversarios geopolíticos que construyen la misma tecnología a un ritmo similar. Es muy difícil alcanzar un acuerdo con capacidad de ejecución en el que ellos se ralenticen y nosotros nos ralenticemos.

Así que, si simplemente no vendemos los chips, esto no es una cuestión de competencia entre EE. UU. y China, sino una cuestión de competencia entre yo y Demis, y estoy muy seguro de que podemos resolverla.

Zanny Minton Beddoes: ¿Y qué opina de la lógica de la administración, que, según tengo entendido, es que debemos venderles chips porque necesitamos vincularlos a las cadenas de suministro estadounidenses?

Dario Amodei: Creo que no es solo una cuestión de escala temporal, sino de la importancia de la tecnología, ¿verdad?

Si esto fuera telecomunicaciones o algo similar, entonces todo este asunto de difundir la pila tecnológica estadounidense y querer construir nuestros chips por todo el mundo para asegurarnos de que países cualesquiera de distintas partes del mundo construyan centros de datos con chips de Nvidia en lugar de chips de Huawei, lo veo más bien como una decisión del tipo: ¿vamos a vender armas nucleares a Corea del Norte porque eso genera algún beneficio para Boeing, de modo que podamos decir: «De acuerdo, sí, estos casos los ha hecho Boeing. Estados Unidos va ganando. Esto es estupendo»? Esa analogía debería dejar claro cómo veo esta disyuntiva: simplemente no creo que tenga sentido, y hemos adoptado muchas medidas más agresivas contra China y otros actores, que considero mucho menos eficaces que esta.

Zanny Minton Beddoes: Un área más para mí, y luego espero que tengamos tiempo para una o dos preguntas.

La otra área de riesgo potencial que preocupa a los catastrofistas es una especie de IA maligna y todopoderosa. Creo que ambos han sido algo escépticos respecto al enfoque catastrofista, pero en el último año hemos visto que estos modelos demuestran ser capaces de engaño y doble juego.

¿Piensan de forma distinta sobre ese riesgo ahora que hace un año, y hay algo en la forma en que están evolucionando los modelos que deberíamos considerar con un poco más de preocupación?

Dario Amodei: Sí, quiero decir, desde el inicio de Anthropic hemos pensado en este riesgo.

Nuestra investigación al principio era muy teórica, ¿verdad? Fuimos pioneros en la idea de la interpretabilidad mecanicista, que consiste en mirar dentro del modelo e intentar entender, mirar dentro de su «cerebro», para tratar de comprender por qué hace lo que hace, de la misma manera que los neurocientíficos humanos, en cuyo campo ambos tenemos formación, intentan comprender el cerebro.

Y creo que, con el tiempo, hemos ido documentando cada vez más los malos comportamientos de los modelos cuando aparecen, y ahora estamos trabajando para abordarlos mediante la interpretabilidad mecanicista.

Así que creo que siempre me han preocupado estos riesgos. He hablado con Demis muchas veces. Creo que él también se ha preocupado por ellos.

Creo que yo he sido, y supongo que Demis también, aunque dejaré que él hable por sí mismo, escéptico ante el catastrofismo, es decir, la idea de que estamos condenados, de que no hay nada que podamos hacer o de que este es el resultado más probable.

Creo que se trata de un riesgo, un riesgo que, si todos trabajáramos juntos, podríamos abordar. Podemos aprender mediante la ciencia a controlar y dirigir adecuadamente estas creaciones que estamos construyendo. Pero si las construimos mal, si todos competimos y vamos tan deprisa que no hay barreras de protección, entonces creo que existe el riesgo de que algo salga mal.

Zanny Minton Beddoes: Así que le voy a dar la oportunidad de responder a esto en el contexto de una pregunta algo más amplia: en el último año, ¿ha crecido su confianza en el potencial de la tecnología, la ciencia y todas las áreas de las que tanto han hablado, o le preocupan más los riesgos que hemos comentado?

Demis Hassabis: Mire, Zanny, llevo trabajando en esto más de 20 años, así que ya lo sabíamos. La razón por la que he dedicado toda mi carrera a la IA son los beneficios de resolver, básicamente, la herramienta definitiva para la ciencia y para comprender el universo que nos rodea. Me ha obsesionado eso desde niño. Y construir IA debería ser la herramienta definitiva para ello si lo hacemos de la manera correcta.

Los riesgos también los hemos tenido en cuenta desde al menos el inicio de DeepMind, hace 15 años. Y previmos que, si se obtienen los beneficios, se trata de una tecnología de doble uso. Es decir, podría ser reutilizada, por ejemplo, por actores malintencionados con fines dañinos. Por eso hemos tenido que pensar en ello en todo momento.

Pero yo soy un gran defensor del ingenio humano. Sin embargo, la cuestión es disponer del tiempo, la concentración y de las mejores mentes colaborando para resolver estos problemas. Estoy seguro de que, si contáramos con ello, resolveríamos el problema del riesgo técnico. Puede que no lo tengamos, y entonces eso introducirá riesgo, porque estaremos, digamos, fragmentados, habrá proyectos distintos y la gente competirá entre sí. Entonces, será mucho más difícil garantizar que los sistemas que producimos sean técnicamente seguros. Pero me parece que es un problema muy abordable si disponemos del tiempo y del espacio necesarios.

Zanny Minton Beddoes: Quiero asegurarme de que haya una pregunta. Caballeros, sean muy breves, porque literalmente nos quedan dos minutos.

Miembro del público: Muchas gracias. Soy Philip, cofundador de Starcloud, que construye centros de datos en el espacio. Quería hacer una pregunta algo filosófica. El argumento más sólido a favor del catastrofismo, para mí, es la paradoja de Fermi, la idea de que no vemos vida inteligente en nuestra galaxia. Me preguntaba si tienen alguna reflexión al respecto.

Demis Hassabis: He pensado mucho en eso. No puede ser la razón, porque deberíamos ver todas las IA que hayan existido. Así que, para que todos lo entiendan, la idea es... Bueno, no está claro por qué habría de ocurrir eso, ¿verdad? Si la razón de la paradoja de Fermi es que no hay extraterrestres porque se eliminan con su propia tecnología, deberíamos estar viendo clips de papel acercándose hacia nosotros desde alguna parte de la galaxia. Y, aparentemente, no los vemos.

No vemos ninguna estructura, esferas de Dyson, nada, ya sean de IA, naturales o de tipo biológico. Así que, para mí, tiene que haber otra respuesta a la paradoja de Fermi. Tengo mis propias teorías al respecto, pero queda fuera de ámbito para el próximo minuto.

Pero, ya saben, siento que ya hemos superado el Gran Filtro. Probablemente fue la vida multicelular, si tuviera que adivinar. Fue increíblemente difícil que la biología evolucionara hasta eso. Así que no hay consuelo sobre lo que va a ocurrir a continuación. Creo que nos corresponde a la humanidad escribir qué va a ocurrir a continuación.

Zanny Minton Beddoes: Esto podría dar para una gran conversación, pero queda fuera de ámbito para las próximas 36 secciones. Pero lo que no queda fuera: quince segundos cada uno. ¿Qué habrá cambiado para cuando nos volvamos a reunir, espero que el próximo año, los tres, cosa que me encantaría?

Dario Amodei: Creo que lo más importante que hay que observar es este tema de los sistemas de IA que construyen sistemas de IA. Cómo evolucione eso, si va en una dirección u otra, determinará si nos faltan algunos años más para llegar allí o si tenemos maravillas y una gran emergencia ante nosotros a la que debemos hacer frente.

Zanny Minton Beddoes: Sistemas de IA que construyen sistemas de IA.

Demis Hassabis: Estoy de acuerdo en eso, así que mantendremos un contacto estrecho al respecto.

Pero, además, creo que, al margen de eso, hay otras ideas interesantes que se están investigando, como los modelos del mundo y el aprendizaje continuo. Creo que son cosas que habrá que resolver si la automejora no da resultados por sí sola; entonces necesitaremos que funcionen estas otras cosas, y creo que la robótica podría tener su momento de despegue.

Zanny Minton Beddoes: Pero quizá, a partir de lo que acaban de decir, deberíamos esperar que les lleve un poco más de tiempo, y que también a todos los demás, para darnos más margen.

Demis Hassabis: Lo preferiría. Creo que sería mejor para el mundo.

Zanny Minton Beddoes: Bueno, ustedes podrían hacer algo al respecto. Muchas gracias a ambos.

Robin Pomeroy: Zanny Minton Beddoes conversó con Demis Hassabis y Dario Amodei en la Reunión Anual 2026 del Foro Económico Mundial en Davos. Pueden ver esa sesión en nuestro sitio web o en nuestro canal de YouTube; los enlaces están en las notas del episodio.

Hay muchísimas conversaciones excelentes, como esa, que se transmitieron en directo desde Davos, y pueden verlas todas en diferido. Además, estamos publicando muchas de ellas en nuestro pódcast hermano, Agenda Dialogues, disponible en cualquier plataforma de pódcast.

Para saber más sobre la labor del Centro para la Excelencia en IA del Foro, la Alianza Global de IA y el Consejo Global sobre Inteligencia Artificial General, hagan clic también en los enlaces de las notas.

Y no se pierdan mi entrevista con Yoshua Bengio, uno de los padrinos de la IA, sobre cómo trabaja para contrarrestar los riesgos que plantea la tecnología, que se publicará próximamente en Radio Davos. Síganos en cualquier plataforma de pódcast o visiten wef.ch/podcasts, donde también encontrarán Meet the Leader, que incluye algunas entrevistas increíbles de Davos que se incorporarán en las próximas semanas.

Este episodio de Radio Davos fue presentado, producido y editado por mí, Robin Pomeroy, y por mi colega Benjamin Larsen. La producción en estudio corrió a cargo de Taz Kelleher.

Radio Davos volverá la próxima semana, pero por ahora, gracias por escucharnos y hasta luego.

La inteligencia artificial general (AGI) es ese punto del futuro en el que las máquinas podrán hacer prácticamente todo mejor que los seres humanos. ¿Cuándo ocurrirá, cómo será y cuál será su impacto en la humanidad?

Dos de las mentes más brillantes que trabajan hoy en IA, Demis Hassabis, cofundador y consejero delegado de Google DeepMind, y Dario Amodei, cofundador y consejero delegado de Anthropic, conversan con Zanny Minton Beddoes, redactora jefe de The Economist.

Benjamin Larsen, experto en IA del Foro Económico Mundial, presenta la conversación y nos ofrece una introducción a la AGI.

Puede ver la conversación de la Reunión Anual 2026 en Davos aquí:

Licencia y republicación
Los artículos del Foro Económico Mundial pueden volver a publicarse de acuerdo con la Licencia Pública Internacional Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0, y de acuerdo con nuestras condiciones de uso. Las opiniones expresadas en este artículo son las del autor y no del Foro Económico Mundial.