Esta transcripción se ha generado mediante software de reconocimiento de voz y puede contener errores. Compruebe su exactitud con el audio.
Fareed Zakaria, presentador, GPS, CNN: Vamos a intentar resolver el problema de la IA en este panel. Disponemos de 45 minutos. Henry Kissinger solía decir que las personas que no necesitan presentación son las que más la anhelan, así que voy a abandonar esa norma. Creo que nadie aquí necesita presentación. Todos saben quiénes son y supongo que a ninguno le importa especialmente.
Empiezo contigo, Sam. Creo que la mayoría de la gente se preocupa por dos cosas en cierto modo opuestas sobre la IA. Una es que va a acabar con la humanidad tal como la conocemos, y la otra es: ¿por qué no puede conducir mi coche?
¿Dónde crees que nos encontramos realmente hoy con la inteligencia artificial? Para ti, ¿qué cosas puede hacer con mayor eficacia? Y ¿qué cosas necesitamos comprender que no puede hacer?
Sam Altman, director ejecutivo, OpenAI OpCo, LLC: Creo que una señal muy positiva sobre esta nueva herramienta es que, incluso con su capacidad actual tan limitada y sus fallos tan profundos, la gente encuentra formas de usarla para obtener grandes mejoras de productividad u otros beneficios y comprende sus limitaciones.
Es decir, un sistema que a veces acierta, a veces es creativo y a menudo se equivoca por completo, en realidad no quieres que conduzca tu coche, pero te alegra que te ayude a generar ideas sobre qué escribir o a escribir código que tú después puedes revisar.
Fareed Zakaria, GPS, CNN: Ayúdanos a entender por qué no puede conducir mi coche.
Sam Altman, OpenAI OpCo, LLC: Bueno, existen excelentes sistemas de conducción autónoma, pero, a estas alturas, ya sabes, Waymo circula por San Francisco y hay muchos de ellos y a la gente le encantan. Lo que quería decir es que el tipo de modelo al estilo de OpenAI es bueno en algunas cosas, pero no en situaciones de vida o muerte.
Pero creo que la gente comprende las herramientas y sus limitaciones mejor de lo que solemos reconocer. Y la gente ha encontrado la manera de hacer de ChatGPT algo sumamente útil para ellos y de comprender, en su mayor parte, para qué no debe usarse.
Por eso creo que es una señal muy positiva que, incluso con el nivelde capacidad extremadamente limitado de estos sistemas actualmente, ya sabes, muy inferior a lo que tendremos este año, por no hablar de lo que tendremos el próximo año, mucha gente haya encontrado la manera de obtener valor de ellos y también de comprender sus limitaciones.
Así que, ya sabes, creo que la IA se ha desmitificado en cierta medida, porque la gente la utiliza ahora de verdad, y creo que esa es siempre la mejor manera de impulsar al mundo con una nueva tecnología.
Fareed Zakaria, GPS, CNN: Lo que creo que preocupa a la gente es la capacidad de confiar en la IA. ¿En qué nivel puedes decir: estoy realmente de acuerdo en que la IA lo haga, ya sea conducir el coche, redactar el trabajo o rellenar el formulario médico?
Y parte de esa confianza, creo, siempre llega cuando entiendes cómo funciona. Y uno de los problemas que tienen los investigadores y los ingenieros de IA es averiguar por qué hace lo que hace, cómo opera la red neuronal y qué pesos asigna a las distintas cosas.
¿Crees que llegaremos a eso o se está volviendo tan inherentemente complicada que, en cierto nivel, simplemente tendremos que confiar en la caja negra?
Sam Altman, OpenAI OpCo, LLC: Pues, en cuanto a la primera parte de tu pregunta, creo que los humanos somos bastante indulgentes con los errores de otros humanos, pero no lo somos en absoluto con los errores de los ordenadores.
Por eso, quienes dicen cosas como: bueno, los coches autónomos ya son más seguros que los conducidos por personas, probablemente tendrá que ser más seguro en un factor de, supongo, entre 10 y 100 antes de que la gente lo acepte, quizá incluso más.
La parte más difícil es cuando acierta el 99,99 % de las veces y uno baja la guardia.
Sam Altman, OpenAI
Y creo que lo mismo va a ocurrir con otros sistemas de IA, con la salvedad de que, si la gente sabe, si la gente está acostumbrada a usar una herramienta y sabe que puede equivocarse por completo, eso es más o menos aceptable. Creo que, en cierto sentido, la parte más difícil es cuando acierta el 99,99 % de las veces y uno baja la guardia.
También creo que lo que significa verificar o comprender lo que ocurre va a ser algo distinto de lo que la gente piensa actualmente.
Lo cierto es que no puedo mirar en tu cerebro, examinar los 100 billones de sinapsis e intentar entender qué ocurre en cada una y decir: vale, realmente entiendo por qué piensas lo que piensas, tú no eres una caja negra para mí.
Pero lo que sí puedo pedirte es lo siguiente: explícame tu razonamiento. Puedo preguntarte: ¿por qué piensas esto? Y tú puedes explicarme primero esto, luego aquello, luego llegas a esta conclusión y después a esa otra y finalmente a esta. Y yo puedo decidir si me parece razonable o no.
Y creo que nuestros sistemas de IA también podrán hacer lo mismo. Podrán explicarnos en lenguaje natural los pasos de A a B, y nosotros podremos decidir si creemos que son buenos pasos, aunque no estemos examinando cada conexión y diciendo: vale, veo cada conexión aquí.
Creo que podremos hacer más para escanear el cerebro de una IA que para escanear el tuyo y entender cuáles son esas conexiones, pero, al nivel en que tú o yo tendremos que decidir si estamos de acuerdo con esta conclusión, la determinaremos del mismo modo en que nos preguntaríamos unos a otros: explícame tu razonamiento.
Fareed Zakaria, GPS, CNN: Una de las cosas: tú y yo hablamos antes, y una de las cosas que siempre has subrayado es que creías que la IA puede ser muy amigable, muy benigna, muy empática, y quiero escuchar tu opinión: ¿qué crees que le queda por hacer a un ser humano si la IA puede superar a una persona en análisis, puede superarla en cálculo? Mucha gente dice entonces: bueno, eso significa que lo que nos quedará, nuestra humanidad innata, será nuestra inteligencia emocional, nuestra empatía, nuestra capacidad de cuidar de los demás. Pero ¿crees que la IA también podría hacer eso mejor que nosotros? Y, si es así, ¿cuál es la competencia central de los seres humanos?
Sam Altman, OpenAI OpCo, LLC: Creo que habrá muchas cosas. Los humanos realmente se preocupan por lo que piensan otros humanos, eso parece estar muy arraigado en nosotros.
Así que el ajedrez fue uno de los primeros «damnificados» de la IA, ¿verdad? Deep Blue pudo vencer a Kasparov, hace ya mucho tiempo, y todos los comentaristas dijeron que este era el fin del ajedrez. Ahora que un ordenador puede vencer a una persona, nadie se va a molestar en volver a ver ajedrez ni a jugarlo.
Creo que el ajedrez nunca ha sido tan popular como lo es ahora mismo. Y si, por ejemplo, haces trampas con la IA, eso sí que es un problema grave. Casi nadie, o casi nadie, mira a dos IA jugar entre sí. Nos interesa mucho lo que hacen los humanos.
Cuando leo un libro que me encanta, lo primero que hago al terminarlo es querer saberlo todo sobre la vida del autor, y quiero sentir cierta conexión con la persona que creó algo que me ha calado tanto.
Y, ya sabes, eso mismo ocurre con muchos otros productos. Los humanos saben muy bien lo que otros humanos quieren. Además, a los humanos les interesan mucho las demás personas. Creo que los humanos van a tener mejores herramientas. Ya hemos tenido mejores herramientas antes, pero seguimos muy centrados en los demás y creo que haremos cosas con mejores herramientas.
Y reconozco que esta vez sí se siente diferente. La cognición de propósito general se parece tanto a lo que todos apreciamos de la humanidad que sí resulta distinta.
Así que, por supuesto, habrá funciones humanas en las que quieras a otra persona, pero incluso sin eso, cuando pienso en mi trabajo, desde luego no soy un gran investigador de IA. Mi función es decidir qué vamos a hacer, reflexionar sobre ello y después trabajar con otras personas para coordinarlo y hacerlo realidad.
Y creo que el trabajo de todo el mundo se parecerá un poco más a eso. Todos operaremos a un nivel de abstracción algo más alto. Todos tendremos acceso a muchas más capacidades y seguiremos tomando decisiones. Con el tiempo, es posible que se orienten más hacia la curaduría, pero seguiremos decidiendo qué debe ocurrir en el mundo.
Fareed Zakaria, presentador, GPS, CNN: Mark, permíteme incorporarte como el otro tecnólogo presente. ¿Qué opinas de esta cuestión? Lo que parece decir Sam es que las cualidades emocionales y de trabajo en equipo son las que adquieren una importancia enorme.
Diriges una organización enorme y utilizas cantidades masivas de tecnología. ¿En qué crees que los seres humanos van a ser mejores en un mundo con IA?
Marc Benioff, presidente y director ejecutivo, Salesforce Inc: Bueno, no sé, ¿cuándo crees que tendremos nuestro primer panel del Foro Económico Mundial moderado por una IA?
Llevo muchos años sentado en este escenario y siempre miro hacia abajo a alguien. Aquí tienes a un gran moderador a tu lado, pero quizá no esté tan lejos. Quizá dentro de poco, en un par de años, tendremos un moderador digital del Foro sentado en esa silla moderando este panel y quizá haciéndolo bastante bien, porque tendrá acceso a gran parte de la información que nosotros tenemos.
Esto planteará la cuestión de si vamos a confiar en él. Creo que la confianza sube en la jerarquía bastante rápido. Ya sabes, tendremos médicos digitales, personas digitales; estas personas digitales van a surgir y tendrá que haber un nivel de confianza.
Hoy, cuando miramos la IA, miramos el magnífico trabajo que ha hecho Sam, y tantas de las empresas que están aquí y con las que nos hemos reunido, como Cohere, Mistral, Anthropic y todas las demás empresas de modelos que hacen cosas excelentes. Pero todos sabemos que sigue existiendo este problema llamado alucinaciones. Y las alucinaciones son interesantes, porque se trata realmente de que esos modelos son divertidos, hablamos con ellos y luego mienten. Y entonces piensas: vaya, eso no es exactamente cierto.
Anoche estaba en una cena, estábamos teniendo una cena estupenda con algunos amigos y le preguntamos a la IA por uno de mis invitados, y la IA dijo que esa persona forma parte del consejo de administración de este hospital. Y ella se volvió hacia mí y me dijo: no, no formo parte. Y todos hemos tenido esa experiencia, ¿verdad?
Tenemos que cruzar ese puente. Tenemos que cruzar el puente de la confianza. Por eso asistimos a la Cumbre de Seguridad del Reino Unido. Nos reunimos allí hace un par de meses y fue realmente interesante porque fue la primera vez que los líderes tecnológicos asistían en masa y estaban presentes todos los ministros de tecnología de todos los países; fue asombroso, en realidad, nunca había visto nada parecido.
Pero todos estaban allí porque nos dimos cuenta de que estamos en un momento umbral. Todavía no hemos llegado del todo. Estamos en un momento en el que, sin duda, todos usamos el producto de Sam y otros productos, y decimos: vaya, estamos viviendo una experiencia increíble con una IA. Realmente no habíamos tenido antes este tipo de interactividad. Pero todavía no confiamos del todo en ella.
Así que tenemos que cruzar la confianza. También tenemos que acudir a los reguladores y decirles: oiga, si miran las redes sociales en la última década, han sido un auténtico desastre. Es bastante malo. No queremos eso en nuestra industria de la IA. Queremos tener una buena asociación saludable con estos moderadores y con estos reguladores.
Creo que eso marca el inicio del poder de hacia dónde nos dirigimos. Y cuando hablo con nuestros clientes sobre lo que quieren, no saben exactamente lo que quieren. Es decir, saben que quieren más margen, ya sabes, Julie te lo dirá. Quieren más productividad, quieren mejores relaciones con sus clientes.
Pero, al final del día, ya sabes, van a recurrir a estas IA y ¿van a sustituir a sus empleados o van a aumentarlos? Y hoy la IA realmente no está en un punto en el que pueda sustituir a los seres humanos. Está en un punto en el que los aumenta.
Así que probablemente no me sorprendería si usaras la IA para prepararte para este panel y le preguntaras a ChatGPT algunas buenas preguntas. Oye, ¿cuáles son algunas buenas preguntas que podría hacerle a Sam Altman sobre el estado de la IA? Eso te ha ayudado un poco, te ha aumentado.
Ya sabes, mi radiólogo usa la IA para ayudarle a interpretar mi TAC y mi resonancia magnética y cosas de ese tipo. Estamos a punto de llegar a ese avance en el que diremos: vaya, es casi como una persona digital. Y cuando lleguemos a ese punto, nos preguntaremos: ¿confiamos en ella?
Fareed Zakaria, presentador, GPS, CNN: Muy bien. Para que conste, yo no usé ChatGPT para preparar este panel.
Julie, la gente habla de la IA en un plano de abstracción, pero siento que intenta comprender cómo mejora realmente la productividad, exactamente, ya sabes, la pregunta que planteó Marc. Diriges una organización enorme. Acabas de decirme que emplean a 330 000 personas solo en la India. ¿Tienes ya alguna idea de cómo están implementando la IA y qué está haciendo?
Julie Sweet, presidenta y directora ejecutiva, Accenture: Bueno, permítanme ser práctica por un momento. Soy lo bastante mayor como para recordar cuando trabajaba en mi bufete de abogados y se introdujo el correo electrónico. Y recuerdo que, como era una joven abogada, tenías que quedarte junto a la máquina de fax para enviar cualquier documento a un cliente. Así que llegó el correo electrónico y pensamos que era asombroso. Y los socios de mi bufete dijeron: bueno, el correo electrónico es estupendo, pero no se puede adjuntar un documento y enviarlo a un cliente porque no es seguro. Piénsenlo ahora.
Algo parecido a lo que ocurre hoy cuando mantenemos estas conversaciones abstractas: nuestros empleados quieren, en muchos casos, utilizar esta tecnología y van a empezar a exigirla. Por ejemplo, si te dedicas a la venta de campo en el sector de bienes de consumo, pasas la mayor parte del tiempo tratando de averiguar quién es el cliente, ya sabes, si hay un problema de entrega porque eso corresponde a otro departamento, y todo eso.
Hoy, con la tecnología actual y con todas las precauciones adecuadas, en tu teléfono puedes saber con mucha precisión a qué cliente debes visitar, si tuvo algún problema de entrega, generar algo personalizado y pasar la mayor parte del tiempo hablando con tu cliente, que es la forma real de crecer.
Así que, cuando pensamos en la IA, por supuesto que existen distintos riesgos. La tecnología va a cambiar, como dijo Sam, y todo consiste en saber para qué es buena ahora. ¿Cómo puedes implementarla con las salvaguardas adecuadas? Como directora ejecutiva, tengo a alguien en mi empresa a quien puedo llamar; me puede decir dónde se usa la IA, cuáles son los riesgos y cómo los gestionamos, y, por tanto, la implementamos.
Así que la estamos implantando de forma amplia en las áreas en las que ya está lista, pero creo que debemos tener cuidado de que no... ya sabes, usted empezó este panel diciendo que vamos a resolver el problema de la IA, y lo primero que dije fue que espero que averigüemos cómo usar la IA, porque es una oportunidad enorme. Y estoy segura de que Albert va a hablar de lo que va a hacer por la ciencia, pero también está haciendo muchas cosas excelentes por nuestras personas, que no quieren pasar su tiempo leyendo y tratando de averiguar cosas, y que preferirían pasar su tiempo con clientes, con consumidores.
Así que, en mi opinión, la diferencia más importante entre quienes la usarán con éxito y quienes no es que los líderes se formen, para que no sean quienes me dijeron que no podía enviar un documento por correo electrónico. Pero eso no se puede lograr si no se dedica tiempo a aprender la tecnología y luego a aplicarla de manera responsable.
Fareed Zakaria, presentador, GPS, CNN: Entonces, si intentaras mejorar la productividad en Accenture, ¿una forma no sería usar la IA para que menos personas hagan lo que hacen ahora? Dicho de otro modo, si tienes un departamento grande que envía formularios o cosas por el estilo, la IA podría hacerlo de forma mucho más eficiente. Así que necesitarías la mitad de las personas. ¿Es probable?
Julie Sweet, Accenture: Recuerden que la IA generativa es la última IA; yo llevo una década haciendo eso. Solía tener miles de personas que probaban manualmente sistemas informáticos. Eso prácticamente desapareció en 2015.
Así que, cuando mis inversores me preguntan cuándo vamos a romper la diferencia entre personas y tecnología, digo que lo he estado haciendo cada año. Literalmente, atiendo a clientes y les prometo que cada año voy a conseguir un 10 % más de productividad, antes de la IA generativa. Esto no es nuevo, ¿verdad? Esto es más potente que las versiones anteriores de la tecnología, es más accesible. Y no oyeron cosas como «PC responsable». Vale, eso no era un concepto, ¿verdad? Así que, como es más potente, tenemos que pensar de otra manera.
En 2019 teníamos 500 000 personas; ahora tenemos 740 000. Introdujimos formación tecnológica para todos, independientemente de si trabajaban en la sala de correo, todavía tenemos una, en recursos humanos o con nuestros clientes, y tenían que aprender BASIC y superar evaluaciones: IA, nube, datos.
Hoy, en los próximos seis meses, formaremos a 250 000 personas en IA generativa y responsabilidad. Esta es la alfabetización digital básica para dirigir una empresa y hacerlo bien.
Y, por cierto, los servicios públicos: van a mejorar enormemente los servicios sociales al incorporar esta poderosa tecnología.
Así que, ante todo, debemos aprender qué es, para poder hablar de ello de forma equilibrada, y luego, por supuesto, hay capacidades que hoy no existen en la mayoría de las empresas, como la IA responsable, en la que, si alguien usa la IA en Accenture, la solicitud se enruta automáticamente, se evalúa su riesgo y después se aplican las mitigaciones; puedo llamar a alguien y sé exactamente dónde se usa la IA. Eso será omnipresente en un plazo de 12 a 24 meses en las empresas responsables.
Fareed Zakaria, presentador, GPS, CNN: Albert, la otra gran revolución de la que llevamos oyendo hablar los últimos años es la revolución de la biología. La secuenciación del genoma, la capacidad de editar genes. ¿Qué hace la IA en tu campo en general, pero en particular, están interactuando ahora esas dos revoluciones, la revolución de la IA y la revolución biotecnológica?
Creo sinceramente que estamos a punto de entrar en un renacimiento científico en las ciencias de la vida, gracias a la coexistencia de avances en tecnología y en biología.
Albert Bourla, director ejecutivo, Pfizer
Albert Bourla, director ejecutivo, Pfizer, Inc.: La revolución tecnológica está transformando ahora mismo lo que hacemos. Nuestro trabajo consiste en lograr avances que salven vidas de pacientes. Con la IA puedo hacerlo más rápido y mejor. Y esto no solo se debe a los avances en biología, como comentábamos, sino también a los avances en tecnología y a la colisión entre ambos. Pero están creando efectos enormes que nos permitirán hacer cosas que hasta ahora no podíamos hacer.
Creo sinceramente que estamos a punto de entrar en un renacimiento científico en las ciencias de la vida, gracias a la coexistencia de avances en tecnología y en biología.
Fareed Zakaria, presentador, GPS, CNN: Danos alguna idea, algunos ejemplos o, ya sabes, ayúdanos a entender cómo interactúan estas dos tecnologías, estas dos revoluciones.
Albert Bourla, director ejecutivo, Pfizer, Inc.: La IA generativa es algo que todos nos quedamos impresionados al verla, digamos que básicamente el año pasado, ¿verdad? Pero la IA, en distintas formas, lleva existiendo muchísimos años, y la estamos usando de forma muy, muy intensiva en nuestros laboratorios.
El mejor ejemplo, que creo que resonará, es que la píldora oral contra la COVID se desarrolló; la parte química se desarrolló en cuatro meses, cuando normalmente tarda cuatro años. Esto se debe a que, en los procesos típicos, lo que llamamos descubrimiento de fármacos, se sintetizan millones de moléculas y luego se intenta descubrir entre ellas cuál funciona.
Con la IA, ahora avanzamos hacia el diseño de fármacos, en lugar del descubrimiento de fármacos; así que, en lugar de fabricar 3 millones de moléculas, fabricamos 600 y las fabricamos mediante una enorme potencia computacional y algoritmos que nos ayudan a diseñar las moléculas con mayor probabilidad de éxito, y después buscamos la mejor entre ellas.
Cuatro años pasaron a cuatro meses. Millones de vidas se salvaron gracias a ello.
Fareed Zakaria, presentador, GPS, CNN: Señor canciller, usted es político. La cuestión que planteó Sam sobre la confianza, la que planteó Marc Benioff sobre la confianza, parece central. ¿Cómo se logra que la gente confíe en la IA? ¿Deberían confiar en la IA y debería el gobierno regularla para que sea digna de confianza?
Jeremy Hunt, canciller del Exchequer, HM Treasury del Reino Unido: Creo que necesitamos una regulación ligera. Porque esto está en una fase tan incipiente que se puede matar a la gallina de los huevos de oro antes de que tenga oportunidad de crecer.
Recuerdo que la primera vez que usé ChatGPT pregunté: ¿es Jeremy Hunt un buen canciller del Exchequer? La respuesta fue: Jeremy Hunt no es canciller del Exchequer. Así que dije: sí, lo es. ¿Y es buen canciller? Y la respuesta fue: lo siento, no hemos estado a la altura de sus expectativas, pero Jeremy Hunt no es canciller del Exchequer. Así que hay una especie de certeza en las respuestas que se obtienen, que a menudo no está justificada.
Pero creo que todos podemos beneficiarnos enormemente de la IA. El Reino Unido ya lo está haciendo bien. Londres es el segundo mayor centro de IA después de San Francisco, y el Reino Unido se ha convertido recientemente en la tercera mayor economía tecnológica del mundo, con una economía tecnológica de un billón de dólares, después de Estados Unidos y China.
Pero, como político, miro los grandes problemas a los que nos enfrentamos. Por ejemplo, cuando llegue la próxima pandemia, no queremos tener que esperar un año antes de obtener la vacuna. Y si la IA puede reducir el tiempo necesario para tener esa vacuna a un mes, eso será un enorme paso adelante para la humanidad.
En este momento, en el Reino Unido y, creo, en la mayor parte del mundo desarrollado, los votantes están muy enfadados por sus niveles de impuestos. Si la IA puede transformar la forma en que se prestan los servicios públicos y dar lugar a servicios públicos más productivos con niveles de impuestos más bajos, eso supondría un gran logro.
Pero creo que tenemos que permitir que la tecnología crezca. Debemos estar atentos a las salvaguardas que vamos a necesitar.
El Reino Unido también desempeña un papel muy importante en la seguridad mundial. Tenemos que asegurarnos, como le estaba diciendo a Sam esta misma mañana, de que ningún actor malintencionado pueda utilizar la IA para construir armas nucleares.
Por eso debemos estar atentos, y por ello la Cumbre sobre Seguridad de la IA que Rishi Sunak organizó a finales del año pasado fue tan importante.
Pero debemos hacerlo con un enfoque ligero, porque simplemente tenemos que ser un poco humildes. Hay mucho que no sabemos y debemos comprender el potencial hacia dónde nos llevará esto, en una etapa en la que nadie puede responder realmente a esa pregunta.
Fareed Zakaria, presentador, GPS, CNN: Creo, Albert, que este es un ámbito en el que la regulación, en el que la gente se va a preocupar más por la cuestión de la confianza, que es la combinación de la IA y la medicina. ¿Es seguro para mí escuchar a este médico y tomar este fármaco que se ha desarrollado en un ordenador en algún lugar? ¿Hay alguna forma de aliviar esa preocupación?
Albert Bourla, Pfizer, Inc.: Creo que sí. En primer lugar, debemos comprender que la IA es una herramienta muy poderosa. Así, en manos de personas malintencionadas, puede hacer daño al mundo, pero en manos de personas bienintencionadas, puede hacer grandes cosas por el mundo.
Y estoy convencido de que en este momento los beneficios superan claramente los riesgos, pero creo que necesitamos regulación. Actualmente hay mucho debate sobre cómo establecerán esas regulaciones las salvaguardas, y hay algunos países más centrados en cómo protegerse frente a los actores malintencionados. Hay otros países más centrados en cómo permitir que los científicos hagan todas las cosas maravillosas que también queremos que el mundo tenga con esta tecnología, como en la próxima pandemia.
Creo que tenemos que encontrar el equilibrio adecuado que proteja y, al mismo tiempo, permita que el mundo siga avanzando.
Fareed Zakaria, presentador, GPS, CNN: Sam, cuando miro la tecnología, mi temor suele ser qué harán las personas malintencionadas con esta tecnología. Pero hay muchas personas que temen esta cuestión mucho más amplia de que la tecnología nos domine, ¿verdad?
Siempre has tenido una visión benigna de la IA, o relativamente benigna, pero personas como Elon Musk y, a veces, Bill Gates y otras personas muy inteligentes que saben mucho sobre el campo están muy, muy preocupadas.
¿Por qué crees que están equivocados? ¿Qué es lo que no están entendiendo sobre la IA?
Sam Altman, OpenAI OpCo, LLC: Bueno, no creo que estén necesariamente equivocados. Quiero decir, creo que hay un espíritu, hay una parte que tiene razón, y es que esta es una tecnología que es claramente muy poderosa y que no podemos afirmar con certeza exactamente qué va a pasar.
Y eso ocurre con todas las grandes revoluciones tecnológicas nuevas.
Pero con esta es fácil imaginar que tendrá efectos masivos en el mundo y que podría salir muy mal.
La dirección tecnológica en la que hemos estado tratando de avanzar es una que creemos que podemos hacer segura, e incluye muchas cosas.
Creemos en el despliegue iterativo, así que ponemos esta tecnología en el mundo por etapas, para que la gente se acostumbre a ella, de modo que tengamos tiempo como sociedad, o que las instituciones tengan tiempo, para mantener estos debates, para averiguar cómo regularla y cómo establecer algunas salvaguardas.
Fareed Zakaria, presentador, GPS, CNN: ¿Se pueden técnicamente establecer salvaguardas y redactar una especie de constitución para un sistema de IA? ¿Funcionaría?
Sam Altman, OpenAI OpCo, LLC: Si observas el progreso de GPT-3 a GPT-4, en cuanto a lo bien que puede alinearse con un conjunto de valores, hemos avanzado enormemente en ese aspecto.
Ahora bien, hay una pregunta más difícil que la técnica, que es quién decide cuáles son esos valores. Y cuáles son los valores por defecto, cuáles son los límites, cómo funciona en este país frente a aquel otro. ¿Qué se me permite hacer con ello y qué no?
Es positivo que la gente tenga miedo de los aspectos negativos de esta tecnología. Creo que es bueno que hablemos de ello. Creo que es bueno que nosotros, y otros, estemos sometidos a un estándar elevado.
Sam Altman, OpenAI
Así que esa es una gran cuestión social, ya sabes, una de las más importantes.
Pero desde el enfoque tecnológico, creo que hay motivos para el optimismo, aunque las técnicas de alineación que tenemos ahora no creo que escalen hasta sistemas mucho más potentes; vamos a necesitar inventar cosas nuevas.
Por eso creo que es bueno que la gente tenga miedo de los aspectos negativos de esta tecnología. Creo que es bueno que hablemos de ello. Creo que es bueno que nosotros, y otros, estemos sometidos a un estándar elevado.
Y, ya sabes, podemos extraer muchas lecciones del pasado sobre cómo se ha logrado que la tecnología sea segura, y también sobre cómo los distintos actores de la sociedad han gestionado sus negociaciones sobre qué significa ser seguro y qué es lo suficientemente seguro.
Pero comprendo muy bien el nerviosismo y la incomodidad generales que el mundo siente hacia empresas como la nuestra, y, ya sabes, hacia las otras personas que hacen cosas similares, que es algo así como: ¿por qué nuestro futuro está en sus manos? ¿Y por qué lo están haciendo? ¿Por qué les ha tocado a ellos hacerlo?
Y creo que nos corresponde a nosotros. Quiero decir, creo, y creo que el mundo ahora cree, que el beneficio aquí es tan enorme que deberíamos hacerlo. Pero creo que nos corresponde a nosotros encontrar la manera de obtener la opinión de la sociedad sobre cómo vamos a tomar estas decisiones, no solo sobre cuáles son los valores del sistema, sino también sobre cuáles son los umbrales de seguridad y qué tipo de coordinación global necesitamos para garantizar que lo que ocurre en un país no afecte negativamente, de forma muy grave, a otro; para mostrar esa imagen.
Por eso creo que no tener cautela, no sentir la gravedad de lo que está en juego, sería muy malo. Así que me gusta que la gente esté nerviosa por ello. Nosotros también tenemos nuestro propio nerviosismo, pero creemos que podemos gestionarlo, y la única forma de hacerlo es poner la tecnología en manos de las personas y dejar que la sociedad y la tecnología coevolucionen y, poco a poco, con un ciclo de retroalimentación muy estrecho y correcciones de rumbo, construyan sistemas que aporten un enorme valor cumpliendo al mismo tiempo los requisitos de seguridad.
Fareed Zakaria, presentador, GPS, CNN: Marc, ¿qué opinas de toda esta cuestión?
Marc Benioff, Salesforce, Inc: Bueno, creo que todos hemos visto las películas. Ya sabes, vimos las películas, vimos a HAL, vimos Minority Report y vimos Juegos de guerra, y nuestra imaginación está llena de lo que ocurre cuando tenemos una IA que funciona bien y una IA que sale mal.
Y, ya sabes, estamos entrando en un nuevo mundo fantástico. Y me encanta cuando Sam siempre dice que tiene encima de su escritorio un letrero que dice: no sé exactamente qué va a pasar después, porque no sabemos del todo qué va a ocurrir.
Sam Altman, OpenAI OpCo, LLC: En realidad dice que nadie sabe qué pasará después, lo cual creo que es una diferencia importante.
Marc Benioff, Salesforce, Inc: Gracias por la corrección; espero que el espíritu de lo que dije fuera correcto.
Así que, ya sabes, nuestros clientes acuden a nosotros constantemente y nos dicen: oye, queremos usar esto. Y nuestros clientes, ¿qué quieren? Quieren más margen. Quieren más productividad, quieren mejores relaciones con sus clientes y quieren que la IA se lo proporcione.
Acabo de regresar de Milán, donde estuve con Gucci. Tienen allí 300 operadores de centros de llamadas que utilizan nuestro service cloud y quieren usar Einstein, que es nuestra plataforma de IA. Realizará un billón de transacciones predictivas y generativas esta semana. Estamos asociados con Sam y es muy emocionante. Cuenta con una capa de confianza que permite a nuestros clientes sentirse cómodos al utilizar sus productos.
Y yo les pregunto: ¿qué es lo que realmente quieren? Y no estoy seguro de qué quieren. ¿Buscan sustituir a personas? ¿Buscan añadir personas? ¿Para obtener algún tipo de valor? Ya sabes, es una época de experimentación para muchas empresas en lo que respecta a la IA, así que lo implantamos.
Lleva en pruebas seis o nueve meses, y es increíble. Y ocurrió algo increíble. Este centro de llamadas, que atiende, ya sabes, cuando compras algo en Gucci y luego necesita reparación, tienes que arreglarlo, sustituirlo o lo que sea. Llamas a estas personas y ellas te atienden.
Y cuando entré, me dijeron: esto es increíble, lo que está pasando. Les pregunté qué había pasado. Los ingresos han subido un 30 %. ¿Los ingresos han subido un 30 %? Sí. ¿Cómo ha sucedido? Bueno, eran todos profesionales de atención al cliente, pero ahora cuentan con esta IA generativa y también predictiva, y todos han sido potenciados. Los profesionales de servicio, y esto es lo que me dijeron, ahora son también profesionales de ventas y de marketing. Venden productos, no solo los atienden. Aportan valor a los clientes, y es algo milagroso. Su moral ha subido muchísimo. No pueden creer lo que han logrado.
Ni siquiera sabían lo que no sabían sobre los productos. Todo ello fue, en cierto modo, tutelado, guiado e inspirado por la IA. Y la idea de que Einstein pudiera potenciarlos y que, sí, obtuvieran sus ingresos. Obtuvieron el margen que tanto deseaban.
Incluso el Foro Económico Mundial, ya sabes, esta aplicación que todos ustedes están usando funciona con Einstein.
Así que esas predicciones que recibes, del tipo: oye, como te gusta este panel de IA, deberías probar este panel del WEF, y quizá mires hacia allá, eso es nuestra plataforma Einstein dándote esas ideas.
Así que esta es realmente la potencia. Pero para nuestros clientes, y esto es un poco distinto entre, ya sabes, mi buen amigo Sam y mi empresa: sus datos no son nuestro producto. No vamos a tomar sus datos, no vamos a usar sus datos. No entrenamos con sus datos. Tenemos una separación. Tenemos una capa de confianza. Nunca tomamos ni usamos los datos de nuestros clientes para nuestra IA. Así que sus datos no son nuestro producto. Eso es muy importante.
Nuestro valor fundamental es también la confianza, la confianza y el éxito de los clientes, la innovación, la igualdad y la sostenibilidad. Nuestros valores fundamentales deben reflejarse en la forma en que desarrollamos estos productos para nuestros clientes. Es algo verdaderamente crítico que nuestros equipos deben comprender.
Pero, volviendo a tu comentario y al de Sam, ya sabes, mira, este es un momento importante para la IA. La IA dio un enorme salto adelante en el último año, en los dos últimos años.
Exacto, lo que dijo Sam: entre uno y dos, y tres, y luego cuatro, y estoy seguro de que luego vendrán cinco, seis y siete.
Y aquí está la cuestión. Podría salir realmente mal, y eso no lo queremos. Solo queremos asegurarnos de que la gente no salga herida. No queremos que algo salga realmente mal. Por eso vamos a esa Cumbre sobre Seguridad. Por eso hablamos de confianza. No queremos vivir un momento como Hiroshima. Ya sabes, hemos visto que la tecnología puede salir muy mal, y vimos Hiroshima.
No queremos ver una Hiroshima de la IA. Queremos asegurarnos de que ahora tenemos clara esta cuestión. Y por eso creo que estas conversaciones, esta gobernanza y tener claros cuáles son nuestros valores fundamentales son tan importantes.
Y sí, nuestros clientes obtendrán más margen. Esos directores ejecutivos estarán muy contentos, pero, al final del día, tenemos que hacerlo con los valores adecuados.
Fareed Zakaria, presentador, GPS, CNN: Marc ha planteado la cuestión de los datos y su uso. Así que, Sam, tengo que preguntarte: el New York Times te ha demandado y afirma que, en esencia, lo que dice The Times es que OpenAI y otras empresas de IA también utilizan los artículos del New York Times como insumo que les permite hacer las predicciones lingüísticas que hacen, y lo hacen de forma excesiva e indebida, y sin compensar al New York Times.
¿No es cierto que, al final del día, todos los modelos de IA utilizan todos estos datos que son de dominio público y que las personas que escribieron esos datos, ya sean periódicos o humoristas que han escrito chistes, no deberían todos recibir una compensación?
Sam Altman, OpenAI OpCo, LLC: Tengo muchas ideas sobre eso.
Empezaré por la diferencia entre el entrenamiento y lo que mostramos cuando un usuario envía una consulta.
Por cierto, en lo que respecta al New York Times, según tenía entendido, estábamos en negociaciones productivas con ellos. Queríamos pagar al New York Times una cantidad importante de dinero para mostrar su contenido. Nos sorprendió tanto como a cualquiera leer que nos estaban demandando en el New York Times. Fue algo bastante extraño.
Pero estábamos, y estamos, abiertos a entrenar con contenido del New York Times, aunque no es nuestra prioridad. En realidad, no necesitamos entrenar con sus datos. Creo que esto es algo que la gente no entiende: ninguna fuente de entrenamiento en particular mueve mucho la aguja para nosotros.
Lo que queremos hacer con los propietarios de contenidos, como el New York Times, y como los acuerdos que hemos alcanzado con muchos otros editores y que seguiremos alcanzando con el tiempo, es que, cuando un usuario diga: oye, ChatGPT, ¿qué ha pasado hoy en Davos?, nos gustaría mostrar contenido, enlazar y mostrar las marcas de medios como el New York Times, el Wall Street Journal o cualquier otra gran publicación, y decir: esto es lo que ha pasado hoy. Aquí tienen esta información en tiempo real, y entonces nos gustaría pagar por ello, nos gustaría generar tráfico para ello. Pero se trata de mostrar esa información cuando el usuario realiza la consulta, no de usarla para entrenar el modelo.
Ahora bien, también podríamos entrenar el modelo con ella, pero no es nuestra prioridad. Estamos encantados de no hacerlo.
Fareed Zakaria, presentador, GPS, CNN: Estás encantado de no hacerlo con ninguno en concreto, pero si no entrenas con ningún dato, no tienes hechos con los que entrenar los datos.
Sam Altman, OpenAI OpCo, LLC: Iba a llegar a ese punto.
Algo que espero que empiece a cambiar es que estos modelos podrán tomar cantidades menores de datos de mayor calidad durante su proceso de entrenamiento, pensar con más profundidad sobre ellos y aprender más.
No necesitas leer 2000 libros de texto de biología para entender, ya sabes, biología de nivel de secundaria; quizá necesites leer uno, quizá tres, pero el libro 2001 seguramente no te ayudará mucho. Y a medida que nuestros modelos empiecen a funcionar más de esa manera, no necesitaremos las mismas cantidades masivas de datos de entrenamiento.
Pero lo que queremos, en cualquier caso, es encontrar nuevos modelos económicos que funcionen para todo el mundo, incluidos los propietarios de contenidos. Aunque creo que está claro que si lees un libro de texto de física, después puedes ir a hacer física con lo que has aprendido, y eso se considera algo aceptable, si vamos a enseñar física a otra persona usando tu libro de texto y tus planes de lección, nos gustaría encontrar una forma de que se te pague por ello.
Si entrenas a nuestros modelos, si ayudas a proporcionar la retroalimentación humana, me encantaría encontrar nuevos modelos para que se te pague en función del éxito de ello.
Así que creo que existe una gran necesidad de nuevos modelos económicos. Creo que la conversación actual se centra un poco en el nivel equivocado. Y creo que lo que significa entrenar estos modelos va a cambiar mucho en los próximos años.
Fareed Zakaria, presentador, GPS, CNN: Jeremy, dijiste en una entrevista que considerabas muy importante que Estados Unidos, Gran Bretaña y países como esos ganen la guerra de la IA frente a China. Explica qué quieres decir y por qué crees que es importante.
Jeremy Hunt, HM Treasury del Reino Unido: Creo que probablemente eso tergiversa la esencia de lo que intentaba decir. Creo que, en lo que respecta a establecer estándares globales de IA, es muy importante que reflejen valores democráticos liberales.
Pero creo que es realmente importante que hablemos con países como China, porque, al final, me refiero a que una de las cosas más interesantes del debate de esta mañana es que Sam tiene un letrero que dice que nadie conoce el futuro, pero sí tenemos capacidad de actuar sobre el futuro.
Y esa es la tensión entre ambas cosas. Creo que tenemos una enorme suerte de que personas como Sam estén ayudando a transformar las perspectivas de la humanidad para el futuro. No creo que nadie en esta sala piense que el mundo sería un lugar mejor si no existiera la IA.
Pero ahora tenemos opciones. Y la opción que debemos tomar es cómo aprovecharla para que sea una fuerza para el bien. De hecho, creo que eso significa hablar con países como China, porque una de las formas en que se convertirá en una fuerza para el mal es que se convierta simplemente en una herramienta en una nueva carrera de superpotencias geoestratégicas, con gran parte de la energía dedicada a armas, en lugar de a cosas que realmente podrían transformar nuestra vida cotidiana. Y esas son decisiones que tomamos. Y una de las formas de evitar que eso ocurra es mantener un diálogo con países como China para encontrar puntos en común.
Pero creo que deberíamos, siendo humildes respecto a no poder predecir el futuro, recordar que sí tenemos control sobre las leyes y las regulaciones, tenemos la capacidad de dar forma a este camino. Y creo que también deberíamos mirar la historia y decir, ya sabes, mira la Revolución Industrial y la revolución informática: donde esas revoluciones tuvieron éxito fue donde los beneficios se repartieron de manera equitativa por toda la sociedad y no se concentraron en pequeños grupos.
En el caso de la IA, diría que el desafío es asegurarse de que los beneficios se repartan por todo el mundo, en el norte y en el sur, en el mundo en desarrollo y en el desarrollado, y no se concentren solo en las economías avanzadas. Porque, de lo contrario, se profundizarán algunas de las fracturas que, en mi opinión, ya nos están llevando en la dirección equivocada.
Fareed Zakaria, presentador, GPS, CNN: Julie, ¿qué opinas de esto? Porque Accenture trabaja en todo el mundo. ¿Crees que esto tiene el potencial de crear una especie de nueva carrera armamentística en tecnología?
Julie Sweet, Accenture: Siendo prácticos, cabría esperar que, dado que todos hemos aprendido las lecciones de tener distintas regulaciones en materia de privacidad de datos, dedicáramos tanto tiempo a pensar en cómo encontrar puntos en común y usar esto para trabajar con algunos de los lugares donde tenemos estas cuestiones, en torno a algo que es objetivamente necesario si se quiere tener cualquier tipo de globalización, para decir: establezcamos estándares comunes.
Así que el lado optimista de mí dice: usemos esto como una vía de colaboración, dejando de lado parte de la geopolítica, porque tiene mucho sentido.
En esta conversación me viene a la mente un principio de liderazgo esencial en Accenture que procuro observar cada día. Dice: liderar con excelencia, confianza y humildad.
Y Jeremy, acabas de hablar de ser humildes. Creo que una de las cosas más importantes que todos debemos hacer como líderes y países es tener un buen sentido de humildad en este tema. Asegurémonos de que nos hablamos entre nosotros. Por eso Davos es tan importante. Y por eso es importante el trabajo que acabamos de realizar, junto con KPMG, PwC y el WEF, sobre confianza y confianza digital, así como sobre aprendizaje y lectura. Creo que tenemos mucho que hacer para formarnos y luego empezar a pensar de manera diferente.
Fareed Zakaria, presentador, GPS, CNN: Albert, ¿cómo crees que China regulará la medicina de forma distinta en algunas de estas cuestiones? Hemos tenido el tema de la edición genética, donde hubo un caso famoso de un médico chino que decidió intentar la edición genética para prevenir el SIDA, y el gobierno chino lo encarceló debido a una convención global. ¿Podrías imaginar que algo así ocurra con la IA?
Albert Bourla, Pfizer, Inc.: No sé qué puede ocurrir con la IA. Como dijo Sam, nadie lo sabe. Y no sé cómo acabará pensando China sobre esas cosas.
Lo que sí sé es que, en las ciencias de la vida, China está logrando avances tremendos. Ahora mismo, creo que hay incluso más empresas de biotecnología en China que en Estados Unidos, en el Reino Unido o en Europa. Creo que el gobierno chino está comprometido con el desarrollo de la ciencia básica en las ciencias de la vida, y creo que dentro de unos años empezaremos a ver las primeras nuevas entidades moleculares procedentes de China y no de Estados Unidos.
Fareed Zakaria, presentador, GPS, CNN: Voy a cerrar con...
Albert Bourla, Pfizer, Inc.: O déjame decirlo de otra manera: no solo procedentes de Estados Unidos.
Fareed Zakaria, presentador, GPS, CNN: Voy a cerrar haciendo una pregunta algo ajena a todo esto, pero, Sam, estuviste involucrado en lo que quizá es el escándalo de consejo de administración más conocido de las últimas décadas. ¿Qué lección aprendiste de eso? Aparte de confiar en Satya Nadella.
Julie Sweet, Accenture: ¡Sam, al menos te está preguntando cuando solo te quedan 42 segundos!
Sam Altman, OpenAI OpCo, LLC: Muchas cosas.
Intento pensar qué puedo decir.
En algún momento, simplemente hay que reírse, porque en algún momento todo se vuelve tan ridículo.
Pero creo que, quiero decir, podría señalar todas las lecciones evidentes: que no conviene dejar pendientes problemas importantes pero no urgentes, y, ya sabes, sabíamos que nuestro consejo se había quedado demasiado pequeño y que no teníamos el nivel de experiencia que necesitábamos. Pero el año pasado fue un año tan agitado para nosotros en tantos sentidos que, en cierto modo, lo descuidamos.
Creo que, sin embargo, hay una cosa más importante: a medida que el mundo se acerca a la AGI, las apuestas, el estrés y el nivel de tensión van a aumentar. Para nosotros, esto fue un microcosmos de ello, pero probablemente no la experiencia más estresante que hayamos afrontado.
Y una cosa que he observado desde hace tiempo es que cada paso que damos hacia una IA muy potente hace que el carácter de todos gane unos 10 puntos locos más. Es algo muy estresante, y debería serlo, porque estamos intentando ser responsables con apuestas muy altas.
Así que creo que una lección es que, a medida que nos acercamos, el mundo entero se acerca a una IA muy potente, espero más cosas extrañas. Y tener un mayor nivel de preparación, más resiliencia y más tiempo dedicado a pensar en todas las formas extrañas en que las cosas pueden salir mal, es realmente importante.
Lo mejor que aprendí a lo largo de todo esto, con diferencia, fue sobre la fortaleza de nuestro equipo.
Cuando el consejo me preguntó por primera vez, el día después de despedirme, si quería hablar de volver, mi respuesta inmediata fue no, porque estaba muy molesto por muchas cosas de todo aquello.
Y entonces, ya sabes, rápidamente recuperé el sentido y me di cuenta de que no quería ver cómo se destruía todo el valor y todas estas maravillosas personas que habían dedicado su vida a esto, así como todos nuestros clientes. Pero también sabía, y lo había visto observando al equipo directivo y, en realidad, a toda la empresa haciendo cosas en ese período, que la empresa estaría bien sin mí. El equipo, ya fueran las personas que contraté o cómo las formé o como quieras llamarlo, estaba preparado para hacerlo.
Y eso fue algo tan satisfactorio, tanto a nivel personal por lo que yo había hecho, como por saber que habíamos construido, nosotros, todos nosotros, todo el equipo, esta organización increíblemente eficaz y cohesionada; esa fue mi mejor lección de todo el proceso.
Fareed Zakaria, presentador, GPS, CNN: Gracias a todos
A medida que la tecnología se entrelaza cada vez más con nuestra vida diaria y resulta importante para impulsar el desarrollo y la prosperidad, las cuestiones de seguridad, interacción humana y confianza se vuelven fundamentales para abordar tanto los beneficios como los riesgos.
¿Cómo puede la tecnología potenciar nuestra humanidad?
Esta es la grabación de audio completa de una sesión de la Reunión Anual 2024 del Foro Económico Mundial
Ponentes:
Sam Altman
Director Ejecutivo, OpenAI OpCo, LLC
Marc Benioff
Presidente y Director Ejecutivo, Salesforce, Inc.
Julie Sweet
Presidenta y Directora Ejecutiva, Accenture
Jeremy Hunt
Canciller del Exchequer, HM Treasury del Reino Unido
Fareed Zakaria
Presentador, Fareed Zakaria GPS, CNN
Albert Bourla
Director Ejecutivo, Pfizer, Inc.
Consulta todos nuestros podcasts en wef.ch/podcasts:
YouTube: https://www.youtube.com/@wef
Radio Davos - suscríbete: https://pod.link/1504682164
Conoce al líder - suscríbete: https://pod.link/1534915560
Diálogos de la Agenda - suscríbete: https://pod.link/1574956552
Pódcast del Club de Lectura del Foro Económico Mundial - suscríbete: https://pod.link/1599305768
Únete al Club de Podcasts del Foro Económico Mundial: https://www.facebook.com/groups/wefpodcastclub



