En la sesión de Davos 'Tecnología en un mundo turbulento', el CEO de OpenAI, Sam Altman, explicó hacia dónde cree que se dirige la IA.
'La inteligencia artificial como motor de la economía y la sociedad' es un tema clave de la Reunión Anual del Foro Económico Mundial.
Altman reflexionó sobre un año en el que la IA generativa acaparó titulares.
Sam Altman tiene encima de su escritorio un cartel que dice: "Nadie sabe qué pasará después."
Pero, como CEO de OpenAI, creador de ChatGPT, está en mejor posición que la mayoría para predecir hacia dónde se dirige la inteligencia artificial y para abordar lo que puede y lo que no puede hacer.
Estas son algunas de las citas más destacadas de Altman en la sesión 'Tecnología en un mundo turbulento'.
Las ganancias de productividad crecerán a medida que la gente use la IA
"Incluso con su capacidad actual muy limitada y sus profundas deficiencias, la gente encuentra formas de usar [esta herramienta] para obtener grandes ganancias de productividad u otros beneficios, y comprende sus limitaciones.
"La gente comprende las herramientas y sus limitaciones más de lo que a menudo les reconocemos. La gente ha encontrado formas de hacer que ChatGPT le resulte muy útil y, en su mayor parte, entiende para qué no debe usarlo."
La IA se ha desmitificado en cierta medida porque la gente ahora la usa de verdad. Y esa es siempre la mejor manera de impulsar al mundo con una nueva tecnología.
Sam Altman, CEO, OpenAI
La IA podrá explicarnos su razonamiento
Parte de poder confiar en la tecnología implica comprender cómo funciona. Pero Altman afirma que comprender realmente cómo opera la IA generativa será "algo distinto" de lo que la gente cree actualmente.
"No puedo mirar en tu cerebro para entender por qué piensas lo que piensas. Pero sí puedo pedirte que expliques tu razonamiento y decidir si me parece razonable o no.
"Creo que nuestros sistemas de IA también podrán hacer lo mismo. Podrán explicarnos en lenguaje natural los pasos de A a B, y nosotros podremos decidir si consideramos que son pasos adecuados, aunque no estemos examinando cada conexión."
La IA no reemplazará nuestro cuidado humano mutuo
Cuando la computadora de ajedrez de IBM, Deep Blue, derrotó al campeón mundial Garry Kasparov en 1997, los comentaristas dijeron que sería el fin del ajedrez y que nadie se molestaría en volver a ver o jugar al ajedrez una vez que una computadora hubiera ganado.
Pero "el ajedrez nunca ha sido tan popular como lo es ahora", dijo Altman, y "casi nadie ve a dos IA jugar entre sí; nos interesa mucho lo que hacen los humanos".
"Cuando leo un libro que me encanta, lo primero que hago al terminarlo es averiguar todo sobre la vida del autor; quiero sentir cierta conexión con la persona que creó algo que me ha calado tan hondo."
Los humanos saben lo que quieren otros humanos. Los humanos van a tener mejores herramientas. Ya hemos tenido mejores herramientas antes, pero seguimos muy centrados los unos en los otros.
Sam Altman, CEO, OpenAI
Los humanos se ocuparán más de las ideas
Aunque se espera ampliamente que la IA genere crecimiento del empleo y pérdida de empleos, Altman predice que cambiará ciertos roles al dar a las personas espacio para generar ideas y seleccionar decisiones.
"Cuando pienso en mi trabajo, desde luego no soy un gran investigador de IA. Mi función es determinar qué vamos a hacer, reflexionar sobre ello y luego trabajar con otras personas para coordinarnos y hacerlo realidad.
"Creo que el trabajo de todos se parecerá un poco más a eso. Todos funcionaremos en un nivel de abstracción un poco más alto. Todos tendremos acceso a muchas más capacidades. Seguiremos tomando decisiones. Con el tiempo, es posible que se orienten más hacia la selección, pero seguiremos decidiendo qué debe ocurrir en el mundo."
Hay margen para el optimismo en la alineación de los valores de la IA
"La dirección tecnológica en la que hemos estado tratando de avanzar creemos que podemos hacerla segura", dijo Altman.
El despliegue iterativo significa que la sociedad puede acostumbrarse a la tecnología y que "nuestras instituciones tienen tiempo para mantener estos debates y determinar cómo regularla y cómo establecer algunas salvaguardas".
Altman dijo que había habido "un progreso enorme" entre GPT-3 y GPT-4 en cuanto a la capacidad del modelo para alinearse con un conjunto de valores.
Pero la pregunta más difícil es: "¿Quién decide cuáles son esos valores y cuáles son los valores por defecto, cuáles son los límites? ¿Cómo funciona en este país frente a aquel? ¿Qué se me permite hacer con ello o no? Esa es una gran cuestión social."
"Desde el enfoque tecnológico, hay margen para el optimismo", dijo, y agregó que las técnicas de alineación actuales no escalarían a sistemas mucho más potentes, por lo que "vamos a necesitar inventar cosas nuevas".
Dio la bienvenida al escrutinio que está recibiendo la tecnología de IA.
Creo que es bueno que nosotros y otros estemos sujetos a un estándar alto. Podemos extraer lecciones del pasado sobre cómo se ha hecho que la tecnología sea segura y sobre cómo los distintos actores han gestionado las negociaciones sobre lo que significa seguro.
Sam Altman, CEO, OpenAI
Y dijo que es responsabilidad de la industria tecnológica recabar la opinión de la sociedad sobre decisiones como cuáles son los valores y los umbrales de seguridad, de modo que los beneficios superen a los riesgos.
"Tengo mucha empatía por el nerviosismo y la incomodidad generales que el mundo siente hacia empresas como la nuestra... Nosotros también tenemos nuestro propio nerviosismo, pero creemos que podemos gestionarlo, y la única forma de hacerlo es poner la tecnología en manos de las personas.
"Permitamos que la sociedad y la tecnología evolucionen en conjunto, paso a paso, con un circuito de retroalimentación muy estrecho y correcciones de rumbo, y construyamos sistemas que aporten un enorme valor y cumplan los requisitos de seguridad."
Surgirán nuevos modelos económicos para los contenidos
Altman hizo una distinción entre los LLM que muestran contenido y los que lo usan para entrenarse.
"Cuando un usuario pregunta: '¡Oye, ChatGPT, qué pasó hoy en Davos?', nos gustaría mostrar contenido, enlazar con marcas de medios como The New York Times o The Wall Street Journal o cualquier otra publicación importante, y decir: 'Esto es lo que pasó hoy', y luego nos gustaría pagar por ello. Nos gustaría generar tráfico por ello", dijo Altman, y añadió que no es prioritario entrenar modelos con esos datos, sino solo mostrarlos.
En el futuro, los LLM podrán tomar cantidades menores de datos de mayor calidad durante su proceso de entrenamiento, pensar más a fondo sobre ellos y aprender más.
Cuando el contenido se usa para entrenamiento, Altman dijo que necesitamos nuevos modelos económicos que compensen a los propietarios de contenidos.
"Si vamos a enseñarle física a alguien más usando tu libro de texto y tus planes de clase, nos gustaría encontrar una forma de que tú cobres por ello. Si entrenas nuestros modelos, me encantaría encontrar nuevos modelos para que cobres en función del éxito de ello... La conversación actual se centra un poco en el nivel equivocado, y creo que lo que significa entrenar estos modelos va a cambiar mucho en los próximos años."
Entre los panelistas también se encontraban: Marc Benioff, presidente y CEO de Salesforce, Julie Sweet, presidenta y CEO de Accenture, Jeremy Hunt, canciller del Exchequer del Reino Unido y Albert Bourla, CEO de Pfizer, para debatir estas cuestiones.
Vea la sesión completa aquí:
