El podcast semanal del Foro Económico Mundial, Radio Davos, dedica una serie especial a la inteligencia artificial (IA) generativa.
El primer episodio explora por qué la IA domina de repente los titulares, con opiniones del responsable de ética de IA de IBM y de un profesor sénior de IA.
¿La IA es una 'poderosa bestia salvaje'? ¿Puede domesticarse en beneficio de la humanidad?
Suscríbete a Radio Davos; encuentra todos los episodios aquí.
Serie de podcasts sobre IA:
Episodio 1: IA: por qué todo el mundo habla de la promesa y los riesgos de esta 'poderosa bestia salvaje'
Episodio 2: ¿Un bien común? Las empresas que crean los productos de IA que pronto usaremos todos
Episodio 3: IA responsable: ¿cómo puede la filosofía ayudarnos a crear mejor tecnología?
Episodio 4: 'La IA competirá con nosotros o nos aumentará': entonces, ¿cómo elegimos el camino correcto?
Episodio 5: IA: reunir a las partes interesadas para que la IA funcione para todos
Episodio adicional: IA: ¿qué podría salir mal?: profesor Stuart Russell
“Es la primera vez que personas de todo el mundo pueden utilizar e interactuar con un sistema de IA. Es realmente un cambio de juego, porque todo el mundo puede experimentar las capacidades de un sistema de IA.”
Francesca Rossi, directora de Ética de IBM Research, habla sobre ChatGPT. Si aún no has utilizado la herramienta de IA generativa, como mínimo habrás oído hablar de ella. Desde su lanzamiento a finales del año pasado, se ha convertido rápidamente en la aplicación de consumo de mayor crecimiento de la historia.
La explosión de ChatGPT y de otros “grandes modelos de lenguaje” ha llevado el potencial de la IA a la conciencia pública, ha planteado muchas preguntas sobre ética y oportunidades, y ha dejado a muchos reguladores luchando por ponerse al día.
Según el último Informe sobre el futuro del empleo, los empleadores prevén que casi una cuarta parte de todos los empleos se verán afectados por la tecnología. Y el 44 % de las competencias necesarias en el lugar de trabajo cambiará en cinco años, a medida que las habilidades cognitivas, la resolución de problemas complejos y la alfabetización tecnológica adquieran cada vez más relevancia.
Para explorar estas cuestiones en profundidad, el podcast semanal del Foro Económico Mundial Radio Davos ha lanzado una serie en seis partes, con entrevistas a expertos y pensadores para conocer algunos de los mayores desafíos y cómo los abordamos, así como el potencial de la IA para cambiar la forma en que vivimos y trabajamos.
En el primer episodio, hablamos con Rossi y con Pascale Fung, profesora de ingeniería informática y directora del Centro de Investigación en IA de la Universidad de Ciencia y Tecnología de Hong Kong. A continuación, figura una versión editada de esas conversaciones.
En la serie también explicaremos parte de la jerga en torno a la IA. En este episodio, Cathy Li, responsable de IA, datos y metaverso del Foro Económico Mundial, define los 'grandes modelos de lenguaje' o LLM:
¿Qué es un gran modelo de lenguaje de IA?
Cathy Li: En términos sencillos, un gran modelo de lenguaje es un programa informático inteligente que puede comprender y generar lenguaje similar al humano. Funciona mediante un tipo de inteligencia artificial llamado aprendizaje profundo, y se entrena con una enorme cantidad de datos de texto procedentes de libros, artículos, sitios web y otras fuentes para comprender y aprender los patrones y las relaciones entre palabras y oraciones.
Durante el entrenamiento, el modelo analiza los datos de texto e intenta predecir la siguiente palabra de la oración a partir de las palabras que la preceden.
Cuando interactúas con el modelo de lenguaje, proporcionas un prompt o una pregunta. El monitor utiliza su conocimiento aprendido para generar una respuesta prediciendo las palabras y frases más probables que encajen en el contexto de lo que quieres decir.
Obviamente existe una diferencia entre un modelo de lenguaje pequeño y uno grande, y el umbral a veces no puede predecirse con claridad. Pero estos científicos han observado que la capacidad de predicción aumentó exponencialmente tras determinados umbrales, y es también ahí donde los científicos están observando propiedades emergentes más sorprendentes que nunca habían visto y que no podían predecir antes.
¿Qué es la IA conversacional?
Pascale Fung: Técnicamente hablando, existen dos tipos de sistemas de IA conversacional. Básicamente, se trata de la interacción entre un usuario, un usuario humano, y una máquina.
El primero incluye los chatbots de dominio abierto, en los que normalmente se puede hablar de cualquier tema, de ahí el dominio abierto, y se puede charlar sobre lo que se quiera durante todo el tiempo que se desee.
El otro tipo de sistemas de IA conversacional se denomina sistemas de diálogo orientados a tareas. Tus asistentes virtuales, los asistentes de tu smartphone, los asistentes virtuales de tu centro de llamadas: todos ellos son sistemas de diálogo o sistemas de IA conversacional que intentan completar una tarea o responder a una consulta del usuario.
¿Qué hay detrás de estos enormes avances de la IA?
Pascale Fung: La IA generativa existe desde hace tiempo; es anterior al aprendizaje profundo y a las redes neuronales. Pero los modelos de IA generativa recientes son mucho más potentes que las generaciones anteriores porque disponen de una enorme cantidad de datos de entrenamiento y de un tamaño de parámetros enorme.
Y estos modelos de IA generativa, en particular los grandes modelos de lenguaje, se utilizan como modelos fundacionales para crear sistemas de IA conversacional.
Existe un malentendido habitual según el cual ChatGPT es un sistema de IA conversacional. Técnicamente, no lo es. ChatGPT es lo que llamamos un modelo fundacional. Es decir, son grandes modelos de lenguaje capaces de realizar multitud de tareas. Y luego hay una interfaz de chat. Es como una interfaz de usuario para que el usuario interactúe con el gran modelo de lenguaje subyacente mediante el chat.
Por tanto, ChatGPT puede utilizarse para crear otros sistemas, entre ellos, entre otros, sistemas de IA conversacional.
Francesca Rossi: No vi realmente un gran cambio; vi una evolución a lo largo de décadas.
Pero lo que es distinto ahora, en comparación con mi experiencia con la IA, es que estos resultados de investigación —con una interfaz muy sencilla— están disponibles para todo el mundo.
La gente ya utilizaba la IA en casi todo lo que hace en su vida en línea. Pero no se daba cuenta porque estaba, en cierto modo, oculta dentro de todas las aplicaciones, de todas las cosas que usamos en línea.
¿Qué aplicaciones te ilusionan en el futuro?
Pascale Fung: Me gustaría ver que podamos encontrar soluciones con las que aprovechar o controlar la IA generativa.
Hoy en día, estos grandes modelos de lenguaje son como poderosas bestias salvajes, ¿verdad? Necesitamos algoritmos y métodos para domesticar a esas bestias y luego utilizarlas en beneficio de la humanidad.
A largo plazo, espero ver una IA más beneficiosa, por ejemplo, en el ámbito médico: atención sanitaria para las personas mayores y para las personas desfavorecidas que no tienen acceso a una atención médica avanzada. Y podemos democratizar esa atención sanitaria con la tecnología de IA.
Hoy por hoy, el camino desde aquí hasta allí es desconocido. Quizá podamos llegar en un año. O quizá necesitemos otro cambio de paradigma para llegar. Pero eso es lo que resulta emocionante de este campo de la IA generativa. Casi estamos haciendo descubrimientos científicos cuando trabajamos con estos modelos, y estamos aprendiendo nuevas formas de trabajar con ellos y de aprovecharlos a diario.
¿Por qué preocupa a la gente?
Francesa Rossi: Hubo problemas en la ola anterior de la IA; conocíamos bien los problemas de sesgo, explicabilidad, transparencia, robustez, privacidad, etc. Pero ahora estos problemas siguen ahí y hay problemas adicionales, relacionados, de nuevo, con esta capacidad de generar contenido.
Por ejemplo, la posible propagación de desinformación y algunos problemas de derechos de autor o de privacidad.
También es cierto que puede haber usos indebidos. La instrucción puede ser cualquiera, pero debemos incorporar a esos grandes modelos de lenguaje formas de responder de manera adecuada.
Creo que en el futuro tendremos que encontrar métodos más eficaces que no sean filtros posteriores a la construcción del gran modelo de lenguaje, sino que estén incorporados en la propia construcción del modelo.
Pascale Fung: Los daños no intencionados también me preocupan mucho. Hay personas que, con la mejor intención, están tratando de construir un sistema que ayude a los pacientes a encontrar curas para distintas enfermedades, una especie de WebMD pero basado en IA. Y piensan que esto ayudará a la gente a acceder a información sanitaria, entre otras cosas. Pero no saben que algunas de las respuestas que dan estos sistemas de IA generativa son incorrectas.
Y dada la enorme inversión que hay hoy en este ámbito —solo con ChatGPT y la IA generativa hay miles de start-ups surgiendo—, me temo que muchas personas no conocen los límites de ChatGPT y luego construyen aplicaciones que, según afirman, harán una cosa, pero en realidad hacen otra, no lo que está previsto que hagan.
¿Existe el riesgo de que el desarrollo de la IA avance demasiado rápido?
Pascale Fung: El riesgo ya está aquí. Ya hemos visto que las personas utilizan la IA generativa de una forma para la que no está pensada.
Me anima mucho ver los avances que estamos logrando en la investigación básica, incluidas las formas de mitigar los daños de la IA.
Me preocupa que el despliegue vaya demasiado rápido, porque estamos desplegando sistemas cuyas ramificaciones no entendemos al 100 %. No necesariamente tenemos que explicar con todo detalle a todas las personas que vayan a utilizarlo el sistema de IA que desplegamos, pero necesitamos tener la confianza de que podemos mitigar los daños antes de lanzar el sistema al mundo.
Francesca Rossi: Distinguiría entre las distintas fases de la cadena de valor de la construcción de un modelo de IA, así como de su publicación y despliegue.
Creo que queremos facilitar y acelerar aún más la investigación y el desarrollo, porque son ámbitos que pueden ayudarnos a entender cómo mitigar mejor los problemas.
Y, por supuesto, queremos ser cuidadosos con las fases posteriores de la cadena de valor, como el despliegue y los usos. Por eso creo que las políticas y regulaciones deberían actuar más en esa parte de la cadena de valor que en la fase inicial.
¿En qué punto nos encontramos en cuanto a la gobernanza global o regional de la IA?
Francesca Rossi: Creo que el debate legislativo más completo es el que se está produciendo ahora mismo en Europa en torno a la propuesta de Ley de IA europea. Todavía está en forma de borrador, con muchas propuestas de enmienda distintas, pero pronto será aprobada por el Parlamento Europeo.
Lo que me gusta de esa normativa es que se basa en el riesgo, donde el riesgo está asociado a los escenarios en los que se aplicaría la IA. La normativa incluye una lista de «usos de alto riesgo», por ejemplo, para aplicaciones de recursos humanos, como decidir quién es contratado o quién es promocionado, entre otros. Ese es uno de los ámbitos de aplicación de alto riesgo.
Ahora mismo se debate mucho sobre cómo hacer que esta normativa también incluya algo sobre la IA generativa y los grandes modelos de lenguaje.
Y espero que esto no desplace el enfoque del marco basado en el riesgo, del ámbito de aplicación a la tecnología en sí. Porque algunos debates intentan afirmar, en cambio, que estos modelos son arriesgados independientemente de dónde se apliquen.
Creo que eso sería un gran error.
¿Cómo podemos mitigar de otra manera algunos de los riesgos asociados a la IA?
Pascale Fung: Mitigar el riesgo es una tarea de múltiples partes interesadas y multinacional, y no hablamos demasiado de las personas que construyen los sistemas.
Así que, empezando por que nosotros cumplamos el código de conducta, los ingenieros de investigación deben cumplir este código de conducta.
Mientras tanto, necesitamos diseñar algoritmos que puedan alinearse con los valores humanos.
Consulta todos nuestros podcasts en wef.ch/podcasts:
