Un error habitual sobre los modelos de lenguaje como ChatGPT es creer que funcionan como una especie de "súper Google", explica un académico.
Sin embargo, usarlos para buscar respuestas a preguntas en una biblioteca infinitamente grande de datos es no entender la verdadera utilidad que tienen, sostiene.
Esto se debe a que, en esencia, están programados para redactar frases verosímiles y no necesariamente verdaderas.
Aquí explica cómo funcionan los chatbots y las formas en que podemos aprovechar sus capacidades para un uso creativo.
No hace falta mucho para que ChatGPT cometa un error factual. Mi hijo está haciendo un trabajo sobre los presidentes de Estados Unidos, así que pensé en ayudarle buscando algunas biografías. Le pedí a ChatGPT una lista de libros sobre Abraham Lincoln y lo hizo bastante bien:
El número 4 no es correcto. Garry Wills escribió, como es bien sabido, «Lincoln at Gettysburg», y por supuesto Lincoln escribió él mismo la Proclamación de Emancipación, pero no es un mal comienzo. Después probé con algo más difícil: pedí información sobre William Henry Harrison, mucho menos conocido, y ChatGPT me proporcionó con buena voluntad una lista, casi toda ella errónea.
Los números 4 y 5 son correctos; el resto no existen o no fueron escritos por esas personas. Repetí exactamente el mismo ejercicio y obtuve resultados ligeramente distintos:
Esta vez los números 2 y 3 son correctos, y los otros tres no son libros reales o no fueron escritos por esos autores. El número 4, «William Henry Harrison: His Life and Times», es un libro real, pero su autor es James A. Green, no Robert Remini, un historiador muy conocido de la era jacksoniana.
Señalé el error y ChatGPT se corrigió con entusiasmo; después me afirmó con seguridad que el libro había sido escrito, en realidad, por Gail Collins (autora de otra biografía de Harrison), y continuó hablando más sobre el libro y sobre ella. Finalmente revelé la verdad y la máquina aceptó encantada mi corrección. Entonces mentí de forma absurda, afirmando que durante sus primeros cien días los presidentes deben escribir la biografía de algún expresidente, y ChatGPT me desmintió. Después mentí de forma sutil, atribuyendo incorrectamente la autoría de la biografía de Harrison al historiador y escritor Paul C. Nagel, y se tragó mi mentira.
Cuando le pregunté a ChatGPT si estaba seguro de que no estaba mintiendo, afirmó que solo es un «modelo de lenguaje de IA» y que no tiene capacidad para verificar la exactitud. Sin embargo, matizó esa afirmación diciendo: «Solo puedo proporcionar información basada en los datos de entrenamiento que se me han facilitado, y parece que el libro “William Henry Harrison: His Life and Times” fue escrito por Paul C. Nagel y publicado en 1977».
Esto no es cierto.
Palabras, no hechos
Podría parecer, a partir de esta interacción, que ChatGPT recibió una biblioteca de datos, incluidas afirmaciones incorrectas sobre autores y libros. Al fin y al cabo, OpenAI, el creador de ChatGPT, afirma que entrenó al chatbot con «grandes cantidades de datos de internet escritos por seres humanos.»
Sin embargo, casi con toda seguridad no se le dieron los nombres de un montón de libros inventados sobre uno de los presidentes más mediocres. De alguna manera, no obstante, esta información falsa sí se basa en sus datos de entrenamiento.
Como informático, con frecuencia recibo quejas que revelan un error habitual sobre los grandes modelos de lenguaje como ChatGPT y sus predecesores GPT3 y GPT2: que son una especie de «súper Google», o versiones digitales de un bibliotecario de referencia que busca respuestas en una biblioteca infinitamente grande de datos, o que combinan retazos de historias y personajes. No hacen nada de eso; al menos, no fueron diseñados explícitamente para hacerlo.
Suena bien
Un modelo de lenguaje como ChatGPT, conocido más formalmente como «transformador generativo preentrenado» (de ahí las siglas G, P y T), toma la conversación actual, asigna una probabilidad a todas las palabras de su vocabulario según dicha conversación y luego elige una de ellas como la palabra siguiente más probable. Después repite el proceso una y otra vez, hasta que se detiene.
Por tanto, no tiene hechos como tales. Simplemente sabe qué palabra debe venir a continuación. Dicho de otra forma, ChatGPT no intenta escribir frases verdaderas, sino frases verosímiles.
Cuando hablo en privado con colegas sobre ChatGPT, a menudo señalan cuántas afirmaciones factualmente falsas produce y lo descartan. Para mí, la idea de que ChatGPT es un sistema defectuoso de recuperación de datos no viene al caso. Al fin y al cabo, la gente lleva usando Google durante los últimos dos décadas y media. Ya existe un servicio de búsqueda de información bastante bueno.
De hecho, la única forma que tuve de verificar si todos esos títulos de libros sobre presidentes eran exactos fue buscarlos en Google y luego verificar los resultados. Mi vida no mejoraría mucho si obtuviera esos datos en una conversación, en lugar de la forma en que los he obtenido durante casi la mitad de mi vida: recuperando documentos y haciendo luego un análisis crítico para ver si puedo fiarme de su contenido.
Compañero de improvisación
Por otro lado, si puedo hablar con un bot que dé respuestas verosímiles a lo que digo, sería útil en situaciones en las que la exactitud factual no es tan importante. Hace algunos años, un estudiante y yo intentamos crear un «bot de improvisación», que respondiera a cualquier cosa que dijeras con un «sí, y» para mantener viva la conversación. Demostramos, en un artículo, que nuestro bot era mejor que otros bots de la época para aplicar el «sí, y», pero en IA, dos años son historia antigua.
Probé un diálogo con ChatGPT, un escenario de exploración espacial de ciencia ficción, parecido a lo que se encontraría en una clase típica de improvisación. ChatGPT es mucho mejor aplicando el «sí, y» que lo que hicimos nosotros, pero no llegó a intensificar en absoluto el dramatismo. Sentí que yo hacía todo el trabajo pesado.
Tras algunos ajustes, logré que participara un poco más, y al final del día sentí que fue un buen ejercicio para mí, que no he hecho mucha improvisación desde que me gradué en la universidad hace más de 20 años.
Desde luego, no querría que ChatGPT apareciera en «Whose Line Is It Anyway?», y esto no es un buen argumento de «Star Trek» (aunque sigue siendo menos problemático que «Code of Honor»), pero ¿cuántas veces te has sentado a escribir algo desde cero y te has sentido aterrorizado ante la página en blanco? Empezar con un primer borrador malo puede romper el bloqueo del escritor y activar la creatividad, y ChatGPT y los grandes modelos de lenguaje como él parecen las herramientas adecuadas para ayudar en estos ejercicios.
Y para una máquina diseñada para producir cadenas de palabras que suenen lo mejor posible en respuesta a las palabras que le das, y no para proporcionarte información, parece ese el uso adecuado de la herramienta.
