ChatGPT puede parecer una fuente de información más, pero la forma en que genera sus respuestas plantea dudas sobre su fiabilidad, afirma un profesor de ciencias políticas.
Los modelos de aprendizaje automático parecen sofisticados, pero en esencia son complejas máquinas de autocompletar que reformulan el trabajo de otros como si fuera algo nuevo, sin comprender lo que producen.
Por eso, aunque ChatGPT pueda crear textos aparentemente coherentes, no es aconsejable confundir sus resultados con conocimiento científico.
De todas las reacciones que ha suscitado ChatGPT, el chatbot de OpenAI, empresa estadounidense con fines de lucro que genera respuestas gramaticalmente correctas a consultas en lenguaje natural, pocas han igualado las de docentes y académicos.
Las editoriales académicas han empezado a prohibir que ChatGPT figure como coautor y a emitir directrices estrictas que establecen las condiciones en las que puede utilizarse. Universidades y centros educativos destacados de todo el mundo, desde la célebre institución francesa Sciences Po hasta muchas universidades australianas, han prohibido su uso.
Estas prohibiciones no son simplemente medidas de académicos preocupados por no poder detectar a quienes hacen trampa. No se trata solo de descubrir a estudiantes que copiaron una fuente sin atribuirla. Más bien, la contundencia de estas medidas refleja una pregunta que no recibe suficiente atención en la interminable cobertura del chatbot ChatGPT de OpenAI: ¿Por qué deberíamos confiar en algo de lo que genera?
Esta es una pregunta de suma importancia, ya que ChatGPT y programas similares pueden utilizarse fácilmente, con o sin reconocimiento, en las fuentes de información que constituyen los cimientos de nuestra sociedad, especialmente en el ámbito académico y los medios de comunicación.
A partir de mi trabajo sobre la economía política de la gobernanza del conocimiento, las prohibiciones académicas del uso de ChatGPT son una respuesta proporcionada a la amenaza que supone para todo nuestro ecosistema informativo. Los periodistas y académicos deberían desconfiar de su uso.
A juzgar por sus resultados, ChatGPT puede parecer una fuente o herramienta de información más. Sin embargo, en realidad, ChatGPT —o, mejor dicho, el mecanismo por el que genera sus resultados— es una daga dirigida directamente contra su propia credibilidad como fuentes autorizadas de conocimiento. No debe tomarse a la ligera.
Confianza e información
Pensemos por qué consideramos que algunas fuentes de información o tipos de conocimiento son más confiables que otros. Desde la Ilustración europea, hemos tendido a equiparar el conocimiento científico con el conocimiento en general.
La ciencia es más que la investigación de laboratorio: es una forma de pensar que da prioridad a las pruebas basadas en datos empíricos y a la búsqueda de métodos transparentes para recopilar y evaluar pruebas. Y suele ser el patrón de referencia con el que se juzga todo conocimiento.
Por ejemplo, los periodistas tienen credibilidad porque investigan la información, citan fuentes y aportan pruebas. Aunque a veces sus reportajes puedan contener errores u omisiones, eso no altera la autoridad de la profesión.
Lo mismo ocurre con quienes escriben artículos de opinión, en especial los académicos y otros expertos, porque ellos —nosotros— derivamos nuestra autoridad de nuestra condición de expertos en una materia. La experiencia implica dominar las fuentes reconocidas como parte del conocimiento legítimo en nuestros campos.
La mayoría de los artículos de opinión no incluyen muchas citas, pero los académicos responsables podrán indicarles los pensadores y las obras en las que se basan y que consultan. Y esas fuentes, a su vez, se fundamentan en fuentes verificables que el lector debería poder comprobar por sí mismo.
La verdad y los resultados
Como los escritores humanos y ChatGPT parecen producir el mismo resultado —frases y párrafos—, es comprensible que algunas personas atribuyan por error a los resultados de ChatGPT esa autoridad basada en fuentes científicas.
Que tanto ChatGPT como los periodistas produzcan frases es donde termina la semejanza. Lo más importante —la fuente de autoridad— no es lo que producen, sino cómo lo producen.
ChatGPT no produce frases de la misma manera que un periodista. ChatGPT y otros modelos de lenguaje grandes basados en aprendizaje automático pueden parecer sofisticados, pero en esencia son complejas máquinas de autocompletar. En vez de sugerir la siguiente palabra de un correo electrónico, producen las palabras con mayor probabilidad estadística en textos mucho más extensos.
Estos programas reformulan el trabajo de otros como si fuera algo nuevo. No «comprenden» lo que producen.
La justificación de estos resultados nunca puede ser la verdad. Su verdad es la de la correlación: que la palabra «frase» complete siempre la expresión «Nos complementamos el uno al otro…» porque es la combinación más frecuente, no porque exprese algo que se haya observado.
Como la verdad de ChatGPT es solo una verdad estadística, nunca se puede confiar en los resultados de este programa del mismo modo que confiamos en los de un periodista o un académico. No se pueden verificar porque se han generado de una forma distinta de lo que normalmente consideramos «científico».
No se pueden comprobar las fuentes de ChatGPT porque la fuente es el hecho estadístico de que, la mayoría de las veces, unas palabras suelen aparecer después de otras.
Por muy coherentes que parezcan los resultados de ChatGPT, limitarse a publicar lo que produce sigue siendo equivalente a dejar que el autocompletado funcione sin control. Es una práctica irresponsable porque finge que estos trucos estadísticos equivalen a conocimiento bien documentado y verificado.
Del mismo modo, los académicos y otras personas que incorporan ChatGPT a su flujo de trabajo corren el riesgo existencial de socavar los cimientos de todo el edificio del conocimiento científico.
Dado que los resultados de ChatGPT se basan en correlaciones, ¿cómo sabe quien escribe que son precisos? ¿Los verificó con fuentes reales o simplemente se ajustan a sus prejuicios personales? Y si son expertos en su campo, ¿por qué usan ChatGPT?
Producción y verificación del conocimiento
La cuestión es que los procesos de ChatGPT no nos ofrecen ninguna manera de verificar la veracidad de sus resultados. En cambio, el hecho de que periodistas y académicos tengan un método científico y basado en pruebas para producir conocimiento sirve para validar su trabajo, incluso cuando los resultados contradigan nuestras ideas preconcebidas.
El problema es especialmente grave para los académicos, dado nuestro papel central en la creación de conocimiento. Recurrir a ChatGPT para redactar siquiera una parte de una columna significa que dejan de apoyarse en la autoridad científica que reside en las fuentes verificadas.
En su lugar, al recurrir a textos generados estadísticamente, en la práctica están esgrimiendo un argumento de autoridad. Esas acciones también inducen a error al lector, porque no puede distinguir entre el texto de un autor y el de una IA.
ChatGPT puede producir conocimiento aparentemente legible, como por arte de magia. Pero haríamos bien en no confundir sus resultados con conocimiento científico real. Nunca se debe confundir coherencia con comprensión.
ChatGPT promete un acceso fácil al conocimiento nuevo y existente, pero es un cáliz envenenado. Lectores, académicos y periodistas: tengan cuidado.
