“La IA podría ser una amenaza epistémica”, afirma ChatGPT, que no distingue entre información fiable e información cuestionable.
Las aportaciones de los trabajos de los epistemólogos de la virtud sobre los ‘deepfakes’ han resultado útiles para reflexionar sobre los posibles efectos de ChatGPT.
ChatGPT podría ayudar a aumentar nuestra ‘sensibilidad digital’, permitiéndonos distinguir con precisión lo verdadero de lo falso en la masa de imágenes y vídeos que circulan en internet
Lanzado por OpenAI el 30 de noviembre de 2022, ChatGPT puede imitar casi a la perfección discusiones enteras o responder a preguntas complejas produciendo textos que parecen salir directamente de un cerebro humano.
Este avance plantea una serie de preocupaciones, entre ellas económicas, éticas y “epistémicas” (la producción o adquisición de conocimiento e información fiables), ya que este tipo de inteligencia artificial no distingue, en esta etapa, entre información fiable y cuestionable.
‘La IA podría ser una amenaza epistémica’, afirma ChatGPT
“La IA podría ser una amenaza epistémica, ya que puede generar información convincente pero falsa. Esto podría poner en entredicho nuestra comprensión del mundo o incluso poner en peligro la validez de nuestro conocimiento. Esto plantea preocupaciones sobre la posibilidad de usar la IA para difundir desinformación o manipular las creencias de las personas.”
No soy yo quien lo dice, sino… ¡ChatGPT en persona! Generó el párrafo anterior cuando se le hizo la siguiente pregunta: “¿Cómo es la IA una amenaza epistémica?” Como podemos ver en este ejemplo, sus respuestas pueden ser muy convincentes, aunque fatuas. A veces el contenido falso es obvio, y otras veces es más difícil de detectar.
En nuestro ejemplo, aunque hay poco que objetar a la primera frase, la segunda es un cliché sin sentido: ¿qué significa exactamente “poner en entredicho nuestra comprensión del mundo” o “poner en peligro la validez de nuestro conocimiento”? Y la tercera frase no tiene mucho sentido: estas IA no difunden nada, y tampoco son las más adecuadas para la manipulación (ya que no tenemos mucho control sobre lo que producen).
Pero ahí está precisamente el problema: tenemos que pensar para llegar a la verdad.
ChatGPT no se preocupa en lo más mínimo por la veracidad de sus respuestas
Erwan Lamy, profesor asociado de Gestión de la Información y de Operaciones, ESCP Business School
Lo que debemos entender es que ChatGPT no está programado para responder preguntas, sino para producir textos con apariencia plausible. Es especialmente potente cuando hay una gran cantidad de texto disponible para que “lea”. En el caso de ChatGPT, es fenomenal.
Dada una determinada secuencia de palabras, ChatGPT puede determinar la secuencia de palabras más probable para completarla. Por tanto, ChatGPT puede “responder” a una pregunta de una manera necesariamente creíble, ya que calcula la respuesta más probable. Pero no hay lógica ni pensamiento de por medio. No hay nada más que un cálculo de probabilidad. ChatGPT no se preocupa en lo más mínimo por la veracidad de sus respuestas. En otras palabras, incluso para académicos como los informáticos de la Universidad de Princeton Arvind Narayanan y Sayash Kapoor es un “generador de sandeces”.
Desde que Harry Frankfurt convirtió la “sandez” en tema de un artículo y, más tarde, de un libro en los años 2000, se ha convertido en un concepto filosófico. Investigadores serios en los campos de la psicología, la filosofía, la neurociencia y las ciencias de la gestión estudian ahora el tema. El término se ha vuelto más complejo, pero aquí podemos referirnos a su definición original: una indiferencia hacia la verdad. No es una mentira: el mentiroso se preocupa por la verdad, ya que busca distorsionarla. El charlatán, en cambio, no tiene ningún respeto por la verdad y busca simplemente cautivar: lo que dice puede ser acertado a veces y erróneo en otras, pero no le importa.
Esto es precisamente lo que ocurre con el muy talentoso ChatGPT. Cuando se equivoca, no es evidente, al menos no de inmediato. ¿Un generador de palabras potente y fácil de usar, al alcance de todos, sin mandato alguno para presentar los hechos? Sin duda hay motivos para preocuparse. No es difícil imaginar cómo los editores de contenidos sin escrúpulos podrían usar fácilmente esta herramienta para producir “información”, sobre todo porque ChatGPT parece incluso capaz de engañar a académicos en sus propias áreas de especialización.
Vicios y virtudes epistémicos
Lo que está en juego es un sentido de la ética intelectual. Contrariamente a la creencia popular, la producción y adquisición de conocimiento (científico o de otro tipo) no es solo una cuestión de método. También es una cuestión moral. Los filósofos hablan de vicios intelectuales y virtudes, que pueden definirse como rasgos de personalidad que dificultan o facilitan la adquisición y producción de información fiable.
La mente abierta es un ejemplo de virtud epistémica, mientras que el dogmatismo es un ejemplo de vicio. Estos conceptos se han abordado en un cuerpo creciente de literatura filosófica desde principios de la década de 1990: epistemología de la virtud. Dado que su objetivo era definir correctamente el conocimiento, esta investigación fue esencialmente técnica en sus inicios, pero ahora también se centra en los problemas epistémicos de nuestro tiempo: la desinformación, las noticias falsas y, por supuesto, los peligros que plantea la IA.
Hasta hace poco, los epistemólogos de la virtud que analizaban las consecuencias epistémicas de la IA se centraban especialmente en los ‘deepfakes’ – vídeos generados íntegramente por IA, como el sistema DALL·E de OpenAI que pueden mostrar a personas reales en situaciones totalmente inventadas y escandalosas con un notable grado de realismo. Las aportaciones de este trabajo han resultado útiles para reflexionar sobre los posibles efectos de ChatGPT, y quizá para matizar un pesimismo que probablemente ha sido algo excesivo.
La producción de ‘deepfakes’ es, obviamente, un problema, pero la amplia disponibilidad de estos vídeos puede llevar al público a desarrollar una forma de escepticismo general sobre el papel de las imágenes, una forma de “cinismo intelectual”. El autor que formuló esta sugerencia (en 2022) la consideró un vicio epistémico, ya que llevaría a las personas a dudar tanto de la información inventada como de la basada en pruebas. Pero no estoy seguro de que el cinismo sea algo tan malo: equivaldría a volver a una época, no tan lejana, en la que las imágenes no desempeñaban un papel tan significativo en la adquisición de información. No me parece que esa época (anterior a los años 30 del siglo XX) fuera particularmente viciosa, desde el punto de vista epistémico.
Impulsar nuestra sensibilidad digital
En cualquier caso, este cinismo podría a su vez dar lugar al desarrollo de una virtud epistémica: una cierta “sensibilidad digital”, que nos permita distinguir con precisión lo verdadero de lo falso en la masa de imágenes y vídeos que circulan en internet.
Esta sensibilidad digital también podría ser potenciada por ChatGPT. Los lectores de textos producidos por esta IA, desalentados por los torrentes de sandeces que puede escupir, podrían volverse más cautelosos al leer un texto en línea o al enfrentarse a una imagen (por temor a ser engañados por un ‘deepfake’), sin caer en una forma de escepticismo general.
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
De forma más general, el auge de la IA podría subrayar la necesidad de cultivar virtudes epistémicas y combatir vicios, como la tendencia habitual a no dudar de las teorías conspirativas que se difunden en las redes sociales. En última instancia, estas tecnologías preocupantes podrían ser una buena noticia para la ética intelectual.
• Este artículo fue publicado originalmente en francés por The Conversation.
