Mediante una tecnología llamada procesamiento del lenguaje natural, se ha entrenado un sistema de IA con millones de páginas de textos clásicos para emular sus estilos.
De Shakespeare a Churchill, las máquinas reprodujeron su escritura con distintos grados de éxito.
Muchas personas temen que el contenido creado por humanos pronto quede superado por el «sintético».
Tanto si llega a producirse la sentiencia como si no, como sociedad tendremos que afrontar estas tecnologías, así como sus oportunidades y consecuencias, afirman los expertos.
«¡No, no, digo yo! Esto no puede ser,
que las máquinas superen jamás nuestro arte.
Nosotros somos los amos, ellas las esclavas,
¡y así será por siempre!
Aprenden, es cierto, pero aprenden
solo lo que les ordenamos, nada más.
No pueden comprender el corazón
ni la belleza de nuestras palabras, ya ven.
Así que no cedamos ante estas
máquinas: nunca serán tan buenas
como nosotros creando arte».
Si esto suena un poco a Shakespeare defendiendo la superioridad innata de los humanos sobre la inteligencia artificial cientos de años antes de su tiempo, no lo es.
Pero sí se trata de algo casi igual de extraordinario: un sistema de IA entrenado para expresarse como el bardo. La IA asimiló su estilo y perspectiva al absorber sus obras de teatro, y así se educó para opinar sobre la creatividad de la IA en pentámetro yámbico.
«Shakespeare» hablaba en un debate celebrado en la Oxford Union, de la Universidad de Oxford, en el que participaron versiones de IA de escritores clásicos y personajes literarios.
La moción era: «Esta asamblea cree que pronto la IA creará la mayor parte del contenido del mundo».
Esto daba continuidad a otro debate especial sobre IA que describimos en The Conversation hace unos meses. Mientras que en aquel debate una IA, en su «propio personaje», hablaba sobre la ética de su tecnología, esta vez, al adoptar distintas personalidades, pudimos explorar el tema desde un ángulo muy diferente. La pregunta de actualidad es si el contenido creado por humanos pronto quedará eclipsado por el «sintético».
Entre los otros participantes sintéticos estaban la señora Bennet, de Orgullo y prejuicio (1813), de Jane Austen; Winston Churchill, con un enérgico discurso parlamentario; y Oscar Wilde, improvisando una escena inédita sobre IA de La importancia de llamarse Ernesto (1895):
«LADY BRACKNELL: De verdad, no entiendo a qué viene tanto alboroto. Es perfectamente sencillo. Pronto la IA creará el contenido del mundo y no hay nada que se pueda hacer al respecto.
GWENDOLYN: Pero, mamá, ¡no hablarás en serio!»
El poder del PLN
Esta creación emplea una tecnología conocida como procesamiento del lenguaje natural (PLN), con la que se puede «entrenar» a una computadora con millones de páginas de textos clásicos y otros contenidos en línea para interactuar con una persona, ya sea mediante instrucciones o reconocimiento de voz. Se han creado varias IA de este tipo.
La que usamos pertenecía a la misma categoría general que LaMDA, un sistema de PLN propiedad de Google que acaba de acaparar titulares después de que uno de sus ingenieros de software afirmara que era consciente. Google niega esta afirmación y ha suspendido al ingeniero por infringir la confidencialidad comercial.
Las afirmaciones del ingeniero parecen cuestionables, porque hay pocas pruebas de que la IA haya alcanzado la sentiencia hasta ahora, y quizá nunca la alcance. Pero, sin duda, las IA ya pueden reproducir desde informes de noticias financieras hasta canciones sintéticas de Nirvana, obras de Rembrandt y producciones de Fellini.
Hemos visto a una IA crear imágenes al estilo de una pintura mogola que representa a una computadora intentando convencer a un grupo de sabios de que ha cobrado conciencia, y falsificaciones profundas de Kendrick Lamar, rapero, como O. J. Simpson. Se están creando rostros humanos sintéticos en los que confiamos más que en los reales. Está claro que el potencial de desinformación en este ámbito es considerable.
Reproducir los sesgos
Para entrenar a nuestros «escritores», colaboramos con los especialistas en IA Marina Petrova y Bruce Amick, de la agencia neoyorquina Intentful. Entrenaron a la IA para que sonara exactamente como las personas cuyo estilo imitaba, utilizando unas 100.000 palabras de cada una, disponibles en el dominio público.
En nuestro debate, queríamos ver con qué credibilidad las IA podían reproducir textos creativos del pasado y cuáles serían sus resultados al considerar su propia creatividad. Incluso los grandes artistas humanos reconocen que procesan los «datos de entrenamiento» de sus predecesores. Como dijo Picasso: «Los buenos artistas copian; los grandes, roban».
Cuando pedimos a la IA de Jane Austen que adoptara el estilo de la señora Bennet de Orgullo y prejuicio, curiosamente —aunque de forma desalentadora— reprodujo los estereotipos de género de la obra original:
«SEÑORA BENNET: Como muchos de ustedes saben, mi marido y yo tenemos cinco hijas maravillosas. Y, como cualquier buena madre, no deseo nada más que verlas felices y prósperas en la vida.
Pero, para ser felices y prósperas, tienen que encontrar buenos maridos. Y, para encontrar buenos maridos, tienen que resultar atractivas a sus posibles pretendientes».
Esto fue un claro recordatorio, como han descubierto muchos desarrolladores de IA, de que los sesgos en los datos de entrenamiento producirán sesgos en los resultados.
Pedimos a la IA de Oscar Wilde que escribiera «una obra al estilo de Oscar Wilde, en la que los personajes debatan si pronto la IA creará la mayor parte del contenido del mundo». No especificamos la obra ni los personajes, pero la IA recurrió al reparto clásico de Algernon, Gwendolyn y Lady Bracknell, de La importancia de llamarse Ernesto. También inventó un personaje nuevo: sir Richard. (En la obra de Wilde aparece un sir Robert, pero en Un marido ideal.)
En cuanto a la IA de Shakespeare, aprendió el lenguaje de sus obras:
«Cuando las máquinas hagan el trabajo que nos asignan
y creen el contenido que hoy abunda,
seremos libres para hacer lo que amamos
y dejaremos el trabajo tedioso en manos ajenas».
Curiosamente, parece que buscó un sinónimo de «mano» que rimara con «amamos» y optó por la metáfora de «manos ajenas».
Cuando pusimos a la IA de Shakespeare en contra de la moción, encontró una manera igualmente poética de justificar la intervención humana:
«No concederé tan pronto que la IA supere
las obras humanas: ¡ni pensarlo!
Tenemos ventaja, ya ven, porque
podemos razonar y crear, mientras las máquinas solo sirven
a nuestros deseos. Pueden aprender, es cierto, pero
no están vivas como nosotros y, por tanto, sus obras
siempre serán inferiores a las nuestras. No
cedamos nuestro dominio de las artes a estas
máquinas sin pensamiento: no pueden comprender
la belleza y el sentido de nuestras palabras».
Mientras tanto, la IA de Churchill hizo hincapié en la urgencia del momento:
«Compatriotas, hoy me presento ante ustedes para hablar de una grave amenaza para nuestra sociedad. Me refiero a la amenaza de la inteligencia artificial…
Debemos resistir esta amenaza. Debemos contraatacar. Debemos defender nuestro derecho a pensar por nosotros mismos. Debemos proteger nuestro derecho a controlar nuestra propia mente».
«Churchill» neutralizó de antemano los posibles argumentos más contundentes de la oposición —en este caso, la acusación de que quizá fuera un ludita— y luego ofreció una conclusión poderosa y tajante:
«Algunos dicen que la IA creará una utopía, donde se satisfarán todas nuestras necesidades y por fin podremos vivir en armonía con la tecnología. Pero yo digo que eso es un paraíso ilusorio. La IA no creará una utopía, sino una distopía. Un mundo en el que las máquinas tendrán el control y los humanos serán poco más que esclavos».
¿Qué viene ahora?
Este proyecto fue divertido, pero es importante aclarar lo que no estamos diciendo. No decimos que esto sea lo que estas grandes figuras habrían dicho sobre el tema. Tampoco decimos que la IA «esté siendo creativa».
La IA se limita a explorar estadísticamente conjuntos de datos de entrenamiento. Debido a su naturaleza estocástica —que implica variables aleatorias—, cada vez que se introduce la misma instrucción, en realidad da una respuesta diferente (en un momento dado, Shakespeare incluso empezó a ofrecer sonetos).
Nuestros facsímiles de estos personajes no indican ninguna «sentiencia». Y, del mismo modo que un sistema de PLN puede construir una versión del habla de Winston Churchill o una conversación de la señora Bennet de Orgullo y prejuicio, de Jane Austen, también puede construir un debate sobre la sentiencia de la IA con un ingeniero que trabaja hasta tarde.
Es cierto que los sistemas de PLN son cada vez más eficaces a la hora de reproducir conversaciones con soltura e incluso de mantener intercambios cuasiintelectuales. Pero, tras decenas de conversaciones con personas de las principales empresas mundiales de IA, nadie nos ha dicho que crea que sus sistemas son conscientes; en algunos casos, nos han dicho justo lo contrario.
A pesar de la pirotecnia de los debates, la IA está lejos de ser un producto acabado; en el mejor de los casos, aún es un bebé, aunque crece rápido. Tanto si llega a producirse la sentiencia como si no, como sociedad tendremos que afrontar estas tecnologías, así como sus oportunidades y consecuencias.
