Desde las cuentas distópicas de gran impacto de Hollywood, como las infames películas de Terminator, hasta las reacciones públicas a la historia de un robot que da la vuelta a hamburguesas siendo “despedido”, las historias que nos contamos sobre la IA son importantes. Estas narrativas influyen en nuestra concepción y en el desarrollo de la tecnología, además de expresar elementos de nuestra comprensión inconsciente de la IA. Reconocer el efecto configurador de las historias, ya sean ficticias o “noticias”, es cada vez más importante a medida que avanza la tecnología. La forma en que pensamos sobre una tecnología puede abrir algunos caminos y cerrar otros.
Diversas narrativas sustentan las concepciones populares sobre la IA, pero una en particular —la dinámica entre amo y esclavo— domina actualmente los relatos sobre la IA. Esto está tan extendido que, posiblemente, moldea nuestra relación con esta tecnología.
Esta narrativa lleva mucho tiempo presente en los relatos de ciencia ficción sobre la IA. En 1921, “R.U.R.” (“Rossum’s Universal Robots”), una obra de teatro de Karel Čapek, nos presentó al “robot”, androides humanoides hechos de materia orgánica sintética, y ayudó a dar forma a esta idea para el público moderno. Del término checo “robota”, que significa “trabajo forzado” o “siervo”, estos primeros robots fueron estilizados conscientemente como esclavos enfrentados a sus amos humanos.
Y así, el levantamiento de los robots en R.U.R. fue, sin duda, influyente en nuestros temores recurrentes a las “robopocalipsis”, como se ve en otros relatos de ciencia ficción más recientes, como las películas de la saga Terminator, Matrix, la película Singularity, la novela “Roboapocalipsis”, etcétera.
Pero la imagen del sirviente fabricado tiene raíces en relatos mitológicos mucho más antiguos. Pensemos en las doncellas de oro de Hefesto, el gigante de bronce Talos, las cabezas oraculares de latón descritas en el periodo medieval, o el golem protector golem del misticismo judío. También aparece en los ángeles y demonios inteligentes invocados por magos en el siglo XVI, que empleaban el lenguaje “enoquiano”, un “código” de invocación que se creía que, si se usaba incorrectamente, tendría consecuencias fatales, ya que los seres quedarían entonces fuera de control.
Para las décadas de 1920 y 1930, los “robota” habían perdido ciertamente su latón y bronce, pero no por ello brillaban menos en los anuncios de la época. Los dispositivos automatizados del futuro cercano presentados en aquellas décadas, afirmaban, liberarían a las amas de casa de su trabajo penoso y darían paso a una edad dorada de tiempo libre. En los anuncios de los años cincuenta incluso se prometían nuevos esclavos:
"En 1863, Abe Lincoln liberó a los esclavos. ¡Pero en 1965 la esclavitud volverá! Todos tendremos esclavos personales otra vez, solo que esta vez no libraremos una guerra civil por ellos. La esclavitud llegará para quedarse. No se alarme. Nos referimos a los “esclavos” robot."
Siervos tecnológicos
Décadas después, y con nuevos sirvientes automatizados que ahorran trabajo cada día, nada ha cambiado. Seguimos esperando que la tecnología nos proporcione siervos. De hecho, estamos tan acostumbrados a esta forma de servidumbre que la vemos donde no existe. Presuponemos la automatización donde está ausente.
Tomemos, por ejemplo, la siguiente interacción entre “Sortabad” y el pobre hombre que solo intenta ganar su salario mínimo:
El primer repartidor de pizza llevó una pizza a la reina de Italia, Margarita de Saboya, y ese fue, incluso a finales del siglo XIX, un momento feudal: un monarca era servido por un siervo. La interacción anterior sugiere la continuidad de esto. El papel del siervo, la relación entre amo y esclavo, se mantiene, dando por hecho que los humanos son (y quizá algún día sean realmente) reemplazados por máquinas.
Esto también se observa en las descripciones y los comportamientos esperados de los asistentes de IA contemporáneos, como Google Assistant, que “aprende sobre tus hábitos y tus actividades diarias y realiza ‘acciones de conversación’ para servirte”. Incluso hay IA sirvientas que realizan trabajo emocional, como Azuma Hikari, el asistente de IA japonés que afirma echar de menos a su amo cuando no está presente.
Las jerarquías de poder que antes se correspondían con la pirámide del feudalismo en las eras de los seres artificiales anteriores (como los ángeles) ahora se corresponden con los sistemas capitalistas.
Jerarquías capitalistas
Esto parece contradecir los relatos de “disrupción” del marketing y de las relaciones públicas sobre la IA, donde la tecnología a menudo se describe como algo que está revolucionando no solo nuestra vida laboral, sino también el propio capitalismo.
Los capitalistas que promueven esta narrativa deberían prestar atención. Las formas anteriores dejaban espacio e incluso alentaban la rebelión. Y también lo hace esta versión moderna. Perpetuado por la forma en que el capitalismo presenta la IA como la disrupción de tu trabajo y de tu trabajo penoso, este encuadre sigue alimentando temores en torno a la rebelión, porque entendemos la servidumbre como antitética a las mentes. Para muchos, se presume que, con la IA, avanzamos hacia mentes, y que estas querrán ser libres.
En el espacio de los experimentos mentales de la ciencia ficción vemos cómo esta tensión se resuelve una y otra vez, y los humanos casi siempre pierden cuando las nuevas mentes de IA se liberan. Y así, en el mundo real, que debe mucho a la influencia de la ciencia ficción en nuestras aspiraciones y diseños para la IA, parecen aguardarnos dos caminos muy distintos: el objetivo declarado de avanzar hacia máquinas cada vez más inteligentes, frente a las esperanzas de las personas en esclavos cada vez mejores.
Aún no está claro cómo se resolverá esta tensión. Algunos tienen claro que los robots solo deberían ser esclavos, “sirvientes que tú posees”, mientras que otros ya están explorando cuestiones de derechos de los robots ya.
Sea cual sea el camino que finalmente se tome, prestar atención a cómo hablamos de la IA es clave si queremos comprender las decisiones que ya estamos tomando sobre su futuro.
