¿Alguna vez le has enviado un mensaje a alguien diciendo lo «jodidamente molesto» que estás por algo? ¿O le has pedido a Siri en tu iPhone que llame a tu esposa, pero de algún modo has terminado conectado con tu suegra?
Si te ha pasado, quizá hayas sido víctima de un nuevo desafío de la computación: esa delgada línea en la que confiamos en que una computadora haga predicciones por nosotros, a pesar de que a veces se equivoca.
En el caso de un desafortunado administrador del Departamento de Inmigración de Australia, este nivel de confianza casi con toda seguridad ha provocado una gran vergüenza (o algo peor): se ha revelado que, durante noviembre del año pasado, enviaron por accidente los datos personales de los líderes del G20 a los organizadores del torneo de fútbol de la Copa Asiática debido a una dirección de correo electrónico autocompletada que salió terriblemente mal.
Confiamos en las máquinas, pero a veces nos fallan. Entonces, ¿qué está pasando? ¿Son las máquinas demasiado tontas para entender lo que queremos decir? ¿O simplemente se están volviendo demasiado inteligentes para su propio bien?
El valle inquietante de las predicciones computacionales
Parece que estamos entrando en un valle inquietante de las predicciones computacionales. Es cuando las computadoras parecen casi humanas y nos hacen empezar a confiar en ellas, pero de pronto cometen un error tan irritante que nos inquieta haber confiado tanto en una máquina.
El problema es que todo resulta muy práctico. Mi velocidad al escribir ha aumentado enormemente desde que empecé a confiar en la autocorrección de mi iPhone para corregir las palabras imprecisas que escribo y simplemente dejarme llevar. Y servicios como Google Now, que predicen la información que quieres antes de que siquiera la pidas, son aún más útiles.
Pero la contrapartida es que a veces se equivoca. Y a veces descubro que, sin querer, le he enviado el mensaje equivocado a mi esposa, o que el teléfono hace sugerencias ridículas, como decir que mi oficina es «casa» (¡a la esposa mencionada no le hizo ninguna gracia!).
Entonces, ¿por qué le cuesta tanto a una computadora ser humana?
Engáñame una vez, computadora…
El desafío de hacer que una computadora parezca humana nos acompaña desde hace bastante tiempo. Desde que Alan Turing inventó su máquina de cálculo para descifrar el código Enigma durante la Segunda Guerra Mundial, nos hemos esforzado por crear una computadora capaz de pensar y actuar como un ser humano.
Tanto es así que incluso hemos ideado una prueba, llamada prueba de Turing, para determinar si una computadora puede engañar con éxito a alguien haciéndole creer que es humana.
En su artículo en el que propone la prueba de Turing, Turing sugirió que no hace falta crear una computadora que pueda pensar de verdad —sea lo que sea que eso signifique—, sino construir una simulación por computadora que nos permita responder afirmativamente a la pregunta «¿pueden las máquinas hacer lo que nosotros, como entidades pensantes, podemos hacer?», como lo expresa el científico cognitivo Stevan Harnad.
En una prueba que llamó «juego de imitación», un juez humano mantiene conversaciones en lenguaje natural con una persona y una máquina a través de un canal exclusivamente de texto. Si el juez no puede distinguir la máquina de la persona, se dice que la máquina ha superado la prueba.
Desde el artículo original de Turing, se han propuesto muchas variaciones de la prueba, que añaden capacidades perceptivas como la visión y el audio, además de ampliar la prueba con la robótica.
Pero hasta ahora ninguna computadora ha superado de manera definitiva la prueba de Turing original. Cada vez que nos acercamos, tropieza en ese valle inquietante, se queda corta de alguna manera que empieza a inquietarnos y, entonces, se derrumba todo el castillo de naipes.
Esto no sorprende. Intentamos que una máquina se ocupe de toda la complejidad del procesamiento humano, y es inevitable que cometa errores. Un ejemplo clásico es la parábola de los tanques de Elieler Yudkowsky.
Tanques, pero no tantos
Para mostrar el problema de enseñar a una computadora a ser humana, Yudkowsky describe una situación en la que investigadores del Ejército de EE. UU. entrenan una computadora para reconocer si una escena contiene un tanque. Para enseñarle, los investigadores le muestran muchas imágenes, algunas con tanques y otras sin ellos, y le indican a la computadora si cada imagen contiene o no un tanque.
Durante las pruebas, determinan que la computadora ha aprendido a identificar correctamente cada escena, así que entregan el sistema al Pentágono, que luego dice que su personal no pudo hacerlo funcionar.
Tras rascarse la cabeza un rato, los investigadores descubren que las fotos de tanques se habían tomado en días nublados y las fotos sin tanques, en días soleados. Así que, en vez de aprender a reconocer tanques, ¡el sistema había aprendido a distinguir los días nublados de los soleados!
Esos son los peligros de enseñar una habilidad a una computadora cuando no cuenta con suficiente contexto para entender qué quieres que haga.
Enseñar a una computadora a entender lo que queremos decir, no lo que decimos
Así que, después de que mi teléfono móvil me informara amablemente que mi lugar de trabajo era «casa» y de que ajustara la dirección en consecuencia, noté que mi esposa estaba bastante callada de camino a casa. La miré y le pregunté qué pasaba, y respondió: «Nada, estoy bien», momento en que supe que estaba en problemas.
Pero, claro, eso no fue lo que dijo. Dijo que estaba «bien» y una computadora, sin contexto, la tomaría al pie de la letra. El contexto lo es todo, ya sea al tratar con tanques o, especialmente, con una pareja malhumorada.
A veces el contexto es sencillo, como en el sistema que Google implementó hace un par de años: comprueba si escribes la palabra «adjunto» en un correo electrónico y luego verifica si realmente has añadido un archivo adjunto, y te avisa si no has hecho ambas cosas.
Pero a veces el contexto es más difícil, como cuando escribes «Ian» y dejas que se complete automáticamente, pero termina apareciendo el «Ian» equivocado. Al fin y al cabo, ¿cómo se supone que Gmail va a saber a cuál Ian te referías sin disponer de muchos otros datos basados en el contenido de tu correo y en lo que sabes sobre la persona a quien escribes?
No obstante, las computadoras van mejorando. El autocompletado del iPhone ahora añade «well» sin apóstrofo hasta que detecta, unas palabras más adelante, que querías escribir «we’ll» con apóstrofo; entonces lo cambia. Así que quizá no falte mucho para que también pueda avisarte de que estás enviándole un correo al «Ian» equivocado.
Pero por ahora todavía debemos tener cuidado, porque hasta que las computadoras puedan entender todo el contexto de lo que queremos decir y de lo que hacemos como seres humanos —y no hay garantía de que algún día lo logren—, seguiremos en ese valle inquietante de la computación presuntiva.
Este artículo se publica en colaboración con The Conversation. La publicación no implica que el Foro Económico Mundial respalde estas opiniones.
Para mantenerse al día con la Agenda, suscríbase a nuestro boletín semanal.
Autor: Michael Cowling es profesor titular y responsable de la disciplina de Computación y Aplicaciones Móviles en Central Queensland University.
En esta fotografía de REUTERS/Dado Ruvic, tomada en la ciudad de Zenica, en el centro de Bosnia, varios hombres aparecen en silueta frente a una pantalla de vídeo mientras posan con teléfonos inteligentes Samsung Galaxy S3, Nokia Lumia 820 y iPhone 4 (de derecha a izquierda).
