Un equipo de investigadores trabaja para generar confianza entre las personas y la inteligencia artificial (IA) mediante la creación de un «intérprete» que pueda explicar cómo llegó una IA a la respuesta de una pregunta concreta.
En una época de coches autónomos y drones automatizados, la IA ocupa un lugar cada vez más importante en nuestras vidas. También se vuelve cada vez más sofisticada. Hoy, la IA puede reconocer texto, distinguir a las personas por sus rostros e incluso identificar objetos físicos, hasta cierto punto. Sin embargo, hasta los mejores sistemas de IA se equivocan con frecuencia.
Eso plantea un gran problema, afirma Kate Saenko, profesora adjunta de informática en la Universidad de Boston.
«Si una herramienta de IA comete errores, los usuarios humanos aprenden rápidamente a restarle valor y, con el tiempo, dejan de usarla por completo», afirma. «Creo que, por naturaleza, las personas no suelen aceptar sin más lo que les dice una máquina».
Añade que otro factor que complica las cosas es que, a medida que la IA se vuelve más potente, los algoritmos que la impulsan resultan cada vez más opacos para los usuarios. La información entra por un extremo de una «caja negra» computacional y por el otro sale una respuesta; sin embargo, quedan ocultos el conjunto de reglas y el razonamiento usados para encontrarla.
Saenko trabaja para cambiar esa relación. Su investigación busca descubrir nuevas formas de adentrarse en la «mente» de la IA y crear una herramienta de traducción que explique a los usuarios humanos su proceso de toma de decisiones.
A primera vista, ese objetivo puede parecer trivial. ¿A quién le importa cómo llegó una computadora a una respuesta, siempre que sea correcta? Sin embargo, recibir comentarios sobre por qué un dispositivo de IA toma una decisión determinada podría ayudar, en última instancia, a mejorar su precisión, al dar a las personas la oportunidad de hacer pequeños ajustes, afirma Saenko.
En el proceso, podría aumentar la confianza que las personas depositan en una máquina y convertirla en una mejor colaboradora en tareas complejas. Sin embargo, lograr ese grado de transparencia en la IA actual quizá no sea tan sencillo.
Nuevos tipos de IA
No siempre ha sido difícil asomarse a la mente de la IA. En el pasado, muchos sistemas de inteligencia artificial, como los de reconocimiento facial, utilizaban reglas y pautas definidas de antemano por programadores: reglas para determinar el color de la piel, las formas que componen una nariz y la luz y la sombra. Todos esos conceptos creados por usuarios debían codificarse en la IA desde el principio, para darle un marco con el que realizar su trabajo.
Este método facilita bastante averiguar cómo llegó una máquina a su conclusión: basta con identificar qué reglas preprogramadas utilizó. También limita de manera fundamental las capacidades de la IA. Al fin y al cabo, la vida real es sumamente compleja, y ni siquiera los mejores programadores pueden idear todas las reglas posibles que una computadora podría usar para entender el mundo.
«Por ejemplo, nos resulta muy difícil prever todas las formas posibles que podría tener un perro en cualquier imagen, en cualquier lugar del mundo», afirma Saenko. «Si se dispone de suficiente potencia de procesamiento y datos, sería mejor mostrarle a una computadora un millón de imágenes de perros y dejar que los defina por sí misma».
En los últimos cinco años, más o menos, ese enfoque se ha extendido en el ámbito de la IA. En lugar de trabajar con una sola plantilla, estos nuevos sistemas adoptan un enfoque más iterativo, basado en el funcionamiento de nuestro propio sistema nervioso.
Estos nuevos tipos de IA, llamados «redes neuronales profundas», emplean una enorme cantidad de funciones interconectadas, o nodos, dispuestas en una vasta red. Cada una se encarga de analizar una pequeña cantidad de información y va construyendo sobre el trabajo de los nodos anteriores.
Este proceso incremental, que avanza paso a paso a partir de datos sencillos, es la base de una red neuronal profunda. Hace que la IA sea flexible, rápida y potente: algunos sistemas pueden funcionar con una precisión superior al 95 por ciento. Sin embargo, en los pocos casos en que no es precisa, resulta extremadamente difícil averiguar por qué. No hay definiciones codificadas de antemano a las que recurrir, ya que la red neuronal crea esas pautas generales sobre la marcha.
«La enorme cantidad de parámetros que estos modelos pueden procesar explica por qué han sido buenos en tareas visuales y lingüísticas, como la traducción automática. Eso les permite asimilar muchos datos», afirma Trevor Darrell, colaborador de la Universidad de California en Berkeley. «Pero, como tienen tantos parámetros, es muy difícil extraer e interpretar directamente las estructuras que contienen».
Crear un «intérprete» de IA
Saenko y Darrell trabajan con Zeynep Akata, colega de la Universidad de Ámsterdam, en los Países Bajos, y con Kitware, una empresa de software de código abierto, para encontrar formas de desentrañar las redes neuronales profundas y hacerlas más fáciles de entender.
Según los investigadores, pedirle a una red de este tipo que se explique probablemente reduciría su velocidad y eficiencia. Por eso esperan crear una especie de herramienta de traducción: una segunda red que actúe junto a la primera, interprete sus decisiones en tiempo real y se las comunique a un usuario humano.
«La red neuronal principal simplemente hace su trabajo. Todo su procesamiento está dedicado a resolver la tarea, como encontrar puertas o ventanas en una imagen, por ejemplo», afirma Saenko. «Por eso queremos usar una segunda red neuronal que tenga acceso a ese mecanismo y a los datos de entrada, y que pueda aprender a traducir todo eso a una versión textual que las personas puedan entender».
Saenko afirma que esta traducción es importante porque, cuando una red neuronal profunda comete un error, probablemente se deba a que ha encontrado en los datos un patrón que no coincide del todo con el mundo real. Por ejemplo, si conduce un coche autónomo por una carretera en mal estado, podría detenerse ante una sombra creyendo que es un bache enorme.
Si eso ocurre, una IA «intérprete» podría pedirle al usuario más información en un lenguaje sencillo. «Quiero que pueda decir: “Dejé de conducir porque no estoy segura de si eso es un bache o una sombra, así que dime qué debo hacer aquí”», afirma.
«En el futuro, usaremos la IA como una colaboración entre personas y computadoras. Tenemos que poder comunicarnos con ella, entender sus fortalezas y saber en qué es buena, para que pueda ayudarnos con cosas que no se nos dan tan bien, como revisar un petabyte de video para identificar contenido», afirma Saenko. «Lo veo como la creación de superhumanos. Es una colaboración entre las personas y la IA».
La investigación de Saenko está financiada por una subvención de la Agencia de Proyectos de Investigación Avanzados de Defensa (DARPA).
