A una niña le muestran una imagen con varias formas y le piden que encuentre el círculo rojo grande. Para hallar la respuesta, sigue varios pasos de razonamiento: primero, encuentra todos los objetos grandes; después, los objetos grandes que son rojos; y, por último, el objeto grande y rojo que es un círculo.
Aprendemos a interpretar el mundo mediante el razonamiento. Lo mismo ocurre con las redes neuronales. Ahora, un equipo de investigadores del Grupo de Tecnologías de Inteligencia y Decisión del Laboratorio Lincoln del MIT ha desarrollado una red neuronal que realiza pasos de razonamiento similares a los humanos para responder preguntas sobre el contenido de imágenes. Bautizado como Transparency by Design Network (TbD-net), el modelo representa visualmente su proceso de pensamiento mientras resuelve problemas, lo que permite a los analistas humanos interpretar su proceso de toma de decisiones. El modelo supera a las mejores redes neuronales actuales de razonamiento visual.
Entender cómo una red neuronal llega a sus decisiones ha sido un desafío de larga data para los investigadores de inteligencia artificial (IA). Como su nombre indica, las redes neuronales son sistemas de IA inspirados en el cerebro, concebidos para replicar la forma en que aprenden los seres humanos. Constan de capas de entrada y salida, así como de capas intermedias que transforman la entrada en la salida correcta. Algunas redes neuronales profundas se han vuelto tan complejas que resulta prácticamente imposible seguir este proceso de transformación. Por eso se las llama sistemas de «caja negra»: lo que ocurre en su interior permanece opaco incluso para los ingenieros que las construyen.
Con TbD-net, sus desarrolladores buscan hacer transparentes estos mecanismos internos. La transparencia es importante porque permite a las personas interpretar los resultados de una IA.
Por ejemplo, es importante saber exactamente qué diferencia percibe una red neuronal utilizada en automóviles autónomos entre un peatón y una señal de stop, y en qué punto de su cadena de razonamiento detecta esa diferencia. Estos conocimientos permiten a los investigadores enseñar a la red neuronal a corregir cualquier supuesto incorrecto. Sin embargo, los desarrolladores de TbD-net afirman que las mejores redes neuronales actuales carecen de un mecanismo eficaz que permita a las personas entender su proceso de razonamiento.
«El progreso en la mejora del rendimiento del razonamiento visual se ha producido a costa de la interpretabilidad», afirma Ryan Soklaski, quien creó TbD-net junto con los investigadores Arjun Majumdar, David Mascharka y Philip Tran.
El grupo del Laboratorio Lincoln logró reducir con TbD-net la brecha entre rendimiento e interpretabilidad. Una de las claves de su sistema es un conjunto de «módulos»: pequeñas redes neuronales especializadas en realizar subtareas específicas. Cuando se le plantea a TbD-net una pregunta de razonamiento visual sobre una imagen, la descompone en subtareas y asigna el módulo adecuado para resolver cada una. Como los trabajadores de una cadena de montaje, cada módulo aprovecha lo que ha averiguado el módulo anterior para llegar finalmente a la respuesta correcta. En conjunto, TbD-net utiliza una técnica de IA que interpreta preguntas en lenguaje humano y las divide en subtareas, seguida de varias técnicas de IA de visión artificial que interpretan las imágenes.
Majumdar afirma: «Descomponer una cadena compleja de razonamiento en una serie de problemas más pequeños, cada uno de los cuales puede resolverse y combinarse de forma independiente, es una manera potente e intuitiva de razonar».
La salida de cada módulo se representa visualmente en lo que el grupo denomina «máscara de atención». Esta muestra manchas en forma de mapa de calor sobre los objetos de la imagen que el módulo identifica como respuesta. Estas visualizaciones permiten al analista humano ver cómo interpreta la imagen un módulo.
Por ejemplo, consideremos la siguiente pregunta planteada a TbD-net: «En esta imagen, ¿de qué color es el cubo metálico grande?». Para responderla, el primer módulo localiza únicamente los objetos grandes y genera una máscara de atención en la que aparecen resaltados. El siguiente módulo toma esa salida y determina cuáles de los objetos que el módulo anterior identificó como grandes también son de metal. La salida de ese módulo se envía al siguiente, que identifica cuáles de esos objetos grandes y metálicos también son cubos. Por último, esta salida se envía a un módulo capaz de determinar el color de los objetos. La respuesta final de TbD-net es «rojo», la respuesta correcta a la pregunta.
Al someterlo a pruebas, TbD-net obtuvo resultados que superan los de los modelos de razonamiento visual con mejor rendimiento. Los investigadores evaluaron el modelo con un conjunto de datos de preguntas y respuestas visuales compuesto por 70.000 imágenes de entrenamiento y 700.000 preguntas, además de conjuntos de prueba y validación de 15.000 imágenes y 150.000 preguntas. El modelo inicial alcanzó una precisión del 98,7 % en las pruebas con ese conjunto de datos, lo que, según los investigadores, supera ampliamente otros enfoques basados en redes neuronales de módulos.
Los investigadores pudieron mejorar aún más estos resultados gracias a la principal ventaja de su modelo: la transparencia. Al examinar las máscaras de atención generadas por los módulos, pudieron detectar dónde se producían los errores y perfeccionar el modelo. El resultado final fue un rendimiento puntero, con una precisión del 99,1 %.
«Nuestro modelo proporciona resultados claros e interpretables en cada etapa del proceso de razonamiento visual», afirma Mascharka.
La interpretabilidad es especialmente valiosa si se van a implementar algoritmos de aprendizaje profundo junto a las personas para ayudar a abordar tareas complejas del mundo real. Para generar confianza en estos sistemas, los usuarios deberán poder examinar el proceso de razonamiento y entender por qué y cómo un modelo podría hacer predicciones incorrectas.
Paul Metzger, director del Grupo de Tecnologías de Inteligencia y Decisión, afirma que la investigación «forma parte del trabajo del Laboratorio Lincoln para convertirse en líder mundial en investigación aplicada de aprendizaje automático e inteligencia artificial que promueva la colaboración entre personas y máquinas».
Los detalles de este trabajo se describen en el artículo «Transparency by Design: Closing the Gap Between Performance and Interpretability in Visual Reasoning», presentado este verano en la Conferencia sobre Visión por Computador y Reconocimiento de Patrones (CVPR).
