Los algoritmos de IA no pueden explicar los procesos de pensamiento que hay detrás de sus decisiones, pero si pudieran hacerlo, los humanos podrían aprender de su resolución inteligente de problemas.
Un campo de la IA, denominado aprendizaje por refuerzo, estudia cómo los ordenadores pueden aprender de sus propias experiencias.
Esto es algo que los investigadores esperan traducir en explicaciones de soluciones para los humanos.
El campo de la inteligencia artificial (IA) ha creado ordenadores que pueden conducir automóviles, sintetizar compuestos químicos, plegar proteínas y detectar partículas de alta energía a un nivel sobrehumano.
Sin embargo, estos algoritmos de IA no pueden explicar los procesos de pensamiento que hay detrás de sus decisiones. Un ordenador que domina el plegamiento de proteínas y que además informa a los investigadores sobre las reglas de la biología es mucho más útil que uno que pliega proteínas sin explicación alguna.
Por lo tanto, los investigadores de IA como yo estamos ahora dedicando nuestros esfuerzos a desarrollar algoritmos de IA que puedan explicarse a sí mismos de una manera que los humanos puedan comprender. Si logramos esto, creo que la IA podrá descubrir y enseñar a las personas nuevos hechos sobre el mundo que aún no se han descubierto, lo que dará lugar a nuevas innovaciones.
Aprender de la experiencia
Un campo de la IA, denominado aprendizaje por refuerzo, estudia cómo los ordenadores pueden aprender de sus propias experiencias. En el aprendizaje por refuerzo, una IA explora el mundo y recibe retroalimentación positiva o negativa en función de sus acciones.
Este enfoque ha dado lugar a algoritmos que han aprendido de forma independiente a jugar al ajedrez a un nivel sobrehumano y demostrar teoremas matemáticos sin ninguna guía humana. En mi trabajo como investigador de IA, utilizo el aprendizaje por refuerzo para crear algoritmos de IA que aprenden a resolver rompecabezas como el cubo de Rubik.
Mediante el aprendizaje por refuerzo, las IA están aprendiendo de forma independiente a resolver problemas que incluso a los humanos les cuesta descifrar. Esto ha hecho que yo y otros muchos investigadores pensemos menos en lo que la IA puede aprender y más en lo que los humanos pueden aprender de la IA. Un ordenador que puede resolver el cubo de Rubik también debería poder enseñar a las personas a resolverlo.
Mirando dentro de la caja negra
Por desgracia, las mentes de las IA sobrehumanas están actualmente fuera de nuestro alcance. Las IA son pésimos profesores y son lo que en el mundo de la informática llamamos “cajas negras.”
Una IA de caja negra simplemente escupe soluciones sin dar razones para ellas. Los científicos informáticos llevan años intentando abrir esta caja negra, y las investigaciones recientes han demostrado que muchos algoritmos de IA piensan, en realidad, de forma similar a los humanos. Por ejemplo, un ordenador entrenado para reconocer animales aprenderá sobre distintos tipos de ojos y orejas y combinará esta información para identificar correctamente al animal.
El esfuerzo por abrir la caja negra se denomina IA explicable. Mi grupo de investigación del Instituto de IA de la Universidad de Carolina del Sur está interesado en desarrollar IA explicable. Para lograrlo, trabajamos intensamente con el cubo de Rubik.
El cubo de Rubik es básicamente un problema de búsqueda de rutas: encontrar una ruta desde el punto A (un cubo de Rubik desordenado) hasta el punto B (un cubo de Rubik resuelto). Otros problemas de búsqueda de rutas incluyen la navegación, la demostración de teoremas y la síntesis química.
Mi laboratorio ha creado un sitio web en el que cualquier persona puede ver cómo nuestro algoritmo de IA resuelve el cubo de Rubik; sin embargo, a una persona le resultaría muy difícil aprender a resolver el cubo a partir de este sitio web. Esto se debe a que el ordenador no puede explicarte la lógica que hay detrás de sus soluciones.
Las soluciones del cubo de Rubik pueden desglosarse en unos pocos pasos generalizados: el primer paso, por ejemplo, podría ser formar una cruz, mientras que el segundo podría ser colocar las piezas de las esquinas en su lugar. Aunque el propio cubo de Rubik tiene más de 10 elevado a 19 combinaciones posibles, una guía paso a paso generalizada es muy fácil de recordar y es aplicable en muchos escenarios distintos.
Abordar un problema descomponiéndolo en pasos es, con frecuencia, la forma habitual en que las personas se explican las cosas unas a otras. El cubo de Rubik encaja de forma natural en este marco paso a paso, lo que nos brinda la oportunidad de abrir más fácilmente la caja negra de nuestro algoritmo. Crear algoritmos de IA con esta capacidad podría permitir que las personas colaboren con la IA y desglosen una amplia variedad de problemas complejos en pasos fáciles de entender.
La colaboración conduce a la innovación
Nuestro proceso comienza utilizando la propia intuición para definir un plan paso a paso que se cree que podría resolver un problema complejo. A continuación, el algoritmo analiza cada paso individual y ofrece retroalimentación sobre qué pasos son posibles, cuáles son imposibles y las formas en que el plan podría mejorarse. Después, la persona refina el plan inicial utilizando los consejos de la IA, y el proceso se repite hasta que el problema queda resuelto. La esperanza es que la persona y la IA acaben convergiendo en una especie de entendimiento mutuo.
Actualmente, nuestro algoritmo es capaz de considerar un plan humano para resolver el cubo de Rubik, sugerir mejoras al plan, reconocer los planes que no funcionan y encontrar alternativas que sí lo hacen. Al hacerlo, ofrece retroalimentación que conduce a un plan paso a paso para resolver el cubo de Rubik que una persona puede entender. El siguiente paso de nuestro equipo es crear una interfaz intuitiva que permita a nuestro algoritmo enseñar a las personas a resolver el cubo de Rubik. Nuestro objetivo es generalizar este enfoque a una amplia gama de problemas de búsqueda de rutas.
Las personas son intuitivas de una manera que ninguna IA puede igualar, pero las máquinas son mucho mejores en su potencia de cálculo y en su rigor algorítmico. Este ir y venir entre humanos y máquinas aprovecha las fortalezas de ambos. Creo que este tipo de colaboración arrojará luz sobre problemas hasta ahora no resueltos en todo, desde la química hasta las matemáticas, dando lugar a nuevas soluciones, intuiciones e innovaciones que, de otro modo, podrían haber estado fuera de nuestro alcance.
