• La «inteligencia artificial» actual funciona sobre una base limitada de «el mono ve, el mono hace».
• Hay pocos indicios de que estos sistemas puedan dar el salto a formas superiores de cognición.
• Deberíamos concentrar nuestros esfuerzos en integrar mejor el aprendizaje automático con los operadores humanos.
Uno de los memes populares en la literatura, el cine y el periodismo tecnológico es que la creación del hombre se alzará y lo destruirá. Últimamente, esto ha tomado la forma del temor a que la IA se vuelva omnipotente, se alce y aniquile a la humanidad.
La economía se ha subido al carro de la IA; durante un tiempo, si en su presentación a inversores no aparecía la «IA», podía olvidarse de obtener financiación. (Consejo: si solo usa un servicio de Google para etiquetar algunas imágenes, no está haciendo IA.)
Sin embargo, ¿existe realmente algo que merezca el término IA? Me gustaría subrayar que no, y que nuestra forma de pensar actual se centra demasiado en desarrollar sistemas sin pensar mucho en las personas que los usan, lo que nos priva de los verdaderos beneficios.
Lo que las empresas emplean actualmente en el mundo real son casi exclusivamente motores estadísticos de reconocimiento y replicación de patrones. Básicamente, todos esos sistemas siguen el patrón «el mono ve, el mono hace»: se les alimenta con una cierta cantidad de datos y tratan de imitar, lo más fielmente posible, algún resultado conocido (o fabricado).
Para aportar valor, se les proporciona una entrada del mundo real y se lee el resultado previsto. ¿Qué ocurre si se encuentran con cosas nunca vistas antes? Pues más vale esperar que esas cosas «nuevas» sean suficientemente similares a las anteriores, o su sistema «inteligente» dará respuestas bastante torpes.
Pero no hay ni la más mínima chispa de comprensión, razonamiento o contexto en ellos, sino una simple recreación de cosas vistas antes. Un sistema de reconocimiento de imágenes entrenado para detectar ovejas en una foto no tiene la menor idea de lo que significa realmente «oveja». Sin embargo, estos sistemas se han vuelto tan buenos recreando el resultado que a veces parece que saben lo que hacen.
¿Acaso no basta con eso?, podría preguntar. Pues bien, en algunos casos limitados, sí. Pero no es «inteligente», ya que carece de cualquier capacidad de razonar y necesita usuarios informados que detecten valores atípicos menos evidentes, con posibles efectos perjudiciales posteriores.
La escalera del pensamiento tiene tres peldaños, representados en el gráfico siguiente:
Imitación: Imitas lo que te han mostrado. Para ello no necesitas ninguna comprensión, solo correlaciones. Eres capaz de recordar y replicar el pasado. Los ratones de laboratorio o los actuales sistemas de IA se encuentran en este peldaño.
Intervención: Comprendes las conexiones causales y eres capaz de deducir qué ocurriría si hicieras algo ahora, basándote en lo que aprendiste sobre el mundo en el pasado. Esto requiere un modelo mental de la parte del mundo que quieres influir y de sus dependencias posteriores más relevantes. Eres capaz de imaginar un futuro distinto. En ese peldaño se encuentran los perros y los niños pequeños, así que no es un mal lugar donde estar.
Razonamiento contrafactual: El peldaño más alto, en el que te preguntas qué habría ocurrido si hubieras hecho esto o aquello en el pasado. Esto requiere un modelo completo del mundo y una forma de simularlo en la mente. Eres capaz de imaginar múltiples pasados y futuros. Aquí se encuentran los cuervos, los delfines y los adultos humanos.
Para ascender de un peldaño al siguiente, hay que desarrollar un conjunto de habilidades completamente nuevo. No basta con hacer más grande un sistema de imitación y esperar que de pronto sea capaz de razonar. Y, sin embargo, eso es lo que estamos haciendo con nuestros modelos de aprendizaje profundo, cada vez más grandes: pensamos que, dándoles más capacidad para imitar, en algún momento desarrollarán mágicamente la capacidad de pensar. Aparte de la esperanza autoengañosa y de vender historias bonitas a inversores y periódicos, hay pocos motivos para creerlo.
Y ni siquiera hemos tocado el tema de la complejidad computacional y impacto económico y ecológico de los modelos cada vez más grandes. Es posible que simplemente no podamos hacer crecer nuestros modelos hasta el tamaño necesario, incluso si el método funcionara (cosa que, hasta ahora, no ocurre).
Lo que esos sistemas crean es la mera apariencia de inteligencia y, al perseguir el objetivo de generar inteligencia artificial por imitación, seguimos un culto a la carga.
En cambio, deberíamos asumir que las formas actuales no lograrán una IA real, y dejar de llamarla así. El aprendizaje automático (AA) es un término perfectamente adecuado para una herramienta con capacidades impresionantes en los campos estrechos en los que puede aplicarse. Y, como con cualquier herramienta, no deberíamos intentar convertir todo el mundo en nuestro clavo, sino averiguar dónde usarla y dónde no.
Las máquinas son muy buenas para realizar una tarea de forma rápida y repetida con una incertidumbre mínima. Son la clase dominante del primer peldaño.
Los humanos son buenos en el contexto, la comprensión y en dar sentido a partir de muy pocos datos y con grandes incertidumbres. Son la clase dominante del segundo y el tercer peldaño.
Entonces, ¿y si enfocamos nuestros esfuerzos en dejar de lado la actual obsesión por eliminar el elemento humano de todo y pensamos en combinar ambas fortalezas? Hay un enorme potencial en dar a los sistemas de aprendizaje automático la forma óptima, centrada en las personas, en encontrar la interfaz humano-máquina adecuada, para que ambos puedan brillar. El sistema de AA prepara los datos, realiza algunas tareas automatizables y luego entrega los resultados al humano, que los gestiona según el contexto.
El AA puede convertirse en algo parecido a un buen equipo de apoyo para un director general, una bestia de carga para un agricultor o una buena interfaz de usuario para quien usa una aplicación: empoderador, que ahorra tiempo y reduce errores.
Construir un sistema de AA para una tarea determinada es bastante fácil y lo será cada vez más. Pero encontrar una integración robusta y funcional de los datos y de los resultados preprocesados con quien toma las decisiones (es decir, el humano) es una tarea difícil. Hay un motivo por el que la mayoría de los proyectos de AA fracasan en la fase de adopción o integración en la organización que quiere utilizarlos.
¿Cómo ayuda el Foro a los gobiernos a adoptar la tecnología de IA de forma responsable?
Resolver esto es una tarea creativa: implica comprender el ámbito, diseñar productos y comunicar. En lugar de crecer cada vez más para servir, por ejemplo, anuncios más dirigidos, el verdadero premio está en conectar datos y personas de forma ingeniosa para tomar mejores decisiones y poder resolver problemas más difíciles e importantes.
