La IA generativa no resulta suficientemente aplicable a las situaciones de toma de decisiones.
Mientras que la IA generativa se basa en reconocer correlaciones y patrones en los eventos, la IA causal se fundamenta en una comprensión más profunda de la causa y el efecto que los originan.
Combinar la IA generativa y la IA causal reúne las ventajas del pensamiento rápido y del pensamiento lento, lo que facilita una toma de decisiones a la vez ágil y precisa.
La IA generativa (genAI) ha demostrado un gran potencial y ha generado un notable entusiasmo en el mundo tecnológico durante los últimos 18 meses. En particular, los grandes modelos de lenguaje (LLM) pueden mantener conversaciones similares a las humanas, responder preguntas e incluso crear textos coherentes y creativos, lo que ha llevado a algunos a sostener que han superado de facto la prueba de Turing – un referente de larga trayectoria para evaluar la inteligencia de las máquinas.
Esto ha llevado a muchos a concluir que la humanidad avanza hacia la inteligencia artificial general (AGI) y que la genAI, por sí sola, nos llevará hasta allí. Sin embargo, la falta de éxito de la genAI en los casos de uso empresariales actuales, en particular los relacionados con la toma de decisiones, sugiere que los LLM, aunque impresionantes, no son la bala de plata de la IA. A corto plazo, es necesario adoptar una visión más holística de la IA para los casos de uso empresariales relacionados con la toma de decisiones y, a largo plazo, para el desarrollo de la AGI.
Los LLM funcionan transformando el lenguaje natural en el lenguaje de la probabilidad y utilizándolo para generar resultados. Dada una instrucción (prompt), un LLM producirá la palabra que estadísticamente tiene más probabilidades de aparecer a continuación. El conocimiento se genera de forma probabilística. En cambio, la mayor parte del conocimiento humano se codifica en relaciones causales y no probabilísticas. Tomemos como ejemplo hechos como «los síntomas no causan la enfermedad» y «la ceniza no causa el fuego». Los humanos utilizan estas relaciones causales para razonar sobre el mundo y tomar decisiones. El lenguaje probabilístico que emplean los LLM no tiene noción de causa y efecto.
Por ello, no sorprende que los LLM se queden a menudo cortos cuando se trata de razonar, pensar de forma crítica o demostrar una comprensión genuina. Por estas razones, los LLM encuentran dificultades para desbloquear muchos casos de uso empresariales. Alucinaciones, sesgos, la falta de transparencia y la interpretabilidad limitada hacen que las empresas se muestren reticentes a confiar en los LLM para la toma de decisiones.
El desafío de aplicar los LLM a casos de uso de toma de decisiones pone de manifiesto las razones de la escasa adopción empresarial a corto plazo y las lagunas que surgen al considerar si los LLM, por sí solos, ofrecen una vía hacia la AGI. Los modelos de lenguaje más grandes y más datos de entrenamiento no cerrarán la brecha; la IA necesita capacidades adicionales, entre ellas el razonamiento sobre causa y efecto.
El cerebro humano y el pensamiento del Sistema 2
Una forma útil de pensar de manera holística sobre el panorama de la IA consiste en comparar los enfoques actuales con la forma en que los humanos aprenden, procesan la información y generan resultados. Para entenderlo mejor, podemos establecer comparaciones directas entre las técnicas de IA contemporáneas y el funcionamiento del cerebro humano.
Aunque el cerebro sigue siendo un enigma en muchos sentidos, los investigadores han propuesto marcos que ayudan a explicar sus complejas operaciones. Uno de ellos, presentado por el premio Nobel Daniel Kahneman en su obra Pensar rápido, pensar despacio, guarda paralelismos especialmente convincentes con el estado actual de la IA.
El marco de Kahneman postula que el cerebro humano funciona en dos modos diferenciados: el pensamiento rápido y el pensamiento lento. El pensamiento rápido, o pensamiento del Sistema 1, se caracteriza por procesos rápidos, asociativos e intuitivos que se producen de forma inconsciente. Ante una imagen o una situación familiar, nuestro cerebro responde al instante basándose en experiencias y patrones previos. En cambio, el pensamiento lento (Sistema 2) es un modo consciente, lógico y analítico de procesar la información. Es el pensamiento que empleamos ante problemas complejos o situaciones nuevas que requieren un razonamiento y una deliberación cuidadosos.
Aunque la IA generativa, con su capacidad para procesar grandes volúmenes de datos y generar respuestas similares a las humanas, se asemeja al modo de pensamiento rápido, carece de las capacidades de razonamiento más profundo que caracterizan al pensamiento lento. Si asumimos que la verdadera inteligencia requiere la integración fluida de ambos modos, resulta evidente que las tecnologías de IA actuales son insuficientes. Para salvar esta brecha, se necesita un nuevo enfoque que reproduzca el pensamiento lento, lógico y analítico propio del razonamiento humano.
El ‘por qué’ de la IA causal
La IA causal, un campo emergente centrado en crear máquinas capaces de comprender y razonar sobre relaciones de causa y efecto, es una tecnología que puede empezar a cubrir esa brecha. A diferencia de los enfoques tradicionales de IA, que se basan en correlaciones y patrones, la IA causal pretende descubrir las estructuras causales subyacentes que gobiernan el mundo.
Al aprender información sobre causa y efecto a partir de los datos y utilizarla después para razonar sobre el mundo, la IA causal funciona de una manera mucho más parecida a la forma en que los humanos piensan cuando lo hacen despacio. Permite a la IA ir más allá del reconocimiento de patrones y profundizar en la comprensión del “por qué” que hay detrás de los patrones.
Una de las principales ventajas de la IA causal es que permite la imaginación, o razonamiento contrafactual; es decir, la capacidad de plantear preguntas del tipo “¿qué pasaría si…?” y explorar escenarios alternativos. Se trata de un aspecto crucial de la toma de decisiones humana que la IA actual todavía no posee. Por ejemplo, en la sanidad, un sistema de IA causal podría analizar los datos de los pacientes y generar contrafácticos para predecir cómo habría evolucionado el estado de salud de un paciente si hubiera recibido un tratamiento diferente o si ciertos factores de riesgo no hubieran estado presentes.
La IA causal también puede ayudar a abordar el problema del sesgo en la IA. Al modelar explícitamente las relaciones causales entre variables, la IA causal puede identificar y mitigar las correlaciones y asociaciones espurias que pueden conducir a predicciones sesgadas. Por ejemplo, en el contexto de la evaluación del riesgo de crédito, un sistema de IA causal podría distinguir entre los factores causales reales que influyen en la solvencia y las correlaciones espurias que pueden surgir a causa de sesgos históricos en los datos.
El futuro de la toma de decisiones empresariales
El desafío crítico para la toma de decisiones empresariales consiste en lograr un pensamiento “rápido” asegurando que las acciones propuestas estén fundamentadas y sean óptimas. La integración de la IA generativa con la IA causal facilita un análisis rápido e intuitivo a través de la primera, mientras que garantiza que las decisiones se basen en los conocimientos sólidos y metódicos derivados de la segunda. Con la aplicación de la IA causal, las empresas pueden abordar cualquier desafío de causa y efecto. La confluencia de la IA causal y la genAI ofrece a las empresas la doble ventaja de la velocidad y la precisión, lo que les permite navegar por decisiones complejas con confianza y al ritmo necesario.
Consideremos el escenario en el que un líder del sector minorista busca evaluar los efectos de un ajuste de precios en el volumen de ventas y su consiguiente impacto en la cadena de suministro. Los métodos tradicionales implican un análisis exhaustivo en distintas plataformas y paneles de control. Sin embargo, con el poder combinado de la genAI y la IA causal, ese mismo directivo puede introducir esta consulta en un LLM, que luego aplica modelos causales avanzados de precios y cadena de suministro para ofrecer un análisis esclarecedor. Este enfoque no solo permite conocer las consecuencias directas de acciones pasadas, sino también explorar escenarios futuros, lo que facilita la planificación estratégica y la toma de decisiones.
La colaboración entre la genAI y la IA causal enriquece el proceso de toma de decisiones con la capacidad de realizar consultas y recibir respuestas en lenguaje natural, junto con explicaciones detalladas y comprensibles en formato de texto. Esta integración resulta fundamental para investigar y comprender las relaciones de causa y efecto, lo que dota a las empresas de un marco para estrategias de toma de decisiones fiables, escalables y explicables. Potenciar la genAI con la IA causal anuncia una revolución en la toma de decisiones empresariales, al combinar capacidades analíticas rápidas y una comprensión causal profunda.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de todos los sectores para dar sentido a la rápida evolución de la inteligencia artificial y a sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
La genAI carece de la base necesaria para los casos de uso de toma de decisiones en toda la empresa. Al adoptar el razonamiento causal y su potencial para permitir un pensamiento lógico (lento) en los sistemas de IA, el número de casos de uso a los que las empresas pueden aplicar la IA aumentará de forma significativa. Aunque la AGI necesitará algo más que esto, la IA causal es un paso en la dirección correcta.
