Los agentes de IA —herramientas que automatizan tareas complejas— están resurgiendo gracias a la llegada de los grandes modelos de lenguaje (LLM).
El desarrollo y la implementación de sistemas de IA más complejos requieren mejores procesos de seguridad y gobernanza.
El Foro Económico Mundial y Capgemini han publicado un nuevo informe técnico, Navegar la frontera de la IA: una introducción a la evolución y el impacto de los agentes de IA, que explora las capacidades y las implicaciones de estos asistentes inteligentes.
El concepto de agentes de inteligencia artificial (IA) surgió en la década de 1990 para describir entidades de software inteligentes que operaban de forma autónoma en nombre de los usuarios y navegaban por entornos como internet, que entonces era bastante sencillo: texto, con algunas imágenes dispersas e hipervínculos. No había motores de búsqueda decentes, así que parecía útil sustituir la navegación humana por agentes de IA que navegaran en nombre de las personas. El estado de la IA era tal que solo se tenía esperanza en estos agentes en entornos simplificados, frente al complejo mundo real de los seres humanos.
Con la llegada de los grandes modelos de lenguaje (LLM) y su capacidad para comprender el lenguaje natural y razonar, ha resurgido el interés por los agentes de IA. Empresas como Salesforce y ServiceNow están empezando a anunciar agentes especializados que representan sus aplicaciones. Por ejemplo, Salesforce utiliza agentes para automatizar la gestión de las relaciones con los clientes (CRM), automatizando tareas, analizando datos y personalizando las interacciones con los clientes. Estos agentes de IA modernos utilizan LLM para comprender y responder en lenguaje natural, y decidir cuándo y cómo invocar herramientas, como la búsqueda web, la ejecución de código, las llamadas a API y los comandos de recuperación de datos.
Procesos de seguridad y gobernanza para los agentes de IA
Dado el papel de un agente, se espera que tenga cierto grado de autonomía al interactuar con el mundo mediante sus herramientas. En algunos casos, como la ejecución de código en un contenedor, las consecuencias pueden controlarse y limitarse. En otros, es necesario aplicar cierto grado de escrutinio y cautela para evitar consecuencias indeseables del comportamiento autónomo de un agente. La opacidad inherente de la red neuronal que constituye el «cerebro» de un agente (es decir, un LLM) complica aún más la situación. Los agentes basados en LLM también son propensos a las alucinaciones o a malinterpretar comunicaciones en lenguaje natural inherentemente ambiguas, por lo que la robustez que ganamos puede ir en detrimento de la coherencia.
Existen varias estrategias de mitigación para reducir estos riesgos, entre ellas, establecer reglas para anular determinadas decisiones de los agentes o solicitar aprobación humana, evaluar la incertidumbre del comportamiento de los agentes y emparejarlos con agentes de protección que supervisen y prevengan posibles daños.
Dada esta necesidad de supervisión, necesitamos un régimen de pruebas distinto para los sistemas basados en agentes, diferente al que estamos acostumbrados en el software tradicional. Sin embargo, la buena noticia es que estamos acostumbrados a probar estos sistemas, pues llevamos gestionando organizaciones y flujos de trabajo dirigidos por personas desde los albores de la industrialización.
El estado actual de los modelos de IA generativa impide que los agentes individuales asuman eficazmente un gran conjunto de instrucciones complejas y realicen demasiadas tareas diversas y complejas. Debido a las restricciones de la ventana de contexto y a las limitaciones de la capacidad de razonamiento de los LLM, a menudo resulta más eficaz distribuir las responsabilidades entre varios agentes de IA conectados y coordinados para llevar a cabo el trabajo.
Así como no asignamos a un solo ingeniero de software la tarea de escribir un sistema CRM plenamente desarrollado, pedirle a un agente de IA que escriba el código de un sistema CRM completo puede ser una tarea descomunal. En cambio, es más probable que un equipo de agentes con distintas responsabilidades —como la gestión de proyectos, la ingeniería de front-end y back-end y el aseguramiento de la calidad— logre completar el trabajo con éxito si colaboran.
El papel de la IA multiagente
El campo de la IA multiagente requiere agentes capaces de comunicarse y coordinarse. Esto puede darse en el contexto de un equipo de agentes, lo que implica colaboración, o entre equipos de agentes con distintos niveles de confianza e incluso enfrentados entre sí.
Un sistema multiagente que represente el software o los diversos flujos de trabajo de una organización puede ofrecer varias ventajas interesantes, como una mayor productividad, resiliencia operativa y robustez, así como la posibilidad de actualizar distintos módulos con mayor rapidez. Las empresas están adoptando rápidamente soluciones de agente único, y los sistemas multiagente parecen ser una evolución futura inevitable y bastante disruptiva.
Los LLM comprenden el lenguaje natural, por lo que contamos desde el primer momento con un protocolo universal para la comunicación entre agentes. Gracias a la flexibilidad del lenguaje natural para expresar intenciones y a la capacidad de los agentes basados en LLM para traducirlas en la forma de invocar sus herramientas, los sistemas de software del futuro serán mucho menos frágiles que los actuales: el agente responsable de una funcionalidad se encarga de traducir la intención en llamadas específicas a la API, por lo que cambiar la API o utilizar otro software con capacidades similares resultará mucho menos engorroso. Esto dará a las organizaciones más flexibilidad para actualizar sus sistemas o recurrir a servicios de terceros.
Cómo ayuda el Foro a los líderes a comprender la IA y colaborar en una innovación responsable
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Promueve un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite que sus socios construyan una comprensión compartida y trabajen juntos en enfoques responsables para la innovación y el uso de la IA.
Si la comunicación y la coordinación entre agentes se llevan a cabo de manera que se garantice la encapsulación de las responsabilidades, las futuras aplicaciones empresariales serán mucho más robustas. Se podrán incorporar nuevas capacidades y funcionalidades a una red de agentes ya existente con poca o ninguna necesidad de rediseñar el sistema actual.
Para ampliar las capacidades de una organización mediante agentes, primero debemos documentar sus procesos, funciones, nodos responsables y las conexiones entre los distintos actores de la organización. Por actores me refiero a las personas o aplicaciones de software que trabajan con el conocimiento dentro de la organización.
Además del conjunto de funciones y responsabilidades definido en lenguaje natural en el prompt del sistema de cada agente, estos pueden incluir o no herramientas que puedan invocar, a las que se les pasan distintos argumentos. Por ejemplo, un agente gestor de productos podría tener que procesar distintos tickets en un tablero kanban virtual, o un agente de alertas podría tener que invocar una herramienta para emitir diversas alertas en un sistema de alertas. Esto significa que la interoperabilidad de los agentes de terceros será una necesidad y que deberán surgir estándares que los distintos agentes tendrán que cumplir para que las organizaciones puedan integrarlos en sus redes de agentes.
Los sistemas multiagente que representan distintas funciones y flujos de trabajo organizativos pueden romper los compartimentos estancos y revelar ineficiencias que se acumulan con el tiempo, frenan a las empresas y reducen su eficiencia. Observar las operaciones de un proceso multiagente puede ayudarnos a remediar estos problemas.
El entramado de las organizaciones del futuro estará compuesto por agentes interconectados; sin embargo, en el futuro previsible y mientras no se produzca un cambio sísmico en la cultura y la sociedad, los seres humanos seguirán siendo los únicos responsables. Esto significa que los sistemas multiagente deben controlarse y diseñarse de modo que las personas sean quienes tengan la última palabra y aprueben los comportamientos de mayor riesgo.
