Los programas de agentes de IA corporativos suelen tener éxito en las fases piloto, pero fracasan a gran escala. El problema rara vez reside en la IA en sí, sino en la falta de coherencia del sistema, lo que subraya la necesidad de una clara responsabilidad interfuncional y de medidas de seguridad operativas prácticas antes de la implementación a gran escala.
Cuando los programas de agentes de IA corporativos se estancan, el patrón es sorprendentemente consistente. Un sistema supera la fase piloto y la revisión de riesgos, solo para desmoronarse una vez que una docena o más de agentes autónomos están funcionando simultáneamente. Las tasas de aprobación varían y nadie puede explicar por qué; las colas de revisión humana se llenan con casos extraños que nadie había previsto.
La IA subyacente no está averiada. Lo que falta es algo más específico que una gobernanza de IA de alto nivel: nadie es responsable de la coherencia de todo el sistema.
La coherencia significa que cientos de decisiones autónomas, tomadas en varios flujos de trabajo en un solo día, son consistentes entre sí, con la política vigente en ese momento y con los datos que cada agente puede ver realmente.
Las industrias consolidadas han dedicado décadas a establecer estándares compartidos para mantener la coherencia de sus registros: los bancos conocen el momento exacto en que se finaliza un pago y las cadenas de suministro dependen de un recuento preciso del inventario. La IA agente aún no cuenta con una disciplina equivalente.
La causa es estructural. Ingeniería se encarga de la latencia, el negocio de la rentabilidad, cumplimiento normativo de las políticas y operaciones de los incidentes. Cada área optimiza dentro de su propio ámbito. La coherencia reside entre esos ámbitos, por lo que se degrada sin que el panel de control de nadie se ponga en rojo.
Por qué escalar los agentes de IA está resultando más difícil de lo esperado.
Los agentes están pasando de proyectos piloto a carteras, y la tensión se está haciendo evidente. Gartner pronostica que Más del 40% de los proyectos de IA agente se cancelarán para finales de 2027. debido al aumento de los costos, la falta de claridad en el valor y los controles de riesgo inadecuados. Encuesta de opinión pública estadounidense de KPMG del primer trimestre de 2026 El 65% de los líderes mencionaron la dificultad para escalar los casos de uso de la IA como una de las principales barreras para demostrar la rentabilidad, frente al 33% del trimestre anterior.
La investigación sobre el fracaso apunta en la misma dirección. Taxonomía de fallos multiagente de la UC Berkeley Un modelo, elaborado a partir de más de 1600 registros de ejecución, atribuye el 41,77 % de los fallos a problemas de especificación, el 36,94 % a desajustes entre agentes, como supuestos contradictorios o información retenida, y el 21,30 % a una verificación deficiente. Los autores dudan que unos mejores modelos base por sí solos sean suficientes para solucionar estas deficiencias.
Los reguladores tampoco están interviniendo para definir esos estándares. La guía interinstitucional de riesgos de modelos de EE. UU. de abril de 2026, SR 26-2 y sitúa la IA generativa y la IA con agentes fuera de su ámbito de aplicación por considerarlas "novedosas y en rápida evolución". Informe de supervisión de FINRA de 2026 Aplica las normas de supervisión y registro existentes a la IA y, por primera vez, identifica a los agentes como un riesgo. Cuando no existe un reglamento que defina un comportamiento coherente, la responsabilidad recae por defecto en la empresa. Foro Económico Mundial Libro blanco sobre gobernanza de agentes Establece el registro de datos, la trazabilidad y el etiquetado de identidad como un requisito básico para todos los agentes.
Cómo los líderes evitan que los agentes de IA se desvíen del camino.
Sin una regulación clara ni control interno, los programas de IA estancados tienden a desmoronarse siguiendo una secuencia predecible. Primero, el comportamiento de un agente cambia inesperadamente, no porque alguien haya reescrito el software, sino porque un modelo subyacente, una regla de aprobación o un formato de datos cambiaron sin que nadie hiciera un seguimiento de cómo afectaba a las decisiones. A continuación, los costes aumentan a medida que los agentes consumen más potencia de cálculo intentando procesar datos reales y complejos. Pronto, las decisiones individuales se vuelven imposibles de reconstruir o explicar. Finalmente, como los resultados reales —como un envío tardío o una queja de un cliente— nunca se incorporan al sistema, los agentes siguen repitiendo los mismos errores. Todos estos problemas superaron las pruebas iniciales, pero cada uno de ellos es un fallo operativo disfrazado de error técnico.
Para evitar esa espiral, las organizaciones deben tomar cuatro medidas prácticas:
Versión de todo lo que rige a un agente. El comportamiento viene determinado por el modelo, las reglas y los datos, pero la mayoría de las empresas solo versionan uno. Registra cada decisión con los tres, para que pueda reproducirse modificando una sola variable. Diseña el sistema para depuración, no para auditoría: los equipos lo usan semanalmente y el departamento de cumplimiento lo obtiene como resultado secundario. Trata los cambios de política como versiones, comparándolos con decisiones anteriores antes de su lanzamiento.
Dale un reloj a la capa de orquestación. Dos agentes en un mismo flujo de trabajo pueden tomar decisiones con minutos de diferencia, basándose en distintas instantáneas del mismo registro de cliente. Ambas decisiones son válidas, no hay errores, y la inconsistencia se manifiesta semanas después como una queja. Defina un umbral de actualización de datos, aplíquelo en la capa de orquestación y detenga y escale el problema cuando se supere. Un error silencioso se convierte en un error grave.
Modelar la capacidad humana antes del lanzamiento. La limitación principal suele ser la capacidad de escalamiento, no la capacidad de procesamiento. Si el 15 % de las decisiones alcanzan el volumen objetivo de escalamiento, se necesita un número específico de personas cualificadas dentro del plazo de servicio. Calcúlelo primero y luego decida: limitar el volumen, endurecer las normas o aumentar la plantilla.
Cierra el círculo. Un agente de compras aprueba un pedido y, tres semanas después, la entrega se retrasa. Este resultado se encuentra en otro sistema sin identificador compartido. Vincular los resultados a los registros de decisiones y permitir su consulta como precedentes no requiere capacitación adicional, solo la infraestructura necesaria. Es lo que permite que un sistema acumule juicios.
Por qué las empresas necesitan un arquitecto de orquestación de IA
Alguien debe garantizar la coherencia entre ingeniería, negocios, cumplimiento normativo y operaciones. Este rol se denomina arquitecto de orquestación. Esta persona no crea agentes ni selecciona marcos de trabajo, sino que es responsable del modelo operativo. La prueba es sencilla: ¿puede una sola persona explicar, sin convocar a un grupo de trabajo, por qué las tasas de aprobación de enero difieren de las de julio?
Este perfil es poco común. Requiere fluidez tanto en el comportamiento de la IA de vanguardia como en las operaciones empresariales; quienes sobresalen en una suelen encontrar la otra intolerable. La opción más fiable es contratar a un operador experimentado que conozca el coste de las decisiones fallidas y profundice sus conocimientos de IA. Otra alternativa es contratar a alguien con experiencia en el sector: una persona con experiencia en la gestión de pagos o en la cadena de suministro puede superar a un especialista en IA acreditado pero sin experiencia operativa previa. La ubicación también es importante: reportar a un director de operaciones (COO), un director de tecnología (CTO) o un cargo equivalente permite que el puesto abarque las cuatro áreas funcionales, en lugar de estar confinado a una sola.
3 preguntas para evaluar la preparación de su empresa en materia de agentes de IA.
Para evaluar rápidamente su nivel actual de exposición, las empresas deberían plantearse tres preguntas: ¿Puede reconstruir el modelo, la regla y el estado de los datos que sustentan una decisión tomada hace 90 días? ¿Cuenta con el personal cualificado suficiente para gestionar el aumento de casos, según el volumen previsto? ¿El resultado de una decisión errónea tomada por su sistema hace seis meses llegó a la lógica que la originó?
Ninguna de estas preguntas es un modelo a seguir, y mejores herramientas no las responderán. Se refieren a si alguien es responsable del sistema en su conjunto, en lugar de solo de un componente. En la mayoría de las empresas actuales, nadie lo es. Cerrar esa brecha a tiempo representa una ventaja duradera.
Las opiniones expresadas son las del autor y no reflejan necesariamente las de las Naciones Unidas.





