La inteligencia artificial ha revolucionado el mundo del trabajo, pero la adopción de la IA en entornos como la industria manufacturera ha sido lenta.
La IA explicable, o XAI, puede ayudar a abordar la «aversión algorítmica» al proporcionar información sobre las decisiones tomadas, generando así confianza.
Adoptar un enfoque de XAI permite que tanto las personas como las máquinas den lo mejor de sí en sectores como la industria manufacturera.
El trabajo es una actividad humana fundamental que actualmente está experimentando una transformación significativa debido a los avances de la inteligencia artificial (IA). Sin embargo, la adopción de la IA en diversos entornos laborales, como la industria manufacturera, ha sido lenta.
Una razón clave es que las personas suelen mostrar reticencia a confiar en algoritmos opacos. Si bien los avances técnicos de la IA están bien documentados y son objeto de mucho revuelo, los factores conductuales obstaculizan eficazmente su adopción a gran escala en la industria manufacturera.
Este artículo sostiene que se necesita un tipo especial de IA para eliminar los obstáculos: la IA explicable (XAI).
¿El fin del trabajo humano?
Existe una narrativa común que sugiere que la IA está a punto de reemplazar el trabajo humano a gran escala. Nuestra investigación en diversos entornos manufactureros y un reciente informe del Foro Económico Mundial sobre la IA en la industria manufacturera rechazan esa visión.
En cambio, la IA tiene el potencial de aumentar la inteligencia humana para resolver tareas laborales de manera más eficaz, al tiempo que enriquece la experiencia laboral. La clave para desbloquear este potencial reside en los algoritmos explicables, que contrastan con los procesos de toma de decisiones, a menudo opacos, de los sistemas de IA convencionales.
A pesar de su promesa, la adopción de la IA en el lugar de trabajo ha sido más lenta de lo que cabría esperar, y esta reticencia se ha debido en parte a dos factores críticos. El primero es «aversión algorítmica», una reticencia por parte de las personas a confiar en sistemas de IA que funcionan como «cajas negras», ofreciendo decisiones sin una justificación clara.
El segundo desafío es que la naturaleza opaca de muchos algoritmos de vanguardia impide que los expertos en la materia comparen las recomendaciones generadas por la IA con el conocimiento del dominio, lo que dificulta identificar y corregir errores. Estos problemas no solo erosionan la confianza en la IA, sino que también limitan el margen para una colaboración eficaz entre personas e IA.
Aquí es donde la IA explicable (XAI) supone un avance significativo. Nuestro recorrido de investigación plurianual en el sector manufacturero nos lleva a una conclusión unificadora: la explicabilidad es el ingrediente que falta y que cataliza la adopción de la IA en la industria manufacturera.
¿Por qué? La IA explicable funciona como un intérprete que salva la brecha entre los complejos procesos algorítmicos y la comprensión humana. Del mismo modo que un intérprete puede hacer accesible información compleja a un profano, la XAI desmitifica la intrincada lógica de los algoritmos complejos.
Al transformar la «caja negra» de la IA en recomendaciones con explicaciones claras, la XAI fomenta una mayor confianza y permite una colaboración más eficaz entre personas e IA. La XAI no solo hace que la IA sea más ética y responsable, sino que nuestra investigación demuestra que también mejora la experiencia laboral y el desempeño profesional.
Si bien la IA tiene la capacidad de analizar conjuntos de datos masivos e identificar patrones muy por encima de la capacidad humana, es la simbiosis entre la experiencia humana y las recomendaciones de la IA lo que realmente desbloquea las ganancias de productividad.
Los expertos con IA explicable (XAI) superan a la IA
Un estudio de caso convincente que ilustra la importancia de la XAI proviene de nuestros experimentos de campo en Siemens. En el estudio, comparamos el desempeño de dos grupos de trabajadores de fábrica en una tarea de inspección visual de calidad de productos electrónicos.
El primer grupo recibió la asistencia de una IA convencional de «caja negra», mientras que el segundo se benefició de una IA que proporcionaba mapas de calor visuales para explicar sus predicciones de posibles problemas de calidad.
Los resultados fueron sorprendentes: los trabajadores expertos sin explicaciones tenían más de tres veces más probabilidades de anular por error las recomendaciones acertadas de la IA. En cambio, quienes contaban con el apoyo de la XAI sabían mejor cuándo confiar en la IA y cuándo recurrir a su propia experiencia, superando así el desempeño del sistema de IA por sí solo.
Esto demuestra que la XAI no se limita a decisiones de máquinas más inteligentes; es un enfoque transformador que permite que tanto las personas como las máquinas den lo mejor de sí.
La XAI no solo resulta beneficiosa para proporcionar apoyo a la toma de decisiones a los operarios de planta; también puede ayudar a comprender sistemas de producción complejos, aportando información crítica a los expertos en fabricación.
En otro proyecto de investigación que llevamos a cabo en una fábrica de semiconductores, dotamos a los expertos en procesos de herramientas de XAI para explicar las causas raíz de los problemas de calidad. Si bien la IA explicó asociaciones complejas entre las variables de producción y los resultados de calidad, se necesitó la experiencia humana para convertir estos conocimientos en acciones de mejora eficaces.
Al cruzar las explicaciones de la IA con su propio conocimiento del dominio, los expertos pudieron diseñar experimentos específicos para confirmar las causas subyacentes de las pérdidas de calidad. ¿El resultado? Las pérdidas de calidad se desplomaron más de un 50 %, lo que demuestra la eficacia de la colaboración entre personas y máquinas con explicaciones basadas en IA.
Un caso convincente a favor de la inteligencia aumentada
Nuestra investigación sugiere con firmeza que el futuro de la industria manufacturera no es una batalla entre personas y máquinas, sino una empresa colaborativa que aprovecha las fortalezas únicas de ambas partes.
Muchas tareas laborales no serán ni podrán ser reemplazadas ni delegadas en una IA. Sin embargo, la IA puede aumentar el trabajo humano y crear tareas más eficaces y eficientes, especialmente cuando las decisiones de la IA se explican.
¿Cómo está creando el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios generar una comprensión compartida y trabajar conjuntamente en enfoques responsables para la innovación y el uso de la IA.
Al desmitificar el «cómo» y el «por qué» de cada recomendación algorítmica, la XAI ayuda a sacar lo mejor de las capacidades humanas para resolver problemas, impulsadas por conocimientos basados en IA.
El debate popular no debería quedarse atrapado en una narrativa de «personas frente a IA», sino explorar las abundantes oportunidades que ofrece la sinergia. Nuestra investigación subraya que las colaboraciones entre la IA y las personas pueden ser especialmente eficaces al resolver problemas que ninguna de las partes podría abordar por sí sola.
Por ello, pedimos un cambio de paradigma: en lugar de «reemplazar» a las personas con la IA, será necesario «aumentar» a las personas. Esto requiere un conjunto de herramientas completamente distinto, y consideramos que una es especialmente pertinente: la XAI.
