Se espera que la IA transforme la industria manufacturera y las cadenas de suministro, por lo que resulta fundamental para las empresas mantenerse competitivas.
Las preocupaciones en materia de seguridad, protección de datos e incertidumbres regulatorias plantean serios desafíos para la adopción de la IA.
La gestión de la calidad de los sistemas de IA ofrece un enfoque sistemático para evaluar los riesgos y determinar si un sistema de IA cumple los requisitos clave a lo largo de su ciclo de vida.
La inteligencia artificial (IA) se ha consolidado como la piedra angular de un panorama manufacturero reinventado, con un 89 % de directivos de distintos sectores que consideran la IA esencial para alcanzar sus objetivos de crecimiento y que pretenden implementarla en sus operaciones. Sin embargo, las preocupaciones en materia de seguridad, protección de datos, cumplimiento normativo o problemas de rendimiento plantean serios desafíos para la adopción de la IA en la industria manufacturera y las cadenas de suministro. La IA también conlleva riesgos intrínsecos que pueden agravarse si no se consideran cuidadosamente. La falta de procesos estandarizados para certificar productos de IA y evaluar los riesgos al integrar y operar soluciones de IA da lugar a un camino complejo y, con frecuencia, poco claro.
La gestión eficaz de la calidad de los sistemas de IA permite a las organizaciones industriales superar estos desafíos y aprovechar todo el potencial de la IA para lograr una mayor productividad, flexibilidad, sostenibilidad y compromiso de la plantilla, al tiempo que mitigan los riesgos asociados.
¿Qué es la calidad de la IA y por qué es importante?
La calidad siempre ha sido un aspecto clave de las operaciones industriales. El aseguramiento de la calidad, esencial en cada etapa del ciclo de vida de un producto manufacturado, guarda paralelismo con la calidad de la IA, que es un enfoque sistemático para evaluar el grado en que un sistema de IA cumple requisitos específicos a lo largo de su ciclo de vida.
Al evaluar la calidad de un sistema de IA, se tienen en cuenta seis pilares fundamentales:
Seguridad: centrada en el posible daño a personas o bienes.
Ciberseguridad: evaluación de los riesgos de ciberseguridad y de las amenazas específicas de la IA.
Jurídico: garantía del cumplimiento de la normativa y de las obligaciones contractuales.
Ética: alineación del sistema con los valores de la empresa y con los principios éticos que afectan a las partes interesadas.
Rendimiento: confirmación de la eficacia y la precisión del sistema.
Sostenibilidad: examen de si su desarrollo y sus operaciones se han llevado a cabo teniendo en cuenta consideraciones medioambientales.
En conjunto, estos elementos determinan la idoneidad general y el impacto del sistema de IA.
Calidad de la IA en la industria manufacturera: ¿dónde nos encontramos actualmente?
Para comprender las brechas de calidad más comunes al implementar la IA en la industria manufacturera, e identificar colectivamente soluciones para abordarlas que conduzcan a resultados duraderos, exitosos, responsables y sostenibles, el Foro Económico Mundial, en colaboración con TÜV SÜD, llevó a cabo un análisis en profundidad de la calidad de la IA como parte de la Iniciativa de Operaciones Industriales Impulsadas por la IA. El marco de calidad de la IA de TÜV SÜD se utilizó para realizar un «análisis de preparación en calidad de la IA», que consistió en un análisis de riesgos y una evaluación del nivel de madurez, para cinco casos de uso en la industria manufacturera. Tras identificar los pilares de calidad pertinentes, se analizaron 60 características de riesgo, de las cuales se destacaron 21 en función de su frecuencia de aparición y del nivel máximo de riesgo observado.
Las evaluaciones revelaron que el mayor porcentaje de riesgos se encontraba en los pilares de rendimiento y seguridad. Se destacaron criterios de riesgo como la idoneidad funcional, la mantenibilidad y la confidencialidad. Cada característica de riesgo representa una consideración de calidad que, si no se cumple, introduce riesgo en la aplicación del sistema de IA. Por ejemplo, garantizar la idoneidad funcional es fundamental para asegurar que los sistemas de IA cumplan sus objetivos previstos y funcionen de forma eficaz dentro de los contextos designados. Esto no solo es clave para obtener resultados fiables y precisos, sino también para evitar consecuencias no deseadas y mantener la confianza de los usuarios.
El pilar de seguridad registró niveles de riesgo comparativamente más altos debido a la sensibilidad de los datos procesados por algunos de los casos de uso evaluados. No obstante, se constató que los riesgos residuales en todos los pilares estaban, en general, bien gestionados, gracias a estrategias eficaces de mitigación de riesgos —como medidas de seguridad sólidas, una supervisión proactiva y una cultura de concienciación en materia de seguridad—, que redujeron el riesgo máximo a un nivel aceptable.
Los resultados agregados de la evaluación de madurez indican una madurez organizativa bien gestionada en los casos de uso evaluados. Se registraron niveles de madurez altos en dimensiones como el cumplimiento normativo y la estrategia, así como en ciberseguridad, donde las organizaciones aplican políticas y procesos sólidos para gestionar las amenazas de ciberseguridad relacionadas con la IA.
Se identificaron algunas carencias de madurez en las dimensiones de supervisión y gestión de procesos. Las organizaciones mostraron tendencia a pasar por alto ciertos aspectos del ciclo de vida de la IA, en particular a la hora de definir un plan de desmantelamiento sólido. Los enfoques de prueba no siempre tenían en cuenta los riesgos específicos de la IA, como los ataques adversarios. Aunque se adoptaron varias herramientas de prueba en los casos de uso evaluados, no siempre se emplearon de forma sistemática. Es necesario adoptar un enfoque estructurado en materia de pruebas y controles para garantizar la fiabilidad y solidez generales de las aplicaciones de IA y minimizar el impacto de cualquier fallo de la IA.
¿Cómo está creando el Foro Económico Mundial un marco de salvaguardias para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios generar una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
La consulta con nuestra comunidad más amplia de expertos en industria y tecnología permitió identificar soluciones de buenas prácticas para abordar las carencias de madurez detectadas. Entre las consideraciones clave figuran el reciclaje profesional del talento mediante programas de formación y desarrollo, la alineación de la estrategia empresarial con los productos técnicos y la implementación de un sólido sistema de gestión de fallos.
La comunidad también destacó la importancia de considerar la calidad de la IA como un proceso continuo y no como una evaluación puntual. Las evaluaciones periódicas de los sistemas de IA, de sus riesgos asociados y de las estrategias de mitigación de riesgos, así como la documentación y las actualizaciones continuas, son esenciales para garantizar la calidad de los sistemas de IA y deben operacionalizarse como parte de un sólido sistema de gestión de la calidad.
El camino a seguir
Para aprovechar plenamente el potencial de la IA en la industria manufacturera en favor de la productividad, la agilidad, la sostenibilidad y el aumento de las capacidades de la plantilla, y lograr resultados duraderos, es esencial que las organizaciones reconozcan que las soluciones de IA, a diferencia de los sistemas de automatización convencionales, conllevan sus propios riesgos inherentes que requieren una gestión sistemática.
Un enfoque sólido para identificar y evaluar estos riesgos en el desarrollo y despliegue de sistemas de IA permite a los fabricantes integrar eficazmente la IA en sus procesos industriales, para lograr una implementación y un funcionamiento fluidos y eficientes. Esto no solo facilita la adopción de la IA y el cumplimiento de la normativa, sino que también genera confianza en la tecnología de IA. Además, la evaluación y la adaptación continuas ayudan a las organizaciones a mantenerse ágiles y receptivas ante las nuevas oportunidades y desafíos de este campo en rápida evolución.
Con una estrategia holística de calidad de la IA, el potencial transformador de la IA puede aprovecharse de forma responsable y eficaz, generando la próxima oleada de valor para las empresas, los trabajadores, la sociedad y el medio ambiente.
