La inteligencia artificial (IA) está transformando rápidamente la gestión de riesgos y el cumplimiento normativo.
Sin embargo, la IA puede generar nuevos tipos de riesgos para las empresas, como amplificar los sesgos o dar lugar a decisiones opacas.
Se necesitan soluciones integradas de software de auditoría para gestionar los riesgos existentes y potenciales.
La inteligencia artificial (IA) se ha convertido en un imperativo para las empresas de todos los sectores. Más allá de la exageración, la IA está generando valor empresarial y, como resultado, se está adoptando rápidamente en todo el mundo. El año pasado, la McKinsey Global Survey informó de “un aumento interanual de casi el 25 por ciento en el uso de la IA en los procesos empresariales estándar”. El poder transformador de la IA ya está afectando a diversas funciones, como el servicio al cliente, la gestión de marca, las operaciones, las personas y la cultura y, más recientemente, la gestión de riesgos y el cumplimiento normativo.
Este último avance no debería sorprender a nadie. En esencia, la gestión de riesgos se refiere a la capacidad de una empresa para identificar, monitorizar y mitigar los riesgos potenciales, mientras que los procesos de cumplimiento normativo tienen como objetivo garantizar que la empresa opere dentro de los límites legales, internos y éticos. Se trata de actividades intensivas en información: requieren recopilar, registrar y, sobre todo, procesar una cantidad significativa de datos, por lo que son especialmente adecuadas para el aprendizaje profundo, el paradigma dominante en la IA.
En efecto, esta técnica estadística de clasificación de patrones (que utiliza redes neuronales con múltiples capas) puede aprovecharse de forma eficaz para mejorar las capacidades analíticas en la gestión de riesgos y el cumplimiento normativo.
Los sistemas de IA generan nuevos tipos de riesgos
Sin embargo, la experiencia temprana demuestra que la IA puede generar nuevos tipos de riesgos para las empresas. En la contratación y el crédito, la IA puede amplificar sesgos históricos contra las candidatas y los solicitantes de origen minoritario, mientras que en la atención sanitaria puede dar lugar a decisiones opacas debido a su problema de caja negra, por citar solo algunos ejemplos. Estos riesgos se ven amplificados por la complejidad inherente de los modelos de aprendizaje profundo, que pueden contener cientos de millones de parámetros. Esto anima a las empresas a adquirir soluciones de proveedores externos cuyo funcionamiento interno desconocen en gran medida.
En consecuencia, los directivos se enfrentan a un desafío fundamental: ¿cómo maximizar los beneficios de la IA para las distintas funciones empresariales sin generar problemas de riesgo y cumplimiento normativo insolubles?
Anteriormente, pedimos la introducción de marcos de evaluación de riesgos y beneficios para identificar y mitigar los riesgos de los sistemas de IA. Sin embargo, dichos marcos son altamente contextuales y requieren una elevada experiencia interdisciplinar y una colaboración multilateral. No todas las organizaciones pueden permitirse ese talento ni disponen de los procesos necesarios. Además, es perfectamente razonable suponer que una empresa determinada ha desplegado distintas soluciones de IA para diversos casos de uso, y que cada una requiere un marco diferente. Diseñar y hacer un seguimiento de estos marcos podría convertirse rápidamente en una tarea imposible, incluso para los gestores de riesgos más experimentados. En esta situación, una respuesta intuitiva sería avanzar con cautela y limitar el uso de la IA a aplicaciones de bajo riesgo para evitar posibles infracciones normativas. Pero esto solo puede ser una solución temporal. A largo plazo, sería una estrategia contraproducente, dado el inmenso potencial de la IA para el crecimiento empresarial.
Entonces, ¿cuál es una alternativa sensata?
La necesidad de software de auditoría empresarial para los sistemas de IA
Sostenemos que maximizar los beneficios de las soluciones de IA para las empresas, mientras se mitigan sus riesgos adversos, podría lograrse parcialmente mediante el uso de software de auditoría adecuado. Ya existe una gran cantidad de software de auditoría que garantiza que los procesos de las empresas cumplan las normas legales y sectoriales en ámbitos que van desde las finanzas hasta la sanidad.
Lo que se necesita ahora es una solución de auditoría integrada que incluya la gestión de los riesgos relacionados con la IA. Dicha solución debería tener tres funciones principales:
1. Documentar el comportamiento de todas las soluciones de IA utilizadas por una empresa. Esto implica supervisar las soluciones de IA y analizar la distribución de sus características para investigar las dependencias estadísticas. Consideremos el caso de una solución de IA para la contratación: se debería tener una visión clara de qué características (p. ej., la universidad cursada, los años de experiencia, el género, etc.) tienen mayor impacto en las recomendaciones.
2. Evaluar el cumplimiento de un conjunto de requisitos definidos. Una vez que se comprende el resultado de un modelo (es decir, por qué un modelo de contratación realiza una recomendación concreta), es importante evaluar el cumplimiento de determinadas especificaciones, que pueden abarcar desde la legislación (como la Ley de No Discriminación de la UE) hasta las directrices organizativas.
3. Facilitar la colaboración entre departamentos. Este software de auditoría debería facilitar la colaboración multilateral, especialmente entre los gestores de riesgos y los científicos de datos que supervisan las soluciones de IA, proporcionando la información adecuada. Por ejemplo, los gestores de riesgos necesitan explicaciones no técnicas sobre qué requisitos se cumplen o no, mientras que los equipos de ciencia de datos pueden estar más interesados en las características de rendimiento del modelo. Cuando se detecte un incumplimiento, el software de auditoría debería proporcionar a los equipos técnicos recomendaciones sobre las intervenciones adecuadas.
¿Qué está haciendo el Foro Económico Mundial en relación con la Cuarta Revolución Industrial?
El Centro para las Tecnologías de Frontera y la Innovación reúne a científicos, responsables de políticas y líderes empresariales para comprender las tecnologías emergentes y sus implicaciones en el mundo real.
Al facilitar la colaboración y la experimentación, el Centro ayuda a los socios a traducir la innovación procedente de la investigación en aplicaciones prácticas que abordan retos mundiales compartidos.
Desarrollar este tipo de software de auditoría para los sistemas de IA contribuiría en gran medida a abordar los riesgos asociados a la IA. Sin embargo, la IA responsable no puede automatizarse por completo. No existe una lista universal de requisitos que haya que cumplir para mitigar todos los riesgos existentes y potenciales, ya que el contexto y el ámbito sectorial determinarán con frecuencia qué elementos son necesarios. Por consiguiente, los gestores de riesgos y su capacidad de juicio seguirán siendo esenciales. El auge de la IA solo les permitirá centrarse en lo que mejor saben hacer: colaborar con otros colegas de distintos departamentos para diseñar y ejecutar una política sólida de gestión de riesgos.
