Mala Anand, autora de este artículo de opinión, es presidenta de Soluciones Empresariales Inteligentes e Industrias en SAP.
La creciente preocupación por cómo los sistemas de IA pueden incorporar juicios éticos y valores morales está planteando las preguntas adecuadas. Sin embargo, con demasiada frecuencia, la respuesta parece ser culpar a la tecnología o a los tecnólogos.
Delegar la responsabilidad no es la solución.
Crear aplicaciones de IA éticas y eficaces requiere la implicación de toda la alta dirección. Acertar en este punto es, a la vez, una cuestión empresarial crítica y una declaración de valores que exige el liderazgo del CEO.
Las preocupaciones éticas que plantea la IA varían de un sector a otro. Los dilemas asociados a los coches autónomos, por ejemplo, no tienen nada que ver con el problema del sesgo en el reconocimiento facial ni con las preocupaciones sobre la privacidad vinculadas a las nuevas aplicaciones de marketing. Aun así, comparten un problema: incluso el algoritmo mejor diseñado toma decisiones basadas en datos de entrada que reflejan la visión del mundo de sus creadores.
La IA y sus tecnologías afines, el aprendizaje automático y la RPA (automatización robótica de procesos), han llegado para quedarse. Entre 2017 y 2018, una investigación de McKinsey & Company constató que el porcentaje de empresas que incorporan al menos una capacidad de IA en sus procesos de negocio se duplicó con creces. En otro estudio, McKinsey calcula que el valor de desplegar la IA y la analítica en todos los sectores asciende a entre 9,5 billones y 15,4 billones de dólares al año. En nuestro propio trabajo hemos visto cómo líderes de sector tras sector adoptan la tecnología tanto para encontrar nuevas eficiencias en sus negocios actuales como para probar oportunidades con nuevos modelos de negocio.
No hay vuelta atrás.
“Crear aplicaciones de IA éticas y eficaces requiere la implicación de toda la alta dirección.”
undefined
Ante este impulso, se reclama regulación, aunque crear un marco regulatorio coherente en todo el planeta será una tarea ardua. Los reguladores deberán equilibrar la necesidad de atender preocupaciones sociales legítimas con el fomento de la innovación y la productividad, y al mismo tiempo mantener la competitividad en el mercado internacional.
Un reciente documento de EY sostiene que la IA y el aprendizaje automático están superando nuestra capacidad para supervisar su uso, y señala que es arriesgado utilizar la IA sin un marco de gobernanza y ética bien pensado. EY enmarca estas consideraciones como gestión de riesgos, pero en realidad son una guía para generar confianza al desarrollar y desplegar cualquier tecnología emergente.
EY no está sola. Organizaciones como el Foro Económico Mundial, a través de su Centro para la Cuarta Revolución Industrial, el IEEE, AI Now, The Partnership on AI, Future of Life, AI for Good, y DeepMind, entre otras, han creado principios diseñados para maximizar los beneficios de la IA y limitar sus riesgos.
¿Riesgos impredecibles?
En nuestra experiencia, las organizaciones que mejor han gestionado estas cuestiones son las que adoptan una nueva forma de pensar, que reconoce que, aunque las consecuencias pueden ser no intencionadas, no son necesariamente impredecibles.
Dicho de otro modo, no confundamos errores, mal juicio y falta de visión de futuro con consecuencias no intencionadas para eludir responsabilidades. A medida que la tecnología amenaza con adelantarse a los contrapesos de la sociedad, todos los líderes empresariales deben preguntarse por el impacto potencial de sus propias aplicaciones.
Las organizaciones pueden trabajar para garantizar el desarrollo y la aplicación responsables de la IA centrándose en resultados de negocio muy concretos que orienten sus esfuerzos. Diseñar aplicaciones a medida para resultados de negocio bien definidos puede actuar como una barrera de protección para un crecimiento responsable, puede limitar la probabilidad de consecuencias no intencionadas y puede detectar las implicaciones negativas con suficiente antelación como para mitigarlas.
Pero esto solo es cierto cuando los valores de la empresa están claros y la alta dirección trabaja junto con TI para aplicar esos valores a las numerosas decisiones que implica crear una aplicación.
Hemos visto esto en nuestro trabajo con 25 sectores diferentes. Están surgiendo buenas prácticas. Aunque las preocupaciones éticas difieren de una aplicación a otra, el mismo marco puede ayudar. Las organizaciones que se centran en resultados de negocio bien comprendidos están en mejor posición para desarrollar aplicaciones responsables en las que la personalización sea un valor y no una vulneración, donde las fuentes de datos se revisen en busca de sesgos, donde la privacidad de los datos sea un principio rector y donde la transparencia y la eficiencia se valoren por igual.
Cuando las empresas adoptan la IA para resolver una necesidad empresarial concreta —por ejemplo, facturación automatizada, contabilidad general, presupuestación, cumplimiento normativo, compras, logística o atención al cliente—, el impacto es más previsible y manejable que adoptar la IA simplemente por la IA. Como estos resultados son fundamentales para la misión central de la organización y están tan bien comprendidos, es un paso pequeño trasladar los valores de la empresa al proceso de desarrollo.
Aplicaciones empresariales básicas
Supongamos, por ejemplo, que usted fabrica componentes para vehículos. Al combinar dispositivos conectados, analítica predictiva, IA y aprendizaje automático para mejorar el rendimiento del aprendizaje profundo en la fabricación, puede evitar costosas paradas utilizando datos sobre el estado de los equipos de la fábrica. Si tiene una pasión y un valor corporativo central por el servicio al cliente, esto podría merecer consideración en el desarrollo de su aplicación.
“En una reciente encuesta de PwC, el 77% de los CEO afirmó que la IA aumentaría la vulnerabilidad y las disrupciones en su forma de hacer negocios.”
undefined
O bien, supongamos que está desarrollando una aplicación de otro tipo al servicio de un resultado distinto, como identificar patrones de ventas en diferentes regiones para ayudarle a ejecutar campañas más focalizadas. Su estrategia podría incluir dispositivos conectados, analítica, IA y aprendizaje automático integrado. También podría desarrollar una forma de seguir el flujo de materiales con IoT. Con los históricos de ventas por punto de venta, sus auditorías en tienda podrían monitorizarse para comparar el éxito de las campañas. Como resultado, su plan de negocio anual podría estar disponible en cuestión de minutos, y sus informes generados automáticamente eliminarían semanas de preparación manual de datos.
Estos casos pueden parecer modestos en comparación con algunos ejemplos de gran repercusión en las noticias, pero son típicos del tipo de aplicaciones empresariales básicas que vemos desarrollarse en empresa tras empresa. Se definen en torno a un resultado bien comprendido que es, a la vez, central para la misión básica de la empresa y para su sistema de valores. Ambos ejemplos muestran cómo una empresa puede anticipar y evitar consecuencias no intencionadas al centrar la aplicación allí donde ya tiene gran conocimiento, donde los supuestos son transparentes, donde los datos principales son conocidos y fiables y, quizá lo más importante, donde las apuestas son tan altas que la alta dirección debe supervisarla.
Que los CEO reconozcan el riesgo es un buen primer paso. De hecho, en una reciente encuesta de PwC, el 77% de los CEO afirmó que la IA aumentaría la vulnerabilidad y las disrupciones en su forma de hacer negocios.
Y si un llamamiento a los valores no resuena en la alta dirección, sí debería hacerlo el interés propio. Un reciente estudio del Capgemini Research Institute concluye que los clientes y los empleados recompensarán con mayor lealtad, más negocio e incluso la disposición a defender a las organizaciones que practican una IA ética, y castigarán a las que no lo hagan. El estudio confirma que existe tanto un riesgo reputacional como un impacto directo en los resultados para las empresas que no abordan la cuestión con rigor.
En nuestra experiencia en sector tras sector, la IA más responsable se da cuando el liderazgo de la empresa está plenamente comprometido, cuando las aplicaciones se definen mediante resultados de negocio claros y centrales para la misión de la empresa, y cuando TI y el liderazgo colaboran para afrontar juntos los dilemas empresariales y éticos.
