Desde la automatización hasta el aumento de capacidades y más allá, la inteligencia artificial (IA) ya está cambiando la forma en que se hacen los negocios y abriendo un potencial prácticamente ilimitado para beneficiar a toda la sociedad.
Las empresas de todos los sectores están ansiosas por reclamar su parte del enorme beneficio potencial que supone la IA, lo que la investigación de PwC estima que podría añadir 15,7 billones de dólares a la economía mundial de aquí a 2030.
Las preocupaciones sobre la IA difieren entre los consumidores y los líderes empresariales
Pese a esta promesa, el rápido ritmo y la gran escala de los cambios derivados de sistemas de IA cada vez más inteligentes y de interacciones humano-máquina cada vez más generalizadas también están generando preocupaciones notablemente distintas entre los líderes empresariales y los consumidores.
Los consumidores quieren la comodidad de servicios adaptados a sus necesidades, junto con la tranquilidad de saber que las empresas no discriminan contra ellos y que su gobierno los protegerá mediante leyes que regulen cómo pueden utilizarse sus datos.
Las empresas, por su parte, en muchos casos todavía están explorando las oportunidades que presenta la IA y, al mismo tiempo, informándose sobre los posibles riesgos.
La más reciente Encuesta Global a CEO de PwC revela que los riesgos, así como las oportunidades en torno a la IA, son un foco clave para los altos ejecutivos. El ochenta y cinco por ciento de los CEO coincide en que la IA cambiará significativamente la forma en que hacen negocios en los próximos cinco años. Pero en cuanto a hasta qué punto puede confiarse en la IA, las opiniones no están tan claras. Más de tres cuartas partes de los CEO consideran que la IA es «buena para la sociedad», pero una proporción aún mayor –84 %– coincide en que las decisiones basadas en IA deben ser explicables para poder ser fiables.
El Responsible AI Diagnostic de PwC, publicado recientemente, ha encuestado a unos 250 altos directivos empresariales hasta la fecha, y ha constatado que el nivel de comprensión y aplicación de las prácticas de IA responsable y ética entre los encuestados varía significativamente según la organización y, en la mayoría de los casos, es inmaduro. Los resultados también han puesto de relieve los retos relacionados con el acceso a las competencias necesarias para adoptar prácticas de IA responsable.
Existe una clara necesidad de que los altos directivos revisen las prácticas de IA dentro de sus organizaciones, planteen una serie de preguntas clave y, cuando sea necesario, tomen medidas para abordar una variedad de posibles riesgos de la IA, atendiendo a cualquier área en la que se detecte que los controles o procesos son insuficientes o inadecuados.
Abordar los retos de la IA en cinco dimensiones clave
Junto con los riesgos, el auge de la IA también conlleva retos inherentes en torno a la confianza y la rendición de cuentas. Para afrontarlos eficazmente, las organizaciones deben tanto comprender los retos y riesgos de la IA como tenerlos plenamente en cuenta en su diseño e implantación.
PwC ha desarrollado un Responsible AI Toolkit integral para ayudar a las organizaciones a abordar cinco dimensiones clave al diseñar e implantar aplicaciones de IA responsable:
1. Gobernanza
La base de la IA responsable es una gobernanza empresarial de extremo a extremo. En su nivel más alto, la gobernanza de la IA debe permitir a una organización responder a preguntas críticas sobre los resultados y la toma de decisiones de las aplicaciones de IA, entre ellas:
● ¿Quién es responsable?
● ¿Cómo se alinea la IA con la estrategia empresarial?
● ¿Qué procesos podrían modificarse para mejorar los resultados?
● ¿Qué controles deben establecerse para hacer un seguimiento del rendimiento e identificar problemas?
● ¿Son los resultados coherentes y reproducibles?
La capacidad de responder a estas preguntas y de reaccionar ante los resultados de un sistema de IA requiere una forma de gobernanza más flexible y adaptable de la que muchas organizaciones pueden estar acostumbradas.
2. Ética y regulación
Las organizaciones deben esforzarse por desarrollar, implantar y utilizar soluciones de IA que sean moralmente responsables y también legal y éticamente defendibles. En los últimos años se han publicado más de 70 documentos que describen los principios éticos pertinentes para la IA.
Aunque es difícil cuestionar los principios éticos, las empresas encuentran difícil traducirlos en acciones concretas que influyan en las decisiones cotidianas. Para que los principios sean prácticos, deben contextualizarse en directrices específicas para el personal de primera línea. Esto implica contextualizar las consideraciones éticas de cada solución de IA, identificando y mitigando los riesgos éticos.
3. Interpretabilidad y explicabilidad
Llegado el momento, cualquier empresa que utilice IA tendrá que explicar a diversas partes interesadas por qué un modelo de IA concreto llegó a una determinada decisión; estas explicaciones deben adaptarse a las distintas partes interesadas, incluidos los reguladores, los científicos de datos, los patrocinadores empresariales y los consumidores.
La falta de interpretabilidad de las decisiones de la IA no solo resulta frustrante para los usuarios finales o los clientes, sino que también puede exponer a una organización a riesgos operativos, reputacionales y financieros. Para infundir confianza en los sistemas de IA, es necesario permitir a las personas mirar «bajo el capó» de sus modelos subyacentes, explorar los datos utilizados para entrenarlos, exponer el razonamiento detrás de cada decisión y ofrecer explicaciones coherentes a todas las partes interesadas de manera oportuna.
4. Robustez y seguridad
Para ser eficaces y fiables, los sistemas de IA deben ser resilientes, seguros y protegidos. En cuanto a la resiliencia, es probable que los sistemas de IA de nueva generación sean cada vez más «autoconscientes», con una capacidad integrada para detectar y corregir fallos y decisiones inexactas o poco éticas.
En cuanto a la seguridad, los resultados potencialmente catastróficos de que los datos o sistemas de IA sean comprometidos o «secuestrados» hacen imprescindible incorporar la seguridad al proceso de desarrollo de la IA desde el principio, asegurándose de abarcar todos los sistemas, datos y comunicaciones de IA. Por ejemplo, si la imagen de una señal de «Stop» se manipula para que se interprete erróneamente como una señal de «30 mph», ello podría dar lugar a una situación desastrosa para un vehículo autónomo.
Sobre todo, los sistemas de IA deben ser seguros para las personas cuyas vidas afectan, ya sean usuarios de la IA o sujetos de decisiones habilitadas por ella.
5. Sesgo y equidad
El sesgo se identifica a menudo como uno de los mayores riesgos asociados a la IA. Pero eliminar el sesgo es una tarea más compleja de lo que puede parecer.
El debate público sobre el sesgo en la IA suele atribuir la culpa al propio algoritmo, sin tener en cuenta el componente humano. Y las personas perciben el sesgo a través de la lente subjetiva de la equidad, una construcción social con fuertes matices locales y numerosas definiciones diferentes e incluso contradictorias.
De hecho, es imposible que cada decisión sea justa para todas las partes, intervenga o no la IA. Pero sí es posible ajustar los sistemas de IA para mitigar el sesgo y permitir decisiones lo más justas posible que se ajusten al código ético corporativo de una organización, además de cumplir con la normativa antidiscriminatoria.
Una cosa es segura: para que cualquier organización pueda cumplir la promesa completa de la IA, debe asegurarse de que su uso de la IA sea responsable, abordando las dimensiones descritas anteriormente.
Dicho de forma sencilla, si la IA no es responsable, no es verdaderamente inteligente. Las organizaciones deben tener esto presente al planificar y construir su futuro habilitado por la IA.
Para saber más, consulte el Responsible AI Diagnostic gratuito de PwC o consulte nuestro sitio web de IA responsable.
