A medida que las organizaciones aplican cada vez más la inteligencia artificial (IA), deben considerar las preocupaciones éticas y morales como una prioridad estratégica.
Un análisis de PwC propone 9 principios éticos que las organizaciones deben seguir.
Las partes interesadas deben trabajar juntas para identificar las amenazas y cocrear una IA que sea beneficiosa y ética para todas las partes.
Las organizaciones de todo el mundo son cada vez más conscientes de los riesgos que la inteligencia artificial (IA) puede plantear, entre ellos los sesgos y la posible pérdida de empleos debido a la automatización. Al mismo tiempo, la IA aporta numerosos beneficios tangibles para las organizaciones y la sociedad.
Para las organizaciones, esto crea una línea muy delgada entre el posible daño que la IA podría causar y los costos de no adoptar la tecnología. Muchos de los riesgos asociados a la IA tienen implicaciones éticas, pero una orientación clara puede proporcionar a las personas y las organizaciones prácticas y acciones éticas recomendadas
Tres prácticas emergentes pueden ayudar a las organizaciones a desenvolverse en el complejo mundo de los dilemas morales creados por los sistemas autónomos e inteligentes.
1. Introducción de principios éticos para la IA
Los riesgos de la IA siguen aumentando, pero también aumenta el número de organizaciones públicas y privadas que publican principios éticos para orientar el desarrollo y el uso de la IA. De hecho, muchas consideran que este enfoque es la estrategia proactiva de mitigación de riesgos más eficiente. Establecer principios éticos puede ayudar a las organizaciones a proteger los derechos y las libertades individuales, al tiempo que mejoran el bienestar y el bien común. Las organizaciones pueden aplicar estos principios y traducirlos en normas y prácticas, que luego pueden ser gobernadas.
Un número creciente de organizaciones públicas y privadas organizaciones, que van desde empresas tecnológicas hasta instituciones religiosas, han publicado principios éticos para orientar el desarrollo y el uso de la IA, y algunas incluso piden ampliar leyes derivadas de la ciencia ficción. En mayo de 2019, 42 países habían adoptado el primer conjunto de principios éticos de la IA de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), y es probable que más países los sigan.
El panorama de los principios éticos de la IA es amplio, pero existen algunos elementos comunes. A partir de más de 90 conjuntos de principios éticos, que contienen más de 200 principios, los hemos consolidado en nueve principios éticos fundamentales de la IA. El seguimiento de los principios por empresa, tipo de organización, sector y región permite visualizar y captar las preocupaciones en torno a la IA que se reflejan, y cómo varían entre estos grupos. Estos principios pueden traducirse y contextualizarse en normas y prácticas, que luego pueden ser gobernadas.
Estos principios éticos fundamentales de la IA se derivan de los derechos humanos fundamentales reconocidos a nivel mundial, de declaraciones y convenciones o tratados internacionales, así como de un estudio de los códigos de conducta y principios éticos existentes de diversas organizaciones, empresas e iniciativas.
Los nueve principios fundamentales pueden destilarse en principios epistémicos y principios generales, y pueden servir de base para evaluar y medir la validez ética de un sistema de IA. El panorama de estos principios tiene como objetivo comparar y contrastar las prácticas de IA que las organizaciones adoptan actualmente, y luego pueden incorporarse para ayudar a desarrollar soluciones y una cultura de IA alineadas con la ética.
Principios epistémicos constituyen los requisitos previos para investigar la eticidad de la IA y representan las condiciones del conocimiento que permiten a las organizaciones determinar si un sistema de IA es coherente con un principio ético. Incluyen principios sobre interpretabilidad y fiabilidad.
Principios éticos generales de la IA, por su parte, representan principios de comportamiento válidos en muchas aplicaciones culturales y geográficas, y sugieren cómo deben comportarse las soluciones de IA cuando se enfrentan a decisiones o dilemas morales en un ámbito específico de uso. Incluyen principios sobre rendición de cuentas, privacidad de datos y agencia humana.
Distintas industrias y tipos de organizaciones, incluidas las agencias gubernamentales (como el Departamento de Defensa de Estados Unidos), las empresas del sector privado, el ámbito académico, los centros de estudios, las asociaciones y los consorcios, se inclinan por diferentes principios. Si bien todas las organizaciones priorizan la equidad, la seguridad es más común en las industrias que gestionan activos físicos que en las que gestionan activos de información. Sin embargo, la legalidad y el cumplimiento aparecen con más frecuencia en los principios publicados por agencias gubernamentales, asociaciones y consorcios, y aunque todas las organizaciones deben cumplir la ley, pocas reconocen el derecho como principio ético.
2. Contextualización de los principios éticos de la IA
Las diferencias culturales desempeñan un papel crucial en la forma en que deben interpretarse estos principios. Por lo tanto, los principios deben contextualizarse primero para reflejar los valores locales, las normas sociales y los comportamientos de la comunidad en la que operan las soluciones de IA.
Estos "impulsores de comportamiento local" se dividen en dos categorías: la ética de cumplimiento, que se relaciona con las leyes y reglamentos aplicables en una determinada jurisdicción, y la ética más allá del cumplimiento, que se relaciona con las normas sociales y culturales. Durante el proceso de contextualización, los investigadores deben procurar identificar a las partes interesadas, sus valores y las tensiones y conflictos que podrían surgir para ellas por el uso de esa tecnología.
¿Por qué es importante la contextualización? Consideremos la equidad. Se ha debatido mucho sobre las muchas formas en que puede medirse la equidad, con respecto a una persona, una decisión determinada y un contexto dado. Simplemente afirmar que los sistemas deben ser "justos" no proporciona instrucciones sobre el quién, qué, dónde y cómo debe aplicarse esa equidad, y los distintos reguladores tienen opiniones diferentes al respecto. La contextualización exigiría que las partes interesadas clave definieran lo que significa la equidad para ellas.
Por ejemplo, la igualdad de oportunidades en el ámbito de la contratación puede definirse de distintas maneras. En Estados Unidos, la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) exige igualdad de oportunidades con respecto a una tasa de selección (una métrica específica que calcula la proporción de candidatos seleccionados para un puesto) con una tolerancia definida por la "regla de los cuatro quintos". La ley británica contra la discriminación, la Ley de Igualdad del Reino Unido de 2010, ofrece protección contra la discriminación, tanto directa como indirecta, generada por una persona o por un sistema automatizado de toma de decisiones.
3. Vincular los principios éticos de la IA con los derechos humanos y los valores organizativos
Vincular los principios éticos a derechos humanos específicos es fundamental para limitar la ambigüedad regulatoria. Además, incorporar las ideas de derechos humanos como base de las prácticas de IA ayuda a establecer la responsabilidad moral y legal, así como el desarrollo de una IA centrada en las personas y orientada al bien común. Este enfoque se alinea con las directrices éticas para una IA fiable de la Comisión Europea.
También es necesario alinearlos con los valores organizativos, las prácticas existentes de ética empresarial y los objetivos de negocio, a fin de traducir explícitamente las ideas pertinentes en normas concretas que influyan en el diseño y la gobernanza efectivos y den forma al desarrollo y uso de los sistemas de IA. Las organizaciones deben crear marcos de ética de la IA que sean prácticos, con una responsabilidad clara y métodos concretos de seguimiento.
