La inteligencia artificial (IA) ofrece cada vez más recomendaciones a quienes toman decisiones.
Por tanto, debemos asegurarnos de que podemos confiar no solo en la IA, sino también en todo su ecosistema.
El concepto de equidad en sí es flexible y requiere una consulta con múltiples partes interesadas.
Los seres humanos tienen muchos tipos de sesgos, entre ellos los de confirmación, anclaje y género. Tales sesgos pueden llevar a las personas a comportarse de forma injusta y, por ello, como sociedad intentamos mitigarlos.
Esto es especialmente importante cuando las personas deben tomar decisiones de alto riesgo que afectan a otros. Lo hacemos mediante una combinación de educación, directrices de conducta y regulación.
Ahora que la inteligencia artificial (IA) ofrece cada vez más recomendaciones a quienes toman decisiones, es importante asegurarse de que, como tecnología, no esté sesgada y respete así el valor de la equidad.
De hecho, las iniciativas que buscan que la IA sea lo más beneficiosa posible (relacionadas con la ética de la IA) incluyen la equidad en la IA como uno de los principales temas de debate y trabajo concreto.
Es momento de identificar y proponer una visión más integral de la equidad en la IA, que abarque todas sus dimensiones y aproveche su interrelación
Raja Chatila
Ejemplos de ello abundan y van desde las Directrices éticas para una IA fiable del Grupo de Expertos de Alto Nivel sobre IA de la Comisión Europea hasta el foco del Consejo Global del Futuro sobre IA para la Humanidad del Foro Económico Mundial.
Aunque la equidad en la IA es un foco principal desde hace varios años para empresas, gobiernos, organizaciones de la sociedad civil e iniciativas con múltiples partes interesadas, con el tiempo hemos visto una gran variedad de enfoques distintos. Cada uno de ellos se ha centrado en uno o varios aspectos de la equidad en la IA.
Pero ahora es momento de identificar y proponer una visión más integral, que abarque todas las dimensiones de la equidad en la IA y aproveche su interrelación, con el objetivo de construir el marco, las técnicas y las políticas más eficaces.
Sin embargo, aquí está el punto clave: como los sistemas de IA son creados por personas, que recopilan los datos de entrenamiento y prueba y toman las decisiones de desarrollo, pueden incorporar sesgos, de forma consciente o no. Esto, a su vez, puede llevar al despliegue de sistemas de IA que reflejen y amplifiquen dichos sesgos, dando lugar a decisiones o recomendaciones sistemáticamente injustas para determinadas categorías de personas.
Las herramientas para mejorar la explicabilidad de los modelos de IA permiten identificar las razones de las decisiones de la IA y, por ello, pueden ser útiles para detectar sesgos.
Francesca Rossi
Ya existen varias herramientas técnicas que pueden ayudar: detectan y mitigan los sesgos de la IA en diversos tipos de datos (texto, audio, vídeo, imágenes y datos estructurados). De hecho, los sesgos existentes en la sociedad pueden incrustarse en los sistemas de IA, y las correlaciones no deseadas entre algunas características (como el género y la aceptabilidad de un préstamo) pueden mitigarse detectándolas y evitándolas.
Las herramientas para mejorar la explicabilidad de los modelos de IA permiten identificar las razones de las decisiones de la IA y, por ello, también pueden ser útiles para identificar sesgos en los datos o modelos de IA. Sin embargo, los aspectos técnicos y las soluciones a los sesgos de la IA constituyen solo una dimensión, y posiblemente la más sencilla, para lograr la equidad en la IA.
Más allá de los aspectos técnicos
Lograr la equidad en la IA no es solo un problema técnico; también requiere estructuras de gobernanza para identificar, implementar y adoptar herramientas adecuadas que detecten y mitiguen los sesgos en la recopilación y el procesamiento de datos, por un lado, y marcos que definan la supervisión necesaria y adecuada para cada caso de uso específico, por otro.
No olvidemos tampoco que el concepto de equidad depende del contexto y debe definirse según escenarios de aplicación específicos. La definición correcta solo puede determinarse mediante una consulta con múltiples partes interesadas, en la que quienes crean y despliegan sistemas de IA los analicen con los usuarios y las comunidades pertinentes, para identificar la noción de equidad relevante.
'Nadie me enseñó que tenía sesgos'
Otra dimensión de la equidad en la IA se relaciona con la educación. Dado que los sesgos humanos son en su mayoría inconscientes, cualquier camino hacia la equidad en la IA parte necesariamente de la sensibilización (educación). Los desarrolladores de IA deben tomar conciencia de sus sesgos y de cómo podrían incorporarlos a los sistemas de IA durante el proceso de desarrollo.
Pero educar a los desarrolladores no basta: todo el entorno que los rodea debe ser consciente de los posibles sesgos y aprender a detectarlos y mitigarlos. Hay que construir una cultura de equidad. Dentro de ello, los directivos deben entender cómo formar equipos de desarrolladores diversos y definir incentivos para la detección y mitigación de sesgos en la IA.
Los ejecutivos y los responsables de la toma de decisiones necesitan ayuda para comprender los problemas de sesgo de la IA y su posible impacto en los clientes, en las comunidades afectadas y en su propia empresa.
Esta formación debe complementarse con metodologías adecuadas, que no solo deben adoptarse, sino también aplicarse y facilitarse. Para lograrlo, las empresas deben definir el marco de gobernanza interna más adecuado para sus modelos de negocio y ámbitos de despliegue.
Más allá de los propios sistemas
Los sistemas de IA no solo deben ser justos y actuar con cautela al amplificar los sesgos humanos, sino que también deben asegurarse de no ser una fuente de desigualdad entre grupos o comunidades.
De ello se deduce que la diversidad y la inclusión dentro de las sociedades son otra dimensión de la equidad en la IA, que se refiere al impacto del uso de la IA en un contexto social específico. Lejos de aumentar la desigualdad, la tecnología debería mejorar la accesibilidad y reducir la brecha digital en diversos ejes, como el género, la discapacidad, la geografía y la etnia.
La equidad también tiene una dimensión global y debe promoverse de manera equitativa entre las distintas regiones del mundo, teniendo en cuenta las particularidades de cada región.
Otra dimensión importante de la equidad en la IA tiene que ver con cómo definir normas adecuadas y compartidas que garanticen que la IA concreta que se despliega y utiliza sea justa. Los productores de IA deben desempeñar su papel definiendo y aplicando principios internos, directrices, metodologías y marcos de gobernanza que garanticen que la IA que producen sea justa, robusta, explicable, precisa y transparente.
Sin embargo, no hay razón para que otras instituciones no contribuyan también a cocrear marcos para la IA: hablamos de directrices, mejores prácticas, estándares, auditorías, certificaciones, regulaciones y leyes. Al fin y al cabo, se requiere una combinación cuidadosa de estos mecanismos, definidos mediante una consulta con múltiples partes interesadas, para encuadrar correctamente la equidad de la tecnología de IA utilizada y su impacto en la sociedad.
El ámbito de la equidad en la IA es, por tanto, amplio y complejo. Todas las partes interesadas en la IA deberían dedicar tiempo y recursos a desempeñar su papel en la porción de este ámbito que les corresponde.
La motivación principal es clara: garantizar que la tecnología respete y apoye los valores humanos y evitar que se pongan en peligro. Sin embargo, también hay otras motivaciones para los creadores de IA. De hecho, abordar la equidad en la IA es un imperativo tanto económico como social.
Las empresas que despliegan IA u otras tecnologías, pero que no pueden ser consideradas fiables para defender los valores aquí analizados, tendrán dificultades para que sus productos se adopten ampliamente.
