La inteligencia artificial (IA) puede producir resultados sesgados, ya que sus algoritmos se basan en decisiones de diseño tomadas por personas que rara vez son neutrales en cuanto a valores.
Sin embargo, esto no debería disuadir a nadie, pues reconocer que la IA tiende a perpetuar las desigualdades puede darnos ventaja en la lucha por la equidad.
Al analizar las características comunes de los resultados inequitativos y volver a incluir información sensible en los conjuntos de datos, podemos ayudar a abordar el sesgo de la IA.
El hecho de que la inteligencia artificial (IA) pueda producir resultados sesgados no debería sorprendernos. Sus algoritmos se basan en decisiones de diseño tomadas por personas que rara vez son neutrales en cuanto a valores.
También pedimos a los algoritmos que produzcan resultados que repliquen patrones de toma de decisiones del pasado, en los que también pueden influir nuestras ideas preconcebidas. Pero ¿y si no queremos que el futuro se parezca al pasado, sobre todo cuando está en juego la equidad?
La mera posibilidad de que el uso de la IA conduzca a resultados injustos no debería obligarnos a renunciar a ella ni a ponerla en pausa, como han sugerido varios tecnólogos destacados. Todo lo contrario.
Reconocer que la IA tiende a perpetuar las desigualdades puede darnos ventaja en la lucha por la equidad. A fin de cuentas, sin duda sería más fácil mitigar los sesgos de la IA que remediar los que perpetúan las personas.
Esto se debe a que la falta de equidad en la IA puede sistematizarse y cuantificarse de una manera que la hace más transparente que la toma de decisiones humana, a menudo plagada de prejuicios inconscientes y mitos.
La IA no crea sesgos. Más bien, actúa como un espejo que pone de manifiesto ejemplos de ellos, y es más fácil detener algo que se puede ver y medir.
La equidad de la IA debe ser una prioridad
Pero primero debemos mirarnos en ese espejo. Los gobiernos y las empresas deben dar prioridad a la equidad de la IA, ya que los algoritmos influyen en decisiones que abarcan desde el empleo y los préstamos hasta la atención sanitaria.
Actualmente, Estados Unidos y la Unión Europea impulsan iniciativas para limitar el aumento de los casos de sesgo en la inteligencia artificial mediante la supervisión de la Comisión para la Igualdad de Oportunidades en el Empleo en EE. UU. y la Ley de IA y la Directiva sobre responsabilidad en materia de IA en la UE.
Al principio, la atención debería centrarse en ciertos sectores en los que el sesgo de la IA puede impedir el acceso a servicios esenciales. Algunos ejemplos destacados son el crédito, la atención sanitaria, el empleo, la educación, la propiedad de vivienda, la aplicación de la ley y el control fronterizo. En estos ámbitos, los estereotipos y los prejuicios propagan habitualmente un statu quo inequitativo que puede acortar la esperanza de vida y provocar desempleo, falta de vivienda y pobreza.
El control del sesgo en la inteligencia artificial debe comenzar con pruebas de los resultados de los algoritmos antes de implementarlos. Los errores relacionados con el sesgo de la IA se cometen con mayor frecuencia cuando quienes evalúan los algoritmos se centran en los datos que se introducen en la toma de decisiones, en vez de comprobar si los resultados son equitativos.
En la mayoría de los casos, debido a la complejidad de los modelos de IA y a las vidas de las personas a las que afectan, no siempre podemos anticipar los posibles efectos dispares de las recomendaciones de la IA, que es donde se manifiesta el sesgo.
Para hacerlo de forma fiable, el sector privado o los gobiernos tendrían que crear bases de datos centrales con información sensible como la edad, el género, la raza, la discapacidad, el estado civil, la composición del hogar, la salud y los ingresos, con las que se puedan probar los modelos basados en IA y corregir sus sesgos.
Estos conjuntos de datos sobre la «equidad de la IA» permitirían a los empleadores comprobar si los requisitos de elegibilidad para un puesto presentan sesgos antes de aplicarlos, y a las universidades analizar de forma proactiva si las recomendaciones de la IA se ven influidas por la situación económica, el género, la raza o la discapacidad de quien solicita la admisión.
Los datos no siempre son neutrales
Hasta hace poco, muchos pensaban que la solución para eliminar los sesgos consistía en borrar por completo de los algoritmos los identificadores de género y origen étnico. Si el algoritmo desconocía la raza o el género de los candidatos, las decisiones no se tomarían en función de esos datos. Esa suposición resultó ser errónea: en numerosos casos, los algoritmos seguían pudiendo determinar la raza y el género de los candidatos a partir de datos anonimizados.
Tomemos el caso de los préstamos. Aunque se eliminen el género y la raza, la inteligencia artificial seguirá favoreciendo a los hombres blancos, que estadísticamente tienen historiales de ingresos más estables y más activos; estas diferencias son, a su vez, consecuencia de prácticas laborales injustas.
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
Como un algoritmo crediticio intenta replicar los patrones de concesión de préstamos del pasado, denegará préstamos de forma desproporcionada a quienes no sean hombres blancos, ya que subestima su probabilidad de devolver los préstamos basándose en resultados sesgados anteriores y en una menor cantidad de datos.
Otro ejemplo: los bancos también utilizan la disposición a facilitar un número de teléfono móvil como indicador de que quienes reciben préstamos devolverán la deuda. Dado que, estadísticamente, las mujeres son más reacias a facilitar sus números de teléfono móvil, parten de inmediato en desventaja frente a los hombres que solicitan préstamos.
La precisión de la IA también importa
También hay que comprobar la precisión de los resultados; su falta puede sesgarlos. Por ejemplo, en el caso de la IA generativa, como ChatGPT, actualmente no observamos ni exigimos un nivel de precisión y veracidad en los resultados, lo que abre otra vía para que se propague el sesgo de la IA. La IA conversacional no puede comprobar la veracidad de los datos de entrada y simplemente imita patrones, sean deseables o no.
Si analizamos las características comunes de los resultados inequitativos volviendo a incluir información sensible en los conjuntos de datos, podremos abordar el sesgo de la IA con mayor eficacia. Pero eso implicará usar la inteligencia artificial para detectar sus propias deficiencias en materia de equidad.
