No solo vivimos en una época en la que las mujeres están infrarrepresentadas en muchos ámbitos de la vida económica, sino que la tecnología podría empeorar aún más la situación. Las mujeres ocupan apenas el 19 % de los puestos en los consejos de administración en Estados Unidos y Europa. Esta brecha de género en los consejos de administración persiste, a pesar de que, en promedio, durante más de dos décadas las mujeres han alcanzado niveles educativos superiores a los de sus homólogos masculinos en muchos países de la OCDE. Y la razón principal es el sesgo social.
La inteligencia artificial está a punto de reforzar aún más esta situación, ya que los datos que se utilizan actualmente para entrenar a las máquinas suelen estar sesgados.
Con la rápida implantación de la IA, estos datos sesgados influirán en las predicciones que hagan las máquinas. Todo conjunto de datos sobre decisiones humanas incluye sesgos de forma natural. Puede tratarse de decisiones de contratación, calificaciones de exámenes de estudiantes, diagnósticos médicos o aprobaciones de préstamos. De hecho, cualquier contenido descrito mediante texto, imágenes o voz requiere procesamiento de información, y este se verá influido por sesgos culturales, de género o raciales.
La IA en acción
El aprendizaje de las máquinas, un subcampo de la IA, consiste en alimentar el ordenador con conjuntos de datos —ya sea en forma de texto, imágenes o voz— y añadir un clasificador a esos datos. Por ejemplo, se podría mostrar al ordenador la imagen de una mujer trabajando en una oficina y etiquetarla como «mujer que trabaja en una oficina».
Con el tiempo y tras procesar muchas imágenes, el ordenador habrá aprendido a reconocer imágenes similares y podrá asociarlas con mujeres que trabajan en una oficina. Con el tiempo y añadiendo algoritmos, el ordenador podrá hacer predicciones para tareas como la preselección de candidatos a un empleo (sustituyendo a las personas que examinan los currículos), la contratación de seguros o la aprobación de préstamos.
El sector financiero está ya muy avanzado en el uso de sistemas de IA. Por ejemplo, los utiliza para evaluar el riesgo crediticio antes de emitir tarjetas de crédito o conceder pequeños préstamos. La tarea consiste en filtrar a los clientes para evitar incluir a quienes probablemente no puedan efectuar los pagos. El uso de datos de clientes cuyas solicitudes fueron rechazadas y su asociación con un conjunto de reglas puede dar lugar fácilmente a sesgos. Una de esas reglas podría ser: «Si el cliente es una mujer soltera, no aceptes su solicitud».
Y eso no es todo. Por ejemplo, la plataforma profesional LinkedIn tuvo un problema: las ofertas de empleo muy bien remuneradas no aparecían con tanta frecuencia en las búsquedas de las mujeres como en las de los hombres debido a la forma en que se habían diseñado sus algoritmos. Los primeros usuarios de la función de búsqueda de empleo del sitio para estos puestos bien remunerados eran mayoritariamente hombres, por lo que esta acabó recomendándoles esos empleos a ellos, reforzando así el sesgo contra las mujeres. Un estudio detectó un problema similar en Google.
Otro estudio muestra cómo las imágenes utilizadas para entrenar programas de reconocimiento de imágenes amplifican los sesgos de género. Se descubrió que dos grandes colecciones de imágenes utilizadas con fines de investigación —una de ellas respaldada por Microsoft y Facebook— mostraban sesgos de género previsibles en fotografías de escenas cotidianas, como el deporte y la cocina. Las imágenes de compras y lavado se asociaban con las mujeres, mientras que las de entrenar y disparar se vinculaban con los hombres. Si un conjunto de fotos suele asociar a las mujeres con las tareas domésticas, el software entrenado con esas fotos y sus etiquetas refuerza aún más esa asociación.
Cómo detectar los sesgos
El entrenamiento de máquinas con datos no plantea problemas mientras no dé lugar a acciones predictivas discriminatorias. Sin embargo, a medida que los datos se utilizan cada vez más para sustituir las decisiones humanas, esto se vuelve problemático. Por tanto, es necesario comprender los sesgos subyacentes de estas cajas negras.
Una forma de detectar sesgos es someter el sistema a pruebas de estrés. Así lo demostró el informático Anupam Datta, quien diseñó un programa para comprobar si la IA mostraba sesgos al contratar a nuevos empleados.
El aprendizaje automático puede utilizarse para preseleccionar candidatos según diversos criterios, como sus habilidades y formación. Esto genera una puntuación que indica la idoneidad del candidato para el puesto. En un programa de selección de candidatos para empresas de mudanzas, el programa de Datta modificó al azar el género y el peso que los solicitantes afirmaban poder levantar en su solicitud. Si no cambiaba el número de mujeres preseleccionadas para las entrevistas, entonces el sexo del solicitante no era lo que determinaba el proceso de contratación.
Como muestra este ejemplo, es posible eliminar los sesgos. Pero hacerlo requiere esfuerzo y dinero, así que no está garantizado que ocurra. De hecho, es más probable que a corto plazo veamos un aumento de los sesgos, ya que la IA los amplifica.
A largo plazo, si la inteligencia artificial lleva a sustituir a las personas por máquinas en algunas situaciones, los mayores niveles de inteligencia emocional de las mujeres serán aún más valiosos. Habrá una mayor necesidad de puestos que requieran comprender el comportamiento humano de maneras que a las máquinas les resultan difíciles. Estos puestos exigirán comprender los contextos sociales, así como empatía y compasión; y es en ellos donde destacarán las personas con mayores niveles de inteligencia emocional. Así, aunque es probable que los sesgos aumenten a corto plazo, a largo plazo la igualdad de género sí tiene posibilidades.
