La inteligencia artificial podría perpetuar el sexismo en nuestro futuro. A menos que lo impidamos

Women communicate with the humanoid robot Pepper during Riga Comm 2017, a business technology and innovation fair in Riga, Latvia November 9, 2017. REUTERS/Ints Kalnins - RC1E49CBBB70
Studies show that AI and machine learning not only reflect contemporary human biases, but amplify themImage: REUTERS/Ints Kalnins
Este contenido ha sido traducido automáticamente con IA.

Dentro de cinco años, quizá vayamos a la oficina en coches autónomos, dejemos que nuestros frigoríficos pidan la compra por nosotros y tengamos robots en las aulas. Sin embargo, según el Informe Global sobre la Brecha de Género 2017, pasarán otros 100 años antes de que mujeres y hombres alcancen la igualdad en salud, educación, economía y política.

Además, la paridad económica está empeorando: harán falta la asombrosa cifra de 217 años para cerrar la brecha de género en el lugar de trabajo.

¿Cómo puede ser que el mundo avance a pasos agigantados en tantos ámbitos, especialmente en tecnología, y, sin embargo, retroceda en materia de igualdad de género?

La situación en los distintos sectores

Empecemos por los hechos. El gráfico de abajo muestra cómo varían las cifras de hombres y mujeres en los distintos sectores, desde la cantera de talento hasta los puestos directivos.

Al mirar este gráfico, hay varias cosas que me llaman la atención.

En primer lugar, empecé mi carrera en uno de los sectores que aparecen al final del gráfico. Formaba parte del 26 % del sector de la energía y la minería. Elegí una carrera en el sector de los servicios públicos y la disfruté muchísimo hasta que, a la temprana edad de 26 años, topé con un techo. El director de operaciones para quien trabajaba me dio un consejo brillante. Me dijo que mi próximo puesto debía ser el suyo, pero, como era poco probable que esa oportunidad se presentara pronto, debía probar suerte en la consultoría y adquirir experiencia internacional.

Por el camino, conocí a muchas mujeres talentosas y ambiciosas que no ascendieron a puestos directivos. Tenemos que cuestionar por qué ocurre esto y por qué la situación está empeorando.

En segundo lugar, cuando pienso en el futuro que se avecina, el reducido número de mujeres en los servicios de software y TI, así como en el sector financiero, no augura nada bueno. Estamos a las puertas de la Era Transformadora, que cambiará de forma fundamental cómo vivimos y trabajamos. La tecnología —y la financiación de proyectos innovadores— desempeñará un papel clave en la configuración de ese futuro.

En una época que reclama soluciones potentes e innovadoras —y que, según las pruebas, se generan mejor con equipos diversos—, debemos avanzar más decididamente hacia la paridad de género y la diversidad en todas sus formas.

Sesgos inconscientes: ¿podría la IA incorporarlos de forma permanente a nuestro futuro?

Se ha demostrado que los sesgos inconscientes son un gran obstáculo para la diversidad en el lugar de trabajo, sobre todo para las mujeres que intentan romper el techo de cristal y acceder a puestos directivos. Para que se produzca un cambio real, este debe venir de arriba.

Hay muchos directores ejecutivos con visión de futuro que combaten activamente los sesgos inconscientes y promueven la diversidad, pero queda mucho por hacer. Ya he escrito sobre cómo reducir los sesgos inconscientes mediante la selección a ciegas, una práctica que EY ha aplicado con gran éxito. Estas prácticas deben generalizarse antes de que sea demasiado tarde.

Con el auge de la inteligencia artificial (IA) y el aprendizaje automático, existe un riesgo real de que «incorporemos» los sesgos predominantes a nuestro futuro.

sin definir

Y digo demasiado tarde porque, con el auge de la inteligencia artificial (IA) y el aprendizaje automático, existe un riesgo real de que «incorporemos» los sesgos predominantes a nuestro futuro.

La IA y el aprendizaje automático se alimentan de enormes volúmenes de datos existentes. Cuando las bases de datos de imágenes asocian a las mujeres con las tareas domésticas y a los hombres con los deportes, los estudios han demostrado que el software de reconocimiento de imágenes no solo reproduce esos sesgos, sino que los amplifica.

El software de reconocimiento de voz ya nos dio una lección al respecto. Hace quince años, cuando la tecnología subyacente de los sistemas para automóviles se entrenaba sin conjuntos de datos diversos, a las mujeres les costaba conseguir que los sistemas funcionaran. A una mujer que llamó al servicio de atención al cliente le dijeron que se diera por vencida y pidiera a su marido que lo configurara. Por suerte, estos sistemas han mejorado muchísimo en los últimos años, pero incluso hoy los sesgos de género siguen siendo un problema.

Los sesgos también son un riesgo que destaca un blog reciente, Cuando el aprendizaje automático sale mal, de Nigel Duffy, responsable de Inteligencia Artificial de Innovación Global de EY, quien escribe: «Los datos de entrenamiento suelen recopilarse de forma sesgada... Usamos los datos que tenemos disponibles, pero ¿son adecuados o simplemente baratos?».

La tecnología como fuerza positiva

La tecnología disruptiva está cambiando la forma en que vivimos y trabajamos. Creo que puede ser una fuerza positiva y que, si se utiliza adecuadamente, podría ayudar a cerrar la brecha de género. Pero solo si evitamos incorporar de forma permanente nuestros sesgos y limitaciones actuales.

Entonces, ¿cómo equilibramos las realidades de nuestro mundo actual con nuestras aspiraciones de mayor igualdad y justicia? A diferencia de los seres humanos, los algoritmos no pueden contrarrestar de manera consciente los sesgos aprendidos. Y, a medida que la IA impregne más aspectos de nuestra vida, habrá más en juego.

Del mismo modo que estamos aprendiendo a combatir los sesgos inconscientes al contratar y ascender a las personas, debemos asegurarnos de no permitir que los sesgos impregnen la tecnología que construirá nuestro futuro compartido. Solo entonces podremos crear un mundo laboral mejor para todos.

Licencia y republicación
Los artículos del Foro Económico Mundial pueden volver a publicarse de acuerdo con la Licencia Pública Internacional Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0, y de acuerdo con nuestras condiciones de uso. Las opiniones expresadas en este artículo son las del autor y no del Foro Económico Mundial.