Los robots pueden desempeñar un papel positivo para la sociedad, siempre que logremos que dejen de devolvernos nuestros propios sesgos.
Hace poco dirigí un panel de debate sobre tecnologías socialmente disruptivas en la Reunión Anual del Foro Económico Mundial Reunión Anual de los Nuevos Campeones en Dalian, China. Expertos del ámbito académico y de la industria intercambiaron ideas con el público sobre cómo los robots pueden hacer el bien, desde mejorar la salud hasta proteger el medio ambiente.
A medida que los robots mejoran en la comprensión de las necesidades emocionales y sociales de las personas, hay más de unas pocas formas en las que la tecnología de inteligencia artificial puede ayudar a impulsar la participación de las mujeres en la fuerza laboral.
Por qué hombres y mujeres ven anuncios de empleo distintos en internet
Entre las numerosas críticas a las máquinas inteligentes en general, una destacó en particular: la forma en que el algoritmo de recomendación de Google muestra anuncios de empleo. Investigadores de la Universidad Carnegie Mellon descubrieron que el algoritmo era más propenso a recomendar empleos de alto prestigio y bien remunerados a los hombres que a las mujeres.
Los investigadores utilizaron identidades de usuario falsas, sin historial de búsqueda y que solo se diferenciaban en el género, para buscar empleos en línea, y determinaron que Google mostró muchos menos anuncios de empleos ejecutivos bien remunerados a las mujeres que a los hombres: 318 frente a 1852. Al mismo tiempo, una simple búsqueda de imágenes de “CEO” en Google muestra imágenes de hombres, no de mujeres.
Para quienes trabajamos en motores de recomendación, esto supuso una sorpresa y una llamada de atención. Los motores de recomendación, como la función “los usuarios que compraron este libro también compraron estos otros libros” de Amazon, o los resultados de búsqueda de Google, se basan en el comportamiento colectivo de grupos. En este caso, el aprendizaje automático ha aprendido todos los juicios y sesgos que suelen hacer los usuarios humanos. Como un banco que examina el historial crediticio de un cliente y decide en función de predicciones sobre si podrá devolver el préstamo, los motores de recomendación analizan características de los usuarios, incluidos el género y la etnia, e impulsan lo que los algoritmos consideran anuncios más adecuados y con mayor probabilidad de recibir clics.
No obstante, existe una forma sencilla de contrarrestar ese “estereotipo” por parte de las máquinas. Si busca “CEO mujeres” y después busca puestos directivos, el algoritmo devolverá resultados más equitativos, porque su historial de búsqueda también muestra diversidad.
¿Son los algoritmos inherentemente sexistas?
Eso sigue pareciendo trasladar al usuario la carga de combatir el sexismo de las máquinas. Entonces, ¿son los algoritmos de inteligencia artificial inherentemente sexistas porque aprenden tanto de lo bueno como de lo malo del comportamiento humano? ¿Serán las máquinas nuestras aliadas o nuestras adversarias en la lucha por la paridad de género?
Una forma de combatir la discriminación de los motores de recomendación y de impulsar la paridad de género en la fuerza laboral consiste en entrenarlos con una diversidad más amplia de usuarios y lograr que hagan un mejor trabajo al interpretar las intenciones de las personas.
En lugar de fijarse en la edad, el género y algunos otros datos demográficos, los motores pueden entrenarse con métodos de aprendizaje automático más sofisticados para analizar perfiles de usuario más detallados y datos de comportamiento en línea, y así obtener recomendaciones más personalizadas.
Además, la inteligencia artificial, en particular el procesamiento del lenguaje, puede ayudar a poner de manifiesto el sesgo de género inconsciente en la forma en que usamos el lenguaje en el lugar de trabajo. Puede utilizarse para mostrar el sentimiento de los empleados y la cultura corporativa de una empresa. Incluso puede diseñarse para mejorar la diversidad en las búsquedas y las contrataciones.
¿Un “corrector ortográfico” para el lenguaje sexista?
Muchas organizaciones invierten en mejorar la diversidad, mientras que los informes revelan un “dividendo de género”: las organizaciones con mujeres en el consejo o en puestos directivos superiores tienen una retención de personal un 20 % mejor, empleados que trabajan un 12 % más y una rentabilidad que aumenta un 47 %.
Sin embargo, ¿cómo podemos asegurarnos de que nuestra inversión genere retornos sólidos? El análisis de sentimiento, una tecnología que discierne cómo se sienten las personas a partir de las palabras que utilizan, puede ayudar a destacar lo que los empleados realmente piensan de su lugar de trabajo. Si más mujeres que hombres ven de forma negativa el liderazgo y la promoción, la empresa tendrá que prestar más atención a sus políticas de diversidad.
Como informó el New York Times, las estadísticas de lenguaje natural recopiladas por el profesor Benjamin Schmidt mostraron sesgo de género inconsciente en 14 millones de reseñas en línea que los estudiantes hicieron de sus profesores.
Las estadísticas muestran que las personas dan más el beneficio de la duda a los hombres que a las mujeres, y elogian a los hombres por las mismas cualidades por las que critican a las mujeres. Por ejemplo, los profesores varones son respetados como “brillantes”, mientras que las profesoras con la misma cualidad son consideradas “mandonas”.
Esta es una actitud que también prevalece en la percepción de las líderes en el trabajo. En el momento de la evaluación del desempeño o durante un proceso de promoción, sería útil disponer de un software que analice el lenguaje con sesgo de género en las cartas de los evaluadores y que quizá los resalte, del mismo modo que un corrector ortográfico o gramatical resalta posibles errores léxicos o sintácticos. Esto es factible mediante tecnología de análisis de sentimiento entrenada con el tipo de estadísticas que mostró el profesor Schmidt.
Cuando un robot realiza una entrevista de trabajo
Un paso clave en la contratación y la promoción es el proceso de búsqueda: revisar perfiles de candidatos y currículos para encontrar la mejor coincidencia. De nuevo, la tecnología de análisis predictivo puede ayudar a que este proceso sea justo.
Un motor de recomendación puede programarse para tender una red amplia en busca de talento potencial a escala mundial, sin prejuicios contra ningún grupo en particular. Un motor así puede analizar la presencia en línea de las personas, desde sus perfiles y publicaciones hasta sus redes sociales y sus presentaciones en internet, y utilizar la tecnología de procesamiento del lenguaje natural para evaluar su idoneidad para un puesto determinado.
Los posibles empleadores pueden incorporar una ponderación de la diversidad en el sistema. Todo este primer proceso puede automatizarse.
En segundo lugar, a menudo se realizan entrevistas preliminares para conocer la personalidad y el potencial de liderazgo de un candidato. Existen muchas pruebas y encuestas en línea con este fin. La tecnología de inteligencia artificial puede utilizarse para mejorar esto. Puede desplegarse un entrevistador virtual basado en IA que haga preguntas a los candidatos y evalúe sus respuestas a partir del reconocimiento de imágenes de expresiones faciales, gestos y lenguaje corporal, así como del reconocimiento de voz del tono de voz y, sobre todo, de la comprensión del lenguaje natural de sus respuestas a las preguntas de la entrevista.
Una ventaja de las máquinas inteligentes frente a los entrevistadores humanos es que son infinitamente escalables. Como un motor de búsqueda que gestiona millones de solicitudes al día, un entrevistador virtual puede estar disponible en línea y ser utilizado por muchos candidatos al mismo tiempo. Otra ventaja es que las máquinas pueden programarse para usar un lenguaje neutro en cuanto al género y evitar prejuicios en el proceso de entrevista. Los algoritmos pueden entrenarse con una muestra preseleccionada que no esté sesgada hacia un género en particular.
Diría que este tipo de sistemas inteligentes debería utilizarse para asistir a los comités de selección humanos, aunque no sustituya a estos. Sería conveniente comparar los resultados de la “búsqueda” de la máquina con los del proceso de selección humano, y ofrecer retroalimentación en un proceso de aprendizaje activo para mejorar la precisión tanto de las personas como de las máquinas al identificar al candidato adecuado.
Cuando las niñas reciben educación, todos se benefician
Es bien sabido que, cuando las niñas reciben una buena educación, toda la sociedad se beneficia. Con la llegada de programas en línea como Khan Academy, cada vez más niñas en zonas remotas pueden acceder a la educación. Las mujeres también pueden recibir formación laboral en línea que les permite aprender mientras disfrutan de una baja por maternidad o de años de excedencia para cuidar de sus hijos pequeños, si así lo deciden. La formación en línea beneficia a ambos géneros, pero en una sociedad en la que a menudo nos preguntamos si las mujeres pueden “tenerlo todo”, en última instancia ayudará a cerrar la brecha de género.
La inteligencia artificial puede volver a mejorar la formación en línea de muchas maneras. El procesamiento del lenguaje natural y el reconocimiento automático de voz pueden utilizarse para aprender en muchas áreas temáticas. Los programas interactivos o los robots domésticos habilitados por estas tecnologías pueden orientar a las mujeres desde casa.
Ya existe software de escritura que ofrece sugerencias para elegir mejores palabras al redactar cartas de presentación. Dando un paso más, el análisis semántico y el análisis de sentimiento pueden utilizarse para asesorar sobre la redacción de ensayos para solicitudes de empleo.
Cocineros y niñeras robóticos
Las mujeres siguen haciendo la mayor parte de la limpieza, la cocina y el cuidado de los hijos en el hogar. Un estudio publicado el verano pasado por el Economic and Social Research Council (ESRC) reveló que las mujeres en Gran Bretaña siguen realizando al menos dos tercios de las tareas domésticas, incluso cuando son la principal fuente de ingresos del hogar. Entre las mujeres encuestadas en la India por la National Sample Survey Organization en 2011-12, alrededor del 39 % en zonas rurales y cerca del 50 % en zonas urbanas pasaba la mayor parte de su tiempo en tareas domésticas. Aunque es necesario cambiar las actitudes sociales para abordar esto, la tecnología también puede ayudar a liberar tiempo a las mujeres.
Las comidas pueden cocinarse de antemano en una cocina inteligente, que revisa lo que hay en el refrigerador y encarga más ingredientes si hace falta. Los robots aspiradores pueden limpiar la casa cuando no hay nadie. Un sistema de tutoría en línea puede interactuar con los niños para supervisar su aprendizaje. Los robots niñeras podrían ayudar a mantener a los más pequeños a salvo. Los coches autónomos, cuando estén plenamente desarrollados y equipados con medidas de seguridad adecuadas, pueden utilizarse para llevar a los niños a actividades extraescolares. Para equilibrar el cuidado infantil robótico con un toque humano, los padres y tutores pueden comunicarse a distancia con los niños mediante vídeo a través de estos robots.
También es concebible que un robot cuidador recuerde a las personas mayores que deben tomar sus medicamentos a tiempo y les haga compañía interactuando con ellas. El beneficio de la inteligencia artificial para la atención sanitaria en general contribuye a aliviar la carga que recae sobre muchas mujeres al cuidar de enfermos y personas mayores, al hacer que las personas estén más sanas y puedan acceder a mejores tratamientos.
Zara the Supergirl
A comienzos de este año, los estudiantes y posdoctorandos de mi laboratorio empezaron a reunir todos nuestros módulos de reconocimiento de voz y de emociones en un prototipo de máquina empática que llamamos Zara the Supergirl. Por el momento es un robot virtual, representado en línea por un personaje de dibujos animados.
¿Pueden las máquinas comprender la personalidad y otros rasgos de una persona en cuanto a su potencial de liderazgo, y ayudar a emparejar al mejor candidato, sin importar su género, con un puesto ejecutivo superior o en el consejo? ¿Pueden los cuidadores robóticos empatizar con el dolor de un paciente y percibir su angustia? ¿Pueden las máquinas tener el tipo de inteligencia emocional que requieren estas tareas? El objetivo de crear a Zara es demostrar la posibilidad de un entrenador automático.
Como puede verse en este vídeo, los algoritmos de Zara analizan las imágenes captadas por la webcam del ordenador para determinar su género y su etnia. Después, adivinará qué idioma habla y le hará algunas preguntas en su lengua materna. ¿Cuál es su primer recuerdo? Háblenos de su madre. ¿Cómo fueron sus últimas vacaciones? Cuéntenos una historia con una mujer, un perro y un árbol. A través de este proceso, basándose en sus expresiones faciales, en las características acústicas de su voz y en el contenido de sus respuestas, Zara responderá de maneras que imitan la empatía.
Tras cinco minutos de conversación, Zara intentará adivinar su personalidad entre 16 tipos de personalidad: usted parece un visionario, necesita aprender a delegar más, etc.
Zara es un prototipo, pero como se basa en algoritmos de aprendizaje automático, se volverá más “inteligente” a medida que interactúe con más personas y recopile más datos. Es totalmente concebible entrenar a Zara para entrevistar a candidatos a puestos de liderazgo y realizar una preselección imparcial. También es potencialmente posible entrenarla para hablar con pacientes y personas mayores de forma empática.
Desde mejores algoritmos de recomendación hasta ciber superheroínas, la tecnología de inteligencia artificial tiene el potencial de ayudarnos a identificar y superar nuestros propios prejuicios.
Autor: Pascale Fung, catedrática de Ingeniería Electrónica e Informática, Universidad de Ciencia y Tecnología de Hong Kong
Imagen: Un visitante habla con el robot Xiaodu de Baidu en la Conferencia Mundial de Baidu de 2015 en Pekín, China, el 8 de septiembre de 2015. Xiaodu, un robot de inteligencia artificial desarrollado por Baidu, tiene acceso a la base de datos del motor de búsqueda de la empresa y puede responder a comandos de voz, según indica Baidu. REUTERS/Kim Kyung-Hoon
