Se están utilizando herramientas de IA para reducir los sesgos en la selección de personal.
Entre ellas se incluyen herramientas de aprendizaje automático para optimizar las descripciones de puestos y evaluaciones psicológicas basadas en IA de rasgos como la imparcialidad.
Pero la IA conlleva sesgos inherentes, que dependen de los datos utilizados para entrenar los algoritmos.
Han surgido decenas de empresas de software que venden herramientas de selección de personal con IA a otras compañías, con la promesa de eliminar los sesgos de sus procesos de contratación. En materiales promocionales y comunicados de prensa, sostienen que quienes reclutan sonirremediablemente parcialesmientras que las máquinasson objetivas, por lo que tanto las empresas como quienes buscan empleo se beneficiarán de la contratación impulsada por IA.
Por supuesto, no es tan sencillo. Los algoritmos de IAno son objetivos por naturalezay el software de contratación puedeintroducir nuevas capas de sesgo y discriminación, excluir a personas cualificadas que buscan empleo y exponer a las empresas atitulares negativos.
Pero si las empresas aplican la IA con criterio y mantienen un sano escepticismo ante las afirmaciones comerciales de sus proveedores, hay formas de usar algoritmos para reducir los sesgos en la contratación.
¿Qué empresas venden herramientas de contratación con IA?
Hay una IA paracada etapadel proceso de selección. Textioutiliza el aprendizaje automático para ayudar a quienes dirigen la contratación a optimizar las descripciones de puestos. Facebook, LinkedIn y ZipRecruiterdirigen las ofertas de empleo a posibles candidatos según las recomendaciones de sus algoritmos.
Una vez recibidas las solicitudes, proveedores de IA como Ideal, CVViZ, Skillate y Sniper AIvenden sistemas que analizan currículums para filtrar y destacar a candidatos prometedores. Y, después de convocar a candidatos a una entrevista, HireVue, Modern Hire y Harqenprometen que sus algoritmos pueden analizar esas conversaciones para predecir qué candidatos tendrán el mejor desempeño en el puesto.
También hay proveedores que ofrecen evaluaciones psicológicas basadas en IA de rasgos como la estabilidad, la generosidad y la imparcialidad. Humanticanaliza a los candidatos examinando textos de sus solicitudes y perfiles en línea. Pymetricsafirma que puede hacer lo mismo mediante una serie de juegos sencillos.
¿Cómo funcionan las herramientas de contratación con IA?
La gran pregunta sobre todas las aplicaciones de IA para la contratación es con qué datos se entrenan. Un algoritmo de aprendizaje automático solo es tan bueno como la calidad de la información que recibe.
La mayoría de las herramientas de selección con IA recopilan datos de entrenamiento de los empleados actuales. Por ejemplo, para entrenar un sistema de análisis de currículums, una empresa reuniría los currículums de sus empleados actuales y los compararía con datos de desempeño, como cifras de ventas o evaluaciones anuales. Estos conjuntos de datos enseñan a los algoritmos a identificar los currículums que más se parecen a los de los empleados con mejor desempeño de la empresa.
Por supuesto, este enfoque tiende a destacar a candidatos que se parecen mucho a la plantilla actual y, en la práctica, reproduce los sesgos que muchas empresas intentan superar.
«La IA tiene sesgos inherentes porque no existen datos imparciales», afirmó Shervin Khodabandeh, codirector del negocio de IA de Boston Consulting Group en Norteamérica. Según explicó, el desafío es aún más marcado en la contratación, porque los datos disponibles suelen ser muy limitados: las empresas solo contratan a un número determinado de candidatos y se necesitan años para saber si llegarán a ser empleados de alto rendimiento.
Los proveedores de IA recurren a soluciones alternativas para superar los sesgos de sus datos de entrenamiento. Según Manish Raghavan, doctorando de Cornell que haestudiado los algoritmos de contratación, muchos proveedoresdiseñan sus algoritmos para cumplir la regla de los cuatro quintos, un principio jurídico estadounidense que establece que los candidatos de cualquier grupo demográficodeben ser seleccionados con una frecuencia de al menos el 80 %de la de los candidatos de cualquier otro grupo. Así, para proteger a las empresas de responsabilidades legales, una IA de contratación puede programarse, por ejemplo, para recomendar el mismo número de candidatos hombres y mujeres.
Pero Raghavan señaló que eso no significa que el algoritmo vaya a funcionar igual de bien en todos los grupos demográficos. Si los datos de entrenamiento proceden principalmente de empleados hombres, la IA podría aprender a asociar el éxito con rasgos como haber jugado al fútbol americano en la secundaria o que una carta de recomendación te describa como una «estrella de rock» (una expresión quesuele usarse para describir a los hombres).
«Si se incluyen muchas características de ese tipo, se puede acabar con una herramienta muy buena para predecir cuáles serán los hombres con mejor desempeño y mediocre para identificar a las mujeres con mejor desempeño», explicó Raghavan. Si luego una empresa entrevista a 10 de los hombres más cualificados y a una muestra aleatoria de 10 mujeres del grupo de candidatos, sus prácticas de contratación parecerán imparciales a primera vista, pero el puesto seguirá teniendo más probabilidades de ser para un hombre.
¿Cómo han tenido resultados contraproducentes las herramientas de contratación con IA?
Amazon desarrolló, para su descrédito, un sistema de análisis de currículums con IA que fueexpuesto públicamentepor discriminar a las mujeres en 2018. Diseñado para serel «santo grial» de la IA para la selección de personal, penalizaba los currículums que contenían la palabra «mujeres» (por ejemplo, en referencia a un deporte o club femenino) y tenía la mala costumbre de recomendar candidatos sin aptitudes ni experiencia pertinentes.
HireVue fue objeto de un intenso escrutiniopor su IA de análisis de entrevistas, que analiza los movimientos faciales, la elección de palabras y el tono de voz de los candidatos. En un artículo de The Washington Post que mencionaba a empresas que utilizaban el software, entre ellas Hilton y Unilever, representantes del Instituto AI Now de la Universidad de Nueva York, dedicado a la vigilancia ética, lo calificaron de «pseudociencia» y «una licencia para discriminar». En medio de la reacción negativa, la Comisión Federal de Comercio de Estados Unidos recibió una denuncia formal contra HireVue, e Illinois aprobó una leyque obliga a las empresas a revelar el uso de herramientas de IA similares.
Aunque estos episodios generaron cobertura negativa en la prensa, Michael Chui, consultor de tecnología de McKinsey, afirmó que los titulares desfavorables no deberían ser la principal preocupación de una empresa que esté pensando en incorporar IA a su proceso de contratación. «El mayor riesgo no es el daño a la reputación», dijo. «Es no conseguir a los candidatos mejor cualificados».
¿Cómo puedo evitar cometer los mismos errores?
Según Khodabandeh, de BCG, la lección más importante es que las empresas nunca deben seguir a ciegas las recomendaciones de una IA y que quienes dirigen la contratación deben conservar el control de la toma de decisiones. «Nadie debería confiar en un algoritmo que le diga: “Esta es la persona que debe contratar”», afirmó.
En cambio, Khodabandeh propone invertir por completo esa dinámica. En lugar de pedirle a la IA que destaque a los mejores candidatos y que una persona encargada de la contratación se limite a ratificar sus decisiones, las empresas deberían usar la IA para auditar sus propias prácticas de selección. La IA ideal para la selección de personal examinaría grandes cantidades de datos de contratación, no para predecir quién será la próxima mejor incorporación, sino paraseñalar quiénes han tendido a tener éxito en el pasado.
«Una de las cosas que harán los buenos algoritmos de IA es indicarte dónde están tus sesgos. Los analizarás y te darás cuenta de que ya estás favoreciendo ciertos atributos de forma injusta, irresponsable o poco ética, sin siquiera saberlo», afirmó Khodabandeh. «Es aquí donde debe intervenir una persona para eliminar activamente esos sesgos y decidir qué atributos conviene tener en cuenta en la siguiente ronda de selección y contratación».
Las empresas también deberían ser prudentes al auditar los algoritmos que utilizan. Raghavan, investigador de Cornell, afirma que la mayoría de los proveedores de IA solo comparten con sus clientes el funcionamiento interno de sus algoritmos. «Muchos clientes no necesariamente tienen la capacidad de evaluar las afirmaciones que hacen, incluso cuando se les presentan pruebas», dijo.
Los posibles compradores que cuenten con especialistas en ciencia de datos dentro de la empresa pueden echar un vistazo al funcionamiento interno y poner a prueba los sistemas. Para quienes no los tengan, la investigación de Raghavanplantea un par de advertencias generales. En primer lugar, no siempre se puede confiar en las correlaciones que los sistemas de IA encuentran entre el desempeño laboral de los empleados y su rostro, voz o comportamiento, ni siquiera comprenderlas.
En segundo lugar, el umbral estadístico es bastante bajopara los algoritmos que afirman ofrecer información psicológica sobre quienes solicitan empleo. Basta con que las correlaciones que establecen sean, en promedio, un poco mejores que el azar. Que sean válidas para una persona en particular es prácticamente cuestión de suerte. A veces, la herramienta más avanzada que necesita quien recluta es su intuición.
