Las empresas que buscan contratar con rapidez y en gran número recurren a tecnologías de IA, como los programas de selección de currículos.
Si no se usan con cuidado, los algoritmos podrían multiplicar las desigualdades basadas en el género, la edad y la raza, que ya se han agravado por la pandemia.
Los empleadores que utilizan la IA para tomar decisiones de contratación deben entender exactamente lo que están comprando y cómo podría afectar a sus decisiones de contratación.
Tras un año en el que el desempleo alcanzó niveles no vistos desde la Gran Depresión, la Gran Recontratación ya está aquí, y es probable que la IA desempeñe un papel importante en ella. Los empleadores, especialmente los que necesitan contratar con rapidez y en gran número, recurren a tecnologías basadas en IA como los programas de selección de currículos, las entrevistas automatizadas, y las aplicaciones móviles de contratación para reconstruir sus plantillas. Para los millones de empleados desplazados por la pandemia de COVID-19, estas tecnologías pueden suponer una vía rápida de regreso al lugar de trabajo. Y para las empresas cuyas puertas se cerraron por la pandemia, estas tecnologías son un camino eficiente para recuperar la rentabilidad.
Sin embargo, garantizar que las tecnologías de contratación se diseñen y desplieguen de forma libre de sesgos es un desafío en condiciones económicas normales, y la economía de la COVID está lejos de ser normal. A menos que los empleadores utilicen estas tecnologías con cuidado, las distorsiones demográficas que la pandemia ha provocado en la fuerza laboral podrían perdurar.
Numerosos estudios, entre ellos el Informe sobre el Futuro del Empleo 2020 del FEM, han documentado las formas en que la pandemia ha agravado las desigualdades en el lugar de trabajo a nivel mundial. Por ejemplo, en las primeras etapas de la pandemia, las mujeres de todo el mundo estaban desempleadas en mayor proporción que los hombres; y los jóvenes han estado desempleados de forma constante en mayor proporción que los trabajadores mayores. En Estados Unidos, los estudios del Departamento de Trabajo indican que las personas de color se han visto afectadas de manera desproporcionada por la pandemia. De hecho, las tasas de desempleo de afroamericanos y latinos han superado de forma constante a las de los blancos en varios puntos porcentuales, y esa tendencia persiste incluso cuando los estadounidenses empiezan a reincorporarse al mercado laboral en cifras récord.
Si bien la IA tiene el potencial de eliminar los sesgos en la contratación, también puede multiplicar las desigualdades de forma exponencial si se utiliza de manera descuidada. Esto se debe a la forma en que funciona la IA: los algoritmos correlacionan información de un conjunto finito de datos para hacer predicciones sobre los solicitantes de empleo. Las predicciones de un algoritmo solo son tan sólidas como el conjunto de datos en el que se basa. Si los datos de entrenamiento de un algoritmo consisten en la plantilla actual del empleador, es posible que simplemente reproduzca el statu quo. Esto puede ser problemático si la plantilla actual está compuesta predominantemente por empleados de una misma raza, género o grupo de edad, porque un algoritmo de contratación puede descartar automáticamente a los solicitantes que no compartan esas mismas características.
Los ejemplos ampliamente difundidos de contratación algorítmica que salió mal ilustran cómo la IA puede tanto reflejar como amplificar el sesgo estadístico. Por ejemplo, hace varios años Amazon probó un programa de selección de currículos cuyos datos de entrenamiento consistían en currículos de los empleados actuales de la empresa, junto con currículos que se habían presentado a la empresa en los diez años anteriores. Mediante el aprendizaje automático, el programa fue capaz de identificar patrones en el conjunto de datos y luego usar esos patrones para valorar a nuevos solicitantes según sus currículos. Sin embargo, como la mayoría de los currículos del conjunto de datos pertenecían a hombres, el programa comenzó a degradar automáticamente los currículos con combinaciones de palabras que indicaban que el solicitante era mujer.
En pocas palabras, las entradas sesgadas producen resultados sesgados, y esto puede ser especialmente problemático mientras los empleadores intentan construir una fuerza laboral posterior a la pandemia. En Estados Unidos, la fuerza laboral durante la COVID ha incluido a menos afroamericanos, menos latinos y menos asiáticos. Por tanto, si un programa de contratación tratara la raza de la misma forma en que nuestro ejemplo trató el género, las minorías podrían quedar excluidas de oportunidades de empleo para las que, de otro modo, estarían cualificadas. Esto podría, a su vez, suponer una responsabilidad legal para los empleadores estadounidenses en virtud de las leyes que hace cumplir mi agencia, la Comisión para la Igualdad de Oportunidades en el Empleo.
En virtud de la legislación estadounidense, un empleador no necesita discriminar intencionadamente para incurrir en una práctica de contratación prohibida. Una política de contratación que sea neutral en apariencia puede infringir la ley federal si tiene un impacto dispar en determinados grupos. Por ello, es esencial que los empleadores que utilizan la IA para tomar decisiones de contratación comprendan el funcionamiento de la tecnología. Los empleadores deben preguntar a los proveedores sobre la solidez de los datos de entrenamiento, la mitigación de sesgos y la posibilidad de un impacto dispar. En resumen, deben entender exactamente lo que están comprando y exactamente cómo funciona. Un enfoque del tipo “configúrelo y olvídese” simplemente no bastará.
Históricamente, las recesiones han acelerado el ritmo al que las empresas han invertido en automatización. La recesión por la COVID no es una excepción. La pandemia ha transformado no solo la forma en que las personas trabajan, sino también la forma en que las empresas contratan. Los programas de contratación habilitados por IA tienen el potencial de ser una parte valiosa de la recuperación mundial tras la COVID. Como funcionario obligado a proteger los derechos civiles de todos los trabajadores de Estados Unidos, me comprometo a garantizar que la IA no se quede por debajo de ese potencial.
