La contratación y la retención de personal son un desafío constante para los empleadores. Quienes defienden el uso de macrodatos en el lugar de trabajo afirman ahora que pueden cambiar esta situación.
Estamos entrando en una nueva era de selección predictiva que está dando resultados muy sorprendentes. Sin embargo, estas nuevas formas de tomar decisiones y los resultados que producen podrían poner en entredicho los fundamentos mismos de nuestras leyes contra la discriminación y de privacidad.
¿Qué hay de nuevo?
En algún momento, todos hemos tenido que solicitar un empleo. Rellenamos una solicitud, añadiendo aquí y allá algunos detalles favorables. Luego la presentamos. Y, cruzando los dedos, conseguimos una entrevista.
Después investigan nuestros antecedentes para ver si encajamos. Si es así, conseguimos el empleo. Es una práctica sencilla y consagrada por el tiempo.
Tenemos una buena idea de por qué conseguimos el empleo. Fuimos a la universidad «adecuada». Obtuvimos un buen promedio académico. Demostramos que se podía confiar en nosotros.
También sabemos que nuestro empleador no tomaría la decisión de contratarnos basándose en nuestra raza, género u orientación sexual. Eso es ilegal.
¿Y si no nos seleccionaran por nuestro promedio académico? ¿O por haber ido a la universidad «adecuada»? ¿Y si ni siquiera nos seleccionaran sobre la base de nuestra solicitud de empleo? ¿Y si el factor decisivo para seleccionarnos no fuera nuestra solicitud, sino el navegador que usamos para cargarla?
Bienvenidos al potencialmente desconcertante nuevo mundo de los macrodatos en el lugar de trabajo. Es un mundo que pone patas arriba el proceso tradicional de selección de personal, en el que las decisiones algorítmicas basadas en datos son la norma. Es un mundo que exige recopilar cada vez más tipos de información, incluidos los metadatos de nuestras actividades laborales, nuestro contenido en redes sociales y cualquier otra cosa que pudiera ser pertinente, por remota que sea (o incluso irrelevante, a fin de cuentas).
Nada de esto es del todo nuevo. El libro Moneyball, de Michael Lewis, mostró el valor de la búsqueda basada en datos de Billy Beane y su efecto dramático en el equipo de béisbol que dirigía.
Sin embargo, la búsqueda de Beane basada en datos está siendo reemplazada por una búsqueda predictiva, que está produciendo resultados bastante inusuales. Veamos estos ejemplos.
Es más probable que contraten como representante de atención al cliente de Xerox a un candidato creativo, pero no demasiado inquisitivo, que pertenezca a una o, como máximo, cuatro redes sociales si vive cerca de la oficina y dispone de transporte fiable.
Se está contratando a programadores que nunca han escrito código abierto para puestos de programación de código abierto si tienen el perfil en línea adecuado y les interesan los sitios web japoneses de manga.
Incluso una determinada combinación de palabras en un tuit o una publicación de LinkedIn puede convertirse ahora en un indicador fiable de que alguien es un buen candidato para programar software.
¿Cuál es el problema?
Estos nuevos procesos de toma de decisiones y los resultados que generan podrían plantear problemas importantes para nuestros marcos jurídicos de lucha contra la discriminación y de protección de la privacidad de la información. Ambas leyes se diseñaron en las décadas de 1960 y 1970, y quizá no sean adecuadas para hacer frente a los desafíos que plantean los macrodatos en el lugar de trabajo.
Empecemos por las leyes contra la discriminación. Estas prohíben discriminar por determinados atributos sociales y físicos: raza, género, orientación sexual y discapacidad. Hoy nos parece obvio que el personal no debería ser seleccionado ni rechazado por estos atributos. Instintivamente sabemos que está mal tomar decisiones sobre esa base.
El problema de los macrodatos en el lugar de trabajo es que a menudo resulta imposible vincular la discriminación con las desigualdades que se derivan del análisis de datos. Las decisiones sobre la selección de empleados se toman en función de una serie de atributos que sencillamente no resultan intuitivos: el navegador que usamos para cargar nuestra solicitud; cuánto nos gusta el manga japonés; incluso las palabras que usamos en un tuit. Por tanto, las técnicas de macrodatos reformulan la propia noción de discriminación en el lugar de trabajo.
Probablemente sea imposible, desde el punto de vista probatorio, establecer un vínculo entre un atributo protegido y una práctica discriminatoria basada en macrodatos. Aunque un atributo prohibido pueda ser un factor en el proceso predictivo, demostrar que existe un factor discriminatorio y cómo se tuvo en cuenta será casi imposible en los procesos de toma de decisiones predictivas. Estos procesos implican millones de decisiones basadas en cálculos algorítmicos complejos, a los que el trabajador no tiene acceso ni siquiera se le informa de que están teniendo lugar.
Los macrodatos también plantean desafíos importantes para las leyes de privacidad de la información. La lógica subyacente de los macrodatos consiste en recopilarlo todo y conservarlo para siempre. La búsqueda de lo que no resulta intuitivo exige nada menos. Toda información, en todo momento, podría ser pertinente.
Por tanto, cualquier información puede tener la capacidad de ser información personal, ya que toda información podría usarse para identificar a una persona. Sin embargo, las leyes de privacidad de la información nunca se diseñaron para considerar que toda información debería clasificarse como información personal y protegerse.
Los macrodatos en el lugar de trabajo podrían poner seriamente en entredicho nuestros marcos jurídicos actuales contra la discriminación y sobre privacidad de la información. El verdadero peligro es la pendiente resbaladiza de una aceptación que se va extendiendo, en la que simplemente aceptamos sin cuestionar la veracidad de una predicción basada en correlaciones. Entonces corremos el riesgo de crear una nueva forma de discriminación, la discriminación infoestructural, en la que los patrones de discriminación y sesgo quedan incorporados en las infraestructuras de información.
En ese punto, es probable que los peligros de los macrodatos superen sus beneficios y puedan perjudicarnos a todos. Podríamos encontrarnos buscando en vano el atributo que no resulta intuitivo y que nos dará el empleo que buscamos, pero que nunca podemos controlar.
Publicado en colaboración con The Conversation
Autor: Mark Burdon es profesor titular en The University of Queensland. Paul Harpur es profesor titular en la Facultad de Derecho de The University of Queensland.
Imagen: Un hombre escribe en un teclado de computadora en Varsovia en esta imagen del 28 de febrero de 2013. REUTERS/Kacper Pempel.
