La inteligencia artificial es, según con quién se hable, una panacea para todos los problemas del planeta o la causa inevitable del apocalipsis.
La realidad probablemente sea mucho más mundana. La IA es una herramienta y, como ocurrió con muchos avances tecnológicos anteriores, se utilizará tanto para bien como para mal. Pero centrarse en escenarios extremos hipotéticos no ayuda a afrontar nuestra realidad actual. La IA se utiliza cada vez más para influir en los productos que compramos y en la música y las películas que disfrutamos; para proteger nuestro dinero y, de forma polémica, para tomar decisiones de contratación y procesar conductas delictivas.
El principal problema de la IA es lo que se conoce como «basura entra, basura sale». Alimentamos los algoritmos con datos que introducen sesgos existentes, que luego se convierten en profecías autocumplidas. En el caso de la contratación, una empresa que históricamente ha contratado a candidatos hombres descubrirá que su IA rechaza a las candidatas mujeres, porque no encajan en el molde de los solicitantes exitosos del pasado. En el caso de la predicción de delitos o de reincidencia, los algoritmos recogen sesgos históricos y sociales y los propagan aún más.
En cierto modo, se trata de un problema de la gallina y el huevo. El mundo occidental lleva más tiempo digitalizado, por lo que hay más registros que las IA pueden analizar. Además, las mujeres han estado infrarrepresentadas en muchos ámbitos de la vida, por lo que hay menos datos, y los datos existentes suelen ser de menor calidad. Si no podemos alimentar a las IA con datos de calidad y libres de sesgos, aprenderán y seguirán perpetuando los prejuicios que pretendemos eliminar. A menudo, los conjuntos de datos más grandes disponibles también son simplemente de una calidad tan baja que los resultados son impredecibles e inesperados, como los chatbots racistas de Twitter.
Nada de esto significa que la IA sea inherentemente mala. Tiene el potencial de ser una herramienta de toma de decisiones mejor que las personas. La IA no puede ser sobornada, engañada ni manipulada socialmente. No se cansa, no tiene hambre ni se enfada. Entonces, ¿cuál es la solución?
A corto plazo, necesitamos desarrollar estándares y pruebas para la IA que nos permitan identificar los sesgos y combatirlos. Estos deben ser acordados de forma independiente y probados rigurosamente, ya que comprender lo que ocurre entre bastidores en el aprendizaje automático es increíblemente complejo y difícil.
También debemos pensar en la experiencia de la IA orientada al usuario y en el sexismo inherente a los asistentes personales y chatbots que, en su mayoría, son mujeres. Mientras que quizá el primer asistente automatizado muy conocido fue masculino (HAL-9000), hoy parece que solo podemos imaginar a nuestros asistentes automatizados como una mujer subordinada. Con frecuencia, esto se justifica con estudios de consumo que demuestran que los consumidores simplemente prefieren una voz femenina, pero ¿cuánto de esto se debe a estereotipos de género sobre los tipos de funciones para las que utilizamos los asistentes?
Tenemos la oportunidad de corregir estos desequilibrios impulsando una mayor atención a la inclusión, el empoderamiento y la igualdad. Más mujeres que trabajen en la industria tecnológica, que escriban algoritmos y que contribuyan al desarrollo de productos cambiarán la forma en que imaginamos y desarrollamos la tecnología, y cómo suena y cómo se ve.
Sin embargo, es un problema difícil de resolver. La tecnología y la ingeniería son, históricamente, dos de las fuerzas laborales más dominadas por hombres del planeta, y el sesgo de género inconsciente (así como una cantidad razonable de sesgo consciente) está muy extendido. Aunque hemos visto que la presencia de mujeres en los consejos de administración puede reforzar el rendimiento, generar nuevas ideas y ayudar a las empresas a sobrellevar los periodos de crisis, con frecuencia se da prioridad a candidatos hombres que han sido directores ejecutivos de pequeñas empresas frente a mujeres que han supervisado divisiones enteras en grandes compañías y que, posiblemente, tienen una experiencia mayor y más relevante.
Se está haciendo un buen trabajo para acercar a las niñas a las habilidades tecnológicas, animarlas a cursar estudios superiores en materias STEM y a optar a puestos en campos dominados por hombres, pero, hasta que no se pueda implementar un cambio desde arriba, el progreso será lento. Existe un riesgo real de que, si no se interviene hoy, esta próxima generación de mujeres se vea privada de las oportunidades para las que las estamos formando y capacitando, porque los algoritmos sesgados simplemente las relegarán en favor de perpetuar el statu quo.
Creo firmemente en el poder de programas como Girls in AI para garantizar que la próxima generación de profesionales cuente con las competencias necesarias para generar un cambio de impacto. Pero necesitamos un acuerdo a nivel sectorial para allanarles el camino. Necesitamos estándares y pruebas, tanto en lo que respecta a la calidad de los datos en los que nos apoyamos como a la detección de sesgos, y un compromiso para revisar las políticas e incentivos vigentes en las empresas tecnológicas, con el fin de incorporar a más mujeres y acelerar el ritmo del cambio.
