Los sistemas de inteligencia artificial (IA) son cada día más inteligentes, al superar a campeones mundiales en juegos como el Go, identificar tumores en escáneres médicos mejor que los radiólogos humanos, y aumentar la eficiencia de los centros de datos, que consumen grandes cantidades de electricidad. Algunos economistas comparan el potencial transformador de la IA con otras «tecnologías de propósito general», como la máquina de vapor, la electricidad o el transistor.
Pero los sistemas de IA actuales distan mucho de ser perfectos. Tienden a reflejar los sesgos de los datos utilizados para entrenarlos y a fallar cuando se enfrentan a situaciones inesperadas. Pueden ser manipulados, como hemos visto con las controversias en torno a la desinformación en las redes sociales, contenidos violentos publicados en YouTube, o el conocido caso de Tay, el chatbot de Microsoft, que fue manipulado para emitir declaraciones racistas y sexistas en cuestión de horas.
¿Realmente queremos convertir estas tecnologías propensas a sesgos y frágiles en los cimientos de la economía del mañana?
Minimizar el riesgo
Una forma de minimizar los riesgos de la IA es aumentar la diversidad de los equipos que participan en su desarrollo. Como sugieren las investigaciones sobre la toma de decisiones colectiva y la creatividad, los grupos con mayor diversidad cognitiva tienden a tomar mejores decisiones. Por desgracia, esto dista mucho de la situación de la comunidad que actualmente desarrolla sistemas de IA. Y la falta de diversidad de género es una dimensión importante (aunque no la única) de este problema.
Una revisión publicada por el AI Now Institute a principios de este año, mostró que menos del 20 % de los investigadores que solicitan participar en conferencias prestigiosas sobre IA son mujeres, y que solo una cuarta parte de los estudiantes universitarios que cursan IA en Stanford y en la Universidad de California en Berkeley son mujeres.
Los autores sostienen que esta falta de diversidad de género provoca fallos en la IA que afectan específicamente a las mujeres, como un sistema de contratación de Amazon que, según se demostró, discriminaba a los candidatos con nombres femeninos.
Nuestro reciente informe, Gender Diversity in AI research, incluyó un análisis de «big data» de 1,5 millones de artículos en arXiv, un sitio de preimpresiones muy utilizado por la comunidad de IA para difundir sus trabajos.
Analizamos el texto de los resúmenes para determinar cuáles aplican técnicas de IA, inferimos el género de los autores a partir de sus nombres y estudiamos los niveles de diversidad de género en la IA y su evolución a lo largo del tiempo. También comparamos la situación en distintos campos de investigación y países, así como las diferencias de lenguaje entre los artículos con coautoras y los artículos compuestos exclusivamente por hombres.
Nuestro análisis confirma la idea de que existe una crisis de diversidad de género en la investigación en IA. Solo el 13,8 % de los autores de IA en arXiv son mujeres y, en términos relativos, la proporción de artículos sobre IA coescritos por al menos una mujer no ha mejorado desde la década de 1990.
Existen diferencias significativas entre países y campos de investigación. Encontramos una mayor representación de mujeres en la investigación en IA en los Países Bajos, Noruega y Dinamarca, y una menor representación en Japón y Singapur. También observamos que las mujeres que trabajan en física, educación, biología y en los aspectos sociales de la informática tienen más probabilidades de publicar trabajos sobre IA que las que trabajan en informática o matemáticas.
Además de medir la diversidad de género en la plantilla de investigación en IA, también analizamos las diferencias semánticas entre los artículos de investigación con y sin participación femenina. Probamos la hipótesis de que los equipos de investigación con mayor diversidad de género tienden a ampliar la variedad de temas y asuntos que se consideran en la investigación en IA, lo que podría hacer que sus resultados sean más inclusivos.
Para ello, medimos la «firma semántica» de cada artículo mediante una técnica de aprendizaje automático denominada incrustaciones de palabras (word embeddings), y comparamos estas firmas entre artículos con al menos una autora y artículos sin ninguna autora.
Este análisis, centrado en el campo del Aprendizaje Automático y los Aspectos Sociales de la Informática en el Reino Unido, mostró diferencias significativas entre los grupos. En particular, observamos que los artículos con al menos una coautora tienden a ser más aplicados y más sensibles a lo social, y que términos como «equidad», «movilidad humana», «mental», «salud», «género» y «personalidad» desempeñan un papel clave. La diferencia entre ambos grupos es coherente con la idea de que la diversidad cognitiva influye en la investigación que se produce y sugiere que conduce a una mayor implicación con las cuestiones sociales.
Cómo solucionarlo
Entonces, ¿qué explica esta persistente brecha de género en la investigación en IA y qué podemos hacer al respecto?
Investigación muestra que la falta de diversidad de género en la plantilla de ciencia, tecnología, ingeniería y matemáticas (STEM) no tiene una única causa: los estereotipos y la discriminación de género, la falta de modelos a seguir y mentores, la insuficiente atención al equilibrio entre vida laboral y personal, y los entornos de trabajo «tóxicos» en la industria tecnológica se combinan para crear una tormenta perfecta contra la inclusión de género.
No existe una solución sencilla para cerrar la brecha de género en la investigación en IA. Cambios generalizados en todo el sistema orientados a crear espacios seguros e inclusivos que apoyen y promuevan a los investigadores de grupos subrepresentados, un cambio en las actitudes y culturas de la investigación y la industria, y una mejor comunicación del potencial transformador de la IA en muchos ámbitos podrían contribuir a ello.
Las intervenciones políticas, como la inversión gubernamental de 13,5 millones de libras para impulsar la diversidad en los puestos relacionados con la IA mediante nuevos cursos de conversión, contribuirán en cierta medida a mejorar la situación, pero se necesitan intervenciones de mayor alcance para crear mejores vínculos entre las artes, las humanidades y la IA, y cambiar la imagen de quién puede trabajar en IA.
Si bien no existe una única razón por la que las niñas abandonan de forma desproporcionada las asignaturas STEM a medida que avanzan en su educación, hay indicios de que factores como los estereotipos generalizados sobre el género y un entorno docente que afecta más a la confianza de las niñas que a la de los niños contribuyen al problema. También debemos dar visibilidad a los modelos a seguir que utilizan la IA para generar un impacto positivo.
Una intervención concreta que pretende abordar estas cuestiones es el Longitude Explorer Prize, que anima a los estudiantes de secundaria a utilizar la IA para resolver desafíos sociales y a trabajar con modelos a seguir en IA. Queremos que los jóvenes, especialmente las niñas, comprendan el potencial de la IA para el bien y su papel para impulsar el cambio.
Al desarrollar habilidades y confianza en las jóvenes, podemos cambiar la proporción de personas que estudian y trabajan en IA, y contribuir a abordar los posibles sesgos de la IA.
