Primeras impresiones
Cuando vemos a alguien por primera vez, formamos internamente juicios instantáneos sobre esa persona. No podemos evitarlo, simplemente somos así de propensos a juzgar. Tras observar a la persona durante solo unos segundos, podemos anotar su género, raza y edad, o decidir si creemos que es atractiva, digna de confianza o amable.
Después de llegar a conocer de verdad a la persona, podríamos descubrir que nuestra percepción inicial de ella era errónea. No es para tanto, ¿verdad?
Pues sí lo es, y mucho, si consideramos cómo nuestras suposiciones podrían influir en la forma en que la inteligencia artificial (IA) del futuro tome decisiones cada vez más importantes.
Con el fin de ilustrar este problema al público, investigadores de la Universidad de Melbourne crearon Biometric Mirror.
Percepción pública
Biometric Mirror es una IA que analiza el rostro de una persona y luego muestra 14 características sobre ella, incluidas su edad, su raza y su nivel de atractivo percibido.
Para enseñar al sistema a hacer esto, los investigadores de Melbourne empezaron pidiendo a voluntarios humanos que juzgaran miles de fotos según las mismas características. Esto dio lugar al conjunto de datos al que Biometric Mirror recurría al analizar rostros nuevos. Como la información que proporcionaron estos voluntarios era subjetiva, también lo fue el resultado de Biometric Mirror. Si la mayoría de los encuestados humanos pensaba que las personas con barba parecían menos dignas de confianza, eso influiría en cómo Biometric Mirror juzgaba a las personas con barba.
La ética de la IA
Para usar Biometric Mirror, basta con que una persona se sitúe frente al sistema durante unos segundos. Este escanea rápidamente su rostro y luego muestra en una pantalla las características que le atribuye. A continuación, la IA pide a la persona que piense en cómo se sentiría si esa información se compartiera con otros. ¿Cómo se sentiría si no consiguiera un empleo porque la IA la clasificó con un nivel bajo de confiabilidad? ¿O si los agentes del orden decidieran dirigirse contra ella porque obtuvo una puntuación alta en agresividad?
«Nuestro estudio pretende plantear preguntas incómodas sobre los límites de la IA. Muestra a los usuarios lo fácil que es implementar una IA que discrimina de forma poco ética o problemática, lo que podría tener consecuencias sociales», afirmó el investigador principal Niels Wouters en un comunicado de prensa. «Al fomentar el debate sobre la privacidad y la vigilancia masiva, esperamos contribuir a una mejor comprensión de la ética que hay detrás de la IA».
Eliminar los sesgos
Un sistema tan sesgado como Biometric Mirror podría tener graves consecuencias a medida que la IA se utiliza cada vez más y toma decisiones cada vez más importantes. Y esto no es solo una posibilidad futura; ya estamos viendo ejemplos que aparecen en los sistemas actuales. Mientras los investigadores trabajan en encontrar formas de garantizar que los sistemas futuros no contengan esos mismos defectos, es importante que el público considere el posible impacto de la IA sesgada en la sociedad. Biometric Mirror podría ayudarle a hacerlo.
