Activistas de Estados Unidos han expresado su preocupación por el sesgo racial en la IA; se han atribuido detenciones injustas a fallos en el reconocimiento facial.
Según el grupo de activismo digital Algorithmic Justice League, una de las razones por las que los sistemas de IA no son inclusivos es la composición predominantemente masculina y blanca de los equipos de desarrollo.
A medida que la tecnología se vuelve una parte cada vez más importante de nuestra sociedad, eliminar cualquier sesgo es vital, afirma Ayo Tometi, cofundadora de Black Lives Matter (BLM).
Ante la creciente preocupación por el sesgo racial en la inteligencia artificial, Ayo Tometi, cofundadora de Black Lives Matter (BLM), instó al sector tecnológico a actuar con rapidez para evitar que se perpetúe el racismo en sistemas como el reconocimiento facial.
La inteligencia artificial está transformando el mundo y puede aplicarse en diversos sectores, desde mejorar la detección temprana de enfermedades hasta organizar datos y resolver problemas complejos, pero también suscita preocupación.
«Muchos de los algoritmos y muchos de los datos son racistas», dijo a Reuters la activista estadounidense Tometi, cofundadora de BLM en 2013, durante la celebración de la Web Summit de Lisboa.
«Necesitamos que quienes desarrollan tecnología comprendan de verdad todas las formas en que el racismo se manifiesta en las tecnologías que están creando», dijo.
En los últimos años, la industria tecnológica ha tenido que afrontar un examen de conciencia sobre la ética de las tecnologías de IA. Sus críticos afirman que estos sistemas podrían comprometer la privacidad, señalar a grupos marginados y normalizar la vigilancia intrusiva.
Algunas empresas tecnológicas han reconocido que ciertos sistemas de reconocimiento facial basados en IA, populares entre comercios y hospitales con fines de seguridad, podrían tener fallos.
El miércoles, Facebook anunció que cerraría su sistema de reconocimiento facial, citando preocupaciones sobre su uso. El año pasado, Microsoft dijo que esperaría a que hubiera regulación federal antes de vender tecnología de reconocimiento facial a la policía.
La policía de Estados Unidos y Gran Bretaña utiliza el reconocimiento facial para identificar sospechosos. Sin embargo, un estudio del Instituto Nacional de Estándares y Tecnología de Estados Unidos concluyó que la tecnología es menos precisa al identificar rostros de personas afroamericanas y asiáticas que al identificar rostros de personas caucásicas.
El año pasado se produjo en Estados Unidos la primera detención injusta conocida basada en un reconocimiento facial erróneo. Las Naciones Unidas han citado el caso —atribuido a que la herramienta se había entrenado principalmente con rostros blancos— como ejemplo de los peligros que plantea la falta de diversidad en el sector tecnológico.
'Una solución para el futuro'
«Las empresas tecnológicas tienen que ser muy cuidadosas, porque la tecnología puede acelerar la adopción de valores que, de otro modo, tardarían más en imponerse», dijo Tometi. «Pero la tecnología lo acelera todo, así que el impacto será más grave y llegará más rápido».
Al instar a los desarrolladores de software a «prestar atención a todos los detalles», dijo que deberían escuchar más a las personas negras.
«Por desgracia, siento que a las empresas tecnológicas todavía les queda mucho por hacer para tender un puente con la comunidad», dijo.
Según el grupo de activismo digital Algorithmic Justice League, una de las razones por las que los sistemas de IA no son inclusivos es la composición predominantemente masculina y blanca de los equipos de desarrollo.
Una de las cientos de empresas emergentes impulsadas por IA que asistieron a la Web Summit, el mayor evento tecnológico de Europa, fue NeuralMind, de Brasil, especializada en el desarrollo de productos.
La directora ejecutiva Patricia Tavares se hizo eco de las preocupaciones de Tometi y afirmó que, aunque la IA beneficia a la sociedad, hacía falta «legislación que garantice que las empresas la utilicen de manera responsable y ética».
No muy lejos del puesto de NeuralMind, Kalinas Ovidijus, director ejecutivo de la plataforma de seguimiento de la salud Revolab, dijo que el mercado de su empresa emergente eran los países nórdicos y bálticos, y que la mayoría de los datos a los que tenían acceso, proporcionados por hospitales y centros de salud locales, correspondían a personas blancas.
No sabían si la plataforma podría atender las necesidades de salud de las personas racializadas.
«Necesitamos soluciones para el futuro, para los desafíos venideros, pero esas soluciones tienen que ser muy inclusivas», dijo Tometi. «Deben proteger a las comunidades marginadas y vulnerables; esa es su responsabilidad». (Información de Catarina Demony; información adicional de Miguel Pereira y Pedro Nunes; edición de Andrei Khalip, Alison Willliams y Gareth Jones)
