Apenas pasa un día sin que aparezca una nueva noticia sobre el poder de la IA y cómo cambiará nuestro mundo. Sin embargo, junto a las posibilidades también existen peligros. Aunque es lógico que nos entusiasme la idea de que la IA revolucione el diagnóstico de enfermedades oculares y cáncer, o la posible revolución del transporte que prometen los vehículos autónomos, no debemos ignorar los riesgos, y uno de los más acuciantes es el sesgo.
A diferencia de los robots asesinos que viajan en el tiempo, es poco probable que el sesgo de la IA protagonice el próximo éxito de taquilla de Hollywood; aun así, puede ser un problema enorme.
¿Cómo puede tener sesgos la IA?
Aunque resulte reconfortante imaginar que los algoritmos de IA son completamente carentes de emociones y neutrales, sencillamente no es así. Los programas de IA están compuestos por algoritmos que siguen reglas. Es necesario enseñarles esas reglas, lo que se hace proporcionándoles datos que luego utilizan para inferir patrones ocultos e irregularidades. Si los datos de entrenamiento se recopilan de forma imprecisa, un error o una regla injusta puede incorporarse al algoritmo y dar lugar a resultados sesgados.
Algunos ejemplos cotidianos podrían ser un software de reconocimiento facial que funciona peor con personas que no son blancas, o un software de reconocimiento de voz que reconoce las voces de las mujeres peor que las de los hombres. O pensemos en las acusaciones, aún más preocupantes, de discriminación racial en la IA que utilizan las agencias de crédito y las juntas de libertad condicional.
El algoritmo que utiliza una agencia de crédito podría desarrollarse con datos de calificaciones crediticias anteriores o basarse en los registros de pago de préstamos de un grupo concreto. También podría utilizar datos ampliamente disponibles en internet, por ejemplo, la actividad de alguien en las redes sociales o características generales del barrio donde vive. Si incluso algunas de nuestras fuentes de datos estuvieran sesgadas, si contuvieran información sobre sexo, raza, color u origen étnico, o si recopiláramos datos que no representaran por igual a todas las partes interesadas, podríamos incorporar sesgos a nuestra IA sin darnos cuenta.
Si proporcionamos a nuestra IA datos que muestran que la mayoría de los puestos de alto nivel están ocupados por hombres, de repente la IA sabe que la empresa busca contratar a un hombre, aunque ese no sea un criterio. Entrenar algoritmos con conjuntos de datos deficientes puede llevar a conclusiones como que las mujeres no son buenas candidatas para puestos de alta dirección o que es más probable que una persona perteneciente a una minoría y residente en un código postal de bajos ingresos cometa un delito.
Como sabemos por la estadística básica, aunque exista una correlación entre dos características, eso no significa que una cause la otra. Estas conclusiones quizá no sean válidas y no se debería perjudicar a las personas como consecuencia de ellas. Más bien, indican que el algoritmo se entrenó con datos recopilados de forma deficiente y debe corregirse.
Por suerte, podemos tomar algunas medidas clave para evitar que estos sesgos se formen en nuestra IA.
1. Concienciación sobre el sesgo
Reconocer que la IA puede tener sesgos es el primer paso fundamental. La idea de que la IA no tiene sesgos porque los robots no sienten emociones nos impide tomar las medidas necesarias para combatirlos. Ignorar nuestra propia responsabilidad y capacidad para actuar tiene el mismo efecto.
2. Motivación
La concienciación puede motivar en parte el cambio, pero no basta para todo el mundo. Las empresas con ánimo de lucro que crean productos para consumidores tienen un incentivo económico para evitar los sesgos y crear productos inclusivos; por ejemplo, si el último teléfono inteligente de la empresa X no reconoce bien el habla, el cliente insatisfecho acudirá a la competencia. Incluso en ese caso, un análisis de costes y beneficios puede llevar a discriminar a algunos usuarios.
En los grupos donde no existen estos incentivos económicos, necesitamos ejercer presión externa para crear otra fuente de motivación. El impacto de un algoritmo sesgado en un organismo gubernamental podría afectar injustamente a la vida de millones de ciudadanos.
También necesitamos directrices claras sobre quién es responsable cuando varios socios implementan una IA. Por ejemplo, un programa gubernamental basado en software desarrollado de forma privada y comercializado de nuevo por otra parte. ¿Quién es responsable en ese caso? Debemos asegurarnos de que no se dé una situación en la que todos se pasen la responsabilidad en un ciclo interminable.
3. Asegurarnos de usar datos de calidad
Todos los problemas que surgen de los algoritmos de IA sesgados tienen su origen en datos de entrenamiento contaminados. Si podemos evitar introducir sesgos tanto en la forma de recopilar datos como en los datos que proporcionamos a los algoritmos, habremos dado un paso importante para evitar estos problemas. Por ejemplo, entrenar software de reconocimiento de voz con una amplia variedad de usuarios y acentos representados por igual puede ayudar a garantizar que no se excluya a ninguna minoría.
Si la IA se entrena con datos baratos y fáciles de obtener, es muy probable que no se revisen para detectar sesgos. Es posible que los datos se hayan obtenido de una fuente que no era plenamente representativa. En cambio, debemos asegurarnos de basar nuestra IA en datos de calidad, recopilados de formas que mitiguen la introducción de sesgos.
4. Transparencia
La iniciativa AI Nowconsidera que, si un organismo público no puede explicar un algoritmo o cómo llega a sus conclusiones, no debería utilizarlo. En situaciones así, podemos determinar por qué se producen sesgos y decisiones injustas, dar a las personas la oportunidad de cuestionar los resultados y, como consecuencia, proporcionar comentarios que permitan abordar adecuadamente los problemas. Esto también ayuda a exigir responsabilidades a quienes corresponda e impide que las empresas eludan las suyas.
Aunque es indudable que la IA es poderosa y tiene el potencial de ayudar enormemente a nuestra sociedad, no podemos delegar nuestra responsabilidad con la igualdad en el espejismo de unos algoritmos de IA supuestamente omniscientes. Los sesgos pueden infiltrarse sin intención, pero aun así podemos actuar para mitigarlos y prevenirlos. Para ello harán falta concienciación, motivación, transparencia y asegurarnos de utilizar los datos adecuados.
