Las oportunidades que la inteligencia artificial (IA) puede desbloquear para nuestro mundo – desde descubrir curas para enfermedades que matan a millones cada año para reducir significativamente reducir las emisiones de carbono – se amplían cada día. Esto incluye un subconjunto de la IA denominado aprendizaje automático, que aprovecha la capacidad de las máquinas para aprender a partir de enormes cantidades de datos y utilizar esas lecciones para hacer predicciones. El aprendizaje automático (ML) ya está abriendo caminos hacia la inclusión financiera, la participación ciudadana, una atención sanitaria más asequible y muchos otros sistemas y servicios vitales. Los sistemas de ML pueden destacar una publicación en el feed de noticias de su Facebook según su actividad en línea, o seleccionar candidatos en un proceso de contratación. El ML es una de las herramientas más poderosas que ha creado la humanidad, y nunca ha sido tan importante aprender a aprovechar su poder para el bien.
La atención pública suele centrarse en las amenazas existenciales que la superinteligencia artificial plantea para la humanidad (“los robots vienen a matarnos”), o en el relato opuesto de salvación (“la IA resolverá todos nuestros problemas”). Pero existe un riesgo más inmediato y menos visible cuando las máquinas toman decisiones: el posible refuerzo de sesgos sistémicos y de la discriminación. Las tecnologías de ML ya toman decisiones que alteran la vida de las personas a diario. Como escribió Jim Dwyer en el New York Times: “Los algoritmos pueden decidir en qué escuelas van los niños, con qué frecuencia se recoge la basura, qué comisarías de policía reciben más agentes, dónde las inspecciones de códigos de edificación deben dirigirse, y hasta qué métricas se usan para calificar a un docente.”
Aprender a no discriminar
Al otorgar a las máquinas el poder de tomar decisiones críticas sobre quién puede acceder a oportunidades vitales, debemos evitar resultados discriminatorios. Después de todo, el aprendizaje automático es solo una herramienta. La responsabilidad recae en las personas que lo utilizan con sensatez, especialmente en quienes lideran su avance, desde los directivos de las empresas hasta los ingenieros de sistemas. En otras palabras, debemos diseñar y utilizar las aplicaciones de ML de manera que no solo mejoren la eficiencia empresarial, sino que también promuevan y protejan los derechos humanos. Utilizar la tecnología para automatizar decisiones no es una práctica nueva. Pero la naturaleza de la tecnología de ML –su omnipresencia, complejidad, exclusividad y opacidad– puede amplificar problemas de larga data relacionados con el acceso desigual a las oportunidades. Los resultados discriminatorios en el aprendizaje automático no solo pueden socavar los derechos humanos, sino que también pueden provocar la erosión de la confianza pública en las empresas que usan la tecnología. Debemos abordar estos riesgos evaluando las formas en que la discriminación puede infiltrarse en los sistemas de ML y, después, logrando que estos sistemas “aprendan” a no discriminar.
¿Qué ocurre cuando las máquinas aprenden a discriminar?
La mayoría de las historias que hemos conocido sobre discriminación en el aprendizaje automático proceden de Estados Unidos y Europa. Casos como el de un mecanismo de fotos de Google que etiquetó erróneamente una imagen de dos amigos negros como gorilas, y herramientas de predicción policial que han demostrado amplificar los sesgos raciales, han recibido amplia e importante cobertura mediática. En muchas partes del mundo, especialmente en países de ingresos medios y bajos, utilizar ML para tomar decisiones sin tomar precauciones adecuadas para prevenir la discriminación probablemente tendrá consecuencias de largo alcance, duraderas y potencialmente irreversibles. Tome, por ejemplo, cualquiera de los siguientes casos:
• En Indonesia, el desarrollo económico se ha desigualado según líneas geográficas (y, por consiguiente, étnicas). Aunque el acceso a la educación superior es relativamente uniforme en todo el país, las diez mejores universidades están todas en la isla de Java, y la gran mayoría de los estudiantes que asisten a esas universidades proceden de Java. Cuando las empresas que contratan en sectores de oficina entrenan sistemas de ML para filtrar a los candidatos según factores como el nivel de estudios alcanzado, podrían excluir sistemáticamente a quienes provienen de islas más pobres, como Papúa.
• Ya existen métodos que permiten a las aseguradoras predecir los riesgos futuros para la salud de cada persona. México es uno de los países donde, para la mayoría, la atención sanitaria de calidad solo está disponible a través de seguros privados. Al menos dos aseguradoras multinacionales privadas que operan en México utilizan ahora ML para maximizar su eficiencia y rentabilidad, con posibles implicaciones para el derecho humano a un acceso justo a una atención sanitaria adecuada. Imagine un escenario en el que las aseguradoras utilicen ML para extraer datos, como el historial de compras, con el fin de reconocer patrones asociados a clientes de alto riesgo y cobrarles más: los más pobres y enfermos serían los menos capaces de costear el acceso a los servicios de salud.
• Aunque se dispone de pocos detalles públicos, los informes sugieren que China está creando un modelo para puntuar a sus ciudadanos mediante el análisis de una amplia gama de datos, desde registros bancarios, fiscales, profesionales y de desempeño hasta información de teléfonos inteligentes, comercio electrónico y redes sociales. The Washington Post lo describió como un intento “de usar los datos para imponer una autoridad moral diseñada por el Partido Comunista”. ¿Qué significará en el futuro que los gobiernos actúen sobre puntuaciones calculadas con datos incompletos o históricamente sesgados, mediante modelos no diseñados para ser justos?
Estos escenarios nos muestran que, aunque el aprendizaje automático puede beneficiar enormemente al mundo, también existen riesgos importantes que hay que considerar. Debemos examinar con atención las formas en que la discriminación puede colarse en los sistemas de ML, y qué pueden hacer las empresas para evitarlo.
Si, como sostiene Klaus Schwab en su libro, La Cuarta Revolución Industrial, queremos trabajar juntos para “dar forma a un futuro que funcione para todos, poniendo a las personas en primer lugar, empoderándolas y recordándonos constantemente que todas estas nuevas tecnologías son, ante todo, herramientas creadas por personas para personas”, debemos diseñar y utilizar el aprendizaje automático para prevenir la discriminación, y no para profundizarla.
Cómo prevenir los resultados discriminatorios en el aprendizaje automático. Descargue aquí el informe completo.
