En lo que respecta al desarrollo de la inteligencia artificial, el presidente Trump quizá prefiera un enfoque de libre mercado. Sin embargo, varios expertos discrepan: necesitamos directrices para proteger a las personas de los algoritmos discriminatorios.
Hoy, un grupo de organizaciones de derechos humanos como Human Rights Watch, Amnistía Internacional, la Fundación Wikimedia, Access Now y otras instaron a los gobiernos y a las empresas tecnológicas a adoptar principios rectores para proteger los derechos humanos.
Como parte del simposio RightsCon Toronto de hoy, las organizaciones se unieron para redactar la Declaración de Toronto sobre el Aprendizaje Automático, que puede consultarse íntegramente en el sitio web de Access Now.
La declaración pide a los ingenieros que desarrollen y revisen algoritmos con el objetivo explícito de promover la transparencia y la igualdad, y de trabajar para acabar con el racismo y la discriminación propagados por los algoritmos.
Ya es bien sabido que los algoritmos, por útiles que sean, aprenden nuestros sesgos implícitos a partir de la información que les proporcionamos. Y cuando los usamos para determinar a quién debería investigar la policía o quién debería cumplir los requisitos para obtener un préstamo, dan forma al mundo en consecuencia.
Lo que hace única a la Declaración de Toronto es su llamado a ofrecer soluciones concretas. El documento se basa en las leyes internacionales de derechos humanos para sostener que quienes sufran discriminación por parte de algoritmos de inteligencia artificial deberían tener vías para solicitar reparación.
La declaración afirma:
«Los patrones existentes de discriminación estructural pueden reproducirse y agravarse en situaciones propias de estas tecnologías; por ejemplo, los objetivos de los sistemas de aprendizaje automático pueden crear indicadores de éxito que se cumplen por sí solos y reforzar patrones de desigualdad, o pueden surgir problemas del uso de conjuntos de datos no representativos o “sesgados”.
Todos los actores, públicos y privados, deben prevenir y mitigar los riesgos de discriminación en el diseño, el desarrollo y la aplicación de tecnologías de aprendizaje automático, y garantizar que existan recursos efectivos antes de su implementación y durante todo el ciclo de vida de estos sistemas».
En definitiva, la Declaración de Toronto es un llamamiento a proteger a los grupos marginados, que suelen soportar el peso de la discriminación sistémica. El mundo del desarrollo tecnológico está formado en su mayoría por hombres blancos adinerados, y sin duda hay muchos que querrían que siguiera siendo así, aunque no lo dijeran explícitamente.
Es fundamental llamar la atención sobre los derechos y las necesidades de quienes con tanta frecuencia quedan excluidos de la conversación. Y aunque firmar la Declaración de Toronto no sea jurídicamente vinculante, constituye un primer paso importante para garantizar que el futuro de la tecnología inteligente se base en la igualdad y la inclusión.
