La inteligencia artificial constituye uno de los avances con mayor impacto para las empresas y las organizaciones en general.
Sin embargo, esta tendencia, de rápido avance e imparable, plantea cuestiones éticas.
Puede resultar complicado garantizar que el desarrollo de la IA sea justo cuando los algoritmos en su núcleo se diseñan con sesgos racistas, sexistas u otros sesgos que, a menudo, son inconscientes.
A continuación, Lorena Blasco-Arcas y Hsin-Hsuan Meg Lee proponen una visión centrada en las personas para el diseño de marcos específicos y sistemas regulatorios.
“Ok, Google, ¿qué tiempo hace hoy?” “Lo siento, no lo entiendo.”
¿Le suena esta experiencia, la de interactuar con máquinas inteligentes que no responden a las órdenes? Este fallo puede dejar a las personas desconcertadas, como si su inteligencia no estuviera en la misma longitud de onda que la de las máquinas. Aunque no es la intención del desarrollo de la IA (interactuar de forma selectiva), es probable que estos incidentes sean más frecuentes para las «minorías» en el mundo tecnológico.
El mercado mundial de software de inteligencia artificial (IA) se prevé que crezca con fuerza en los próximos años, hasta alcanzar unos 126 000 millones de dólares estadounidenses en 2025. El éxito de la tecnología de IA está obligando a muchas empresas existentes a transformar su modelo de negocio y a orientarse hacia la IA. Sin embargo, junto con este avance, crece la preocupación por los sesgos presentes en el desarrollo de algoritmos de todas estas herramientas.
Cómo se hacen evidentes los fallos de la IA
El sesgo algorítmico no es nada nuevo. Sin embargo, hasta la fecha, los ingenieros se han centrado más en desarrollar algoritmos de IA para resolver problemas complejos que en supervisar e informar sobre los posibles problemas que traen consigo estos avances tecnológicos. Ya hemos visto ejemplos de fallos de la tecnología con el auge de prácticas discriminatorias. Por ejemplo, en 2016, Microsoft lanzó su chatbot de autoaprendizaje Tay en Twitter. Se suponía que era un experimento de «comprensión conversacional». La herramienta de IA podía aprender los fundamentos del lenguaje y, con el tiempo, podía participar por sí sola en una conversación. Sin embargo, el bot acabó desarrollando rasgos racistas y sexistas en las redes sociales. Otro ejemplo se produjo en el MIT cuando, mientras trabajaba en el reconocimiento facial, Joy Buolamwini llevó a cabo un experimento discriminatorio sin saberlo. Como mujer de piel oscura, la IA no la reconoció con tanta precisión como a su amiga blanca. Los resultados pasaron completamente por alto el sentido de la experiencia, y descubrió que el ordenador identificaba al 99 % de las mujeres blancas, frente al 65 % de las mujeres negras.
¿Hubo una intención humana detrás del comportamiento de la IA? Quizá sí, quizá no. Estos ejemplos no significan que las herramientas de IA estuvieran fundamentalmente defectuosas o diseñadas para ser racistas. No obstante, su diseño estaba sesgado y no se controlaron lo suficiente antes de salir al público. Los sesgos en los datos pueden dar lugar a prácticas discriminatorias derivadas de una intención humana o de un acto no intencionado, perpetuando el/los sesgo(s) de generaciones. Peor aún, como la discriminación resultante es casi siempre una propiedad emergente no intencionada del uso del algoritmo, y no una decisión consciente de sus programadores, resulta difícil identificar el origen del problema o explicarlo ante un tribunal. Las máquinas tienden a dar la impresión –falsa– de que son neutrales.
¿Cómo desarrollar una aplicación de IA ética y no sesgada en una sociedad indudablemente sesgada y desequilibrada? ¿Puede la IA ser el santo grial que desarrolle sociedades más equilibradas que superen la desigualdad y la exclusión tradicionales? Es demasiado pronto para afirmarlo, y parece evidente que presenciaremos muchas fases de ensayo y error antes de alcanzar un consenso sobre qué y cómo podría utilizarse la IA de forma ética en nuestras sociedades. Al igual que el racismo institucional, que exige cambios fundamentales en el ecosistema en su conjunto, los problemas del desarrollo de la IA también requieren un cambio similar para generar mejores resultados. Para resolver este problema, proponemos priorizar a las personas frente al avance tecnológico, trabajando en tres ámbitos:
1. Eliminar los sesgos de los seres humanos (sesgados)
Detrás del desarrollo y la implementación de algoritmos hay desarrolladores y personas concretas que ocupan puestos de poder. Como muestran los datos, el mundo profesional de los desarrolladores está lejos de ser diverso en la actualidad, lo que explica algunas de las lógicas de pensamiento que fomentan los sesgos. Aumentar la diversidad y el acceso a los puestos de desarrollo en las grandes empresas que dominan el sector ofrecería una perspectiva más crítica sobre cómo se desarrollan los algoritmos. Esto incrementaría la inclusión humana en lugar de lo contrario. Si entendemos el sesgo algorítmico como la imposición de ideas específicas mediante la informática y las matemáticas como coartada, podemos cuestionar la lógica institucional que perpetúa los sesgos y las prácticas discriminatorias.
Es necesario aumentar el control, los sistemas de supervisión, la regulación y los marcos éticos comunes para garantizar que el sesgo humano no permee la creación y el desarrollo de algoritmos. Nos hacemos eco de la opinión de los profesores Ayanna Howard y Charles Isbell de Georgia Tech, quienes consideran que reconocer la importancia de la diversidad en materia de datos y liderazgo, y exigir responsabilidades en determinadas decisiones, son principios rectores esenciales para lograr un desarrollo e implementación de la IA más justos en el futuro.
2. Datos para el bien en lugar de datos para el sesgo
Se están desarrollando iniciativas vitales que podrían ayudar a resolver los sesgos históricos de los conjuntos de datos, como la realizada por un investigador de la Universidad de Ontario, que utilizó el conjunto de datos MNIST y redujo esa base de datos de 60 000 imágenes a solo 5 para entrenar un modelo de IA. Si estos procedimientos se aplicaran con éxito a otros contextos, harían la IA más accesible para las empresas que quizá no puedan permitirse bases de datos masivas. También mejoraría la privacidad de los datos y la recogida de datos, ya que se necesitará menos información de las personas para entrenar los modelos pertinentes.
3. Educar a la ciudadanía sobre las ventajas y los riesgos de las aplicaciones de IA
El desarrollo de la IA plantea retos diversos y notables en lo que respecta a la comprensión de las sociedades, la política, los negocios e incluso nuestra vida diaria como ciudadanos. A medida que la IA está cada vez más presente en los procesos empresariales que afectan a las decisiones y posibilidades de las personas, se necesita más formación para sensibilizar y mejorar la comprensión de estos temas.
La preparación tecnológica de la ciudadanía mejorará la adopción de la IA y tendrá un impacto positivo en la evaluación crítica de la implementación de la IA y sus efectos. Una ciudadanía más consciente tolerará menos la manipulación y la aceptación de aplicaciones de la tecnología de IA sesgadas o injustas, como las relacionadas con la vigilancia que puedan entrar en conflicto con las libertades y los derechos civiles.
Hacer que las máquinas sean más humanas, o incluso suprimir la inteligencia humana, se ha considerado a menudo uno de los objetivos últimos del avance tecnológico. El desarrollo tecnológico centrado en las personas implica que los desarrolladores y las empresas que utilizan las máquinas no solo deben aspirar a la innovación, sino también prestar atención a su posible impacto en la sociedad. Los seres humanos son imperfectos, lo que significa que nuestra sociedad está naturalmente llena de sesgos sistemáticos e institucionales, y no siempre somos conscientes de ellos. Pero debemos evitar reproducir los mismos problemas en las máquinas que construimos.
