Cada vez dependemos más de la inteligencia artificial (IA) para ayudar a resolver algunos de los problemas más acuciantes del mundo. Desde la atención sanitaria hasta la modelización económica, pasando por la predicción de crisis y la respuesta ante ellas, la IA se está volviendo bastante habitual y, en algunos casos, forma parte inherente de nuestro modo de funcionar.
Si bien los conocimientos que ofrece la IA son inestimables, también debemos reconocer que no es un sistema infalible que nos proporcione respuestas perfectas, como muchos profesionales quisieran hacernos creer. Nuestros sistemas de IA son el resultado de algoritmos construidos que, aunque sin pretenderlo, han heredado muchos de los sesgos que contribuyen a perpetuar los mismos desafíos globales que aspiramos a resolver. En consecuencia, la IA y el aprendizaje automático no son procesos puramente agnósticos de análisis objetivo de datos.
Para que estas tecnologías avancen, combatan los sesgos y ayuden a abordar problemas globales significativos, debemos replantear nuestros enfoques para desarrollar herramientas basadas en IA y alejarnos de los sistemas que imponen a los datos modelos de nuestra propia comprensión. En su lugar, necesitamos un enfoque iterativo y diverso que pueda incorporar más perspectivas y una mayor diversidad de pensamiento. Los modelos desarrollados a partir de redes de inteligencia distribuidas a escala mundial pueden ofrecer un camino a seguir y enfoques más singulares e imparciales para abordar graves problemas mundiales.
Desmontar el sesgo en la IA
Los problemas causados por el sesgo inherente de nuestros sistemas se han vuelto más evidentes a medida que la IA se ha integrado cada vez más en las empresas. Empezamos a comprender tanto las repercusiones de utilizar conjuntos de datos selectivos como la forma en que los algoritmos de IA pueden incorporar y exacerbar los sesgos inconscientes de sus desarrolladores.
Tomemos, por ejemplo, el sistema de contratación y selección de personal basado en IA que Amazon abandonó. Este sistema debía ayudar a identificar posibles candidatos a un puesto analizando datos de contratación y del éxito de los empleados, y destacando a los candidatos que mejor encajaban con las características de sus contrataciones más productivas. Quizá la IA incluso podría utilizar los datos para identificar determinados rasgos o cualidades de sus mejores empleados que el equipo de recursos humanos de Amazon no había considerado.
Lo que ocurrió en realidad fue que los algoritmos de aprendizaje automático procesaron diez años de solicitudes y perpetuaron los mismos sesgos que Amazon pretendía contrarrestar. Se puede ver cómo el sistema valoraba más a los candidatos varones que a las mujeres, porque las tendencias de los datos mostraban una preferencia histórica por los candidatos masculinos. El caso de Amazon fue un ejemplo de dependencia de conjuntos de datos limitados que reflejaban un sesgo histórico, lo que dio lugar a modelos de aprendizaje automático que incorporaban los sesgos inherentes a los datos de entrenamiento.
Los mismos problemas están surgiendo también en otras aplicaciones de la IA y afectan a decisiones que van desde las solicitudes de préstamos hasta las condenas penales. La IA no se considerará una herramienta útil para ayudar a resolver estos problemas si no abordamos los problemas sistémicos más amplios de nuestros procesos de desarrollo en ciencia de datos.
El fallo de nuestro enfoque reside en la forma en que desarrollamos sistemas de IA para aplicaciones comerciales. Creamos algoritmos que se utilizan para detectar patrones en los datos y, a menudo, empleamos un enfoque de arriba abajo. Como señaló un reciente artículo de portada de WIRED, nuestros sistemas de IA dependen cada vez más del aprendizaje profundo, una técnica de aprendizaje automático que ha evolucionado durante la última década. El desafío central del aprendizaje profundo aplicado al reconocimiento de patrones es que empieza a alcanzar una meseta de utilidad para ciertas clases de problemas. Estos modelos dependen por completo de los datos, sin lógica probatoria en sus resultados, lo que significa que la IA no es capaz de intuir cómo resolver determinados problemas ni de explicar cómo llegó a una conclusión. Además, si esos datos están viciados por sesgos históricos sistemáticos, dichos sesgos se replicarán a gran escala. Parafraseando un dicho: sesgo dentro, sesgo fuera.
A medida que los desarrolladores son cada vez más conscientes de estos sesgos, intentan abordar la situación mediante contramedidas humanas. Estos esfuerzos abarcan desde recurrir a conjuntos de datos más diversos que puedan tener mejor en cuenta lo que se considera valores atípicos hasta aumentar la diversidad en todo el sector. Como ha señalado el investigador de experiencia de usuario de Google Vyacheslav Polonski en otro blog, los esfuerzos actuales se centran en aplicar los principios de representación, gestión responsable, protección y autenticidad.
Aun así, estos esfuerzos se limitan a intentar corregir problemas incrustados en el sistema, cuando en realidad deberíamos aspirar a corregir el sistema en sí. A medida que seguimos avanzando por el camino de la dependencia de la IA, debemos detenernos a considerar si nuestros modelos actuales de desarrollo de la IA nos encaminan en la dirección correcta o si existen en realidad otros modelos que podrían ser más productivos y menos propensos al sesgo.
Repensar la IA
Sostendría que los problemas de nuestros sistemas de IA no son simplemente limitaciones de los datos o puntos ciegos de los desarrolladores, sino que derivan de nuestro enfoque general sobre cómo se construyen estos sistemas. Hemos abordado el desarrollo de la IA de arriba abajo, en gran medida dictado por los puntos de vista de los países desarrollados y las culturas del primer mundo. No es de extrañar, por tanto, que los sesgos que observamos en los resultados de estos sistemas reflejen los sesgos inconscientes de estas perspectivas.
Diversificar los datos es sin duda un paso para aliviar esos sesgos, ya que permitiría contar con aportaciones más globalizadas que podrían tener prioridades y conocimientos muy distintos. Pero ninguna cantidad de datos diversificados resolverá todos los problemas si se introducen en un modelo con sesgos inherentes,.
Lo que se necesita es un sistema capaz de tener en cuenta perspectivas diversificadas a escala mundial, una red de inteligencia distribuida que pueda adaptarse a nuevos datos, incorporar nuevos modelos de pensamiento y beneficiarse de la diversidad cultural. Debemos pasar del arbitraje de mano de obra como principal medida de valor en el desarrollo tecnológico a un «arbitraje de ideas». En WorldQuant Predictive, empresa mundial de investigación y predicción, nuestro fundador, Igor Tulchinsky, considera que «el talento se distribuye por igual, pero no así las oportunidades». Del mismo modo, las ideas y los conocimientos brillantes son globales, pero rara vez son visibles o siquiera se reflejan en nuestro enfoque actual para la construcción de modelos.
En lugar de enfoques de arriba abajo que buscan imponer un modelo a datos que pueden estar fuera de su contexto, deberíamos abordar la IA como un sistema iterativo y evolutivo. Si invertimos el modelo actual para construirlo a partir de los datos en lugar de imponerlo sobre ellos, podremos desarrollar un enfoque basado en pruebas y rico en ideas para construir sistemas de IA escalables. Los resultados podrían aportar conocimientos y comprensión más allá de nuestros modos actuales de pensar.
La otra ventaja de un enfoque ascendente de este tipo es que el sistema podría ser mucho más flexible y reactivo. Podría adaptarse a medida que cambian los datos y se incorporan nuevas perspectivas. Consideremos el sistema como un andamiaje de conocimientos incrementales, de modo que, si alguna pieza resulta inadecuada, el sistema en su conjunto no falle. También podríamos tener en cuenta aportaciones mucho más diversificadas de todo el mundo, desarrollando señales iterativas para lograr modelos acumulativos a los que la IA pueda responder.
Los problemas globales a los que nos enfrentamos hoy son sin precedentes. Exigen reconocer nuevos tipos de datos, nuevos métodos para comprender la información y nuevas formas de pensar. La IA es una de las mejores herramientas potenciales de que dispone la humanidad para afrontar estos desafíos presentes y futuros, pero solo si no repetimos los errores del pasado.
