La tecnología tiene el potencial de transformar nuestras vidas para mejor.
Pero primero debemos superar los desafíos del sesgo que perpetúan las desigualdades.
Los líderes deben garantizar que la tecnología sea inclusiva en su desarrollo, aplicación y acceso.
Lea el informe "Davos Labs: Youth Recovery Plan" aquí.
Las tecnologías críticas, como la inteligencia artificial (IA) y el aprendizaje automático, ya han definido nuestro mundo y lo harán cada vez más en el futuro.
En este contexto, debemos recordar que la tecnología es ni positiva ni negativa sino un reflejo de su curaduría. Esta noción genera una responsabilidad: nuestros líderes, como curadores, deben orientar su desarrollo, implementación y accesibilidad de manera que refleje los valores de la sociedad que deseamos construir, y no simplemente proyectar y perpetuar las realidades y sesgos de nuestra historia.
La responsabilidad de los líderes consiste en afrontar el potencial exponencial y transformador de la tecnología y aprovecharlo para el bienestar de la sociedad, al tiempo que superan proactivamente los riesgos que presenta.
La promesa de las tecnologías emergentes
Innovadores de todo el mundo están demostrando que es posible aumentar la igualdad y la equidad mediante el aprovechamiento del poder de las tecnologías emergentes. Esto incluye innovaciones como Health Catalyst’s Healthcare.AI™, una plataforma analítica con un conjunto de modelos predictivos para mejorar la toma de decisiones con el fin de abordar y prevenir enfermedades que amenazan la vida. La IA también tiene el potencial de impulsar una mayor inclusión y mejores resultados de aprendizaje para los niños con necesidades especiales, gracias a la capacidad de crear herramientas educativas adaptadas a cada persona.
La IA también ofrece un potencial sin precedentes para el sector de la sostenibilidad. Se ha estimado que la aplicación de la IA para abordar los desafíos ambientales en todos los sectores podría contribuir con hasta 5,2 billones de dólares estadounidenses a la economía mundial en 2030 y podría crear 38,2 millones de nuevos empleos netos en toda la economía mundial como parte de la transición hacia una economía global limpia y verde.
Superar los desafíos
Lograr este futuro lleno de avances tecnológicos inclusivos no está exento de desafíos. Una investigación reciente investigación ha descubierto que, si bien la IA contribuirá al avance de 134 metas de los Objetivos de Desarrollo Sostenible de las Naciones Unidas, también podría obstaculizar 59 de ellas.
Sin consideraciones éticas en su núcleo, las tecnologías digitales tienen una capacidad incomparable para reforzar y acelerar las desigualdades. Esto no solo se debe a la persistencia de la brecha digital (denominada ‘la nueva cara de la desigualdad’), por la que 3.700 millones de personas siguen sin conexión a internet, sino también al potencial de aplicaciones invasivas o discriminatorias. Se ha demostrado que este tipo de aplicaciones discriminatorias ya perpetúan la desventaja en los contextos financiero, educativo, sanitario y laboral.
Estos riesgos se originan en la capacidad de la IA u otros avances tecnológicos críticos para introducir discriminación en la toma de decisiones como consecuencia de fallos éticos en el desarrollo, la implementación o la accesibilidad de estas tecnologías. El impacto a gran escala que pueden tener estos errores se ha observado en casos como el algoritmo de predicción de riesgos basado en la atención sanitaria, utilizado en unos 200 millones de estadounidenses, que, según se demostró, favorecía a los pacientes blancos frente a los negros debido a la falta de pruebas adecuadas con todos los grupos raciales predominantes antes de su implementación.
El camino a seguir
En un mundo de tecnologías emergentes no existe un enfoque único para un marco ético objetivo. Por ello, la solución y la responsabilidad deben recaer en nuestros líderes, que deben considerar la ética de forma proactiva en su toma de decisiones. Se ha demostrado reiteradamente que el liderazgo inclusivo impulsa una mejora de la innovación, la toma de decisiones y el diseño.
Ya sea en las estrategias de liderazgo, desarrollo, entrada de datos, pruebas, implementación, iteración o accesibilidad, no hay excusa para no encontrar la manera de incorporar una visión interseccional e inclusiva de nuestro mundo en el desarrollo de la tecnología, y ahí reside la clave de la tecnología ética. Este proceso consta de tres etapas.
Etapa 1: Desarrollo
Los errores anteriores nos han demostrado que debemos garantizar una consideración, representación y liderazgo inclusivos en la fase de desarrollo de la tecnología. Debemos diseñar teniendo en cuenta la ética y la seguridad, y no como un añadido posterior. Esto exige revisiones rigurosas de los conjuntos de datos utilizados, las correcciones realizadas y los métodos de prueba empleados.
Etapa 2: Implementación
Debemos contar con voces capaces de defender los intereses del conjunto de usuarios y partes interesadas que la tecnología afectará, para garantizar que la implementación refleje nuestros valores sociales, y no simplemente una mejora de los resultados financieros. Es esencial que superemos la era anterior de divulgación reactiva y de cumplimiento meramente formal en lo que respecta a la tecnología ética, y que persigamos de forma proactiva un mundo más justo, equitativo y sostenible, incorporando la inclusión en cada fase del proceso.
Etapa 3: Acceso
La consideración de la accesibilidad no debe ser un añadido posterior. Es importante contar con personas que tengan experiencia personal vivida para confirmar si la tecnología contribuirá a las desigualdades o ayudará a erradicarlas, como la brecha digital.
Mientras muchos en todo el mundo abogan por la creación de un futuro más justo, equitativo y sostenible, debemos recordar que la tecnología es una de las herramientas más valiosas para alcanzar estos objetivos, pero sin consideraciones éticas en primer plano, como el desarrollo, la implementación y el acceso interseccionales e inclusivos, es probable que esto solo perpetúe las mismas desigualdades que pretendemos abordar.
