Un marco para avanzar en la equidad de datos en un mundo digital

La equidad de datos es una responsabilidad compartida que requiere una acción colectiva para crear prácticas y sistemas de datos que conduzcan a resultados justos y equitativos para todos.

Dado el papel cada vez más importante de los sistemas basados en datos en nuestras sociedades digitales, es crucial reflexionar continuamente sobre el impacto del uso de los datos en las personas. A medida que evolucionan tecnologías como el aprendizaje automático y la inteligencia artificial (IA) generativa, los problemas relacionados a la equidad de datos pueden agravarse, a menos que se aborden desde las fases fundacionales.

Al abordar el tema de la equidad a lo largo del ciclo de vida de los datos, se pueden mejorar las prácticas para promover resultados justos, equitativos y beneficiosos para todos los individuos, grupos y comunidades.

Vivimos en una sociedad digital que cada vez más utiliza sistemas de algoritmos automatizados y basados en datos en la toma de decisiones. Pero nuestro mundo basado en datos no está diseñado para impulsar resultados equitativos, sencillamente porque no se diseñó pensando en la equidad. Por el contrario, refleja las variedades de nuestras sociedades, las desigualdades históricas, los prejuicios y las diferencias.

La equidad de datos es esencial en esta era digital impulsada por la IA para reconocer el impacto material de estos sistemas en las personas, la sociedad y su capacidad para ejercer sus derechos humanos. Al incorporar la equidad de datos en todos los esfuerzos de diseño, implementación y uso, garantizamos que las voces de las diversas comunidades estén representadas. Además, reforzamos la confianza en la aplicación de tecnologías dentro de la sociedad a medida que nuestro panorama digital sigue evolucionando.

Pero, ante todo, debe existir una definición armonizada de lo que constituye la equidad de los datos. Así podemos fomentar la alineación y la colaboración para poner en práctica este concepto y medir los progresos tangibles.

El Global Future Council on the Future of Data Equity, un grupo de expertos de múltiples partes interesadas del Foro Económico Mundial, elaboró una definición que refleja la naturaleza integral de este concepto y cómo afecta a todos los sectores, industrias y regiones a lo largo del ciclo de vida de los datos. Este trabajo fue fruto de varias rondas de consultas e investigación.

Según el Council, "la equidad de datos es la responsabilidad compartida de unas prácticas de datos justas que respeten y promuevan los derechos, oportunidades y dignidad humanos. La equidad de datos es una responsabilidad fundamental que requiere una acción estratégica, participativa, inclusiva y proactiva, colectiva y coordinada, para crear un mundo en el que los sistemas basados en datos conduzcan a resultados equitativos, justos y beneficiosos para todas las personas, grupos y comunidades. Reconoce que las prácticas relacionadas a los datos – incluyendo la recopilación, selección, tratamiento, retención, análisis, gestión y aplicación responsable de los conocimientos resultantes – tienen impactos significativos en los derechos humanos y en el consiguiente acceso a los recursos y oportunidades sociales, económicos, naturales y culturales".

Para pasar de una definición teórica a un impacto accionable, el Global Future Council on Data Equity desarrolló un marco para animar a la reflexión, guiar la investigación e impulsar acciones correctivas para lograr prácticas de datos responsables en diferentes contextos, además de promover la coherencia y el cumplimiento de la normativa a nivel internacional.

Este marco se concibió como un pilar fundamental para la transformación de prácticas con el objetivo de abrazar plenamente la inclusión y la equidad en los datos. Se pretende que sirva de marco de investigación, una guía que ayude a estimular el diálogo y la evaluación dentro de las organizaciones que buscan utilizar la IA de manera más amplia.

El marco se inspira en principios de datos ya existentes, como FAIR, CARE y TRUST, y está arraigado en el modelo Te Mana o te Raraunga, que rige la soberanía de datos de los indígenas maoríes según la lógica de transmisión de conocimientos tradicionales utilizada por los guardianes de esos conocimientos.

Este claro enfoque en la equidad y su inspiración derivada del modelo de datos maorí hacen que este marco sea único entre otros estándares de datos existentes.

El marco consta de tres categorías – datos, personas y propósito – y diez características que abarcan temas clave y plantean interrogantes de investigación.

Además de esos planteamientos, el marco también sugiere acciones dependiendo del contexto específico y de las partes interesadas implicadas. La intención es identificar los problemas y posibles soluciones para forjar un mundo más equitativo.

La utilidad del marco de equidad de datos puede demostrarse a través de casos prácticos de uso. Por ejemplo, tener en cuenta la equidad en la recopilación y monitoreo de datos climáticos puede conducir a datos climáticos más sólidos para orientar estrategias de mitigación más eficaces.

En la actualidad, existen importantes lagunas en la recopilación de datos climáticos, especialmente en las zonas rurales y remotas del Sur Global. Algunas prácticas para promover la equidad de datos, como invertir en la recopilación de datos y en el desarrollo de capacidades en las comunidades, puede mejorar la granularidad de los datos climáticos y, a su vez, permitir e incentivar un monitoreo más eficaz del clima.

La equidad de datos trasciende los procesos técnicos y se refiere fundamentalmente al impacto de los datos en las personas y las comunidades; su fundamento es la responsabilidad compartida de prácticas de datos justas que respeten y promuevan los derechos, oportunidades y dignidad humanos. Así, a medida que avanzan las capacidades técnicas, es imperativo que también aumente la conciencia de las implicaciones sociales.

El Global Future Council on Data Equity se dedica a forjar un futuro en el que las tecnologías de vanguardia empoderen a todos, y a garantizar que la equidad y la inclusión impulsen tanto los avances tecnológicos como sus aplicaciones en el mundo real.

En la búsqueda de un mundo más equitativo, la definición de equidad de datos y el marco propuesto pretenden servir no solo como un conjunto de directrices, sino como herramientas dinámicas. Se insta a todas las partes interesadas de todos los sectores involucrados en los ámbitos de datos y tecnología a que prioricen e integren la equidad en cada etapa de su trabajo.

Con ello se pretende garantizar que la era de la transformación digital se caracterice no solo por avances tecnológicos, sino también por importantes avances sociales.