El papel de la confianza, la ética y las prácticas responsables en el uso de datos es cada vez más importante.
Dado que las herramientas de análisis de datos, incluidas la IA y la IA generativa, utilizan datos para extraer conclusiones y generar perspectivas, la sociedad necesita crear métodos significativos para abordar la desigualdad de datos.
En un mundo que depende cada vez más de la tecnología, el diseño técnico fiable es fundamental, y la equidad de datos es clave para ello.
En nuestro mundo acelerado y basado en datos, el papel de la confianza, la ética y las prácticas responsables en el uso de datos se ha vuelto cada vez más importante. Sin embargo, su debate es cada vez más intenso, ya que las organizaciones luchan con la urgente necesidad de innovar y, al mismo tiempo, proteger los derechos humanos; la importancia de integrar la equidad de datos en este proceso resulta primordial.
Todas las personas merecen y tienen derecho a los derechos humanos universales, indivisibles e inalienables en nuestra era digital. Coincidimos y abogamos por incorporar la equidad de datos como principio fundamental para proteger estos derechos. Creemos que, al abordar la equidad de datos en el proceso de innovación, salvaguardamos los derechos y establecemos la confianza entre todas las partes interesadas.
¿Cómo está el Foro Económico Mundial creando salvaguardas para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
Mediante espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Formas de garantizar la equidad de datos
Dado que los métodos, como la inteligencia artificial y la IA generativa, utilizan datos para extraer conclusiones y generar nuevas perspectivas, como sociedad debemos crear métodos sólidos para abordar la desigualdad. La equidad de datos es un imperativo que exige una serie de acciones para responder a los daños históricos y actuales causados por nuestros datos, métodos analíticos y la falta de cuidado al aplicar los resultados a poblaciones que no siempre se han reflejado correctamente en nuestros conjuntos de datos o análisis.
Muchos de los daños resultantes han sido involuntarios; es posible que los datos se hayan recopilado con fines no relacionados o mediante métodos de recopilación desfasados o poco fiables, y que no reflejen que nuestras sociedades han crecido y cambiado con el tiempo. Lamentablemente, los datos utilizados para realizar análisis e innovación no siempre se han actualizado. Este desfase requiere la atención de los profesionales de datos y de las ciencias sociales para crear resultados justos, equitativos y coherentes para todos en nuestra sociedad.
Para garantizar la confianza y limitar los daños, se requieren dos conjuntos de acciones. En primer lugar, para lograr los resultados deseados que beneficien y afecten positivamente a todas las poblaciones, deben comprenderse los impactos sociales al diseñar los objetivos de innovación. Con la orientación de las poblaciones destinatarias y la comprensión de las normas sociales, junto con una apreciación de cómo los distintos aspectos del análisis afectarán o ignorarán a una población concreta, un proyecto de innovación puede diseñarse para garantizar resultados equitativos en los problemas que intenta resolver.
Combinar la información social con una revisión de los insumos basada en datos, que incluya la calidad, la coherencia, la integridad y la representatividad de los conjuntos de datos, así como la forma en que se estructuran los análisis de datos y los algoritmos, permitirá luego obtener mejores resultados del análisis, el aprendizaje automático y la inteligencia artificial. Un enfoque tan integral mejorará la equidad de los resultados.
Sabemos, por ejemplo, que las personas con discapacidad han sido históricamente ignoradas en el diseño de productos. Con la aportación social adecuada de una comunidad determinada, un producto puede diseñarse para satisfacer las necesidades de quienes tienen capacidades diferentes. Una vez comprendidos esos objetivos de producto, los profesionales de datos pueden garantizar que se disponga de información adecuada para realizar el análisis, tanto en la información de entrada y su calidad como en los métodos analíticos utilizados. Esto permitirá realizar pruebas más informativas y obtener resultados más inclusivos.
Creación de nuevos marcos
Lograr esta visión requiere cambios por parte de todos los implicados en la innovación digital. Exige crear nuevos marcos para el diseño digital que planteen las preguntas adecuadas desde el inicio, con el fin de garantizar un diseño más integral para los diversos individuos y comunidades que componen una población determinada y que se verá afectada por un posible producto, solución o servicio. Estos marcos ayudarán a definir los tipos de datos necesarios para garantizar la equidad en el proceso de diseño digital y técnico. A su vez, requieren métodos para recopilar esos datos, respetando la privacidad individual y los valores culturales de las distintas comunidades, y proporcionando la seguridad necesaria para la información sensible.
Aunque es un reto, este empeño es fundamental. Sin embargo, será valioso para cambiar los resultados que hoy experimentan las personas y las comunidades marginadas. Ayudará a mitigar los problemas relacionados con el sesgo en el aprendizaje automático y la inteligencia artificial, y nos hará a todos más conscientes en el proceso de diseño.
Al incorporar la equidad de datos en todos los esfuerzos de diseño, reforzamos la confianza de las comunidades en la tecnología y garantizamos que las voces diversas estén representadas a medida que evoluciona nuestro panorama digital, de modo que las comunidades y las personas confíen aún más en el proceso de diseño técnico, incorporando así la confianza en la aplicación de las tecnologías dentro de la sociedad. Podrán asegurarse de estar representadas y de que se las comprenda a medida que nuestro mundo digital sigue evolucionando y cambiando.
Sin una equidad de datos proactiva, nuestro mundo seguirá diseñando para quienes ya están representados y fomentará la incomprensión, la desconfianza y la división, ya que las innovaciones muy publicitadas no logran satisfacer las necesidades de muchos. Desperdiciaremos la oportunidad de aprovechar plenamente los beneficios del progreso tecnológico para todos y seguiremos por un camino que genera mayor división, menos confianza y un mundo que impulsa más incomprensión y desconfianza. En un mundo que depende cada vez más de la tecnología, el diseño técnico fiable es fundamental. Creemos que la confianza empieza por la equidad de datos.
