El movimiento luddita del siglo XIX pone de manifiesto que incluso los usuarios cualificados de tecnología protestarán cuando estas herramientas se utilicen para eliminar sus derechos.
Dos siglos después, la innovación sigue sin priorizar con suficiente frecuencia las preocupaciones y los temores de quienes usan las nuevas tecnologías y se ven más afectados por ellas.
El informe del Foro Económico Mundial 'Digital Trust: Supporting Individual Agency' expone por qué la transparencia, la privacidad y la posibilidad de reparación son las dimensiones clave para generar confianza digital.
Los luditas tenían razón. Aunque hoy “luddita” es un término peyorativo dirigido a las personas que se niegan a usar o comprender las nuevas tecnologías, este movimiento de protesta del siglo XIX probablemente surgió de personas que comprendían demasiado bien las consecuencias de las nuevas tecnologías.
Los seguidores autoproclamados de Ned Ludd (una figura mítica similar a Robin Hood) no odiaban la tecnología. Muchos de los integrantes del movimiento luddita eran tejedores cualificados y muy hábiles en el uso de la mejor tecnología disponible.
Más bien, recurrieron a la destrucción de máquinas como una protesta desesperada contra el uso de estas herramientas “de forma fraudulenta y engañosa” para deteriorar la calidad del oficio al que habían dedicado su vida y para eliminar los derechos en los que se habían apoyado como trabajadores.
Los luditas no protestaban contra la tecnología, sino contra las decisiones que tomaban las personas poderosas sobre la tecnología, que amenazaban con arrebatarles sus carreras, vulnerar sus derechos y sumirlos en la pobreza.
Protestaban porque la tecnología se estaba desplegando (como diríamos hoy) de una forma que carecía de transparencia en cuanto a sus objetivos, que iba en contra de sus valores y que no les ofrecía ninguna vía de reparación por los perjuicios muy reales que sufrirían.
Superar la ‘crisis de confianza’ en la tecnología
Doscientos años después, estos mismos problemas han hecho que los gobiernos y las empresas, especialmente la industria tecnológica, se muestren preocupados por una crisis de confianza.
En muchos casos, los innovadores creen que, si simplemente hacen que la tecnología sea más eficaz o aumentan su base de usuarios, eso resolverá el problema de la confianza. Sin embargo, aunque la fiabilidad es sin duda parte de la confianza, es la forma en que se toman las decisiones —y lo que se tiene en cuenta en el proceso de diseño— lo que determina si una determinada tecnología logrará ganarse la confianza.
Una lección fundamental de las experiencias de los inicios de la Revolución Industrial es que, si bien los focos suelen centrarse en las capacidades de las nuevas tecnologías, lo que con frecuencia se pasa por alto es la importancia fundamental de priorizar las necesidades y preocupaciones de las personas que las utilizan y se ven afectadas por ellas.
Esto es especialmente cierto en los casos en que los rápidos avances en inteligencia artificial (IA) y en otros campos ofrecen una enorme promesa, pero su adopción y su éxito dependen de establecer la confianza y garantizar la seguridad de los usuarios.
En la Reunión Anual del Foro Económico Mundial en Davos, los panelistas de la sesión 'Technology in a Turbulent World' describieron cómo la crisis de confianza no reside en que las personas no sepan cómo usar la tecnología, sino en que no creen que funcione en su beneficio ni que respalde sus expectativas y valores.
Al igual que con los luditas, el problema no es que la gente no confíe en las herramientas disponibles, sino que no confía en las decisiones que se toman al desarrollar y desplegar la tecnología.
Se trata fundamentalmente de una cuestión de agencia: ¿las nuevas tecnologías me apoyarán a mí y a mis necesidades como usuario, o estas tecnologías, que cada vez debo utilizar más para desempeñar mi trabajo o para participar en la sociedad, sirven en realidad a otra persona?
La mayoría de las personas no tiene claro qué decisiones intervienen en el proceso de desarrollo tecnológico. En consecuencia, no creen que su privacidad u otros valores vayan a protegerse y no piensan que nadie vaya a protegerlas si resultan perjudicadas por las nuevas tecnologías.
Confianza digital y respaldo a la agencia individual
La Digital Trust Initiative se propuso responder a esta cuestión fundamental de la confianza y desarrolló el Digital Trust Framework para garantizar que los líderes y los innovadores den prioridad a la seguridad, la protección, la fiabilidad, las prácticas de gobernanza eficaces y los usos inclusivos, responsables y éticos de las tecnologías nuevas y emergentes.
En última instancia, según las conclusiones de la investigación del Foro, la confianza es función del respeto a los valores de las personas y de la sociedad, lo que incluye los valores en torno a la agencia individual y la libertad de elección.
Esta comprensión de la interacción entre valores e innovación exige avanzar hacia la priorización de la transparencia, la salvaguarda de la privacidad y la implementación de mecanismos de reparación cuando se produzcan perjuicios.
El último informe de la Digital Trust Initiative, 'Digital Trust: Supporting Individual Agency', analiza en detalle las dimensiones de confianza digital de transparencia, privacidad y posibilidad de reparación desde las perspectivas de las organizaciones, los organismos de gobierno y las personas, todo ello con la mirada central puesta en respaldar la agencia individual.
Se anima a los líderes empresariales y gubernamentales a priorizar la perspectiva de la persona a lo largo de todo el ciclo de vida de la tecnología y a adoptar un enfoque basado en el diseño, especialmente en lo relativo a la transparencia y la privacidad.
Crear una mejor tecnología da prioridad a las personas
En última instancia, crear una mejor tecnología para las personas es una decisión de diseño deliberada que exige integrar estos elementos esenciales en la propia estructura de los procesos de desarrollo y despliegue, en lugar de tratarlos como simples reflexiones posteriores.
En lugar de atender las preocupaciones de los luditas, se criminalizaron sus actividades y el movimiento fue reprimido con violencia. Aunque el término en sí se ha convertido en motivo de burla entre los sofisticados, las demandas de agencia y respeto que expresaron los luditas siguen resonando a lo largo de la historia de la innovación tecnológica.
En un momento en que nuevas tecnologías, como las tecnologías inmersivas, la IA, la biología sintética y otras, nos sitúan al borde de un cambio social e industrial radical, tenemos la oportunidad y la obligación de hacerlo mejor esta vez y de tomar en serio estas demandas, diseñando las tecnologías emergentes con la agencia humana y el respeto a nuestros derechos en su núcleo.
