El caos provocado por la pandemia ha puesto de manifiesto la necesidad de contar con sistemas más resilientes.
La tecnología utilizada de forma responsable puede ser una herramienta eficaz para el cambio social.
Esto es lo que hemos aprendido al aplicar nuestros principios de uso ético en situaciones de respuesta a la pandemia.
En 2020, nuestro mundo se vio sacudido de formas inimaginables y nos vimos obligados a afrontar varias crisis simultáneas: de salud pública, económicas y de justicia racial.
Y aunque la tecnología no es la herramienta principal para resolver los problemas estructurales de salud y desigualdad social, puede desempeñar un papel importante junto con las iniciativas de los gobiernos y la sociedad civil. Sin embargo, para que la tecnología sea eficaz, debe desarrollarse de forma responsable; y por muy buena que sea una herramienta, la gente no la utilizará si no confía en ella.
Como directora de Ética y Uso Humanitario, durante el último año he trabajado estrechamente con mi equipo para aplicar nuestros principios de uso ético y humanitario al desarrollar tecnología que aborda estas crisis. Gracias a este trabajo, hemos aprendido valiosas lecciones que seguirán siendo importantes y pertinentes mucho después de que termine la pandemia actual. Compartimos estas lecciones con espíritu de transparencia mientras recorremos juntos este territorio inexplorado, sabiendo que siempre tenemos más que aprender.
Lección 1: Aprender del pasado y evitar reinventar la rueda
Cuando afrontamos crisis, a menudo existe una tendencia a actuar de inmediato. Sin embargo, es fundamental que dediquemos tiempo a incorporar las lecciones del pasado al desarrollar soluciones modernas. En 2020, se nos recordó que debíamos dar un paso atrás y reconocer que muchos de estos problemas no son nuevos. Aunque la COVID-19 en sí es nueva, sabemos que no es la primera crisis sanitaria mundial que hemos afrontado. Tampoco es la primera vez que ponemos de manifiesto las desigualdades en materia de salud en nuestras comunidades, aunque estas se han agravado debido a la pandemia. El mundo ya ha vivido pandemias, y hay muchas organizaciones consolidadas y de confianza que se ocupan a diario de las crisis sanitarias.
¿Qué es la Cumbre sobre Gobernanza Tecnológica Global?
Al desarrollar nuestro producto de respuesta a la pandemia, Work.com (una plataforma basada en datos diseñada para ayudar a las empresas a reabrir de forma segura y proteger a su personal), Salesforce colaboró con especialistas en privacidad y medicina para asegurarse de seguir las mejores prácticas y dar prioridad a la privacidad y los derechos humanos en este trabajo. También recurrimos a organizaciones como las Naciones Unidas y el Comité Internacional de la Cruz Roja al elaborar nuestras directrices sobre conservación y eliminación de datos.
A menudo, es más eficiente y responsable aprovechar las herramientas, los procesos y las tecnologías existentes, o apoyar a quienes ya están realizando esta labor. Cuando el tiempo apremia y hay vidas en juego, reafirmamos nuestro compromiso de confiar en los expertos y seguir las recomendaciones de salud pública. Con estas recomendaciones como guía, buscamos adaptar la rueda, no reinventarla.
Lección 2: Conocer tus valores y actuar guiándote por principios
En Salesforce, nuestros valores fundamentales influyen en todo lo que hacemos. Cuando creamos la Oficina de Uso Ético y Humanitario, empezamos por identificar un conjunto de cinco principios rectores —los derechos humanos, la privacidad, la seguridad, la honestidad y la inclusión— para orientar nuestro trabajo en materia de tecnología responsable. Estos principios, basados en pactos internacionales de derechos humanos y en los comentarios de los empleados, nos guían cada día en el diseño, el desarrollo y la entrega de nuestros productos.
Cuando estalló la pandemia y el mundo se vio sumido en la incertidumbre y el miedo, nos guiamos por nuestros principios rectores para orientar nuestro trabajo. Colaboramos con nuestro equipo de privacidad para crear un conjunto de principios específicos para guiar nuestra respuesta tecnológica a la COVID-19: 1) proteger los derechos humanos y la igualdad; 2) respetar la transparencia; 3) minimizar la recopilación de datos; 4) adoptar una perspectiva a largo plazo; 5) garantizar la seguridad de los datos personales. Volvimos una y otra vez a estas consideraciones para orientar a nuestros equipos en el desarrollo de Work.com.
Por ejemplo, estos principios nos llevaron a decidir deliberadamente no ofrecer rastreo automatizado de contactos, con el fin de proteger la privacidad y mantener la confianza de los usuarios. En cambio, ayudamos a nuestros clientes a pasar de sistemas analógicos (es decir, lápiz y papel) a sistemas digitales de rastreo de contactos, lo que mejoró su precisión y eficacia e hizo más eficiente la labor de los rastreadores humanos.
¿Qué está haciendo el Foro Económico Mundial en relación con la Cuarta Revolución Industrial?
El Centro para Tecnologías de Frontera e Innovación reúne a científicos, responsables de formular políticas y líderes empresariales para comprender las tecnologías emergentes y sus repercusiones en el mundo real.
Al facilitar la colaboración y la experimentación, el Centro ayuda a sus socios a convertir la innovación surgida de la investigación en aplicaciones prácticas que abordan desafíos globales compartidos.
Lección 3: Invertir desde el principio para crear procesos escalables y reproducibles
En una crisis, la situación cambia constantemente. Ante la aparición diaria de nueva información y nuevos desafíos, es fundamental contar con un proceso escalable y reproducible para abordar los problemas.
Hemos visto cómo las respuestas de los gobiernos a la pandemia han evolucionado: de centrarse principalmente en las pruebas y el rastreo de contactos a desplegar vacunas en todo el mundo. Para nosotros, esto supuso proporcionar orientación y asesoramiento éticos a los equipos que desarrollaban tecnologías para gestionar las vacunas contra la COVID-19. Dada la amplia necesidad y urgencia de herramientas de este tipo, como la tecnología para programar citas y las credenciales sanitarias digitales, pudimos ampliar el alcance del trabajo de nuestro equipo mediante una estrecha colaboración con integradores de sistemas y ofreciendo orientación práctica sobre cómo dar prioridad a la privacidad, la equidad y el uso ético en todo el proceso.
Otra forma de ampliar el alcance de nuestro trabajo es aprovechar la tecnología. Además de la crisis de salud pública, también nos enfrentamos a una renovada conciencia de la crisis de injusticia racial en Estados Unidos y en todo el mundo. Una de las medidas que estamos tomando para reducir los sesgos raciales y los daños en nuestros productos consiste en abordar el lenguaje excluyente en nuestro contenido técnico y nuestro código. La inclusión es una práctica continua, y nos comprometemos a revisar constantemente nuestro lenguaje técnico y a aprovechar herramientas escalables, como Acrolinx y otros complementos, para automatizar los reemplazos lingüísticos e impulsar la inclusión en nuestro lenguaje técnico.
Lección 4: La colaboración entre múltiples partes interesadas es clave
En este año de crisis, hemos aprendido que dedicar esfuerzos a escuchar, dialogar pese a nuestras diferencias y trabajar juntos es clave para afrontar una crisis.
En lo que respecta a la gestión de las vacunas y las credenciales sanitarias digitales, nos comprometemos a colaborar con otros grupos del sector para crear estándares interoperables y recomendar buenas prácticas. El uso de la tecnología para ayudarnos a superar una crisis requiere gobernanza, políticas y estándares. Queremos ser un socio digital de confianza, y la única forma de lograrlo es colaborar con otros grupos que persiguen los mismos objetivos. Esto implica asumir funciones de liderazgo en iniciativas como la Iniciativa de Credenciales de Vacunación y la Colaboración Good Health Pass, dos grupos de trabajo intersectoriales encargados de recuperar la confianza y promover la equidad y la colaboración en el desarrollo de sistemas de vacunación y pases sanitarios digitales.
También recurrimos a nuestro Consejo Asesor de Uso Ético, un grupo diverso de expertos externos y empleados de primera línea y directivos de Salesforce, para dialogar y recibir orientación sobre cuestiones de uso ético. Entendemos que, para avanzar juntos, es imprescindible aprender a mantener conversaciones difíciles y comunicarnos pese a nuestras diferencias. Hemos aprendido que la escucha activa, la disponibilidad de varios canales seguros para recibir comentarios y explicar cómo rendiremos cuentas son claves para generar confianza y lograr cambios significativos en tiempos difíciles.
«Para que la tecnología sea eficaz, debe desarrollarse de forma responsable».
Paula Goldman, directora de Ética y Uso Humanitario, Salesforce
Estas lecciones también son válidas fuera de una crisis. Como dijo, «Las crisis son crisoles de innovación».
El aprendizaje continuo y la iteración son claves para el éxito empresarial antes, durante y después de una crisis. Si dedicamos tiempo a reflexionar sobre el trabajo anterior e institucionalizamos el aprendizaje continuo, estaremos mejor preparados para afrontar los obstáculos del futuro.
