La COVID-19 ha puesto de relieve la necesidad de tener en cuenta los derechos humanos y la privacidad durante el desarrollo tecnológico.
Un conjunto dinámico de pautas éticas puede ayudar a los equipos a crear soluciones tecnológicas responsables.
La urgencia por desarrollar soluciones tecnológicas para combatir la pandemia ha traído una oleada de consideraciones sobre privacidad de datos y ética, especialmente en relación con las muchas formas en que las comunidades marginadas se han visto afectadas de manera desproporcionada.
Para que la tecnología genere confianza a largo plazo, deben tenerse en cuenta los derechos humanos y la privacidad. De hecho, demostrar y ganarse la confianza de los empleados es uno de los asuntos más importantes a los que se enfrentan hoy las empresas.
La ética por diseño es un marco que incorpora salvaguardas éticas al diseño, el desarrollo y la implementación. Este enfoque es fundamental para crear soluciones tecnológicas responsables, especialmente en medio de la urgencia de una crisis.
Esta primavera, cuando Salesforce empezó a trabajar en nuevas soluciones tecnológicas para la crisis de la COVID-19, elaboramos un conjunto de pautas basadas en valores para incorporar el uso ético a la tecnología que estábamos desarrollando. El proceso de creación de esas pautas nos enseñó lecciones importantes sobre cómo crear tecnología en tiempos de crisis y cómo la ética puede impulsar la innovación. Estas son algunas de las lecciones que hemos aprendido hasta ahora.
¿Qué está haciendo el Foro Económico Mundial en materia de diversidad, equidad e inclusión?
El Centro para la Nueva Economía y la Sociedad conecta a líderes para comprender cómo los cambios económicos y tecnológicos están transformando los empleos, las habilidades y las oportunidades.
Mediante el conocimiento compartido y la colaboración, el Centro permite a sus socios explorar modelos económicos inclusivos que apoyen a las personas y las sociedades durante la transición.
1) Escuche a sus comunidades
En el centro de la creación de pautas éticas está la protección de las poblaciones más marginadas de nuestras comunidades y tener presente cómo un producto puede afectarlas. Lo pensamos en términos de «intención frente a impacto». Independientemente de nuestra intención, tenemos la responsabilidad de considerar el impacto de nuestras acciones.
Para ello, asegúrese de incorporar comentarios y recabar perspectivas de una amplia diversidad de integrantes de su comunidad. Esto puede incluir grupos focales con públicos diversos o colaborar estrechamente con grupos de recursos para empleados a fin de comprender distintas experiencias e inquietudes.
Además, considere cómo involucrar activamente a un conjunto diverso de expertos, como profesionales de la salud pública y médica, así como expertos en privacidad. Al elaborar nuestras pautas, tomamos como referencia las normas de la Organización de las Naciones Unidas y del Comité Internacional de la Cruz Roja así como principios de privacidad y reglamentos de protección de datos, como el Reglamento General de Protección de Datos. También consultamos a nuestros Grupos de Recursos para Empleados, al Consejo Asesor sobre Uso Ético y a otros grupos de la sociedad civil. Además, colaboramos con el Proyecto sobre el Uso Responsable de la Tecnología del Foro Económico Mundial para compartir buenas prácticas en ámbitos como las herramientas para el desarrollo ético de productos, el diseño organizativo y el apoyo a los empleados.
Además, consultamos periódicamente a nuestro Consejo Asesor sobre Uso Ético para obtener aportaciones y comentarios más amplios sobre diversos asuntos. En las reuniones del Consejo también escuchamos a los empleados que trabajan directamente con el producto, así como a directivos, sobre cuestiones clave que afectan a nuestra empresa y nuestro trabajo.
2) Asegúrese de que sus pautas sean accesibles y aplicables
Para que las pautas sean eficaces durante una crisis, es fundamental que el público destinatario pueda entenderlas y aplicarlas rápidamente. Cuando presentamos por primera vez nuestras pautas a nuestros propios empleados en grupos focales, nos dijeron que «parece un artículo académico»,» porque el contenido era muy largo y denso.
Las pautas deben adaptarse a cada público, tanto en el formato como en el contenido. Por eso creamos una presentación para ayudar a nuestros equipos de producto a ponerse en el lugar de los usuarios finales mediante una serie de preguntas basadas en situaciones reales. En cambio, los equipos de ventas querían contenido fácil de asimilar, así que creamos un documento de preguntas frecuentes acompañado de videos breves que explicaban cómo nuestras pautas resuelven los problemas de los clientes.
Para muchos, incorporar la ética al proceso de diseño es un concepto nuevo y un aspecto que puede pasarse por alto fácilmente cuando hay poco tiempo. Nuestro primer conjunto de pautas de respuesta a la COVID-19 llevó a muchos empleados a preguntarse: «De acuerdo, esto está muy bien, pero ¿qué significa esto para mí?». Aprendimos que, para que las pautas pudieran aplicarse rápidamente, debíamos trabajar más estrechamente con los equipos y acompañarlos de verdad, para comprender el impacto que tendrían en su trabajo. Esto implicó invertir tiempo y recursos en asistir a las reuniones breves de los equipos, participar desde el principio en las hojas de ruta de los productos y facilitar sesiones de capacitación en directo para distintos grupos, a fin de garantizar que nuestras pautas funcionaran para los equipos.
3) Cree mecanismos para recibir comentarios de forma continua
Ningún prototipo es perfecto, pero mejorar cualquier diseño inicial requiere recabar comentarios de forma continua. ¿El producto resuelve problemas o crea más? ¿Cumple lo que promete? Al compartir cada conjunto de pautas, solicitamos comentarios directamente, tanto a nuestros propios empleados como a clientes y socios. Al preparar los planes del proyecto para su producto, asegúrese de reservar espacio para recibir comentarios en los hitos clave.
Solicitamos continuamente a nuestros empleados comentarios sobre inquietudes relacionadas con el uso ético, como las consecuencias imprevistas de un producto o las preguntas de los clientes, y ofrecemos maneras de escuchar sus preocupaciones. Hay muchas formas de ponerse en contacto con nuestra Oficina de Uso Ético y Humano, y también organizamos horarios de consulta para conocer los problemas que puedan estar afrontando los empleados.
Mientras elaborábamos nuestras pautas sobre la COVID-19, también organizamos grupos focales con empleados de las áreas de tecnología, marketing y productos para ponerlas a prueba y definir los siguientes pasos; les hicimos preguntas como «¿Son claras las pautas?» o «¿Qué recursos adicionales necesitan?». Los grupos focales incluyeron tanto a empleados que ya defendían el uso ético como a grupos de empleados seleccionados al azar que quizá estuvieran menos familiarizados con este trabajo.
4) Planifique la vida después de la crisis
La crisis de la COVID-19 es un recordatorio importante de que las pautas que elabore deben poder utilizarse durante la recuperación y después de ella, reflejar las necesidades cambiantes y adoptar una perspectiva a largo plazo.
Por ejemplo, en lo que respecta al intercambio de datos, los peligros inmediatos de la crisis de la COVID-19 hicieron que más personas estuvieran más dispuestas a compartir datos que de otro modo quizá no habrían compartido, como su temperatura u otros síntomas de la COVID-19. Sin embargo, esa disposición puede disminuir a medida que avance la recuperación, y es importante proteger esa capacidad de elección. Por ello, las pautas deben incluir medidas para conservar los datos solo durante el tiempo necesario para que la solución sea eficaz, y ofrecer opciones para anonimizar y agregar la información siempre que sea posible.
«La reconstrucción tras una crisis crea una oportunidad de cambio positivo y crecimiento si se lleva a cabo de forma responsable».
5) Evolucione junto con la tecnología y la sociedad
Nuestras pautas no son perfectas y seguirán evolucionando. Esa evolución es clave para responder en tiempos sin precedentes, cuando las soluciones cambian constantemente según el país, la comunidad y los avances tecnológicos, que ponen continuamente a prueba las prácticas establecidas.
En medio de una crisis, puede ser difícil encontrar el tiempo o los recursos para escuchar a todos los grupos pertinentes o afrontar cada desafío. Aun así, un enfoque comprometido con la evolución permitirá que cualquier conjunto de prácticas siga siendo pertinente. Mientras todos atravesamos esta tormenta y contribuimos a la recuperación, es fundamental prestar atención y escuchar a nuevos expertos y comunidades para orientar los próximos pasos, y estar preparados para seguir aprendiendo.
La reconstrucción tras una crisis crea una oportunidad de cambio positivo y crecimiento si se lleva a cabo de forma responsable y teniendo en cuenta a las poblaciones vulnerables. Ya hemos empezado a ver que grupos internos plantean nuevos tipos de preguntas, inician conversaciones reflexivas sobre el impacto de sus productos y buscan comprender mejor las posibles consecuencias imprevistas de su tecnología.
Nos comprometemos a mantener la conversación y a contribuir a orientar a nuestras comunidades durante la recuperación. Las pautas que las empresas elaboren ahora pueden servir como herramientas poderosas para impulsar este cambio sistémico y afrontar los cambios que vendrán.
