Tras las filtraciones de datos y las preguntas sobre la vigilancia y la inteligencia artificial (IA), a las empresas tecnológicas les resulta difícil ganarse la confianza de los consumidores.
Tras los estudios de caso sobre Microsoft e IBM, la comunidad del proyecto del Foro Económico Mundial Uso responsable de la tecnología trabajó con Salesforce para profundizar en su recorrido hacia una innovación más intencional.
Uso responsable de la tecnología: el estudio de caso de Salesforce muestra cómo algunas de las empresas más influyentes del sector entienden su papel en el diseño de un camino confiable para el futuro de la tecnología.
Cuanto más convive la gente con la tecnología, menos parece confiar en ella. Tras las filtraciones de datos, las preguntas sobre la vigilancia y las decisiones cada vez más trascendentales que toma la inteligencia artificial (IA), no sorprende que la relación de la persona promedio con las empresas tecnológicas sea compleja. Pero, en una de las empresas tecnológicas más grandes del mundo, un equipo dedicado de expertos en ética tecnológica y accesibilidad trabaja para que sea más fácil creer que es posible contar con una tecnología confiable.
Como parte de un esfuerzo continuo por comprender cómo evolucionan la ética, la rendición de cuentas y la acción en el sector tecnológico, miembros de la comunidad del proyecto del Foro Económico Mundial Uso responsable de la tecnología trabajaron con Salesforce para profundizar en su recorrido hacia una innovación más intencional. Junto con nuestros informes sobre Microsoft y IBM, Uso responsable de la tecnología: el estudio de caso de Salesforce muestra cómo algunas de las empresas más influyentes del sector entienden su papel en el diseño de un camino confiable para el futuro de la tecnología.
Ética tecnológica: lecciones clave de Salesforce
Estas son tres lecciones clave que pueden extraerse de la experiencia de Salesforce en ética tecnológica e innovación responsable.
1. Puedes crear una gran cultura corporativa si te guías por tus valores
La realidad incómoda que subyace a cualquier trabajo sobre ética es que, tarde o temprano, llegan las dificultades e incluso las crisis. En Salesforce, donde usar los negocios como plataforma para el cambio positivo siempre ha formado parte de la cultura de la empresa, los desafíos del mundo real ofrecieron la oportunidad de traducir los valores corporativos en acciones concretas. Esto tomó la forma tanto de activismo de base por parte de los empleados como de medidas de la dirección ejecutiva. Después de que un empleado escribiera una carta abierta al director ejecutivo para expresar su preocupación por la colaboración de la empresa con la Oficina de Aduanas y Protección Fronteriza de Estados Unidos, Salesforce creó la primera Oficina de Uso Ético y Humano.
2. Necesitas un proceso de innovación responsable en el que puedas confiar
Una parte fundamental del enfoque de Salesforce consiste en convertir sus ideas en procesos que no dependan de la visión de una sola persona. La empresa parte de principios fundamentales y del respaldo de sus empleados. A partir de ahí, los equipos dan prioridad al contacto con los consumidores para que su enfoque se mantenga anclado en la realidad. Las perspectivas de un Consejo Asesor dedicado a orientar las decisiones y la rendición de cuentas centralizada en una oficina dedicada a la ética tecnológica, con un director de Uso Ético, permiten a la empresa equilibrar la necesidad de perspectiva con la necesidad de actuar.
Un enfoque sistémico democratiza el trabajo necesario para tomar decisiones fundamentadas y acertadas, al tener en cuenta una amplia variedad de contextos y perspectivas al orientar a los líderes empresariales. Para que funcione, las personas deben confiar en que se escuchan las voces pertinentes, que los mismos principios guían cada decisión y que existen canales claros de comunicación y comentarios que los líderes toman en serio.
3. Integra la ética tecnológica en las operaciones para impulsar el impacto y la rendición de cuentas
Ampliar el impacto y la rendición de cuentas en materia de ética tecnológica e inclusión exige compartir la responsabilidad entre las numerosas áreas en las que se toman decisiones sobre productos y procesos.
Algunas formas de llevar los principios a la práctica incluyen: dar cabida a perspectivas diversas; disponer de políticas y orientaciones sobre el uso de productos que sean accesibles y prácticas; incorporar la ética al diseño de los productos, en lugar de limitarse a revisiones posteriores; formar y capacitar a los empleados; e invertir en la colaboración entre múltiples partes interesadas de todo el sector.
En última instancia, la visión de Salesforce es adoptar una actitud cada vez más proactiva. Aunque es imposible anticipar todos los riesgos, es fácil imaginar la Oficina de Uso Ético y Humano como un grupo de especialistas que prepara los edificios para resistir cualquier clima. Para ellos, asegurarse de que el edificio proverbial esté construido para soportar cualquier clima es tan importante como poder predecir una tormenta.
Cuando quienes crean y utilizan tecnología saben que la protección de su privacidad, seguridad, derechos humanos e identidad forma parte esencial de los productos y servicios —y no son parches que se aplican después de que se produzca un daño—, Salesforce cree que es posible restablecer la confianza en la tecnología.
El camino a seguir
Como ya hemos visto en Salesforce, IBM y Microsoft, la tecnología responsable ya es una prioridad. Es probable que ocupe un lugar destacado en más conversaciones a medida que aumenten la conciencia pública, la atención regulatoria y la investigación académica. Hoy, las consideraciones éticas son la piedra angular de muchas decisiones de los consumidores. El éxito de las empresas individuales y de las economías interconectadas puede depender de que el uso responsable se convierta en un principio fundamental de la manera en que se conciben, diseñan, mantienen y comercializan los productos.
Sin embargo, nuestros estudios de caso también muestran que ninguna empresa aborda estos problemas por sí sola. Al examinar de cerca las historias de organizaciones que no rehúyen abordar la ética tecnológica, podemos aprender mucho sobre cómo trazar el camino a seguir. Quizá no esté claro cada paso del recorrido, pero, al avanzar junto con sus pares, socios y las personas a las que sirven, las organizaciones pueden apoyarse en una comunidad mundial que las mantenga en la dirección correcta.
Cuando trabajamos juntos para elegir nuestro camino, esperamos que sea posible hacer de la confianza una parte intrínseca del recorrido.
