La innovación responsable comienza con un cambio cultural y las herramientas adecuadas.
Microsoft puso en marcha desde nuevos conjuntos de principios hasta ejercicios de simulación de roles y objetivos de desempeño para empleados con el fin de ayudar a desarrollar una IA más responsable e inclusiva.
Alinear a la fuerza laboral en torno a objetivos de innovación responsable puede ayudar a seguir el progreso hacia la estandarización dentro de una empresa.
Pese a sus buenas intenciones, a menudo existe en las empresas una brecha entre el deseo de actuar éticamente y llevar a la práctica esas buenas intenciones.
A esto lo llamamos la brecha entre intención y acción. Cerrar esta brecha es clave para garantizar que la tecnología se desarrolle de una manera más responsable e inclusiva.
Para ayudar a cerrar la brecha entre intención y acción, el Foro Económico Mundial emprendió recientemente un proyecto para descubrir herramientas, procesos y lecciones de organizaciones que han avanzado en la incorporación de la ética a la tecnología. Este proyecto, que estudió el recorrido de Microsoft para poner en práctica sus iniciativas de innovación responsable entre sus más de 145.000 empleados, analizó la evolución de la cultura de la empresa, las herramientas y los procesos que creó, y la eficacia de estas iniciativas.
Las conclusiones de esta investigación se recopilaron en un informe titulado Uso responsable de la tecnología: el caso de Microsoft, elaborado conjuntamente por el Foro Económico Mundial y el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara. A continuación se resumen las cuatro principales lecciones de esta investigación.
¿Qué está haciendo el Foro Económico Mundial en relación con la Cuarta Revolución Industrial?
El Centro de Tecnologías de Frontera e Innovación reúne a científicos, responsables políticos y líderes empresariales para comprender las tecnologías emergentes y sus implicaciones en el mundo real.
Al facilitar la colaboración y la experimentación, el Centro ayuda a sus socios a convertir la innovación de la investigación en aplicaciones prácticas que abordan desafíos globales compartidos.
1. La innovación responsable comienza con un cambio cultural.
Cuando Satya Nadella se convirtió en director ejecutivo de Microsoft en 2014, introdujo el enfoque de «mentalidad de crecimiento». Este enfoque, desarrollado por la investigadora Carol Dweck, analiza cómo el pensamiento influye en las actividades humanas. Esta mentalidad propició un entorno de introspección, innovación y aprendizaje que permitió que la cultura de la empresa considerara más a fondo el impacto de su tecnología en la sociedad.
Este enfoque se puso en práctica tras una crisis tecnológica y de relaciones públicas. En 2016, Microsoft lanzó en Twitter un chatbot impulsado por IA llamado «Tay», que fue objeto de ataques maliciosos para que respondiera con comentarios inapropiados y denigrantes. Mientras que otra empresa podría haber buscado culpables o eludido su responsabilidad por este incidente, Microsoft emitió una disculpa pública. La organización y sus empleados vieron en esta experiencia una oportunidad para aprender y poner en práctica la ética de la IA en muchos niveles de la empresa.
Este esfuerzo condujo al desarrollo de los Principios de IA responsable de Microsoft, un conjunto de directrices fundamentales establecido en 2018. Microsoft puso en práctica estos principios en toda la empresa mediante la creación de una estructura de gobernanza basada en el modelo de centro y radios, que ya había demostrado su eficacia para integrar la privacidad, la seguridad y la accesibilidad en sus productos.
Ese centro incluye tres equipos internos. Son los siguientes:
Comité de IA, Ética y Efectos en Ingeniería e Investigación (AETHER): brinda asesoramiento y conocimientos científicos y de ingeniería sobre la aplicación de los principios de IA responsable;
Oficina de IA Responsable (ORA): se encarga de las funciones de gobernanza de políticas, uso sensible y educación; y
Grupo de Estrategia de IA Responsable en Ingeniería (RAISE): permite a los ingenieros implementar herramientas y sistemas de IA responsable.
Los responsables de IA responsable (Responsible AI Champs) actúan como radios en este modelo de gobernanza. Estos responsables, integrados en toda la empresa, son expertos en sus áreas que asesoran, ayudan y sensibilizan sobre el enfoque de Microsoft respecto a la IA responsable.
Además, Microsoft también creó el Estándar de IA Responsable, que establece una serie de pasos que los equipos de la empresa deben seguir para apoyar el diseño y desarrollo de sistemas de IA responsable. Estas iniciativas son un ejemplo del tipo de modelo de gobernanza cuidadosamente diseñado que debe existir para respaldar el cambio cultural y poner en práctica la ética en la tecnología.
2. Las herramientas y técnicas facilitan la implementación.
En cualquier iniciativa de gestión del cambio, las herramientas facilitan que las personas modifiquen su comportamiento. Esto también se aplica a la incorporación de la ética a la tecnología.
Como campos como la ciencia de datos y el aprendizaje automático (ML) aún están en sus inicios, las herramientas facilitan que los profesionales expliquen el rendimiento de los modelos de ciencia de datos, mejoren la equidad de los algoritmos e identifiquen cuestiones éticas fundamentales para poner en práctica una IA responsable.
Las herramientas técnicas de Microsoft, como InterpretML, Fairlearn y Error Analysis, representan contribuciones importantes en este ámbito. En concreto, InterpretML facilita que los profesionales interpreten y expliquen mejor el comportamiento de un modelo de ML. Por su parte, Fairlearn ayuda a los científicos de datos a evaluar y mejorar la equidad de los modelos de aprendizaje automático. Por último, Error Analysis facilita que los científicos de datos identifiquen grupos con tasas de error superiores a las de referencia y mejoren la precisión de sus modelos. Cada una de estas herramientas ofrece paneles que facilitan la visualización del rendimiento de los modelos.
Sin embargo, nuestra investigación reveló que las herramientas que ayudan a los equipos a concebir su trabajo desde una perspectiva ética también son clave para contribuir a cambiar comportamientos. En Microsoft, estas herramientas incluyen las Evaluaciones de Impacto, el taller Envision AI, el juego Judgment Call y Community Jury. Ayudan a los equipos a considerar las posibles consecuencias de sus productos mediante listas de verificación, ejercicios de simulación de roles y la participación de las partes interesadas, respectivamente. Con estas herramientas, los equipos de producto pueden desarrollar más empatía hacia las partes interesadas afectadas por su tecnología, que a menudo están infrarrepresentadas en el sector tecnológico.
3. La alineación y la medición del impacto generan rendición de cuentas.
Muchas empresas evalúan el desempeño de sus empleados según cómo respetan los valores de la empresa. Toda empresa que quiera incorporar la ética a la tecnología debe ampliar esta práctica para evaluar y medir el desempeño de los empleados en función de los principios de la empresa sobre tecnología ética.
La alineación de los miles de empleados de Microsoft en torno a los principios de inteligencia responsable comenzó con el equipo Cognition, que trabaja en productos basados en tecnologías de realidad aumentada y virtual, visión artificial e inteligencia artificial.
Los miembros del equipo Cognition se reunieron con sus responsables durante el ejercicio semestral de establecimiento de objetivos y evaluación del desempeño para fijar un objetivo compartido: implementar una IA responsable adaptada a su función en la organización. Este sistema, que ahora se está extendiendo a otros equipos,permite a Microsoft crear alineación y rendición de cuentas en torno a sus iniciativas de IA responsable, al tiempo que mide el impacto de cada empleado.
4. Los productos responsables son mejores productos.
La innovación responsable permite desarrollar productos «mejores»: de mayor calidad, inclusivos y mejor preparados para contribuir al bienestar del mundo.
Para crear estos productos con mayor rendición de cuentas, los Principios de IA de Microsoft establecen expectativas de alto nivel. Este conjunto de herramientas ayuda a definir el camino hacia la implementación y el desarrollo de los propios productos. También ayuda a los ingenieros a profundizar en los detalles del desarrollo responsable de productos mediante diversas herramientas de ML, talleres y conversaciones oportunas.
El impacto de estas iniciativas ya es visible en las funciones de algunos productos de Microsoft, como el análisis espacial, el consentimiento para el uso de la voz y Custom Neural Voice, que, respectivamente, ponen de relieve la privacidad, el consentimiento significativo y la transparencia. Sin estos compromisos de valores integrados en procesos de diseño concretos —cerrando la brecha entre intención y acción—, estos productos podrían haberse diseñado de una manera menos responsable.
En última instancia, estos productos se basan en el pensamiento y la acción ética aplicados a la práctica. En nuestra investigación, al comparar la implementación de la IA responsable de Microsoft con las Mejores prácticas éticas en tecnología publicadas en 2018 por el Centro Markkula de Ética Aplicada, descubrimos que Microsoft ha implementado, o ha comenzado a implementar, la mayoría de estas prácticas. Por ejemplo, los Principios de IA de Microsoft se vinculan directamente con seis de las mejores prácticas recopiladas.
Perspectivas de futuro
Estas lecciones muestran cómo una empresa puso en práctica la innovación responsable. Estos principios, el modelo de gobernanza y las herramientas pueden adaptarse y aplicarse a otras tecnologías y organizaciones.
Sin duda, el cambio no se producirá de la noche a la mañana. Se necesita una transformación profunda de la cultura empresarial en favor de la innovación responsable y la acción ética. Pero necesitamos esta transformación no solo en la cultura empresarial, sino en toda la cultura y la sociedad, mientras aprendemos a utilizar las tecnologías para los mejores fines. Reconocer que existen estos problemas es el primer paso para explorar cómo resolverlos.
«Se necesita una transformación profunda de la cultura empresarial en favor de la innovación responsable y la acción ética».
A medida que más sectores de nuestra sociedad se transformen digitalmente, más organizaciones tendrán que recorrer el camino para incorporar la ética a la tecnología. Si las empresas no se esfuerzan por mejorar sus culturas, procesos y productos, no solo incumpliremos la promesa de la tecnología de construir un futuro mejor para todos, sino que también sufriremos sus efectos, que dañan a la sociedad y perjudican a las personas.
Las iniciativas descritas ayudaron a Microsoft a hacer realidad sus ideas y cerrar la brecha entre intención y acción. Ahora comparte estas lecciones con la esperanza de que otras organizaciones las encuentren útiles y también compartan sus propias lecciones a partir de sus experiencias. Si más empresas están dispuestas a compartir sus experiencias, esto no solo permitirá el beneficio mutuo, sino que también ayudará a elevar las expectativas de pensamiento ético en más sectores y, ojalá, genere mayores beneficios en todo el mundo.
