La ética de la inteligencia artificial, o IA, es un desafío crítico para la industria tecnológica global.
La implementación de prácticas de IA ética sólidas requiere conocimientos y perspectivas diversos.
Este artículo forma parte de una serie sobre ética tecnológica que incluye cómo construir la cultura adecuada y hacer bien la IA.
En los últimos dos años, hemos sido testigos de un aumento notable del debate en la industria tecnológica sobre la ética de la inteligencia artificial (IA) y el papel de los principios éticos en la forma en que usamos y experimentamos esta tecnología. La comunidad investigadora también ha seguido esta tendencia, con un marcado incremento de artículos publicados sobre temas que van desde el sesgo en el aprendizaje automático hasta la explicabilidad y las implicaciones para la seguridad.
Esto no es nuevo. Como señala Jacob Metcalf, de Data & Society , tanto la Association for Computing Machinery (ACM) como el Institute of Electrical and Electronics Engineers (IEEE) publicaron directrices éticas para científicos de la computación a principios de los años noventa, y, más recientemente, hemos visto a innumerables científicos sociales e investigadores de STS advertir sobre el potencial de la tecnología para dañar a las personas y a la sociedad.
Mientras algunos se apresuran a clasificar la IA como una disrupción más en una industria con una larga historia de disrupciones, la velocidad con la que la IA está transformando el mundo la sitúa en una categoría distinta. Esto, combinado con una escalada del riesgo, ha llevado a nuestra industria a atender por fin el consejo de expertos sectoriales con experiencia, incorporando consideraciones éticas en el diseño, el desarrollo, la implementación y el uso de la tecnología antes de que las tecnologías lleguen al mercado.
Pero este aumento de la actividad ha dado lugar a acusaciones de «ethics washing», un término peyorativo que describe la práctica de exagerar el interés de una organización por los principios éticos para reforzar su imagen pública. Esto suscita preguntas comprensibles sobre la «acción». ¿Qué están haciendo las empresas para convertir los compromisos de principios en una gobernanza real? Más importante aún, ¿cómo están incorporando estas prácticas en culturas corporativas que, en su mayoría, nunca antes se han visto obligadas a considerarlas un elemento obligatorio del ciclo de vida del producto?
Aunque varias empresas tecnológicas han desarrollado nuevas iniciativas para integrar la ética en el diseño y la implementación de productos, muchas se muestran reacias a hablar públicamente de estos esfuerzos porque todavía están en una fase muy incipiente. Sin embargo, la urgencia de estos desafíos exige que las empresas compartan lo que aprenden para que todos se beneficien, ya que todos nos enfrentamos a retos similares.
Como parte de la comunidad de «directivos de ética» del Foro Económico Mundial formada por 40 empresas, la mayoría con funciones u oficinas de nueva creación, los líderes de toda la industria han manifestado que sus empresas carecen incluso de un marco básico para abordar cómo se diseñan sus productos y a quién deberían venderse, y, en ausencia de un enfoque sistemático, muchas recurren a decisiones puntuales y reactivas.
¿Qué está haciendo el Foro Económico Mundial en relación con la Cuarta Revolución Industrial?
El Centro para las Tecnologías de Frontera e Innovación reúne a científicos, responsables políticos y líderes empresariales para comprender las tecnologías emergentes y sus implicaciones en el mundo real.
Al facilitar la colaboración y la experimentación, el Centro ayuda a los socios a traducir la innovación de la investigación en aplicaciones prácticas que abordan desafíos globales compartidos.
En Microsoft hemos hablado públicamente de nuestros planes para implementar un sólido proceso de gobernanza de la IA responsable, que ya está en marcha. Aunque tendremos mucho más que compartir a medida que avancemos, una lección que aprendimos desde el principio es la importancia de una función clave para hacer realidad los procesos y las prácticas de gobernanza: el Responsible AI Champ.
El Responsible AI Champ
En Microsoft, un «Champ» es, sencillamente, un experto en la materia que está disponible para los empleados de una zona geográfica o grupo de trabajo para sensibilización, asesoramiento, asistencia y escalado. Durante años, hemos contado con Champs para seguridad, productos de la competencia, código abierto y otros ámbitos.
Esto es muy importante para la ética por dos razones principales. En primer lugar, la ética tecnológica es un tema nuevo para la mayoría de los empleados en la mayoría de los puestos. En segundo lugar, este ámbito requiere una presencia distribuida y diversa de conocimiento y facilitación a nivel organizativo.
La primera razón está bien documentada. La ausencia de un currículo universitario formal de ética fuera de las facultades de medicina, de derecho y de los departamentos de filosofía está, afortunadamente, siendo abordada ahora por instituciones técnicas líderes, como Stanford, MIT, el Markkula Center de la Universidad de Santa Clara, Harvard, Cornell y otras, pero las personas que ya forman parte de la fuerza laboral tecnológica se enfrentan a una curva de aprendizaje muy pronunciada. En Microsoft, los Champs facilitan esa curva de aprendizaje, por empinada que sea, mediante una introducción a los conceptos básicos, a los marcos de toma de decisiones y a los procesos para determinar cómo evaluar la definición de daño, la probabilidad y la magnitud de la exposición a un daño, y la gravedad de su impacto.
La segunda razón es igualmente desalentadora: la gestión del cambio, en forma de ayudar a personas de una empresa global madura a incorporar principios éticos en cada una de las facetas de un ciclo de vida de producto ya existente, incluidos el desarrollo de soluciones y las ventas.
A menudo recurrimos a analogías históricas para enmarcar nuestro enfoque ante estos desafíos, siempre que existan paralelismos suficientes. La seguridad y la privacidad son dos analogías que pesan mucho en Microsoft. En el caso de la seguridad, el catalizador de lo que terminó convirtiéndose en un cambio profundamente arraigado en la cultura de productos fue el memorando «Trustworthy Computing» de Bill Gates, de 2002, memorando, que puso en marcha cambios en nuestro proceso de desarrollo de software, que finalmente dieron lugar al Microsoft Security Development Lifecycle, o SDL. El papel de la privacidad se impulsó con un catalizador más reciente, el Reglamento General de Protección de Datos (RGPD) de la UE, que Microsoft se comprometió a adoptar para los clientes de todo el mundo. En ambas analogías hubo un momento decisivo claro que aportó claridad al camino a seguir, seguido de un esfuerzo sostenido para alcanzar los resultados deseados.
La IA responsable es un viaje de varios años, que comenzó con el artículo de opinión de Satya Nadella de 2016 artículo de opinión sobre la necesidad de un marco ético para la IA, seguido de la creación del Comité AETHER en 2017 y la publicación de The Future Computed en 2018, así como otros pasos para consolidar el compromiso de Microsoft con la innovación responsable. En este contexto, la función del Champ es construir sobre esta base y actuar como defensor interno y evangelizador de la IA responsable, facilitando el esfuerzo sostenido para fortalecer su papel en nuestra cultura de productos y ventas.
En concreto, un Responsible AI Champ tiene cinco responsabilidades clave:
Sensibilizar sobre los principios y las prácticas de la IA responsable dentro de los equipos y grupos de trabajo
Ayudar a los equipos y grupos de trabajo a implementar las prácticas establecidas a lo largo del ciclo de vida de la función, el producto o el servicio de IA
Asesorar a los líderes sobre el beneficio del desarrollo de una IA responsable y sobre el posible impacto de los daños no previstos
Identificar y escalar, a través de los canales disponibles, las cuestiones y los usos sensibles de la IA
Fomentar una cultura centrada en el cliente y una perspectiva global, haciendo crecer una comunidad de evangelizadores de la IA responsable en sus organizaciones y más allá
Históricamente, el puesto de Champ ha sido un rol funcional en Microsoft. Los Champs tienen trabajos a tiempo completo y desempeñan esta función por interés en el ámbito y/o por liderazgo en un área determinada. Sus trayectorias son variadas y multifacéticas, algo especialmente importante en un ámbito que abarca la tecnología, los negocios, las ciencias sociales y el derecho. Por ejemplo, los científicos de datos e ingenieros que comprenden la disciplina y pueden hablar el lenguaje del grupo de trabajo podrían ser Champs en un equipo técnico, pero con conocimientos prácticos de ciencias sociales para aportar una perspectiva muy necesaria sobre el posible impacto social. En un equipo de ventas, en cambio, los roles de cara al cliente se ocupan de cuestiones muy distintas, y el Champ actúa como asesor sobre posibles usos sensibles en las diversas solicitudes de propuesta que recibimos de clientes potenciales. La diversidad aporta otra ventaja importante, ya que los Champs llevan cuestiones y perspectivas al comité de ética de la IA y a los responsables de la toma de decisiones, y les ofrecen sus aportaciones.
La antigüedad importa menos que la pasión por, y el compromiso con, el fortalecimiento de nuestra capacidad para convertir en una parte permanente de nuestra cultura prácticas empresariales definibles y repetibles en apoyo de la IA responsable.
Compartiremos más a medida que aprendamos, pero ya está claro que la implementación de un programa de Champs es fundamental para el éxito de cualquier esfuerzo de gobernanza. El avance continuo de los principios a la acción requiere un cambio de cultura en todas las fases del ciclo de vida del producto, así como un esfuerzo sostenido a nivel de grupo de trabajo para garantizar un progreso y un aprendizaje continuos.
