Los compromisos con una IA ética solo tienen valor si se implementan.
Compartir las mejores prácticas será cada vez más importante.
Estas son 8 lecciones para las empresas que buscan integrar la ética en su IA.
Mantenerse al día con la inteligencia artificial (IA) y la privacidad de los datos puede resultar abrumador. Si bien la IA ofrece grandes promesas y oportunidades, también existen preocupaciones sobre el uso indebido de datos y el riesgo para la privacidad personal. A medida que evaluamos estos temas y se desarrolla la Cuarta Revolución Industrial, surgen interrogantes sobre la promesa y el peligro de la IA, y sobre cómo las organizaciones pueden aprovechar mejor su valor.
Integrar la «ética» en los productos tecnológicos puede resultar abstracto para los ingenieros y desarrolladores. Si bien muchas empresas tecnológicas trabajan de forma independiente en formas concretas y tangibles de lograrlo, es imperativo que rompamos con esos silos y compartamos las mejores prácticas. Al colaborar para aprender unos de otros, podemos elevar el listón para el sector en su conjunto; y un buen punto de partida es centrarse en aquello que genera confianza.
Muchas empresas están publicando principios de alto nivel sobre su enfoque para diseñar e implementar productos de IA. Pero los principios solo tienen valor si realmente se implementan. Workday publicó recientemente nuestros Compromisos con la IA ética para mostrar cómo llevamos a la práctica los principios que se basan directamente en nuestros valores fundamentales de servicio al cliente, integridad e innovación. Con base en nuestra experiencia, estas son ocho lecciones para las empresas tecnológicas que deseen defender esos principios en toda su organización:
1. Defina qué significa «ética de la IA». Esta definición debe ser específica y aplicable para todas las partes interesadas pertinentes de la empresa. En mi empresa, significa que nuestros sistemas de aprendizaje automático (ML) reflejan nuestro compromiso con la IA ética: ponemos a las personas en primer lugar; nos preocupa la sociedad; actuamos con equidad y respetamos la ley; somos transparentes y responsables; protegemos los datos; y ofrecemos sistemas de aprendizaje automático listos para uso empresarial.
2. Integre la IA ética en el marco de desarrollo y lanzamiento de productos. No pueden ser procesos independientes que generen más trabajo y complejidad para los desarrolladores y los equipos de producto. Workday ha incorporado nuestros principios en la base de nuestro desarrollo de productos y ha creado procesos que impulsan el cumplimiento continuo de los mismos. Se han incorporado nuevos controles de ML a nuestro marco formal de control para reforzar la aplicación de nuestros principios éticos de ML. Nuestros equipos de desarrollo examinan cada producto de ML desde una perspectiva ética, formulando preguntas sobre la recopilación y minimización de datos, la transparencia y los valores. Tenemos una larga trayectoria en este ámbito dentro del campo de la privacidad, incluidos los procesos de privacidad desde el diseño, así como auditorías de terceros frente a nuestros controles y estándares. Workday ha adoptado un conjunto de controles de ética desde el diseño para el aprendizaje automático, y cuenta con sólidos mecanismos de revisión y aprobación para el lanzamiento de nuevas tecnologías, así como para cualquier nuevo uso de datos. Nos comprometemos a realizar revisiones continuas de nuestros procesos y a adaptarlos para incorporar las nuevas mejores prácticas del sector y las directrices reglamentarias.
3. Cree grupos multidisciplinarios de expertos para orientar todas las decisiones sobre el diseño, desarrollo e implementación de ML y IA responsables. Al inicio de este proceso, Workday creó un grupo de trabajo sobre aprendizaje automático integrado por expertos de los equipos de producto e ingeniería, jurídico, políticas públicas y privacidad, y ética y cumplimiento. Estos grupos examinan los usos futuros y existentes del ML en nuestros productos. Reunir estos diversos conjuntos de competencias y perspectivas para debatir sobre los usos futuros y existentes del ML en nuestros productos ha sido realmente valioso y nos ha permitido identificar posibles problemas desde las primeras etapas del ciclo de vida del producto.
4. Incorpore la colaboración con los clientes en el diseño, desarrollo e implementación de una IA responsable. Workday involucra a nuestros consejos asesores de clientes, compuestos por una amplia representación de nuestra base de clientes, durante el ciclo de vida del desarrollo de productos para obtener retroalimentación sobre los temas de desarrollo relacionados con la IA y el ML. Y a través de nuestro programa de adoptantes tempranos, trabajamos estrechamente con un puñado de clientes que actúan como socios de diseño para probar nuevos modelos y funciones de ML mediante nuestros servicios de innovación.Esto nos permite comprender y abordar de forma temprana las ideas e inquietudes de los clientes en torno a la IA y el ML, a medida que codesarrollamos soluciones de ML centradas en las personas.
5. Adopte un enfoque de ciclo de vida para el sesgo en el aprendizaje automático. Las herramientas de ML representan una oportunidad extraordinaria para ayudar a nuestros clientes a aprovechar los datos para mejorar la toma de decisiones humanas. Con esa oportunidad llega la responsabilidad de crear herramientas listas para uso empresarial que mantengan la confianza de nuestros clientes, razón por la cual uno de los ejes de nuestros compromisos con la IA ética es mitigar el sesgo perjudicial en el ML. Utilizamos un «enfoque de ciclo de vida», a través del cual realizamos diversas evaluaciones y revisiones de sesgo desde el concepto inicial de un nuevo producto hasta la fase posterior al lanzamiento.
6. Sea transparente. El uso ético de los datos para el ML requiere transparencia. Dado que los algoritmos de ML pueden ser muy complejos, las empresas deben ir más allá al explicar qué datos se utilizan, cómo se utilizan y con qué fin. Explique a sus clientes cómo funcionan sus tecnologías de ML y los beneficios que ofrecen, y describa el contenido de datos necesario para impulsar cualquier solución de ML que ofrezca. Demuestre responsabilidad en sus soluciones de ML ante sus clientes.
7. Capacite a sus empleados para diseñar productos responsables. Lo hacemos mediante módulos de formación obligatorios en ética, herramientas, seminarios, incorporación de empleados y talleres, para garantizar que los empleados estén capacitados para cumplir nuestros compromisos éticos con la IA. Por ejemplo, un taller de design thinking centrado en las personas utiliza distintos escenarios y perfiles para ayudar a los empleados de Workday a comprender nuestros compromisos con la creación de tecnologías de ML éticas.
8. Comparta lo que sabe y aprenda de otros en el sector. Lo hacemos mediante la participación en grupos sectoriales y reuniones entre pares, como el Comité Directivo del Foro Económico Mundial para el Diseño e Implementación Éticos de la Tecnología para contribuir a desarrollar un marco ético para el sector tecnológico. Además, Workday considera prioritario seguir y contribuir a nuevos estándares y planes. En Estados Unidos, hemos colaborado intensamente con legisladores y funcionarios de agencias en materia de IA ética, incluido el desarrollo y la participación en un Congressional AI Caucus sesión informativa para el personal sobre «Enfoques del sector sobre la IA ética», y desempeñamos el papel de convocantes entre el sector y los responsables de políticas en múltiples foros. Además, brindamos apoyo a la actualización de la National Science Foundation del National Artificial Intelligence Research and Development Strategic Plan y al desarrollo por parte del Instituto Nacional de Estándares y Tecnología (NIST) de su informe, Artificial Intelligence Standards and Tools Development. Seguimos abogando por un papel ampliado del NIST en el desarrollo de herramientas de ética de la IA. En Europa, Workday participó en un programa piloto para evaluar la lista de evaluación de la Inteligencia Artificial Fiable (Trustworthy Artificial Intelligence Assessment List) del Grupo de Expertos de Alto Nivel de la Unión Europea sobre Directrices Éticas (HLEG) Trustworthy Artificial Intelligence Assessment List.
A medida que navegamos por este mundo cambiante de la IA ética, será cada vez más importante que nunca compartir prácticas e identificar lo que hemos aprendido en el camino. Estamos deseosos de conocer las opiniones de otros sobre qué enfoques han resultado eficaces para la escalabilidad y la implementación, y acogemos con satisfacción la oportunidad de compartirlos. De hecho, el objetivo de la colaboración de Workday con el Foro Económico Mundial es animar a otros a unirse a nosotros para compartir sus mejores prácticas en favor de una tecnología responsable y ética. La búsqueda de una inteligencia artificial y una tecnología responsables y éticas es fundamental, y trasciende a cualquier empresa u organización individual.
Juntos, debemos generar buena voluntad y confianza mediante nuestras acciones, lo que nos permitirá aprovechar los beneficios de estas poderosas nuevas tecnologías.
