Los empleadores y los empleados están entusiasmados con el potencial de la IA, según una investigación de Workday.
Sin embargo, ambas partes también temen que la IA no se despliegue de forma responsable.
La colaboración entre la industria y el gobierno es esencial para garantizar un desarrollo y despliegue responsables, seguros y protegidos de la IA.
Cuando se trata del enorme potencial de ahorro de tiempo de la inteligencia artificial (IA), la nueva investigación de Workday Cerrar la brecha de confianza en la IA, revela que los empleados y los líderes de las empresas están, en general, alineados. Ambos están entusiasmados, interesados y ansiosos por lo que viene.
Sin embargo, a pesar de tanto entusiasmo, también hay reticencia. Nuestros hallazgos muestran que, aunque los líderes empresariales y los empleados coinciden en que la IA ofrece grandes oportunidades para la transformación empresarial, existe una falta de confianza en que se desplegará de forma responsable. Los empleados muestran un nivel de escepticismo aún mayor que sus homólogos directivos.
Solo el 62% de los líderes empresariales (nivel C o sus subordinados directos) encuestados en nuestro último estudio global, por ejemplo, acoge con agrado la IA, y el 62% confía en que su organización garantizará que la IA se implemente de forma responsable y fiable. Entre los empleados, estas cifras descienden aún más, hasta el 52% y el 55%, respectivamente.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya el diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Se ha formado una brecha de confianza
Estos hallazgos subrayan una certeza que tenemos aquí, en Workday: la capacidad de la IA para desbloquear el potencial humano en el lugar de trabajo solo puede materializarse plenamente si se construye sobre una base de confianza. Creemos que el futuro del trabajo empieza aquí, con la confianza en el centro, y que esta brecha debe cerrarse.
Según el Foro Económico Mundial, priorizar la transparencia, la coherencia y el cumplimiento de las expectativas de los usuarios es fundamental para generar confianza en los sistemas de IA. Esto solo se logra cuando las empresas cuentan con una gobernanza inteligente de la IA. Workday lleva casi una década dando ejemplo gracias a su compromiso con el desarrollo y despliegue responsables de la IA tecnologías. Esta gobernanza, esta colaboración y esta defensa mejoran nuestro servicio al cliente y benefician a nuestros empleados. También mejoran el mundo que nos rodea.
La magnitud de este desafío puede parecer abrumadora, pero nuestra experiencia nos ha enseñado que podemos dar pasos medidos.
Cerrar la brecha de confianza para los empleados y las industrias
Creemos que la IA debe elevar a las personas, no desplazarlas, y que la confianza en esta tecnología debe ganarse mediante la transparencia.
Nuestra investigación muestra que los empleados temen que las prioridades empresariales y la falta de comprensión de la IA afecten negativamente a la forma en que las organizaciones abordan el lado humano de una plantilla aumentada por la IA. Un ejemplo: el 70% de los líderes empresariales coincide en que la IA debería desarrollarse de forma que permita fácilmente la revisión y la intervención humanas; sin embargo, el 42% de los empleados considera que su empresa no tiene una comprensión clara de qué sistemas deberían automatizarse por completo y cuáles requieren intervención humana. Quizás más preocupante aún, el 23% de los empleados no confía en que su organización anteponga los intereses de los empleados a los propios al implementar la IA.
Además, hemos comprobado que, entre los líderes empresariales y los empleados, la regulación de las aplicaciones críticas de la IA y de los datos, así como los marcos organizativos para una IA ética, son los dos principales impulsores de una IA en la que se puede confiar. Sin embargo, tres de cada cuatro empleados afirman que su organización no colabora en la regulación de la IA, y cuatro de cada cinco afirman que su empresa aún no ha compartido directrices sobre el uso responsable de la IA.
En otras palabras, aunque una organización participe en el ámbito regulatorio y comunique directrices de IA ética a su personal, el mensaje no está llegando.
¿Qué hacer? Las organizaciones deberían considerar cuatro pilares fundamentales al establecer un programa de IA responsable (RAI), basados en las conclusiones de nuestro programa y que abarcan: principios, prácticas, personas y políticas. Así es como:
1. Principios: fundamentos éticos rectores
En el corazón de cualquier programa de RAI exitoso se encuentra un conjunto de principios rectores que delimitan los límites éticos y los compromisos de la organización. Estos principios constituyen la base sobre la que se construye toda la estrategia de IA. El componente de principios engloba los valores generales y las normas éticas que deben integrarse en cada faceta del desarrollo y el despliegue de la IA.
Desde la equidad y la transparencia hasta la rendición de cuentas y la privacidad, estos principios sirven como brújula ética que orienta las iniciativas de IA hacia resultados responsables. Alinear estos principios con los valores fundamentales de la organización garantiza un enfoque unificado para la toma de decisiones éticas en el desarrollo y el despliegue de aplicaciones de IA.
2. Prácticas: construir una infraestructura responsable
Para traducir eficazmente los principios en acción, las organizaciones deben adoptar una serie de mejores prácticas que pongan en funcionamiento las consideraciones éticas a lo largo de todo el ciclo de vida de la IA. Esto incluye lo siguiente:
Herramientas de desarrollo robustas y escalables
Utilice un marco de RAI basado en el riesgo para evaluar los casos de uso en función de los principios, las regulaciones y los marcos de mejores prácticas. Los desarrolladores y los gestores de productos se beneficiarán de una herramienta de evaluación de riesgos de RAI, que les ayuda a identificar qué hace que un caso de uso sea sensible y qué salvaguardas específicas pueden gestionar eficazmente esos riesgos. Esta herramienta guía directamente a los desarrolladores hacia las salvaguardas relevantes para sus casos de uso, lo que les permite gestionar los riesgos asociados de forma eficiente.
Transparencia y divulgación
La transparencia con el cliente también es fundamental en un enfoque de RAI. Para promover la transparencia en los procesos de desarrollo de tecnologías de IA, considere la posibilidad de crear fichas técnicas detalladas que expliquen cómo se construye, prueba, mantiene y supervisa la tecnología. Estas ayudan a facilitar la comprensión y a mitigar los riesgos. En Workday, creemos que permitir a nuestros clientes gestionar el uso de sus datos y personalizar el nivel de detalle que utiliza la tecnología de IA y de aprendizaje automático es un paso clave para mejorar el diseño responsable y la protección de datos.
3. Personas: crear una cultura de confianza
Más allá de los algoritmos y los marcos tecnológicos, la IA está configurada y guiada por las personas que la desarrollan, despliegan y utilizan. Dentro de este pilar, hay varios aspectos clave que las organizaciones deben habilitar:
Compromiso del liderazgo
Con el respaldo del compromiso de la alta dirección, un programa de RAI debe ser impulsado y apoyado por un consejo asesor de RAI compuesto por directivos de distintas áreas funcionales, como el director de cumplimiento, el director de diversidad y el director de tecnología. Este grupo es responsable de garantizar el cumplimiento de los principios éticos de la IA, manteniendo la supervisión humana e interviniendo en los lanzamientos de tecnología cuando sea necesario.
Recursos dedicados
Para desarrollar y mantener eficazmente un programa de gobernanza de RAI, una persona debe ser responsable de la IA en una organización. Recomendamos nombrar a un director responsable de IA con un equipo dedicado de expertos multidisciplinares que supervise el diseño del programa, las revisiones éticas y la formación. Es importante que este equipo sea independiente y no participe en el desarrollo de IA de primera línea. A medida que se amplía el alcance de la innovación en IA, debería aumentarse la inversión en el tamaño de este equipo.
Apoyo transversal a la empresa
La eficacia del programa de RAI se basa en un equipo dedicado y en los esfuerzos conjuntos de todas las partes interesadas para mantener sus principios de IA ética. Debería establecerse una red de embajadores de RAI integrados en los equipos de producto y tecnología para garantizar que los principios de IA ética de la empresa se respeten, al tiempo que se ofrece gobernanza como embajadores locales y guías.
4. Políticas: dar forma al despliegue de la IA a través de la regulación
Aunque los tres primeros pilares sirven de base internamente para la RAI, la política pública desempeña un papel igualmente crucial para cerrar la brecha de confianza en la IA de forma más amplia. En última instancia, la regulación establece la infraestructura que hace cumplir los principios éticos y las mejores prácticas, y da forma a la cultura organizativa en torno a la IA. Para reforzar la integración de los valores éticos en todo el ecosistema de la IA, las organizaciones deben colaborar con los responsables políticos, adaptarse a la evolución de las regulaciones de la IA y desarrollar sus propias prácticas de IA responsable.
En Workday, llevamos mucho tiempo reconociendo la importancia de la política pública y abogamos por la regulación de la IA desde 2019. Llevamos años trabajando para ayudar a sentar las bases de una regulación sólida de la IA que genere confianza e impulse la innovación. Desde la Unión Europea, donde nos alegró ver el reciente acuerdo político sobre la Ley de IA de la UE, hasta Washington, D.C., colaboramos de forma proactiva con los responsables políticos para garantizar que la regulación respalde el desarrollo y el despliegue de una IA responsable.
Y, reconociendo la importancia de las mejores prácticas para cerrar la brecha de confianza, trabajamos con el Future of Privacy Forum y otras empresas para desarrollar una hoja de ruta para fomentar una IA responsable en el lugar de trabajo. Al recorrer este camino, está claro que la colaboración entre la industria y el gobierno es esencial para garantizar un desarrollo y despliegue responsables, seguros y protegidos de la IA.
El ritmo de cambio que trae consigo la IA puede ser rápido, pero no podemos perder de vista lo que más importa en este mundo: generar confianza. Cerremos la brecha, juntos.
