Las organizaciones deben trabajar para generar confianza digital garantizando que la tecnología funcione para las personas y el planeta.
El Foro Económico Mundial Marco de Confianza Digital ha sido diseñado para respaldar a los responsables de la toma de decisiones.
Preguntamos a cinco líderes de estrategia tecnológica cómo promueven el uso inclusivo, ético y responsable de la tecnología.
El Foro Económico Mundial Marco de Confianza Digital fue creado para ayudar a los responsables de la toma de decisiones a alinearse en torno a tres objetivos: seguridad y fiabilidad; rendición de cuentas y supervisión; uso inclusivo, ético y responsable.
En la tercera parte de esta serie nos centramos en el uso inclusivo, ético y responsable de la tecnología digital, que cada vez domina más nuestras vidas. Por ello, es fundamental que podamos confiar en el desarrollo y la implementación de los productos y servicios que utilizamos. La industria tecnológica debe tener en cuenta las expectativas y los valores de todas sus partes interesadas, con la confianza digital como prioridad.
Esto significa que una organización debe diseñar, desarrollar y operar su tecnología y sus datos como un custodio para todas las personas, la sociedad en general, el medio ambiente natural y otras partes interesadas, a fin de garantizar un acceso y un uso amplios que generen resultados éticamente responsables. Este objetivo también implica que la organización debe trabajar para prevenir y mitigar las prácticas excluyentes u otros daños.
Estas tres dimensiones son fundamentales para lograrlo:
Interoperabilidad: la capacidad de los sistemas de información para conectarse e intercambiar información para su uso mutuo sin cargas ni restricciones indebidas.
Equidad: exige que el tratamiento de la tecnología y los datos de una organización tenga en cuenta el posible impacto desigual y tenga como objetivo lograr resultados justos y equitativos para todas las partes interesadas, teniendo en cuenta las circunstancias y expectativas pertinentes.
Sostenibilidad: exige que una organización tenga en cuenta su impacto en el medio ambiente natural, incluidos el clima, la biodiversidad o los sistemas hídricos, y que tenga como objetivo limitar los daños a estos sistemas.
A raíz de nuestro artículo sobre la confianza en la era inteligente, preguntamos a la Comunidad de Directores de Estrategia TIC del Foro Económico Mundial cómo promueven un uso inclusivo, ético y responsable. La comunidad está formada por 40 líderes de estrategia sénior activos de las empresas más relevantes de todo el ecosistema tecnológico.
Estos son algunos de sus comentarios.
Eugenio Cassiano, vicepresidente sénior de Estrategia e Innovación, Celonis
Ya sea en Inteligencia de Procesos (PI) o en IA, Celonis se compromete a crear sistemas inteligentes que no solo sean potentes, sino también responsables.
Seguimos un modelo estructurado de gobernanza de la IA basado en los principios de equidad, transparencia y rendición de cuentas, tanto para nuestro uso interno de la IA como para las soluciones de IA que ofrecemos a nuestros clientes. Lo ponemos en práctica a través de múltiples procesos supervisados por el comité de gobernanza, un equipo transversal con experiencia en derecho, ética, ingeniería y desarrollo, seguridad de datos y privacidad de datos. Este comité especializado da forma activamente a nuestras directrices y garantiza que nuestras iniciativas de IA se alineen con las normas globales y los valores corporativos de Celonis.
La IA es una tecnología verdaderamente transformadora que afectará a muchos, si no a la mayoría, de los aspectos de nuestra vida moderna, pero no se trata solo de lo que hace la IA, sino de cómo lo hace.
Eugenio Cassiano, vicepresidente sénior de Estrategia e Innovación, Celonis.
En Celonis creemos que tanto los avances técnicos como las consideraciones éticas son necesarios para mitigar los riesgos y garantizar el uso responsable de la IA.
Ravi Kuchibhotla, director de Estrategia, Cognizant
A medida que la IA sigue transformando las empresas y la sociedad, es esencial establecer un marco sólido de confianza digital, que dé prioridad a la interoperabilidad y evite los malentendidos que a menudo surgen de sistemas no alineados. Un pilar fundamental de este marco es la equidad: garantizar un trato ético, transparente e imparcial para todos. Esto exige diseñar sistemas de IA que sean auditables, capaces de representar perspectivas diversas y totalmente transparentes en su funcionamiento.
Mediante la orquestación de múltiples agentes para optimizar la equidad, el rendimiento, la transparencia y la inclusión, nuestra Neuro Suite de plataformas equilibra estos objetivos sin dar prioridad excesiva a ninguno. Esto reduce los sesgos, garantiza que las decisiones sean transparentes e interpretables y promueve resultados equitativos. Nuestras plataformas permiten a los clientes integrar aplicaciones de IA que son auditables e imparciales, garantizando que la equidad recorra toda la cadena de valor y generando confianza en la integridad de la tecnología.
Nuestras plataformas permiten a los clientes integrar aplicaciones de IA que son auditables e imparciales.
Ravi Kuchibhotla, director de Estrategia, Cognizant.
Uno de los mayores retos pendientes es garantizar que las voces no técnicas participen en el desarrollo de la IA, para que todos los sectores de la sociedad puedan participar en la implementación de tecnologías avanzadas. Un ámbito prometedor es el desarrollo de UX y UI. A medida que la IA generativa evolucione, el papel de los desarrolladores de UX/UI puede cambiar, pero los profesionales no STEM con formación en humanidades guiarán cada vez más la toma de decisiones éticas y el diseño centrado en el usuario, lo que es crucial para crear sistemas justos e inclusivos para todos.
Ganesha Rasiah, director de Estrategia, HP
La rápida proliferación de la IA generativa y el uso de grandes modelos de lenguaje han creado posibles áreas de exposición que podrían poner en peligro la confianza. En primer lugar, figura la falta de transparencia.
Hoy en día, en gran medida no está claro qué algoritmos y conjuntos de datos sustentan las decisiones de un modelo de IA generativa. Los usuarios tienen dificultades para comprobar si el resultado es preciso, lógico o ético. Los datos distorsionados o discriminatorios introducen daños no deseados que podrían perpetuar los sesgos humanos y tener consecuencias catastróficas para la sociedad en general. Existen mecanismos imperfectos en la IA para gestionar la propiedad intelectual.
Las organizaciones deben establecer y hacer cumplir directrices que garanticen la protección de la equidad, la privacidad y la ética.
Ganesha Rasiah, director de Estrategia, HP.
Una cuestión es cómo y de quién se adquieren y acreditan los datos. Otra es la titularidad del contenido generado por la IA. El cumplimiento normativo y la gobernanza adquieren una importancia crítica, pero estos procesos a menudo van a la zaga de los usos de la IA.
Por ello, las organizaciones deben establecer y hacer cumplir directrices claras que garanticen la protección de la equidad, la privacidad y la ética, de modo que la IA se utilice en beneficio de empleados y clientes. En HP hemos adoptado un conjunto de principios de gobernanza de la IA para impulsar un uso responsable de la IA. Aplicamos estos principios mediante una serie de programas y procesos bien definidos, entre ellos mecanismos de control, directrices de orientación, herramientas educativas y comités reguladores.
Cómo ayuda el Foro a los líderes a comprender la IA y a colaborar en la innovación responsable
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Ann Marie Lavigne, vicepresidenta de Iniciativas Estratégicas, Snowflake
A medida que la IA se convierte en la base de la estrategia empresarial moderna, ha quedado claro una verdad: la IA empresarial no puede tener éxito sin una estrategia de datos sólida. Y una estrategia de datos aislada en silos es igualmente ineficaz. De hecho, los datos aislados o incorrectos pueden costar a las empresas hasta el 30 % de sus ingresos anuales, según IDC Market Research. Por otro lado, Gartner ha informado de que las organizaciones no llegan a utilizar hasta el 97 % de sus datos, lo que supone perder enormes oportunidades de crecimiento.
Las empresas reconocen cada vez más la necesidad de plataformas de datos unificadas, pero no todas las organizaciones pueden —o quieren— centralizar sus datos y su gobernanza. Ahí es donde la interoperabilidad resulta fundamental, ya que garantiza un acceso responsable a los datos y la supervisión humana, y da soporte a todo, desde las decisiones cotidianas hasta las aplicaciones avanzadas de IA.
No todas las organizaciones pueden —o quieren— centralizar sus datos y su gobernanza. Ahí es donde la interoperabilidad resulta fundamental, ya que garantiza un acceso responsable a los datos y la supervisión humana.
Ann Marie Lavigne, vicepresidenta de Iniciativas Estratégicas, Snowflake.
Al promover formatos abiertos como Apache Iceberg y la gobernanza multinube, Snowflake ha permitido el intercambio y la supervisión de datos sin fisuras para modelos sólidos y fiables.
Un ejemplo destacado es la startup noruega Völur, donde nuestras capacidades de interoperabilidad les permitieron compartir datos de forma segura, eliminar los silos e impulsar innovaciones en IA que generaron nuevas fuentes de ingresos. Este es el futuro: un ecosistema de datos interconectado y colaborativo que acelera la transformación impulsada por la IA, justa y transparente.
Nuestro liderazgo en colaboración de datos, interoperabilidad y gobernanza unificada está sentando las bases para un uso de los datos más inclusivo, seguro y responsable, allanando el camino para que el pleno potencial de la IA se haga realidad.
Marina Martín García, directora de Estrategia Corporativa, Telefónica
El uso inclusivo, ético y responsable de la tecnología está en el centro de cada decisión que tomamos. Llevamos mucho tiempo abogando por la protección de datos, dando a los usuarios control y transparencia sobre el uso de sus datos. La confianza digital es un elemento clave de nuestra promesa al cliente.
Nuestros principios rectores para la IA, garantizan que desarrollamos tecnologías inteligentes de forma transparente, justa y sostenible, con un enfoque centrado en las personas. Esto incluye un firme compromiso con la sostenibilidad medioambiental, al reducir la huella de carbono de nuestros centros de datos mediante una innovadora tecnología de refrigeración por inmersión. También trabajamos en el desarrollo de soluciones internas, como Kiri, que ayudan a Telefónica a tomar decisiones informadas para minimizar la huella de carbono en sus casos de uso de IA y big data, ofreciendo recomendaciones sobre los tiempos de ejecución óptimos, sugiriendo ubicaciones en la nube con un menor impacto ambiental y orientando la asignación de recursos.
Aprovechando la confianza de los consumidores en las telecos, podemos convertir los riesgos potenciales en oportunidades, posicionando al sector como líder en confianza digital.
Marina Martín García, directora de Estrategia Corporativa, Telefónica.
La interoperabilidad también es clave en nuestro enfoque. Nuestro ecosistema digital, Kernel, se basa en estándares de código abierto e integra la privacidad desde el diseño para proteger los datos de los usuarios en todos los productos. La privacidad se gestiona de forma transversal, con requisitos legales accesibles para cada canal y servicio, lo que garantiza que ningún dato se exponga sin cumplir la base jurídica adecuada.
Las telecos han figurado históricamente entre los sectores más fiables para los consumidores. La pregunta clave ahora es: ¿cómo podemos aprovechar esta confianza y dar a conocer nuestros esfuerzos para garantizar la seguridad digital y posicionar al sector como líder en confianza digital? Al hacerlo, podemos transformarlo de un riesgo potencial en una oportunidad significativa para todo el sector.
