El papel de director de ética de la IA (CAIEO, por sus siglas en inglés) está en auge en las empresas líderes, a medida que la transformación digital se vuelve más compleja y la adopción de la IA crece rápidamente en todos los sectores;
Las empresas con visión de futuro recurren al rol de CAIEO para poner en práctica los valores corporativos relacionados con la IA en las distintas divisiones de la organización. Los CAIEO deben asegurarse de que la tecnología de IA que se desarrolla, utiliza y despliega sea confiable, y de que los desarrolladores cuenten con las herramientas, la formación y el entrenamiento adecuados para incorporar fácilmente estas propiedades en lo que producen;
Los CAIEO deben tener conocimientos multidisciplinares sobre técnicas, herramientas y plataformas de IA, sobre los riesgos de la IA y su impacto en la sociedad, la estrategia empresarial, los sectores y las políticas públicas, así como buenas habilidades de comunicación;
Un nuevo informe del Consejo Global del Futuro sobre IA para la Humanidad explora la formación del rol de CAIEO y de otros perfiles para poner en práctica la equidad de la IA en toda una organización.
La inteligencia artificial (IA) afecta la vida de miles de millones de personas, transforma rápidamente nuestra sociedad y desafía el significado de ser humano. Algunos piensan que la IA es solo una palabra de moda, pero es lo bastante potente como para permitir soluciones en todos los sectores, desde asistentes digitales personales hasta la predicción de fraudes y fallos, la conducción autónoma y asistida, y los diagnósticos sanitarios. La IA puede ayudar a personalizar la educación y la tutorización, crear nuevos empleos y contribuir a afrontar la pandemia de COVID-19 y sus secuelas.
Junto a sus efectos positivos, algunas aplicaciones de IA plantean preocupaciones y riesgos legítimos. La ética de la IA es el campo de estudio multidisciplinar y multiactor que busca definir e implementar soluciones técnicas y no técnicas para abordar estas preocupaciones y mitigar los riesgos.
Las soluciones de IA podrían, por ejemplo, generar involuntariamente resultados discriminatorios porque los datos subyacentes están sesgados hacia un determinado segmento de la población. Esto podría profundizar las injusticias estructurales existentes, desequilibrar aún más las relaciones de poder, amenazar los derechos humanos y limitar el acceso a recursos e información.
Algunos sistemas de IA podrían comportarse como cajas negras, con poca o ninguna explicación de por qué toman sus decisiones. Según el último informe de FICO dedicado al Estado de la IA responsable, dos tercios (65%) de las empresas encuestadas no pueden explicar cómo se toman las decisiones o predicciones específicas basadas en IA. Esto podría erosionar la confianza en la IA y, por tanto, obstaculizar su adopción, reduciendo los efectos positivos de esta tecnología. También podría dañar la reputación de una empresa y la confianza de sus clientes, además de contradecir los valores corporativos.
El objetivo principal de un Director de Ética de la IA (CAIEO) es incorporar los principios de ética de la IA a las operaciones de una empresa, organización o institución. Un CAIEO asesora y construye marcos de rendición de cuentas para los CEO y los consejos de administración sobre los riesgos no deseados que la IA plantea para la organización. Debe ayudar a las empresas a cumplir con las normativas de IA existentes o previstas y supervisar la implementación de muchas de las funciones de gobernanza y formación en ética de la IA de la organización.
Varias empresas, como BCG, Salesforce, IBM y Microsoft, ya tienen este rol con diversos títulos – Responsable de IA responsable, Líder global de ética de la IA, Especialista global en ética de la IA o Director de IA responsable. “[L]a demanda de especialistas en ética de la inteligencia artificial crece cada vez más a medida que los líderes tecnológicos reconocen públicamente que sus productos pueden ser defectuosos y perjudiciales para el empleo, la privacidad y los derechos humanos”, afirma un reciente artículo del WSJ.
A un nivel muy general, las empresas necesitan un marco de ética de la IA para garantizar que las soluciones habilitadas por IA se desarrollen de forma que mitiguen las probabilidades de daño a las partes interesadas pertinentes. Más concretamente, un CAIEO debe liderar la definición de objetivos amplios de ética de la IA y luego ayudar a la empresa a entender cómo alcanzarlos. Debe asegurarse de que la tecnología de IA que se desarrolla tenga las propiedades adecuadas (equidad, robustez, explicabilidad) y de que los desarrolladores cuenten con las herramientas y la formación necesarias para incorporar fácilmente estas propiedades en lo que producen. Debe garantizar que los riesgos del despliegue de la IA (tanto internamente como para otras empresas) se mitiguen de forma adecuada.
Para lograr todo esto, el rol de CAIEO necesita:
Conocimientos multidisciplinares: Los problemas de ética de la IA no pueden abordarse únicamente mediante soluciones técnicas y el cumplimiento de las políticas, normas y leyes pertinentes. Los CAIEO necesitan conocimientos y habilidades multidisciplinares, que incluyan conocimientos técnicos sobre IA y percepción, consideraciones éticas, familiaridad con las ciencias sociales y el derecho tecnológico, así como saber hacer en estrategia empresarial. También necesitan facilitar la creación de herramientas y marcos que permitan a los equipos de producto desarrollar la IA de forma responsable, así como trabajar con toda la empresa, otras organizaciones profesionales y responsables políticos para contribuir a dar forma a leyes, normas y estándares que definan y regulen las mejores prácticas a nivel global.
Gobernanza eficaz e inclusiva: Las empresas pueden apoyar y supervisar a un CAIEO creando un comité de ética de la IA, dirigido por el CAIEO, con representantes de todas las divisiones de la empresa y con poder de decisión, visibilidad y autoridad de gobernanza plenamente respaldados por el CEO y los directivos principales. El CAIEO puede ayudar a cada miembro del comité a comprender las soluciones de ética de la IA en sus respectivas unidades de negocio y a incorporarlas a las operaciones. En las grandes organizaciones, los CAIEO deben implementar iniciativas de gobernanza centralizadas y de arriba abajo, como directrices corporativas que establezcan cómo debe detectar y mitigar toda la empresa el sesgo de la IA al construir o utilizar una solución de IA; y iniciativas de abajo arriba, como herramientas específicas para una unidad de negocio o una solución de IA.
Diferenciación estratégica y valor empresarial: Hasta ahora, gran parte de la argumentación a favor de los CAIEO se ha centrado en la reducción de riesgos, pero este rol también debería animar a las empresas a considerar la ética de la IA como fuente de valor y como elemento de diferenciación estratégica, y no solo como un conjunto de barreras que cumplir. Los principios de ética de la IA y su implementación deberían vincularse a los valores y al modelo de negocio de la empresa, de modo que todas las partes interesadas internas y externas puedan apreciar el valor de desarrollar, desplegar y utilizar la IA de forma responsable. Los CAIEO deben comprender el valor empresarial de invertir en ética y equidad, incluidos los costes de desarrollo de productos, implementación y adopción empresarial.
Comunicación pública y promoción: Los CAIEO también necesitan habilidades de comunicación para facilitar el diálogo y la confianza entre las partes interesadas dentro de la empresa y fuera de ella. Ayudar a las personas a comprender los problemas y convencerlas de cambiar sus acciones exige sólidas habilidades comunicativas y trabajar en todos los ámbitos de la organización. Un CAIEO debe preparar contenidos para públicos específicos y mantener el diálogo y los debates en marcha. La ética de la IA exige una profunda comprensión de las cuestiones normativas, de gobernanza y de políticas. Sin embargo, las leyes y regulaciones siempre van por detrás de la tecnología y de la adopción de la IA, por lo que es esencial centrarse en los valores, las normas y la percepción pública.
Participación en toda la empresa: Todo esto no puede hacerlo una sola persona (o equipo), sino que requiere un enfoque en toda la empresa, en el que todas las unidades de negocio contribuyan a alcanzar estos objetivos. Hay que definir los requisitos de IA, construir herramientas técnicas y producir materiales educativos. Los clientes deben participar y los equipos deben recibir formación. Según las Directrices de diseño éticamente alineado del IEEE para sistemas autónomos e inteligentes: “[L]as empresas necesitan crear roles para especialistas de marketing, especialistas en ética o abogados de nivel senior que puedan implementar de forma pragmática un diseño éticamente alineado, tanto en la tecnología como en los procesos sociales, para respaldar la innovación de sistemas basada en valores.”
Los datos y la IA se están convirtiendo en elementos centrales para la mayoría de las empresas. Mientras reinventan su modelo de negocio y su valor estratégico en esta nueva era centrada en los datos, es imperativo que estas organizaciones identifiquen y aborden correctamente y de forma eficaz los problemas y riesgos de la ética de la IA. Para ello –y para liderar la creación de valor social y empresarial mediante el desarrollo, despliegue y uso de la IA de forma responsable y confiable– defendemos comenzar con el nombramiento de un CAIEO. Este rol permitirá la creación de un enfoque de ética de la IA en toda la empresa.
