La relativa ambigüedad de la supervisión regulatoria impide que la inteligencia artificial refleje directamente las necesidades de la sociedad;
mientras que algunas organizaciones sitúan la equidad, la ética, la rendición de cuentas y la transparencia en el centro del desarrollo de la IA, otras "construyen hasta que se rompe";
¿Cómo pueden las personas, los procesos y la tecnología contribuir de la mejor manera a una cultura responsable y ética para el desarrollo de la IA?
Si bien la IA encierra una gran promesa para la sociedad, la velocidad de su avance ha superado con creces la capacidad de las empresas y los gobiernos para supervisar y evaluar adecuadamente los resultados. La relativa ambigüedad de la supervisión regulatoria en todo el mundo impide que la IA refleje directamente las necesidades de la sociedad. Es importante que las organizaciones tomen medidas para habilitar y demostrar su fiabilidad ante todas las partes interesadas y construir la reputación de la IA de la organización.
La confianza en la IA comienza cuando las partes interesadas comprenden que una organización concreta utiliza la IA de forma responsable. Es poco probable que las partes interesadas externas identifiquen los sistemas de IA individuales como "fiables" o "no fiables"; más bien, una organización se considera fiable o no, y los sistemas de IA heredan la reputación de la organización. De la misma manera que el personal humano de una organización muestra los valores de la organización, los comportamientos del sistema de IA son tanto una manifestación como una influencia en la reputación de la organización.
La formación del personal es un reto habitual para la mayoría de las organizaciones, pero los desafíos de implementar una IA ética y fiable son nuevos y distintos. Sin embargo, están bien documentados, ya que más de el 90 % de las empresas encuestadas informan de algunos problemas éticos. ¿Cómo puede una organización hacerlo mejor?
En el entorno regulatorio actual, ambiguo, la complejidad de los sistemas de IA impulsa a las organizaciones a buscar nuevas formas de respaldar su desarrollo de la IA. La mayoría de las empresas tecnológicas sofisticadas, como mínimo, indican que sitúan los principios de equidad, ética, rendición de cuentas y transparencia (FEAT, por sus siglas en inglés) en el centro del desarrollo de la IA, y más de 170 organizaciones han publicado principios sobre IA y datos. Sin embargo, muchas organizaciones tienden a “construir hasta que algo se rompe” sin tener en cuenta quién se ve afectado por la rotura.
Creemos que es posible lograr un progreso tangible hacia el uso responsable de la tecnología aprovechando las personas, los procesos y la tecnología para salvar estas brechas. Así se puede hacer:
1. Personas
Los líderes de las organizaciones, desde los directivos hasta el equipo directivo (C-suite) y el consejo de administración, a menudo tienen poca comprensión de los supuestos y las decisiones tomadas durante el desarrollo e implementación de la IA. Independientemente de la comprensión que tengan los líderes de la IA, son ellos quienes asumen los resultados reputacionales y financieros (tanto positivos como negativos). Los científicos de datos, por otro lado, pueden encontrar difícil tener en cuenta todas las directrices, normativas y principios organizativos durante el proceso de desarrollo.
En ambos casos, el desafío no suele ser una falta de comprensión de lo que significa ser responsable; se trata de una falta de conocimiento sobre qué factores son importantes en los distintos niveles de la organización y de cómo afectan a los resultados. Encontrar formas (procesos y herramientas) de reunir a grupos dispares puede ser muy eficaz.
2. Procesos
Las partes interesadas esperan que la IA sea abiertamente justa, ética en su aspiración, responsable y tan transparente y abierta como sea posible. Para maximizar la confianza de sus partes interesadas externas, se debe utilizar un proceso sistemático y visible para desarrollar toda tecnología responsable.
Las directrices para el desarrollo de tecnología responsable son abundantes y variadas. Puede resultar difícil saber cuál adoptar. Una organización debe elegir una y utilizarla. Es preferible ser sistemático y disponer de un marco que esté alineado en un 80 % con sus necesidades que no tener ningún marco.
Al utilizar un marco para el desarrollo de tecnología responsable, debe existir alguna forma de artefacto (documentación o informe) que pueda compartirse con las partes interesadas. De este modo, el proceso es sistemático y visible. Estos artefactos sirven tanto como prueba de que un proceso se implementó y se siguió, como de mecanismo para guiar la iteración y la retroalimentación.
3. Herramientas y tecnología
Deben desarrollarse y adoptarse herramientas que puedan integrar de forma eficiente y eficaz estos procesos en el desarrollo y la implementación de la IA. Dichas herramientas deben facilitar la aplicación de marcos de orientación, agilizar los análisis que evalúan posibles problemas, como los sesgos, y generar artefactos útiles para las partes interesadas internas y externas.
Los desarrolladores de IA necesitan herramientas objetivas que les ayuden a evaluar su trabajo y permitan a las partes interesadas de la organización aportar retroalimentación. Los líderes organizativos necesitan evaluaciones estandarizadas del riesgo general de la IA y métricas financieras como el retorno de la inversión (ROI). Además, las herramientas que explican cómo los sistemas de IA toman decisiones pueden permitir que los directivos y los consejos de administración tengan una mejor supervisión y comprendan los riesgos y los posibles impactos financieros. Estas herramientas pueden proporcionar una estructura estandarizada y artefactos que beneficien tanto a los científicos de datos como a los líderes organizativos, y ayudar a superar la desconexión entre los requisitos para crear y los requisitos para obtener resultados éticos.
Para generar confianza en la IA de una organización, las personas, los procesos y las herramientas deben permitir que las partes interesadas internas desarrollen tecnología responsable. Sin estos pasos concretos, la mentalidad de "construir hasta que se rompe" probablemente provocará una pérdida de confianza que podría hacer descarrilar a la organización. Potenciar un proceso ético y transparente, en el que los colegas y los directivos se hagan mutuamente responsables y se faciliten mutuamente los comportamientos deseables, es la forma en que las personas éticas fomentan una cultura ética para el desarrollo responsable de la IA.
