La IA representa una enorme oportunidad para la humanidad y para muchas organizaciones.
Contar con un marco claro de gobernanza de la IA, basado en principios claros, garantizará que una organización la utilice de forma responsable y óptima.
En los últimos años, la IA responsable ha pasado de ser un concepto de nicho a ocupar titulares constantemente. La IA responsable y fiable es el tema de varios documentales, libros y congresos. Cuanto más hagamos de la IA responsable una expectativa y un recurso conocido, más probable será que se convierta en nuestra realidad. Así podremos prosperar con una IA más accesible. Este es nuestro objetivo común a través del programa de certificación Responsible AI Badge para altos directivos. Asimismo, en nuestro pódcast, In AI We Trust?, identificamos los ingredientes clave de la IA responsable, de los que todas las organizaciones pueden aprender y beneficiarse.
Colaboramos con académicos, organizaciones y destacados pensadores para conocer las mejores prácticas y procesos para una IA responsable. Cathy O’Neil ha aportado su perspectiva sobre los peligros de confiar indebidamente en la IA, mientras que Renée Cummings, fundadora de Urban AI, ha compartido sus reflexiones sobre el impacto de la IA en nuestros derechos civiles. Keith Sonderling, comisionado de la Comisión para la Igualdad de Oportunidades en el Empleo de Estados Unidos (EEOC), ha compartido orientaciones para que los empleadores desarrollen, adquieran e implementen IA en los sistemas de recursos humanos. el representante Don Beyer (D-VA) expresó su entusiasmo por la IA y las oportunidades que ofrece para la formulación de políticas.
Mejores prácticas para lograr una gobernanza responsable de la IA
A partir de estos y otros debates, hemos identificado las 5 mejores prácticas fundamentales para lograr una gobernanza responsable de la IA:
1) Establecer principios para la IA
El equipo directivo debe estar alineado en torno a un conjunto establecido de principios para la IA. Los líderes deben reunirse y hablar sobre el uso de la IA y su consonancia con sus valores. Con demasiada frecuencia, la tecnología queda relegada al equipo de TI. Con la IA, debemos cambiar este enfoque: hay que mejorar las culturas laborales para adaptarlas a los nuevos modelos de trabajo. En nuestro pódcast reciente con Richard Benjamins, explica cómo Telefónica implementó con ambición principios de IA que se esforzará por cumplir.
2) Establecer un marco de gobernanza responsable de la IA
Los valores de la organización y la tecnología están vinculados y deben abordarse en conjunto. La agenda directiva debería incluir la manera en que los responsables de innovación explican cómo desarrollan y utilizan la IA en funciones clave. Los responsables de recursos humanos pueden indicar dónde se utiliza la IA. El asesor jurídico general puede reflexionar sobre posibles responsabilidades legales ante titulares de crisis y demandas y judiciales. Estos debates deberían conducir al establecimiento de un marco que oriente el uso futuro de la IA y contribuya a definir su cultura. Esta lista de verificación ofrecerá orientación sobre cómo hacerlo.
Cada vez hay más marcos que pueden orientar la labor de los directivos, entre ellos el marco de BSA, el marco de riesgos de la GAO y el Marco de Gestión de Riesgos de la IA del NIST. El marco de EqualAI ofrece cinco pilares para la gobernanza responsable de la IA, y el Foro Económico Mundial elaboró el kit de herramientas de IA para la alta dirección destinado al liderazgo en IA.
3) Llevar a la práctica el marco de gobernanza
Tan importante como diseñar un plan que establezca los principios rectores de la estrategia de IA es ponerlo en práctica: de ello dependerá su eficacia. Hay varios pasos importantes para llevar a la práctica una IA responsable.
Designar un punto de contacto y un equipo de apoyo
Aclarar la rendición de cuentas de la alta dirección reducirá la responsabilidad corporativa. Una organización debe establecer quién será responsable de la gobernanza de la IA. Este directivo coordinará y atenderá las preguntas e inquietudes sobre IA que se reciban, tanto internas como externas. Supervisará la implementación del marco y de los sistemas de apoyo, asumirá la responsabilidad de que las respuestas sean precisas y oportunas, y se asegurará de que se identifiquen y aborden los nuevos desafíos.
Para garantizar la rendición de cuentas, las evaluaciones de los miembros designados del equipo deben incluir expectativas claras sobre sus funciones. El equipo que apoya la implementación de una IA responsable debe ser lo más diverso posible. Debe incluir expertos técnicos, ingenieros, especialistas en ética, diseñadores, abogados, desarrolladores de productos, responsables de ventas y directivos de relaciones con los consumidores. La diversidad hace que la IA sea más segura, pues permite contemplar la gama más amplia de riesgos. También la mejora, ya que se diseña para una base de consumidores muy amplia.
Comunicar las etapas del ciclo de vida de la IA para los procedimientos de prueba
Una organización debe establecer buenas prácticas de higiene de la IA. Esto incluye realizar pruebas periódicas en las distintas etapas del desarrollo, la implementación y el uso de la IA. Las pruebas dependerán del tipo de sistema y de su nivel de riesgo. Asimismo, dada la flexibilidad y adaptabilidad de la IA, las pruebas deben adaptarse a ella. Será necesaria una lista de verificación exhaustiva para garantizar la coherencia.
Difunda ampliamente el plan de pruebas para que se cumpla en toda la organización. A la organización le conviene que el plan y los objetivos sean claros y que se pongan a prueba y resuelvan los posibles problemas. Esto refuerza el desarrollo de una cultura de IA responsable que promueve y comunica la confianza y la responsabilidad.
Documentar los hallazgos pertinentes al finalizar cada etapa
Para promover la coherencia, la rendición de cuentas y la transparencia, las organizaciones deberían documentar los hallazgos, como el origen y las lagunas de los datos de entrenamiento utilizados en los sistemas de IA. La documentación debería incluir las poblaciones infrarrepresentadas o sobrerrepresentadas para las que el sistema de IA podría tener distintas tasas de éxito. Esto alertará a quienes busquen lagunas y daños en etapas posteriores, así como a los usuarios posteriores de los sistemas de IA. Esta práctica se asemeja a consultar las etiquetas nutricionales y las listas de ingredientes, como las fichas de modelos de IA, que documentan qué elementos y personas forman parte de los conjuntos de datos.
Realizar auditorías periódicas para una gobernanza responsable de la IA
Puede que no nos gusten, pero acudimos al dentista con regularidad. Del mismo modo, las empresas deberían establecer una frecuencia y un proceso para realizar auditorías, en las que se planteen casos hipotéticos a los sistemas de IA. Cada vez hay más expertos y recursos externos que pueden ayudar. Es posible que pronto sean obligatorias, como estipulan el proyecto de ley de Nueva York sobre contratación con IA y la Ley de Rendición de Cuentas Algorítmica. Además, esta auditoría deja constancia de información que podría ser útil si más adelante se presenta una demanda o una consulta de un organismo regulador.
4) Formación
Ofrezca un curso de ética de la IA para explicar los principios y las obligaciones de manera coherente en toda la organización. También existe la opción de inscribir a los altos directivos en el programa de certificación Responsible AI Badge , centrado en la implementación de mejores prácticas.
5) Cuestionarios
Haga que el proceso sea sencillo, periódico y obligatorio. Puede utilizarse un cuestionario básico cuando un equipo esté planificando el diseño o el lanzamiento de un producto con IA. Si las puntuaciones son insuficientes, el asunto puede remitirse a un comité de ética de la IA para que lo resuelva. Dicho comité puede estar formado por diversos expertos con conocimientos técnicos de IA.
Sabemos que el sesgo puede infiltrarse en el ciclo de vida de los productos de IA y que la IA aprende constantemente nuevos patrones. Las organizaciones deben centrarse en herramientas potentes para aprender patrones y ofrecer recomendaciones que permitan mantenerse al día en materia de IA. Compartir esta comprensión mediante la implementación de marcos bien pensados y otras medidas propuestas permitirá a los directivos establecer reglas y protocolos de seguridad.
