Las razones citadas para no abordar la gobernanza de la IA no se sostienen.
La gobernanza de la IA es una oportunidad estratégica cuyo momento ha llegado.
Existe una hoja de ruta que permite a los líderes dar el primer paso en este camino, y es sencilla, preparada para el futuro y asequible.
Nuestra respuesta a la pandemia aceleró la incorporación de potentes herramientas y tecnologías de IA que respaldan nuevas formas de trabajar, contratar, gestionar, analizar y de aprovisionamiento.
La prisa por desplegar estas tecnologías conlleva una prisa equivalente por encontrar nuevas formas de gobernarlas en cuanto a calidad e impacto. Sin embargo, esta labor de controles y supervisión va con retraso en la práctica.
Aplazar este trabajo de gobernanza equivale a retrasar lo inevitable; supone desaprovechar oportunidades estratégicas y expone a clientes, empleados y sociedad a perjuicios asociados a sesgos no deseados, decisiones opacas y errores.
Se han planteado muchas razones para aplazar el foco en la supervisión, pero no se sostienen. La IA ya está en uso y existen pasos buenos, sólidos y preparados para el futuro que podemos dar ahora mismo (buenas inversiones) en este ámbito, que pueden mitigar riesgos y desbloquear estrategias sólidas.
En pocas palabras, podemos dar hoy pasos que nos sitúen en el buen camino, incluso mientras el camino que tenemos por delante aún se está definiendo.
Las seis razones más citadas para no abordar la gobernanza de la IA
1. «No tenemos por qué»
Esto no es del todo cierto. Ya se aplican numerosas normas y leyes vigentes, incluidas las relativas a la elaboración de informes crediticios, la privacidad y las restricciones a la discriminación en el empleo y el comercio. La regulación general de la IA, como la reciente propuesta de la Comisión Europea para un enfoque europeo sobre la materia, y las propuestas legislativas específicas por tecnología están en el horizonte, al igual que las normas de uso industrial y de contratación pública.
2. «Es demasiado pronto»
La IA y las tecnologías relacionadas siempre parecerán demasiado pronto. La agilidad formará parte del diseño y la supervisión para siempre. Las capacidades de la IA evolucionarán siempre con rapidez, y sus riesgos surgen precisamente por eso y por la forma en que la tecnología genera predicciones.
Aunque mejoren y las personas aprendan a utilizarlas mejor, estos riesgos siguen siendo inherentes y son una certeza. Aunque las normas están cambiando, las partes empiezan a redactar contratos que contemplan y trasladan estos riesgos, y muchas políticas y marcos propuestos ya ofrecen una buena visión de las cuestiones importantes.
Según la OCDE, ya existen más de 300 iniciativas de política sobre IA de 60 países, territorios y la UE.
3. «Nadie más lo está haciendo»
En realidad, la concienciación y la atención a la gobernanza de la IA se están generalizando. Grandes organizaciones como Microsoft, Salesforce, Mastercard y Cisco, la Comisión de Seguridad Nacional de EE. UU. y el Departamento de Defensa de EE. UU. han publicado principios y políticas que describen sus enfoques.
Otras entidades también se están incorporando rápidamente, entre ellas Workday y empresas de tecnología de RR. HH..
4. «Es trabajo de otra persona.»
La gobernanza de la IA es responsabilidad de todos. Los sistemas de IA incluyen a los equipos humanos que los desarrollan, los configuran, los utilizan y se ven afectados por ellos. La forma en que creamos y adquirimos estas herramientas exige que todos aprendamos más sobre sus cualidades y sus riesgos, igual que con cualquier otro producto que incorporamos a nuestro trabajo, nuestros hogares y nuestro cuerpo.
Esto es válido desde el directivo de más alto nivel, que marca el tono y los estándares de calidad y fiabilidad, hasta el consumidor que exige lo mismo.
5. «No nos lo podemos permitir»
Es más probable que no pueda permitirse no hacerlo. La gobernanza de la IA es un ejercicio estratégico que puede desbloquear nuevas formas de crear nuevos mercados, relaciones más sólidas con clientes y empleados, ofrecer productos con mayor eficiencia y ampliar el compromiso, todo ello a escala y con rapidez. Lo mismo ocurre con sus riesgos.
Por tanto, la gobernanza de la IA es también un ejercicio de mitigación de riesgos, ya que los impactos adversos se manifiestan como riesgos para la marca, la confianza de los clientes y la responsabilidad legal. La mayoría de las empresas no tienen la capacidad de resistencia necesaria para retirar voluntariamente sus productos del mercado y responder a las inquietudes (como hicieron Microsoft, Amazon o IBM en relación con el uso de tecnologías de reconocimiento facial por parte de las fuerzas de seguridad).
6. «No sabemos cómo»
Sabemos más de lo que creemos. Todos podemos aportar lo que sabemos sobre nuestros sectores y organizaciones para aplicarlo a contextos de uso de la IA muy nuevos y específicos. La aparición de herramientas para que los actores técnicos diseñen, desarrollen y desplieguen estos sistemas de IA con mayor precisión y celeridad es alentadora, pero no suficiente.
Los sistemas de IA necesitan diversos actores que hagan lo que ya saben hacer, que es examinar y supervisar los sistemas estratégicos y tecnológicos desde las perspectivas estratégica, normativa, de cumplimiento, de riesgos, de auditoría y otras.
Lo que podemos hacer hoy
Existe una ruta para que los líderes den los primeros pasos en este camino, y es sencilla, preparada para el futuro, asequible y merece la pena invertir en ella ahora:
1. Saber dónde se utiliza la IA y dónde se desarrolla o se planea implementar dentro de su organización.
2. Reforzar el valor estratégico y a largo plazo de los sistemas de IA con un enfoque reflexivo respecto a los objetivos, los límites, los riesgos y el impacto, que se evalúan desde el principio, como parte del diseño, y de forma continua.
3. Establecer estructuras de responsabilidad y aportación de alto nivel. Los líderes de nivel C deben supervisar y gestionar la gobernanza y la implementación de la IA, para marcar el tono, recabando aportaciones de toda la organización.
4. Identificar y priorizar casos de uso concretos para que los problemas y los equipos multilaterales puedan evitar la saturación y centrarse en las capacidades e impactos específicos de la tecnología, y aplicar una evaluación basada en resultados allí donde más importa.
5. Diseñar – y dotar de recursos suficientes – un equipo multilateral e interfuncional basado en la experiencia, la perspicacia y el impacto, que reúna distintos conjuntos de habilidades, generaciones y culturas. Dentro de este equipo, desarrollar competencias relevantes para el uso de la IA en su organización, seleccionando un marco de políticas de IA adecuado a su finalidad que defina y regule el proceso para lanzar tecnología responsable y fiable.
Estas políticas deben abordar tanto el significado humano como tecnológico de las consecuencias altas o bajas, la transparencia, la atención a los sesgos no deseados, la explicabilidad, la interpretabilidad y la rendición de cuentas, en la medida en que estos conceptos se apliquen en cada contexto.
6. Por último, para cada caso de uso prioritario seleccionado, aplique la herramienta ABC&D:
a) Articular: preguntar y evaluar los propósitos, los impactos, la idoneidad y los límites de los casos de uso y las herramientas de IA;
b) Alinear conductualmente los incentivos del equipo para maximizar los resultados de gobernanza deseados;
c) Supervisar continuamente el rendimiento frente a los estándares articulados;
d) Documentar los buenos procesos, las orientaciones y una formación bien pensada.
La gobernanza de la IA es una oportunidad estratégica cuyo momento ha llegado. La propia tecnología no es perfecta, y tampoco lo son los seres humanos, que en su mayoría son responsables de cómo se utilizan esos conocimientos y poderes, para bien o para mal.
Cuanto antes abordemos la gobernanza, mejor: no es demasiado pronto, es responsabilidad de todos y sabemos por dónde empezar.
