La gobernanza de la IA está ascendiendo rápidamente a los primeros puestos de la agenda de las empresas de todo el mundo.
Ninguna función de cumplimiento normativo dentro de una empresa puede supervisar la gobernanza de la IA en su totalidad; debe ser un esfuerzo colaborativo.
Estas son 4 habilidades clave que necesita cualquier persona responsable de la gobernanza de la IA en una empresa.
La cuestión de la gobernanza de la IA ha llegado al nivel de la alta dirección. Los directivos principales, junto con los profesionales de tecnología, privacidad de datos, riesgos, legal y seguridad, buscan conocer cómo otras empresas están abordando la espinosa cuestión de gobernar la IA y determinar qué modelo es el mejor para ellas.
Está cada vez más claro que se necesita un cambio profundo, y con urgencia. Las leyes sobre IA que entran en vigor no ofrecen un plan integral de principio a fin para facilitar el cumplimiento que aborde todos los riesgos; se suman a una lista existente de obligaciones de cumplimiento ya establecidas. Lo que es diferente es que la evaluación y la mitigación de riesgos no pueden implementarse dentro de silos tradicionales.
En el centro de todo esto están los datos, y todos sabemos que no hay IA sin datos. Si bien la recopilación, el uso, el tratamiento, el almacenamiento y la eliminación de datos personales ya es un ámbito muy regulado, las organizaciones deben ir más allá para abordar la forma en que la IA trastoca el panorama tradicional de riesgos de datos.
La gobernanza de la IA debe ser multidisciplinar
Uno de los factores que complican la gobernanza de la IA es que las especialidades de cumplimiento normativo suelen estar repartidas en distintas áreas de la empresa. Como resultado, sus mecanismos y procesos de gobernanza existentes pueden estar bastante aislados en silos, centrados en identificar y mitigar riesgos específicos sin evaluar el panorama general fuera de su ámbito de competencia limitado.
Por ejemplo, los profesionales de la protección de datos no están capacitados para identificar posibles infracciones de propiedad intelectual durante su revisión de privacidad. Del mismo modo, los abogados de propiedad intelectual no son los más indicados para opinar sobre los riesgos asociados a los datos personales. Pero son precisamente estas funciones —privacidad de datos, riesgos, legal y seguridad— las que deben trabajar juntas para abordar los riesgos asociados a la IA.
La colaboración es esencial. La mejor forma de abordarlo es asignar la responsabilidad de la gobernanza de la IA a la función que tenga las habilidades necesarias para articular un enfoque coherente e integrado, y envolverlo en un modelo operativo adecuado que garantice la rendición de cuentas.
Empiece ya con un enfoque basado en habilidades para asignar la gobernanza de la IA
Es mejor empezar pronto. No espere a que se aprueben leyes sobre IA en sus jurisdicciones para iniciar las conversaciones internas que necesita mantener sobre los riesgos de la IA. Los desafíos actuales en torno a la propiedad intelectual, la protección de datos y la responsabilidad por productos aparecen reiteradamente en la prensa, y todavía hay muchas zonas grises. Los nuevos modelos de gobernanza requerirán tiempo, al igual que una negociación cuidadosa de la cultura y la política organizativas, incluida la financiación asociada para poner en funcionamiento y escalar un nuevo modelo de gobernanza en línea con las ambiciones estratégicas en materia de IA.
4 habilidades para una función eficaz de gobernanza de la IA
Evaluar, desde la perspectiva de las habilidades, quién tiene las riendas de la gobernanza de la IA puede aportar claridad y orientar la decisión de una organización. Estas cuatro habilidades son esenciales para una función eficaz de gobernanza de la IA:
Es capaz de explicar cómo funcionan las tecnologías de IA: dada la variedad de partes interesadas implicadas, comprender y saber traducir los puntos clave sobre el funcionamiento de las tecnologías de IA a un público de gobernanza más amplio es fundamental. Los términos técnicos deben entenderse y comunicarse a personas en su mayoría no técnicas y a la alta dirección, en un lenguaje que comprendan, junto con la capacidad de profundizar en el detalle cuando sea necesario. Esto requiere cierto grado de recualificación y una actitud proactiva para comprender la IA y los datos subyacentes, y trabajar estrechamente con el negocio.
Es capaz de establecer y gestionar un programa de gobernanza: la capacidad de influir en los líderes y asegurar presupuestos adecuados es fundamental para implementar un programa de gobernanza de la IA, especialmente porque debe alinear diversos mecanismos, procesos y modelos operativos de gobernanza ya existentes en una organización, y gestionar eficazmente un nuevo programa, incluida la formación organizativa. Hay que prestar atención a determinar si un programa de cumplimiento existente, por ejemplo un programa de protección de datos para facilitar el cumplimiento del RGPD, puede incorporar los requisitos de gobernanza de la IA, o si un nuevo marco o un modelo de gobernanza general alineado con los marcos existentes es la mejor opción para respaldarlo.
Comprende la estructura organizativa y cómo se hace realmente el trabajo: es fundamental conocer cómo operan las funciones de cumplimiento actuales y en qué parte de la empresa se ubican, para poder reunir al equipo multidisciplinar que se necesita. Por ejemplo, contar con un marco sólido que recoja todos los desafíos en torno al uso de datos personales, pero que no identifique los riesgos contractuales sobre el uso de la IA ni las protecciones de derechos de autor, perjudicará a todos. La capacidad de desenvolverse entre funciones con conocimiento de los marcos existentes (identificando, por ejemplo, qué equipo determina los riesgos de derechos de autor relacionados con el software de código abierto) será un activo enorme. Crear un marco común que aborde todas estas necesidades para la IA no es tarea sencilla: se necesitan tanto impulsores como ejecutores.
Centrado en las soluciones y en los resultados: las leyes, los reglamentos, las condiciones de uso de los sitios web y los contratos comerciales introducen restricciones, interpretaciones y ambigüedades, por lo que es fundamental que la función que impulsa la gobernanza de la IA esté orientada a soluciones, sea proactiva y ayude a la empresa a sortear estos desafíos mientras aborda los riesgos. De lo contrario, paralizará la empresa y fomentará una cultura menos propensa a cumplir con las salvaguardas establecidas por el programa de gobernanza de la IA. La gobernanza de la IA debe ofrecer un camino a seguir que acelere y permita la innovación, no que la impida.
Hacer las cosas de otra manera y generar confianza en la IA
La IA alterará sin duda las industrias existentes y los roles evolucionarán en toda la empresa, lo que exigirá recualificar a la plantilla. Es esencial considerar la gobernanza de la IA como algo más que un mero trámite: es una oportunidad para aprovechar la IA y hacer las cosas de otra manera, al tiempo que se ofrece una supervisión sólida para que las personas confíen en los resultados. A medida que la tecnología sigue evolucionando a gran velocidad, y a medida que las leyes y reglamentos continúan avanzando, aunque a un ritmo más lento, crear un equipo multidisciplinar y ágil, preparado para facilitar el trabajo de la empresa, le diferenciará de la competencia.
Dondequiera que se ubique la gobernanza de la IA en su organización, la mentalidad lo es todo. Cuanto más reconozca las habilidades necesarias y entienda que se trata de un trabajo de equipo, más probable será que esta nueva forma de gobernanza quede integrada en su organización, proporcionando las salvaguardas adecuadas para acelerar la innovación, que es lo que todos realmente desean lograr.
Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente las de la organización global EY ni de sus firmas miembro.
