¿Cómo gobierna el mundo lo desconocido de las tecnologías exponenciales, incluida la IA generativa (GenAI)?
Construir resiliencia organizativa en torno al desarrollo y despliegue de la GenAI es esencial.
Desde incorporar las métricas de la GenAI en la medición del desempeño hasta fomentar la comprensión de la GenAI en los niveles más altos de la organización, aquí tiene ocho formas de construir resiliencia organizativa frente a la IA.
En los últimos años hemos sido testigos de una infusión constante de tecnologías exponenciales –inteligencia artificial (IA), cripto, cadena de bloques, biología sintética, nanotecnología y más– en todos los ámbitos de la vida, y nos preparamos para que llegue más en breve.
El lanzamiento de ChatGPT y de otras herramientas de IA generativa (GenAI) al mundo a finales de 2022 puso de manifiesto este fenómeno.
Como no tecnólogo centrado en la gobernanza, el riesgo, la ética y el impacto de las tendencias y megatendencias tecnológicas, incluido lo que recientemente acuñé como la ingobernabilidad de la tecnología exponencial, me pregunto: ¿cómo gobierna el mundo lo desconocido de la tecnología exponencial? ¿Cómo gestionan las empresas, los gobiernos, las ONG y las comunidades el riesgo de lo aparentemente ingobernable mientras dejan, al mismo tiempo, margen para la creatividad?
En este artículo, aplico mi modelo de resiliencia organizativa de Gloom to Boom: How Leaders Transform Risk into Resilience and Value, el cual he aplicado con frecuencia al fenómeno de la GenAI.
Supongamos que aplicamos la noción de resiliencia organizativa a la GenAI. En ese caso, podríamos llegar a la siguiente definición: la resiliencia en GenAI es la capacidad de una organización para comprender y mantener de forma sostenible, construir y ofrecer los resultados empresariales previstos y potenciados por la IA, tanto en lo que respecta a productos y/o servicios que utilizan herramientas y técnicas de IA y GenAI, como evitando deliberadamente riesgos, efectos negativos y eventos adversos derivados de la IA y la GenAI (como el uso y el abuso de herramientas de GenAI para crear y desplegar ciberataques más eficaces y potentes).
¿Cómo está el Foro Económico Mundial creando salvaguardas para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Construir resiliencia organizativa para la GenAI
Al igual que con la ciberseguridad, construir resiliencia organizativa en torno al desarrollo y despliegue de la GenAI es esencial. Mientras que en el caso de la ciberseguridad hablamos en gran medida de gestión de riesgos y prevención de responsabilidades, en el caso de la GenAI nos referimos a un fenómeno más complejo y multifacético, lleno de oportunidades y también de riesgos.
Los ocho pasos hacia la resiliencia organizativa en GenAI
1. Implicación en la gobernanza y el liderazgo de la GenAI
El tono siempre lo marca la alta dirección, pero el mejor tono es el que marca una dirección con inteligencia emocional y formación continua sobre las promesas y los peligros del mercado, incluidas las tecnologías exponenciales pertinentes y la GenAI. Los líderes deben implicarse para comprender cómo la GenAI afecta a su negocio y a su estrategia, y cómo puede aumentar la capacidad, la productividad, el talento, la fuerza laboral, los productos, los servicios y el propio modelo de negocio.
2. Crear una cultura deliberada de ética en IA y tecnología
Toda organización debe considerar, identificar e integrar de forma consciente y proactiva las implicaciones éticas y culturales de su huella tecnológica, incluidas la compra, el uso, el desarrollo y el despliegue de la GenAI. En la cúpula y en toda la entidad, a través de las métricas de gestión del desempeño y los sistemas de incentivos, varios actores internos fundamentales (empezando por el director ejecutivo y los responsables de ética, cumplimiento, talento y/o riesgos, entre otros) deben liderar el diseño de una cultura medible de ética en lo que respecta a la tecnología.
3. Comprender a los actores interesados en la GenAI
Otro elemento vital para comprender los problemas, riesgos y oportunidades inherentes al despliegue de la GenAI en su organización es identificar a los actores interesados y comprender sus posiciones, expectativas, temores, líneas rojas y deseos más profundos en lo que respecta al uso de sus datos y de los de terceros, así como al uso que su organización hace de esos datos en algoritmos, productos y servicios. El riesgo y la oportunidad reputacionales de una organización pueden depender en gran medida de esta dinámica.
4. Garantizar una inteligencia de riesgos con conocimiento de la IA
Todas las organizaciones –pequeñas, medianas y grandes– deben contar con alguna forma de gestión sistemática de riesgos adaptada a la entidad, sintonizada con el entorno cambiante y adaptable de manera ágil y astuta. Esto implica disponer de un sistema estructurado de gestión de riesgos empresariales que capte los matices de los avances tecnológicos pertinentes para el negocio y que pueda identificar y contrastar los problemas, riesgos y oportunidades sustantivos más probables e impactantes para la empresa.
5. Integrar la GenAI en la estrategia ESGT y empresarial
Si su organización todavía no abarca todo el espectro de ESG más tecnología pertinentes (o lo que yo denomino ESGT) en el desarrollo y la implementación de su estrategia, es hora de cambiarlo. Integrar los problemas, riesgos y oportunidades ESGT más relevantes y materiales de una entidad en la estrategia empresarial es ahora un ejercicio crítico, no opcional. Según su sector y su huella empresarial, la GenAI y otras cuestiones tecnológicas pertinentes, como la ciberseguridad y la privacidad y recopilación de datos, deben formar parte de la lluvia de ideas estratégica general.
6. Incorporar las métricas de la GenAI en la gestión del desempeño
El Foro Económico Mundial publicó recientemente una contribución importante para medir la confianza digital en una organización que abarca la GenAI. Las entidades deben desarrollar e implementar métricas de confianza digital pertinentes para garantizar que existan salvaguardas y políticas adecuadas. Estas métricas deben abordar tanto el desempeño organizativo como el individual, desde el director ejecutivo hasta el personal de nueva incorporación.
7. Desplegar una preparación ante crisis relacionadas con la tecnología
Cualquier organización resiliente contará con un conjunto de políticas, prácticas y equipos que se ocupan de –y que escudriñan continuamente el horizonte y ensayan– escenarios, incluidos los riesgos digitales más probables o consecuentes que podrían convertirse en crisis, y que consideran escenarios relacionados con las consecuencias negativas de la tecnología exponencial y su impacto en los actores clave. Por ejemplo, Google aplica un enfoque de "equipo rojo" para comprender los riesgos de una IA insegura. Lo denomina "Marco de IA segura de Google", que consta de seis prácticas, desde el fortalecimiento de bases de seguridad sólidas hasta la armonización de los controles en todo el ecosistema.
8. Impulsar una cultura de mejora continua e innovación para la GenAI
Un último elemento para construir una organización resiliente frente a la GenAI es garantizar que, en todos los pasos anteriores, exista un ciclo de retroalimentación para las lecciones aprendidas, el análisis de causas raíz y el intercambio de datos. Esto alimenta la mejora continua de las políticas y la gestión empresariales, así como del desempeño, además de una cultura de innovación que crea productos y servicios mejorados y nuevos.
A medida que las tecnologías exponenciales impregnan nuestra vida cotidiana, debemos actuar con agilidad y reflexión en lo relativo a las implicaciones de gobernanza, riesgo, ética e impacto. Incorporar de forma consciente y responsable estos conceptos en los ocho pasos de la resiliencia organizativa puede ofrecer una hoja de ruta útil para lograrlo.
