La IA generativa ofrece a las organizaciones un enorme potencial, pero también conlleva riesgos.
Los directores de seguridad de la información desempeñarán un papel fundamental en la configuración del caso de negocio concreto de la tecnología, en la articulación de sus riesgos y desafíos, y en la definición de los indicadores clave de rendimiento que impulsarán soluciones específicas.
La IA generativa brinda a los CISO una oportunidad significativa para posicionarse como facilitadores del negocio en toda la organización.
Mientras las organizaciones de todo el mundo se apresuran a adoptar la IA generativa a un ritmo sin precedentes, es crucial evaluar los riesgos que la tecnología supone para la empresa. El papel del director de seguridad de la información (CISO) es clave, ya que ayuda a desbloquear el potencial transformador de la IA generativa, garantizando al mismo tiempo la protección frente a los ciberriesgos.
Los sistemas de IA generativa recientemente desarrollados, en los que las organizaciones incorporan, almacenan y procesan sus datos, son vulnerables a ataques, lo que abre una vía para que los actores malintencionados roben grandes cantidades de datos, manipulen los resultados o los utilicen para atacar sistemas conectados. Esos actores incluso podrían emplear sus propios sistemas de IA generativa, lo que reduce el coste asociado al diseño y lanzamiento de ataques e incrementa la amplitud, profundidad y sofisticación de dichos ataques. Es imperativo que las organizaciones anticipen estos riesgos y estén preparadas para responder con rapidez.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centre for AI Excellence conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Los CISO deben contribuir activamente a las actividades clave de sus organizaciones para convertirse en facilitadores del negocio, garantizando al mismo tiempo la adopción segura de la IA generativa.
Participación en la gobernanza de la IA generativa
Muchas organizaciones ya han establecido un centro de excelencia multidisciplinar para la IA generativa, que abarca equipos como los de asuntos jurídicos, ciberseguridad, cumplimiento normativo, tecnología, gestión de riesgos y recursos humanos. Estos centros suelen materializarse en comités directivos o grupos de trabajo que se reúnen periódicamente, fomentando activamente la colaboración entre los distintos departamentos y asumiendo la responsabilidad de varios aspectos, entre ellos:
Gobernanza de la IA generativa: Abarca tareas como formular nuevas políticas, actualizar el código de conducta de TI, definir principios fundamentales de IA responsable y articular el valor de la IA generativa para la organización. También implica la creación de un marco sólido de gestión de riesgos, la realización de las evaluaciones de riesgos asociadas y la implementación de los controles necesarios para gestionar estos riesgos.
Educación: Implica gestionar campañas internas de concienciación, formar una fuerza laboral alfabetizada en IA y diseñar comunicaciones sobre el uso de las herramientas de IA generativa.
Asignación de recursos a proyectos: Abarca la determinación de las necesidades de personal para nuevos proyectos, garantizando que la tecnología se desarrolle teniendo en cuenta perspectivas diversas.
Alineación: Implica garantizar que los equipos de tecnología y de producto, tanto locales como del grupo, estén informados sobre los nuevos principios que se desarrollen.
Es clave que el CISO participe en estos centros especializados en IA generativa ya establecidos para contribuir de manera sustancial a los debates en curso sobre todos los aspectos principales de la tecnología.
Ser catalizador de la innovación
Es vital que las organizaciones mantengan un espíritu emprendedor en su enfoque de la IA generativa. Los líderes deben inspirarse en los primeros adoptantes y evolucionar a partir de las lecciones aprendidas al desplegar la tecnología en sus propias operaciones.
Esto implica incorporar flexibilidad en la gobernanza de la tecnología para permitir la adaptación de forma segura. Restringir de forma generalizada el acceso a las tecnologías de IA generativa o imponer políticas excesivamente estrictas es contraproducente, especialmente teniendo en cuenta las altas tasas de adopción entre la población – 45% en Estados Unidos y 73% en India – lo que sugiere que los empleados ya están utilizando estas herramientas.
Surgirán continuamente nuevas tecnologías, por lo que las organizaciones deben priorizar el desarrollo de una estructura de gobernanza que tenga en cuenta esas evoluciones. El CISO puede y debe desempeñar un papel fundamental en este empeño.
Fomento de la formación y la concienciación
Llevar a cabo iniciativas integrales de formación y concienciación que eduquen a los empleados es fundamental para garantizar un uso seguro. Al fomentar una mejor comprensión de cuestiones como los sesgos en los algoritmos, las preocupaciones sobre la privacidad y las vulnerabilidades de seguridad de los sistemas de IA, las organizaciones pueden capacitar a su plantilla para tomar decisiones informadas al desplegar o interactuar con las tecnologías de IA.
También es vital ofrecer orientación y describir claramente las obligaciones asociadas al uso de herramientas de IA generativa de acceso público. Además, los esfuerzos de formación y concienciación deben alinearse con la supervisión continua del uso de las herramientas de IA generativa, lo que facilita respuestas más rápidas ante casos de uso indebido y amenazas asociadas.
Al desarrollar programas de formación, es primordial adaptarlos a los distintos públicos objetivo para satisfacer sus necesidades. Los equipos de ciberseguridad, por ejemplo, deben contar con una comprensión profunda de cómo funcionan los modelos de IA generativa, lo que les permitirá realizar revisiones de seguridad precisas y reforzar su credibilidad al asesorar a los equipos de TI.
Contribución a las actividades de gestión de riesgos
Aunque la IA no es una tecnología novedosa para las organizaciones, su democratización para fines diversos plantea nuevos desafíos. En el pasado, las organizaciones solían centralizar la utilización de las tecnologías de IA, lo que facilitaba al equipo de ciberseguridad su seguimiento y control. Sin embargo, la adopción generalizada de la IA generativa en las organizaciones ha hecho que esta tarea sea más compleja. Un desafío crítico para las organizaciones es ampliar y agilizar rápidamente la gobernanza y la gestión de riesgos en paralelo con el creciente uso de las tecnologías de IA generativa en toda la organización.
Para lograr escalabilidad en la gobernanza y la gestión de riesgos, es esencial establecer un marco de riesgos y controles que se ajuste a los casos de uso específicos y a los modelos de servicio de la tecnología. Las organizaciones también deben definir con claridad su tolerancia al riesgo y tomar decisiones bien fundamentadas, teniendo en cuenta las compensaciones asociadas.
Mantener un equilibrio entre los distintos tipos de riesgo (basados en modelos, relacionados con los datos y jurídicos) es crucial. El CISO aporta una perspectiva importante para lograr un enfoque integral de la gestión de riesgos de la IA generativa. Dado que los riesgos que plantean los sistemas de IA generativa trascienden diversas disciplinas de riesgo, es imperativo adoptar una perspectiva interdisciplinar para analizar y abordar estos riesgos.
El papel del CISO
El CISO asume un papel fundamental en la configuración del caso de negocio concreto de la IA generativa, en la articulación de sus riesgos y desafíos, y en la definición de los indicadores clave de rendimiento (KPI) que impulsarán soluciones específicas. El CISO debe encontrar un equilibrio entre aprovechar las ventajas de la IA generativa para la organización y sus clientes, garantizando al mismo tiempo la adecuada protección de los sistemas. Las responsabilidades del CISO en relación con las tecnologías de IA generativa podrían abarcar:
Comprensión de los objetivos empresariales de la organización: Esto permitirá al CISO anticipar los riesgos emergentes y desarrollar los controles correspondientes.
Establecimiento de estructuras de gobernanza: Creación de estructuras de gobernanza para el uso de los datos y la privacidad, y asignación a los usuarios de la titularidad y la responsabilidad en su interacción con las tecnologías de IA generativa.
Asesoramiento sobre la integración de la IA generativa en los productos: Colaboración con los equipos de gestión de productos, riesgos y asuntos jurídicos para garantizar que una IA generativa segura forme parte integral de los casos de negocio desde el principio.
Participación en iniciativas internas de IA: Participación activa en el diseño y la supervisión de iniciativas de IA, con énfasis en la mejora de los procesos mediante controles de seguridad.
Formación y comunicación: Informar y formar a la comunidad empresarial sobre el uso seguro de los sistemas de IA y delimitar claramente los casos en los que no debe emplearse la IA generativa.
Exploración de oportunidades: Identificar y adoptar las oportunidades que ofrecen los sistemas de IA generativa para el equipo de ciberseguridad, como facilitar las actividades de los Centros de Operaciones de Seguridad (SOC) en la detección de tendencias, la respuesta a ataques y la gestión de incidentes.
La IA generativa brinda a los CISO una oportunidad significativa para posicionarse como facilitadores del negocio en toda la organización. Aunque muchos han dado los primeros pasos, los CISO deben convertirse en contribuyentes clave de la gobernanza interna de la IA, la gestión de riesgos y las iniciativas de formación y concienciación, a fin de contribuir con éxito a la transformación segura de sus organizaciones.
El Foro Económico Mundial lanzó la Alianza para la Gobernanza de la IA en junio de 2023. Su objetivo es ofrecer orientación sobre el diseño, desarrollo y despliegue responsables de los sistemas de inteligencia artificial. Lea más sobre su trabajo aquí.
