Los líderes deben integrar la ciberseguridad en cada etapa de la adopción de la inteligencia artificial (IA) para proteger los datos sensibles, garantizar la resiliencia y posibilitar la innovación responsable.
Un enfoque basado en la relación entre riesgos y recompensas alinea la adopción de la IA con los objetivos organizativos al identificar vulnerabilidades, mitigar riesgos y reforzar la confianza de las partes interesadas.
La colaboración multisectorial entre expertos en IA, reguladores y responsables de políticas es esencial para abordar las vulnerabilidades impulsadas por la IA y generar confianza en las tecnologías de IA.
En el mundo digital, el uso de sistemas de inteligencia artificial (IA) se ha convertido en un pilar de la innovación organizativa y la eficiencia operativa. Sin embargo, mientras los líderes impulsan la transformación, la ciberseguridad debe seguir siendo primordial.
Los sistemas de IA no son inmunes a las vulnerabilidades, incluidos los ataques adversarios, el envenenamiento de datos y el hackeo de algoritmos sensibles. Los líderes deben reconocer que la integración de la IA amplía la superficie de ataque de su organización, por lo que las medidas de ciberseguridad sólidas son innegociables.
En 2024, el Foro Económico Mundial, a través de su Centro para la Ciberseguridad, junto con el Global Cyber Security Capacity Centre de la Universidad de Oxford, en la iniciativa AI & Cyber: Balancing Risks and Rewards para orientar las estrategias y la toma de decisiones de los líderes mundiales sobre los riesgos y oportunidades cibernéticos de la adopción de la IA.
La investigación culminó en el libro blanco Industries in the Intelligent Age - Artificial Intelligence & Cybersecurity: Balancing Risks and Rewards, publicado en enero de 2025. Este documento es una guía para gestionar los riesgos cibernéticos de la adopción de la IA. Permite a los líderes invertir e innovar en IA con la seguridad y la resiliencia como prioridad, con el fin de aprovechar las oportunidades de crecimiento emergentes.
Para desbloquear todo el potencial de la IA, es esencial desarrollar una comprensión integral de los riesgos cibernéticos asociados y de las medidas de mitigación necesarias.
La necesidad crítica de la ciberseguridad
El Perspectivas Mundiales de Ciberseguridad 2025 revela que el 66% de las organizaciones espera que la IA tenga un impacto significativo en la ciberseguridad en el próximo año. Sin embargo, solo el 37% cuenta con procesos para evaluar la seguridad de los sistemas de IA antes de su despliegue.
Esta brecha pone de manifiesto el riesgo de que las organizaciones adopten sistemas de IA sin evaluar ni abordar plenamente los riesgos de ciberseguridad asociados, lo que podría exponer vulnerabilidades en sus entornos.
Dejar los sistemas de IA expuestos a filtraciones de datos, manipulación de algoritmos u otras actividades hostiles podría provocar daños operativos y reputacionales significativos. Al evaluar y mitigar los riesgos cibernéticos, los líderes pueden alinear la adopción de la IA con los objetivos organizativos y las necesidades de resiliencia.
Además, los datos que alimentan los modelos de IA suelen ser propietarios o sensibles, y su compromiso podría suponer pérdidas financieras o sanciones y afectar negativamente a la organización. Desde garantizar canales de datos seguros hasta implementar controles de acceso estrictos, la ciberseguridad debe integrarse en cada etapa del ciclo de vida de la IA.
Una guía clara para abordar estos riesgos es esencial para la toma de decisiones informadas y para garantizar que las decisiones estratégicas sean seguras y cumplan la normativa reguladora. Esto también refuerza la confianza entre las partes interesadas, lo que permite un crecimiento sostenible y responsable impulsado por la IA
Los líderes deben fomentar una cultura en la que la ciberseguridad no se considere un obstáculo para la innovación, sino un pilar fundamental para el crecimiento sostenible. Los responsables sénior de riesgos también desempeñan un papel crítico en la supervisión y el control de los riesgos cibernéticos relacionados con la IA, así como en su gestión proactiva.
Alinear estratégicamente las iniciativas de IA con un marco de ciberseguridad sólido también transmite confianza a las partes interesadas, desde los clientes hasta los inversores, sobre el compromiso de la organización con la protección de sus activos digitales.
Al priorizar estas consideraciones, los altos directivos protegen sus empresas y las posicionan como actores de confianza, resilientes y orientados al futuro.
Un enfoque basado en el riesgo
Adoptar un enfoque basado en el riesgo es fundamental para una adopción segura de la IA. Las organizaciones deben evaluar las posibles vulnerabilidades y los riesgos que la IA podría introducir a la luz de las oportunidades que ofrece, valorar los posibles impactos negativos en el negocio e identificar los controles necesarios para mitigar estos riesgos.
Este enfoque garantiza que las iniciativas de IA se alineen con los objetivos empresariales generales de la organización y se mantengan dentro de los límites de su tolerancia al riesgo.
Integrar la ciberseguridad en todo el despliegue de la IA
Todas las organizaciones deben abordar los riesgos cibernéticos relacionados con la IA, independientemente de la fase en la que se encuentren en su proceso de adopción. Las empresas que ya utilizan la IA deberían mapear sus implementaciones y aplicar soluciones de seguridad complementarias.
Otros escenarios pueden requerir un análisis de riesgos y recompensas para determinar si la implementación de la IA se ajusta a los objetivos operativos y empresariales. Este enfoque fomenta la seguridad desde el diseño, garantizando que la adopción de la IA se alinee con la innovación y la resiliencia.
Adoptar una visión empresarial integral
Los sistemas de IA no existen de forma aislada. Las organizaciones deben considerar cómo los procesos empresariales y los flujos de datos que rodean a los sistemas de IA pueden reducir el impacto de un fallo de ciberseguridad.
Esto implica integrar los controles en estructuras de gobernanza más amplias y en los procesos de gestión de riesgos empresariales.
Innovación responsable y colaborativa
Para aprovechar los beneficios de la IA, las organizaciones deben adoptar un enfoque multisectorial para priorizar el análisis de riesgos y recompensas y la ciberseguridad. Esto garantiza la resiliencia, protege las inversiones y respalda la innovación responsable.
La colaboración entre expertos en IA y en ciberseguridad, reguladores y responsables de políticas es crucial para alinear herramientas, compartir mejores prácticas y establecer la rendición de cuentas. Este enfoque conjunto puede abordar las vulnerabilidades impulsadas por la IA, al tiempo que fomenta la confianza y una innovación segura.
Este trabajo se desarrolló en colaboración con la Alianza para la Gobernanza de la IA – lanzada en junio de 2023 – con el fin de ofrecer orientación sobre el diseño, el desarrollo y el despliegue responsables de sistemas de inteligencia artificial. Más información sobre su labor aquí.
Otros colaboradores de este artículo son Louise Axon, Research Fellow, Global Cyber Security Capacity Centre, University of Oxford; Joanna Bouckaert, Community Lead, Centre for Cybersecurity, World Economic Forum; y Jamie Saunders, Oxford Martin Fellow, University of Oxford.
