En la carrera por el dominio de la IA, las consideraciones de ciberseguridad ocupan un lugar central.
Aunque la IA aumentará la eficacia de los ciberataques, su impacto puede compensarse utilizando tecnologías de IA para reforzar las capacidades de ciberdefensa.
Aprovechar las ventajas que aporta la IA requerirá una cooperación global público-privada para garantizar que sus aplicaciones puedan aplicarse de forma equitativa y segura en toda la sociedad.
Los nuevos avances tecnológicos en inteligencia artificial (IA) han revolucionado el mundo, lo que ha provocado una carrera entre los gobiernos por obtener una ventaja estratégica y para que las empresas tecnológicas desarrollen y comercialicen nuevos sistemas de IA.
Las aplicaciones emergentes de IA tienen el potencial de aportar numerosos beneficios a la sociedad, pero también pueden tener graves implicaciones para la seguridad, desde la seguridad nacional, la desestabilización de la democracia hasta la disrupción económica a gran escala.
Estos riesgos se intensifican en este año electoral, cuando más de 4000 millones de personas acudirán a las urnas. Los ciberataques son un riesgo clave destacado tanto en el Informe de Seguridad de Múnich 2024 y el Informe sobre Riesgos Globales 2024 del Foro Económico Mundial, este último también destaca la aparición de la desinformación e información errónea generadas por IA como el segundo riesgo mundial más grave previsto para los próximos dos años.
Las implicaciones de la IA para la ciberseguridad son numerosas y están en evolución, ya que los actores de amenazas aprovechan estas nuevas tecnologías en su beneficio, lo que amplía sus capacidades para los ciberataques.
La IA impulsará la evolución y la mejora de las tácticas, técnicas y procedimientos existentes, y reducirá la barrera de acceso para los ciberdelincuentes, al disminuir los conocimientos técnicos necesarios para lanzar ciberataques. La ingeniería social también se ve potenciada por los nuevos modelos de lenguaje de gran tamaño (LLM), y los actores de amenazas crean campañas de spear-phishing cada vez más sofisticadas.
A medida que la tecnología evoluciona, resulta cada vez más difícil distinguir entre los medios sintéticos y el contenido generado por humanos, incluso para las tecnologías de detección, lo que hace que los deepfakes sean más realistas, más dirigidos y peligrosos que nunca.
Recientemente, la filial en Hong Kong de una empresa multinacional fue víctima de un fraude habilitado por deepfake. Los actores malintencionados utilizaron un deepfake para hacerse pasar por el director financiero de la empresa en una videoconferencia, lo que llevó a un empleado a pagar 25 millones de dólares.
¿Cómo puede la IA mejorar la ciberseguridad?
Las crecientes amenazas derivadas del avance de la IA no deben eclipsar los grandes beneficios que los nuevos modelos de IA también pueden aportar a la ciberseguridad. Como estas herramientas son explotadas por actores cibernéticos malintencionados, los defensores cibernéticos pueden a su vez utilizar la IA para mejorar sus capacidades de ciberseguridad.
Aunque las tecnologías de IA se han utilizado para desarrollar soluciones de ciberseguridad en los últimos años, la llegada de la IA generativa ha animado a más organizaciones a reforzar sus inversiones en tecnologías de IA para la ciberseguridad.
Como afirmó Jeetu Patel, de Cisco, “es un gran momento para inclinar la balanza a favor de los defensores”. Esta idea se comparte ampliamente en la comunidad tecnológica, como demostró la Conferencia de Seguridad de Múnich, en la que más de 15 empresas líderes se comprometieron a ayudar a evitar que el contenido engañoso generado por IA interfiera en las elecciones globales de este año.
Además, Sundar Pichai, de Google, anunció una nueva línea de trabajo para reforzar las ciberdefensas acelerando los equipos de detección y respuesta. Microsoft lidera el esfuerzo para detectar y bloquear a los actores de amenazas malintencionados’ uso de los servicios de Microsoft y también lanzó una nueva herramienta para permitir a los usuarios firmar digitalmente y autenticar contenidos multimedia. Meta anunció nuevas normas tecnológicas para identificar y marcar el contenido generado por IA.
Las tecnologías de IA también pueden reforzar la formación en ciberseguridad, ya sea para educar al público general o para ayudar a formar a la próxima generación de defensores cibernéticos. La falta estimada de 4 millones de profesionales de ciberseguridad, según el ISC2 Cybersecurity Workforce Study es alarmante.
Para ayudar a cubrir esta brecha, en abril de 2023 el Foro lanzó una iniciativa de múltiples partes interesadas titulada “Cerrar la brecha de competencias en ciberseguridad” . Su objetivo es crear un marco estratégico de talento en ciberseguridad y diseñar acciones que ayuden a las personas a incorporarse y prosperar en la fuerza laboral de ciberseguridad.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
¿Qué se está haciendo para garantizar un uso responsable de la IA?
Los gobiernos y las organizaciones internacionales también desempeñan un papel crucial al establecer directrices y marcos regulatorios para el desarrollo de una IA segura. Dichas regulaciones orientarán el desarrollo, el uso y la implementación de las tecnologías de IA de manera que beneficien a las sociedades y limiten los daños que puedan causar.
Algunos ejemplos recientes incluyen: el desarrollo de la Ley de IA de la Unión Europea; el establecimiento del órgano asesor de la ONU sobre gobernanza de la IA; las Directrices del Reino Unido para el desarrollo seguro de sistemas de IA; la Orden Ejecutiva de la Casa Blanca sobre seguridad de la IA y la creación del Instituto de Seguridad de la IA de EE. UU..
Para fomentar la cooperación público-privada, el Foro lanzó la Alianza para la Gobernanza de la IA en abril de 2023, que reúne a líderes de la industria, gobiernos, instituciones académicas y organizaciones de la sociedad civil para promover el diseño y la publicación responsables a escala mundial de sistemas de IA transparentes e inclusivos.
En la carrera por el dominio de la IA, la intrincada relación entre la ciberseguridad y estas tecnologías de vanguardia ocupa un lugar central. Aunque la IA aumentará la eficacia de los ciberataques, su impacto puede compensarse con los beneficios de utilizar tecnologías de IA para reforzar los mecanismos de ciberdefensa.
A medida que las organizaciones navegan por la compleja interacción entre la implementación de la IA, las amenazas a la seguridad y las estrategias de defensa, una comprensión integral de los riesgos y las recompensas será fundamental para desbloquear todo el potencial de la IA y garantizar el crecimiento.
Sobre la base del trabajo de la Alianza para la Gobernanza de la IA del Foro, el Centro para la Ciberseguridad se une a la Universidad de Oxford para orientar las estrategias y la toma de decisiones de los líderes mundiales sobre los riesgos y las oportunidades cibernéticos en el contexto de la IA.
Los rápidos avances tecnológicos en el desarrollo de la IA han dado paso a una era transformadora, con beneficios y desafíos sin precedentes. Aprovechar las ventajas que aporta la IA requerirá una cooperación global público-privada para garantizar que sus aplicaciones puedan aplicarse de forma equitativa y segura en toda la sociedad.
