Para empresas y particulares, la IA es sin duda un factor de cambio radical.
La IA también empieza a tener una profunda influencia en el ámbito ofensivo y defensivo de la ciberseguridad.
La relación simbiótica entre la IA y la ciberseguridad sugiere que, a medida que un lado avanza, el otro se adaptará e innovará en respuesta.
La velocidad del cambio en el campo de la inteligencia artificial (IA) es difícil de exagerar. En los últimos años hemos sido testigos de una revolución innovadora en las capacidades de la IA y en la facilidad con la que pueden utilizarla las empresas y los particulares.
ChatGPT, una forma de IA generativa que aprovecha los grandes modelos de lenguaje (LLM) para generar contenido original de apariencia humana, ya cuenta con 180 millones de usuarios habituales y ha recibido 1.400 millones de visitas a su sitio web hasta la fecha en 2023. Las empresas están aprovechando este tipo de tecnología para automatizar tareas, ejecutar análisis predictivos, extraer información para la toma de decisiones e incluso contratar nuevos empleados; y esto es solo la punta del iceberg.
Para empresas y particulares, la IA es sin duda un factor de cambio radical. Pero, así como las tecnologías transformadoras pueden utilizarse para el bien, también pueden emplearse para el mal. Si bien la IA se utiliza para mejorar las operaciones de ciberseguridad, la supervisión de redes y la detección de amenazas, también está siendo aprovechada por los actores de amenazas para potenciar sus capacidades y métodos de ataque. De cara a 2024, la carrera entre la IA ofensiva y la defensiva nunca ha estado tan reñida ni ha sido tan importante.
Como se detalla en el Informe de mitad de año sobre ciberseguridad de 2023 de Check Point, los ciberdelincuentes están aprovechando la IA para crear tácticas de ingeniería social más sofisticadas. Mediante la IA generativa, pueden crear correos de phishing más convincentes, desarrollar macros maliciosas en documentos de Office, generar código para operaciones de reverse shell y mucho más. Aún más preocupante es que la IA puede utilizarse para escalar estas operaciones con mayor facilidad, lo que permite a los actores de amenazas atacar a más víctimas en menos tiempo. Creo que todos podemos coincidir en que la inteligencia artificial es sin duda un protector, pero también es una amenaza.
¿Cómo aborda el Foro Económico Mundial los crecientes desafíos de ciberseguridad?
El Centro para la Ciberseguridad ofrece una plataforma de confianza donde los líderes se reúnen para comprender los riesgos cibernéticos cambiantes y sus implicaciones sistémicas. Se centra en generar comprensión y confianza en un mundo digital cada vez más interconectado.
Al permitir la colaboración intersectorial y el intercambio de conocimientos, el Centro ayuda a sus socios a fortalecer la ciberresiliencia y a abordar desafíos que requieren respuestas colectivas.
La IA al servicio de la ciberseguridad y en su contra
Este año ha sido testigo de la profunda influencia de la IA tanto en el ámbito ofensivo y defensivo de la ciberseguridad. Ha surgido como una herramienta potente para defenderse de ciberataques sofisticados, mejorando significativamente la detección y el análisis de amenazas. Los sistemas basados en IA destacan en la identificación de anomalías y en la detección de patrones de ataque no vistos, mitigando los posibles riesgos antes de que se agraven. Por ejemplo, los algoritmos de IA pueden utilizar la inteligencia en tiempo real para supervisar las redes en tiempo real y defenderse con precisión de las amenazas a medida que surgen, reduciendo la aparición de falsos positivos.
Sin embargo, la misma IA que fortalece nuestras defensas también está siendo utilizada como arma por los adversarios cibernéticos. Herramientas como ChatGPT han sido manipuladas por actores malintencionados para crear nuevo malware, acelerar las tácticas de ingeniería social y producir correos de phishing engañosos que pueden superar incluso el escrutinio más riguroso. Estos avances subrayan la carrera armamentística cibernética, en la que los mecanismos de defensa son constantemente desafiados por estrategias ofensivas innovadoras.
Con vídeos deepfake y las capacidades de generación de voz ya al alcance de la mano, debemos esperar que las tácticas de ingeniería social impulsadas por IA se vuelvan aún más sofisticadas. Si las aguas no estaban ya lo bastante turbias, ChatGPT también puede utilizarse para difundir desinformación, y el riesgo de las «alucinaciones», en las que los chatbots de IA inventan detalles para responder de forma satisfactoria a las consultas de los usuarios, hace cada vez más difícil que herramientas como estas se perciban como una fuerza puramente positiva.
La democratización de la IA
Una de las cosas que ha convertido al ransomware en una amenaza tan extendida para las empresas de todo el mundo es el auge del Ransomware como servicio o RaaS. Este término se refiere a la creación de grupos organizados que funcionan casi como empresas legítimas, desarrollando herramientas de ransomware y vendiendo información sobre exploits y vulnerabilidades al mejor postor. Esto significa que incluso los actores de amenazas menos experimentados o con recursos limitados pueden orquestar ataques sofisticados contra grandes objetivos; solo necesitan comprar acceso a las herramientas adecuadas.
Del mismo modo que RaaS amplió las capacidades de los actores de amenazas al democratizar el software malicioso y hacerlo más accesible, la IA como servicio (AIaaS) está ampliando las capacidades en torno a la inteligencia artificial. La democratización de herramientas de IA, como ChatGPT y Google Bard, las ha puesto al alcance de un público más amplio.
Si bien estas herramientas encierran un enorme potencial para las empresas y la sociedad, también están siendo explotadas con fines malintencionados. Por ejemplo, ciberdelincuentes de vinculación rusa ya han eludido las restricciones de geolocalización de OpenAI y han utilizado plataformas de IA generativa para elaborar correos de phishing sofisticados, keyloggers de malware e incluso código básico de ransomware. En un ejercicio de hacker ético (white hat), Check Point también logró resultados similares con la IA Bard de Google, logrando que la plataforma acabara ayudando a crear código de registro de pulsaciones (keylogging) o de ransomware mediante una serie de instrucciones; algo que cualquier usuario con el más mínimo conocimiento podría conseguir.
Desafíos regulatorios
El panorama cambiante de la IA plantea una serie de desafíos regulatorios que subrayan la importancia de un marco integral para regular su aplicación. Las consideraciones éticas más relevantes en estos asuntos giran en torno a las nociones de equidad, responsabilidad y transparencia. Los sistemas de IA, en particular la IA generativa, son susceptibles de sesgos inherentes que podrían perpetuar o incluso agravar los prejuicios humanos existentes. Por ejemplo, la IA de toma de decisiones en contratación o concesión de préstamos podría favorecer injustamente a determinados grupos demográficos frente a otros, lo que hace necesaria la supervisión regulatoria para garantizar prácticas equitativas.
A medida que la IA se integra en diversos sectores, aumenta el potencial de consecuencias adversas, ya sea en materia de ciberseguridad, vulneraciones de la privacidad o campañas de desinformación. Son necesarios marcos regulatorios que garanticen que el desarrollo y el despliegue de las tecnologías de IA se ajusten a un estándar colectivo único. Esto es importante para una IA «buena», pero la regulación no es algo que los actores malintencionados suelan tener en cuenta. Esto podría ampliar aún más la brecha en la carrera entre la IA defensiva y la ofensiva.
Proteger el presente y el futuro
En medio del enfoque en el potencial futuro de la IA, es crucial no descuidar lo básico. Garantizar las prácticas de seguridad fundamentales, como la corrección de vulnerabilidades, la realización de análisis periódicos y el refuerzo de los puntos finales, sigue siendo esencial. Aunque resulta tentador volcar todos los esfuerzos en las amenazas del futuro, abordar los desafíos actuales es igual de importante.
A medida que la IA sigue evolucionando, sus capacidades se expandirán sin duda, al servicio tanto de los defensores como de los atacantes. Aunque las soluciones basadas en IA están mejorando los mecanismos de defensa, los ciberdelincuentes también están aprovechando la IA para perfeccionar sus tácticas. La relación simbiótica entre la IA y la ciberseguridad sugiere que, a medida que un lado avanza, el otro se adaptará e innovará en respuesta.
