Este artículo forma parte de la plataforma de Geoestrategia
La mayoría de los ciberataques actuales no ocurren de forma instantánea con solo pulsar un botón. Son operaciones que requieren tiempo y recursos (especialmente la fase de reconocimiento), orquestadas por personas y que se desarrollan a ritmo humano; el tiempo y los recursos que necesita el adversario son directamente proporcionales a la calidad y el nivel de las defensas de la red, sostienen Meg King y Jacob Rosen, del Wilson Center.
La necesidad de mantener un acceso persistente a una red, ya sea para buscar otras vulnerabilidades, vigilar el comportamiento, desplazarse lateralmente por la red o manipular o extraer datos, aumenta la probabilidad de que los sistemas defensivos sólidos detecten actividades sospechosas antes de que se produzcan daños excesivos. Los ciberataques persisten, pero el tiempo, el dinero, el esfuerzo y la posibilidad de fracasar pueden disuadir a otros posibles ciberdelincuentes.
Sin embargo, la aplicación de la inteligencia artificial —en particular, el aprendizaje automático— a las operaciones cibernéticas promete alterar este equilibrio, al ofrecer herramientas más eficientes y eficaces para llevar a cabo ataques a velocidad de máquina.
Las tareas más laboriosas de preparación de ciberataques, como examinar grandes cantidades de datos para buscar vulnerabilidades de software que explotar o crear campañas de spear phishing más eficaces, ya no requerirán tiempo ni grandes sumas para pagar mano de obra humana: podrán realizarse de forma constante y rápida.
Las máquinas no necesitan hacer pausas ni sufren fatiga o cansancio que puedan hacerles pasar por alto una posible vulnerabilidad o una forma de explotarla. La capacidad de sintetizar datos no estructurados permitirá a las máquinas establecer posibles conexiones que escapan a la vista humana o que, como mínimo, no serían evidentes de inmediato.
Un algoritmo bien codificado incluso podría predecir la respuesta del ordenador objetivo antes de que se produzca y, así, actuar de una manera que no active las defensas de la máquina o del sistema operativo
sin definir
La automatización no solo ofrecerá una importante ventaja de velocidad frente a quienes no la utilicen, sino que la naturaleza adaptativa de algunas herramientas hará que una exposición prolongada en una red pueda permitir que un código malicioso inteligente responda a los programas de seguridad no automatizados y los eluda en tiempo real.
Un algoritmo bien codificado incluso podría predecir la respuesta del ordenador objetivo antes de que se produzca y, así, actuar de una manera que no active las defensas de la máquina o del sistema operativo. Esto resulta especialmente preocupante si se tiene en cuenta lo pocas que son las redes que hoy están preparadas adecuadamente para defenderse de ataques digitales realizados únicamente por personas.
Pese a las preocupaciones de seguridad que suscita la inteligencia artificial, la IA también tendrá aplicaciones defensivas esenciales. Mientras los defensores de las redes y los responsables de formular políticas consideran este panorama tecnológico cambiante, conviene analizar detenidamente cuatro tendencias clave.
1. El spear phishing funciona… y es más fácil que nunca
El informe de 2018 de Symantec, Informe sobre amenazas a la seguridad en Internet reveló que casi tres cuartas partes de todos los adversarios recurrieron al spear phishing, lo que lo convirtió, con diferencia, en el vector de ciberataque más utilizado y eficaz. Automatizar este proceso —como se demostró hace más de dos años en la conferencia Black Hat—solo agravará este problema generalizado.
Mediante una combinación de procesamiento del lenguaje natural, histogramas y extracción de datos disponibles públicamente (en especial, de redes sociales como Twitter, donde el contenido se caracteriza por un vocabulario y un uso de la sintaxis gramatical más coloquiales), los adversarios podrán crear correos maliciosos más convincentes, reducir el trabajo necesario y aumentar la velocidad con la que llevan a cabo estas campañas.
La mejora simultánea de la calidad y la reducción del esfuerzo, el tiempo y los recursos necesarios significan que el spear phishing seguirá siendo uno de los problemas de ciberseguridad más difíciles de resolver.
Mejorar la higiene cibernética básica mediante la educación y las campañas de servicio público sin duda ayudará a que los usuarios finales sean más conscientes de los peligros de los correos de phishing y estén más atentos a los mensajes entrantes sospechosos. Sin embargo, la tendencia humana a confiar en los demás siempre será una vulnerabilidad importante que impedirá una defensa perfecta contra los ataques de phishing. La inteligencia artificial puede ayudar a cubrir esa carencia. Los servicios de filtrado de correo electrónico que utilizan IA para detectar anomalías y contenido sospechoso, como los que ofrecen RedMarlin, Inky y Phish.ai, ayudarán a alertar a los usuarios en tiempo real, para que puedan tomar decisiones más meditadas e informadas. La combinación de personas y máquinas ofrecerá una mejor defensa.
2. Detección del comportamiento
Los expertos del sector consideran que la detección del comportamiento mediante aprendizaje automático es una de las soluciones de software más prometedoras para la ciberseguridad con defensa en profundidad. Los sistemas de detección del comportamiento supervisan la actividad de la red para establecer una referencia del comportamiento «normal» en una red determinada. Luego, esta referencia se utiliza para comparar los nuevos comportamientos en la red y detectar anomalías que puedan indicar una conducta anormal o ilícita, que puede señalarse para su revisión. Los algoritmos de aprendizaje automático son mucho más aptos para observar y analizar el comportamiento de los usuarios en redes extensas.
Por desgracia, los adversarios cibernéticos están aplicando ingeniería inversa a estas herramientas defensivas y reconfigurándolas para convertirlas en armas cibernéticas eficaces. El año pasado, una empresa de la India sufrió un ataque contra su red, en el que el adversario utilizó aprendizaje automático para observar patrones del comportamiento normal de los usuarios y luego imitarlos con el fin de ocultar su presencia en el sistema.
3. Migración a la nube
Con poco más de una década de existencia, la computación en la nube ofrece economías de escala a los usuarios, así como importantes ventajas de seguridad. Hoy, la información sobre amenazas relativas a tácticas y procedimientos importantes de los adversarios (por ejemplo, variantes de malware y métodos de ataque preferidos) puede compartirse rápidamente y a una escala antes imposible. Aprovechando esta capacidad, la industria de la ciberseguridad ofrece ahora productos comerciales que integran el aprendizaje automático en sus programas de protección de terminales y contra el malwareprogramas. Al automatizar la recopilación y el análisis de amenazas, los defensores pueden detectar actividades maliciosas con mayor precisión y rapidez, y responder a cualquier amenaza de ese tipo.
Por desgracia, los distintos entornos de nube también son objetivos importantes para los adversarios, y los ataques automatizados —desde los de denegación de servicio hasta los dirigidos contra servicios en la nube que utilizan software con vulnerabilidades conocidas— seguirán siendo un problema. La escalabilidad que hace que la nube sea tan ventajosa para muchos usuarios también puede tener consecuencias devastadoras si no se la protege o configura adecuadamente.
4. Detección de vulnerabilidades en el software
Hasta hoy, la detección de vulnerabilidades sigue siendo un proceso laborioso y prolongado que realizan personas, lo que limita su velocidad y el alcance de los posibles hallazgos debido a nuestros inevitables puntos ciegos. Por eso, es un ámbito idóneo para la automatización.
En 2016, DARPA organizó su Gran Desafío Cibernético, en el que varios equipos compitieron entre sí en un concurso de captura de la bandera. Sin embargo, las personas no fueron las protagonistas. El desafío consistió enteramente en programas automatizados, ejecutados en superordenadores, cuya tarea era buscar vulnerabilidades en sus propias redes y aplicarles parches para protegerlas frente a adversarios hostiles (la competición). ForAllSecure, la empresa responsable del superordenador conocido como MAYHEM, se alzó con la victoria y desde entonces ha comercializado su producto, vendiendo sus capacidades automatizadas de detección de vulnerabilidades tanto al Departamento de Defensa como a empresas comerciales.
Los resultados obtenidos hasta ahora son reveladores. En una prueba pública de un programa de código abierto de uso generalizado, MAYHEM logró encontrar 10 vulnerabilidades explotables en solo 60 horas de trabajo; una de esas vulnerabilidades podía hacer que todo el programa dejara de funcionar. Otros investigadores de vulnerabilidades ya habían analizado el programa en cuestión y tenían bastante confianza en haber encontrado las vulnerabilidades existentes más peligrosas. Los adversarios también tratarán de desarrollar herramientas similares.
¿Qué sigue?
La inteligencia artificial promete acelerar la velocidad y aumentar la tasa de éxito de los ciberataques perpetrados por actores sofisticados y, con el tiempo, también por quienes tengan menos conocimientos (si se desarrollan y se ponen a disposición herramientas listas para usar). Además, difuminará aún más las fronteras tradicionalmente reconocidas entre la ofensiva y la defensa cibernéticas.
La parte que despliegue estas tecnologías automatizadas con mayor eficacia y rapidez tendrá ventaja. La IA dará lugar a ataques para los que la mayoría de la población y muchas empresas del sector privado no estarán preparadas. La buena noticia es que la industria de la ciberseguridad está empleando los mismos métodos para la defensa. Sin embargo, estos servicios requieren inversiones sostenidas e incentivos para desarrollar defensas de ciberseguridad que aún no existen a gran escala.
Al proteger las redes frente a los adversarios, las personas seguirán desempeñando un papel importante en la defensa de sus propias redes. Sin embargo, es imperativo que los sistemas autónomos ocupen un lugar central en cualquier estrategia de este tipo.
El uso eficaz de la inteligencia artificial con fines defensivos requerirá combinar diversas tácticas y herramientas de carácter tanto proactivo como reactivo. Los responsables de formular políticas deben fomentar el análisis de las mejores prácticas para emplear estas herramientas y considerar la posibilidad de establecer normas para su uso.
Los verdaderos desafíos de la inteligencia artificial: automatizar los ciberataques, Meg King y Jacob Rosen, The Wilson Center
