Cada vez más comunes en la ejecución de ciberataques, los agentes de IA también pueden utilizarse de forma defensiva para examinar los sistemas desde la perspectiva de los atacantes.
Los escáneres basados en agentes necesitan suficiente libertad para sondear los entornos de ciberseguridad, al tiempo que trabajan dentro de límites claros que definen dicha exploración.
Las pruebas de seguridad autónomas nunca pueden estar exentas de riesgos, pero las empresas no pueden permitirse el lujo de ignorar la amenaza que representan los agentes de IA.
Últimamente he estado hablando sobre el escaneo de agentes con muchos CISO y CIO. Rara vez escucho dudas sobre la necesidad. Lo que sí escucho son preocupaciones sobre el riesgo.
El escaneo agencial utiliza agentes de IA para explorar un entorno desde la perspectiva de un atacante, combinar lo que encuentran con vulnerabilidades conocidas e inteligencia externa, y validar rutas de ataque creíbles.
¿Cuánta autonomía debemos otorgarle a un escáner automatizado para sondear un entorno de producción? ¿Hasta dónde debe llegar para demostrar que una ruta de ataque es real? ¿Qué sucede si comete un error? ¿Y cómo nos aseguramos de que no dañe el entorno que intentamos proteger?
Son preocupaciones válidas. Nosotros teníamos exactamente las mismas preguntas cuando empezamos a usar el escaneo con agentes. Pero esperar también es una decisión, y conlleva sus propios riesgos.
Ya estamos viendo cómo los atacantes utilizan agentes de IA. En el reciente ataque contra los sistemas del gobierno taiwanés, se utilizaron agentes de IA controlados por los atacantes para mapear los sistemas, encontrar vulnerabilidades y ejecutar gran parte del ataque de forma autónoma.
Esto cambia el panorama. Los atacantes pueden usar la IA para buscar continuamente una forma de infiltrarse. Los defensores necesitan la misma capacidad de analizar primero su propio entorno, aunque operan bajo reglas muy diferentes.
Conserva los escáneres que ya tenemos.
Llevamos años analizando nuestros entornos en busca de vulnerabilidades. Deberíamos seguir haciéndolo. Los escáneres tradicionales detectan sistemáticamente vulnerabilidades conocidas, parches faltantes y problemas de configuración.
El escaneo agemático puede ejecutarse sobre el mismo inventario de activos, pero plantea una pregunta diferente.
Un escáner tradicional pregunta: ¿Qué es vulnerable?
Un escáner con capacidad de interacción con agentes pregunta: ¿Qué puedo hacer con él?
Explora el entorno desde la perspectiva del atacante, prueba diferentes rutas y se adapta cuando una no funciona. Puede descubrir cómo se pueden combinar varias vulnerabilidades para crear una ruta de ataque explotable.
Necesitamos ambas cosas: una cobertura sistemática de lo que sabemos que debemos buscar y la perspectiva del atacante sobre lo que realmente se puede explotar.
Dale al escáner la perspectiva del atacante, no la libertad del atacante.
Un atacante no empieza solo con una dirección IP. Antes de acceder a nuestros sistemas, es posible que ya conozca mucha información sobre nosotros: nuestros activos externos, las tecnologías que utilizamos, información pública y, potencialmente, información procedente de filtraciones anteriores o foros clandestinos.
Un escáner basado en agentes debería funcionar con el mismo contexto relevante. Si un atacante tiene acceso a la información, debemos asumir que la utilizará.
La diferencia radica en lo que sucede después. Los atacantes no tienen que preocuparse por interrumpir nuestros entornos de producción. Nosotros sí.
Por lo tanto, un escáner con capacidad de análisis de agentes necesita suficiente libertad para explorar y validar una ruta de ataque, junto con límites claros sobre hasta dónde puede llegar dicha exploración. Algunos de esos límites también deben aplicarse técnicamente. Indicarle a un modelo que no realice una acción destructiva no es lo mismo que hacerla imposible.
Máxima confianza con mínimo riesgo
Nuestra experiencia con el escaneo de agentes nos ha llevado a un principio simple: máxima confianza con mínimo riesgo. En la práctica: explorar ampliamente, validar de forma segura, explotar lo mínimo y detenerse cuando el camino esté probado.
Si un escáner demuestra que puede obtener privilegios superiores, no hay razón para explorar todo lo que esos privilegios permiten. Si los datos confidenciales se vuelven accesibles, demostrar que se puede acceder a ellos debería ser suficiente. Continuar el ataque aumenta el riesgo sin aportar mucha evidencia útil.
El mejor escáner automatizado no es el que llega más lejos, sino el que sabe cuándo ha llegado lo suficientemente lejos. Este principio es importante porque las pruebas de seguridad autónomas nunca estarán exentas de riesgos. El objetivo debe ser obtener suficiente evidencia para tomar una decisión de seguridad sin aumentar innecesariamente el riesgo para el entorno que se está probando.
Del experimento a la capacidad de seguridad
El escaneo agente aún está en desarrollo. Al principio, observamos demasiados hallazgos que no resistieron la validación, pero un mejor conocimiento práctico del hacking, un contexto más rico y una validación más rigurosa mejoraron los resultados, mientras que unos límites claros nos ayudaron a gestionar cuidadosamente el riesgo para la producción.
Las organizaciones tampoco necesitan desarrollar esta capacidad por sí mismas. Hoy en día existen soluciones de escaneo basadas en agentes, tanto comerciales como de código abierto. Esto representa un cambio de enfoque, pasando de ser un ejercicio de I+D a una capacidad de seguridad que las organizaciones pueden evaluar y adoptar.
La medida importante del progreso no debería ser el grado de autonomía de estos sistemas, sino su capacidad para identificar y demostrar de forma fiable las vías de explotación, manteniéndose dentro de los límites que les hemos impuesto.
No podemos optar por no mirar
Existe una asimetría en el fondo de este problema. Los atacantes pueden optimizar sus estrategias para encontrar una vía de acceso. Los defensores deben encontrar la misma ruta sin dañar el entorno que protegen. Esto dificulta nuestro trabajo. No significa que la búsqueda sea opcional.
A medida que la IA permite a los atacantes explorar entornos con mayor rapidez y autonomía, los equipos de seguridad deben adoptar un enfoque igualmente proactivo. Esto implica aceptar cierto riesgo controlado, establecer límites claros para las pruebas autónomas y determinar dónde deben ubicarse dichos límites.
Cómo el Foro ayuda a los líderes a comprender el riesgo cibernético y a fortalecer la resiliencia digital.
El Centro de Ciberseguridad Ofrece una plataforma de confianza donde los líderes se reúnen para comprender los riesgos cibernéticos en constante evolución y sus implicaciones sistémicas. Se centra en fomentar la comprensión y la confianza en un mundo digital cada vez más interconectado.
Al facilitar la colaboración intersectorial y el intercambio de conocimientos, el Centro ayuda a sus socios a fortalecer la ciberresiliencia y a abordar los desafíos que requieren respuestas colectivas.
El escaneo agente nos brinda algo valioso: la capacidad de ver nuestro entorno a través de los ojos de un atacante antes de que se produzca el ataque. Debemos aprovechar esa perspectiva sin perder el control de lo que sucede a continuación.
Porque una vía de acceso vulnerable no desaparece cuando decidimos no buscarla. Simplemente, alguien más puede encontrarla primero.
