En marzo de 2019, el director general de una gran empresa energética autorizó la transferencia urgente de 220.000 € a lo que él creía que era la cuenta de un nuevo proveedor de Europa del Este, tras una llamada que creía que era del director general de su empresa matriz. En cuestión de horas, el dinero había pasado por una red de cuentas en América Latina hasta llegar a presuntos delincuentes que habían utilizado inteligencia artificial (IA) para imitar de forma convincente la voz del director general.
Con una sola conversación habilitada por IA, los delincuentes habían eludido varias capas de controles de ciberseguridad. Su éxito ilustra cómo el uso de determinadas tecnologías emergentes y potentes, como la IA, 5G, la biometría y las nuevas tecnologías de cifrado cambiarán el panorama de la ciberdelincuencia tanto para los atacantes como para los defensores. Las organizaciones que deben defenderse de los ciberataques, así como sus socios de los sectores público y privado, necesitan trabajar juntas mediante alianzas público-privadas para comprender cómo las nuevas tecnologías modificarán el panorama de riesgos y amenazas, y para preparar una respuesta colectiva y adecuada.
Por eso, Equifax y el Foro Económico Mundial convocaron la primera Future Series: Cybercrime 2025. Expertos mundiales en ciberseguridad procedentes del ámbito académico, gubernamental, de las fuerzas del orden y del sector privado se reúnen en la ciudad estadounidense de Atlanta para explorar cómo la IA podría cambiar la dinámica de la ciberseguridad en el futuro próximo. Este primer taller de la iniciativa Future Series: Cybercrime 2025 analizará las implicaciones para la ciberseguridad, en materia de amenazas y defensa, de las tecnologías clave de la Cuarta Revolución Industrial.
Por qué la IA es importante para la ciberseguridad
Los ciberdelincuentes son hábiles para adoptar cualquier técnica o innovación que les dé ventaja sobre las defensas de ciberseguridad. Los primeros estudios de caso e investigaciones indican dónde los defensores ya perciben los primeros efectos: la defensa frente a una IA «fuerte», en la que los delincuentes utilizan sistemas que operan, piensan y actúan como seres humanos, y frente a una IA «débil» o «estrecha», en la que los sistemas se modelan según el comportamiento humano para ejecutar tareas específicas. Dados sus posibles usos, se espera que la IA impulse cambios sistémicos en el panorama de la ciberseguridad y afecte a cuatro desafíos clave en materia de ciberseguridad en el futuro próximo.
Desafío 1: Mayor sofisticación de los atacantes
Los atacantes, con distintos grados de sofisticación, desde activistas sociales hasta Estados nacionales, dirigen sus esfuerzos hacia oportunidades que prometen el mayor retorno de la inversión. Las organizaciones pueden impulsar inversiones en controles basados en el riesgo para reducir su atractivo para los atacantes. A medida que las organizaciones maduran sus programas de ciberseguridad, se convierten en objetivos menos valiosos.
La IA puede acelerar el volumen de ataques, ya que la automatización de tareas y la mejora de los servicios maliciosos reducen aún más las barreras de entrada y ejecución de los ataques. La tecnología habilitada por IA también podría aumentar la capacidad de los atacantes para preservar tanto su anonimato como su distancia respecto de sus víctimas, en un entorno en el que ya resulta complejo atribuir y investigar los delitos.
Desafío 2: Asimetría
Como defensores, debemos tener éxito al detener los ataques el 100 % de las veces, mientras que los atacantes solo necesitan tener éxito una vez. Las organizaciones deben centrarse en desarrollar las capacidades adecuadas y en contar con un equipo que pueda implementar procesos y tecnologías que reduzcan esta asimetría.
Aunque la IA y la automatización reducen la variabilidad y los costes, mejoran la escala y limitan los errores, los atacantes también pueden utilizar la IA para inclinar la balanza. Los delincuentes podrán automatizar los elementos más intensivos en recursos de sus ataques y eludir los controles desplegados contra ellos. Las previsiones de la IA «estrecha» para el futuro próximo indican que los escáneres de vulnerabilidades habilitados por IA, que pueden acelerar el descubrimiento y la explotación de vulnerabilidades por parte de los atacantes, podrían poner en cuestión la gestión actual de vulnerabilidades y las capacidades de las operaciones de ciberseguridad.
Desafío 3: Ampliación de la superficie de ataque / Digitalización de las operaciones
A medida que las organizaciones siguen creciendo, también aumentan el tamaño y la complejidad de sus infraestructuras tecnológicas y de datos, lo que significa que los atacantes tienen más superficies que explorar y explotar. Para adelantarse a los atacantes, las organizaciones pueden desplegar tecnologías avanzadas, como la IA y la automatización, para ayudar a crear «puntos de estrangulamiento» defendibles en lugar de repartir los esfuerzos de manera equitativa por todo el entorno.
Además, el uso de la IA en los procesos empresariales puede modificar la naturaleza de los ciberriesgos y de los activos que deben protegerse. La creciente dependencia de tecnologías habilitadas por IA puede crear nuevas oportunidades para que los atacantes interfieran en procesos empresariales críticos, afectando tanto a la toma de decisiones internas como a las relaciones con los clientes.
Desafío 4: Equilibrar el riesgo y la capacidad operativa
Las organizaciones aspiran a gestionar sus operaciones con éxito y de forma segura. Una reacción fácil ante los cambios en el panorama de riesgos y amenazas consiste en adoptar una cultura de seguridad muy rígida que, en última instancia, reduce la competitividad y merma la moral de la plantilla. En su lugar, los equipos de seguridad pueden adoptar un enfoque basado en el riesgo, estableciendo procesos de gobernanza y umbrales de materialidad, informando a los responsables operativos sobre la postura de ciberseguridad e identificando iniciativas para mejorarla de forma continua.
La capacidad operativa adicional puede lograrse utilizando tecnologías como la IA para mejorar la forma en que los equipos operativos y tecnológicos interactúan con la seguridad. Por ejemplo, con la tecnología disponible hoy, el tiempo necesario para completar los procesos rutinarios de seguridad puede reducirse considerablemente mediante el uso de la IA para automatizar los aspectos de estos procesos que consumen muchos recursos o tiempo. Para los equipos operativos, las mejoras en la eficiencia de los procesos de seguridad reducen la fricción asociada al cumplimiento de los requisitos de seguridad. Se espera que los avances en la tecnología de IA abran más oportunidades para mejorar las operaciones de ciberseguridad y favorecer el equilibrio entre riesgo y rentabilidad.
Construir una respuesta
En un panorama de ciberamenazas en constante cambio, las organizaciones tendrán que defenderse de riesgos cada vez más complejos e interconectados. Las tecnologías clave de la Cuarta Revolución Industrial, incluida la IA, tienen el potencial de provocar una serie de cambios sistémicos en ese panorama. En el futuro próximo, la IA dará forma a los riesgos para las organizaciones y, a través del programa Future Series: Cybercrime 2025, el Foro Económico Mundial y sus socios buscan identificar las acciones eficaces necesarias para mitigar y superar estos riesgos.
