¿Potenciará la IA los ciberataques de ingeniería social?

La inteligencia artificial generativa (IA generativa), y los grandes modelos de lenguaje (LLM, por sus siglas en inglés) en particular, han irrumpido con fuerza en todo el mundo. Estas tecnologías han demostrado un enorme potencial para automatizar diversas tareas cotidianas, desde asistencia básica de TI hasta sofisticados análisis del comportamiento de los usuarios. La automatización de tareas suele asignarse a un agente de IA — un software autónomo diseñado para realizar tareas y ejecutar acciones. Empresas de todos los sectores están adoptando cada vez más herramientas de IA para aumentar la eficiencia y reducir los costos.

Sin embargo, el surgimiento de los modelos de IA también ha generado nuevas modalidades de ciberataques — los llamados ciberataques con IA — que utilizan la tecnología de forma eficaz para mejorar la automación, adaptación y persecución de un objetivo específico. El auge de estos ataques abre un nuevo campo en el panorama de la ciberseguridad. Reflejando este cambio, MITRE ha introducido el marco MITRE ATLAS como una extensión del ya ampliamente utilizado marco MITRE ATT&CK para hacer frente a las tácticas de ciberataques con sistemas de IA.

Si bien el avance rápido de las tecnologías de IA es apasionante, el uso indebido de la tecnología suscita preocupaciones importantes. El Informe sobre Riesgos Globales 2024 del Foro Económico Mundial sitúa la desinformación e información errónea como el principal riesgo asociado a la tecnología de IA. Utilizando modelos avanzados, la IA ha transformado el panorama de amenazas a la ciberseguridad, con el potencial de causar impactos devastadores. La capacidad de los sistemas de IA de aportar razonamiento a los ciberataques y actuar en función de ello hace que las técnicas de defensa tradicionales sean ineficaces. Este desarrollo ha allanado el camino para amenazas sofisticadas que aparecen a una velocidad y escala muy superiores a la capacidad de detección humana.

Los ataques con IA han ocupado los titulares en los últimos años. Mucho se ha debatido sobre la capacidad de la tecnología Deepfake de aplicar la IA para generar contenidos engañosos. En Hong Kong, este método se utilizó para persuadir a un empleado de una multinacional para que pagara 25 millones de dólares a estafadores que se hicieron pasar por el director financiero de la empresa durante una videoconferencia. Las estafas con deepfake se hacen a un costo insignificante para los actores maliciosos, por lo que se espera que se aceleren, amenazando a todas las empresas en general.

Con una huella digital cada vez mayor de datos personales en línea y posibilidades cada vez más sofisticadas de ataques con IA, los actores maliciosos están ahora más capacitados que nunca para desarrollar ataques más personalizados y difíciles de detectar.

Entre las nuevas modalidades están los ataques de ingeniería social, que consisten en manipular a las víctimas para que revelen información confidencial o realicen acciones que comprometan su seguridad. La disponibilidad de potentes modelos de IA, en particular los LLM, facilita a los ciberdelincuentes desarrollar ataques de ingeniería social que antes no habrían sido capaces de desarrollar. Por ejemplo, estafadores utilizaron una técnica de imitación de voz para aterrorizar a la madre de una niña de 15 años, afirmando que habían secuestrado a su hija, que en realidad estaba a salvo.

La manipulación digital ha avanzado de manera significativa, lo que contribuye a una nueva frontera de ataques de ingeniería social. Las implicaciones en los activos digitales son graves e incluyen pérdidas financieras y violaciones de la privacidad. Los ataques de ingeniería social pueden llevarse a cabo a través de distintos medios, como correos electrónicos, sitios web de phishing, mensajes de texto, llamadas de voz o vídeo y plataformas de redes sociales. Por lo general, buscan explotar las vulnerabilidades humanas más que las deficiencias de seguridad de la infraestructura digital.

Mientras siguen desarrollándose técnicas de defensa contra los ataques con IA, el número de incidentes de ciberseguridad que utilizan técnicas de IA va en aumento. Los ataques son cada vez más potentes y a menudo muy exitosos, lo que dificulta la misión de proteger los entornos. Pero eso no significa que los estafadores y hackers hayan ganado.

Abordar las preocupaciones derivadas de los ataques con IA podría lograrse de tres maneras. En primer lugar, es esencial comprender plenamente el estado actual de los controles de ciberseguridad y su eficacia frente a las nuevas modalidades de ciberataques. Esto ayudará a establecer contramedidas a nivel global a través de diálogos e intercambio de información entre las organizaciones, antes de que los ataques con IA evolucionen aún más.

En segundo lugar, la defensa de nuestros activos críticos depende de la mejora de las medidas de seguridad, el desarrollo de defensas sólidas contra los ataques emergentes y la alfabetización y concientización de la sociedad sobre las nuevas técnicas. Además, revisar los marcos existentes y actualizarlos en respuesta a los nuevos ataques con IA es un paso importante para salvaguardar los activos valiosos.

Por último, todo el ecosistema, incluidos los gobiernos y las principales empresas tecnológicas, deberían unirse para apoyar a los centros de investigación, las start-ups y las pequeñas y medianas empresas (pymes) que se centran en la intersección de la IA y la ciberseguridad. Esta inversión es un motor clave que podría tener el potencial de lograr soluciones revolucionarias — al igual que OpenAI revolucionó la IA antes de que lo hicieran las empresas establecidas. Se necesitan urgentemente más iniciativas de cooperación a escala global para garantizar que las defensas de ciberseguridad evolucionan más rápido que las amenazas que representan los nuevos ataques con IA.