Tecnologías emergentes

¿Potenciará la IA los ciberataques de ingeniería social?

Un rostro colorido y pixelado generado por IA.

La IA podría tener graves implicaciones para la ciberseguridad. Image: Getty Images

Abdulaziz Almaslukh
Senior Researcher, Saudi Information Technology Company (SITE)
  • Los ciberataques de ingeniería social tienen tres características: son automatizados, adaptables y se ajustan a sus objetivos específicos.
  • Se han llevado a cabo ciberataques de ingeniería social con IA para estafar millones de dólares a personas y empresas.
  • Abordar este problema requiere un enfoque coordinado y cooperación entre todos los sectores involucrados.

La inteligencia artificial generativa (IA generativa), y los grandes modelos de lenguaje (LLM, por sus siglas en inglés) en particular, han irrumpido con fuerza en todo el mundo. Estas tecnologías han demostrado un enorme potencial para automatizar diversas tareas cotidianas, desde asistencia básica de TI hasta sofisticados análisis del comportamiento de los usuarios. La automatización de tareas suele asignarse a un agente de IA — un software autónomo diseñado para realizar tareas y ejecutar acciones. Empresas de todos los sectores están adoptando cada vez más herramientas de IA para aumentar la eficiencia y reducir los costos.

Sin embargo, el surgimiento de los modelos de IA también ha generado nuevas modalidades de ciberataques — los llamados ciberataques con IA — que utilizan la tecnología de forma eficaz para mejorar la automación, adaptación y persecución de un objetivo específico. El auge de estos ataques abre un nuevo campo en el panorama de la ciberseguridad. Reflejando este cambio, MITRE ha introducido el marco MITRE ATLAS como una extensión del ya ampliamente utilizado marco MITRE ATT&CK para hacer frente a las tácticas de ciberataques con sistemas de IA.

¿Has leído?

IA y ciberseguridad

Si bien el avance rápido de las tecnologías de IA es apasionante, el uso indebido de la tecnología suscita preocupaciones importantes. El Informe sobre Riesgos Globales 2024 del Foro Económico Mundial sitúa la desinformación e información errónea como el principal riesgo asociado a la tecnología de IA. Utilizando modelos avanzados, la IA ha transformado el panorama de amenazas a la ciberseguridad, con el potencial de causar impactos devastadores. La capacidad de los sistemas de IA de aportar razonamiento a los ciberataques y actuar en función de ello hace que las técnicas de defensa tradicionales sean ineficaces. Este desarrollo ha allanado el camino para amenazas sofisticadas que aparecen a una velocidad y escala muy superiores a la capacidad de detección humana.

Los ataques con IA han ocupado los titulares en los últimos años. Mucho se ha debatido sobre la capacidad de la tecnología Deepfake de aplicar la IA para generar contenidos engañosos. En Hong Kong, este método se utilizó para persuadir a un empleado de una multinacional para que pagara 25 millones de dólares a estafadores que se hicieron pasar por el director financiero de la empresa durante una videoconferencia. Las estafas con deepfake se hacen a un costo insignificante para los actores maliciosos, por lo que se espera que se aceleren, amenazando a todas las empresas en general.

Ataques de ingeniería social impulsados por IA

Con una huella digital cada vez mayor de datos personales en línea y posibilidades cada vez más sofisticadas de ataques con IA, los actores maliciosos están ahora más capacitados que nunca para desarrollar ataques más personalizados y difíciles de detectar.

Entre las nuevas modalidades están los ataques de ingeniería social, que consisten en manipular a las víctimas para que revelen información confidencial o realicen acciones que comprometan su seguridad. La disponibilidad de potentes modelos de IA, en particular los LLM, facilita a los ciberdelincuentes desarrollar ataques de ingeniería social que antes no habrían sido capaces de desarrollar. Por ejemplo, estafadores utilizaron una técnica de imitación de voz para aterrorizar a la madre de una niña de 15 años, afirmando que habían secuestrado a su hija, que en realidad estaba a salvo.

La manipulación digital ha avanzado de manera significativa, lo que contribuye a una nueva frontera de ataques de ingeniería social. Las implicaciones en los activos digitales son graves e incluyen pérdidas financieras y violaciones de la privacidad. Los ataques de ingeniería social pueden llevarse a cabo a través de distintos medios, como correos electrónicos, sitios web de phishing, mensajes de texto, llamadas de voz o vídeo y plataformas de redes sociales. Por lo general, buscan explotar las vulnerabilidades humanas más que las deficiencias de seguridad de la infraestructura digital.

Mientras siguen desarrollándose técnicas de defensa contra los ataques con IA, el número de incidentes de ciberseguridad que utilizan técnicas de IA va en aumento. Los ataques son cada vez más potentes y a menudo muy exitosos, lo que dificulta la misión de proteger los entornos. Pero eso no significa que los estafadores y hackers hayan ganado.

Hacer frente a los ataques con IA

Abordar las preocupaciones derivadas de los ataques con IA podría lograrse de tres maneras. En primer lugar, es esencial comprender plenamente el estado actual de los controles de ciberseguridad y su eficacia frente a las nuevas modalidades de ciberataques. Esto ayudará a establecer contramedidas a nivel global a través de diálogos e intercambio de información entre las organizaciones, antes de que los ataques con IA evolucionen aún más.

En segundo lugar, la defensa de nuestros activos críticos depende de la mejora de las medidas de seguridad, el desarrollo de defensas sólidas contra los ataques emergentes y la alfabetización y concientización de la sociedad sobre las nuevas técnicas. Además, revisar los marcos existentes y actualizarlos en respuesta a los nuevos ataques con IA es un paso importante para salvaguardar los activos valiosos.

Por último, todo el ecosistema, incluidos los gobiernos y las principales empresas tecnológicas, deberían unirse para apoyar a los centros de investigación, las start-ups y las pequeñas y medianas empresas (pymes) que se centran en la intersección de la IA y la ciberseguridad. Esta inversión es un motor clave que podría tener el potencial de lograr soluciones revolucionarias — al igual que OpenAI revolucionó la IA antes de que lo hicieran las empresas establecidas. Se necesitan urgentemente más iniciativas de cooperación a escala global para garantizar que las defensas de ciberseguridad evolucionan más rápido que las amenazas que representan los nuevos ataques con IA.

Loading...
No te pierdas ninguna actualización sobre este tema

Crea una cuenta gratuita y accede a tu colección personalizada de contenidos con nuestras últimas publicaciones y análisis.

Inscríbete de forma gratuita

Licencia y republicación

Los artículos del Foro Económico Mundial pueden volver a publicarse de acuerdo con la Licencia Pública Internacional Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0, y de acuerdo con nuestras condiciones de uso.

Las opiniones expresadas en este artículo son las del autor y no del Foro Económico Mundial.

Mantente al día:

Privacy Enhancing Technologies

Comparte:
La visión global
Explora y monitorea cómo Ciberseguridad afecta a las economías, las industrias y los problemas globales
A hand holding a looking glass by a lake
Innovación mediante crowdsourcing
Involúcrate con nuestra plataforma digital de crowdsourcing para lograr un impacto a escala
World Economic Forum logo
Agenda Global

La Agenda Semanal

Una actualización semanal de los temas más importantes de la agenda global

Suscríbete hoy

Puedes anular tu suscripción en cualquier momento utilizando el enlace que figura en nuestros correos electrónicos. Para obtener más información, consulta nuestro Política de privacidad.

¿Debe el diseño de robots seguir estas tres leyes?

Leila Takayama

13 de diciembre de 2024

5 formas en que la IA puede ayudar en la respuesta a las crisis en todo el mundo

Quiénes somos

Participe en el Foro

  • Iniciar sesión
  • Asóciese con nosotros
  • Conviértase en miembro
  • Regístrese para recibir nuestras notas de prensa
  • Suscríbase a nuestros boletines
  • Contacte con nosotros

Enlaces directos

Ediciones en otros idiomas

Política de privacidad y normas de uso

Sitemap

© 2024 Foro Económico Mundial