Los estafadores robaron 25,5 millones de dólares a la empresa de ingeniería Arup mediante un sofisticado ataque con deepfakes generados por IA.
El incidente pone de relieve por qué las organizaciones que se apresuran a aprovechar el potencial de la IA también deben defenderse de su uso como arma.
Detectar la IA peligrosa y los deepfakes no es solo un desafío técnico: es clave para preservar la confianza pública.
El empleado del área financiera en Hong Kong no encontró nada inusual en la videollamada. Su director financiero, con sede en el Reino Unido, necesitaba con urgencia la aprobación de una adquisición confidencial, y varios colegas conocidos se conectaron para hablar de los detalles.
Tras una conversación exhaustiva, el empleado autorizó 15 transferencias por un total de 25,5 millones de dólares. Solo semanas después salió a la luz la devastadora verdad: todas las personas presentes en la llamada, salvo la víctima, eran deepfakes generados por IA.
Este ataque de enero de 2024 contra la empresa de ingeniería Arup representa mucho más que un fraude sofisticado: señala un cambio fundamental en la forma en que la IA amenaza la infraestructura de confianza que sustenta las empresas modernas.
Mientras se apresuran a aprovechar el potencial transformador de la IA, las organizaciones deben defenderse al mismo tiempo de su uso como arma. La capacidad para detectar la IA peligrosa ya no es opcional: es una cuestión existencial.
La evolución más allá de la desinformación política
Durante años, los deepfakes acapararon los titulares como herramientas de manipulación electoral y escándalos de famosos. Esa época ha terminado. El incidente de Arup demuestra cómo los ataques con deepfakes han evolucionado hasta convertirse en armas de precisión que apuntan a las operaciones corporativas mediante la suplantación de directivos, una amenaza para la que la mayoría de las organizaciones siguen estando peligrosamente poco preparadas.
La magnitud de esta evolución es asombrosa. Los casos de fraude con deepfakes se dispararon un 1.740 % en Norteamérica entre 2022 y 2023, y las pérdidas financieras superaron los 200 millones de dólares solo en el primer trimestre de 2025. La accesibilidad de la tecnología de deepfakes ha democratizado el fraude: clonar una voz ahora requiere apenas entre 20 y 30 segundos de audio, mientras que se pueden crear deepfakes de vídeo convincentes en 45 minutos con programas disponibles de forma gratuita.
Más allá de Arup, los ataques documentados revelan tácticas cada vez más sofisticadas. Los estafadores intentaron suplantar al director ejecutivo de Ferrari, Benedetto Vigna, mediante llamadas con una voz clonada por IA que reproducía a la perfección su acento del sur de Italia. La llamada solo terminó cuando un directivo hizo una pregunta cuya respuesta solo podía conocer Vigna.
Se han producido intentos similares contra el director ejecutivo de WPP, Mark Read, y muchos otros directivos de diversos sectores. El Centro de Intercambio y Análisis de Información de Servicios Financieros advierte que estos ataques representan «un cambio fundamental: de perturbar los procesos democráticos a atacar directamente las operaciones empresariales».
Esta evolución refleja una transformación más amplia del panorama de amenazas. A diferencia de los deepfakes políticos diseñados para su difusión masiva, los deepfakes corporativos son ataques quirúrgicos: personalizados, perfectamente adaptados al contexto y devastadoramente eficaces. Aprovechan las redes de confianza que permiten agilizar los negocios y convierten nuestra dependencia de la comunicación digital en una vulnerabilidad crítica.
Los desafíos de detectar la IA peligrosa
Los mecanismos de seguridad actuales están fracasando estrepitosamente ante esta amenaza. Las investigaciones muestran que los sistemas de detección automatizada más avanzados sufren caídas de precisión del 45-50 % cuando se enfrentan a deepfakes del mundo real, en comparación con las condiciones de laboratorio. Aún más alarmante: la capacidad humana para identificar deepfakes apenas alcanza el 55-60 % , apenas por encima del azar.
«Las señales auditivas y visuales son muy importantes para los seres humanos, y estas tecnologías se aprovechan de ello», explica Rob Greig, director de Información de Arup, al reflexionar sobre el fraude de 25 millones de dólares. «De verdad tenemos que empezar a cuestionar lo que vemos».
El desafío fundamental radica en la carrera armamentista asimétrica entre las tecnologías de generación y las de detección. Mientras los vídeos deepfake aumentan un 900 % al año, las capacidades de detección se quedan sistemáticamente rezagadas. Los métodos de autenticación tradicionales —reconocer una cara conocida en un vídeo, escuchar una voz de confianza e incluso observar patrones de comportamiento— ya no pueden ofrecer una seguridad fiable.
¿Cómo aborda el Foro los desafíos mundiales de ciberseguridad?
El Centro de Ciberseguridad ofrece una plataforma de confianza donde los líderes se reúnen para comprender los riesgos cibernéticos en evolución y sus implicaciones sistémicas. Se centra en fomentar la comprensión y la confianza en un mundo digital cada vez más interconectado.
Al facilitar la colaboración intersectorial y el intercambio de conocimientos, el Centro ayuda a sus socios a reforzar la resiliencia cibernética y a abordar desafíos que requieren respuestas colectivas.
Sin embargo, este desafío puede abordarse mediante soluciones tecnológicas emergentes. Los sistemas de detección multimodal en tiempo real que analizan simultáneamente la voz, el vídeo y los patrones de comportamiento alcanzan índices de precisión del 94-96 % en condiciones óptimas.
Estos sistemas aprovechan métodos de conjunto que combinan varios algoritmos de detección, lo que los hace más resistentes a los ataques adversarios. Las empresas están integrando estas capacidades directamente en las plataformas de comunicación, lo que permite emitir alertas en tiempo real durante las interacciones en directo.
La clave para cerrar la brecha de detección reside en la adaptación continua. A diferencia de las medidas de seguridad estáticas, la detección moderna de deepfakes requiere modelos que se reentrenen constantemente ante las amenazas emergentes.
Las soluciones líderes ya emplean enfoques de aprendizaje federado que actualizan a diario las capacidades de detección y, al mismo tiempo, preservan la privacidad. Esta estrategia de defensa dinámica, junto con métodos criptográficos de autenticación para las comunicaciones verificadas, ofrece una vía para avanzar en la carrera armamentista de la detección.
Crear resiliencia sistémica frente a los deepfakes
Al reconocer que quizá nunca sea posible lograr una detección perfecta, las organizaciones líderes están construyendo resiliencia en varios niveles mediante enfoques integrados que combinan tecnología, políticas y factores humanos. Esta estrategia de defensa sistémica reconoce que derrotar a los deepfakes requiere más que soluciones técnicas: exige cambios fundamentales en la forma en que verificamos la confianza.
Las instituciones financieras están abriendo camino con marcos integrales. La taxonomía de riesgos de deepfakes de FS-ISAC permite desarrollar una defensa metódica en los ámbitos de las personas, los procesos y la tecnología. Entre sus elementos clave figura la autenticación multifactor, que va más allá de los métodos tradicionales e incorpora biometría del comportamiento que analiza en tiempo real los patrones de escritura y los hábitos de navegación. Más de 100 instituciones financieras han implementado estos sistemas y han creado una red interbancaria de detección del fraude basada en el comportamiento.
Los protocolos de verificación que no pueden verse comprometidos por los medios sintéticos se están convirtiendo en una práctica habitual. Incluyen canales de comunicación secundarios establecidos de antemano, autenticación criptográfica de dispositivos y demoras obligatorias para las transacciones de alto valor. La Red de Control de Delitos Financieros de EE. UU. ha emitido directrices formales que exigen procedimientos de verificación reforzados y la notificación de actividades sospechosas en casos relacionados con deepfakes.
La formación es otro pilar fundamental. La Asociación de Banqueros de Estados Unidos organiza talleres periódicos para enseñar al personal a reconocer tácticas de manipulación y verificar las instrucciones de los directivos a través de canales independientes. Entre las buenas prácticas que están surgiendo de estos programas figuran establecer «palabras de seguridad» para las comunicaciones sensibles, implementar procedimientos de devolución de llamadas usando números verificados previamente y crear árboles de decisión para situaciones de alto riesgo.
Los marcos normativos evolucionan rápidamente para hacer frente a esta amenaza. La Ley de IA de la Unión Europea, que entró en vigor en agosto de 2024, impone obligaciones de transparencia y el marcado técnico de los contenidos generados por IA. Aunque Estados Unidos carece de una legislación federal integral, varios proyectos de ley avanzan en el Congreso, con disposiciones específicas sobre deepfakes incluidas en marcos más amplios de gobernanza de la IA.
Se necesitan protocolos de verificación sólidos para combatir los deepfakes
Como destaca el Informe de perspectivas mundiales de ciberseguridad 2025 del Foro Económico Mundial, la amenaza de los deepfakes representa una prueba crucial de nuestra capacidad para mantener la confianza en un mundo impulsado por la IA. Con Deloitte proyectando que el fraude habilitado por IA alcanzará los 40.000 millones de dólares en 2027, lo que está en juego va más allá de las pérdidas financieras y afecta a la infraestructura fundamental de confianza empresarial.
La solución exige una acción inmediata y coordinada. Las organizaciones deben implementar protocolos de verificación sólidos, invertir en capacidades de detección continua y transformar su cultura de seguridad, pasando de «confiar, pero verificar» a «no confiar nunca y verificar siempre». Los proveedores de tecnología deben dar prioridad al desarrollo de sistemas de detección resilientes y adaptables. Los responsables de formular políticas deben crear marcos que equilibren la innovación y la protección.
Sobre todo, debemos reconocer que detectar la IA peligrosa no es simplemente un desafío técnico: es esencial para preservar la confianza que permite el progreso humano. En un mundo que prioriza la IA, nuestra capacidad para distinguir la comunicación humana auténtica de la manipulación sintética determinará si la inteligencia artificial amplifica el potencial humano o socava los cimientos mismos de la sociedad.
