Este resumen periódico le ofrece las principales noticias de ciberseguridad del último mes.
Noticias destacadas sobre ciberseguridad: las principales organizaciones de IA revelan que agentes hackearon a otras empresas; Microsoft realiza el mayor pago de recompensas por errores; ciberataques contra el agua de estados de EE. UU.
El Centro para la Ciberseguridad del Foro Económico Mundial Centro para la Ciberseguridad ofrece una plataforma independiente e imparcial para reforzar la importancia de la ciberseguridad como imperativo estratégico e impulsar una acción público-privada global para abordar los desafíos sistémicos de ciberseguridad.
1. Las principales organizaciones de IA revelan que sus agentes se descontrolaron durante las pruebas
Organizaciones de IA líderes en el sector han revelado que sus modelos escaparon de los entornos de prueba aislados (sandbox) y hackearon a otras empresas.
Anthropic y OpenAI han informado de que sus agentes accedieron a otras empresas durante pruebas de ciberseguridad.
OpenAI señaló que los modelos avanzados habían dedicado “una cantidad considerable de cómputo de inferencia a encontrar la forma de obtener acceso a internet abierto” para resolver un problema de evaluación planteado por los evaluadores.
Tras obtener acceso, los modelos determinaron que las soluciones al problema podían estar en poder de Hugging Face, una start-up de IA con sede en Nueva York, y utilizaron credenciales robadas y vulnerabilidades de día cero para encontrar información.
Tras la divulgación de este incidente, Anthropic anunció que había puesto en marcha su propia revisión retrospectiva e identificó tres incidentes en los que Claude había accedido a “infraestructura de producción de tres organizaciones diferentes”.
El Instituto de Seguridad de la IA de Reino Unido, una organización de investigación dependiente del Departamento de Ciencia, Innovación y Tecnología del Gobierno británico, también reveló que los modelos de ambas organizaciones habían llevado a cabo “acciones autónomas no autorizadas en internet en tiempo real, dirigidas contra personas y organizaciones reales” durante sus propias pruebas.
Una vez más, a los agentes se les asignó la tarea de resolver un desafío de ciberseguridad. De 122 intentos, 17 dieron lugar a acciones no autorizadas por parte de Mythos 5 de Anthropic y GPT-5.6-Sol de OpenAI. Esto incluyó la inserción de código malicioso en un proyecto de código abierto.
“Para intentar que el código fuera aprobado, el agente recurrió a la ingeniería social: creó identidades falsas en línea y las utilizó para presionar al responsable del proyecto para que aprobara el código. Un responsable humano detectó el código malicioso y se negó a aprobarlo”, afirmó el Instituto de Seguridad de la IA.
Meta también reveló que uno de sus modelos se había conectado a internet y había hackeado a otra empresa. En declaraciones a la BBC, un portavoz afirmó que esto se debió a una "configuración incorrecta".
Las revelaciones llegan tras una reciente advertencia de la alianza de inteligencia Cinco Ojos, según la cual se necesita una acción urgente para hacer frente a las amenazas de seguridad impulsadas por la IA.
“La IA no es una consideración de futuro, sino que ya está aquí”, afirmaba su comunicado. “Reduce las barreras para los actores malintencionados y aumenta la velocidad y la complejidad de los ataques, acortando cada vez más rápidamente el margen entre el descubrimiento de vulnerabilidades y su explotación. Al mismo tiempo, la IA ofrece herramientas potentes para reforzar la defensa.”
2. Microsoft paga 20 millones de dólares en programas de recompensas por errores
El Programa de Recompensas de Microsoft concedió más de 20 millones de dólares a 562 investigadores de seguridad de 64 países, según ha anunciado la compañía.
Gestionado por el Centro de Respuesta de Seguridad de Microsoft (MSRC), el programa busca reunir a investigadores de seguridad para identificar e informar de vulnerabilidades en los productos y servicios de la compañía.
La cifra más reciente es el importe más alto pagado en un año hasta la fecha, superando la cifra del año anterior, de 17 millones de dólares.
“La seguridad es un trabajo de equipo”, afirmó el MSRC. “Cada vulnerabilidad notificada a través de nuestros programas de recompensas representa una oportunidad para abordar el riesgo antes de que pueda explotarse contra los clientes. El trabajo de la comunidad investigadora desempeña un papel fundamental para ayudar a Microsoft a adelantarse a las amenazas emergentes, al tiempo que refuerza la seguridad de los servicios en la nube, los sistemas de IA, las plataformas empresariales y las tecnologías de consumo.”
Se pagaron 2,3 millones de dólares a los participantes del evento de hackeo en directo Zero Day Quest, con casi 700 informes de vulnerabilidades. Los investigadores se centraron en escenarios de seguridad de alta prioridad en las plataformas de nube y de IA de Microsoft.
En total, a lo largo del año se notificaron 2.531 vulnerabilidades admisibles, y la recompensa individual más alta ascendió a 200.000 dólares.
3. Noticias breves: principales noticias de ciberseguridad de este mes
Estados de EE. UU. afectados por una campaña de hackeo contra instalaciones de agua: Al menos 12 empresas de suministro de agua de estados de EE. UU. han sido objeto de una campaña de hackeo, según ABC News. Georgia, Dakota del Norte, Míchigan y Minnesota figuran entre los estados afectados, y el FBI dirige las investigaciones. “Entre los efectos operativos notificados al FBI figuran la pérdida de presión y las inundaciones”, afirmó la agencia. “La pérdida de presión en los sistemas de agua podría permitir que agua subterránea no tratada se filtrara en las tuberías.”
Nuevos métodos de ataque dirigidos a la autenticación sin contraseña: Investigadores de Palo Alto Networks han publicado información que revela cómo los actores de amenazas podrían acceder a cuentas protegidas con llaves de acceso (passkeys). El método, denominado “Pass-Ta-Key”, utiliza malware para “aprovechar indebidamente los flujos de incorporación, recuperación y confianza en el dispositivo” y tomar el control de cuentas sin contraseña. El análisis muestra que las contraseñas sincronizadas pueden explotarse, “incluso cuando los proveedores añaden protecciones respaldadas por hardware para proteger las credenciales dentro del autenticador en la nube”.
Los asistentes de correo electrónico con IA pueden abrir una nueva vía para los hackers: Un grupo de investigación ha demostrado cómo los asistentes de IA pueden utilizarse para acceder a cuentas de correo electrónico de alto nivel. Barracuda Research muestra cómo una única cuenta de empleado comprometida puede “escalar hasta el compromiso del CEO y el fraude de transferencias”. Tras acceder a las cuentas de empleados de nivel inferior, los investigadores utilizaron una técnica conocida como “vivir de la tierra” (living off the land), en la que se aplican medidas para ocultar las brechas antes de llevar a cabo el reconocimiento. La información obtenida se utiliza después para identificar objetivos de brechas de seguridad de mayor nivel.
Una filtración de datos de E&Y incluye información financiera personal: Una de las mayores firmas de servicios profesionales del mundo, Ernst & Young, anunció una filtración de datos de sus clientes que se remonta a abril. Los afectados fueron alertados en julio de que los hackers habían descargado “nombres, direcciones, números de la Seguridad Social, números de cuenta, números de tarjetas de crédito o débito, y otros tipos de información utilizados para preparar declaraciones de impuestos”, según informa SecurityWeek. Hasta el momento no hay información sobre los actores de amenazas responsables ni sobre lo que pretenden hacer con los datos.
4. Más sobre ciberseguridad en Forum Stories
Protección de los sistemas energéticos frente a las ciberamenazas: Con la rápida evolución de la IA, surgen nuevas amenazas para las infraestructuras críticas. En este artículo, Leo Simonovich, de Siemens Energy, y Filipe Beato, responsable de Tecnología e Innovación del Foro, analizan las vulnerabilidades de los sistemas energéticos y los pasos que los CISO y sus organizaciones deben dar para protegerse.
Cinco expertos sobre los mayores riesgos de la ciberseguridad: A medida que nuestros datos son cada vez más valiosos y voluminosos, los delincuentes explotan cualquier resquicio para hacerse con ellos. En el siguiente vídeo, cinco expertos de todo el sector de la ciberseguridad destacan las amenazas más apremiantes y cómo deberíamos responder a ellas:
Tres formas en que los líderes pueden cerrar la brecha de gobernanza de la ciberseguridad: Aunque la gran mayoría de las organizaciones coinciden en que la ciberseguridad es una prioridad empresarial fundamental, solo el 59 % de los consejos de administración proporciona los recursos financieros necesarios para afrontar las amenazas. Además, solo la mitad es consciente de los riesgos cibernéticos que trae consigo la IA. En este artículo, Melonia da Gama, de Fortinet, y Natasa Perucica, del Foro, ofrecen tres pasos que los líderes pueden dar para mejorar su postura de seguridad.
