Los ataques de inyección de prompts amenazan a los chatbots de IA y otras noticias de ciberseguridad que debe conocer este mes

From attacks on chatbots to an increase in data breaches, here's the latest cybersecurity news.
From attacks on chatbots to an increase in data breaches, here's the latest cybersecurity news.Image: Unsplash/Jefferson Santos
Este contenido ha sido traducido automáticamente con IA.
  • Este resumen de noticias le ofrece las historias clave de ciberseguridad del último mes.

  • Principales noticias de ciberseguridad: la agencia de ciberseguridad del Reino Unido advierte sobre ataques de inyección de prompts en la IA; las filtraciones de datos siguen aumentando en 2023; la agencia de ciberseguridad de Japón sufre una brecha, según informes.

1. La agencia de ciberseguridad del Reino Unido advierte sobre ataques contra los chatbots de IA

El Centro Nacional de Ciberseguridad (NCSC) del Reino Unido ha señalado un riesgo creciente de que los piratas informáticos manipulen los chatbots mediante ataques de "inyección de prompts". Esto ocurre cuando un usuario crea una entrada que hace que un modelo se comporte de forma no prevista, por ejemplo, generando contenido ofensivo o revelando información confidencial.

La generación actual de grandes modelos de lenguaje (LLM) es vulnerable a este tipo de entradas, lo que podría tener consecuencias preocupantes, según indica la agencia. Dado que los LLM se utilizan cada vez más para transmitir información a otros servicios y aplicaciones, el riesgo de ataques de inyección de prompts aumentará.

El NCSC también ha anunciado que Ollie Whitehouse será su nuevo director de tecnología.

EE. UU. registró muchas más filtraciones de datos que cualquier otro país en el segundo trimestre de 2023.Image: Surfshark

2. Las filtraciones de datos siguen aumentando en 2023

El número de filtraciones de datos en todo el mundo aumentó un 156% entre el primer y el segundo trimestre de 2023, según nuevas cifras del proveedor de VPN Surfshark.

En total, se filtraron 110,8 millones de cuentas en el segundo trimestre del año, lo que equivale a 855 cada minuto.

Casi la mitad de estas filtraciones correspondieron a cuentas originarias de EE. UU., mientras que Rusia, España, Francia y Turquía completaron el resto de los cinco países con más filtraciones.

El coste medio mundial de una filtración de datos ha aumentado un 15 % en los últimos tres años, según un nuevo informe de IBM. Cost of Data a Breach 2023 revela que el 51 % de las organizaciones planea mejorar su ciberseguridad como consecuencia de una filtración.

3. Noticias breves: principales historias de ciberseguridad de este mes

La agencia nacional de defensa cibernética ha sido infiltrada por piratas informáticos, que podrían haber tenido acceso a información durante hasta nueve meses, según informa el Financial Times. El ataque contra el Centro Nacional de Preparación ante Incidentes y Estrategia para la Ciberseguridad de Japón comenzó el otoño pasado, y se cree que detrás de él están piratas informáticos chinos respaldados por el Estado.

La higiene básica en ciberseguridad sigue protegiendo contra el 98 % de los ataques, según Microsoft. Los estándares mínimos que toda organización debería adoptar son: exigir una autenticación multifactor resistente al phishing; aplicar los principios de confianza cero; utilizar herramientas antimalware actualizadas; mantener al día los sistemas y las actualizaciones de software; y proteger los datos.

Los bonos de los altos ejecutivos de las empresas están vinculándose cada vez más a métricas de ciberseguridad. Forma parte de una tendencia a convertir la ciberseguridad en una consideración de máximo nivel, con empresas como Johnson & Johnson y el London Stock Exchange Group, entre otras, que vinculan una parte de los bonos a un objetivo cibernético en 2022.

La alianza de inteligencia Five Eyes ha detallado cómo los piratas informáticos rusos patrocinados por el Estado, Sandworm, utilizan un programa malicioso para Android llamado Infamous Chisel para atacar los dispositivos de soldados ucranianos, escanear archivos, monitorizar el tráfico y robar información sensible.

Microsoft ha identificado siete tendencias emergentes de guerra híbrida de la guerra cibernética de Rusia con Ucrania. Estas incluyen el uso del pacifismo como arma, al amplificar el descontento con la guerra y avivar los temores a una Tercera Guerra Mundial. Otras tácticas incluyen la demonización de los refugiados y la movilización del nacionalismo.

6 errores de seguridad en Internet que quizás aún estés cometiendo
6 errores de seguridad en Internet que quizás aún estés cometiendo
01:59

Una pareja de ciberdelincuentes ha se declaró culpable de intentar blanquear 4.500 millones de dólares en bitcoins robados en un hackeo en 2016. Heather Morgan e Ilya Lichtenstein fueron arrestados el año pasado después de que la policía rastreara los fondos. Antes de su arresto, Morgan publicó una serie de vídeos de rap bajo el nombre de Razzlekhan.

4. Más sobre ciberseguridad en Agenda

La Coalición Global para la Seguridad Digital del Foro Económico Mundial ha elaborado un lenguaje fundacional para definir los daños en línea. El objetivo es crear un lenguaje común para describir los problemas de los daños en línea, de modo que los reguladores y las empresas tecnológicas puedan trabajar mejor juntos para abordarlos.

Consolidar las herramientas de ciberseguridad y probar y reforzar la resiliencia son algunas de las siete medidas que las empresas pueden adoptar para controlar su gasto en ciberseguridad sin comprometer su eficacia.

Debemos ser realistas sobre el impacto de la IA generativa, afirman Paul Swartz y Francois Candelon, del BCG Henderson Institute. El impacto de la tecnología en el crecimiento de la productividad se ha exagerado sistemáticamente, afirman, y los analistas podrían estar repitiendo ese error con la IA generativa.

Licencia y republicación
Los artículos del Foro Económico Mundial pueden volver a publicarse de acuerdo con la Licencia Pública Internacional Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0, y de acuerdo con nuestras condiciones de uso. Las opiniones expresadas en este artículo son las del autor y no del Foro Económico Mundial.