La IA es una tecnología disruptiva, con potencial para mejorar drásticamente nuestras vidas, pero también conlleva potencial de abuso y daño global.
En 2022, el mundo registró un aumento del 38 % en los ciberataques, y ahora podríamos ver un crecimiento exponencial debido a los modelos de IA generativa.
Davos ofrece una oportunidad para que los líderes de gobiernos, IA, empresas y ciberseguridad debatan la intersección de la IA, la ciberseguridad y la seguridad.
Se ha debatido mucho sobre la promesa y el revuelo en torno a la inteligencia artificial (IA). Creo que todos podemos estar de acuerdo en que la IA es una tecnología disruptiva, con potencial para mejorar drásticamente nuestras vidas mediante la medicina personalizada, un transporte más seguro y mucho más. Y tiene un gran potencial para ayudar a la industria de la ciberseguridad a acelerar el desarrollo de nuevas herramientas de protección y validar algunos aspectos de la codificación segura. Sin embargo, la introducción de esta nueva tecnología también conlleva un potencial de abuso y daño global. En última instancia, depende de nosotros determinar el papel que la IA desempeñará en nuestras vidas. Es una conversación que debe tener lugar ahora.
En noviembre de 2022, OpenAI lanzó un nuevo modelo de IA llamado ChatGPT (Generative Pre-Training Transformer), que interactúa de forma conversacional, permitiendo a las personas hacer preguntas y recibir respuestas. ChatGPT es extremadamente popular, y acumuló más de un millón de usuarios en los cinco días posteriores a su lanzamiento. Muchas personas lo usaron para escribir poesía o crear nuevas recetas. Pero otras tenían ideas más perniciosas. Rápidamente, los investigadores descubrieron que no solo es posible, sino fácil, utilizar ChatGPT para crear correos electrónicos y código maliciosos que pueden usarse para piratear organizaciones. De hecho, apenas unas semanas después de su lanzamiento, ya se está utilizando con este fin exacto, incluso por principiantes que crean archivos maliciosos y nos ponen a todos en riesgo.
La IA generativa puede aumentar los ciberataques
¿Por qué es importante? El mundo experimentó un aumento del 38 % de los ciberataques en 2022 (en comparación con 2021). La organización promedio fue atacada 1.168 veces por semana. La educación y la sanidad fueron dos de los sectores más afectados, lo que provocó que los hospitales y las escuelas se paralizaran. Los médicos no pudieron tratar a los pacientes y las escuelas cerraron con los niños enviados a casa. Ahora podríamos ver un crecimiento exponencial de los ciberataques debido a los modelos de IA generativa.
En su haber, OpenAI ha invertido un enorme esfuerzo para detener el abuso de su tecnología de IA, señala, “aunque nos hemos esforzado por lograr que el modelo rechace solicitudes inapropiadas, a veces responderá a instrucciones dañinas o mostrará comportamientos sesgados”. Pero, desafortunadamente, ChatGPT tiene dificultades para detener la producción de código peligroso.
Para ilustrar este punto, los investigadores compararon ChatGPT y Codex, otro sistema basado en IA que traduce lenguaje natural a código. Se creó un flujo de infección completo con la siguiente restricción: no se escribió ningún código y la IA hizo todo el trabajo. Los investigadores ensamblaron las piezas y, al ejecutarlas, descubrieron que podía usarse como un ataque de correo electrónico de phishing armado con un archivo malicioso de Excel con macros que descargan un reverse shell. En otras palabras, el atacante actúa como el receptor y la víctima como la que inicia el ataque.
Yendo un paso más allá, el equipo de Check Point Research descubrió recientemente casos de ciberdelincuentes que utilizan ChatGPT para desarrollar herramientas maliciosas – en algunos casos, estos piratas informáticos dependieron por completo de la IA para el desarrollo, mientras que otros simplemente la usaron para acelerar considerablemente el tiempo de creación de código malicioso. Desde malware hasta phishing, pasando por un script que puede cifrar automáticamente el equipo de una víctima sin ninguna interacción del usuario, y la creación de un mercado ilícito, resulta preocupante ver lo rápido que los ciberdelincuentes están adoptando la IA y utilizándola en la práctica para sus fines disruptivos.
Cómo el Foro ayuda a los líderes a comprender el riesgo cibernético y a fortalecer la resiliencia digital
El Centro de Ciberseguridad proporciona una plataforma de confianza donde los líderes se reúnen para comprender los riesgos cibernéticos cambiantes y sus implicaciones sistémicas. Se centra en generar comprensión y confianza en un mundo digital cada vez más interconectado.
Al permitir la colaboración intersectorial y el intercambio de conocimientos, el Centro ayuda a los socios a fortalecer la resiliencia cibernética y a abordar retos que requieren respuestas colectivas.
Intersección de la IA, la ciberseguridad y la seguridad
Entonces, ¿puede la IA generativa usarse para causar daño? Sí. ¿Puede utilizarse la IA para armar a los ciberdelincuentes y acortar los ataques de phishing? Sí. ¿Cuándo se convertirá esto en una amenaza real para la sociedad? Pronto.
Este mes, en la Reunión Anual del Foro Económico Mundial, tenemos una oportunidad para que los líderes de gobiernos, IA, empresas y ciberseguridad se reúnan para debatir la urgente intersección de la IA, la ciberseguridad y la seguridad. No debemos pretender sofocar la innovación, sino garantizar que existan salvaguardas.
La IA ya está generando avances científicos. Está ayudando a detectar fraudes financieros y a desarrollar resiliencia climática. Es una herramienta que podemos usar para mejorar y avanzar en muchos ámbitos de nuestra vida. Esto incluye la seguridad y la ciberseguridad. Al incorporar la IA en una arquitectura de seguridad unificada y multicapa, las soluciones de ciberseguridad pueden proporcionar un sistema inteligente que no solo detecta, sino que previene activamente los ciberataques avanzados.
Ha llegado el momento de mantener estas conversaciones. Del mismo modo que muchos han defendido la importancia de los datos y los ingenieros diversos en la industria de la IA, también debemos incorporar conocimientos de psicología, gobierno, ciberseguridad y empresas a la conversación sobre la IA. Será necesario un debate abierto y perspectivas compartidas entre líderes de ciberseguridad, desarrolladores de IA, profesionales, líderes empresariales, cargos electos y ciudadanos para determinar un plan de regulación reflexiva de la IA generativa. Todas las voces deben ser escuchadas. Juntos, sin duda podemos hacer frente a esta amenaza para la seguridad pública, las infraestructuras críticas y nuestro mundo. Podemos convertir la IA generativa de enemiga en aliada.
