La ciberseguridad es una de las aplicaciones centrales de la IA, en un contexto de panorama de amenazas en rápida evolución.
El próximo año, la IA transformará la detección de ciberamenazas y la evaluación de riesgos.
Mantener a una persona en el circuito será esencial para una ciberseguridad responsable impulsada por IA.
Tres innovaciones han revolucionado el mundo digital en las últimas décadas: internet, la nube y la IA. Cada tecnología requirió tiempo para que las organizaciones la comprendieran y se adaptaran de la forma más productiva e impactante. Con este fin, la IA todavía se encuentra en su infancia. Pero en poco más de un año, la IA generativa está pasando de aplicaciones limitadas y en su mayoría experimentales a convertirse rápidamente en una tecnología central esencial.
A partir de 2023, existen más de 60 000 empresas centradas en la IA, todas ellas dispuestas a aprovechar el auge. Si bien muchas de estas organizaciones tendrán un impacto benigno en el panorama tecnológico general, otras introducirán capacidades que simplificarán, acelerarán y fortalecerán de forma notable las formas en que la tecnología se integra en la sociedad y en la empresa. Al igual que ocurre con la nube, la IA en sí misma no revoluciona; lo crucial es su aplicación intencionada y no su uso generalizado y sin dirección. Como sucedió con internet y la nube, las organizaciones que descubran cómo adaptarse rápidamente y aplicar la IA de la manera adecuada tendrán una ventaja enorme para alcanzar sus objetivos.
Una de las aplicaciones más esenciales de la IA, y por ello una oportunidad significativa para seguir invirtiendo, es el ámbito de la ciberseguridad. El panorama de amenazas es vasto, complejo y evoluciona con rapidez. Los equipos de seguridad se enfrentan a actores malintencionados implacables y a Estados que lanzan una andanada cada vez más sofisticada de ataques de phishing, ransomware e intentos de vulneración. En 2023, se estimó que la ciberdelincuencia a escala mundial ascendería a 8 billones de dólares en daños.
Si bien la IA no necesariamente amplía la superficie de ataque de una organización, sí la hace más vulnerable y acelera la productividad de los actores malintencionados. Una encuesta reciente realizada a directores de seguridad de la información (CISO) reveló que el 70 % considera que la IA da ventaja a los atacantes frente a los defensores.
Ya estamos viendo cómo las aplicaciones de IA generativa hacen que los ataques de phishing sean más convincentes y sofisticados, aumentando el volumen y la eficiencia de los ataques y dificultando aún más que los defensores protejan a las personas y los activos. Esto incluso se extiende al uso de la IA para crear traducciones de correos electrónicos engañosos, lo que permite a los atacantes ampliar sus operaciones por todo el mundo prácticamente a voluntad. La fragmentación y los mayores volúmenes son los que generan más problemas.
Aprovechar la IA para la resiliencia en materia de seguridad
Las soluciones para hacer frente al aumento de los ataques son aplicaciones de la IA focalizadas y dirigidas. Los organismos gubernamentales y los líderes del sector deben actuar con rapidez y prudencia para aplicar soluciones y metodologías impulsadas por IA que refuercen la eficacia y la eficiencia de sus equipos de seguridad y hagan frente a este desafiante panorama. En la misma encuesta a CISO, el 35 % afirmó que ya está experimentando con la IA para la ciberdefensa, incluidos el análisis de malware, la automatización de flujos de trabajo y la puntuación de riesgos.
Creo firmemente que la IA transformará la forma en que las organizaciones más grandes y complejas del mundo mantienen sus sistemas digitales seguros y fiables. En el próximo año, veremos cómo la IA aportará un enorme valor mediante la detección automática de anomalías, el uso de modelos predictivos que ofrecerán a los equipos de seguridad mejores formas de extraer información, identificar patrones y priorizar amenazas, así como la recomendación de acciones y la focalización de la atención de los usuarios allí donde más se necesita, a partir de una evaluación inteligente del riesgo.
Contar con una base de IA integrada en la estrategia de ciberseguridad de una organización será fundamental en su camino hacia una mayor resiliencia digital. Es probable que sea una de las primeras fronteras dentro de la empresa en adoptar la IA para generar un impacto real. Este es un momento importante, ya que la dependencia de la sociedad respecto de los servicios digitales solo aumentará en los próximos años, y una mayor atención a mantener los sistemas digitales seguros y fiables es ya una expectativa mínima por parte de la ciudadanía y los consumidores. Para estar a la altura de estas expectativas en un mundo lleno de disrupciones, las organizaciones tendrán que recurrir a la IA para desempeñar un papel significativo a la hora de asumir la carga.
Responsable, ética y adecuada para su propósito
Existe una gran abundancia de oportunidades para que las industrias y los gobiernos de todo el mundo integren la IA en sus sistemas y servicios con el fin de mejorar los resultados e impulsar el progreso. Pero los líderes deben reflexionar con sobriedad sobre si también existe una abundancia equivalente de estrategia y responsabilidad. El uso responsable y ético de la IA es primordial, y eso comienza por la transparencia. En Splunk, esto significa que los sistemas de IA y el uso de los datos deben ser explicables, transparentes y comprensibles para nuestros clientes y partes interesadas. Además, los sistemas de IA, por diseño, deben ser imparciales y respetar los datos personales y organizativos.
También debe ser adecuada para resolver un conjunto específico de problemas. Consideremos el uso del aprendizaje automático para mejorar nuestra capacidad de detectar posibles problemas y ayudar a remediarlos; se trata de una aplicación inmediata y valiosa de la tecnología. Para que la IA ofrezca un impacto verdaderamente significativo y positivo, debemos tener una claridad absoluta e intencionalidad sobre dónde puede aplicarse para catalizar un mundo digital más resiliente.
Mantener a las personas en el circuito
Por último, es importante señalar que la IA debe considerarse un acelerador de la toma de decisiones humanas, no un sustituto. La IA es falible y carece del contexto emocional, la comprensión humana y el sentido común necesarios para sustituir por completo a las personas. Nuestro camino a seguir debe ser un enfoque con una persona en el circuito. Es esencial que la IA ayude a la toma de decisiones humanas, no que las dicte.
Del mismo modo que no confiaríamos (ni deberíamos confiar) únicamente en el piloto automático de una aerolínea para llevar a los pasajeros desde la salida hasta el destino, tampoco podemos delegar en la IA la responsabilidad de la preparación y la respuesta en materia de ciberseguridad. La experiencia en ciberseguridad en la fuerza laboral mundial es más esencial que nunca, y mantener a una persona en el circuito representa una oportunidad de primer nivel. La tecnología nos permite escalar para responder al crecimiento y la evolución de las ciberamenazas, al tiempo que aprovechamos las fortalezas humanas contextuales que la IA todavía no está preparada para igualar.
Sin duda, el panorama de la ciberseguridad seguirá evolucionando con nuevos riesgos para las empresas y la sociedad, y con más recompensas para los actores malintencionados cuando las organizaciones carezcan de sistemas digitales resilientes. La forma en que abordemos el uso práctico y responsable de la IA en la ciberseguridad, fijemos objetivos realistas para la industria y los gobiernos, y midamos nuestros avances en el próximo año contribuirá a determinar cómo gestionamos su uso en toda la sociedad para impulsar la resiliencia a largo plazo.
¿Cómo está abordando el Foro los desafíos globales de la ciberseguridad?
El Centro para la Ciberseguridad ofrece una plataforma de confianza donde los líderes se reúnen para comprender los ciberriesgos en evolución y sus implicaciones sistémicas. Se centra en generar comprensión y confianza en un mundo digital cada vez más interconectado.
Al posibilitar la colaboración intersectorial y el intercambio de conocimientos, el Centro ayuda a los socios a reforzar la ciberresiliencia y a abordar desafíos que requieren respuestas colectivas.
Tenemos mucho trabajo por delante para mantener el rumbo e impulsar el progreso, y no es fácil. Sin embargo, confío en que el enfoque continuado en las alianzas, el intercambio de información y el diálogo entre industrias y gobiernos, a través de foros como el WEF, pueda ayudarnos a pensar y actuar de nuevas formas y a orientar aún más las tecnologías para que tengan un impacto positivo, generalizado y duradero en todo el mundo.
