La inteligencia artificial general dará lugar a sistemas altamente autónomos que transformarán la ciberseguridad y nuestro panorama de amenazas.
Contrarrestar las ciberamenazas implicará responder a campañas de ataques maliciosos utilizando las mismas herramientas; sin embargo, el éxito dependerá de si los atacantes o los defensores adoptan estas herramientas con mayor rapidez.
Para una adopción segura de la IA, todas las partes interesadas del ecosistema de la IA, incluidos los gobiernos, la industria, el mundo académico y los expertos, deberán emprender acciones intencionadas, proactivas y coordinadas.
La inteligencia artificial general (IAG) se refiere a sistemas de inteligencia artificial altamente autónomos (IA) capaces de realizar la mayoría de las tareas cognitivas tan bien como los humanos. A diferencia de la IA actual, a menudo diseñada para fines específicos, como los chatbots o el reconocimiento de imágenes, la IAG podría demostrar razonamiento intelectual, aprendizaje y adaptabilidad en múltiples ámbitos.
Y, a diferencia de las herramientas de IA actuales, que solo responden cuando se les solicita, esperamos que los sistemas de IAG inicien acciones, persigan objetivos y mantengan operaciones sin supervisión directa (aunque no debe confundirse con la superinteligencia artificial, que aún está por llegar y en la que las máquinas podrían realizar cualquier trabajo cognitivo muy por encima del nivel humano).
Sin embargo, la IAG sigue siendo más un objetivo en movimiento que una definición consolidada, ya que los académicos y la industria ofrecen interpretaciones diferentes. Lo que está claro es que, si surge, transformará la ciberseguridad y nuestro panorama de amenazas.
Una contienda desigual
Crece la preocupación por la intersección de esta tecnología con la ciberseguridad. En el ámbito digital, los atacantes tienen una ventaja inherente: solo necesitan tener éxito una vez, mientras que los defensores deben defender continuamente cada posible debilidad. Los modelos avanzados de IA ya han amplificado esta asimetría. La IAG intensificará aún más estas asimetrías, a menos que los responsables políticos, la industria y los investigadores actúen de forma decidida.
Si la IA de vanguardia ya plantea desafíos a los defensores, y la IAG eleva aún más las apuestas. Las operaciones de seguridad deberán contrarrestar campañas, no solo incidentes aislados.
Los adversarios avanzan más rápido y experimentan libremente con nuevas herramientas, mientras que los defensores suelen verse frenados por la burocracia, los procesos heredados y la aversión al riesgo.
En el pasado, las organizaciones se preocupaban por incidentes aislados, como un correo electrónico de phishing o una pieza de código malicioso. La IAG podría potencialmente permitir a los atacantes ejecutar campañas impulsadas no por un atacante humano frente al teclado, sino por una inteligencia artificial que aprende y se ajusta en tiempo real.
Imaginemos una filtración de datos programada para coincidir con una campaña de desinformación y una interrupción de las cadenas de suministro. Esto puede provocar una presión coordinada sobre los líderes y la infraestructura en los ámbitos cibernético, físico e informativo. Responder exigiría una visión mucho más integrada de las amenazas, la inteligencia y las soluciones en estos ámbitos.
Igualmente preocupante es la forma en que la IAG acorta las fases de un ataque. Las operaciones cibernéticas que antes se desarrollaban a lo largo de semanas podrían completarse en horas. Los sistemas de IAG podrían encadenar distintas fases de un ataque (por ejemplo, reconocimiento, descubrimiento de vulnerabilidades y desarrollo de exploits) y ejecutar miles de intentos de bajo coste hasta que uno dé resultado positivo.
Un arma de doble filo
Sin embargo, la IAG no está destinada a ser solo una herramienta de los atacantes. Los estudios muestran que los sistemas de IA suelen ser mejores en tareas defensivas, como la aplicación de parches, que en el desarrollo de exploits. Bien utilizada, la IAG puede ser un poderoso multiplicador de fuerza. Puede aliviar a los equipos de seguridad sobrecargados de la clasificación y la remediación rutinarias.
Los ciclos de parcheo que duran meses podrían reducirse a días, lo que estrecha la ventana de oportunidad para los adversarios. La IAG también puede transformar la ciberseguridad, pasando de la gestión reactiva de crisis a una resiliencia proactiva. Los sistemas pueden hacerse más resilientes mediante el escaneo continuo de configuraciones incorrectas, la simulación de soluciones y la señalización de las exposiciones más críticas antes de que sean explotadas.
Al asumir tareas rutinarias y prestar apoyo en la toma de decisiones, la IAG puede dar a los analistas humanos más espacio para centrarse en investigaciones complejas y en desafíos estratégicos.
Sin embargo, el verdadero reto no es si la IAG puede servir mejor a las capacidades defensivas, sino con qué rapidez pueden los defensores adoptarla en comparación con los atacantes. Los adversarios avanzan más rápido y experimentan libremente con nuevas herramientas, mientras que los defensores suelen verse frenados por la burocracia, los procesos heredados y la aversión al riesgo.
Esta diferencia de ritmo está agravando la asimetría entre ataque y defensa. Para cambiar el equilibrio, los defensores deben acelerar el uso de la IA, integrándola en la práctica, o correr el riesgo de ceder la iniciativa a los atacantes.
El contexto internacional más amplio
Ya, la IA es fundamental para la infraestructura crítica, los sistemas económicos y la seguridad nacional. Se ha convertido en un medio y un objetivo del avance nacional e internacional, y el panorama global de la IA está llamado a transformar los mercados económicos y los paradigmas de seguridad.
No obstante, los países pequeños y en desarrollo que no tienen acceso a la IA ya se están quedando atrás en el aumento de eficiencia, innovación y crecimiento económico que aporta la IA. La llegada de la IAG probablemente agravará esta brecha, lo que les expone al riesgo de quedar rezagados.
Por tanto, es imperativo que sigamos cerrando todas las brechas digitales y avancemos hacia un entorno digital equitativo para todos, tal como se establece en el Pacto Digital Mundial de las Naciones Unidas.
Un llamamiento a la acción
A medida que la IAG se integra en nuestra infraestructura digital, no solo dará forma al panorama de amenazas, sino que también se convertirá en un objetivo directo dentro de él.
Las oportunidades para comprometer los sistemas de IA seguirán aumentando; por ello, las partes interesadas deberían considerar oportunidades para proteger la pila tecnológica de la IA (datos, modelo, infraestructura, aplicaciones y gobernanza) y adoptar un enfoque de ciclo de vida para proteger los sistemas de IA ahora, antes de alcanzar el pleno desarrollo de la IAG y para el uso de la IA en nuestra infraestructura digital común.
Para garantizar la adopción y el uso seguros de la IA, todas las partes interesadas del ecosistema de la IA, incluidos los gobiernos, la industria, el mundo académico y los expertos, deberán emprender acciones intencionadas, proactivas y coordinadas hoy mismo.
En primer lugar, disponer de una buena comprensión de los aspectos técnicos de la IAG ya no es opcional para los responsables políticos ni para los profesionales de la ciberseguridad, sino una necesidad. Los responsables políticos deben comprender las complejidades técnicas de la IA y la IAG para desarrollar marcos y enfoques que equilibren la innovación con una adopción segura y protegida.
Para los países pequeños y en desarrollo, el desarrollo de capacidades podría ser una vía para abordar esta brecha de competencias.
La tarea que tenemos por delante es clara y urgente: elevar la seguridad de la IA a la categoría de prioridad mundial compartida, integrarla en la gobernanza y el diseño, y actuar conjuntamente, con decisión y de forma temprana, para que la IAG refuerce nuestra resiliencia digital en lugar de socavarla.
A continuación, es necesario realizar un esfuerzo concertado para elevar la base de seguridad de la IA. La autonomía y la adaptabilidad de la IAG exigirán nuevos paradigmas y enfoques de seguridad. Unas directrices más claras, normas armonizadas y herramientas prácticas pueden ayudar a las organizaciones a tomar decisiones informadas a medida que adoptan la IA de vanguardia.
Por ejemplo, la Agencia de Ciberseguridad de Singapur ha elaborado directrices y una guía complementaria sobre la protección de los sistemas de IA a lo largo de su ciclo de vida. A medida que los sistemas de IA están cada vez más interconectados, las normas de seguridad surgirán como el lenguaje común que permita una interoperabilidad segura y fluida.
En última instancia, la colaboración internacional y de la industria cooperación resultará crucial para mitigar los riesgos de seguridad asociados a la IAG. Dada la naturaleza transfronteriza de lo cibernético, solo somos tan fuertes como nuestro eslabón más débil.
La comunidad internacional debe trabajar conjuntamente para construir un ciberespacio abierto, seguro, estable, accesible, pacífico e interoperable, incluso mientras adoptamos tecnologías nuevas y emergentes.
Las plataformas internacionales, como el Foro Económico Mundial, son clave para llamar la atención sobre estas cuestiones, idear soluciones y fomentar la cooperación internacional.
El camino por delante
La IAG no se limitará a acelerar las amenazas actuales; transformará la forma en que se planifican, ejecutan y contrarrestan las campañas. Con las inversiones y la coordinación adecuadas, la IAG puede asegurarse y aprovecharse como igualador defensivo en lugar de como un multiplicador de fuerza para los atacantes. No obstante, esto solo ocurrirá si la adoptamos y lo hacemos más rápido que nuestros atacantes.
Para los responsables políticos, esto significa pasar de los principios generales a la acción concreta: desarrollar la alfabetización técnica y elaborar marcos que equilibren la innovación con la resiliencia.
Para la industria y los líderes técnicos, significa reforzar hoy mismo la pila tecnológica de la IA y poner en práctica estrategias, pruebas y puntos de referencia para la adopción segura de sistemas de IA que se mantengan al ritmo de la IA de vanguardia.
A nivel internacional, requiere reforzar la cooperación internacional y garantizar que nadie quede rezagado.
La tarea que tenemos por delante es clara y urgente: elevar la seguridad de la IA a la categoría de prioridad mundial compartida, integrarla en la gobernanza y el diseño, y actuar conjuntamente, con decisión y de forma temprana, para que la IAG refuerce nuestra resiliencia digital en lugar de socavarla.
