La IA está provocando una revolución mayor que cualquier otra jamás vista.
Si no logramos aclarar la diferencia entre lo conceptual y lo tangible para empresas y consumidores, sufriremos una desconexión masiva.
Debemos formarnos sobre la IA para reconocer y abordar las posibles señales de alerta o convertirnos en presas fáciles para que los hackers las exploten; no podemos permitir que la innovación y el entusiasmo superen a la seguridad y la resiliencia.
Mientras que la inversión global de capital riesgo se desplomó en 2023 un 38%, la financiación de las startups de IA se disparó, superando los 50.000 millones de dólares (un 9% más que en 2022). En ocasiones, Wall Street puede sufrir el síndrome del objeto brillante, pero acierta en una cosa: la IA está lejos de ser un fenómeno pasajero. Tanto si se considera la próxima fiebre del oro como la tendencia tecnológica más transformadora desde la World Wide Web, está provocando una revolución mayor que cualquier otra jamás vista.
Pero estamos en un punto de inflexión crítico: si no logramos aclarar la diferencia entre lo conceptual y lo tangible para empresas y consumidores, sufriremos una desconexión masiva. La IA "real" rara vez se comprende y a menudo provoca reacciones viscerales que van desde lo fantástico hasta el catastrofismo. A medida que la IA se infiltra en todas las industrias y sectores y penetra en la vida de las personas corrientes, se plantean serias preocupaciones que se malinterpretan e ignoran.
Para comparar con nuestras analogías anteriores, si bien la fiebre del oro ofreció oportunidades de riqueza increíbles, la falta de comprensión de su impacto global y los intentos de regular o cuantificar el riesgo que presentaba tuvieron consecuencias muy graves. Atrajo a multitudes menos deseables, como estafadores; tuvo un impacto ambiental severo —obstrucción de ríos, deforestación masiva, contaminación del suelo con productos químicos del proceso minero— y, en última instancia, provocó precios más altos de las materias primas, así como un shock inflacionario. En nuestro ejemplo de la World Wide Web, imagine que los líderes empresariales y el consumidor común nunca hubieran aprendido a usar internet ni a comprender siquiera su propósito básico ni cómo funciona.
A pesar de los titulares llamativos, la IA por sí sola no resolverá los problemas más críticos del mundo, especialmente si no nos esforzamos por comprender sus limitaciones. Aunque podemos operar en un nivel de abstracción más alto y tener acceso a más capacidades, la IA "no es buena en situaciones de vida o muerte", como lo expresó Sam Altman, CEO de OpenAI, en el Foro Económico Mundial de Davos en enero de 2024. Pero a medida que crece la exageración, las organizaciones se han apresurado a integrar la IA en sus negocios para mantener una ventaja competitiva, a cualquier coste, a menudo sin incorporar medidas de seguridad protectoras ni analizar los posibles riesgos desde el principio.
Aunque hay muchas "señales de alerta" de las que hay que desconfiar en lo que respecta a la mala comprensión y a la evaluación de los riesgos de la IA, a continuación se indican los aspectos que los directores de seguridad de cualquier organización, de cualquier tamaño y sector, deben tener muy presentes:
1. En el mundo de la IA, los datos son la única moneda, y las organizaciones que más datos tengan serán las ganadoras
La IA por sí sola no resolverá los problemas más críticos del mundo. La implementación y el uso exitosos de la IA dependen de la cantidad y la calidad de los datos. Sin embargo, recopilar grandes volúmenes de datos de calidad no es el final del ciclo de vida de la IA. Las organizaciones también deben ser capaces de extraer los datos y transformarlos en conocimientos. La carrera que antes consistía en construir IA está evolucionando. Para superar a la competencia, las organizaciones deben entrenar ahora de forma continua los modelos de IA con los datos más actualizados y pertinentes para evitar las alucinaciones y la deriva de los modelos.
¿Cómo aborda el Foro los desafíos globales de ciberseguridad?
El Centro para la Ciberseguridad ofrece una plataforma de confianza donde los líderes se reúnen para comprender los riesgos cibernéticos en evolución y sus implicaciones sistémicas. Se centra en generar comprensión y confianza en un mundo digital cada vez más interconectado.
Al facilitar la colaboración intersectorial y el intercambio de conocimientos, el Centro ayuda a sus socios a fortalecer la ciberresiliencia y a afrontar desafíos que requieren respuestas colectivas.
2. La brecha de conocimiento entre los profesionales de la seguridad que comprenden la IA y los que no la comprenden será la principal razón de cualquier cambio en el equilibrio de poder a favor de los actores de amenazas
Si el uso de la IA está dando ventaja a los atacantes no es la pregunta correcta. La IA ha llegado para quedarse, así que la pregunta adecuada es si los líderes y profesionales de la seguridad poseen las habilidades necesarias o invertirán el tiempo para actualizarse y aprender a gestionar lo que se está convirtiendo en la mayor revolución jamás vista en la tecnología. Tanto aprovechar el poder de esta tecnología como defenderse de ella depende de la capacidad de comprenderla y de comprender sus limitaciones. Si el sector de la seguridad no logra desmitificar la IA y sus posibles casos de uso malintencionado, los próximos años serán un festín para los actores de amenazas.
3. La única forma de luchar contra la IA es con la IA, pero antes hay que dominar lo básico
Defenderse de la IA significa, en última instancia, defenderse de todo el conocimiento humano indexado. El intercambio de información se produce un orden de magnitud más rápido y más eficientemente que nunca. Los profesionales de la seguridad deben proteger sus organizaciones en la era de la información infinita y enfrentarse a desafíos nunca vistos. Pero si el sector ha tenido históricamente dificultades para hacer bien lo básico, centrarse en resolver problemas con IA será en gran medida inocuo. La mejor manera de mitigar los ataques es garantizar que los controles fundamentales de seguridad estén resueltos. A menudo perseguimos objetos brillantes como la IA, y la mejor defensa frente a la IA son unos controles fundamentales sólidos.
4. La conversación sobre la seguridad desde el diseño evolucionará para abarcar no solo, sino también centrarse en gran medida en las herramientas y los modelos de IA
El debate sobre la puesta en producción de la IA a menudo solo llega al ámbito de la seguridad una vez que el modelo ha sido desarrollado y existe, por ejemplo, al mantener la integridad del modelo. Pero si la IA es el futuro inevitable de la forma en que las organizaciones y las infraestructuras críticas hacen negocios, operan, desarrollan sus servicios, etc., la seguridad debe incorporarse desde el principio. La IA debe diseñarse e implementarse de forma que aborde muchas de las preocupaciones en las que la ciberseguridad se ha centrado históricamente.
Sin embargo, solo vemos la seguridad en el debate sobre la IA cuando se trata de construir un proceso de gobernanza, nunca durante la producción, el funcionamiento o el ajuste de los modelos. La inferencia de los modelos suele pasarse por alto, pero es una pieza clave de la seguridad. Muchos líderes empresariales asumen que la IA resolverá los problemas de forma instantánea y automática, y que funciona por arte de magia. Por ejemplo, que los modelos hagan "lo correcto" depende de la precisión, y la precisión depende del entrenamiento de los modelos y de reducir la probabilidad de alucinaciones. Si seguimos priorizando la creatividad y la velocidad sobre la precisión en la IA, los grandes modelos de lenguaje quedarán encadenados a las alucinaciones. Asegurar los modelos a lo largo de todo el ciclo de vida —construcción, pruebas y producción— será un foco importante para los equipos de seguridad y los reguladores en los años venideros.
Con frecuencia hay un entusiasmo excesivo y una mentalidad de vaso medio lleno cuando creamos nuevas tecnologías que cambian significativamente la forma en que hacemos negocios; a menudo nos centramos solo en la oportunidad que se presenta sin sopesar el riesgo. La IA es víctima de este ciclo. Sin embargo, la buena noticia es que todavía estamos en la fase de "humo y espejos" de la IA, probando su potencia y explorando casos de uso. Podemos dedicar tiempo ahora a formarnos sobre la tecnología para reconocer y abordar las posibles señales de alerta, o convertirnos en presas fáciles para los hackers. En definitiva, no podemos permitir que la innovación y el entusiasmo superen a la seguridad y la resiliencia.
