A menos que hayas pasado los últimos años con la cabeza metida en la arena, habrás oído hablar del avance sin precedentes —y en gran medida inesperado— de la inteligencia artificial (IA). Quizá el ejemplo más conocido fue cuando DeepMind, una empresa de Google, utilizó una IA llamada AlphaGo para derrotar en 2016 a uno de los mejores jugadores de Go del mundo. Pero ese está lejos de ser el único caso en que la IA ha abierto nuevos caminos.
Hoy, desempeña un papel en los programas de reconocimiento de voz —Siri, Alexa, Cortana y Google Assistant—. Ayuda a los minoristas a predecir qué queremos comprar. Incluso organiza nuestras cuentas de correo electrónico separando los mensajes que queremos ver de los que no.
Mientras tanto, en el mundo empresarial, el aprendizaje automático —un componente de la IA centrado en algoritmos capaces de aprender de los datos y hacer predicciones a partir de ellos— está ampliando los límites de lo que pueden hacer los ordenadores. Como resultado, vemos soluciones como la automatización robótica de procesos (RPA) y el big data, que impulsan la eficiencia y aumentan los beneficios.
En general, la IA está haciendo un trabajo fantástico al transformar el mundo para mejor.
Los peligros inherentes a la IA
Pero ¿qué hay de la otra cara de la moneda? ¿Qué impacto negativo podría tener la IA? Está claro que la IA —como cualquier tecnología— podría utilizarse con fines corruptos. Ya se ha demostrado la IA adversaria (en la que las entradas pueden diseñarse cuidadosamente para engañar a los sistemas de IA y hacer que clasifiquen mal los datos). Por ejemplo, podría hacer que un sistema de visión basado en IA que reconoce un semáforo en rojo percibiera uno verde en su lugar, lo que podría tener consecuencias desastrosas para un vehículo autónomo.
El escenario de la IA adversaria es un ejemplo de cómo se puede hackear la IA. Pero llevémoslo más lejos: ¿y si hacemos que la propia IA se encargue de hackear? No es el peor escenario posible: es algo probable.
Es casi seguro que los ciberdelincuentes se harán con herramientas de IA, dado que estas ya están ampliamente disponibles como software abierto. OpenAI y Onyx son dos ejemplos que vienen enseguida a la mente.
Esto pone de relieve la necesidad de garantizar que los sistemas de IA —en particular, los que se utilizan en entornos de misión crítica— sean resistentes a este tipo de ataques.
Una carrera armamentista digital
Nos encontramos ante una situación en la que la industria de la seguridad y los ciberdelincuentes —ya sean grupos organizados, patrocinados por Estados o simples hackers que actúan por su cuenta— participan en una carrera armamentista cada vez más intensa. Los llamados sombreros negros desarrollan IA para infiltrarse en sistemas y causar estragos. Mientras tanto, los sombreros blancos investigan formas de que una IA defienda las redes frente a otras IA.
Aquí llegamos a la cuestión moral: ¿deberíamos usar la IA con estos fines? Como tecnología, apenas empezamos a comprender su potencial. En teoría, la IA podría volverse tan inteligente que llegara a ser algo completamente fuera de nuestro control.
Ese pensamiento hace que la idea de una carrera armamentista de IA parezca especialmente peligrosa. Por fortuna, personas inteligentes —entre ellas Elon Musk y Stephen Hawking— están reflexionando detenidamente sobre este tema, y confío en que encontrarán las salvaguardias necesarias. Además, empresas como Google y Microsoft ya han declarado que consideran que las oportunidades superan los riesgos.
Merece la pena señalar esas oportunidades. Ya abundan los avances positivos relacionados con la IA y la ciberseguridad. La IA, por ejemplo, puede utilizarse para potenciar —en lugar de sustituir— a las personas en el ámbito de la seguridad: mejorar la supervisión predictiva de amenazas, la respuesta dinámica a los ciberataques, el desarrollo de software seguro y la formación en seguridad. Todas estas herramientas y procesos ayudarán a los sombreros blancos a adelantarse un paso.
Sin embargo, la pregunta que nos queda es esta: ¿cómo terminará la carrera armamentista de la IA? Bueno, uno de los bandos ganará, y existe la posibilidad de que no sean los buenos. Piénsalo un momento.
