Una versión de este artículo apareció originalmente en la revista de Huawei, Transform.
Pocas tecnologías generan el factor de temor que provoca la inteligencia artificial (IA).
Pero la cautela excesiva crea otro riesgo: mientras los ciberdelincuentes avanzan a toda velocidad para usar la IA con fines malintencionados, todos los demás proceden con cautela, esperando hasta que cada legislador, escéptico y adoptante tardío esté plenamente convencido de que la IA debe ser confiable, en lugar de temida.
La clave para resolver estos problemas es la cooperación internacional; las implicaciones de la IA en materia de seguridad no respetan las fronteras nacionales.
Pocas tecnologías generan el factor de temor que provoca la inteligencia artificial (IA). Desde que Alan Turing introdujo la idea en 1948, la gente se ha preguntado qué sucedería si las máquinas superaran en inteligencia a sus creadores y tomaran el control del planeta. Incluso los propios investigadores de IA están inquietos. En mayo de 2023, un grupo, que incluía a Elon Musk, pidió una moratoria de seis meses sobre todo entrenamiento de “sistemas de IA más potentes que GPT-4.”
Las protecciones legales podrían evitar tal calamidad, y las primeras regulaciones sobre IA ya se han publicado y están a la espera de comentarios públicos. Pero algunas de estas normas preliminares establecen estándares imposiblemente altos. Una propuesta de regulación de la UE sobre IA presentada en 2021, por ejemplo, exige que todos los conjuntos de datos utilizados para el aprendizaje automático estén “libres de errores.”
Pocos conjuntos de datos lo están. Una revisión del MIT de diez grandes conjuntos de datos encontró una tasa media de error del 3,4 %, lo que equivale a decenas de miles de errores, incluidas imágenes mal etiquetadas, texto y audio.
Las empresas tecnológicas ya expresan su preocupación por las normativas de la UE. Google fue diplomática, al afirmar que la empresa “está preocupada porque el costo de oportunidad de no usar la IA no se refleja suficientemente en los debates sobre políticas.”
Es comprensible que los legisladores sean cautelosos. Pero la cautela excesiva crea otro riesgo: mientras los ciberdelincuentes avanzan a toda velocidad para usar la IA con fines malintencionados, los actores bien intencionados proceden con cautela, esperando hasta que cada legislador, escéptico y adoptante tardío esté plenamente convencido de que la IA debe ser confiable, en lugar de temida. Si seguimos este enfoque de dos vías –los actores malintencionados avanzan rápido mientras los buenos se rezagan–, los resultados podrían ser sombríos.
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
Los piratas informáticos ya se aprovechan de la IA
Los piratas informáticos ya usan la IA para crear botnets, adivinar contraseñas, romper sistemas CAPTCHA, realizar llamadas automatizadas ilegales y participar en otras formas de travesuras cibernéticas. No les importan los daños colaterales y no necesitan pensar en certificación, pruebas ni cumplimiento normativo. Lamentablemente, esto significa que, en este momento, los delincuentes utilizan la IA de forma más avanzada e innovadora que las personas cumplidoras de la ley. Es probable que esto haga que algunos, quizá muchos, desconfíen de la IA aún más de lo que ya lo hacen.
Pero los actores buenos superan en número a los malos y, a largo plazo, es muy probable que la IA se utilice de maneras que beneficien a la sociedad. Mientras tanto, ¿qué se puede hacer para generar confianza en la IA?
La respuesta sencilla es que, por ahora, no deberíamos intentar alcanzar una confianza plena en la IA. En cambio, necesitamos generar apenas la suficiente confianza para evitar una sobrerregulación de la IA que permita a los delincuentes tomar la delantera. Podemos lograrlo de varias maneras.
1. Aumentar la familiaridad con la IA
En primer lugar, debemos asegurar que los expertos en ciberseguridad estén lo suficientemente familiarizados con la IA para evitar consecuencias no deseadas. Por ejemplo, al intentar usar la IA para resolver un problema de seguridad convencional, alguien podría provocar sin querer que genere una solución totalmente imprevista e indeseable.
Una vez más, los delincuentes no tienen este problema. De hecho, buscan fallos en las defensas cibernéticas frente a la IA. Para ellos, las consecuencias no deseadas son una ventaja que podría revelar debilidades ocultas que explotar.
La necesidad de profesionales de ciberseguridad versados en IA agravará una escasez de talento existente: según algunas estimaciones, el mundo necesita alrededor de tres millones más de profesionales de ciberseguridad de los que tiene actualmente. Pero, además de las habilidades convencionales –conocimiento de la arquitectura de redes, control de acceso, cifrado, etc.–, los expertos en ciberseguridad necesitan cada vez más la capacidad de trabajar con la IA para crear soluciones confiables.
2. Aprender a defenderse de los ciberataques basados en IA
En segundo lugar, deberemos crear los entornos de TI adecuados para defendernos de los ataques dirigidos por IA. La IA suele considerarse una tecnología de propósito general, es decir, con tantos usos que afecta a todos los aspectos de la sociedad.
Pero la IA será menos de propósito general cuando opere en entornos específicos. Por ejemplo, cada sistema de TI corporativo es diferente. Tienen esquemas de contraseñas, controles de acceso y cortafuegos distintos; sus usuarios se comportan de forma diferente. Esto significa que, en un entorno de TI mal estructurado o mal gestionado, la IA aprenderá malos hábitos. Generará falsos positivos y falsos negativos. Con el tiempo, la gente concluirá que la IA no es confiable.
Pero en el entorno adecuado –uno creado con las mejores prácticas, procesos claros, buena gestión y buenas herramientas–, la IA puede entrenarse para detectar anomalías y desviaciones de los patrones normales de actividad que indican una brecha de seguridad. La IA funcionará como un perro guardián bien entrenado que detecta a los intrusos y los mantiene alejados. Cuando empiece a comportarse así, la gente comenzará a confiar en ella.
3. Reducir la brecha digital
En tercer lugar, debemos esforzarnos aún más por reducir la brecha digital. La mayoría de las personas no relaciona la desigualdad digital con la ciberseguridad, pero la conexión es real. La IA puede aprovechar rápidamente las computadoras para botnets o ataques. En algunos países en desarrollo, es posible que las empresas no tengan la capacidad de crear un entorno de TI mejor estructurado y protegido de forma más robusta. Esto convierte a estos países en un terreno de caza muy rico para los ciberdelincuentes.
Que un problema no esté en tu red no significa que no sea tu problema. Las vulnerabilidades pueden propagarse, otra razón para ayudar a las partes más pobres del mundo a empezar a beneficiarse de tecnologías más avanzadas.
La clave para resolver estos problemas es la cooperación internacional. Al igual que la COVID-19 y el cambio climático, las implicaciones de la IA en materia de seguridad no respetan las fronteras nacionales.
Es cierto que, en este momento, existen barreras significativas para la confianza entre las naciones. Pero si no podemos establecer un grado de confianza suficiente para colaborar en esta área vital, inevitablemente empezaremos a ver la IA no como una herramienta confiable que se debe utilizar, sino como una amenaza que se debe temer. Si eso ocurre, los ciberdelincuentes tendrán una ventaja insuperable, no solo por ahora, sino para siempre.
