El ritmo exponencial del avance tecnológico ha hecho que abordar sus consecuencias imprevistas sea más difícil que nunca. Lo hemos visto con la innovación digital, especialmente con las redes sociales, y apenas empezamos a considerar sus implicaciones en el caso de la inteligencia artificial, que promete ser la tecnología más transformadora de la era de la información.
Las consecuencias imprevistas de la innovación digital están bien documentadas. Retransmisiones en directo de actos de violencia indescriptible y otros delitos. Proliferación de teorías conspirativas. Adicción que altera el cerebro y la salud emocional de los niños. Pensamiento grupal que agrava las divisiones políticas y sociales. Fomento del tribalismo cultural, la intolerancia y la división social. Manipulación extranjera de las redes sociales que socava la integridad electoral. Todos estos fenómenos han deteriorado nuestra confianza en las tecnologías digitales.
Si bien es fundamental que las empresas tecnológicas y los responsables políticos aborden estos problemas mediante una combinación de autorregulación y mandatos gubernamentales, hay otra medida relacionada que, como país, deberíamos tomar: ha llegado el momento de anticipar las amplias implicaciones de la próxima frontera de la innovación: la inteligencia artificial. En particular, urge abordar ya qué tareas podemos confiarle a la IA y cómo podría utilizarse indebidamente.
Estados Unidos, China y otras potencias mundiales compiten por desarrollar y aplicar la IA de formas que promuevan sus intereses económicos y de seguridad nacional. Aunque por ahora Estados Unidos parece llevar ventaja, no está muy por delante. Se están destinando grandes inversiones al hardware, el software y el talento necesarios para competir en este ámbito a medio y largo plazo. Según Tractica, una empresa de investigación de mercado especializada en tecnología, se prevé que la inversión mundial en inteligencia artificial supere los 300.000 millones de dólares para 2025, impulsada por los primeros éxitos y un optimismo desbordante.
«Para que la tecnología alcance su potencial… las empresas y los responsables políticos tendrán que resolver el reto básico, pero difícil, de decidir qué tareas deberíamos confiarle a la IA como sociedad».
undefined
Pero la capacidad técnica es solo uno de los factores que determinarán quién ganará la carrera de la IA. Para que la tecnología alcance su potencial —en particular, en las aplicaciones económicas y de seguridad nacional en Estados Unidos—, las empresas y los responsables políticos tendrán que resolver el reto básico, pero difícil, de decidir qué tareas deberíamos confiarle a la IA como sociedad. Esto es fundamental para formular una estrategia nacional de inteligencia artificial. Ante todo, la estrategia debe generar confianza en esta tecnología transformadora. Hay tres vías esenciales para lograrlo.
En primer lugar, debemos confiar en que la IA funciona; es decir, que los algoritmos matemáticos que hoy sustentan toda la IA cumplirán correctamente su cometido. Para ello se necesitan enormes cantidades de datos etiquetados y tiempo para entrenar los algoritmos. También implica que, al menos en las primeras etapas de adopción, el usuario de un algoritmo debería participar en su desarrollo. Por ejemplo, un analista de inteligencia acostumbrado a examinar todos los datos y luego hacer una evaluación quizá tenga que implicarse, al menos al principio, en enseñar al algoritmo a ver lo que él ve: reforzar las respuestas correctas y corregir los errores sobre la marcha. Cuando el usuario vea que la inteligencia artificial realmente ha mejorado el análisis, confiará en que cumple bien su cometido.
En la Agencia Nacional de Inteligencia Geoespacial (NGA), se está llevando a cabo una importante iniciativa para utilizar algoritmos en la detección de cambios en imágenes, a menudo uno de los primeros pasos de un proceso de análisis concebido para proporcionar alertas estratégicas a los responsables políticos. Según Sue Kalweit, directora de la Dirección de Análisis de la NGA, los programas piloto han demostrado la eficacia de los algoritmos en este caso de uso. La NGA está trabajando para ampliar su uso a toda la organización y, a medida que mejore la tecnología de visión artificial, se espera que siga ayudando al análisis de inteligencia: además de detectar cambios, podrá realizar tareas como la detección, identificación y clasificación de objetos y, en última instancia, la contextualización.
Kalweit dice que una de las preguntas que recibe con más frecuencia es si los analistas de la NGA están dispuestos a aceptar que la IA realice tareas que llevan décadas haciendo. «Puedo decirles categóricamente que quieren cualquier tecnología que les ayude a saber dónde mirar o les indique que en una imagen hay algo que les interesa», afirma. Los analistas la están adoptando porque el uso de la IA en programas piloto les ha permitido dedicarse antes a tareas cognitivas de mayor nivel. Su cometido es aportar análisis, no solo información, y esta tecnología les permite centrarse en el significado del cambio que ha detectado el algoritmo, en vez de pasar horas y horas examinando montones de imágenes para encontrarlo.
«Ha llegado el momento de que los expertos… acuerden una estrategia nacional de IA que impulse su adopción al incorporar la confianza en que es segura, eficaz, ética, responsable y transparente».
undefined
Una segunda vía esencial para generar confianza en la IA consiste en garantizar que comparta nuestros valores; es decir, que se comporte de manera fiable como lo haríamos nosotros en las mismas circunstancias. Los sectores público y privado de Estados Unidos están empezando a tomarse en serio la definición de un marco ético para la IA, que incluya cómo proteger, organizar y utilizar mejor los datos que esta analiza. Por ejemplo, los investigadores trabajan en soluciones para controlar los sesgos en los algoritmos.
Al mismo tiempo, los responsables políticos están dando señales de que podrían intervenir. Los senadores demócratas Cory Booker y Ron Wyden presentaron recientemente un proyecto de ley que exigiría a las empresas auditar los sistemas de IA para detectar sesgos y corregir cualquier elemento que pudiera generar resultados distorsionados. El proyecto encargaría a la Comisión Federal de Comercio que redactara normas para los sistemas «altamente sensibles» y exigiría evaluaciones de esos sistemas, además de protecciones de seguridad y privacidad para los datos que se introducen en ellos. Está claro que aún queda mucho por hacer en estos ámbitos si queremos confiar, como sociedad, en que la IA comparte nuestros valores.
Por último, como nos enseñó el presidente Reagan, para confiar de verdad debemos verificar. Esto significa que tenemos que entender cómo llega un algoritmo a sus respuestas. Lamentablemente, investigadores del mundo académico y de la industria ya han empezado a identificar formas de engañar a la IA para que «vea» cosas equivocadas. Por ejemplo, se puede corromper una IA durante su entrenamiento de modo que una pegatina colocada estratégicamente, que no engañaría a una persona, haga que un vehículo autónomo vea una señal de límite de velocidad en lugar de una señal de stop, con posibles consecuencias catastróficas. Estas nuevas «superficies de ataque» (así se describen en ciberseguridad las vías de riesgo) deben entenderse y mitigarse antes de que la tecnología entre en funcionamiento. Una mayor transparencia sobre los fundamentos de las decisiones de la IA será crucial para determinar si un error, sobre todo uno trágico, se debe a un algoritmo defectuoso, a un actor malintencionado o a una mala suerte inevitable. Hay que acelerar el trabajo que ya se lleva a cabo para hacer explicable la IA si queremos que esta tecnología se convierta en una herramienta omnipresente de la vida cotidiana y de la seguridad nacional. En resumen, debemos poder confiar y verificar.
Hoy tenemos una oportunidad para avanzar en estos ámbitos. El Gobierno de Estados Unidos está adoptando la inteligencia artificial más rápidamente de lo que muchos habrían previsto hace apenas dos años. Al mismo tiempo, los responsables políticos convergen en torno a la necesidad de una estrategia nacional de IA, a la vez que nos aseguran que, en asuntos de vida o muerte, siempre habrá personas implicadas.
Sin embargo, dado el rápido avance de la tecnología, no es difícil prever que, en un futuro no muy lejano, una intrusión cibernética o un ataque contra sistemas críticos ocurra tan rápido que la respuesta deba producirse a velocidad informática. Quizá no haya tiempo para que las personas tomen decisiones. En ese momento, la confianza en la tecnología será imprescindible. Debe incorporarse desde la fase de diseño. Ha llegado el momento de que los expertos de los ámbitos empresarial, tecnológico, científico, jurídico y de formulación de políticas acuerden una estrategia nacional de IA que impulse su adopción al incorporar la confianza en que es segura, eficaz, ética, responsable y transparente.
