Seis maneras de garantizar que la inteligencia artificial y las nuevas tecnologías estén a favor de la humanidad y no en su contra

La mayoría de las tecnologías tienen doble uso: tomemos el caso de las tecnologías digitales que están mejorando profundamente la gobernabilidad, los mercados y el desarrollo. Sin embargo, el uso malintencionado de estas mismas tecnologías también plantea serios desafíos a la estabilidad global. En el clima internacional actual, la posibilidad de error de cálculo y desestabilización es real. La delincuencia en línea ya le está costando a la economía mundial cientos de miles de millones de dólares al año y parece agravarse cada vez más. Mientras tanto, se está trabajando para controlar y en algunos casos militarizar las tecnologías de vanguardia, incluida la inteligencia artificial (IA), con consecuencias que, sin duda, darán forma a la dirección futura de la humanidad. Puede ser increíblemente difícil encontrar maneras de maximizar los beneficios y reducir al mínimo los daños de estas nuevas herramientas.

El secretario general de las Naciones Unidas, António Guterres, toma en serio esta dualidad. Considera que las nuevas tecnologías pueden generar un cambio positivo aunque también pueden desatar un daño grave. Al menos esto es lo que afirmará su estrategia sobre las nuevas tecnologías, próxima a ser lanzada. Consciente de que el mundo depende cada vez más de una amplia gama de nuevas tecnologías (a menudo descrita como la “cuarta revolución industrial”), la ONU se está preparando para hacer lo que mejor hace: emitir nuevos informes y crear comités para reflexionar sobre el tema. La estrategia del secretario general exige ampliar la base de conocimientos de la organización sobre las nuevas tecnologías, especialmente en lo que se refiere a sus áreas centrales de trabajo: paz y seguridad internacional, desarrollo y derechos humanos. También recomienda que la ONU intensifique los esfuerzos de innovación, designe defensores expertos en tecnología, convoque a un panel de líderes de los sectores privado, público y sin fines de lucro, y acelere el aprendizaje entre los Estados miembros de la ONU. El jefe de la ONU ya notificó a las agencias y les solicitó que amplíen la innovación.

Todas estas son buenas noticias, siempre, claro, suponiendo que la ONU y su secretario general tengan los recursos y la capacidad de ejecución.

Guterres ya está aportando un enfoque urgente dentro de la organización. Ha reconocido algunas de las "incógnitas conocidas": que todavía hay relativamente poca conciencia y comprensión de la tecnología, tanto antigua como nueva, en todo el sistema de la ONU. La primera orden de su oficina, entonces, es expandir la alfabetización digital en toda la organización. Y al tiempo que expresa humildad, la nueva estrategia también es ambiciosa. Entre otras cosas, tiene la intención de utilizar nuevas tecnologías para acelerar el logro de los Objetivos de Desarrollo Sostenible (ODS) 2030. También busca fortalecer la capacidad de los Estados miembros para interpretar las oportunidades y los riesgos de las nuevas tecnologías, al fomentar la cooperación sobre principios, valores y normas.

La estrategia ofrece una serie de principios generales para enmarcar cómo las Naciones Unidas (y sus Estados miembros) podrían pensar en nuevas tecnologías. Estos principios están firmemente arraigados en la Carta de las Naciones Unidas y en la Declaración Universal de los Derechos Humanos, y están destinados a ayudar a moldear de manera positiva el debate actual y futuro sobre las nuevas tecnologías. Guterres insiste en que estos debates deben ser integradores y transparentes. Considera asimismo que el diseño y la implementación de nuevas tecnologías deberían estar orientados a promover la paz, el desarrollo sostenible y los derechos humanos. La ONU hace tiempo que suscribió el principio de precaución: evitar hacer daño no intencionado.

Entonces, ¿qué puede hacer la organización a continuación? El secretario general de la ONU no necesita convencerse: ya ha hecho que el compromiso con las nuevas tecnologías sea uno de los principales pilares de su mandato. Además, ya se ha experimentado de manera considerable dentro de la ONU, especialmente entre organismos humanitarios y de derechos humanos, como el Alto Comisionado de las Naciones Unidas para los Refugiados, la Oficina de Naciones Unidas para la Coordinación de Asuntos Humanitarios, ONU Mujeres y el Programa Mundial de Alimentos, entre otros. Aún así, se puede hacer mucho más.

Aquí presentamos seis "impulsos", algunos de ellos ya delineados en la próxima estrategia, para que las cosas avancen aún más rápido.

La ONU no es una organización innovadora, ni debe tratar de imitar a los actores privados y no gubernamentales que trabajan con las nuevas tecnologías. Eso no significa que no debe ayudar a crear conciencia. Algunos organismos de las Naciones Unidas, incluida la Oficina de Asuntos de Desarme, el Instituto de Investigación sobre Desarme (UNIDIR), la Oficina del Alto Comisionado para los Derechos Humanos, la Oficina contra la Droga y el Delito y la Unión Internacional de Telecomunicaciones (UIT), han adquirido experiencia real. Sin embargo, son necesarias nuevas formas de trabajo, que incluyen pensar en procesos más ágiles que puedan mantener el ritmo del cambio tecnológico. La nueva estrategia fomenta la creación de un laboratorio de innovación, probablemente para complementar la iniciativa Global Pulse junto con un representante de tecnología, para promover una mejor comprensión, una mejor colaboración y nuevos modelos de asociación con los Estados miembros y otros actores.

Existen interpretaciones y capacidades muy diferentes entre los países para aprovechar las nuevas tecnologías. Mientras algunos están construyendo grandes ciudades inteligentes, otros todavía están trabajando para ofrecer los servicios más elementales. Los organismos de las Naciones Unidas, en asociación con colaboradores privados y sin fines de lucro, pueden ayudar a acelerar la transferencia de conocimientos sobre "lo que funciona" a través del intercambio de información, la sensibilización y la difusión de buenas ideas con una trayectoria demostrada. Los recientemente establecidos bancos de tecnología para el logro de los ODS y la asociación con IBM del Programa de las Naciones Unidas para el Desarrollo para aplicar la inteligencia artificial a fin de evaluar los planes nacionales de desarrollo son un buen comienzo. Un número de equipos nacionales de la ONU ya está incorporando las ideas más recientes sobre nuevas tecnologías en la financiación del desarrollo y los planes de acción de desarrollo.

Los organismos normativos de la ONU no pueden, y probablemente no deberían, tomar la iniciativa en el establecimiento de normas, reglas y estándares en todas las agendas tecnológicas. En general, ya se están llevando a cabo importantes trabajos fuera de la ONU: desde el papel principal de la comunidad tecnológica en la elaboración de estándares y protocolos de Internet hasta campañas dirigidas por la sociedad civil contra los llamados "robots asesinos", así como principios y códigos de conducta voluntarios desarrollados por ingenieros de biotecnología y otros actores. La ONU debe encontrar la manera de apoyar y permitir procesos prometedores, y al mismo tiempo hacer realidad aquellos que están atascados pero que aún pueden ser relevantes. Se espera que un panel que se presentará en breve, copresidido por un empresario de renombre mundial y un importante filántropo, ayude a fomentar estos objetivos, particularmente en lo que se refiere a los nuevos desafíos asociados con los avances en la tecnología.

Desde la década de 1990, la Asamblea General de la ONU ha servido como plataforma para que los estados debatan estos temas. Por ejemplo, una serie de grupos de expertos gubernamentales acordó la aplicabilidad del derecho internacional al ciberespacio, recomendó normas sobre el uso estatal de las tecnologías de la información y la comunicación (TIC) y ayudó a construir confianza y medidas de cooperación para reducir el riesgo de conflicto derivado de su uso indebido. A pesar de enfrentar contratiempos, estos procesos generaron resultados importantes y pueden servir como un marco para la estabilidad mundial. Mientras tanto, es necesario redoblar los esfuerzos para abordar los desafíos planteados por las armas letales autónomas y los riesgos emergentes asociados con los avances en biotecnología. Ciertamente, los cálculos geoestratégicos enmarcarán las decisiones de los estados sobre si cooperar o competir. Después de todo, estas tecnologías están dando forma a una gran estrategia: el presidente ruso, Vladimir Putin, advirtió que "quien gane en inteligencia artificial gobernará el mundo", mientras que China ha publicado un plan nacional de "liderazgo en inteligencia artificial" para 2025 y "dominio" para 2030, y Estados Unidos y la Unión Europea están siguiendo su ejemplo. La realidad es que la ONU y su secretario general deben ser especialmente cuidadosos al abordar muchos de estos temas.

Muchas nuevas tecnologías ofrecen la posibilidad de acelerar y aumentar las oportunidades, el crecimiento y el bienestar. Sin embargo, también pueden alterar negativamente los mercados y los puestos de trabajo, socavar la privacidad y las libertades digitales, y ser utilizadas con malas intenciones. Tomemos el caso de las redes sociales, que pueden conectar a las personas pero también incitar al odio, facilitar la explotación sexual infantil y socavar los procesos democráticos. O consideremos la automatización masiva y la robótica, que pueden crear mayores economías de escala al tiempo que contribuyen a un desempleo significativo. La ONU puede colaborar al ayudar a los estados y las sociedades a anticipar y mitigar los efectos negativos de las nuevas tecnologías. Un buen ejemplo de esto fueron las cumbres AI for Good (Inteligencia Artificial para el bien) de la UIT en 2017 y 2018.

Las nuevas tecnologías de punta generalmente no están diseñadas ni desarrolladas por los Estados nación. Son el sector tecnológico y las comunidades de investigación —no los gobiernos— los que marcan el ritmo, incluso cuando se trata de establecer las bases para una regulación formal o autorregulada. Sea testigo de los principios de Asilomar, los nuevos principios de la inteligencia artificial de Google o los estándares IEEE, entre otras directrices voluntarias. Un número reducido de entidades privadas está tomando las decisiones éticas clave con repercusiones trascendentales para la humanidad. Ahora bien, las empresas de tecnología tienen gran interés en interactuar con la ONU. Comprenden que es fundamental la igualdad de condiciones a nivel mundial para no ser excluidos ni rehenes de estados poderosos. Al ofrecer sus servicios para convocar a los protagonistas y crear consenso, la ONU tendrá que intensificar su juego. Para ello, será necesario un importante cambio organizacional y cultural, y más del tipo de eventos que el UNIDIR, la Universidad de las Naciones Unidas y el Instituto Internacional de la Paz ya han celebrado.

En conjunto, estos seis pasos equivalen a un plan de acción conservador. Esto no resulta sorprendente: el deseo por las nuevas agendas prioritarias es relativamente limitado entre los Estados miembros de la ONU, y la organización tendrá que luchar para afianzarse en muchos frentes. Algunos de los principales contribuyentes de la organización se están retirando, aunque un puñado de estados más pequeños y más avanzados tecnológicamente muestra más entusiasmo. La nueva estrategia del secretario general no cambiará radicalmente el juego. No obstante, Guterres habla seriamente acerca de reunir a personas relacionadas con el diseño, el desarrollo y la implementación de nuevas tecnologías para ayudar a promover la misión principal de la ONU y evitar el bloqueo de la desigualdad y los desequilibrios de poder. Entiende que ello requerirá formas nuevas y creativas de trabajar con personas externas. Si bien muchos actores del sector privado están dispuestos a colaborar con la ONU, se resisten a enredarse en procesos burocráticos. Es esencial apoyar los esfuerzos para poner a prueba las nuevas tecnologías y experimentar con nuevas respuestas regulatorias.

El secretario general de la ONU puede desempeñar un papel fundamental en la defensa del desarrollo basado en principios y la aplicación de nuevas tecnologías. Puede fomentar el conocimiento y promover el cumplimiento de las normas y principios vigentes y emergentes. Puede abogar por estándares de ética básicos en el diseño, el desarrollo y la implementación de nuevas tecnologías. Puede gestionar asociaciones dentro y fuera del sistema para fortalecer el diálogo y una mayor cooperación en torno a las oportunidades y los riesgos de nuestra creciente dependencia digital. Además, la ONU puede —y ya lo está haciendo— crear alianzas en todo el sector de tecnología para abogar por soluciones más ágiles y aumentar las inversiones de impacto. El camino por recorrer será difícil. Existen obstáculos estructurales, en especial en la manera en que el sistema de las Naciones Unidas está organizado jerárquicamente. Es mérito del secretario general que estos temas sean una prioridad: tiene un plan de trabajo y el trabajo está en marcha. Necesitará toda la ayuda que pueda reunir.

Robert Muggah es cofundador del Instituto Igarapé y Grupo SecDev.

Dra. Camino Kavanagh, del Departamento de Estudios de Guerra, King's College London, King’s College London.