El sistema multilateral necesita con urgencia contribuir a construir un nuevo contrato social que garantice que la innovación tecnológica, en particular la inteligencia artificial (IA), se despliegue de forma segura y esté alineada con las necesidades éticas de un mundo cada vez más globalizado.
Enjambres de bots, publicaciones oscuras de Facebook y sitios web de noticias falsas se han apropiado de territorio en línea, con importantes repercusiones en todo el mundo. Basta considerar algunos acontecimientos recientes: en las elecciones presidenciales de Estados Unidos de 2016, Rusia favoreció a un candidato frente a otro mediante una campaña masiva que incluyó anuncios pagados, cuentas falsas en redes sociales y contenido polarizador.
En China, los gigantes tecnológicos Alibaba y Tencent han desplegado millones de cámaras equipadas con reconocimiento facial para convertir en mercancía flujos continuos de datos íntimos sobre la ciudadanía. En Myanmar, un informe de la ONU confirmó que las publicaciones de Facebook habían alimentado discursos de odio virulentos dirigidos contra los musulmanes rohinyás.
La poderosa y lucrativa alianza entre la IA y una sociedad basada en los datos ha convertido a las redes sociales en arquitectas de nuestros intercambios, las nuevas dueñas que están remodelando el tejido mismo de la realidad.
En este contexto, crece la inquietud pública ante la pérdida de control frente a una revolución algorítmica que parece escapar a nuestros modos de comprensión y rendición de cuentas. La confianza en la gobernanza nacional y mundial está en un punto crítico.
Al mismo tiempo, las tecnologías impulsadas por la IA tenderán a debilitar, en lugar de reforzar, los mecanismos de gobernanza mundial. La ONU afronta un amplio conjunto de desafíos interrelacionados. Veamos tres.
La IA y el deterioro de la verdad
En primer lugar, la IA es por naturaleza una tecnología de doble uso, cuyas poderosas implicaciones, tanto positivas como negativas, serán cada vez más difíciles de prever, contener y mitigar.
Tomemos los deepfakes como ejemplo. Los sofisticados programas de IA ya pueden manipular sonidos, imágenes y videos, y crear suplantaciones que a menudo son imposibles de distinguir del original. Los algoritmos de aprendizaje profundo pueden leer los labios de las personas, sintetizar el habla y, hasta cierto punto, simular expresiones faciales con una precisión sorprendente.
Una vez que se difundan fuera del laboratorio, esas simulaciones podrían utilizarse fácilmente de forma indebida, con consecuencias de gran alcance (de hecho, esto ya está ocurriendo a pequeña escala). En vísperas de unas elecciones, los videos deepfake podrían mostrar falsamente a funcionarios públicos involucrados en el blanqueo de capitales; videos que advirtieran de epidemias o ciberataques inexistentes podrían sembrar el pánico; y los incidentes falsificados podrían provocar una escalada internacional.
La capacidad de diversos actores para influir en la opinión pública mediante simulaciones engañosas podría tener importantes consecuencias a largo plazo para el papel de la ONU en la paz y la seguridad. Al erosionar la confianza y la noción de verdad entre la ciudadanía y el Estado —y también entre los Estados—, las noticias verdaderamente falsas podrían corroer profundamente nuestro sistema de gobernanza mundial.
La IA y la vigilancia de precisión
En segundo lugar, la IA ya se está conectando y convergiendo con diversas tecnologías, incluida la biotecnología, con importantes consecuencias para la seguridad mundial. Los sistemas de IA de todo el mundo se entrenan para predecir diversos aspectos de nuestra vida cotidiana analizando enormes conjuntos de datos, como los patrones de tráfico de las ciudades, los mercados financieros, los datos sobre tendencias del comportamiento de los consumidores, los historiales médicos e incluso nuestros genomas.
Estas tecnologías de IA son cada vez más capaces de aprovechar nuestros datos conductuales y biológicos de formas innovadoras y a menudo manipuladoras, con consecuencias para todos nosotros. Por ejemplo, la muñeca inteligente My Friend Cayla envía a la nube datos de voz y emociones de los niños que juegan con ella, lo que dio lugar a una denuncia ante la Comisión Federal de Comercio de Estados Unidos y a su prohibición en Alemania. En Estados Unidos, el análisis emocional ya se utiliza en los tribunales para detectar el remordimiento en videos de declaraciones bajo juramento. Pronto podría formar parte de las entrevistas de trabajo para evaluar las respuestas de los candidatos y su idoneidad para un puesto.
La capacidad de la IA para invadir —y potencialmente controlar— la conducta privada de las personas tiene implicaciones directas para la agenda de derechos humanos de la ONU. De hecho, nuevas formas de control social y biológico podrían exigir que se replantee el marco vigente para supervisar y aplicar la Declaración Universal de Derechos Humanos, y sin duda requerirán que el sistema multilateral anticipe mejor y comprenda este campo emergente con rapidez.
La IA en el campo de batalla
Por último, la capacidad de las tecnologías impulsadas por la IA para influir en grandes poblaciones tiene un valor tan inmediato y prioritario que casi con certeza será el escenario de futuros conflictos. Existe una posibilidad muy real de una «carrera cibernética», en la que naciones poderosas y grandes plataformas tecnológicas compitan abiertamente por nuestros datos colectivos, como combustible para alcanzar la supremacía económica, médica y en materia de seguridad en todo el mundo. Las formas de «cibercolonización» son cada vez más probables, ya que los Estados poderosos pueden aprovechar la IA y la biotecnología para comprender y potencialmente controlar las poblaciones y los ecosistemas de otros países.
Hacia una gobernanza mundial de la IA
En los ámbitos político, jurídico y ético, nuestras sociedades no están preparadas para el despliegue de la IA. Y la ONU, creada muchas décadas antes de que surgieran estas tecnologías, está en muchos sentidos mal posicionada para desarrollar el tipo de gobernanza responsable que encauce el potencial de la IA, alejándolo de estos riesgos y orientándolo hacia nuestra seguridad y bienestar colectivos.
De hecho, el resurgimiento de las agendas nacionalistas en todo el mundo podría apuntar a una capacidad cada vez menor del sistema multilateral para desempeñar un papel significativo en la gobernanza mundial de la IA. Es posible que las grandes empresas y los Estados miembros poderosos vean poco valor en aplicar enfoques multilaterales a tecnologías que consideran lucrativas y de su propiedad exclusiva.
Sin embargo, hay formas innovadoras en que la ONU puede contribuir a crear redes colaborativas y transparentes que quizá empiecen a tratar nuestro «trastorno por déficit de confianza».
Impulsado por un mandato conferido a la Universidad de las Naciones Unidas (UNU) en la Estrategia del Secretario General sobre las Nuevas Tecnologías, el Centro de Investigación sobre Políticas de la UNU ha creado una «Plataforma sobre IA y Gobernanza Mundial» como espacio inclusivo para que investigadores, responsables de políticas, representantes empresariales y líderes de opinión exploren los desafíos de política mundial planteados por la inteligencia artificial.
A partir de contribuciones de líderes del campo de todo el mundo, la plataforma busca promover perspectivas interdisciplinarias únicas que enriquezcan los debates existentes desde la óptica del multilateralismo, junto con lecciones de la práctica. Estas perspectivas apoyarán a los Estados miembros de la ONU, los organismos multilaterales, los fondos, los programas y otras partes interesadas cuando consideren sus propias funciones y las colectivas en la configuración de la gobernanza de la IA.
Quizá el desafío más importante para la ONU en este contexto sea el de la pertinencia y el de restablecer la confianza en el sistema multilateral. Pero si las tendencias anteriores nos enseñan algo, es que las tecnologías impulsadas por la IA afectan a todas las personas y a todos los Estados, y que, sin formas colectivas y colaborativas de gobernanza, existe un riesgo real de que socaven la estabilidad mundial.
