A medida que aumenta el uso de la IA, también crece la necesidad de un marco de gobernanza global.
Las diferencias culturales entre China y Europa plantean desafíos singulares a la hora de armonizar los principios éticos fundamentales.
Examinamos las influencias históricas que orientan el pensamiento actual de la sociedad y cómo podrían colaborar en el futuro.
Como fuerza impulsora de la Cuarta Revolución Industrial, los sistemas de IA se están desplegando cada vez más en muchos ámbitos de nuestra vida en todo el mundo. La conciencia compartida de sus implicaciones sociales ha puesto de relieve la necesidad de desarrollar un marco internacional para la gobernanza de la IA, más de 160 documentosse proponen contribuir mediante principios éticos y directrices. Este esfuerzo se enfrenta al desafío del pluralismo moral, arraigado en la diversidad cultural entre las naciones.
Para comprender mejor las raíces filosóficas y el contexto cultural que subyacen a estos desafíos, comparamos los principios éticos respaldados por el Comité Profesional de Gobernanza de la Inteligencia Artificial de Nueva Generación de China (CNNGAIGPC) y los promovidos por el Grupo de Expertos de Alto Nivel sobre IA de la Unión Europea (HLEGAI).
Visión colectiva frente a individualista del patrimonio cultural
En muchos aspectos, los principios chinos parecen similares a los de la UE: ambos promueven la equidad, la solidez, la privacidad, la seguridad y la transparencia. Sin embargo, las metodologías que prescriben revelan claras diferencias culturales.
Las directrices chinas parten de una perspectiva centrada en la comunidad y orientada a objetivos. Se espera de las personas «un alto sentido de responsabilidad social y autodisciplina» para participar armoniosamente en una comunidad que promueve la tolerancia, las responsabilidades compartidas y la colaboración abierta. Este énfasis está claramente inspirado en el valor confuciano de la «armonía», un equilibrio ideal que se alcanza controlando las pasiones extremas; deben evitarse los conflictos. Aparte de una severa advertencia contra el «uso ilegal de datos personales», hay poco margen para la regulación. La regulación no es el objetivo de estos principios, concebidos más bien para guiar a quienes desarrollan IA por el «camino correcto» hacia el progreso colectivo de la sociedad.
Los principios europeos, surgidos de un enfoque más centrado en el individuo y basado en los derechos, expresan una ambición distinta, arraigada en la Ilustración y marcada por la historia europea. Su objetivo principal es proteger a las personas frente a daños claramente identificados. Mientras que los principios chinos hacen hincapié en promover buenas prácticas, la UE se centra en prevenir consecuencias perjudiciales. Los primeros trazan una orientación para el desarrollo de la IA, de modo que contribuya a mejorar la sociedad; los segundos fijan límites a sus usos para que no perjudiquen a determinadas personas.
Esta distinción queda claramente ilustrada en la forma de abordar la equidad, la diversidad y la inclusión. Mientras que la UE hace hincapié en la equidad y la diversidad en relación con personas de grupos demográficos específicos (por ejemplo, en cuanto al género, la etnia, la discapacidad, etc.), las directrices chinas instan a modernizar «todas las industrias», reducir las «disparidades regionales» y prevenir los monopolios de datos. Mientras que la UE insiste en proteger a las personas vulnerables y a las posibles víctimas, China fomenta el «desarrollo inclusivo mediante una mejor educación y formación y apoyo».
Al promover estos valores, también reconocemos dos tipos de imperativos morales. Centrados en condiciones iniciales que deben cumplirse, los requisitos europeos expresan una estricta adhesión a las normas deontológicas de la tradición kantiana más pura. En cambio, al referirse a un ideal al que aspirar, los principios chinos expresan restricciones más flexibles, que pueden satisfacerse en distintos grados como parte de un proceso de mejora de la sociedad. Para los europeos, el desarrollo de la IA «debe ser equitativo»; para los chinos, debería «eliminar los prejuicios y la discriminación en la medida de lo posible». La UE «exige que los procesos sean transparentes»; China exige que «mejoren continuamente lamejora»transparencia.
Visión utópica frente a distópica
Aunque promuevan los mismos conceptos de manera similar, europeos y chinos entienden cosas distintas por «privacidad» y «seguridad».
En consonancia con el Reglamento General de Protección de Datos (RGPD), el enfoque europeo de la privacidad abarca la protección de los datos personales frente a entidades tanto estatales como comerciales. En cambio, las directrices chinas sobre privacidad solo se dirigen a empresas privadas y a sus posibles agentes malintencionados. Si bien tanto en la UE como en China los datos personales están estrictamente protegidos frente a entidades comerciales, en China el Estado conserva pleno acceso a ellos. Aunque esto escandaliza a los europeos, la ciudadanía china acepta esta práctica sin reparos; está acostumbrada a vivir en una sociedad protegida y ha demostrado sistemáticamente el mayor nivel de confianza en su gobierno. Los padres chinos suelen tener acceso a la información personal de sus hijos para orientarlos y protegerlos. Esta diferencia se remonta a la tradición confuciana de confiar y respetar a los jefes de Estado y de familia.
¿Cómo ayuda el Foro a los gobiernos a adoptar la tecnología de IA de forma responsable?
En cuanto a la seguridad, las directrices chinas expresan un optimismo que contrasta con el tono más pesimista de la UE. La consideran algo que debe «mejorarse continuamente», mientras que la visión europea aboga por un «plan de contingencia» y asocia la pérdida de control con una situación sin vuelta atrás. La brecha en la representación cultural de la IA —percibida como una fuerza benéfica en las culturas asiáticas y como una profunda aprensión ante un futuro tecnológico distópico en el mundo occidental— ayuda a entender esta diferencia. En la visión utópica china, los robots son mascotas y compañeros; en cambio, tienden a convertirse en máquinas insurrectas tal como las retratan los medios occidentales, muy influidos por el subgénero ciberpunk de la ciencia ficción, representado en películas como Blade Runner y The Matrix, y en la serie de televisión Black Mirror.
¿Dónde están los puntos en común sobre la ética de la IA?
A pesar de que los enfoques de China y la UE sobre la ética de la IA parecen distintos, aunque no sean contradictorios, las importantes coincidencias entre ambos apuntan a un futuro más prometedor y colaborativo para la aplicación de estas normas.
Una de esas coincidencias es la tradición compartida de la Ilustración y la Revolución Científica, en la que hoy se forman todos los miembros de la comunidad investigadora de IA. La investigación y el desarrollo de la IA son procesos abiertos y colaborativos en todo el mundo. China adoptó por primera vez el método científico, junto con otros valores de la Ilustración, durante el Movimiento del Cuatro de Mayo de 1919. Este movimiento, caracterizado como la «Ilustración china», supuso el primer rechazo de los valores confucianos tradicionales, y entonces se creyó que la nación solo podría fortalecerse adoptando las ideas occidentales del «Sr. Ciencia» y el «Sr. Democracia» en lugar del «Sr. Confucio».
A pesar de que los enfoques de China y la UE sobre la ética de la IA parecen distintos… las importantes coincidencias entre ambos apuntan a un futuro más prometedor y colaborativo para la aplicación de estas normas.
Pascale Fung y Hubert Etienne.
Este movimiento contrario al confucianismo volvió a producirse durante la Revolución Cultural, que quedó desacreditada por sus desastrosos resultados. En los años transcurridos desde la tercera generación de líderes chinos, el valor confuciano de la «sociedad armoniosa» vuelve a promoverse como parte de la identidad cultural de la nación china. Sin embargo, el «Sr. Ciencia» y el «desarrollo tecnológico» siguen considerándose motores fundamentales del crecimiento económico, que contribuye a mejorar la «sociedad armoniosa».
Otro punto en común entre China y Europa es su adhesión a los Objetivos de Desarrollo Sostenible de las Naciones Unidas. Ambas directrices hacen referencia a algunos de estos objetivos, entre ellos la reducción de la pobreza y la desigualdad, la igualdad de género, la salud y el bienestar, la sostenibilidad ambiental, la paz y la justicia, y el crecimiento económico, entre otros. Estos objetivos abarcan tanto el desarrollo social como el individual y los derechos.
En última instancia, las directrices de China y de la UE sobre la ética de la IA podrían beneficiarse de su adopción conjunta. Ofrecen distintos niveles de detalle operativo y perspectivas complementarias para un marco integral de gobernanza de la IA.
