3 desafíos clave para gobernar la digitalización

• Debemos cuestionar el uso irresponsable de la tecnología que socava nuestras sociedades y democracias.
  

• Al entrar en una nueva era industrial digital, tenemos la oportunidad de cambiar de rumbo y dar paso a una era tecnológica más transparente y democrática
  

• La gobernanza tecnológica global no se logrará únicamente mediante la acción de los actores políticos: también requiere un movimiento de base en la comunidad tecnológica.

El asalto multitudinario al Capitolio de Estados Unidos el 6 de enero de 2021 marcó un punto de inflexión, no solo en la historia política, sino también en la gobernanza tecnológica.

Mucho antes del ataque, las plataformas de redes sociales y sus algoritmos habían desempeñado un papel central en la difusión de teorías conspirativas, información falsa, discursos de odio y demagogia. Sin embargo, los acontecimientos de Washington D. C. dejaron muy claro que la forma en que dirigimos, aprovechamos y regulamos la tecnología moderna afecta profundamente nuestras vidas personales y económicas. La gobernanza tecnológica es una cuestión existencial para nuestras sociedades y democracias. Es un asunto de seguridad nacional y global, así como de paz social y progreso.

En particular, debemos hacer tres cosas: examinar los modelos de negocio y los algoritmos que amplifican los puntos de vista extremos para generar participación e ingresos; garantizar que las plataformas digitales sean abiertas y fomenten la innovación en toda la economía; y determinar cuánto control estamos dispuestos a ceder a los sistemas autónomos y a la inteligencia artificial (IA), asegurándonos de que, en última instancia, sean las personas, y no las máquinas, quienes asuman la responsabilidad y rindan cuentas.

1. Examinar los modelos de negocio que socavan los valores humanos y polarizan a las sociedades

Cuando hablamos de tecnología moderna y digitalización, conviene distinguir dos grandes oleadas. La primera comenzó en la década de 1990. Nos trajo teléfonos inteligentes y tabletas, internet siempre disponible, compras en línea sin esfuerzo y entretenimiento. Nunca antes tantos consumidores habían tenido un acceso tan fácil a tanta información. Nunca antes tantas personas habían podido aprovechar oportunidades globales y hacer oír su voz de la manera que permiten estas tecnologías.

Pero las características distintivas de esta primera ola de digitalización han estado impulsadas, con demasiada frecuencia, por un modelo de negocio problemático. Pensemos, por citar solo tres ejemplos, en el correo electrónico, el almacenamiento en la nube o la mensajería instantánea. Como estos servicios digitales no conllevan tarifas monetarias directas, los consumidores tienen la impresión de que son «gratuitos». Pero no lo son. En lugar de pagar con dinero, los usuarios pagan con otro recurso valioso: sus datos personales. Y, en muchos casos, no son conscientes de que eso es lo que están haciendo. En el mundo fuera de línea, nos indignaría que el cartero abriera y leyera nuestras cartas antes de dejarlas en el buzón. En el mundo en línea, parece que hemos olvidado valores humanos tan fundamentales.

En las plataformas de redes sociales, el problema de los servicios «gratuitos» se agravó aún más: los algoritmos que determinan lo que vemos en las redes sociales se han programado para fomentar la participación, es decir, para promover los «me gusta», las «comparticiones», los «comentarios», etc. ¿Por qué? Porque la participación equivale a tráfico, el tráfico a datos, los datos a ingresos y, muy a menudo, a grandes beneficios.

Resulta que una de las mejores formas de generar participación es amplificar las voces extremas, como las que se encuentran en los márgenes del espectro político. Cada vez hay más pruebas de que las afirmaciones escandalosas, contundentes y falsas se difunden especialmente rápido en estas redes porque los algoritmos están diseñados precisamente para eso.

Es cierto que había voces extremas mucho antes del auge de las redes sociales. Pero el problema no es que existan. El problema es que los algoritmos de las redes sociales las promocionan masivamente, lo que permite que posturas cada vez más extremas ocupen un lugar central en el debate público actual.

El error de origen de los servicios «gratuitos» ha tenido consecuencias extremas para la sociedad. Corregirlo es quizá la cuestión más importante de la gobernanza tecnológica actual. Debemos cuestionar los modelos de negocio que parecen «gratuitos» y garantizar que los algoritmos se diseñen en torno a valores humanos fundamentales, como la privacidad.

Volviendo a la metáfora anterior: puedo confiar en que el cartero no abra mis cartas porque pago el sello. Su sustento no depende de conocer y vender mi información personal. Depende de nosotros extraer las conclusiones adecuadas de esta sencilla verdad.

2. Crear plataformas abiertas

La segunda ola de digitalización e innovación tecnológica llegó a principios de la década de 2010 y se aceleró enormemente durante la pandemia de COVID-19. Esta segunda ola consiste en digitalizar el mundo industrial: la fabricación digital, la atención sanitaria basada en datos, los edificios inteligentes, las ciudades inteligentes, entre otras cosas. Lo que está en juego es aún más importante que en la primera ola, porque la digitalización industrial afecta a las infraestructuras que sustentan la vida moderna.

Esta vez, los servicios «gratuitos» a cambio de datos personales no son tanto el problema. Al fin y al cabo, no es tan fácil convencer a los sistemas industriales de que cedan sus datos. Sin embargo, existen otros desafíos clave; la gobernanza de las plataformas es uno de ellos.

Las plataformas digitales son algunas de las herramientas más poderosas que ha creado la humanidad y destacan por reducir el coste de las nuevas tecnologías. Ponen los beneficios de la digitalización al alcance de las masas y a escala global.

Hasta ahora ha habido dos enfoques predominantes para la gobernanza tecnológica: uno de laissez-faire, que permite a las empresas privadas ampliar a escala masiva las plataformas digitales, y otro en el que los gobiernos controlan o supervisan de cerca las plataformas. Irónicamente, ambos conducen a un resultado similar: megaplataformas cerradas que conceden acceso a sus datos solo en sus propios términos y concentran el poder y la riqueza.

Un enfoque distinto de las plataformas, basado en la apertura, la interoperabilidad, la descentralización y el intercambio de datos, podría dar lugar a resultados mucho mejores y a mucha más innovación. Podría fomentar redes de innovación descentralizadas que distribuyan sus beneficios económicos de forma mucho más equitativa en la sociedad.

Europa, con su sólida tradición industrial y sus conocimientos especializados en fabricación digital, podría ser pionera en este nuevo enfoque. Gaia X , impulsada por Alemania y Francia y respaldada por un número cada vez mayor de socios europeos, es una iniciativa en esta dirección.

Gaia X ofrece un modelo para el intercambio federado entre plataformas interconectadas. Establece normas estrictas para la protección y la seguridad de los datos y utiliza normas existentes para su portabilidad. Su objetivo principal es sustituir el «modelo de guardián» de las plataformas digitales por un «modelo de datos compartidos», en el que todas las partes interesadas tengan las mismas oportunidades de acceder a los datos, intercambiarlos e innovar a partir de ellos. Este intercambio federado entre plataformas puede crear condiciones mucho más equitativas para las empresas y fomentar la innovación en las empresas emergentes y las pequeñas y medianas empresas.

3. Promover la transparencia en el uso de la IA

Otro desafío clave de la segunda ola de digitalización consiste en usar sistemas autónomos en beneficio de la humanidad y garantizar la supervisión humana de los sistemas críticos.

Hoy en día, la IA ya no se limita a impulsar asistentes digitales en nuestros teléfonos inteligentes. En cambio, las mentes electrónicas se están integrando en aspectos clave de nuestra vida social y económica, como la atención sanitaria, la movilidad, los edificios y las fábricas. Ya hoy, la IA puede reducir los retrasos y aumentar la disponibilidad en los sistemas de transporte público. Puede ayudarnos a optimizar y reducir el consumo energético de los edificios y las ciudades. También puede analizar imágenes médicas de nuestro cuerpo y ayudar a los radiólogos a llegar a los diagnósticos correctos.

Como ha sostenido Yuval Noah Harari, es posible que la IA supere a los humanos como «el algoritmo más inteligente del planeta». Es una afirmación audaz, pero no deberíamos hacer caso omiso de ella. En su lugar, debemos llegar a una comprensión muy clara de dónde estamos dispuestos a usar la IA y cuánto de ese control estamos dispuestos a ceder.

Hace tiempo que convivimos con algoritmos inteligentes destinados a los consumidores. Por ejemplo, recomiendan películas en plataformas de streaming o productos pertinentes cuando compramos por internet. Hasta ahora no examinamos estos algoritmos con demasiada atención, aunque también afectan a nuestras vidas y sociedades.

Sin embargo, a medida que la IA se convierte en parte de la estructura misma de nuestras economías y nuestra vida cotidiana —al evaluar solicitudes de hipotecas, guiar vehículos autónomos o recomendar decisiones médicas—, debemos examinarla con mucha más atención que antes. Deberíamos saber con precisión dónde, cuándo y cómo se utiliza la IA en estos contextos. La transparencia de los resultados es fundamental, al igual que la posibilidad de que las personas intervengan y asuman la responsabilidad general.

Un llamamiento a las bases

La gobernanza tecnológica es una herramienta poderosa para abordar los grandes desafíos y las consecuencias de la primera y la segunda ola de digitalización. Sin embargo, dado el ritmo vertiginoso de la innovación, no siempre podremos gobernar con suficiente rapidez «desde arriba». También necesitaremos una gobernanza «desde abajo», basada en una sólida brújula moral humana.

El Tech for Lifemovimiento, creado en 2018, se basa precisamente en este enfoque desde abajo. Si se quiere, es un código de honor para la comunidad tecnológica. Consiste en llevar los valores a la práctica, sin importar el lugar que ocupemos en la jerarquía: valores como el propósito, la justicia, la diversidad, la responsabilidad social, la apertura y la confianza. Su objetivo es alentar a todas las partes interesadas a garantizar que la tecnología se utilice de forma socialmente responsable, poniendo en práctica lo que se predica allí donde trabajemos.

Este cambio cultural, combinado con una gobernanza tecnológica sensata, puede convertir el auge de la tecnología moderna en un verdadero éxito para la sociedad, la democracia y la humanidad. Tenemos la oportunidad de recordar el 6 de enero de 2021 como el momento en que las cosas cambiaron para mejor. Aprovechemos esta oportunidad.