Todo cambio puede inquietar, pero los cambios tan profundos como los que está desencadenando la fase actual del desarrollo tecnológico —conocida como la Cuarta Revolución Industrial— tienden a ser particularmente desestabilizadores. La tecnología conecta las diversas redes que conforman la vida moderna y las fusiona en un complejo «sistema de sistemas», en el que los riesgos son difíciles de identificar y aún más difíciles de medir.
Podemos señalar riesgos tecnológicos relativamente aislados, como el riesgo de que un ciberataque interrumpa las operaciones empresariales, pero en un mundo cada vez más interconectado las consecuencias pueden ser mucho mayores. Pensemos, por ejemplo, en el impacto inmediato y en cascada de un ciberataque que deja fuera de servicio a un proveedor de infraestructura crítica. O en el impacto social y político de la automatización y la inteligencia artificial si se les permite reconfigurar los mercados laborales del mundo de forma tan radical como algunos han sugerido que probablemente ocurrirá.
La tecnología también está moldeando muchos de nuestros supuestos o percepciones de fondo, y esto, a su vez, puede moldear nuestra comprensión de los riesgos y nuestra actitud hacia ellos. Vivimos en un mundo definido tanto por el ritmo acelerado del cambio tecnológico como por la incertidumbre que provoca esa aceleración. Al menos según lo que percibimos, cada vez más personas sentimos que corremos para quedarnos en el mismo sitio: apenas logramos seguir el ritmo de algunos avances tecnológicos que nos afectan, mientras que en gran medida desconocemos muchos otros y no sabemos cómo encajan entre sí.
Entre el optimismo, algunas anomalías
En un esfuerzo por ampliar nuestra comprensión de los riesgos relacionados con la tecnología, para el Informe de riesgos globales del Foro Económico Mundial de este año complementamos nuestra encuesta habitual sobre la percepción de los riesgos con un módulo especial sobre tecnología. Planteamos a los encuestados varias preguntas sobre su percepción de 12 tecnologías emergentes que se espera desempeñen un papel importante en la evolución digital, desde la IA y las tecnologías de registros distribuidos hasta la geoingeniería y las tecnologías espaciales. Sin embargo, primero pedimos a las personas que evaluaran los posibles beneficios y las posibles consecuencias negativas de cada tecnología. Los resultados se resumen en el primer gráfico de abajo.
Lo primero que cabe señalar sobre estos resultados es su carácter optimista. La puntuación media de los beneficios (5,6 en una escala del 1 al 7) es mucho más alta que la de las consecuencias negativas (3,8).
También hay variaciones interesantes. La IA y la biotecnología destacan en el cuadrante superior derecho como tecnologías potencialmente de alto impacto: si se desarrollan correctamente, podemos obtener grandes beneficios, pero si se desarrollan mal, afrontamos graves consecuencias negativas. En cambio, y quizá de forma sorprendente, la geoingeniería aparece aislada en el cuadrante superior izquierdo; los encuestados consideran que puede acarrear consecuencias negativas que no se ven compensadas por posibles beneficios.
También preguntamos qué tecnologías necesitaban una mejor gobernanza. Los resultados, resumidos en el gráfico de abajo, fueron llamativos: la IA y la biotecnología eclipsaron por completo a las otras 10 tecnologías. A primera vista, es un resultado curioso. ¿Qué nos dice sobre la percepción de la geoingeniería y de los sensores conectados (como los del Internet de las cosas)? Se considera que pueden tener consecuencias negativas potenciales ampliamente similares a las de la IA y la biotecnología, pero sin el posible rédito en materia de beneficios. Y, sin embargo, quedan muy lejos de estas en cuanto a la necesidad percibida de una mejor gobernanza.
El desafío de la gobernanza
Las preguntas sobre cuál es la mejor manera de gobernar las nuevas tecnologías, que evolucionan rápidamente, ya son apremiantes, y sin duda cobrarán aún más urgencia en los próximos años. Esta es una de las razones clave por las que el Foro Económico Mundial decidió crear su nuevo Centro para la Cuarta Revolución Industrial, que abre sus puertas en San Francisco esta semana.
Nuestros modelos y métodos actuales de gobernanza ya no son adecuados ante los cambios que está desencadenando la Cuarta Revolución Industrial, así que debemos encontrar nuevas maneras de hacer las cosas. La gobernanza debe ser lo bastante estable, predecible y transparente para generar confianza entre los inversores, los científicos y la sociedad en general. Pero también debe ser lo bastante ágil y adaptable para responder a la rápida evolución tanto de las propias tecnologías como de los usos que les damos.
Lograr una buena gobernanza no consistirá simplemente en sopesar los costos y beneficios de cada tecnología. La profundidad de las interconexiones entre las distintas tecnologías y casi todos los demás ámbitos de la vida moderna implica que las decisiones en esta área están sujetas a una enorme complejidad, incertidumbre y ambigüedad.
Nos espera un proceso de deliberación intenso y prolongado para determinar cómo queremos avanzar. Eso implica, por supuesto, hacer bien la ciencia, pero también abordar las profundas cuestiones éticas que plantean algunas tecnologías emergentes. Más que nunca, comprender los riesgos globales significa abordar preguntas fundamentales sobre cómo podría o debería ser la sociedad humana.
