La humanidad se enfrenta a tres amenazas existenciales en este siglo, advirtió el historiador Yuval Harari en Davos 2020.
La tecnología corre el riesgo de dividir el mundo entre élites adineradas y «colonias de datos» explotadas, explicó.
«Si te gusta la Copa del Mundo, ya eres globalista», afirmó, defendiendo la necesidad de una mejor cooperación para afrontar los desafíos.
A medida que entramos en la tercera década del siglo XXI, la humanidad enfrenta tantos problemas y preguntas que resulta realmente difícil saber en qué centrarse. Por ello, me gustaría dedicar los próximos veinte minutos a ayudarnos a enfocar todos los distintos problemas a los que nos enfrentamos. Tres problemas plantean desafíos existenciales para nuestra especie.
Estos tres desafíos existenciales son la guerra nuclear, el colapso ecológico y la disrupción tecnológica. Deberíamos centrarnos en ellos.
Ahora bien, la guerra nuclear y el colapso ecológico ya son amenazas conocidas, así que permítanme dedicar algo de tiempo a explicar la amenaza menos conocida que plantea la disrupción tecnológica.
En Davos escuchamos mucho sobre las enormes promesas de la tecnología, y estas promesas son ciertamente reales. Pero la tecnología también podría alterar de numerosas maneras la sociedad humana y el propio sentido de la vida humana, desde la creación de una nueva clase global inútil hasta el auge del colonialismo de datos y de las dictaduras digitales.
En primer lugar, podríamos enfrentarnos a convulsiones en el ámbito social y económico.
La automatización eliminará pronto millones y millones de empleos y, aunque sin duda se crearán nuevos puestos de trabajo, no está claro si las personas podrán adquirir las nuevas habilidades necesarias con suficiente rapidez. Supongamos que eres un camionero de cincuenta años y acabas de perder tu empleo a manos de un vehículo autónomo. Ahora bien, existen nuevos empleos en el diseño de software o en la enseñanza de yoga a ingenieros, pero ¿cómo puede un camionero de cincuenta años reinventarse como ingeniero de software o como profesor de yoga? Además, las personas tendrán que hacerlo no una sola vez, sino una y otra vez a lo largo de sus vidas, porque la revolución de la automatización no será un único acontecimiento decisivo tras el cual el mercado laboral se estabilizará en un nuevo equilibrio. Más bien, será una cascada de disrupciones cada vez mayores, porque la IA está lejos de alcanzar todo su potencial.
Los empleos antiguos desaparecerán, surgirán nuevos empleos, pero luego estos cambiarán y desaparecerán rápidamente. Mientras que en el pasado el ser humano tuvo que luchar contra la explotación, en el siglo XXI la gran lucha será contra la irrelevancia. Y es mucho peor ser irrelevante que explotado.
Quienes fracasen en la lucha contra la irrelevancia constituirían una nueva «clase inútil», personas que no son inútiles desde el punto de vista de sus amigos y familiares, sino desde el punto de vista del sistema económico y político. Y esta clase inútil quedará separada por una brecha cada vez mayor de la élite, cada vez más poderosa.
La revolución de la IA podría generar una desigualdad sin precedentes no solo entre clases, sino también entre países.
En el siglo XIX, algunos países como Gran Bretaña y Japón se industrializaron primero y luego conquistaron y explotaron gran parte del mundo. Si no tenemos cuidado, lo mismo sucederá en el siglo XXI con la IA.
Ya estamos inmersos en una carrera armamentística de la IA, con China y Estados Unidos a la cabeza, y la mayoría de los países quedando muy, muy rezagados. A menos que tomemos medidas para distribuir los beneficios y el poder de la IA entre todos los seres humanos, la IA probablemente creará una inmensa riqueza en unos pocos centros tecnológicos, mientras que otros países se arruinarán o se convertirán en colonias de datos explotadas.
Ahora bien, no estamos hablando aquí de un escenario de ciencia ficción en el que los robots se rebelan contra los humanos. Hablamos de una IA mucho más primitiva, que, no obstante, basta para alterar el equilibrio global.
Piensen en lo que sucederá con las economías en desarrollo cuando sea más barato producir textiles o automóviles en California que en México. ¿Y qué ocurrirá con la política de su país dentro de veinte años, cuando alguien en San Francisco o Pekín conozca toda la historia médica y personal de cada político, cada juez y cada periodista de su país, incluidas todas sus aventuras sexuales, todas sus debilidades mentales y todos sus negocios corruptos? ¿Seguirá siendo un país independiente o se convertirá en una colonia de datos?
Cuando se dispone de suficientes datos, no es necesario enviar soldados para controlar un país.
Junto con la desigualdad, el otro gran peligro al que nos enfrentamos es el auge de las dictaduras digitales, que vigilarán a todos en todo momento.
Este peligro puede expresarse en forma de una ecuación sencilla, que creo que podría ser la ecuación que defina la vida en el siglo XXI:
B x C x D = ¡AAH!
¿Qué significa? El conocimiento biológico multiplicado por la potencia de cálculo multiplicada por los datos es igual a la capacidad de hackear a los seres humanos, ahh.
Si conoces suficiente biología y dispones de suficiente potencia de cálculo y datos, puedes hackear mi cuerpo, mi cerebro y mi vida, y puedes entenderme mejor de lo que yo me entiendo a mí mismo. Puedes conocer mi tipo de personalidad, mis opiniones políticas, mis preferencias sexuales, mis debilidades mentales, mis miedos y esperanzas más profundos. Sabes más de mí de lo que yo sé de mí mismo. Y puedes hacerlo no solo conmigo, sino con todos.
Un sistema que nos comprende mejor de lo que nosotros nos comprendemos a nosotros mismos puede predecir nuestros sentimientos y decisiones, puede manipular nuestros sentimientos y decisiones, y, en última instancia, puede tomar decisiones por nosotros.
En el pasado, muchos gobiernos y tiranos quisieron hacerlo, pero nadie comprendía suficientemente la biología ni nadie disponía de suficiente potencia de cálculo y datos para hackear a millones de personas. Ni la Gestapo ni la KGB podían hacerlo. Pero pronto al menos algunas corporaciones y gobiernos podrán hackear sistemáticamente a todas las personas. Los seres humanos debemos acostumbrarnos a la idea de que ya no somos almas misteriosas; ahora somos animales hackeables. Eso es lo que somos.
El poder de hackear a los seres humanos puede utilizarse con buenos fines, como proporcionar una atención sanitaria mucho mejor. Pero si este poder cae en manos de un Stalin del siglo XXI, el resultado será el régimen totalitario más terrible de la historia de la humanidad. Y ya tenemos varios candidatos al puesto de Stalin del siglo XXI.
Imaginen Corea del Norte dentro de veinte años, cuando todos tengan que llevar una pulsera biométrica que controle constantemente su presión arterial, su frecuencia cardíaca y su actividad cerebral las veinticuatro horas del día. Escuchas un discurso por la radio del gran líder y ellos saben lo que realmente sientes. Puedes aplaudir y sonreír, pero si estás enfadado, lo sabrán, y mañana estarás en el gulag.
Y si permitimos la aparición de tales regímenes de vigilancia total, no crean que los ricos y poderosos de lugares como Davos estarán a salvo; pregunten si no a Jeff Bezos. En la URSS de Stalin, el Estado vigilaba a los miembros de la élite comunista más que a nadie. Lo mismo ocurrirá con los futuros regímenes de vigilancia total. Cuanto más alto estés en la jerarquía, más de cerca serás vigilado.
¿Quieren que su director ejecutivo o su presidente sepan lo que realmente piensan de ellos?
Por tanto, interesa a todos los seres humanos, incluidas las élites, impedir el surgimiento de tales dictaduras digitales. Y mientras tanto, si recibes un mensaje sospechoso de WhatsApp de algún príncipe, no lo abras.
Ahora bien, si efectivamente impedimos el establecimiento de dictaduras digitales, la capacidad de hackear a los seres humanos podría seguir socavando el propio sentido de la libertad humana. Porque, a medida que los seres humanos dependan de la IA para tomar cada vez más decisiones por nosotros, la autoridad pasará de los humanos a los algoritmos, y esto ya está sucediendo.
Ya hoy miles de millones de personas confían en el algoritmo de Facebook para saber qué es noticia, el algoritmo de Google nos dice qué es verdad, Netflix nos dice qué ver, y los algoritmos de Amazon y Alibaba nos dicen qué comprar.
En un futuro no tan lejano, algoritmos similares podrían decirnos dónde trabajar y con quién casarnos, y también decidir si nos contratan para un empleo, si nos conceden un préstamo y si el banco central debe subir el tipo de interés.
Y si preguntas por qué no te concedieron el préstamo, o por qué el banco no subió el tipo de interés, la respuesta siempre será la misma: porque el ordenador dice que no. Y como el limitado cerebro humano carece de conocimientos biológicos, potencia de cálculo y datos suficientes, los seres humanos simplemente no podrán entender las decisiones del ordenador.
Así, incluso en países supuestamente libres, es probable que los seres humanos perdamos el control de nuestras propias vidas y también la capacidad de comprender las políticas públicas.
Ya hoy, ¿cuántas personas entienden el sistema financiero? Quizás un uno por ciento, siendo muy generosos. Dentro de un par de décadas, el número de personas capaces de entender el sistema financiero será exactamente cero.
Ahora bien, los seres humanos estamos acostumbrados a pensar en la vida como un drama de toma de decisiones. ¿Cuál será el sentido de la vida humana cuando la mayoría de las decisiones las tomen los algoritmos? Ni siquiera disponemos de modelos filosóficos para comprender tal existencia.
El pacto habitual entre filósofos y políticos es que los filósofos tienen muchas ideas fantasiosas, y los políticos básicamente explican que carecen de los medios para poner en práctica esas ideas. Ahora nos encontramos en una situación opuesta. Nos enfrentamos a una quiebra filosófica.
Las revoluciones gemelas de la infotecnología y la biotecnología están dando ahora a los políticos los medios para crear el cielo o el infierno, pero a los filósofos les cuesta conceptualizar cómo serán el nuevo cielo y el nuevo infierno. Y eso es una situación muy peligrosa.
Si no logramos conceptualizar con suficiente rapidez el nuevo cielo, podríamos dejarnos engañar fácilmente por utopías ingenuas. Y si no logramos conceptualizar con suficiente rapidez el nuevo infierno, podríamos vernos atrapados en él sin salida.
Por último, la tecnología podría alterar no solo nuestra economía, política y filosofía, sino también nuestra biología.
En las próximas décadas, la IA y la biotecnología nos darán capacidades casi divinas para reconstruir la vida e incluso para crear formas de vida completamente nuevas. Tras cuatro mil millones de años de vida orgánica moldeada por la selección natural, estamos a punto de entrar en una nueva era de vida inorgánica moldeada por el diseño inteligente.
Nuestro diseño inteligente va a ser la nueva fuerza motriz de la evolución de la vida, y al usar nuestros nuevos poderes divinos de creación podríamos cometer errores de dimensiones cósmicas. En particular, es probable que los gobiernos, las corporaciones y los ejércitos utilicen la tecnología para potenciar las habilidades humanas que necesitan, como la inteligencia y la disciplina, mientras descuidan otras habilidades humanas, como la compasión, la sensibilidad artística y la espiritualidad.
El resultado podría ser una raza de humanos muy inteligentes y muy disciplinados, pero carentes de compasión, de sensibilidad artística y de profundidad espiritual. Por supuesto, esto no es una profecía. Son solo posibilidades. La tecnología nunca es determinista.
En el siglo XX, las personas utilizaron la misma tecnología industrial para construir sociedades muy distintas: dictaduras fascistas, regímenes comunistas, democracias liberales. Lo mismo sucederá en el siglo XXI.
La IA y la biotecnología transformarán sin duda el mundo, pero podemos utilizarlas para crear sociedades muy distintas. Y si les preocupa alguna de las posibilidades que he mencionado, aún pueden hacer algo al respecto. Pero para hacer algo eficaz, necesitamos cooperación global.
Los tres desafíos existenciales a los que nos enfrentamos son problemas globales que exigen soluciones globales.
Cada vez que un líder diga algo como «¡Mi país primero!», debemos recordarle que ninguna nación puede evitar por sí sola una guerra nuclear ni detener el colapso ecológico, y que ninguna nación puede regular por sí sola la IA y la bioingeniería.
Casi todos los países dirán: «Oigan, no queremos desarrollar robots asesinos ni modificar genéticamente a bebés humanos. Somos los buenos. Pero no podemos confiar en que nuestros rivales no lo hagan. Así que debemos hacerlo primero».
Si permitimos que se desarrolle una carrera armamentística de este tipo en ámbitos como la IA y la bioingeniería, realmente no importa quién gane la carrera: el perdedor será la humanidad.
Lamentablemente, justo cuando la cooperación global es más necesaria que nunca, algunos de los líderes y países más poderosos del mundo están socavando deliberadamente la cooperación global. Líderes como el presidente de Estados Unidos afirman que existe una contradicción inherente entre el nacionalismo y el globalismo, y que debemos elegir el nacionalismo y rechazar el globalismo.
Pero este es un error peligroso. No existe contradicción entre nacionalismo y globalismo. Porque el nacionalismo no consiste en odiar a los extranjeros. Consiste en amar a tus compatriotas. Y en el siglo XXI, para proteger la seguridad y el futuro de tus compatriotas, debes cooperar con extranjeros.
Así, en el siglo XXI, los buenos nacionalistas deben ser también globalistas. Ahora bien, el globalismo no significa establecer un gobierno mundial, abandonar todas las tradiciones nacionales ni abrir las fronteras a una inmigración ilimitada. Más bien, el globalismo implica un compromiso con algunas normas globales.
Normas que no niegan la singularidad de cada nación, sino que solo regulan las relaciones entre naciones.
Y un buen modelo es la Copa Mundial de Fútbol.
La Copa del Mundo es una competición entre naciones, y la gente suele mostrar una lealtad feroz a su selección nacional. Pero al mismo tiempo, la Copa del Mundo es también una asombrosa muestra de armonía global. Francia no puede jugar al fútbol contra Croacia a menos que franceses y croatas acuerden las mismas reglas del juego. Y eso es el globalismo en acción.
Si te gusta la Copa del Mundo, ya eres globalista.
Ojalá las naciones puedan acordar normas globales no solo para el fútbol, sino también para evitar el colapso ecológico, regular las tecnologías peligrosas y reducir la desigualdad global. Por ejemplo, cómo garantizar que la IA beneficie a los trabajadores textiles mexicanos y no solo a los ingenieros de software estadounidenses. Por supuesto, esto será mucho más difícil que el fútbol, pero no imposible. Porque lo imposible, bueno, ya lo hemos logrado.
Ya hemos escapado de la selva violenta en la que los seres humanos han vivido a lo largo de la historia. Durante miles de años, los humanos vivieron bajo la ley de la selva, en un estado de guerra omnipresente. La ley de la selva establecía que, por cada dos países cercanos, existía un escenario plausible en el que irían a la guerra el año siguiente. Bajo esta ley, la paz significaba únicamente «la ausencia temporal de guerra».
Cuando había «paz» entre, por ejemplo, Atenas y Esparta, o entre Francia y Alemania, significaba que en ese momento no estaban en guerra, pero que al año siguiente podrían estarlo. Y durante miles de años, la gente había dado por hecho que era imposible escapar de esta ley.
Pero en las últimas décadas, la humanidad ha logrado lo imposible: quebrantar la ley y escapar de la selva. Hemos construido el orden global liberal basado en normas, que, pese a muchas imperfecciones, ha generado la era más próspera y pacífica de la historia de la humanidad.
El propio significado de la palabra «paz» ha cambiado.
«Paz» ya no significa solo la ausencia temporal de guerra. Paz significa ahora la improbabilidad de la guerra.
Hay muchos países en los que simplemente es inimaginable que se vayan a la guerra entre sí el año que viene, como Francia y Alemania. Todavía hay guerras en algunas partes del mundo. Vengo de Oriente Medio, así que créanme, lo conozco perfectamente. Pero eso no debería impedirnos ver el panorama global en su conjunto.
Vivimos ahora en un mundo en el que la guerra mata a menos personas que el suicidio, y la pólvora es mucho menos peligrosa para tu vida que el azúcar. La mayoría de los países (con algunas excepciones notables, como Rusia) ni siquiera fantasean con conquistar y anexionar a sus vecinos. Por eso, la mayoría de los países pueden permitirse destinar tal vez apenas un dos por ciento de su PIB a defensa, mientras gastan mucho, muchísimo más en educación y sanidad. Esto no es una selva.
Lamentablemente, nos hemos acostumbrado tanto a esta maravillosa situación que la damos por sentada y, por tanto, nos estamos volviendo extremadamente descuidados. En lugar de hacer todo lo posible por fortalecer el frágil orden global, los países lo descuidan e incluso lo socavan deliberadamente.
El orden global es ahora como una casa que todos habitan y nadie repara. Puede aguantar unos años más, pero si seguimos así, se derrumbará, y nos encontraremos de nuevo en la selva de la guerra omnipresente.
Hemos olvidado cómo es, pero créanme como historiador: no quieren volver allí. Es mucho, muchísimo peor de lo que imaginan.
Sí, nuestra especie evolucionó en esa selva, y vivió e incluso prosperó allí durante miles de años, pero si volvemos a ella ahora, con las poderosas nuevas tecnologías del siglo XXI, nuestra especie probablemente se aniquilará a sí misma.
Por supuesto, aunque desapareciéramos, no sería el fin del mundo. Algo sobrevivirá a nuestra especie. Quizás las ratas acaben haciéndose con el control y reconstruyan la civilización. Quizás entonces las ratas aprendan de nuestros errores.
Pero espero sinceramente que podamos confiar en los líderes aquí reunidos, y no en las ratas.
Gracias.
