El 31 de julio de 2012, un apagón masivo se extendió por el noreste de India. A la 1 pm, hora local, una línea eléctrica en el estado de Madhya Pradesh se sobrecargó y se disparó. Mientras la red de suministro intentaba compensar la pérdida, otras líneas dejaron de funcionar. Para la 1:03, una serie de fallos en cascada había sumido la red eléctrica en el caos, lo que provocó el mayor apagón de la historia de la humanidad. Más de 600 millones de personas, según las estimaciones, se quedaron temporalmente sin electricidad a causa del colapso.
Este apagón es un crudo recordatorio de lo vulnerables que somos todos ante un colapso caótico de los numerosos sistemas tecnológicos complejos de los que dependemos. Sin embargo, seguimos desarrollando nuevas tecnologías potentes a un ritmo acelerado, sin pensar demasiado en cómo su propia complejidad e interconexión podrían hacer que se desmoronaran en el futuro.
La audacia pura de nuestro poderío tecnológico se refleja en la lista de este año de las diez principales tecnologías emergentes del Foro Económico Mundial (FEM), que llega a su cuarto año. La lista abarca avances en ingeniería genética y el uso de la secuenciación rápida del ADN y la digitalización para una atención sanitaria personalizada, así como inteligencia artificial, chips informáticos neuromórficos que imitan el cerebro humano y robótica avanzada.
La lista, cuyo propósito es crear conciencia sobre los posibles beneficios y riesgos de las principales tendencias tecnológicas emergentes, constituye un testimonio impresionante de la rapidez con que está cambiando nuestra capacidad para controlar y manipular el mundo que nos rodea. Sin embargo, también pone de relieve los peligros inherentes de la innovación desbocada y la necesidad de desarrollar responsablemente las tecnologías emergentes.
Las diez principales tecnologías del Foro Económico Mundial de 2015
Foro Económico Mundial/Andrew Maynard, CC BY-NC-SA
La innovación no es automáticamente para bien
Tomemos, por ejemplo, la inteligencia artificial (IA), una de las diez principales tecnologías del FEM. Tanto Elon Musk como Stephen Hawking han advertido sobre los riesgos de una IA fuera de control. A principios de este año, firmaron una carta abierta que destacaba las oportunidades y los desafíos de desarrollar una IA robusta y beneficiosa. La carta reconoce que, sin previsión y la debida consideración, la promesa de la IA de ampliar sustancialmente la inteligencia humana mientras buscamos erradicar enfermedades, aprovechar mejor los recursos disponibles y mejorar la calidad de vida podría verse socavada por inconvenientes imprevistos. Imaginemos, por ejemplo, los peligros de armas autónomas programadas con fines maliciosos o de máquinas inteligentes que no entiendan ni respeten los valores humanos.
Otras tecnologías de las diez principales del FEM plantean desafíos similares. Los drones suscitan inquietudes en torno a la seguridad y la privacidad. El genoma digital nos acerca a prácticas discriminatorias al estilo de Gattaca, basadas en nuestro ADN. Las técnicas precisas de ingeniería genética permiten el rediseño y la reinvención de organismos vivos, con toda su complejidad ética. Los métodos de fabricación aditiva, como la impresión 3D, plantean nuevos desafíos sobre cómo utilizar de forma segura materiales y procesos novedosos.
Estas tecnologías no son intrínsecamente seguras ni protegidas. Sin embargo, son de importancia fundamental por sus posibles beneficios.
Necesitamos tecnología para abordar los problemas del mundo
A pesar de sus posibles desventajas, la sociedad necesita innovación tecnológica. Vivimos en un mundo donde mil millones de personas siguen sin disponer de saneamiento básico. Más de seis millones de niños mueren cada año antes de cumplir cinco años. Más del 14 % de la población mundial vive con menos de 1,25 dólares estadounidenses al día. Más de 2.500 millones de personas corren el riesgo de contraer enfermedades infecciosas como el dengue y la malaria. Garantizar suficiente agua, alimentos y energía para mantener niveles de vida aceptables será cada vez más difícil en los próximos años.
La innovación tecnológica por sí sola no resolverá estos ni otros desafíos. Pero sin ella, muchos no se resolverán en absoluto.
Por eso no podemos permitirnos frenar en seco las tecnologías emergentes. Cada una de las diez principales tecnologías del FEM promete avances que cambiarán vidas para mejor. Desde plásticos reciclables novedosos hasta procesos de fabricación avanzados y la posibilidad de programas de salud adaptados a cada persona, estas tecnologías representan la punta de un iceberg de innovación que podría ayudar a erradicar enfermedades, aliviar la pobreza y la desigualdad, y abordar algunos de los desafíos más apremiantes de nuestro tiempo.
Sin embargo, las buenas intenciones por sí solas no garantizarán que obtengamos los beneficios de estos avances tecnológicos.
La tecnología no surge en el vacío
En enero de este año, el Centro de Resiliencia de Estocolmo publicó una investigación que indicaba que estamos empujando rápidamente el planeta hacia un punto de inflexión perjudicial. El Centro había identificado previamente nueve límites planetarios dentro de los cuales la humanidad puede seguir desarrollándose y prosperando. Advirtió que cruzar estos límites «podría generar cambios ambientales abruptos o irreversibles». Según los investigadores, ya se han cruzado cuatro de estos límites —incluidos el cambio climático y la integridad de la biosfera— como consecuencia de la actividad humana.
Las tecnologías emergentes están amplificando este acoplamiento entre nuestras acciones y el medio ambiente. Ya sea mediante nuevos enfoques para reducir el impacto ambiental —como el desarrollo de tecnologías de pilas de combustible o materiales reciclables innovadores— o mediante tecnologías con potencial para alterar radicalmente las interacciones entre los seres humanos y el medio ambiente —como ciertas aplicaciones de la IA y la fabricación distribuida—, existe una dinámica estrecha y compleja entre las vulnerabilidades planetarias y las nuevas tecnologías.
Interdependencias fuertes y débiles entre las diez principales tecnologías emergentes del Foro Económico Mundial de 2015.
Foro Económico Mundial/Andrew Maynard, CC BY-NC-SA
A esta complejidad se suma que las tecnologías emergentes son altamente interdependientes entre sí. El desarrollo de la IA, por ejemplo, afecta a las tecnologías neuromórficas y se ve afectado por ellas; estas, a su vez, son relevantes para los drones, la robótica de próxima generación e incluso el genoma digital. Esto, a su vez, está conectado con la ingeniería genética de precisión, y desde ahí volvemos rápidamente a la IA.
El resultado es un sistema socio-tecnoambiental masivamente interconectado cuya complejidad lo hace vulnerable a un colapso rápido, caótico y potencialmente catastrófico. Como ocurre con otros sistemas complejos, parecerá estable y predecible… hasta que, de repente, deje de serlo. Y esto nos plantea un problema.
Cómo innovar de forma responsable
En 2013, Stilgoe, Owen y McNaughten publicaron un marco para la «innovación responsable» que podría ayudar a reducir al menos algunas de las vulnerabilidades asociadas con el rápido auge de tecnologías emergentes potentes. Como parte de un corpus cada vez mayor de investigaciones sobre innovación responsable, propusieron una serie de recomendaciones destinadas a permitir que innovadores, responsables de políticas y otras personas cuiden del futuro mediante la «custodia colectiva de la ciencia y la innovación en el presente». En el centro de sus recomendaciones había cuatro «dimensiones» de la innovación responsable:
Anticipación de los problemas emergentes
Reflexividad sobre hasta qué punto los enfoques existentes garantizan, bien o mal, el desarrollo responsable de nuevas tecnologías
Inclusión de las partes interesadas clave en la toma de decisiones
Respuesta ante riesgos y oportunidades emergentes
Los gobiernos y los inversores empiezan a tomarse cada vez más en serio estas ideas; por ejemplo, el programa marco Horizonte 2020 de la Unión Europea para la investigación y la innovación incluye un programa de trabajo específico sobre Investigación e Innovación Responsables.
Sin embargo, si queremos evitar que nuestro ingenio colectivo nos empuje al precipicio metafórico del fracaso caótico, hace falta mucho más.
Es fundamental garantizar que la responsabilidad informada se incorpore al proceso de innovación desde sus cimientos: empezando por los investigadores e innovadores y continuando con los inversores y consumidores. Como complemento, la sociedad debe estimular y apoyar la innovación que conduzca a un progreso sostenible en lo social, lo económico y lo ambiental.
Sin embargo, el mayor desafío al que nos enfrentamos consiste en dejar de considerar las tecnologías emergentes de forma aislada y empezar a comprender y responder a la interacción altamente compleja, no lineal y potencialmente caótica entre la innovación tecnológica, la sociedad y el medio ambiente.
Esto nos adentra en territorio desconocido. En la última década se han logrado avances sustanciales en la comprensión de los riesgos y beneficios de tecnologías individuales como la nanotecnología, que está revolucionando la forma en que diseñamos nuevos materiales desde los átomos, o la biología sintética, que está abriendo la puerta a la manipulación digital de información genética y su incorporación de nuevo a organismos vivos. Sin embargo, del mismo modo que comprender una sola línea de transmisión de la red eléctrica india no habría ayudado a evitar el colapso de 2012, comprender por separado los riesgos y beneficios de cada tecnología emergente no ayudará a evitar futuros fallos catastróficos.
Para construir un futuro resiliente basado en la tecnología, necesitamos nuevas ideas, investigaciones y herramientas que nos permitan aprovechar los beneficios de la innovación tecnológica, manteniéndonos a una distancia segura de un colapso potencialmente catastrófico. Es un desafío difícil que exigirá niveles sin precedentes de inversión interdisciplinaria, colaboración y creatividad. Sin embargo, el precio de no innovar responsablemente podría ser sencillamente demasiado alto para asumirlo.
Este artículo se publica en colaboración con The Conversation. La publicación no implica que el Foro Económico Mundial respalde las opiniones expresadas.
Para mantenerse al día con la Agenda, suscríbase a nuestro boletín semanal.
Autor: Andrew Maynard es director del Centro de Ciencia del Riesgo de la Universidad de Michigan.
Imagen: Un dron con una Sony Action Cam Mini aparece en la feria de tecnología de consumo IFA, en Berlín. REUTERS/Fabrizio Bensch.
