Si hay una frase que ha resistido el paso del tiempo en el clásico de Steven Spielberg de 1993 «Parque Jurásico», probablemente sea la exclamación de Jeff Goldblum: «Sus científicos estaban tan preocupados por si podían hacerlo o no, que no se pararon a pensar si debían hacerlo».
El personaje de Goldblum, el Dr. Ian Malcolm, advertía contra la arrogancia de manipular ingenuamente el ADN de los dinosaurios para devolver la vida a estas criaturas extintas. Veinticinco años después, sus palabras cobran nueva relevancia, mientras un número creciente de científicos y empresas se enfrenta a cómo caminar por la línea entre lo que «se puede» y lo que «se debe» en ámbitos que van desde la edición genética y la «desextinción» en el mundo real hasta el aumento de las capacidades humanas, la inteligencia artificial y muchos otros.
Pese a la creciente preocupación de que las potentes tecnologías emergentes puedan tener consecuencias inesperadas y de gran alcance, los innovadores se esfuerzan por desarrollar nuevos productos beneficiosos de manera socialmente responsable. Parte de la respuesta podría estar en ver más películas de ciencia ficción como «Parque Jurásico».
Lecciones de Hollywood sobre los riesgos sociales
Desde hace tiempo me interesa cómo los innovadores y otras personas pueden comprender mejor el panorama cada vez más complejo de los riesgos y beneficios sociales asociados a las tecnologías emergentes. La creciente preocupación por los efectos de la tecnología en el empleo, la privacidad, la seguridad e incluso la capacidad de las personas para vivir sin interferencias indebidas pone de relieve la necesidad de nuevas ideas sobre cómo innovar de forma responsable.
Las nuevas ideas requieren creatividad e imaginación, así como la disposición a ver el mundo de otra manera. Y aquí es donde pueden ayudar las películas de ciencia ficción.
Como es bien sabido, las películas de ciencia ficción suelen ser poco fiables a la hora de representar con precisión la ciencia y la tecnología. Pero, como sus tramas suelen estar impulsadas por las relaciones entrelazadas de las personas con la tecnología, pueden ofrecer una perspectiva sorprendentemente lúcida de los factores sociales que influyen en una innovación responsable y exitosa.
Esto se ve claramente en «Parque Jurásico». La película ofrece un punto de partida sorprendentemente bueno para reflexionar sobre las ventajas y desventajas de la ingeniería genética actual y el creciente interés por resucitar especies extintas. Pero también abre el diálogo sobre la naturaleza de los sistemas complejos que combinan personas y tecnología, y sobre los posibles peligros de una innovación «sin permiso», impulsada por el poder y la riqueza y carente de rendición de cuentas.
Se desprenden ideas similares de otras películas, entre ellas la cinta de Spielberg de 2002 «Minority Report», que anticipó la creciente capacidad de predecir delitos mediante inteligencia artificial y los dilemas éticos que plantea, así como la película de 2014 «Ex Machina».
Al igual que «Parque Jurásico», «Ex Machina» gira en torno a un empresario rico y sin rendición de cuentas que confía plenamente en sus propias capacidades. En este caso, la tecnología en cuestión es la inteligencia artificial.
La película narra la historia de un genio egocéntrico que crea una máquina extraordinariamente inteligente, pero carece de la lucidez necesaria para reconocer sus límites y los riesgos de lo que hace. También ofrece una inquietante visión de los peligros potenciales de crear máquinas que nos conozcan mejor de lo que nos conocemos nosotros mismos, sin estar sujetas a las normas ni a los valores humanos.
El resultado es un aleccionador recordatorio de que, sin humildad y una buena dosis de humanidad, nuestras innovaciones pueden volverse en nuestra contra.
Las tecnologías de «Parque Jurásico», «Minority Report» y «Ex Machina» están más allá de lo que es posible hoy. Sin embargo, estas películas suelen acercarse lo suficiente a las tendencias emergentes como para ayudar a revelar los peligros de una innovación irresponsable o simplemente ingenua. Aquí es donde estas y otras películas de ciencia ficción pueden ayudar a los innovadores a comprender mejor los retos sociales a los que se enfrentan y cómo abordarlos.
Problemas del mundo real resueltos en la pantalla
En un reciente artículo de opinión en The New York Times, la periodista Kara Swisher preguntó: «¿Quién enseñará ética a Silicon Valley?». A raíz de una creciente lista de decisiones socialmente cuestionables tomadas por empresas tecnológicas, Swisher sugiere que muchas deben madurar y tomarse en serio la ética. Pero la ética por sí sola rara vez basta. Las presiones financieras y las realidades sociales pueden ahogar fácilmente las buenas intenciones.
Las empresas tecnológicas necesitan cada vez más encontrar una manera de romper con las prácticas habituales para ser más responsables. Casos de gran repercusión relacionados con empresas como Facebook y Uber y con Elon Musk de Tesla han puesto de relieve los peligros sociales y empresariales de operar sin comprender plenamente las consecuencias de las acciones centradas en las personas.
Muchas otras empresas se esfuerzan por crear tecnologías beneficiosas para la sociedad y descubren que, sin los conocimientos y las herramientas necesarios, corren el riesgo de avanzar a tientas en la oscuridad.
Por ejemplo, a principios de este año, investigadores de Google y DeepMind publicaron detalles de un sistema basado en inteligencia artificial capaz de leer los labios mucho mejor que las personas. Según los autores del artículo, esta tecnología tiene un enorme potencial para mejorar la vida de quienes tienen dificultades para hablar en voz alta. Sin embargo, no cuesta mucho imaginar cómo esta misma tecnología podría amenazar la privacidad y la seguridad de millones de personas, sobre todo si se combina con cámaras de vigilancia de largo alcance.
Desarrollar tecnologías como esta de manera socialmente responsable exige algo más que buenas intenciones o la mera creación de un comité de ética. Las personas necesitan comprender a fondo la dinámica, a menudo compleja, entre la tecnología y la sociedad. Y aunque, como señala Mitchell Baker, de Mozilla, puede ser útil que científicos y tecnólogos se relacionen con las humanidades, eso no basta.
Las películas son una vía accesible hacia una disciplina seria
La «nueva formulación» de habilidades complementarias que, según Baker, los innovadores necesitan desesperadamente ya existe en una próspera comunidad interdisciplinaria centrada en la innovación socialmente responsable. Mi institución, la Escuela para el Futuro de la Innovación en la Sociedad de la Universidad Estatal de Arizona, es solo una parte de ella.
Los expertos de esta comunidad global exploran activamente cómo convertir las buenas ideas en prácticas responsables. Esto incluye la necesidad de ideas creativas sobre el panorama social que rodea la innovación tecnológica, así como de imaginación para encontrar nuevas maneras de desenvolverse en él.
Aquí es donde las películas de ciencia ficción se convierten en una poderosa herramienta para orientar a los innovadores, los líderes tecnológicos y las empresas en las que trabajan. Sus escenarios ficticios pueden revelar posibles escollos y oportunidades que ayuden a encaminar las decisiones del mundo real hacia resultados socialmente beneficiosos y responsables, evitando riesgos innecesarios.
Y las películas de ciencia ficción reúnen a las personas. Por su propia naturaleza, estas películas acercan a la gente y tienen un valor educativo accesible para todos. Basta con observar quién ve y comenta el último éxito de ciencia ficción para encontrar a menudo una muestra diversa de la sociedad. El género puede tender puentes entre quienes saben cómo funcionan la ciencia y la tecnología y quienes saben qué hace falta para garantizar que estén al servicio del bien común.
Este es el tema central de mi nuevo libro «Películas del futuro: la tecnología y la moralidad de las películas de ciencia ficción». Está escrito para cualquier persona con curiosidad por las tendencias emergentes en la innovación tecnológica y por cómo podrían afectar a la sociedad. También está dirigido a los innovadores que quieren hacer lo correcto, pero no saben por dónde empezar.
Por supuesto, las películas de ciencia ficción por sí solas no bastan para garantizar una innovación socialmente responsable. Pero pueden ayudar a revelar algunos de los profundos retos sociales que afrontan los innovadores tecnológicos y posibles maneras de abordarlos. Y ¿qué mejor forma de aprender a innovar responsablemente que invitar a unos amigos, preparar las palomitas y poner una película?
Sin duda, es mejor que quedar desprevenidos ante riesgos que, vistos en retrospectiva, podrían haberse evitado.
