La tecnología es la campeona indiscutible de la eficiencia. Tareas que antes eran complejas y requerían mucho tiempo se completan ahora en un abrir y cerrar de ojos. Pero una abundancia de tecnología tiene también una cara negativa. En su nuevo libro, el investigador Edward Tenner explica cómo un exceso de eficiencia puede acabar con la creatividad, lo que puede frenar el pensamiento de vanguardia, la innovación y la resolución de problemas. Considera que existe una forma mejor de mejorar nuestras vidas mediante una combinación de tecnología e intuición, y explorando lo aleatorio y lo inesperado.
Tenner, investigador distinguido del Centro Lemelson para el Estudio de la Invención y la Innovación del Smithsonian, habló sobre su libro, La paradoja de la eficiencia: lo que el big data no puede hacer, en el programa de radio Knowledge@Wharton de SiriusXM. (Escuche el podcast en la parte superior de esta página.)
A continuación se presenta una transcripción editada de la conversación.
Knowlege@Wharton: ¿Qué tiene de terrible la eficiencia?
Edward Tenner: El problema de la eficiencia es que los algoritmos nos permiten aprender realmente de la experiencia, codificarla, aprovecharla y reconocer patrones. Son realmente extraordinarios en eso. Por ejemplo, yo utilizo el programa de navegación de Google, Waze. Al principio fui un crítico, pero poco a poco me fui acostumbrando cada vez más. Sin embargo, el problema de Waze es que de vez en cuando comete un error garrafal. Si alguien depende por completo de un sistema así, por muy brillantemente diseñado que esté, tarde o temprano algún fallo acabará pasándole factura. No obstante, si conserva la conciencia de dónde se encuentra, si conserva el sentido común y si confía en su sentido común, puede aprovechar al máximo el programa evitando esos pequeños desastres.
Knowlege@Wharton: ¿Como dependemos tanto de la tecnología, estamos perdiendo algo como sociedad y como cultura?
Tenner: Sin duda existe ese riesgo, y ocurre constantemente porque es muy fácil volverse dependiente. Es muy fácil simplemente aceptar lo que un programa nos propone y cerrar los ojos ante otras cosas que podrían resultar algo más inusuales. Pero esto no empezó realmente con la tecnología, porque las personas llevan mucho tiempo utilizando el reconocimiento de patrones y las rutinas.
Por ejemplo, fíjese en todas las editoriales que rechazaron la serie de Harry Potter. Aunque, obviamente, contenía elementos de otras obras literarias, era algo tan nuevo que realmente no encajaba en el patrón de lo que las editoriales consideraban un libro infantil de gran éxito. Solo cuando la hija de 8 años del editor escribió una pequeña reseña entusiasta del libro, él decidió que este era el que había que comprar.
“Es muy fácil simplemente aceptar lo que un programa nos propone y cerrar los ojos ante otras cosas que podrían resultar algo más inusuales.”
undefined
El problema de la inteligencia artificial no se limita a la tecnología, sino que se extiende a la tendencia que todos tenemos a seguir lo que nos resulta familiar y a ignorar lo inesperado. Es decir, a ignorar realmente nuestra capacidad para reconocer algo verdaderamente novedoso y estimulante.
Knowlege@Wharton: Usted dijo que la eficiencia se redefinió en el siglo XIX. ¿Qué ocurrió entonces?
Tenner: Sí, el siglo XIX marcó una enorme diferencia. Antes del siglo XIX, las personas siempre se preocupaban por gestionar con el menor coste indirecto, por obtener el máximo con el mínimo, etc., pero no tenían realmente una doctrina al respecto. Uno de los grandes cambios del siglo XIX, con el auge de la máquina de vapor, fue que la gente empezó a preocuparse mucho por cuánto trabajo podía obtenerse de una determinada cantidad de carbón, por ejemplo. ¿Qué máquinas de vapor permitirían a un ferrocarril viajar más rápido con una cantidad dada de combustible? La gente empezó a pensar de forma mucho más sistemática sobre la eficiencia, y eso repercutió en el pensamiento empresarial y social en general.
Knowlege@Wharton: Una de las descripciones que usted utiliza relaciona en ocasiones la eficiencia con una amenaza. ¿Por qué?
Tenner: Creo que la eficiencia como amenaza aparece de varias formas. Si intentamos hacerlo todo de manera eficiente, estamos anulando el poder de la serendipia, que depende de que de vez en cuando tomemos un camino equivocado o de que cojamos un libro que no esperábamos.
De hecho, uno de mis momentos más emocionantes fue cuando John Kennedy Jr., que era editor de la revista George me llamó. Había estado buscando otro libro en una librería y, por casualidad, vio el mío sobre un tema distinto. Nunca habría pensado en colaborar, pero le gustó el libro, así que almorzamos y pude escribir un par de artículos para él.
Recientemente, ha aparecido un artículo en The New York Times sobre la disminución del número de librerías en Nueva York. Así que, posiblemente, esa librería no habría estado allí y yo no habría recibido la llamada. Eso me hizo ver que las librerías son un ejemplo realmente excelente de institución que promovía la serendipia, y que es importante que las personas busquen ese tipo de oportunidades.
Knowlege@Wharton: Usted analiza la eficiencia en distintos ámbitos, y uno de los que hemos abordado es la educación. ¿Qué opina sobre cómo está afectando la eficiencia a nuestro sistema educativo?
Tenner: La educación me fascina de forma natural, porque he estado vinculado a ella de distintas maneras durante la mayor parte de mi vida. Cuando escribí el libro, no me había dado cuenta de que la aplicación de la eficiencia a la educación se remonta en realidad a Thomas Edison en persona. Edison dijo en una ocasión que creía que los libros de texto solo son un 3 % eficientes. Bill Gates afirmó recientemente algo muy similar.
“Si intentamos hacerlo todo de manera eficiente, estamos anulando el poder de la serendipia.”
undefined
Edison pensó que una adaptación de su nuevo sistema de cine podía impulsar de verdad la educación científica, así que creó una empresa para producirlos. Inventó un nuevo tipo de proyector adecuado para las aulas, y fue un fracaso comercial estrepitoso. La razón fue que Edison era un desertor absolutamente brillante, y logró contratar a personal técnico realmente excelente. Su reputación de genio técnico es merecida. Pero nunca había dado clase y tenía una experiencia muy limitada en el sistema. No entendía realmente qué implica la educación científica, ni la educación en general, así que no supo comercializar el producto. Este ha sido un hilo conductor que he descubierto en la mayoría de los programas destinados a hacer más eficiente la educación mediante la tecnología. B.F. Skinner, el psicólogo, fue una de las pocas personas en este campo que realmente había impartido clases. Pero incluso su sistema de aprendizaje programado no tuvo demasiado éxito.
No digo que la tecnología no pueda ser valiosa en la educación. Puede serlo muchísimo, pero hay mucho en la educación que puede mejorarse gracias a lo que se denomina dificultad deseable. Eso significa que alguien que toma apuntes de una clase, por ejemplo, aprenderá más si tiene que parafrasear al profesor a mano que si puede transcribir literalmente con un teclado. Cuando se ve obligado a escribir, cuando tiene esa limitación de escritura, cuando no puede anotarlo todo literalmente, entonces se ve forzado a asimilar por sí mismo y a comprender mejor las grandes cuestiones que plantea el profesor. En cambio, cuando solo puede teclear, simplemente está tecleando. Es lo que los psicólogos llaman fluidez. Y la fluidez no se traduce necesariamente en comprensión.
Knowlege@Wharton: He pensado en eso con mi hija mayor, que está en séptimo curso y tiene permiso para usar la calculadora en ciertos aspectos del aprendizaje de las matemáticas, en lugar de escribir las operaciones y hacerlas a mano.
Tenner: Las calculadoras pueden ser muy útiles en matemáticas. Pueden reducir la parte tediosa. Pero existe el riesgo de que, al eliminar pasos, se convierta el pensamiento matemático en una caja negra. No se llega a entender realmente cómo el ordenador ha llegado al resultado. Creo que debe haber un equilibrio entre lo que los estudiantes hacen mentalmente y lo que hacen con un dispositivo.
Lo interesante de la cultura matemática anterior fue la regla de cálculo, porque era algo a medio camino. Cuando trabajaba en el sector editorial, mi primer jefe, Herb Bailey, que era director de Princeton University Press, seguía utilizando una regla de cálculo para muchos de sus cálculos, porque decía que le permitía visualizar una serie de escenarios. Había dado clases en el ejército durante la Segunda Guerra Mundial, así que procedía de esa cultura tecnológica. Pero creo que había mucho de valor en ello, y sin duda era un director muy, muy eficiente.
Knowlege@Wharton: ¿Puede hablarnos de la paradoja de la eficiencia en el ámbito de la medicina?
Tenner: Ha existido el sueño de una medicina mejor gracias a la tecnología de la información, y hay muchas cosas que los ordenadores pueden hacer para mejorar los resultados médicos, aunque solo sea en la investigación. Me entusiasma mucho la posibilidad de la tecnología en medicina. Sin embargo, muchas cosas han tenido resultados realmente inesperados. Por ejemplo, la historia clínica electrónica ha sido elogiada por políticos, destacados médicos y administradores como una forma de eliminar todos los costosos malentendidos derivados de la letra manuscrita de los médicos, y de facilitar la mejor transferencia de los historiales médicos de los pacientes.
En principio, la historia clínica electrónica parece algo realmente excelente. Pero el problema es que traslada gran parte de la carga a los médicos y a su personal, que deben introducir la información de forma estandarizada. Además, existen todo tipo de problemas de interoperabilidad de sistemas y de actualización de los mismos. Muchos médicos se quejan del agotamiento profesional, y se han publicado varios artículos al respecto en revistas médicas. Puede que simplemente no lo estemos haciendo bien, pero lo importante es que, si algo así no se implementa correctamente, el impulso por la eficiencia puede acabar generando menos eficiencia.
“La fluidez no se traduce necesariamente en comprensión.”
undefined
Knowlege@Wharton: ¿Cómo podremos equilibrar ambos lados de este debate sobre la eficiencia?
Tenner: Realmente depende del comportamiento de cada persona. No es algo que pueda decidirse mediante políticas públicas. Si las personas quieren delegar en los algoritmos la mayor parte posible de sus vidas, hay muchas empresas que estarán encantadas de hacerlo por ellas. Mi libro sugiere que, además de utilizarlos, también cultivemos otras cosas.
Por ejemplo, tenemos mucho de lo que los sociólogos y psicólogos de la tecnología llaman conocimiento tácito. Sabemos mucho más de lo que pensamos: cosas que no podemos articular y que son imposibles de incorporar a los sistemas de inteligencia artificial, pero que son esenciales para la vida cotidiana. Piense en el significado de un refrán desconocido. Un niño pequeño puede decirle, por ejemplo, qué significa “a stitch in time saves nine”, porque pensamos de manera metafórica. Es algo natural. Alguien de otra cultura probablemente también pueda explicarle su significado. Pero para un algoritmo es mucho, muchísimo más difícil dar ese salto, a menos que tenga programada alguna base de datos con el significado de ese refrán concreto. Lo maravilloso del razonamiento humano es que disponemos de este acervo de habilidades y conocimientos que no podemos articular, pero que están ahí cuando los necesitamos.
Una de las cosas fascinantes de la inteligencia artificial y de la orientación informática en general es que, cuando los fabricantes de aeronaves avanzadas diseñan los sistemas de control, no confían nada realmente crucial a un único ordenador. Utilizan múltiples sistemas redundantes, programados por personas distintas con hardware y software diferentes. La idea es que puede haber un sistema como Waze que cometa un fallo, pero es poco probable que varios sistemas independientes cometan el mismo error al mismo tiempo. Este tipo de redundancia es una forma de evitar algunos de los problemas de la inteligencia artificial, pero no aborda este elemento de serendipia, no aborda el elemento de sorpresa. Gran parte del progreso humano ha consistido en que las personas den ese salto más allá de los patrones establecidos y encuentren, de forma intuitiva, formas más interesantes de pensar.
Por eso tantos libros de gran éxito fueron rechazados en un principio o publicados a regañadientes, como Moby Dick. Moby Dick parecía un libro realmente extraño que rompía todas las reglas. Las ventas iniciales no fueron tan buenas, y un algoritmo quizá lo habría descartado por completo. Pero lo importante es que se trataba de alguien con una visión original y deslumbrante, capaz de expresarla de un modo nuevo que no encajaba en ninguno de esos patrones.
Knowlege@Wharton: ¿Cómo se relaciona esta preocupación por la eficiencia con lo que hemos visto recientemente en torno a las redes sociales y el intercambio de datos?
Tenner: Los problemas de las redes sociales son que tienden a reforzar lo que ya existe. Tienden a basarse en las tendencias. Por ejemplo, se han realizado estudios sobre cómo las personas valoran las canciones. Y lo que descubren es que una pequeña diferencia en la preferencia inicial de un oyente puede crecer como una bola de nieve y distorsionar de verdad lo que la gente pensaría, de otro modo, sobre la calidad de las canciones.
Ese sesgo existe. Pero creo que también está el problema de que las redes sociales, al quitar tantos ingresos publicitarios a los periódicos y las revistas, también han transformado realmente el entorno mediático en su conjunto y debilitado el tipo de información y escritura originales que deberían ser la base de las redes sociales. En cierto modo, se han socavado a sí mismas.
