El problema del filtro burbuja. Cómo la red decide lo que leemos y lo que pensamos

«Apenas es posible sobrestimar el valor que tiene para la mejora de los seres humanos aquello que los pone en contacto con personas distintas a ellos y con maneras de pensar y obrar diferentes de aquellas con las que están familiarizados. Esa comunicación siempre ha sido una de las fuentes primordiales de progreso, y lo es en especial en la era actual.»

- John Stuart Mill, The Principles of Political Economy

«Si no pagas por algo, no eres el cliente, sino el producto que se vende.»

- Andrew Lewis

El libro de Eli Pariser, El filtro burbuja (Taurus, 2017), aborda el problema fundamental de la privacidad, la seguridad y la transparencia en Internet, que es probablemente la mejora tecnológica más importante de la historia desde la aparición de la maquina de vapor. Se trata de un libro muy bien escrito, ágil, de fina inteligencia, -sensible a la complejidad el fenómeno humano-, y apoyado en una gran variedad de interesantes fuentes.

En un primer momento, Internet prometía un mundo más plano, descentralizado, democrático y moderno. Era el triunfo de lo descentralizado, del mercado, por encima de lo burocratizado. Internet ha favorecido una erosión «poderes centralizados» y ha favorecido un mayor empoderamiento (esa palabra tan en voga y tan mal utilizada por polítologos; empodera el mercado no el «político»), lo que ha permitido un «mayor control sobre nuestra propia vida», como afirmaba Esther Dyson, pionera de la Red. No en vano detrás de la revolución digital subyace un importante movimiento ‘libertarian’, inconformista y de contracultura (véase Fred Turner, From Counterculture to Cyberculture).

Sin embargo, todas estas promesas han topado con límites y no pocos problemas.

En el mundo digital, la seguridad, la privacidad y la transparencia siguen siendo importantes. Poco a poco, y al igual que sucedió con la economía industrial, la nueva economía generó sus propios gigantes: estamos en un escenario más plano, pero seguimos necesitando de «Facebooks» y «Googles» para filtrar, ordenar y, sobretodo, validar la gran cantidad de información que consumimos a diario procurando que sea un dieta equilibrada y que no se nos indigeste.

En esta nueva era de la (sobre)información los datos son el «nuevo petróleo». Sin embargo, es un recurso del cual, hoy por hoy, solo se pueden beneficiar unas pocas empresas «agregadoras», -desde Twitter a AirBnB o Uber-, encargadas de centralizar todos estos datos (filtrar y sesgar), para a la postre poder monetizar este nuevo activo, generalmente, al margen del usuario final, materia prima en todo este proceso.

El pacto implícito en la Red consiste en mejores servicios a cambio de información, pero se trata de un acuerdo asimétrico y opaco que, en cambio, está ejerciendo una cada vez mayor influencia en la manera en la que nos informamos o nos comunicamos con el resto del mundo. Una influencia de la que muchas veces no somos conscientes.

Los grandes players de Internet se defienden -y en parte con razón-, diciendo que sin la personalización y los filtros Internet dejaría de ser útil: sería peor que buscar una aguja en un pajar o un pistacho entre centenares de cascaras. Netflix, por ejemplo, cuenta con más de 140.000 referencias; sin estos filtros basados en el perfil del usuario sería una plataforma impracticable. Muchos lectores hemos descubierto auténticas joyas gracias Amazon, hoy convertido en (casi) el mejor de los libreros. Para su fundador, el visionario y transformador Jeff Bezos, Amazon no quería ser una «tienda de libros» sino una pequeña compañía de «inteligencia artificial» (el valor lo daba el algoritmo que permite conocer al usuario y ofrecerle cada vez mejores productos). Esta misma tecnología la utiliza Google (fundada por dos matemáticos obsesionados con la IA) para, en vez de ordenar preferencias y gustos del usuario, jerarquizar páginas en Internet. Desde 2010 el popular buscador utiliza hasta 57 variables del usuario (desde ubicación, tipo de navegador, paginas consultadas con anterioridad), para adaptar las búsquedas al perfil del usuario.

El uso del big data en Google sirven al propósito de conocer mejor el perfil del usuario para así mejorar los resultados del motor de búsqueda. Facebook (que desde 2010 alimenta el portal de noticias de The Washington Post y de The New York Times), Instagram, Twitter o WhatsApp, se han convertido en grandes «pozos de petróleo», en este caso de datos, con miles de usuarios. Estamos inmersos en una gran carrera por ver quién capaz de captar más y mejor información de un número cada vez mayor de usuarios. Más información equivale a un mejor conocimiento de los perfiles, mejores algoritmos, de manera que podemos ofrecer mejores servicios (oferta más personalizada) al usuario. El usuario se convierte en el contenido.

El triunfo de la información es total, pero la necesidad de filtros (buscadores y todo tipo de algoritmos) resulta ineluctable para ordenar toda esta información y no quedar literalmente sepultados por ella. La gran rivalidad entre Google y Facebook, dos de las mayores compañías que pujan por el liderazgo en las redes, es simplemente una lucha por captar más usuarios y tener una mejor información sobre ellos.

El problema es que todos estos filtros se nos aplican sin que nosotros seamos conscientes de ello. De esta forma, el sesgo inducido por esta creciente Inteligencia Artificial influye enormemente en la manera en la que nos aproximamos a la realidad, como señaló ya en su día Cass Sunstein. En muchos casos, ni la propia empresa conoce el impacto real del sesgo aplicado por el algoritmo que va cambiando según acumula cada vez más y más datos y aprendiendo de la propia experiencia.

El reto es la gran opacidad y poco control de todo este proceso por parte del «teórico» cliente, convertido hoy en producto desechable. Además, estos filtros se edifican sobre los propios sesgos y limitaciones que acumula por defecto la propia mente humana (véase, por ejemplo, el excelente libro de Daniel Kahneman, Pensar deprisa, pensar despacio). Llueve sobre mojado. Estos sesgos tienen múltiples implicaciones que van más allá de cómo nos informamos; influyen también en cómo creamos/innovamos, cómo definimos nuestra identidad o cómo nos comunicamos con los demás, y también tienen importantes limitaciones.

Un filtro, -aunque sea inferido a partir de grandes cantidades de datos-, al final, no es más que una manera de «estereotipar», como acuñó Walter Lippmann, lo que choca frontalmente con el «problema de inducción» formulado por David Hume en el s. XVIII; investigaciones seguidas luego (entre otros) por Karl Popper y, más recientemente, Taleb en su popular libro El cisne negro. Tema complejo que el libro enmarca con solvencia.

El libro de Pariser explora todos estos nudos gordianos que ha ido acumulando Internet, repasando su historia reciente, mostrándonos algunos de los dilemas que tenemos por delante, así como el impacto que se deriva de todo ello. El coste marginal cero, la crisis de atención de los usuarios por el aluvión de noticias, el auge de la inteligencia artificial en todos los recovecos de la red, la falta de jerarquía en el mundo digital, o el cada vez más complejo reparto del poder entre lo centralizado y lo descentralizado son solo algunos de los elementos del complejo mosaico que nos dibuja el autor para aproximarnos una imagen más completa de Internet. Pariser concluye: “a medida que la tecnología dirige cada vez mejor nuestra atención, tenemos que observar atentamente hacia dónde la dirige.”

En 1965, el polifacético científico y escritor Isaac Asimov escribía en uno de sus relatos de ciencia ficción: «Todos los datos recogidos habían llegado a su término final. Nada quedaba por recoger. Pero todo lo recogido tenía que ser completamente correlacionado y unido en todas sus posibles relaciones.» La visión de Asimov ya esta aquí.

Un libro imprescindible para navegar por Internet, que ya es lo mismo que navegar por la vida.