En 2005, el ya fallecido escritor David Foster Wallace pronunció un discurso de graduación hoy muy famoso de apertura de curso. Comienza con la historia de los peces en el agua, que pasan la vida sin siquiera saber qué es el agua. Ingenuamente, no son conscientes del océano que permite su existencia ni de las corrientes que los transportan.
La educación más importante que podemos recibir, explica Wallace, «no consiste realmente en la capacidad de pensar, sino en elegir sobre qué pensar». Habla de apreciar la riqueza de la humanidad y la sociedad. Pero lo que me ha fascinado, como alguien que trabaja en el sector tecnológico, es el concepto central de la metacognición: examinar y revisar aquello que elegimos contemplar.
Por mucho que el código, la computación y los datos puedan parecer mecánicamente neutros, no lo son. Los productos y servicios tecnológicos los crean personas que incorporan sus prejuicios y sus errores de razonamiento directamente en ellos, lo que a su vez moldea el comportamiento humano y la sociedad, a veces de forma aterradora. Por ejemplo, se puede sostener que la dependencia de los medios en línea del periodismo sensacionalista diseñado para atraer clics, y el papel de Facebook en la difusión de «noticias falsas» u otras historias sensacionalistas influyeron en los resultados de las elecciones presidenciales de Estados Unidos de 2016. Esta crítica no se dirige en absoluto hacia afuera; nace de la reflexión sobre uno mismo.
Estudié ingeniería en la Universidad de Stanford y, en aquel momento, pensaba que eso era todo lo que necesitaba estudiar. Me centré en resolver problemas del ámbito técnico y aprendí a ver el mundo a través de ecuaciones, axiomas y líneas de código. Encontraba belleza y elegancia en los problemas de optimización bien planteados, las demostraciones matemáticas ordenadas y los ingeniosos algoritmos eficientes en tiempo y espacio. En cambio, las clases de humanidades me parecían ejercicios tediosos y recargados que buscaban encontrar significado donde no lo había. Cumplí diligentemente con los requisitos de formación general en razonamiento ético y comunidad global. Pero desdeñaba la idea de que esos cursos pudieran aportarme algún valor real.
Al graduarme, empecé a trabajar como ingeniero de software en una pequeña empresa emergente, Quora, que entonces estaba formada por solo cuatro personas. En parte porque era mi primer empleo a tiempo completo y en parte porque la empresa y nuestro producto —un sitio de preguntas y respuestas— estaban en una etapa muy inicial, por primera vez me encontré reflexionando a fondo sobre en qué estaba trabajando, con qué propósito y por qué.
Ya no trabajaba en un mundo delimitado por planes de estudio, listas de problemas, tareas de programación y objetivos previstos para cada curso. Tampoco programaba siguiendo especificaciones, porque no las había. Mientras mis compañeros y yo desarrollábamos el producto, también definíamos al mismo tiempo qué debía ser, a quién serviría, qué comportamientos queríamos incentivar entre nuestros usuarios, en qué tipo de comunidad se convertiría y qué valor esperábamos aportar al mundo.
Seguía disfrutando de sumergirme en el código y entrar en un estado de concentración plena: esas sesiones intensivas de programación que duraban horas, en las que podía dejar todo lo demás de lado y centrarme únicamente en las tareas de ingeniería que tenía entre manos. Pero también llegué a comprender que ese alejamiento de la realidad y del contexto social solo podía ser temporal.
La primera función que desarrollé cuando trabajaba en Quora fue el botón para bloquear usuarios. Aunque la comunidad apenas contaba con unos miles de personas, ya había quienes parecían disfrutar siendo molestos y ofensivos. Tenía muchas ganas de trabajar en esa función porque yo mismo me sentía atacado y maltratado en el sitio (mi género bien podría haber sido una de las razones). Por eso, quería contar de inmediato con una función de bloqueo. Pero, de no haber tenido esa perspectiva personal, es posible que el equipo de Quora no hubiera dado prioridad a crear un botón de bloqueo tan pronto en la historia del sitio.
Nuestra reflexión sobre el diseño contra el acoso también se cruzaba ampliamente con la que hacíamos sobre la libertad de expresión y la moderación. Nos planteamos la pregunta filosófica —también muy pertinente para nuestro producto— de si las personas son buenas o malas por naturaleza. Si la mayoría fueran buenas, diseñaríamos el producto partiendo de que podíamos confiar en los usuarios, con controles para revertir las acciones de quienes se comportaran mal en casos excepcionales. Si fueran malas por naturaleza, sería mejor someter todas las contribuciones y modificaciones de los usuarios a colas de aprobación para que las revisaran los moderadores.
Debatimos las consecuencias para el diálogo abierto: si confiábamos de entrada en los usuarios y luego llegaba un gran número de usuarios «de baja calidad» (¿y hasta qué punto era apropiado etiquetarlos así?), ¿qué efecto degradante podría tener eso en la comunidad? Pero si no confiábamos en los miembros de Quora y siempre dábamos preferencia a los usuarios existentes que considerábamos «de alta calidad», ¿acabaríamos formando una comunidad de nicho, anquilosada y conservadora, con opiniones rígidas, que rechazara a los recién llegados y las ideas nuevas?
Al final, optamos por inclinarnos hacia una plataforma abierta y libre, confiando tanto en las personas como en las normas comunitarias positivas y en nuestra capacidad de promoverlas mediante la ingeniería y el diseño. Quizá, y probablemente, fue la decisión correcta. Pero también hemos visto cómo ese mismo sesgo en el diseño de otra plataforma pública, más concisa, ha dado poder y protagonismo a abusadores, acosadores y troles, hasta convertirlos en motivo de preocupación nacional e internacional.
En Quora y, más tarde, en Pinterest, también trabajé en los algoritmos que impulsaban sus respectivas páginas de inicio: las secuencias de contenido que se mostraban a los usuarios al iniciar sesión y las vistas predeterminadas que les ofrecíamos. Parece bastante sencillo querer mostrar a los usuarios contenido «bueno» cuando abren una aplicación. Pero ¿qué hace que un contenido sea bueno? ¿El objetivo es ayudarles a descubrir ideas nuevas y ampliar sus horizontes intelectuales y creativos? ¿Mostrarles exactamente el tipo de contenido que ya saben que les gusta? ¿O, lo más fácil de medir, mostrarles el contenido en el que más probablemente hagan clic y que compartan, y que hará que pasen más tiempo en el servicio?
Ahora, con pesar y cierta vergüenza por la actitud condescendiente que tenía de joven hacia las humanidades, desearía haber aspirado a una verdadera formación en artes liberales. Desearía haber aprendido a pensar de forma crítica sobre el mundo en que vivimos y a relacionarme con él. Desearía haber asimilado enseñanzas sobre cómo identificar y cuestionar los privilegios, las estructuras de poder, la desigualdad estructural y la injusticia. Desearía haber tenido la oportunidad de debatir con mis compañeros y desarrollar opiniones fundamentadas sobre filosofía y moral. Y, más aún, desearía haber comprendido que estos eran temas valiosos para ocupar mi mente, y que todo mi trabajo de ingeniería estaría enmarcado por ellos.
Me preocupa que tantas de las personas que hoy construyen tecnología sean como yo: personas que no han dedicado ni de lejos suficiente tiempo a pensar en estas grandes preguntas sobre qué estamos construyendo y qué consecuencias tendrá para el mundo.
Pero nunca es demasiado tarde para sentir curiosidad. Cada uno de nosotros puede elegir aprender, leer, hablar con otras personas, viajar y participar en la vida intelectual y ética. Espero que todos lo hagamos, para que podamos reconocer toda la complejidad y el asombro del mundo en que vivimos y diseñar su futuro con reflexión.
