Un padre descubre que su hija está embarazadasu hija está embarazada después de que los algoritmos detecten patrones reveladores en los datos de la tarjeta de fidelización de la familia. La policía acusa a sospechosos en dos casos de asesinato distintos basándose en pruebas obtenidas de unrastreador Fitbit y uncontador de agua inteligente. Un hombre demanda a Uber porrevelarle a su esposa que tenía una aventura.
Últimamente han aparecido cada vez más historias como estas, a medida que las tecnologías implicadas se integran cada vez más en nuestras vidas. Forman parte de laInternet de las cosas (IoT), es decir, la incorporación de sensores y conexiones a internet al tejido del mundo que nos rodea. Durante el último año, estas tecnologías, encabezadas porAlexa de Amazon yHome de Google, han empezado a hacerse notar en nuestra vida doméstica mediante dispositivos dehogar inteligenteque nos permiten controlar todo lo que hay en casa con solo hablar.
Podríamos considerar historias como las anteriores errores técnicos aislados o afortunadas coincidencias que hacen justicia. Pero detrás de ellas ocurre algo mucho más importante: se está desarrollando toda una categoría de tecnologías que pretende rehacer los fundamentos de nuestra vida cotidiana.
Alterar el orden social
Estas tecnologías aspiran a estar en todas partes, abarcar sin fricciones los mundos físico y virtual y darnos un control fluido sobre todo ello. El hogar inteligente promete un futuro en el que tecnologías en gran medida ocultas nos prestan servicios antes incluso de que nos demos cuenta de que los queremos, utilizando sensores para comprender el mundo que nos rodea y orientarse en él por nosotros. Es una promesa de alcance casi ilimitado y comodidad sin esfuerzo.
También es totalmente incompatible con las realidades sociales. El problema es que nuestras vidas están llenas de límites, y esto se ve con especial claridad en el hogar familiar, al que se dirigen muchas de estas tecnologías. Desde dentro, estos lugares suelen parecer caóticos, pero en realidad están muy ordenados. Es un mundo lleno de fronteras y jerarquías: quién puede entrar en qué habitaciones, quién tiene el mando del televisor, con quién se comparten los secretos y a quién se le ocultan.
Mucho de esto es cotidiano, pero si quieres ver lo importantes que son para nosotros estos sistemas de orden, piensa en los«experimentos de ruptura»que realizó el sociólogo Harold Garfinkel en la década de 1960. Garfinkel se propuso quebrantar deliberadamente las reglas que sustentaban el orden social para ponerlas al descubierto. Se demostró que realizar de manera equivocada la interacción más rutinaria provocaba en los demás reacciones que iban desde la angustia hasta la violencia manifiesta. Puedes probarlo tú mismo. Cuando estés sentado a la mesa, intenta comportarte con total normalidad, salvo por tararear en voz alta cada vez que alguien empiece a hablar, y observa cuánto tarda alguien en perder los estribos.
Las tecnologías del hogar inteligente cuestionan nuestros órdenes de innumerables maneras pequeñas. Una limitación fundamental es su incapacidad para reconocer fronteras que damos por sentadas. Hace una semana viví algo así mientras estaba sentado en el salón de mi casa. Al resbalarme un dedo por accidente, transmití desde mi teléfono a la televisión de mi vecino un vídeo de YouTube (bastante subido de tono), para gran sorpresa de su hija de cuatro años, que estaba viendoLa patrulla canina.
Bastó literalmente con pulsar un botón que no se puede desactivar. También influyó que tuviera en el teléfono la contraseña de la red wifi de mis vecinos, porque de vez en cuando cuido a su hija. Para la tecnología actual del hogar inteligente, quienes comparten una red wifi lo comparten todo.
Claro que aún tenemos contraseñas que, al menos, ofrecen algunos límites rudimentarios. Sin embargo, las tecnologías del hogar inteligente son muy buenas para generar datos que no encajan en las ordenadas casillas personalizadas que ofrecen las tecnologías de consumo. Estos datos interpersonales se refieren a grupos, no a individuos, y las tecnologías inteligentes actuales son muy torpes a la hora de gestionarlos. A veces esto se manifiesta de forma divertida, como cuando unos padres descubren que se ha añadido «pedos enormes» a la lista de la compra generada por Alexa. Otras veces las consecuencias son mucho más graves, como en la historia anterior de la hija embarazada.
En nuestra propia investigación sobre este fenómeno, mis colegas y yo hemos descubierto otro problema. A menudo, esta tecnología comete errores y, si usa el dato equivocado en el contexto equivocado, las consecuencias pueden ser desastrosas. Enun estudio que realizamos, un asistente digital acabó informándole a una esposa que su marido había pasado toda la jornada laboral en un hotel de la ciudad. Lo único que había ocurrido en realidad era que un algoritmo había interpretado mal la pérdida de una señal GPS, pero en una relación con poca confianza una sospecha así podría ser motivo de divorcio.
Rechazar la recodificación
En gran medida sin saberlo, estas tecnologías intentan recodificar algunos de los patrones más básicos de nuestra vida cotidiana, concretamente cómo convivimos con las personas más íntimas. Por tanto, su incorporación a nuestros hogares como productos de consumo constituye un vasto experimento social. Si la experiencia de utilizarlas desafía demasiado nuestros órdenes actuales, lo más probable es que acabemos rechazándolas.
Eso es lo queocurrió con Google Glass, las gafas inteligentes con cámara y pantalla frontal integrada. Dejaban demasiado margen para transgredir nuestras nociones de conducta apropiada. Esta incomodidad incluso dio lugar al término despectivo «Glasshole» para describir a quienes las usaban.
Sin duda, los gigantes tecnológicos que venden estos productos seguirán ajustándolos con la esperanza de evitar resultados similares. Sin embargo, persiste un desafío fundamental: ¿cómo se puede enseñar a las tecnologías que se venden por su comodidad las complejidades y los matices de nuestros mundos privados? Y, al menos, ¿cómo hacerlo sin tener que guiarlas constantemente, lo que anularía por completo su propósito de facilitarnos la vida?
Su enfoque actual —pasar por encima del entramado social del hogar— no es sostenible. Mientras no llegue el día en que tengamos sistemas de IA capaces de comprender los mundos sociales humanos, puede que el hogar inteligente que nos prometen acabe siendo mucho más limitado de lo que imaginan sus promotores. Por ahora, si participas en este experimento, el consejo es proceder con cautela, porque en lo que respecta a las relaciones sociales, el hogar inteligente sigue siendo bastante tonto. Y ten mucho cuidado de no transmitir cosas a la televisión de tu vecino.
