Nuestras vidas están regidas por datos. No solo porque informan a las empresas sobre lo que queremos, sino porque nos ayudan a recordar y diferenciar lo que queremos, lo que necesitamos y lo que podemos ignorar. Todas estas decisiones dan lugar a patrones, y estos, al agregarse, nos ofrecen una imagen de nosotros mismos. Un mundo en el que dichos patrones nos siguen, o incluso se nos adelantan —a los restaurantes, para avisarles si tenemos alergias; a las tiendas, para informarles de nuestra talla de ropa preferida— es ahora tan factible que calificarlo de ciencia ficción revelaría más una falta de conocimiento que de imaginación.
Los beneficios de la IA hacen que muchas de nuestras decisiones sean más fáciles y cómodas y, al hacerlo, intensifican la competencia en el ámbito de la elección del cliente. A medida que avanza esta evolución, la cuestión ya no es tanto en qué medida la IA enmarca nuestras elecciones, sino cómo las moldea. En un mundo así, necesitamos comprender cuándo se está moldeando nuestro comportamiento y por quién.
Es evidente que la mayoría de nosotros vive bastante cómodamente en un mundo en el que nuestras decisiones están moldeadas por la IA. De hecho, ya vivimos en un mundo así: desde los motores de búsqueda hasta la fluidez del tráfico, muchas de nuestras comodidades diarias se sustentan en la velocidad que proporciona el backend. La pregunta que debemos hacernos al considerar la IA y su gobernanza es si nos sentimos cómodos viviendo en un mundo en el que no sabemos si, ni cómo, estamos siendo influenciados.
¿Sesgo conductual o señales conductuales?
La IA puede hacer por nuestra comprensión del comportamiento lo que el microscopio hizo por la biología.
Ya hemos llegado al punto en que el software puede descubrir tendencias en nuestros patrones de comportamiento que quizá no consideremos, identificando rasgos que nuestros amigos y familiares no conocerían. La famosa, aunque apócrifa, historia del padre que descubrió que su hija estaba embarazada cuando Target empezó a enviarle anuncios de artículos para bebés (tras detectar un cambio en sus gastos) nos ofrece un adelanto.[i]
Nuestras vidas ya están regidas por supuestos probabilísticos, diseñados para impulsar el comportamiento. Ahora debemos preguntarnos, y responder con honestidad, cuánto de su vida está dispuesto a dejar que moldeen algoritmos que no comprende. Más importante aún, ¿quién debería encargarse de supervisar estos algoritmos para señalar cuándo han tomado una mala decisión o una intencionadamente manipuladora?
A medida que más empresas utilizan la IA y la complejidad de sus conclusiones sigue creciendo, nos enfrentaremos a una brecha que va más allá del derecho a la comprensión o del derecho a ser informado: nos enfrentaremos a una brecha relativa a cuándo, y si, se ha producido siquiera una infracción.
A medida que crece nuestra presencia digital, y esta se ve influida tanto por las directrices públicas sobre el futuro de la administración electrónica como por las privadas sobre la forma en que interactuamos con nuestros intereses, una gobernanza significativa deberá incluir un primer paso esencial: el derecho a saber cómo se utilizan nuestros datos, quién los tiene y cuándo los usan.
Otro ejemplo de cómo el comportamiento y la tecnología interactúan a un ritmo más rápido que nunca es lo que los chatbots han demostrado que nos ofrecen: el potencial de crear asociaciones emocionales, que podrían utilizarse con fines manipuladores.[ii] A medida que los avances en el procesamiento del lenguaje natural se combinan con la robótica avanzada, también crece el potencial de forjar ese vínculo a través del tacto, la calidez y el confort, especialmente en un mundo en el que experimentamos la mayor epidemia de soledad, lo que llevó al Reino Unido a literalmente nombrar a un ministro de la soledad.
A medida que los datos máquina a máquina crecen en el internet de las cosas, las empresas con acceso preferente tendrán cada vez más información sobre aspectos cada vez más minuciosos de patrones de comportamiento que nosotros mismos quizá no comprendamos, y con ello llega una poderosa capacidad para orientar el comportamiento. Los buenos datos no solo se refieren al volumen, sino a la veracidad: a medida que crece el IoT, les estamos entregando en bandeja de plata todo lo que necesitan saber sobre nosotros.
Aún podemos argumentar que el problema no es el volumen, sino la asimetría de la competencia analítica para gestionar ese volumen, es decir, asimetrías en la captura de valor. A su vez, esto significa que algunas empresas no solo nos comprenden, sino que pueden predecir nuestro comportamiento hasta el punto de saber cómo influir de la forma más eficaz en una elección concreta. En la era del big data, el mejor negocio es el negocio de la información.
Responsabilidad: ¿quién vela por nosotros?
La primera cuestión relativa a la construcción de la responsabilidad es cómo mantener a las personas en el circuito de decisión de los procesos que la IA vuelve más autónomos. La siguiente etapa debe preservar la responsabilidad en el derecho a comprender, es decir, a saber por qué un algoritmo tomó una decisión y no otra.
Ya están surgiendo nuevas propuestas sobre cómo hacerlo; por ejemplo, cuando determinados proyectos de IA son aspectos propietarios de la competitividad de una empresa, quizá podamos utilizar sistemas contrafactuales para evaluar todas las opciones posibles a las que se enfrenta una IA.[iii] Pero los sistemas que cartografían las decisiones sin romper la caja negra no podrán ofrecer la justificación por la que ese algoritmo tomó una decisión y no otra.
Sin embargo, el problema es aún más profundo. El problema de los modelos de transparencia es el supuesto de que sabremos siquiera qué buscar, de que sabremos cuándo es necesario optar por no permitir el uso de nuestros datos por parte de una empresa. En un futuro próximo, es posible que no podamos comprender por nosotros mismos cuándo una IA nos está influyendo.
Esto nos lleva a una cuestión fundamental: para gobernar la IA, quizá necesitemos usar IA.
Necesitaremos IA no solo para comprender cuándo se nos influye de forma abierta, sino también para entender las nuevas formas emergentes en que las empresas pueden aprovechar la microcomprensión de nuestro comportamiento. La capacidad de los marcos jurídicos vigentes, de las instituciones políticas existentes y de los estándares de responsabilidad actuales para comprender, predecir y detectar el uso de la IA con fines manipuladores es claramente insuficiente.
La colusión algorítmica ya es un problema: los cárteles de precios dan paso a problemas de precios emergentes que pueden desaparecer, sin acuerdo previo, eludiendo así las primeras reclamaciones.[iv] Podemos imaginar un mundo en el que la colusión no esté organizada por el mercado, sino mediante el seguimiento del comportamiento de distintos grupos de individuos para organizar cambios de precios microsegmentados.
Naturalmente, surgen preguntas: ¿quién gobernará la IA que utilizamos para vigilar la IA? ¿Cómo sabremos que no se está produciendo colusión entre los vigilantes y los vigilados? ¿Qué tipo de sistema de transparencia necesitaremos para que una IA gobernante minimice las exigencias de transparencia dirigidas a la IA corporativa?
El futuro de la gobernanza de la IA se decidirá en los márgenes: lo que debemos vigilar es menos la cambiante estructura de la colusión y la manipulación que la conducta y la capacidad de una IA competente para encontrar el número mínimo de puntos de influencia para moldear la toma de decisiones.
Necesitamos mantener una conversación para dejar meridianamente claros nuestros supuestos y creencias sobre la fijación de precios, la colusión y la manipulación. En la era de la IA, no podemos permitirnos ser vagos.
