Hoy vivimos en un mundo de clasificación y toma de decisiones algorítmicas: plataformas de redes sociales que recopilan nuestros datos y presentan y ocultan contenidos de distintas formas en nuestros canales; algoritmos de recomendación utilizados para la publicidad segmentada; algoritmos de búsqueda que muestran resultados personalizados; y algoritmos predictivos que pueden influir en nuestras posibilidades de obtener un préstamo o determinar cuánto pagamos por el seguro de salud.
¿Qué se esconde dentro de estas “cajas negras”? ¿Cómo pueden comprenderse, gobernarse y hacerse responsables? Se trata de cuestiones sociales complejas que requieren con urgencia un debate público. A continuación presentamos doce posibles escenarios para la rendición de cuentas y la gobernanza algorítmicas.
Los seis primeros escenarios se centran en el empoderamiento individual y en la capacidad de acción de las personas frente a los algoritmos y las plataformas. Se organizan en un continuo que va desde usuarios finales que son meros espectadores desvinculados hasta individuos que negocian con las empresas en pie de igualdad. Al pasar de un escenario a otro, la rendición de cuentas algorítmica evoluciona de la opacidad a la transparencia; de la falta de conciencia a la capacidad de acción; de la ausencia de control sobre el uso de los datos a la plena propiedad y al reparto de los beneficios de las externalidades positivas; y de la falta de conciencia a un acuerdo público global sobre los valores que los algoritmos deberían incorporar.
1. Abrumar a quienes no son conscientes
Aquí los ciudadanos desconocen qué ocurre con sus datos y cómo se clasifican y ordenan. No está claro de qué modo la información con la que interactúan puede estar sesgada de distintas maneras. Estas asimetrías de información se logran mediante una jerga jurídica compleja en los acuerdos de condiciones del servicio, que resultan opacos sobre el uso de los datos. Todos los riesgos y responsabilidades recaen en el usuario individual, que, en esencia, carece de capacidad de acción.
2. Que el usuario tenga cuidado
Aquí las condiciones del servicio incluyen información sobre la cesión de datos a terceros, las estrategias publicitarias y el acceso a datos privados. Las plataformas hacen un esfuerzo por explicar el alcance de las publicaciones: el porcentaje de la audiencia del usuario que probablemente la verá, o cómo se filtra lo que ven los usuarios en función de sus preferencias, ubicación e historial de actividad. Aunque el objetivo es reducir la brecha de información, los riesgos y responsabilidades siguen recayendo en el individuo, que carece de capacidad de acción.
3. Interfaz de panel de control
Aquí los usuarios pueden acceder a la información y controlarla, y personalizar su relación con la plataforma. Pueden aceptar compartir su información con aplicaciones de terceros a cambio de determinadas recompensas. Esta experiencia de activar o desactivar el uso de datos es fácil de usar, lo que permite a los usuarios adaptar las soluciones a sus necesidades individuales concretas.
4. Contrato inteligente
Aquí el usuario y la plataforma suscriben un “contrato inteligente” en el que acuerdan colectivamente derechos y responsabilidades. Estos contratos se basan en una cadena de bloques capaz de ejecutarse mediante un mecanismo de activación automatizado integrado en el contrato. Todas las decisiones de activar o desactivar se especifican y pueden incluir determinadas disposiciones para el caso de incumplimiento del contrato. Aquí los usuarios individuales tienen capacidad de acción y se benefician de mecanismos de protección integrados. Si se activan los mecanismos de protección, se crea un registro público que detalla el comportamiento de la empresa. Los usuarios reciben una compensación por tales incumplimientos.
5. Beneficios compartidos
Este escenario contempla un modelo de negocio en el que los usuarios son beneficiarios económicos de los beneficios que generan sus datos. Puede funcionar en combinación con los anteriores, pero se centra esencialmente en un enfoque de monetización más equitativo, centrado en el usuario e inclusivo. Las empresas siguen obteniendo beneficios, pero estos se comparten con los usuarios que los generan.
6. Acuerdo público sobre valores
Este escenario establece un conjunto de valores acordados, surgido tras un debate público sobre qué comportamiento es aceptable por parte de las plataformas, incluido el modo en que los datos se clasifican algorítmicamente y se presentan a los usuarios. Este acuerdo público sobre valores abarca, por tanto, lo que se considera ético, justo y legal.
Los seis escenarios siguientes se centran en una serie de posibles modelos de gobernanza y rendición de cuentas que van desde la gobernanza privada hasta un enfoque supranacional multipartito. El escenario que prevalezca tendrá consecuencias importantes para el sistema regulador y el futuro de muchas industrias basadas en datos.
7. Gobernanza privada
Las empresas deciden avanzar hacia los escenarios n.º 2 a n.º 6 como parte de su estrategia, sin verse obligadas a ello. Las plataformas deciden que necesitan ofrecer condiciones del servicio más comprensibles o un mecanismo, por ejemplo un panel de control que permita a los usuarios activar o desactivar los requisitos de acceso de cada aplicación.
8. Responsabilidad ante un organismo nacional gubernamental
Dadas las posibles implicaciones sociales de gran alcance, por ejemplo de los algoritmos que sustentan las plataformas de redes sociales, este escenario subraya que no pueden dejarse como cajas negras. Un organismo nacional gubernamental se encarga de hacer cumplir las condiciones de gobernanza. Sus facultades incluyen multas por incumplimiento y sanciones y, en última instancia, puede recurrir al uso de la fuerza. Las limitaciones de la legislación nacional probablemente incidirán en la capacidad de una empresa para eludir los acuerdos de gobernanza.
9. Organismo internacional de gobiernos
Dada la probable dificultad de que las empresas tecnológicas eludan los acuerdos de gobernanza nacionales, se crea un organismo internacional integrado por representantes de los gobiernos nacionales para hacer cumplir los acuerdos de gobernanza algorítmica. Se realiza un esfuerzo por recopilar y promover la normalización de la legislación nacional que incide en los mecanismos de gobernanza.
10. Organismo supranacional multipartito
Si tanto los organismos gubernamentales nacionales como los internacionales no están preparados para auditar algoritmos, se crea un organismo supranacional e independiente multipartito. Está integrado por miembros a título individual, encargados colectivamente de auditar la ética y el impacto social de los algoritmos. Incluye representantes de una amplia variedad de partes, como los medios de comunicación, el mundo académico, los organismos de gobernanza de internet y los hackers que auditan en los casos en que se concede acceso o buscan la forma de aplicar ingeniería inversa cuando no lo hay.
11. Los algoritmos como utilidad pública
Cuando ciertas plataformas se han convertido de facto en internet (debido al enorme número de usuarios que acceden a internet únicamente a través de esa plataforma), estas ya no pueden limitarse a servir a los accionistas ni funcionar con el objetivo principal de generar máximos beneficios. En cambio, como utilidades públicas, se financian en parte con impuestos recaudados a nivel internacional, lo que reduce o elimina por completo la necesidad de monetizar los datos de los usuarios.
12. Periodistas como agentes de la rendición de cuentas
Este último escenario sitúa a los periodistas de investigación en el centro de la supervisión de la rendición de cuentas algorítmica. Las necesidades y los servicios de información pública que participan de forma central en la prestación de estos servicios se supervisan y examinan de forma continua en cuanto a los servicios que prestan y a cómo pueden variar entre los usuarios, lo que saca a la luz políticas informativas potencialmente problemáticas.
Estos escenarios no son una hoja de ruta, sino que pretenden fomentar el pensamiento a largo plazo y generar un debate público adicional. En última instancia, nos preguntamos: ¿qué esfuerzos pueden y deben realizarse para abordar estas cuestiones?
La Summit on the Global Agenda 2015 tiene lugar en Abu Dhabi del 25 al 27 de octubre
Autores: Pia Mancini, Director de Net Democracy, y Farida Vis, Director del Visual Social Media Lab, Faculty Research Fellow, Information School, Universidad de Sheffield. Ambos son miembros del Foro Económico Mundial, concretamente del Global Agenda Council on Social Media.
Imagen: Un hombre habla por teléfono mientras navega por internet en su portátil en una cafetería del centro de Shanghái, el 28 de noviembre de 2013. REUTERS/Carlos Barria
