Las tecnologías de seguimiento podrían ayudar a vigilar la propagación de la COVID-19.
Sin embargo, también plantean interrogantes sobre la privacidad y la gestión de datos.
Estas son cuatro formas de garantizar el uso responsable de estas tecnologías, entre ellas, asegurar una supervisión independiente.
En la lucha contra la COVID-19, la gobernanza tecnológica se encuentra en una encrucijada clara. Puede formar parte del debate sobre la recuperación y propiciar una cooperación mundial entre los sectores público y privado para garantizar un uso fiable de la tecnología. O podríamos presenciar una renuncia drástica a las libertades públicas en nombre del uso de tecnologías de vigilancia en la batalla continua contra el coronavirus y posibles virus nuevos.
Muchas empresas tecnológicas y al menos 30 gobiernos han empezado a proponer o implementar herramientas de seguimiento. Privacy International ha estado recopilando estas iniciativas, que muestran la amplia variedad de enfoques en materia de privacidad y respeto de las libertades. La falta de un marco de gobernanza común es evidente.
Las tecnologías de seguimiento que utilizan teléfonos inteligentes podrían ayudar a vigilar la evolución del virus entre la población y prevenir rápidamente la aparición de nuevos grupos de casos confirmados, lo que ayudaría a los países a salir del confinamiento. Pero también conllevan riesgos graves para la privacidad, asociados a la recopilación de datos de salud de la ciudadanía y al seguimiento de sus movimientos. Estas herramientas podrían dar lugar a una vulneración sin precedentes de nuestras libertades, a menos que los gobiernos y las empresas tecnológicas adopten marcos de gobernanza sólidos y se apoyen en una cooperación genuina.
«Puede que no haya vuelta atrás si se abre la caja de Pandora», señaló Irakli Beridze, director del Centro de Inteligencia Artificial y Robótica del Instituto Interregional de las Naciones Unidas para Investigaciones sobre la Delincuencia y la Justicia (UNICRI), en un artículo.
¿Cómo podemos atravesar la zona gris del fin de los confinamientos sin vulnerar ninguna libertad?
El Centro para la Cuarta Revolución Industrial del Foro Económico Mundial puso en marcha recientemente un proyecto piloto en Francia para probar un marco de gobernanza para el uso responsable del reconocimiento facial. Este trabajo ofrece cuatro lecciones para garantizar el uso responsable de las tecnologías en un mundo pos-COVID-19.
1. Adoptar un enfoque con múltiples partes interesadas
La COVID-19 permite que las empresas tecnológicas asuman un nuevo liderazgo en las infraestructuras de salud o seguridad, ámbitos que históricamente han estado a cargo de los gobiernos. Un enfoque con múltiples partes interesadas podría ayudar a equilibrar y coordinar las funciones de los sectores público y privado, y a anteponer los derechos de la ciudadanía en los ámbitos local, regional y mundial.
2. Identificar claramente las posibles limitaciones
Es fundamental acordar cuáles deben ser los objetivos y los límites de las tecnologías de seguimiento. Por ejemplo, el Berkman Klein Center de la Universidad de Harvard ha creado una herramienta que reúne muchas de las iniciativas destinadas a garantizar enfoques éticos de la IA. Los responsables de formular políticas y las empresas tecnológicas deben examinar nueve principios fundamentales y plantear preguntas que ayuden a definir los requisitos esenciales de cualquier herramienta.
Sesgo y discriminación: ¿La herramienta presenta algún sesgo o riesgo de discriminación y, de ser así, cómo pueden mitigarse?
Proporcionalidad: ¿Qué contrapartidas implica la herramienta?
Privacidad: ¿La herramienta respeta las normas de «privacidad desde el diseño» que garantizan que la privacidad sea una prioridad?
Rendición de cuentas: ¿Qué modelo de rendición de cuentas se aplica a las auditorías externas?
Prevención de riesgos: ¿Cuál es el proceso de mitigación de riesgos si algo sale mal?
Rendimiento: ¿Cuál es el rendimiento y la precisión del sistema, y cómo se evalúan?
Derecho a la información: ¿Están los usuarios bien informados sobre el intercambio de datos?
Consentimiento: ¿Cómo se garantiza que los usuarios otorguen su consentimiento libre, explícito e informado?
Accesibilidad: ¿La herramienta es accesible para todas las personas, incluidas las personas con discapacidad?
3. Garantizar una evaluación interna continua
Una vez establecidos los principios, el siguiente paso es garantizar que el sistema cumpla los requisitos. Una forma de hacerlo es redactar una lista de preguntas que oriente al equipo de producto para que compruebe internamente el cumplimiento. Este cuestionario ayuda a cerrar la brecha entre los principios políticos y los requisitos técnicos.
Por ejemplo, IBM Research cuenta con un marco llamado «FactSheets» para aumentar la confianza en los servicios de IA; Google ha propuesto recientemente un marco para la auditoría algorítmica interna, y Microsoft, una lista de principios de IA y herramientas para aplicarlos internamente. Estos proyectos prometedores podrían servir como buenas prácticas para otras empresas tecnológicas.
4. Designar a una entidad independiente para la supervisión
Además del cuestionario interno, también debe haber una supervisión externa de los sistemas a cargo de una entidad independiente. La confianza depende de que este organismo independiente pueda acceder al sistema para realizar verificaciones.
La historia reciente demuestra que la necesidad de auditorías o de reformar las auditorías se dispara tras las crisis. Por ejemplo, la Ley Sarbanes-Oxley de 2002, que creó nuevas regulaciones para responder al fraude en los servicios financieros, surgió tras la quiebra de Enron. En la industria aeroespacial, los recientes accidentes del Boeing 737MAX podrían dar lugar a una nueva serie de controles más estrictos.
Hasta ahora, las empresas tecnológicas han eludido en gran medida las auditorías externas, incluso cuando se han denunciado fallos en la protección de la ciudadanía que han provocado escándalos. Por ejemplo, consideremos el caso de clearview.ai, una herramienta de reconocimiento facial que utiliza una base de datos nunca antes vista con más de tres mil millones de imágenes extraídas de Internet, incluidas aplicaciones de redes sociales y millones de otros sitios web. Esta empresa emergente no solo ha suscitado preocupación por la privacidad, sino que también habría sufrido recientemente una filtración de datos. Lo que se aplica a las industrias tradicionales debería aplicarse también al sector tecnológico.
Sabemos que la gobernanza tecnológica es clave para mitigar los posibles riesgos que plantea la Cuarta Revolución Industrial. La crisis de la COVID-19 pone a prueba su veracidad. Debemos actuar ahora para crear marcos que ayuden a garantizar que las herramientas de seguimiento contribuyan a la recuperación y protejan los derechos de los usuarios.
