La inteligencia artificial ha sido una herramienta importante para rastrear y localizar contactos durante la COVID-19.
A medida que continúa la crisis, es posible que los ciudadanos estén más dispuestos que nunca a renunciar a sus libertades civiles y a la protección de sus datos para combatir el coronavirus.
Para mantener la confianza, los gobiernos deben establecer las estructuras de gobernanza de la IA que tanto se necesitan.
La IA se ha convertido en un arma clave para rastrear y localizar casos durante esta pandemia. El despliegue de estas tecnologías ha supuesto a veces equilibrar la necesidad de vencer al virus con la necesidad contrapuesta de proteger la privacidad individual. A medida que la crisis inicial dé paso a políticas a largo plazo y prácticas de salud pública, los gobiernos tendrán que generar confianza en la IA para garantizar que las protecciones futuras puedan desplegarse y mantenerse.
Las extraordinarias capacidades de vigilancia de la IA se están utilizando para ayudar a romper las cadenas de transmisión viral en todo el mundo. Rusia, por ejemplo, mantiene las cuarentenas por COVID-19 mediante la vigilancia a gran escala de los ciudadanos con cámaras de circuito cerrado y reconocimiento facial.
¿Qué está haciendo el Foro Económico Mundial ante el brote de coronavirus?
China utiliza drones y robots dotados de IA para detectar los desplazamientos de la población y las reuniones sociales, e identificar a las personas con fiebre o que no llevan mascarilla.
Mientras tanto, Israel utiliza algoritmos de rastreo de contactos basados en IA para enviar mensajes de texto personalizados a los ciudadanos e indicarles que se aíslen después de haber estado cerca de alguien con un diagnóstico positivo.
El combustible de gran parte de esta IA que salva vidas son los datos personales. De hecho, la combinación de alto rendimiento de datos de pagos con tarjeta de crédito, ubicación móvil, cámaras de circuito cerrado, escaneos faciales, controles de temperatura e historiales médicos de Corea del Sur ha sido una parte clave de una estrategia más amplia para rastrear contactos, realizar pruebas de forma intensiva e imponer confinamientos selectivos. La combinación de estos efectos ha ayudado al país a aplanar la curva. Incluso en una fase avanzada del brote, el país no había registrado más de ocho muertes en un solo día.
A pesar de estos beneficios, debemos seguir abordando la privacidad con seriedad, cautela y pragmatismo, aunque los ciudadanos quizá estén más dispuestos que nunca a renunciar a sus libertades civiles y los organismos reguladores de protección de datos admitan a regañadientes que las circunstancias excepcionales pueden prevalecer incluso sobre los derechos de privacidad más sólidos.
Cuando se restringe la privacidad, es importante tener en cuenta todas las dimensiones de la ética de la IA para mantener la confianza pública en su uso a medio y largo plazo. Si las organizaciones quieren garantizar que el público siga participando, deben asegurarse de que los datos ofrecidos voluntariamente con el propósito de contribuir al bien común se traten con la máxima responsabilidad.
Dado que faltan al menos 18 meses para disponer de una vacuna, harán falta soluciones a largo plazo que ayuden con las labores de rastreo y, al mismo tiempo, preserven la confianza y la cooperación públicas.
«Cuando se restringe la privacidad, es importante tener en cuenta todas las dimensiones de la ética de la IA para mantener la confianza pública en su uso a medio y largo plazo».
Simon Greenman, socio de Best Practice AI
Cabe señalar que algunos gobiernos están colaborando con empresas de telecomunicaciones y grandes tecnológicas para acceder a datos de ubicación agregados y anonimizados que muestran tendencias de desplazamiento. Además, Google y Apple acordaron recientemente una colaboración sin precedentes para permitir el rastreo mundial de contactos de forma anónima y voluntaria.
Aun así, las iniciativas de participación voluntaria pueden crear lagunas y vulnerabilidades. Por ejemplo, Singapur informó de que más de un millón de personas habían descargado su aplicación TraceTogether. Sin embargo, al menos el 75 % de los 5,5 millones de habitantes del país debe registrarse en la aplicación para que sea eficaz.
Los gobiernos deben establecer estructuras adecuadas de gobernanza de la IA que permitan crear soluciones a largo plazo para combatir la COVID-19 y otras posibles crisis sanitarias. Estas incluyen:
Límites temporales. El uso de datos personales debe limitarse al período que dure esta crisis y, después, deben eliminarse.
Límites de uso. El uso de datos personales debe restringirse a casos de uso específicos y limitados, como el rastreo de contactos o la aplicación de las cuarentenas.
Equidad e inclusión. Los sistemas de IA deben tratar a todos los ciudadanos por igual, independientemente del género, la etnia u otras categorías protegidas. Esto exige que los gobiernos presten mucha atención a los conjuntos de datos que alimentan sus algoritmos. Deben incluirse los datos de todos los ciudadanos, sobre todo porque los grupos minoritarios pueden verse afectados de manera desproporcionada por la COVID-19.
Transparencia. Para generar confianza, debe comunicarse a los ciudadanos, de forma clara y exhaustiva, qué tipos de datos personales se utilizan y con qué propósito. Los algoritmos de toma de decisiones basados en IA solo deben utilizarse si se explica claramente su fundamento.
Rendición de cuentas. El uso de datos personales y de la IA debe quedar bajo la responsabilidad de personas identificables y visibles en el Gobierno y sus organismos.
Supervisión. Debe haber supervisión tanto parlamentaria como independiente para garantizar la implementación de una IA responsable.
Sí, son tiempos excepcionales que exigen medidas excepcionales. Pero los gobiernos y las empresas deben aprender a gestionar la privacidad y la confianza para ayudar a combatir esta crisis en los próximos meses y las futuras crisis de salud pública.
Una estructura ética adecuada para la IA puede garantizar que aprovechemos lo mejor que esta puede ofrecer ante la situación actual, sin explotar el deseo de una ciudadanía preocupada de encontrar soluciones rápidas. Se necesitaba una buena gobernanza de la IA mucho antes de que llegara la COVID-19. Ahora es mucho más crucial.
