La tecnología de reconocimiento facial tiene el potencial de ayudar a realizar investigaciones más rápidas, llevar a los delincuentes ante la justicia y, de este modo, resolver, detener y prevenir delitos.
El uso generalizado y eventual por parte de los organismos encargados de la aplicación de la ley suscita preocupación por el posible riesgo de detenciones injustas, vigilancia y violaciones de los derechos humanos.
Un nuevo documento técnico del Foro Económico Mundial, en colaboración con la Organización Internacional de Policía Criminal (INTERPOL), el Centro de Inteligencia Artificial y Robótica del Instituto Interregional de las Naciones Unidas para la Investigación sobre la Delincuencia y la Justicia (UNICRI) y la policía de los Países Bajos, ofrece un marco para garantizar el uso responsable de la tecnología de reconocimiento facial.
Las pruebas de este marco comenzarán en enero de 2022.
En abril de 2021, la Comisión Europea (CE) publicó su tan esperada Ley de Inteligencia Artificial, una propuesta normativa integral que clasifica las aplicaciones de IA en distintas categorías de riesgo. Entre las aplicaciones de alto riesgo identificadas, los sistemas biométricos remotos, que incluyen la tecnología de reconocimiento facial (FRT), fueron señalados como especialmente preocupantes. Su despliegue, en particular en el ámbito de la aplicación de la ley, puede dar lugar a abusos de los derechos humanos en ausencia de mecanismos de gobernanza sólidos.
La aplicación de la ley y la tecnología de reconocimiento facial
En todas las jurisdicciones, los responsables políticos son cada vez más conscientes tanto de las oportunidades como de los riesgos asociados al uso de la FRT por parte de las fuerzas del orden. En este contexto, el reconocimiento facial se refiere al proceso de reconocimiento (posible) de una persona mediante la comparación de una imagen de prueba (fotografías o vídeos/fotogramas de sospechosos o personas de interés) con imágenes faciales de delincuentes y personas desaparecidas almacenadas en una o varias bases de datos de referencia, para avanzar en una investigación policial.
Por un lado, la FRT tiene el potencial de ayudar a resolver, detener y prevenir delitos, y llevar a los delincuentes ante la justicia. Más concretamente, podría ser útil para diversos tipos de investigaciones, como identificar a un autor de fraude en cajeros automáticos, buscar a un terrorista en espacios públicos, combatir el abuso infantil o incluso localizar a personas desaparecidas. Por otro lado, la experiencia temprana demuestra que, sin una supervisión adecuada, la FRT podría dar lugar a abusos de los derechos humanos y perjudicar a los ciudadanos.
En este contexto, encontrar el equilibrio adecuado resulta difícil. Los responsables políticos pueden considerar diversas opciones, desde una prohibición total hasta la introducción de mecanismos de rendición de cuentas adicionales para limitar el riesgo de detenciones injustas. En Estados Unidos, ciudades como San Francisco, Oakland y Boston han prohibido el uso de la FRT por parte de los organismos públicos, mientras que los estados de Washington, Virginia y Massachusetts han presentado legislación para regular su uso. En otras regiones, las decisiones judiciales desempeñan un papel importante en la configuración de la agenda política. El Tribunal de Apelación del Reino Unido declaró ilegal el despliegue de la FRT por parte de la Policía de Gales del Sur para identificar a personas buscadas en determinados eventos y lugares públicos donde se consideraba probable que se cometiera un delito.
A nivel más global, el reciente informe de la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH) sobre el derecho a la privacidad en la era digital recomienda a los gobiernos suspender el uso de sistemas de reconocimiento biométrico remoto en espacios públicos en tiempo real hasta que puedan demostrar que no existen problemas significativos de precisión o efectos discriminatorios. También sugiere que estos sistemas de IA deben cumplir con normas sólidas de privacidad y protección de datos.
La tecnología de reconocimiento facial requiere una estructura de gobernanza sólida
A pesar de estos importantes avances, la mayoría de los gobiernos del mundo reconocen el potencial de los sistemas de reconocimiento facial para la seguridad nacional y pública, pero todavía están lidiando con los desafíos de regular la FRT porque se han pasado por alto en gran medida consideraciones cruciales. Si autorizáramos el uso proporcional de la FRT para fines policiales legítimos, ¿qué organismo de supervisión debería encargarse de evaluar el cumplimiento de las actividades de las fuerzas del orden con los derechos humanos y de dar seguimiento a las posibles denuncias de los ciudadanos? ¿Cómo podríamos mantener un alto nivel de rendimiento de las soluciones de FRT desplegadas? ¿Qué procesos de adquisición deberían establecerse para los organismos encargados de la aplicación de la ley?
Para abordar estos desafíos, el Foro Económico Mundial, en colaboración con la Organización Internacional de Policía Criminal (INTERPOL), el Centro de Inteligencia Artificial y Robótica del Instituto Interregional de las Naciones Unidas para la Investigación sobre la Delincuencia y la Justicia (UNICRI) y la policía de los Países Bajos, ha publicado un documento técnico que presenta un marco de gobernanza estructurado en torno a dos componentes fundamentales:
Un conjunto de principios de actuación que define qué constituye un uso responsable del reconocimiento facial en las investigaciones de las fuerzas del orden, abarcando todas las consideraciones de política pertinentes;
Un cuestionario de autoevaluación que detalla los requisitos que los organismos encargados de la aplicación de la ley deben respetar para garantizar el cumplimiento de los principios de actuación.
Así, esta iniciativa representa la respuesta de política más exhaustiva a los riesgos asociados a la FRT en las investigaciones de las fuerzas del orden, dirigida por una comunidad global y multisectorial.
Hacia adelante
Este proyecto entra ahora en la fase piloto. Durante este período, probaremos el marco de gobernanza para garantizar su viabilidad, pertinencia, facilidad de uso e integridad. Lo actualizaremos en función de los resultados observados.
La fuerza policial de los Países Bajos es el primer organismo encargado de la aplicación de la ley que ha aceptado participar en el proceso de pruebas. Sin embargo, considerando la sensibilidad de este caso de uso, animamos encarecidamente a otros organismos encargados de la aplicación de la ley a unirse a nosotros y contribuir a este esfuerzo global. También invitamos a responsables políticos, actores de la industria, representantes de la sociedad civil y académicos que participan en el debate político global sobre la gobernanza de la tecnología de reconocimiento facial a unirse a nuestra iniciativa.
Una vez completada esta fase piloto, actualizaremos los principios y el cuestionario de autoevaluación, y se publicará la versión final.
