Durante el verano, el presidente de Microsoft, Brad Smith pidió a los gobiernos que examinen más de cerca cómo se está implementando la tecnología de detección facial en todo el mundo. Esta semana, ha vuelto con un mensaje similar — solo que esta vez el ejecutivo insta a otros proveedores de tecnología a ayudar a abordar los innumerables problemas que rodean a esta tecnología antes de que se vuelva demasiado omnipresente.
Es fácil sugerir que el barco ya ha zarpado. Después de todo, el reconocimiento facial ya es bastante omnipresente, desde Facebook hasta los Animojis de Apple. Pero si el último año nos ha enseñado algo, es que los gobiernos del mundo no pueden esperar para implementar la tecnología de forma más amplia, y muchas empresas tecnológicas están más que dispuestas a ayudar.
Smith señala tres posibles riesgos de esta tecnología: resultados sesgados, invasión de la privacidad y vigilancia masiva. La ACLU lleva tiempo alertando sobre el primero de estos puntos y pide al Congreso que implemente una moratoria sobre las tecnologías de vigilancia. El grupo descubrió que el software Rekognition de Amazon asociaba erróneamente fotos de miembros del Congreso con fichas policiales de delincuentes.
La nueva carta revela que Microsoft está frustrada por las dilaciones regulatorias y, en cambio, traslada la carga de la regulación tecnológica a las propias empresas. «Creemos que la única forma de protegerse contra esta carrera hacia el fondo es construir un suelo de responsabilidad que respalde una competencia de mercado sana», escribe Smith. «Y un suelo sólido requiere que garanticemos que esta tecnología, y las organizaciones que la desarrollan y utilizan, se rijan por el Estado de derecho.»
Dicho de otro modo, como afirma Smith, «no se puede volver a meter al genio en la botella». Así que Microsoft pretende marcar el tono, comprometiéndose con su propio código, que planea implementar en el primer trimestre del próximo año.
El artículo detalla una serie de salvaguardias y procesos de revisión que las empresas pueden implementar para ayudar a evitar algunos de los riesgos más preocupantes. Entre las recomendaciones figuran sugerencias bastante sencillas, como la transparencia, las pruebas realizadas por terceros, las revisiones tecnológicas realizadas por personas y la identificación adecuada de dónde y cuándo se implementa la tecnología. Sinceramente, todo lo anterior suena bastante sencillo y factible.
Microsoft prevé dar seguimiento a estas sugerencias con un documento más detallado que se publicará la próxima semana, en el que expondrá con mayor profundidad sus planes y solicitará sugerencias de personas y grupos sobre cómo implementarlas de forma más amplia.
