La tecnología de voz se vuelve cada vez más omnipresente, integrándose en herramientas y servicios de grandes empresas, startups, gobiernos y actores del sector público.
Pero para que estas herramientas logren una aceptación pública amplia, estos actores deberán demostrar que se utilizan de forma confiable y con respeto a los derechos humanos.
Las grandes empresas tecnológicas ven claramente el valor de la tecnología y siguen desarrollando nuevas capacidades en lo que respecta a la recopilación de datos de voz para publicidad y recomendaciones de productos. La actividad de patentes de los gigantes tecnológicos lo refleja, incluidas nuevas solicitudes de patentes de Amazon que describen cómo un “algoritmo sniffer de voz” podría utilizarse en una variedad de dispositivos distintos para analizar audio casi en tiempo real cuando detecta palabras como “love”, “bought” o “dislike”. Google tiene solicitudes de patentes que describen cómo las señales de audio y visuales pueden utilizarse en un contexto de hogar inteligente. Esto puede parecer inofensivo e incluso útil para simplificar las tareas cotidianas, pero también tiene graves implicaciones para el acceso y el uso de datos personales.
Según un informe de PwC de 2018, del 25% de los estadounidenses que no tienen planes de comprar con su voz en el futuro, más del 90% afirmó que la falta de confianza fue un factor. Estas estadísticas encuentran respaldo y refuerzo en ejemplos muy difundidos de formas en que la tecnología se ha utilizado en contra de las expectativas personales. Por ejemplo, un caso de grabación de una conversación privada entre cónyuges que fue enviada al empleado del marido fue cubierto por medios de comunicación nacionales. Si bien la mayoría de los expertos prevén una trayectoria de crecimiento positiva para los asistentes virtuales, esta brecha de confianza probablemente obstaculizará una adopción verdaderamente universal.
Tres cuestiones fundamentales son el núcleo de la confiabilidad de la tecnología de voz y deberán abordarse: la protección de datos y la transparencia, la privacidad y el fraude.
Protección de datos y transparencia
El desarrollo y el uso de la tecnología de voz implican un volumen significativo de datos. Si bien las palabras que una persona pronuncia ante la interfaz pueden ser el tipo de información más evidente que se recopila, analiza y (posiblemente) almacena, deben considerarse otras categorías, entre ellas el ruido de fondo captado, los metadatos, los datos biométricos y las huellas de voz, los datos derivados (por ejemplo, la información emocional que puede determinarse a partir del tono y la altura de la voz), por no mencionar el conjunto de datos recopilados para desarrollar y entrenar el algoritmo de voz.
Los principios clave de la protección de datos se reconocen desde hace tiempo y están recogidos en las Prácticas de Información Justa. Los marcos legales de todo el mundo, como el Reglamento General de Protección de Datos (RGPD) de la UE, han codificado y ampliado estos principios, a menudo con sanciones severas por incumplimiento. Algunas jurisdicciones, incluido el estado estadounidense de Illinois, han llegado incluso a promulgar leyes que abarcan específicamente la información biométrica, como las huellas de voz. Estos marcos ofrecen un nivel básico de protección a las personas que interactúan con herramientas impulsadas por voz, aunque a menudo no es suficiente.
Para complementar estos requisitos legales, los profesionales del campo de la ingeniería de la privacidad han desarrollado enfoques prácticos para incorporar la protección de datos en herramientas y servicios. Además, el Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) está desarrollando actualmente un marco de privacidad que es probable que vaya más allá de las nociones de cumplimiento legal y proporcione un lenguaje común para abordar y mitigar las posibles amenazas asociadas al aumento de la recopilación de información, incluida la información de voz.
Al crear herramientas que respeten la “privacidad desde el diseño”, las entidades pueden asegurarse de considerar adecuadamente la protección de datos desde el principio. Un ejemplo es la incorporación de la cadena de bloques como posible solución descentralizada para la protección de datos de voz, y la startup francesa Snips apuesta por esta idea de descentralización al desarrollar su software para que funcione al 100% en el dispositivo, de forma independiente de la nube. A diferencia de los asistentes virtuales centralizados y más convencionales, Snips no sabe nada de sus usuarios.
Privacidad y seguridad
Cuanta más información se recopile mediante el uso de tecnologías de voz, mayor será el riesgo de que los datos se divulguen a los gobiernos o sean comprometidos por actores malintencionados, una noción especialmente preocupante cuando los derechos humanos específicos de los datos de voz aún no se han definido.
“En la medida en que las plataformas almacenen datos biométricos, son vulnerables a las exigencias gubernamentales de acceso y divulgación”, señaló Albert Gidari, director de privacidad del Centro Stanford de Internet y Sociedad. Lo que los actores gubernamentales pueden hacer después con esa información es potencialmente ilimitado. Un ejemplo es la Agencia de Seguridad Nacional de Estados Unidos (NSA), donde recientemente se reveló que existe tecnología capaz de analizar las características físicas y de comportamiento que hacen única la voz de cada persona, como el tono, la forma de la boca y la longitud de la laringe. Un algoritmo crea un modelo informático dinámico de las características vocales de la persona: su huella de voz.
A nivel mundial, se están produciendo debates similares a nivel gubernamental. HMRC, la autoridad fiscal del Reino Unido, ha recopilado las huellas de voz de 5,1 millones de contribuyentes como parte de su nueva política de identificación por voz. Grupos de defensa informaron de que el sistema de HMRC pide repetidamente a los usuarios que creen su “ID de voz” sin darles instrucciones sobre cómo darse de baja. En China, el gobierno ha utilizado datos de voz junto con otros datos biométricos y tecnologías de rastreo para atacar y vigilar a comunidades minoritarias.
La existencia de estos datos también supone una nueva superficie de ataque para actores malintencionados. Con grandes filtraciones de datos en las noticias cada semana, la amenaza de acceso no autorizado a bases de datos de voz podría provocar daños incalculables, especialmente porque las empresas recurren cada vez más a este tipo de datos biométricos para autenticar a los usuarios y permitirles acceder a sus cuentas personales.
El derecho y las políticas internacionales empiezan a tomar forma para orientar en estos ámbitos. Los principios de Necesidad y Proporcionalidad ofrecen un marco basado en derechos para limitar el acceso gubernamental a la información personal, aunque pocos países lo han adoptado todavía. La Convención Digital de Ginebra es actualmente un esfuerzo borrador del sector privado, mientras que las fuerzas del sector público instan al Comité de Derechos Humanos de la ONU a emitir un nuevo Comentario General sobre el derecho a la privacidad en virtud del artículo 17 del Pacto Internacional de Derechos Civiles y Políticos (PIDCP), y el Convenio de Budapest sobre la Ciberdelincuencia se centra con especial atención en el tema.
Está claro que se necesitan leyes y políticas nacionales de vigilancia y ciberseguridad más sólidas y mejores para ayudar a codificar las protecciones de estas categorías de datos personales, incluida la información biométrica.
Fraude
Las falsificaciones profundas (deep fakes) y el fraude ya son problemas en aumento en el mundo del video en línea, y los legisladores estadounidenses ya están dando la voz de alarma sobre problemas similares en el ámbito del audio.
El fraude es un problema creciente en la tecnología de voz: las tasas de fraude por voz han aumentado más de un 350% desde 2013 en diversos sectores. Hoy en día, la misma tecnología de aprendizaje profundo que permite modificar videos sin ser detectada también puede utilizarse para crear clips de audio que suenan como personas reales.
Empresas tecnológicas de todo el mundo están desarrollando tecnología para clonar la voz de cualquier persona, como el algoritmo de IA “Deep Voice” desarrollado por la empresa china Baidu, que puede clonar la voz de cualquier persona en solo 3,7 segundos. En el transcurso de un año, la tecnología pasó de requerir unos 30 minutos para crear un nuevo video falso a requerir, hoy, solo segundos.
Mientras tanto, la necesidad de combatir el fraude está impulsando nuevas innovaciones. Pindrop, por ejemplo, es una startup que recientemente recaudó 90 millones de dólares para llevar su protección contra el fraude por voz a dispositivos IoT y al continente europeo. Afirma que su plataforma puede identificar incluso las falsificaciones más sofisticadas analizando casi 1.400 atributos acústicos, lo que le permite verificar eficazmente un archivo de voz legítimo.
El ámbito académico también se está involucrando para ayudar a prevenir el fraude. MIT Technology Review informó que investigadores de Berkeley logran “tomar una forma de onda y añadir una capa de ruido que engaña a DeepSpeech, una IA de conversión de voz a texto de última generación, en todos los casos. La técnica puede hacer que la música suene como habla arbitraria para la IA, u ocultar voces para que no se transcriban.”
Existen medidas que pueden tomarse para garantizar la privacidad en las plataformas impulsadas por voz, proporcionar seguridad de datos en el backend y combatir el riesgo de fraude. Esto implica aumentar el acceso a la información y la educación para informar al público en general, quizás incluyendo nuevos contenidos curriculares en los sistemas escolares de todo el mundo. También implica una legislación significativa y una colaboración genuina entre los sectores público y privado.
Este artículo fue escrito en nombre del Consejo Global del Futuro sobre Consumo.
