La IA necesita datos recientes, precisos y representativos, pero esos datos también son los más sensibles y están sujetos a una regulación estricta.
Los datos sintéticos pueden ayudar en el entrenamiento, pero siguen siendo necesarios los datos reales para crear modelos precisos y tomar decisiones individuales.
Las tecnologías de mejora de la privacidad (PET) permiten a las organizaciones aprender de datos reales sin exponerlos ni intercambiarlos.
A medida que la IA se introduce en las finanzas, la atención sanitaria y la prevención del fraude, el debate no gira en torno a si la IA tiene suficientes datos, sino a si dispone de los datos adecuados.
Los buenos modelos ayudan a los prestamistas a evaluar a personas sin historial crediticio, a los bancos a detectar antes el fraude y a los proveedores de atención sanitaria a identificar los riesgos con mayor antelación. Pero los modelos de IA solo son tan buenos como los datos con los que aprenden. Los mejores datos son recientes, precisos y representativos. El reto es que, a menudo, también son los más sensibles.
La IA necesita datos más completos y recientes
Los datos útiles suelen estar fragmentados, ser sensibles y dispersos entre distintas organizaciones. Un banco puede conocer el comportamiento de pago, un minorista, el gasto de los hogares, y una empresa de telecomunicaciones, el acceso a los servicios digitales. Cada uno solo ve un fragmento de la vida de una persona.
El valor para la IA reside en cómo se relacionan esas señales entre sí. Si se combinan de forma segura, revelan la resiliencia financiera, la vulnerabilidad, el riesgo de fraude o una necesidad no satisfecha con mayor precisión que cualquier conjunto de datos por sí solo.
La actualidad de los datos también importa. El comportamiento, las condiciones económicas y las tácticas de fraude cambian constantemente, y los modelos entrenados con información obsoleta toman decisiones basadas en un mundo que ya ha cambiado.
Los datos que más necesita la IA son los más difíciles de obtener
La dificultad empieza al combinar esos conjuntos de datos para hacerlos útiles. Los datos financieros pueden revelar ingresos, deudas y vulnerabilidad. Los datos sanitarios pueden revelar el historial médico. Los datos del comercio minorista y de las telecomunicaciones revelan comportamientos y preferencias cotidianos.
Esa sensibilidad explica por qué los datos reales no pueden compartirse libremente, incluso cuando el propósito es valioso. La mayoría de las cadenas de suministro de datos todavía dependen de copiar y transferir datos entre sistemas de terceros, donde puede producirse una filtración o los datos recopilados para un propósito pueden utilizarse después para otro. El problema fundamental es que, una vez compartidos, los datos no se pueden dejar de compartir fácilmente.
La regulación impone límites. La limitación de la finalidad y la minimización de datos implican que, por lo general, los datos recopilados para un propósito no pueden reutilizarse para otro, por valioso que sea. El obstáculo no es la falta de cuidado: las organizaciones responsables concluyen, acertadamente, que el riesgo de trasladar datos sensibles entre ellas supera el beneficio.
Cómo ayuda el Foro a los líderes a comprender la IA y colaborar en favor de una innovación responsable
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Promueve un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios desarrollar una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
¿Pueden los datos sintéticos resolver el problema?
Los datos sintéticos —datos creados artificialmente para reflejar los patrones de conjuntos de datos del mundo real— parecen una solución lógica. Si los datos no son reales, cabe pensar que el problema de la privacidad debería desaparecer. Lo cierto es que los datos sintéticos cumplen una función real: probar sistemas, explorar escenarios y someter a pruebas de estrés casos poco frecuentes o extremos, pero no pueden soportar toda la carga de la IA de alto impacto.
Los datos sintéticos solo reproducen lo que ya se conoce y pueden pasar por alto comportamientos emergentes, correlaciones inesperadas o características sutiles que existen en los datos reales, pero no en las suposiciones utilizadas para generarlos. No pueden crear lo que nunca existió. Los datos sintéticos se generan a partir de datos reales; por eso, donde escasean los datos reales, la versión sintética también será escasa, aunque no lo parezca. Las lagunas y los sesgos se heredan.
Y entrenar no es lo mismo que decidir. Incluso un modelo entrenado exclusivamente con datos sintéticos debe evaluar a un solicitante, una transacción o un paciente en el momento de tomar una decisión.
Según se ha informado, el Ministerio Federal de Finanzas de Alemania ha propuesto permitir que las autoridades fiscales utilicen datos reales y sin alterar de los contribuyentes para desarrollar sistemas de IA, alegando que los datos ficticios eran ineficaces; sus críticos expresaron su preocupación por la privacidad y la ampliación de las funciones.
La decisión de usar datos sintéticos o reales depende del caso de uso. Pero, para lograr una gran precisión en las decisiones más importantes, los datos reales son fundamentales.
Las PET ofrecen una forma más segura de usar datos reales
Las tecnologías de mejora de la privacidad (PET) son un conjunto de tecnologías que facilitan el análisis de datos sin necesidad de intercambiar ni exponer datos sensibles.
Los registros se emparejan mediante identificadores tokenizados, de modo que dos organizaciones pueden determinar qué clientes tienen en común sin que ninguna conozca la identidad de los clientes de la otra. El análisis se lleva a cabo en un entorno neutral donde la otra parte o el operador nunca pueden ver los registros sin procesar. Solo salen del entorno los resultados, como información agregada, características para modelos o una puntuación para una decisión concreta.
Las PET no eliminan la necesidad de consentimiento, rendición de cuentas ni regulación. Pero abordan el principal obstáculo para colaborar con datos del mundo real.
Así se ve en la práctica
Las PET ya se están utilizando para resolver el problema del análisis de datos sensibles. En Sudáfrica, el mayor minorista de comestibles del continente y sus principales bancos probaron si el comportamiento de compra de comestibles podía predecir la solvencia crediticia, sin compartir entre ellos los datos de los consumidores.
Se emparejaron conjuntos de datos anonimizados y tokenizados en un entorno que preserva la privacidad, y se entrenaron modelos con los datos combinados. Se evaluó la solvencia de ocho millones de personas que antes no tenían historial crediticio; 3,2 millones cumplían los requisitos para obtener crédito asequible que, de otro modo, se les habría denegado, y los modelos que utilizaron datos de compras de comestibles mostraron un aumento del 41 % en la precisión.
Esto solo fue posible porque las empresas financieras pudieron acceder a datos anonimizados de compras de comestibles mediante PET. Ninguna de las pruebas utilizadas figuraba en los registros de ningún banco, y ningún proceso sintético podría haberlas generado: las instituciones que tomaban las decisiones nunca habían observado ese comportamiento. Los datos existían. Simplemente eran inaccesibles debido a preocupaciones justificadas sobre la privacidad.
El obstáculo de los datos para la IA ya no es técnico
La adopción de las PET se ha visto frenada por el coste, la complejidad y la falta de estándares comunes. Esas barreras están disminuyendo a medida que maduran las técnicas y se aclaran las directrices normativas.
Las PET hacen más que facilitar un acceso y una colaboración más seguros en torno a los datos existentes. Amplían los datos que pueden utilizarse, precisamente en los ámbitos donde los modelos son más débiles: consumidores con historiales crediticios escasos, patrones de fraude emergentes y poblaciones de pacientes desatendidas.
Una IA mejor no depende únicamente de mejores algoritmos o modelos más grandes. Depende del acceso a datos reales, recientes y representativos sobre las personas, sin pedirles que renuncien a su privacidad. Las tecnologías de mejora de la privacidad permiten que ambas cosas sean ciertas a la vez.
