La mayoría de los sistemas de inteligencia artificial (IA) para la salud se entrenan con datos de países de ingresos altos, lo que deja invisibles a miles de millones de personas del Sur Global en los modelos de diagnóstico, las evaluaciones de riesgos y los algoritmos de tratamiento.
Sin datos representativos, las herramientas basadas en IA pueden diagnosticar erróneamente o no reconocer afecciones en poblaciones infrarrepresentadas, lo que profundiza las desigualdades sanitarias mundiales en lugar de reducirlas.
Cerrar esta brecha exige cooperación mundial para crear conjuntos de datos sanitarios globales diversos, invertir en infraestructura digital local y establecer marcos de gobernanza justos que garanticen que los sistemas de IA para la salud beneficien a todos.
La inteligencia artificial (IA) está transformando rápidamente la atención sanitaria. Desde la detección precoz del cáncer hasta las recomendaciones de tratamiento personalizadas, los sistemas de IA buscan hacer que la medicina sea más rápida, precisa y asequible.
En los países de ingresos altos, estas herramientas ya se están probando en hospitales, centros de investigación y clínicas, y los resultados son impresionantes. Sin embargo, para la mayor parte de la población mundial, casi 5.000 millones de personas que viven en países de ingresos bajos y medianos, los beneficios de la IA médica siguen estando fuera de su alcance.
En lugar de reducir la desigualdad sanitaria, los enfoques actuales de desarrollo de la IA corren el riesgo de ampliarla. La mayoría de los sistemas de IA para la salud se basan en datos de un conjunto limitado de poblaciones, lo que significa que miles de millones de personas, principalmente del Sur Global, siguen siendo en gran medida invisibles en los modelos de diagnóstico, las evaluaciones de riesgos y los algoritmos de tratamiento.
Sin medidas correctivas, la IA podría reforzar inadvertidamente las desigualdades estructurales existentes en la salud mundial, en vez de ayudar a superarlas.
Los problemas de datos en el núcleo de la IA médica
Es bien sabido que los datos son fundamentales para el desarrollo de la IA. En la atención sanitaria, suelen referirse a historias clínicas electrónicas, imágenes médicas, información genómica o señales biométricas recopiladas de millones de pacientes.
Según un informe de Deutsche Welle, más del 80% de los estudios genéticos incluyen únicamente a personas de ascendencia europea, que representan menos del 20% de la población mundial; muchos expertos consideran que esta situación es muy desproporcionada.
Crear ecosistemas locales de innovación en torno a la IA en la atención sanitaria garantiza que las soluciones no solo se importen, sino que también se creen en las comunidades a las que sirven y para ellas.
Del mismo modo, la mayoría de los datos sanitarios utilizados para entrenar modelos de IA proceden de pacientes de Estados Unidos, algunas zonas de Europa y China. Solo con conjuntos de datos exhaustivos y diversos pueden los sistemas de IA para la salud aprender a reconocer patrones y hacer predicciones precisas en distintos grupos demográficos.
Los sistemas de IA entrenados con datos sesgados suelen tener un rendimiento deficiente cuando se aplican a poblaciones con distintos antecedentes genéticos, prevalencia de enfermedades o exposiciones ambientales. Por ejemplo:
Los algoritmos de detección del cáncer de piel entrenados principalmente con imágenes de tonos de piel más claros han demostrado ser menos precisos con tonos de piel más oscuros.
Las calculadoras de riesgo cardiovascular basadas en cohortes europeas y estadounidenses pueden subestimar o sobrestimar los riesgos para las poblaciones africanas, del sur de Asia o latinoamericanas.
Esto crea una situación preocupante: las poblaciones que más podrían beneficiarse de herramientas de diagnóstico escalables y de bajo costo son las menos representadas en los sistemas que se están desarrollando.
El riesgo de exclusión
Los peligros de exclusión que plantean los sistemas de IA para la salud sesgados no son solo técnicos; tienen consecuencias tangibles en la vida real. Un algoritmo de detección del cáncer que no detecta tumores en pieles más oscuras no comete simplemente un error técnico: es una cuestión de vida o muerte. Si se implementan sistemas de IA médica sin abordar estos problemas, podrían producirse:
Diagnósticos erróneos y daños: Los pacientes de regiones infrarrepresentadas podrían recibir diagnósticos menos precisos o inadecuados, lo que daría lugar a tratamientos tardíos o ineficaces.
Pérdida de confianza: Las comunidades que experimentan errores sistemáticos de las herramientas de IA podrían llegar a desconfiar no solo de las tecnologías digitales, sino también de las instituciones sanitarias.
Mayor desigualdad: Mientras los sistemas avanzados de IA ayudan a mejorar los resultados en el Norte Global, el Sur Global podría quedarse aún más rezagado, agravando las disparidades sanitarias mundiales existentes.
La IA tiene el potencial de transformar economías enteras. Pero, especialmente en la atención sanitaria, su potencial solo se hará realidad de forma equitativa si se construye sobre bases que reflejen la diversidad mundial.
Crear una IA inclusiva para la salud mundial
Crear sistemas inclusivos de IA para la salud no es tarea fácil. Requiere una acción coordinada de gobiernos, organizaciones internacionales, innovadores del sector privado y comunidades locales. Para lograrlo, deben tenerse en cuenta estas prioridades:
1. Crear conjuntos de datos sanitarios globales diversos
Los datos representativos son la base de una IA inclusiva. Para garantizar que los sistemas de IA atiendan a las poblaciones de África, Asia y América Latina, debemos invertir en crear y seleccionar conjuntos de datos que reflejen la diversidad demográfica. Esto podría implicar apoyar a hospitales y clínicas locales para digitalizar sus registros. Iniciativa de Salud Digital de Ruanda es un paso ejemplar en esta dirección.
También es fundamental fomentar colaboraciones que hagan interoperables los conjuntos de datos entre países y, al mismo tiempo, respeten la soberanía de los datos. Iniciativas internacionales como la Alianza Mundial para la Genómica y la Salud han demostrado que la cooperación transfronteriza para compartir datos es posible.
Se necesitan marcos similares para garantizar que datos sanitarios más amplios sirvan de base a los modelos de IA y reflejen las realidades mundiales.
2. Invertir en infraestructura digital, capacidad local y gobernanza
Incluso cuando existen conjuntos de datos inclusivos, solo son útiles si los sistemas sanitarios locales pueden implementar y adaptar las herramientas de IA de manera eficaz. Muchas instalaciones médicas del Sur Global carecen de la infraestructura digital necesaria para respaldar la IA avanzada, desde una conexión a internet fiable hasta el almacenamiento seguro de datos.
La capacidad humana es igual de importante. Los profesionales clínicos, científicos de datos y responsables de formular políticas necesitan formación y recursos para evaluar las herramientas de IA, adaptarlas a los contextos locales y garantizar que se ajusten a los flujos de trabajo clínicos.
Crear ecosistemas locales de innovación en torno a la IA en la atención sanitaria garantiza que las soluciones no solo se importen, sino que también se creen en las comunidades a las que sirven y para ellas.
Junto con las inversiones en infraestructura digital y capacidad local, es imprescindible establecer sistemas de gobernanza y marcos normativos que garanticen la equidad en el diseño, la ingeniería, la implementación y el uso de estos sistemas.
Plan Nacional de Salud de la India es otra iniciativa estratégica destinada a abordar estas brechas.
Sistemas de IA para la salud para todos
El riesgo de excluir a 5.000 millones de personas del futuro de la atención sanitaria habilitada por la IA es real, pero no inevitable. Las decisiones que tomen hoy los responsables de formular políticas, los innovadores y los líderes sanitarios determinarán si la IA profundiza las divisiones existentes o ayuda a reducirlas.
Organizaciones internacionales como la Organización Mundial de la Salud, en su Estrategia mundial sobre salud digital, destacan la importancia de la equidad en la salud digital. Las empresas tecnológicas y las instituciones de investigación reconocen cada vez más la necesidad de contar con datos diversos. Sin embargo, los avances siguen siendo desiguales y la magnitud del desafío exige una mayor cooperación mundial.
La IA ofrece un potencial extraordinario en la atención sanitaria. Puede ayudar a los profesionales clínicos a detectar enfermedades antes, orientar las decisiones terapéuticas y ampliar la atención de calidad a comunidades alejadas de los centros médicos. Sin embargo, para que estos beneficios estén al alcance de todo el mundo, debemos abordar las desigualdades estructurales que rodean el desarrollo actual de los sistemas de IA para la salud.
