La IA generativa puede apoyar a las personas con discapacidad al potenciar las tecnologías de apoyo y la robótica existentes, así como las soluciones de aprendizaje, adaptación y accesibilidad.
La IA generativa también plantea riesgos para las personas con discapacidad.
Estos riesgos están asociados a la transparencia, la comprensión de los resultados de los sistemas, los silos cognitivos, la posible desinformación y manipulación, la privacidad y la propiedad.
Los sistemas basados en IA generativa pueden apoyar a las personas con discapacidad al potenciar los ecosistemas de tecnologías de apoyo existentes y la robótica, así como las soluciones de aprendizaje, adaptación y accesibilidad. En última instancia, la IA generativa puede potenciar soluciones más amplias de salud y apoyo. Sin embargo, la IA generativa también plantea riesgos específicos asociados a la transparencia, la comprensión de los resultados de los sistemas, los silos cognitivos, la posible desinformación y manipulación, la privacidad y la propiedad. Estos derechos y categorías se ven reforzados por leyes específicas sobre IA, como la Ley Europea de IA, y marcos digitales, como la Ley de Mercados y Servicios Digitales de la UE, Ley de Accesibilidad y la Convención sobre los Derechos de las Personas con Discapacidad.
Desde la introducción de la Ley de IA de la UE y de marcos, políticas y leyes análogos en todo el mundo, se busca clasificar los sistemas de IA según sus riesgos y los marcos de cumplimiento correspondientes. Los sistemas de IA generativa se convirtieron en la categoría más debatida; sin estar relacionados con la categoría de alto riesgo, siguen planteando riesgos y vulneraciones mayores, especialmente para los grupos con discapacidad y deficiencias.
Desde entonces, gobiernos y agencias multilaterales, como la Organización para la Cooperación y el Desarrollo Económicos (OCDE), la OMS y la Unesco, con su IA generativa en la educación y la investigación, han elaborado informes específicos y conjuntos de recomendaciones y directrices para reflejar el uso de la IA generativa en ámbitos concretos, como la educación, la sanidad, el entorno laboral, la alfabetización profesional y de los usuarios, y las capacidades para seguir mejorando el proceso de adopción.
Aquí analizo cómo pueden mitigarse aún más estos riesgos para proteger a los grupos con discapacidades cognitivas, sensoriales y físicas, y qué consideraciones de política deberían tenerse en cuenta.
Cómo la IA generativa puede apoyar a las personas con discapacidad
Los algoritmos y sistemas de IA desempeñan un papel significativo en el apoyo y la adaptación para las personas con discapacidad, desde la mejora de las tecnologías de apoyo y la robótica hasta la creación de soluciones personalizadas de aprendizaje y atención sanitaria. La IA generativa y los modelos basados en lenguaje amplían aún más este impacto y la I+D que lo sustenta. En particular, estos sistemas pueden potenciar los ecosistemas de apoyo existentes, así como las soluciones de salud, trabajo, aprendizaje y adaptación, que requieren comunicación e interacción con el paciente o el estudiante, inteligencia social y emocional, y retroalimentación. Estas soluciones se utilizan con frecuencia en ámbitos que implican deficiencias cognitivas, salud mental, autismo, dislexia, trastorno por déficit de atención y deficiencias en el reconocimiento de emociones, que dependen en gran medida de los modelos de lenguaje y de la interacción.
Con la creciente importancia de la accesibilidad web y en el lugar de trabajo (incluida la Ley Europea de Accesibilidad), los enfoques basados en IA generativa pueden utilizarse para crear soluciones de accesibilidad digital, asociadas a la conversión de voz a texto o de imagen a voz. También puede potenciar un diseño e interfaces accesibles con textos, tipografías y colores adaptativos que beneficien a personas con deficiencias de lectura, visuales o cognitivas. Algoritmos similares pueden utilizarse para crear bibliotecas, plataformas de conocimiento y educación que sirvan a fines de adaptación asistencial, protección social y microaprendizaje, formación en igualdad y labores policiales.
Por último, los enfoques explorados al construir estos ecosistemas accesibles y de apoyo pueden ayudar a potenciar el pretexto asistencial — cuando las tecnologías creadas para grupos con discapacidad pueden adaptarse posteriormente a una población más amplia, incluido el «neurofuturismo», que impulsa nuevas formas de interacción, aprendizaje y creatividad, con biorretroalimentación, lenguajes y distintos formatos de medios.
IA generativa y ética
Pese a los aspectos positivos de los sistemas de IA al servicio de la accesibilidad y las tecnologías de apoyo, la discapacidad se presenta como un espectro de parámetros, condiciones, partes interesadas, interfaces y tecnologías, lo que hace que sea una tarea compleja de atender adecuadamente.
En particular, una persona con discapacidad puede carecer de extremidades y tener una forma corporal y una postura diferentes. Una persona ciega puede no comprender adecuadamente las señales o indicaciones visuales. Las personas con deficiencias auditivas pueden no oír ni cumplir las órdenes o advertencias sonoras. Las personas con discapacidades cognitivas pueden comunicarse de forma diferente, tener dificultades para reconocer emociones y presentar patrones del habla o psicomotores distintos. Se sabe que los algoritmos de IA discriminan a las personas con diferencias o asimetrías faciales, gestos distintos, gesticulación, deficiencias del habla, estilos de comunicación diferentes o dispositivos de apoyo. Estas preocupaciones fueron planteadas por la Relatora Especial de las Naciones Unidas sobre los derechos de las personas con discapacidad, el Foro Europeo de la Discapacidad y otras organizaciones e instituciones diversas.
No obstante, en comparación con los sistemas de IA existentes, las plataformas basadas en lenguaje requieren aún más atención y orientación ética. En particular, pueden imitar el comportamiento y la interacción humanos, implicar mayor autonomía y plantear desafíos a la hora de delegar la toma de decisiones. También dependen de volúmenes significativos de datos, de una combinación de técnicas de aprendizaje automático y de la alfabetización social y técnica que las sustenta.
Cómo la IA generativa puede plantear riesgos para las personas con discapacidad
Existen distintas formas en las que los sistemas asociados a la IA generativa pueden plantear riesgos para las personas con discapacidad. En particular:
• Pueden alimentar sesgos en los sistemas existentes, como los procesos automatizados de selección y entrevistas, o los servicios públicos que implican distintos tipos de reconocimiento físico y digital, y sesgos contextuales y de sentimiento.
• Pueden dar lugar a escenarios manipulativos, silos cognitivos y cámaras de eco. Por ejemplo, se utilizaron algoritmos para difundir desinformación entre pacientes durante la pandemia de COVID-19.
• Los sistemas basados en lenguaje pueden asociar una connotación negativa a palabras clave y frases relacionadas con la discapacidad, o producir resultados erróneos debido a que un conjunto de datos públicos contiene distorsiones estadísticas o entradas incorrectas.
• Privacidad: en algunos países, los organismos gubernamentales fueron acusados de utilizar datos de redes sociales sin consentimiento para confirmar la condición de discapacidad de los pacientes a efectos de programas de pensiones.
Por qué ocurre: desafíos sociales, técnicos y de política
Es importante entender que estos desafíos están impulsados por factores sociales y técnicos relacionados con los datos, los modelos, los sistemas y las prácticas sociales.
En particular, los conjuntos de datos de gran volumen pueden contener sesgos y distorsiones históricos y carecer de determinados parámetros y condiciones. Distintos tipos de técnicas de aprendizaje automático pueden introducir distintas distorsiones. En el caso del aprendizaje supervisado, las personas que etiquetan los datos pueden introducir su subjetividad o errores y pasar por alto determinados patrones, casos o contextos. El aprendizaje no supervisado suele estar relacionado con una carencia estadística de datos de entrada y de representación. El aprendizaje por refuerzo puede asociarse a limitaciones del entorno o a problemas de la experiencia inicial.
La complejidad de la investigación y el desarrollo en este ámbito está asociada a:
• Espectros y parámetros: las personas con discapacidad pueden tener condiciones y deficiencias adicionales (comorbilidades) que no existen en los conjuntos de datos. Por ejemplo, algunos sistemas utilizaban la forma de la oreja o la presencia del conducto auditivo para determinar si una imagen incluía un rostro humano. Sin embargo, este sistema no podía funcionar con pacientes que padecen síndromes craneofaciales (deficiencias faciales).
• Género e interseccionalidad: se sabe que los conjuntos de datos de infraestructuras y urbanos utilizados para la planificación urbana son ciegos al género. En el caso de las discapacidades cognitivas, las niñas son con frecuencia diagnosticadas erróneamente debido a criterios de manifestación diferentes y están históricamente poco representadas en las estadísticas de investigación, lo que afecta a las etiquetas de los datos.
• Falta de acceso a los datos: determinados grupos sociales (p. ej., familias caucásicas en EE. UU.) tienen más probabilidades de informar de inquietudes relacionadas con el autismo de sus hijos debido a un mejor acceso médico. Al mismo tiempo, en algunos países, los inmigrantes tienden a evitar los exámenes y pruebas médicas por temor a ser deportados o a afrontar costes médicos inasumibles.
• Falta de investigación y/o de pruebas suficientes: se sabe que algunas soluciones médicas para problemas respiratorios o cardíacos se desarrollaron tras observaciones a corto plazo. Tras un periodo más largo de pruebas, se comprobó que el sistema no era tan eficiente y que provocaba efectos secundarios negativos, pero ya estaba en producción.
• Falta de participación: los sistemas jurídicos y judiciales se entrenan, según se sabe, con conjuntos de datos públicos disponibles más allá de su jurisdicción específica, pasando por alto con frecuencia la participación de determinados grupos y poblaciones.
• Indicadores y generalización: se sabe que los sistemas de evaluación médica se crean a partir de grupos demográficos y de salud «normalizados». Pueden excluir en gran medida algunas deficiencias cognitivas y mentales graves de la población joven, atribuyéndolas solo a grupos de mayor edad. También se sabe que los servicios médicos y sociales utilizan la elaboración de perfiles —agrupar a las personas según sus intereses en lugar de sus rasgos personales—, lo que puede dar lugar a resultados discriminatorios.
• Subjetividad: se sabe que las plataformas de evaluación se entrenan con estándares de «normalidad» que resultaron aportar subjetividad a los grupos con discapacidad al evaluar características como la empleabilidad o el profesionalismo y las capacidades intelectuales.
El camino a seguir
Las próximas estrategias nacionales de IA (p. ej., Alemania, el Reino Unido, el EE. UU. y China) subrayan la complejidad de los sistemas de IA generativa. Ponen el foco en la seguridad nacional y en el acceso a los datos para evitar silos, garantizar una competencia y prácticas tecnológicas justas, mejorar la alfabetización y las capacidades, e introducir normas de privacidad y ética. Además, las agencias multilaterales, como la OMS, la Unesco y la OCDE, trabajan en directrices específicas por ámbito, que abordan la sanidad, la educación, la alfabetización y las recomendaciones orientadas a las capacidades (p. ej., Unesco: marco de competencias en IA para estudiantes y docentes, 2023).
Sin embargo, la investigación y el desarrollo de sistemas de IA generativa centrados en la discapacidad siguen siendo una tarea compleja desde la perspectiva tecnológica y de políticas. Incluye su naturaleza interseccional, los espectros, las comorbilidades, los parámetros específicos de género y edad, los escenarios modulares y multiactor —cuando intervienen simultáneamente familias, cuidadores, varios dispositivos e interfaces— y la necesidad de directrices de adopción y alfabetización específicas para cada afección en todos los segmentos, sectores y casos.
Junto con los criterios generales, también se requieren categorías de sistemas, riesgos y cumplimiento normativo específicos para determinados grupos, edades y espectros; la necesidad de mejorar la transparencia de las técnicas de aprendizaje automático y de los enfoques de evaluación de resultados; el acceso y la diversidad de los conjuntos de datos públicos y de las estadísticas históricas; el establecimiento de límites y normas para la recogida de datos, la privacidad y el consentimiento; la identificación de acciones y omisiones responsables; y, por último, la comprensión de los escenarios de uso indebido. Así, aumenta el papel de las leyes no específicas de IA, como los marcos digitales: la Ley de Mercados y Servicios Digitales de la UE, las leyes de accesibilidad y la Convención sobre los Derechos de las Personas con Discapacidad.
