El primer borrador del Reglamento de la UE sobre IA forma parte de un esfuerzo más amplio para desarrollar una IA centrada en las personas, eliminando los errores y sesgos para garantizar que sea segura y fiable.
El reglamento incluye requisitos para minimizar el riesgo de discriminación algorítmica, en particular en relación con la calidad de los conjuntos de datos utilizados para el desarrollo de sistemas de IA.
También introduce la supervisión humana de determinados sistemas de IA para prevenir o minimizar los riesgos para la salud, la seguridad o los derechos fundamentales que puedan surgir cuando se utiliza un sistema de IA.
Lejos de ser ciencia ficción, la inteligencia artificial ya forma parte de nuestra vida. Desde los vehículos autónomos hasta los asistentes personales virtuales, la IA es una realidad.
Más allá de simplificar nuestra vida, la IA promete aportar una serie de beneficios económicos y sociales para la sociedad. Desde la sanidad hasta la movilidad, pasando por el sector público y las finanzas, la IA es una tecnología de rápida evolución que puede resolver algunos de los mayores desafíos del mundo. Puede generar resultados sociales y ambientales beneficiosos y, al mismo tiempo, apoyar a todo tipo de empresas al ayudarlas a conocer y relacionarse mejor con sus clientes, mejorar la previsión, acelerar la producción y optimizar las operaciones y la asignación de recursos.
Sin embargo, junto con innumerables beneficios socioeconómicos, no es sorprendente que la IA también pueda introducir nuevos riesgos en nuestra sociedad y que, entre esos desafíos, las implicaciones éticas sean probablemente las más sutiles e insidiosas.
Para posibilitar avances científicos y garantizar que las tecnologías de IA estén al servicio de todos los ciudadanos, mejorando sus vidas y respetando sus derechos, la Comisión Europea propuso el primer borrador del Reglamento sobre IA.
El proyecto de legislación es solo una parte de una gran estrategia europea para la IA presentada por la Comisión Europea en 2018 para abordar las oportunidades y los desafíos de la IA y, al mismo tiempo, promover los valores europeos. Sin embargo, perseguir el doble objetivo de promover el desarrollo y la implantación de la IA y de abordar los riesgos asociados a determinados usos de esta nueva tecnología implica evaluaciones complejas y difíciles elecciones éticas y regulatorias, especialmente cuando surge el riesgo de discriminación.
No es inmune a errores ni sesgos
La IA realiza funciones que antes solo podían ser realizadas por seres humanos. En consecuencia, cada vez estamos más sujetos a decisiones tomadas por sistemas de IA o con su ayuda. Sin embargo, creer que la IA es por defecto inmune a los sesgos, y que, por tanto, no es capaz de discriminar a personas o grupos de personas, es un error peligroso: la IA puede perpetuar determinados sesgos o incluso amplificarlos.
Como señaló la Comisión Europea en su Libro Blanco de 2020 sobre IA, el sesgo y la discriminación son riesgos inherentes a cualquier actividad social o económica, y la IA no es invulnerable a los errores y sesgos. De hecho, en función de los datos de entrada utilizados para entrenar y probar los sistemas de IA, sus resultados pueden estar sesgados.
Por ejemplo, determinados algoritmos de IA utilizados para predecir la reincidencia delictiva muestran sesgos de género y raciales, al demostrar probabilidades de predicción de reincidencia diferentes para mujeres frente a hombres o para nacionales frente a extranjeros.
De manera similar, determinadas herramientas de reconocimiento facial basadas en IA han demostrado tener errores bajos para determinar el género de hombres de piel más clara, pero errores altos para determinar el género de personas de piel más oscura, mostrando así sesgos de género y raciales.
Sin duda, los resultados sesgados pueden dar lugar a vulneraciones de nuestros derechos fundamentales, desde nuestra libertad de expresión o de asociación (véanse los efectos de la vigilancia indiscriminada realizada por los sistemas de reconocimiento facial) hasta la no discriminación, especialmente cuando las decisiones sesgadas de la IA se basan en el sexo, el origen racial o étnico, la religión, la discapacidad, la edad o la orientación sexual (por ejemplo, en el acceso al empleo o en la aprobación de un préstamo).
Los resultados sesgados de la IA y los efectos discriminatorios se deben principalmente a dos factores:
el uso de conjuntos de datos de entrenamiento de baja calidad (por ejemplo, el sistema de IA se entrena utilizando sobre todo datos de hombres, lo que da lugar a resultados subóptimos en relación con las mujeres);
la falta de transparencia de la IA (conocida comúnmente como «opacidad de la IA»), que dificulta identificar posibles fallos en el diseño del sistema de IA.
El enfoque de la UE
Para mitigar el riesgo de decisiones erróneas o sesgadas asistidas por IA en ámbitos críticos, como la sanidad y el empleo, la Comisión Europea prevé un enfoque multifacético.
El proyecto de Reglamento propuesto incluye requisitos que pretenden minimizar el riesgo de discriminación algorítmica, en particular en relación con la calidad de los conjuntos de datos utilizados para el desarrollo de sistemas de IA, acompañados de obligaciones de prueba, gestión de riesgos, documentación y supervisión humana durante todo el ciclo de vida de los sistemas de IA.
De hecho, cuando se recogen datos, pueden reflejar sesgos socialmente construidos o contener imprecisiones, errores y equivocaciones. Los conjuntos de datos utilizados por los sistemas de IA, tanto para el entrenamiento como para su funcionamiento, también pueden verse afectados por la inclusión de sesgos históricos involuntarios que podrían dar lugar a discriminación indirecta. Asimismo, la forma en que se desarrollan los sistemas de IA (por ejemplo, la manera en que se escribe el código de programación de un algoritmo) también puede verse afectada por sesgos, a menudo inherentes a los desarrolladores humanos.
Por lo tanto, los conjuntos de datos de entrenamiento, validación y prueba deben estar sujetos a prácticas adecuadas de gobernanza y gestión de datos que deberían tener en cuenta:
las opciones de diseño pertinentes;
la recopilación de datos;
las operaciones de tratamiento de preparación de datos pertinentes;
la formulación de supuestos pertinentes, especialmente en lo que respecta a la información que se supone que los datos deben medir y representar;
la evaluación previa de la disponibilidad, la cantidad y la idoneidad de los conjuntos de datos necesarios;
el examen para detectar posibles sesgos;
la identificación de posibles lagunas o deficiencias en los datos, y las posibles medidas correctoras.
Además, para evitar resultados que supongan una discriminación prohibida, cada conjunto de datos de entrenamiento, validación y prueba debe ser pertinente, representativo, estar libre de errores y ser completo. También deben tener las propiedades estadísticas adecuadas, incluso en lo que respecta a las personas o grupos de personas en los que se pretende utilizar el sistema de IA, especialmente para garantizar que todas las dimensiones pertinentes de género, etnia y otros posibles motivos de discriminación prohibida se reflejen adecuadamente en esos conjuntos de datos.
Cabe destacar que la propuesta también establece que, en la medida en que sea estrictamente necesario para garantizar el seguimiento, la detección y la corrección de sesgos de la IA, los proveedores de IA pueden tratar categorías especiales de datos personales, como los datos sanitarios y aquellos que revelan el origen étnico, las opiniones políticas, las creencias religiosas o la orientación sexual, con sujeción a garantías adecuadas. Entre ellas figuran limitaciones técnicas a la reutilización y al uso, así como medidas de seguridad y de preservación de la privacidad de última generación, como la seudonimización o el cifrado, cuando la anonimización pueda afectar significativamente a la finalidad perseguida.
Además de dichas obligaciones de prueba ex ante, la propuesta introduce obligaciones de rendición de cuentas destinadas a demostrar que los sistemas de IA cumplen los requisitos establecidos por la legislación propuesta. La documentación técnica del sistema de IA debe elaborarse antes de que dicho sistema se comercialice y mantenerse actualizada. Asimismo, los sistemas de IA deben diseñarse y desarrollarse con capacidades que permitan el registro automático de eventos (es decir, registros o logs) mientras el sistema de IA está en funcionamiento.
Estas obligaciones pretenden, evidentemente, permitir controles ex post y facilitar el respeto de los derechos fundamentales mediante la garantía de transparencia y trazabilidad del funcionamiento del sistema de IA a lo largo de todo su ciclo de vida. De hecho, para aumentar la transparencia y minimizar el riesgo de sesgo o error, la Comisión Europea sugiere que los sistemas de IA se desarrollen de manera que permitan a las personas comprender la base de sus acciones. Con los mismos fines, exige que los sistemas de IA de alto riesgo se diseñen y desarrollen de forma que su funcionamiento sea lo suficientemente transparente como para que los usuarios puedan interpretar los resultados del sistema y utilizarlos adecuadamente.
Dados los riesgos que pueden plantear, el proyecto de Reglamento también introduce la supervisión humana de determinados sistemas de IA destinada a prevenir o minimizar los riesgos para la salud, la seguridad o los derechos fundamentales que puedan surgir cuando se utiliza un sistema de IA, en particular cuando dichos riesgos persisten a pesar de la aplicación de los otros requisitos mencionados anteriormente.
Un equilibrio difícil de alcanzar
Con su nueva propuesta legislativa, la UE ha dejado claro, una vez más, que la IA tiene tanto el potencial de transformar nuestro mundo para mejor como, al mismo tiempo, el potencial de vulnerar nuestros derechos fundamentales, por ejemplo mediante la discriminación por razón de género u otros tipos de discriminación. Sin embargo, los sesgos, la opacidad, la complejidad, la imprevisibilidad y el comportamiento parcialmente autónomo de los sistemas de IA son solo algunos de los principales factores que plantean riesgos para los derechos de los ciudadanos. Con esta propuesta, la UE establece un marco claro y seguro para que las empresas desarrollen e implanten la IA, facilitando la innovación y la confianza de los clientes y usuarios.
Encontrar un equilibrio entre la protección de las libertades de los ciudadanos y la competitividad económica de la UE es una decisión difícil que requiere evaluaciones complejas. Como afirmó recientemente Margrethe Vestager, vicepresidenta ejecutiva de Una Europa Adaptada a la Era Digital: «En lo que respecta a la inteligencia artificial, la confianza es imprescindible, no un complemento». La confianza requiere transparencia, y la transparencia requiere rendición de cuentas.
Con este proyecto de Reglamento, la UE promueve la innovación en el ámbito de la IA, al tiempo que apoya el desarrollo y la adopción de una IA ética y fiable en toda su economía. La estrategia adoptada por la UE es clara y sitúa a las personas en el centro del desarrollo de la IA, diseñando así una IA centrada en las personas.
