Por qué no podemos dejar la IA en manos de las máquinas

• La mayoría de la gente aún desconoce hasta qué punto se utilizan máquinas para tomar decisiones que afectan a sus vidas.

• Con demasiada frecuencia, esas máquinas se basan en información sesgada y, por tanto, toman decisiones sesgadas.

• Si somos más conscientes de los riesgos, podremos mitigarlos mejor y asegurar que la IA aporte los beneficios que se nos prometieron.

«Preferiría que mis documentos fueran revisados por una máquina. No me discriminará», afirmó la mayoría de las personas cuando la Agencia de la Unión Europea para los Derechos Fundamentales (FRA) les preguntó por sus opiniones sobre los controles fronterizos automatizados.

Era 2015 y el uso de la inteligencia artificial (IA) estaba empezando a generalizarse.

Avancemos hasta 2023 y la IA está en todas partes. Nos dice qué ver en Netflix. Ayuda a desarrollar vacunas. Selecciona a los candidatos a un empleo con el currículum más adecuado.

Pero una cosa no ha cambiado: la mayoría de la gente sigue sin saber hasta qué punto se utilizan máquinas para tomar decisiones que afectan a sus vidas. Y esas máquinas pueden discriminar, no solo en teoría, sino también en la práctica.

Bienestar social

La muestra más escandalosa de ello es que miles de familias inocentes fueron acusadas falsamente de fraude y obligadas a devolver las prestaciones sociales. Muchas de estas familias pertenecían a minorías étnicas. Fueron seleccionadas por un algoritmo simplemente por su origen. Empujadas a la pobreza, algunas perdieron sus hogares y ya no pudieron cuidar de sus hijos.

En su informe Máquinas xenófobas, Amnistía Internacional documentó lo fácilmente que el uso de la tecnología derivó en discriminación en este caso. Por su parte, las Naciones Unidas han instado a los gobiernos de todo el mundo a evitar caer, como zombis, en una distopía de bienestar digital.

Vigilancia policial

Pero no se trata solo del bienestar digital. El uso de la IA plantea problemas en muchos otros ámbitos, como la sanidad, la educación, el bienestar y la actuación policial.

Por ejemplo, las autoridades de varios países europeos han desarrollado un sistema para predecir robos con allanamiento de morada a partir de datos históricos. Con la ayuda de algoritmos, la tecnología calcula cuándo y dónde es probable que se produzcan delitos similares en el futuro. Sobre la base de estas previsiones, se pueden desplegar más patrullas policiales.

El problema de este tipo de herramientas basadas en IA es que se apoyan en datos históricos sobre delitos que podrían estar sesgados. Por ejemplo, tenemos investigaciones que demuestran que la policía en Europa detiene a hombres negros jóvenes con más frecuencia que a cualquier otra persona. Más controles generan más registros. Si estos registros se introducen después en una máquina, esta seguirá enviando a la policía a barrios concretos. Y esto podría no tener nada que ver con los niveles reales de delincuencia.

Detección de discursos ofensivos

Del mismo modo, los algoritmos pueden generar información errónea al detectar discursos ofensivos en línea. Cuando la Agencia de Derechos Fundamentales puso a prueba modelos automatizados de detección de discursos de odio, descubrió rápidamente que esos algoritmos son totalmente poco fiables. Frases inofensivas como «Soy judío» o «Soy musulmán» pueden marcarse como ofensivas. Y, sin embargo, el contenido ofensivo puede colarse con facilidad. Esto se debe a que los algoritmos trabajan con conjuntos de datos existentes que no son neutrales.

Esto solo subraya que, incluso con las mejores intenciones, es demasiado fácil que el sesgo quede integrado en el algoritmo desde el principio.

¿Hacia una solución?

¿Pondría usted su vida y la de sus hijos en manos de una tecnología que no comprende? ¿Cuya dirección no puede prever? Yo no lo haría. Ese es un futuro distópico y no tenemos por qué llegar a él.

Esto no significa que debamos dejar de utilizar la IA. Simplemente significa que necesitamos comprender mucho mejor cómo funcionan los algoritmos y cómo pueden sesgarse. No podemos conformarnos con la explicación de que la IA es una caja negra que simplemente debemos dejar funcionar a su asombrosa velocidad.

En cambio, debemos exigir transparencia. Los seres humanos deben seguir muy de cerca la supervisión de la IA y poner siempre a prueba las aplicaciones en el contexto en que se usan. Porque la IA puede afectar a cualquier derecho humano imaginable, desde la libertad de expresión y la libertad de reunión hasta la libertad de circulación o la privacidad. Y simplemente necesitamos saber si esos derechos están en peligro.

Si somos más conscientes de los riesgos, podremos mitigarlos mejor y asegurar que la IA aporte los beneficios que se nos prometieron.

Con este fin, la agencia que dirijo ha emitido varias recomendaciones para los desarrolladores de tecnología, las agencias gubernamentales, los reguladores y los legisladores, de la siguiente manera:

1. Asegurar que la IA respete todos los derechos humanos: la IA puede afectar a muchos derechos humanos, no solo a la privacidad o a la protección de datos. Cualquier futura legislación sobre IA debe tenerlo en cuenta y crear salvaguardas eficaces.

2. Evaluar el impacto de la IA y comprobar la existencia de sesgos: Las organizaciones deben llevar a cabo más investigaciones y evaluaciones sobre la manera en que la IA podría perjudicar los derechos humanos y permitir la discriminación. Además, deben comprobar si existen sesgos, ya que los algoritmos pueden estar sesgados desde el principio o desarrollar sesgos con el tiempo. Estos sesgos pueden ser muy diversos, por lo que deben considerar todos los motivos de discriminación, incluidos el sexo, la religión y el origen étnico.

3. Proporcionar orientaciones sobre los datos sensibles: Para evaluar la posible discriminación, pueden ser necesarios datos sobre características protegidas, como el origen étnico o el género. Esto requiere orientaciones sobre cuándo está permitida la recogida de dichos datos. Debe estar justificada, ser necesaria y contar con salvaguardas eficaces.

4. Crear un sistema de supervisión eficaz: Se necesita un sistema coordinado para exigir responsabilidades a las empresas y a las administraciones públicas cuando utilizan la IA. Los organismos de supervisión deben disponer de recursos y competencias adecuados para desempeñar su labor. Y, de manera fundamental, la transparencia y la supervisión eficaz requieren un mejor acceso a los datos y a las infraestructuras de datos para identificar y combatir el riesgo de sesgo.

5. Garantizar que las personas puedan impugnar las decisiones tomadas por la IA: Las personas deben saber cuándo y cómo se utiliza la IA, así como cómo y dónde presentar una queja. Las organizaciones que utilizan la IA deben ser capaces de explicar cómo sus sistemas toman decisiones.

Ya es hora de desmentir el mito de que los derechos humanos nos impiden progresar. No estamos obligados a elegir entre los derechos humanos y la innovación. No es un juego de suma cero.

Un mayor respeto por los derechos humanos significa una tecnología más fiable. Una tecnología más fiable es una tecnología más atractiva. A largo plazo, será la tecnología con más éxito.

Si lo hacemos bien, podemos esperar un futuro asombroso. Un futuro que nos traiga curas para enfermedades. Un futuro en el que la prestación de servicios públicos se realice con un grado de eficiencia y calidad muy superior al actual.

Todo esto es posible si orientamos la IA en la dirección correcta. Y si no dejamos las decisiones únicamente en manos de las máquinas.