Los algoritmos de IA tienen enormes implicaciones para la vida humana y la sociedad en general.
Entre los dilemas éticos relacionados con la IA figuran las brechas digitales y su uso como arma.
La autonomía debe equilibrarse con la supervisión humana y debe promoverse el uso responsable de la IA para aprovecharla en la lucha contra la discriminación.
La inteligencia artificial (IA) se ha convertido en una realidad cotidiana y en una herramienta empresarial, impulsada por los avances informáticos, la ciencia de datos y la disponibilidad de enormes conjuntos de datos. Las grandes empresas tecnológicas —Google, Amazon y Meta— están desarrollando ahora sistemas basados en IA. Esta tecnología puede imitar el habla humana, detectar el cáncer, predecir actividades delictivas, redactar contratos jurídicos, resolver problemas de accesibilidad y realizar tareas mejor que las personas. Para las empresas, la IA promete predecir resultados comerciales, mejorar los procesos y aumentar la eficiencia con un ahorro sustancial de costes.
Sin embargo, siguen aumentando las preocupaciones relacionadas con la IA.
Los algoritmos de IA se han vuelto tan potentes —y algunos expertos incluso los califican de sintientes— que cualquier corrupción, manipulación, sesgo o discriminación puede tener enormes consecuencias para las organizaciones, la vida humana y la sociedad.
IA: algoritmos y discriminación digital
Las decisiones de la IA influyen cada vez más en la vida de las personas y tienen efectos a gran escala. Su uso irresponsable puede agravar los sesgos humanos existentes y medidas discriminatorias como la elaboración de perfiles raciales, la predicción del comportamiento o la identificación de la orientación sexual. Este prejuicio inherente se debe a que la IA solo es tan buena como los datos de entrenamiento que podemos proporcionarle, los cuales pueden estar sujetos a sesgos humanos.
También pueden surgir sesgos cuando los algoritmos de aprendizaje automático se entrenan y prueban con datos que representan insuficientemente a ciertos subgrupos de población, como las mujeres, las personas racializadas o las personas de determinados grupos de edad. Por ejemplo, estudios muestran que las personas racializadas son particularmente vulnerables al sesgo algorítmico en la tecnología de reconocimiento facial.
También pueden surgir sesgos en el uso. Por ejemplo, los algoritmos de IA diseñados para una aplicación determinada pueden emplearse con fines no previstos para los que no fueron creados, lo que da lugar a una interpretación errónea de los resultados.
Validar el rendimiento de los algoritmos de IA
La discriminación impulsada por la IA puede ser abstracta, poco intuitiva, sutil, intangible y difícil de detectar. Es posible que el código fuente no sea de acceso público o que los auditores desconozcan cómo se implementa un algoritmo. No se debe subestimar la complejidad de examinar un algoritmo de IA para ver cómo está escrito y responder en consecuencia.
Las leyes de privacidad actuales se basan en la notificación y el consentimiento; por ello, el aluvión de notificaciones que piden a los consumidores aceptar políticas de privacidad extensas rara vez se lee. Si se aplicaran avisos de ese tipo a la IA, tendría graves consecuencias para la seguridad y la privacidad de los consumidores y de la sociedad.
La IA como arma
Aunque quizá todavía no exista malware verdaderamente impulsado por IA, no es descabellado suponer que el malware con inteligencia artificial amplificará las capacidades de los atacantes. Las posibilidades son infinitas: malware que aprende de su entorno para identificar y explotar nuevas vulnerabilidades, herramientas que ponen a prueba la seguridad basada en IA o malware que puede envenenar la IA con información errónea.
El contenido digital manipulado por IA ya se utiliza para crear copias sintéticas hiperrealistas de personas en tiempo real (también conocidas como ultrafalsificaciones). Como resultado, los atacantes aprovecharán las ultrafalsificaciones para crear ataques de ingeniería social muy selectivos, causar daños financieros, manipular la opinión pública u obtener una ventaja competitiva.
La discriminación impulsada por la IA puede ser abstracta, poco intuitiva, sutil, intangible y difícil de detectar. Es posible que el código fuente no sea de acceso público o que los auditores desconozcan cómo se implementa un algoritmo de IA.
Steve Durbin, director ejecutivo del Information Security Forum
Mitigar los riesgos relacionados con los algoritmos de IA
Dado que las decisiones de la IA influyen cada vez más en la vida de las personas y tienen efectos a gran escala, las empresas tienen la responsabilidad moral, social y fiduciaria de gestionar éticamente la adopción de la IA. Pueden hacerlo de varias maneras.
1. Traducir la ética en métricas
La IA ética se atiene a directrices éticas bien definidas y valores fundamentales, como los derechos individuales, la privacidad, la no discriminación y, sobre todo, la no manipulación. Las organizaciones deben establecer principios claros para identificar, medir, evaluar y mitigar los riesgos impulsados por la IA. A continuación, deben traducirlos en métricas prácticas y medibles e incorporarlas a los procesos cotidianos.
2. Comprender las fuentes de sesgo en los algoritmos de IA
Contar con las herramientas adecuadas para investigar las fuentes de sesgo y comprender los efectos de la equidad en la toma de decisiones es absolutamente fundamental para desarrollar una IA ética. Hay que identificar los sistemas que utilizan aprendizaje automático, determinar cuán importantes son para la empresa e implementar procesos, controles y contramedidas contra los sesgos inducidos por la IA.
3. Equilibrar la autonomía con la supervisión humana
Las organizaciones deben crear un comité de ética transversal que supervise la gestión y el seguimiento continuos de los riesgos que introducen los sistemas de IA dentro de la organización y en la cadena de suministro. El comité debe estar compuesto por personas de distintos orígenes para garantizar la sensibilidad ante todo el espectro de cuestiones éticas.
Los algoritmos deben diseñarse con aportaciones de expertos, conocimiento de las circunstancias y conciencia de los sesgos históricos. En ámbitos críticos, por ejemplo, en las transacciones financieras, deben exigirse procesos de autorización humana para evitar que actores maliciosos los comprometan.
4. Empoderar a los empleados y promover la IA responsable
Fomentar una cultura que permita a las personas plantear inquietudes sobre los sistemas de IA sin frenar la innovación. Generar confianza interna en la IA abordando con transparencia las funciones, las expectativas y las responsabilidades. Reconocer la necesidad de nuevas funciones y mejorar activamente las competencias, reciclar profesionalmente o contratar personal.
Se puede empoderar a los usuarios ofreciéndoles un mayor control y acceso a vías de reclamación cuando lo necesiten. Un liderazgo sólido también es fundamental para empoderar a los empleados y hacer de la IA responsable una prioridad empresarial.
5. Aprovechar la IA para combatir la discriminación
Las verificaciones de procedimiento, el método tradicional para evaluar la equidad humana, pueden beneficiarse de la IA al ejecutar algoritmos junto con los procesos de toma de decisiones humanas, comparar los resultados y explicar el motivo de las decisiones tomadas por máquinas. Otro ejemplo es la iniciativa de investigación del MIT sobre la lucha contra el racismo sistémico que trabaja para desarrollar y utilizar herramientas computacionales con el fin de crear igualdad racial en muchos sectores distintos de la sociedad.
En resumen, los modelos de IA deben ser fiables, justos y explicables desde su diseño. A medida que la IA se democratiza y toman forma nuevos modelos de gobernanza, cabe esperar que surjan más innovaciones habilitadas por la IA.
