Dilbert: ¡Vaya! Según mi simulación informática, debería ser posible crear nuevas formas de vida a partir de productos químicos domésticos comunes
Dogbert: Esto plantea algunos asuntos espinosos.
Dilbert: ¿Te refieres a cuestiones legales, éticas y religiosas?
Dogbert: Estaba pensando en las plazas de aparcamiento.
La inteligencia artificial es un campo tecnológico maravilloso. Esta combinación de matemáticas, datos y ciencias cognitivas se utiliza para mejorar los diagnósticos médicos, reducir el consumo de energía y descubrir nuevas perspectivas en numerosos sectores. También se la presenta como una amenaza existencial para la humanidad y como presagio de un futuro distópico de ingeniería social y señores robots. Si se exageran los beneficios de la IA, también se exageran los escenarios apocalípticos; pero estos extremos reflejan las decisiones reales que tenemos ante nosotros: podemos orientar deliberadamente este poderoso conjunto de tecnologías para que beneficie a la humanidad, o cruzar los dedos y esperar que todo salga bien.
Algunos de los desafíos que plantea la IA son únicos: la capacidad del software y las máquinas para tomar decisiones complejas sin intervención humana (más allá de la fase de diseño y desarrollo) probablemente sea el más importante y el que más temor suscita. Pero otros desafíos llevan mucho tiempo presentes en los sistemas de software y datos. La fascinación actual por esta tecnología y el hecho de que las empresas estén invirtiendo mucho dinero y esfuerzo para aprovecharla ofrecen la oportunidad de abordar los desafíos en materia de derechos humanos relacionados no solo con la IA, sino también, en términos más generales, con los datos y la tecnología digital.
El impacto de la IA en los derechos humanos ha llevado a algunas personas a reflexionar; sus ideas han culminado en una serie de recomendaciones sobre cómo prevenir resultados discriminatorios en el aprendizaje automático (una rama del campo que hoy constituye la tecnología de IA dominante).
Las recomendaciones, publicadas en un documento técnico en marzo de este año, se centran en la responsabilidad del mundo empresarial en el desarrollo y la implementación del aprendizaje automático, y ofrecen un conjunto de principios basados en los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos. Son cuatro:
1. Inclusión activa
Al desarrollar sistemas de IA, se debe tener en cuenta a quiénes afectarán. Por ejemplo, el diagnóstico médico es un ámbito muy prometedor en el que la IA podría agilizar y mejorar la detección de enfermedades. Sin embargo, esos sistemas deben tener en cuenta las diferencias entre poblaciones específicas, grupos de edad o entornos. Asimismo, la diversidad en los equipos que desarrollan estas tecnologías es muy importante para producir tecnología que funcione para más personas.
2. Equidad
El aprendizaje automático depende de cantidades muy grandes de datos. Un sistema de IA basado en aprendizaje automático se desarrolla con lo que se conoce como datos de entrenamiento: grandes conjuntos de datos (por ejemplo, imágenes, datos financieros o información personal) que se clasifican y se introducen en un algoritmo para que este se «entrene» a reconocer ciertos aspectos o encontrar tendencias que, de otro modo, podrían pasar inadvertidas. Pero, como sabemos, los datos contienen numerosos sesgos históricos y actuales: desde la vigilancia policial excesiva de grupos minoritarios hasta la discriminación en el acceso a préstamos. Si no se corrigen esos sesgos y los algoritmos no se diseñan específicamente para contrarrestarlos, existe un riesgo muy alto de que un sistema de IA amplifique la discriminación existente.
3. Derecho a comprender
La IA no solo se utiliza para ayudar a decidir sobre préstamos, reclamaciones de seguros y solicitudes de empleo; también se emplea cada vez más en funciones públicas, incluido el sistema judicial. Por ejemplo, en Estados Unidos, los tribunales y los departamentos penitenciarios utilizan la IA para ayudar a tomar decisiones sobre la libertad bajo fianza, las sentencias y la libertad condicional. Sin embargo, estos algoritmos suelen ser una «caja negra»: quienes los utilizan desconocen su funcionamiento interno porque son programas informáticos patentados, desarrollados por terceros. Si un algoritmo va a influir en que te concedan una hipoteca, te inviten a una entrevista de trabajo o —si tienes la desgracia de verte involucrado en un problema legal— te concedan la libertad bajo fianza, querrás tener la certeza de que sus evaluaciones son justas. Esto es imposible si quienes lo utilizan (un banco, un empleador o un tribunal) no saben cómo funciona. Siempre deberíamos saber cuándo la IA ayuda a tomar decisiones o las toma, y poder obtener una explicación de por qué se tomó una decisión.
4. Acceso a reparación
Por último, y sobre la base del derecho a comprender, no deberíamos perder el derecho a impugnar eficazmente una decisión que consideremos injusta por el hecho de que la toma de decisiones en funciones comerciales o públicas esté automatizada. Deberíamos contar con un recurso adecuado cuando se haya tomado una decisión equivocada y con procedimientos claros para apelarla. Los desarrolladores de IA deberían supervisar y probar periódicamente sus aplicaciones para detectar y corregir cualquier tendencia discriminatoria en su uso.
A medida que se debaten y elaboran principios éticos para el desarrollo y el uso de la IA, es fundamental que se basen en el marco de derechos humanos, el único acordado internacionalmente para proteger la libertad, la justicia, la dignidad y la igualdad. Este año celebramos el 70.º aniversario de la Declaración Universal de Derechos Humanos; ese marco representa siete décadas de práctica y normas en evolución y debería ser el núcleo en torno al cual se definan y desarrollen la ética de la IA.
En el diálogo al comienzo de este artículo, Dogbert no presta atención a las implicaciones legales y éticas de crear formas de vida artificiales y solo se preocupa por cómo afrontar el posible aumento de la demanda de plazas de aparcamiento. Esa es la disyuntiva de las empresas: centrarse en los resultados y los objetivos a corto plazo, o adoptar una perspectiva a largo plazo y asegurarse de que las tecnologías que desarrollan beneficien a la sociedad. Esta elección definirá nuestro futuro.
Cómo prevenir resultados discriminatorios en el aprendizaje automático: lee aquí el informe completo.
