Un científico informático y un filósofo se unen al podcast Radio Davos para debatir por qué la ética es un asunto tan clave en el desarrollo, el uso y la regulación de la IA.
Suscríbase aquí para acceder a toda la serie de podcasts. Encuentre la página del episodio y la transcripción aquí.
La inteligencia artificial (IA) generativa tiene un enorme potencial, pero no está exenta de riesgos ni de desafíos. Este último episodio de nuestra serie especial de Radio Davos sobre esta tecnología se centra en la ética y en por qué es una cuestión tan central a la hora de desarrollar, usar y regular la IA.
Escuchamos a Cansu Canca, filósofa de la Universidad Northeastern y responsable de ética del Instituto de IA Experimental de dicha universidad. Además, conocemos las perspectivas de Sara Hooker, que dirige el laboratorio de investigación sin ánimo de lucro Cohere for AI, así como las de Connie Huang, responsable de creación de valor en metaverso e IA en el Foro Económico Mundial.
Puede escucharlo donde suela escuchar sus podcasts; aquí tiene algunas citas clave del episodio.
Una cuestión de equidad
Canca se unió a Radio Davos para explorar algunas de las cuestiones fundamentales que la IA plantea para ella como especialista en ética aplicada.
"Para hablar de cómo optimizar la equidad o de cómo lograr algoritmos justos, debemos ser capaces de definir qué entendemos por justo", afirma. "Y en la definición de equidad, la comprensión de en qué contexto es relevante cada teoría de la equidad procede de la disciplina de la filosofía y de la filosofía moral y política."
Para Canca, la cuestión no es tanto por qué participa en el debate, sino por qué no lo hacen más de sus colegas. "Muchas de las decisiones que se toman en la elaboración de políticas, o en la toma de decisiones cotidiana mientras desarrollamos y utilizamos sistemas de IA, incorporan decisiones éticas, ya sea de forma implícita o explícita."
Por qué importan estas cuestiones
Canca insiste en que, en la actualidad, los sistemas de IA no tienen capacidad de actuar de forma ética o no ética. "Lo estamos reetiquetando, en cierto modo, como IA responsable, y por buenas razones", afirma. "Creo que la IA ética da la impresión de que un sistema de IA tiene capacidad de actuación y la habilidad de actuar éticamente, cuando, al menos por ahora, no hemos llegado a ese punto."
Sin embargo, subraya que aún queda mucho por comprender y considerar, independientemente de cómo se denomine. Y cree que la regulación tiene un papel que desempeñar para mitigar los riesgos, al igual que las empresas y organizaciones que participan en el desarrollo y la implantación de la tecnología.
Y estas no son cuestiones abstractas.
"Cuando se piensa en por qué importa, por ejemplo, la cuestión de la equidad, es porque al integrar los sistemas de IA en nuestra vida diaria y en nuestra sociedad, lo que realmente estamos haciendo es crear estructuras sobre las que vamos a vivir", afirma Canca. "Y si las estructuras subyacentes son injustas, no hay esperanza de que podamos crear una sociedad justa."
Considera que la sociedad necesita más formación para comprender los riesgos.
"Los riesgos son, para ser claros, enormes, pero normalmente no son los que imagina el público ni los que hacen creer los periódicos. No es una situación del tipo Terminator, sino que la cuestión de la equidad mata a personas. Si no puede acceder a la atención sanitaria porque su riesgo se considera injustamente mucho menor que el de otra persona, eso puede costarle la vida. Por tanto, la cuestión de la equidad no es solo una pregunta abstracta."
Como resume, "No es el humanoide que va a por usted el que le va a matar. Pero sí lo hará un sistema de evaluación de riesgos muy mundano si no se corrige esto."
Gobernanza
Desde los grandes modelos de lenguaje hasta la trazabilidad y la auditoría, Sara Hooker, de Cohere for AI, nos ofreció una excelente base sobre algunos de los términos que necesitamos entender y debatir sobre la IA ética.
Y gran parte de lo que nos entusiasma de la IA generativa, por ejemplo en torno a ChatGPT, ha tardado más de lo que cabría esperar.
"Resulta interesante porque lo que ve ahora y lo que le entusiasma, y, según percibo, lo que le atrae, es en realidad la culminación de varios pasos distintos", afirma. "Así que, para los investigadores, ha sido una especie de construcción lenta, pero que conecta de forma muy intensa con las personas."
Y Hooker cree que la regulación sí debe producirse: "Como alguien que lleva mucho tiempo trabajando en esta tecnología, no cabe duda de que se trata de un cambio gradual en el poder de los modelos que tenemos.
"Como investigadora, me preocupa mucho, porque en cierto modo es muy emocionante que tanta gente conecte con el trabajo que lleva tanto tiempo desarrollando y que se sienta entusiasmada y sienta que lo entiende", afirma.
"Porque creo que gran parte de lo que ha cambiado con esta tecnología es que la gente siente que interactúa con un algoritmo. Pero también genera preocupación, creo, para muchos investigadores, que sus ideas, que normalmente siguen siendo ideas de investigación, estén siendo adoptadas por millones de personas en todo el mundo y se estén utilizando de formas muy distintas."
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
Es hora de hablar
Los métodos para verificar y rastrear el desarrollo serán fundamentales a medida que se expanda el uso de la tecnología, afirma Hooker.
"Necesitamos formas de comprobar que el comportamiento es el que esperamos y que estos modelos son capaces de funcionar de manera robusta cuando se enfrentan a nuevos datos en el mundo real", afirma.
"Ahora mismo no tenemos una buena trazabilidad para estos modelos. Así que, una vez que están disponibles en abierto, pueden utilizarse de múltiples formas y no hay una buena manera de rastrear qué modelo se utilizó", añade al debatir sobre la posibilidad de publicarlos bajo licencia o la necesidad de auditorías.
Pero es importante que mantengamos estas conversaciones, concluye.
"Personalmente, como investigadora, estoy muy a favor de que mantengamos conversaciones más ricas y precisas sobre este tema, porque parte de ello casi equivale a determinar qué es viable, qué podemos estandarizar como buenas prácticas, y también a asegurarnos de que haya investigadores en la sala, junto con responsables políticos y usuarios, y de que pensemos en las implicaciones para cada uno de estos grupos."
Como resume Connie Huang, del Foro, "Por mucho que analicemos todas las oportunidades, también debemos equilibrarlas con la investigación y con una conciencia común sobre los desafíos y las compensaciones, es decir, las consecuencias no deseadas que pueden acompañar a la adopción de nuestras tecnologías."
