El episodio final de nuestra serie de pódcast sobre IA recoge los momentos destacados de la Reunión Anual de los Nuevos Campeones (AMNC), el «Davos de verano» del Foro Económico Mundial, celebrada en Tianjin, China.
Expertos en IA piden establecer salvaguardias, diseñar y desplegar la tecnología de forma responsable en la Reunión Anual de los Nuevos Campeones del Foro Económico Mundial, en Tianjin, China.
Según afirman, la toma de decisiones finales en ámbitos críticos debe seguir correspondiendo a una persona.
También son cruciales las medidas para eliminar los sesgos y garantizar la transparencia.
Escucha lo último episodio aquí.
Líderes de gobiernos, del sector tecnológico y del ámbito académico han reconocido el enorme potencial de la IA generativa, pero han pedido una serie de salvaguardias para garantizar que esta tecnología inteligente se despliegue de forma segura y con el propósito de beneficiar a todos.
Los expertos intervinieron en dos sesiones de la Reunión Anual de los Nuevos Campeones en Tianjin, China.
Al enmarcar el debate, Cathy Li, directora de IA, datos y metaverso del Foro y miembro del Comité Ejecutivo, afirmó en un episodio reciente de Radio Davos: «Es fundamental que todos comprendan el enorme potencial que vemos en esta nueva tecnología, así como los desafíos y las responsabilidades que conlleva».
Estos son los momentos destacados de las dos sesiones sobre el futuro de la IA.
Nota: Este artículo se basa en transcripciones automatizadas y algunas citas se han editado por motivos de extensión y gramática.
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
Cómo regular una tecnología que podría cambiar la civilización humana
Durante la sesión IA generativa: ¿aliada o enemiga?, Pascale Fung, profesora titular del Departamento de Ingeniería Electrónica e Informática de la Universidad de Ciencia y Tecnología de Hong Kong, afirmó que el mundo se enfrenta a modelos potentes y creativos que representan «un salto cuántico en la civilización humana».
Fung añadió: «Debemos contar con un marco para desarrollar modelos responsables de IA generativa; no basta con mantener a una persona dentro del proceso, también debemos comprender estos modelos a fondo y adaptarlos a lo que quieren las personas».
Aunque los panelistas coincidieron en que las salvaguardias son esenciales para desplegar la IA de forma segura, también reconocieron que la preocupación por sus posibles consecuencias negativas no debería ralentizar el desarrollo.
Emilija Stojmenova Duh, ministra de Transformación Digital de Eslovenia, afirmó: «La IA puede impulsar realmente la innovación», y añadió que los temores no deberían obstaculizarla. «Por supuesto que hay temores, pero creo que si hablamos de ellos todo el tiempo, podríamos perder este potencial». Stojmenova Duh también habló de sus principales preocupaciones sobre la IA, su papel en la educación y los sesgos inherentes a los sistemas de IA.
«Veo un enorme potencial; mi preocupación [es] que no estoy del todo segura de si los docentes sabrán utilizar la IA, de si entienden qué significa la IA generativa y cómo pueden usarla. Pero mi mayor [preocupación son] los sesgos en la IA. Ya existen estereotipos y sesgos en el mundo. Tenemos que encontrar la manera de eliminar los estereotipos y sesgos de la IA y asegurarnos de que no provoquen más divisiones en nuestras comunidades».
Para Darko Matovski, director ejecutivo de CausaLens, los beneficios de la innovación impulsada por la IA deben ir acompañados de transparencia. Según explicó al panel, para generar confianza las personas deben poder entender cómo funcionan los sistemas de IA y qué decisiones toman. «Alrededor del 85 % de los proyectos de IA nunca salen del laboratorio, y hay una razón fundamental para ello: la gente no confía realmente en los algoritmos. La IA generativa tiene muchos usos, pero, cuando se trata de tomar decisiones, es esencial que la gente entienda qué hace el algoritmo. La IA debe explicar por qué tomó una decisión. Debe poder explicar qué hará si aparece un dato que nunca había visto».
¿Quién establece las reglas para regular la IA?
En la segunda sesión, Ponerse al día: preparación para la IA en plena revolución de la IA, los panelistas debatieron quién debería asumir la responsabilidad de regular la IA. ¿Debería recaer en los gobiernos o habría que dejar que el sector tecnológico se autorregule?
«Como gobiernos, no podemos regular lo que desconocemos», afirmó Paula Ingabire, ministra de Tecnologías de la Información, la Comunicación y la Innovación de Ruanda. Ingabire describió cómo un enfoque público-privado de la regulación podría ofrecer el mejor resultado y dijo al panel: «Es natural que todos piensen que los gobiernos deberían liderar, y estoy de acuerdo. Es muy importante entender que los gobiernos por sí solos no pueden hacerlo. Hace falta algún tipo de alianza y colaboración, y determinar quién desempeña un papel más destacado».
Emilija Stojmenova Duh señaló los peligros de que los gobiernos se apresuren a regular sin comprender plenamente los riesgos y el potencial de la IA. Dijo al panel: «Si queremos regular algo, conviene tomarnos un tiempo y ver qué queremos regular». La ministra advirtió que el ritmo de desarrollo de la IA podría tomar desprevenidos a los legisladores y dar lugar a una regulación insuficiente para controlar los riesgos o que frene la innovación positiva.
Joanna Bryson, profesora de Ética y Tecnología en la Hertie School, dijo al panel que es fundamental que quienes desarrollan y regulan la IA se hagan las preguntas adecuadas sobre sus posibles repercusiones. Sugiere centrarse más en garantizar que las personas se sientan seguras en un mundo con IA, en lugar de intentar convencerlas de que confíen en ella.
«Debemos pensar mucho en las personas desplazadas [por la IA]. Cuando alguien atraviesa un acontecimiento inesperado en su vida, ¿es probable que pueda seguir pagando el alquiler o la hipoteca? Los gobiernos desempeñan un papel importante a la hora de ayudarnos a afrontar el cambio. Parte de la razón por la que ahora hay problemas de confianza es que sabemos que no recibimos la información que deberíamos y que no ha habido suficiente transparencia. Creo que es importante reconocer que estamos en la era de la información y que debemos hacer cosas que beneficien a las personas».
El Foro Económico Mundial ha puesto en marcha la Alianza para la Gobernanza de la IA, una iniciativa específica centrada en la inteligencia artificial generativa responsable. Esta iniciativa amplía el marco existente y se basa en las recomendaciones de la Cumbre Mundial sobre Liderazgo en IA Responsable: una cumbre mundial sobre IA generativa.
