La IA generativa avanza rápidamente y los reguladores de todo el mundo intentan ponerse al día.
En el episodio 4 de la serie de pódcast sobre IA Radio Davos del Foro Económico Mundial, escuchamos opiniones sobre lo que hay que hacer.
Para escuchar, visita esta página del episodio especial; Suscríbete en cualquier aplicación de pódcast aquí.
La llegada de la IA generativa, con todas sus oportunidades y posibles riesgos, ha dado lugar a un debate mundial sobre cómo debería regularse esta tecnología.
Como parte de una serie especial sobre inteligencia artificial del pódcast Radio Davos del Foro Económico Mundial, hablamos con expertos sobre cómo deberíamos abordar la IA y sobre su potencial para cambiar nuestras vidas.
En este cuarto episodio de la serie, que consta de seis partes, hablamos con Amir Banifatemi, cofundador y director de la organización sin ánimo de lucro AI Commons, y con Cyrus Hodes, cofundador de AIGC Chain y Stability AI, quien también forma parte del comité directivo del centro mundial de conocimiento AI Commons.
Estas son algunas de las principales ideas de la conversación.
Debemos considerar ahora las salvaguardias para la IA
«Este es un momento crítico para la civilización humana», afirma Cyrus Hodes.
«No cabe duda de que estamos en un momento decisivo y deberíamos asegurarnos de contar con marcos y salvaguardias».
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
El Foro Económico Mundial creó recientemente la Alianza para la Gobernanza de la IA, con el fin de unir a líderes de la industria, gobiernos, instituciones académicas y organizaciones de la sociedad civil para promover el diseño y la puesta en circulación responsables, a escala mundial, de sistemas de IA transparentes e inclusivos.
La Alianza se creó reconociendo que la IA puede influir en todos los aspectos de la vida humana y con el fin de garantizar que se desarrolle de manera responsable.
Debemos controlar cuidadosamente la puesta en circulación de nuevos modelos de IA
«Hay muchos debates y conversaciones sobre cómo ralentizar el desarrollo de modelos lingüísticos, su entrenamiento y el ritmo al que se está avanzando», afirma Amir Banifatemi, pero considera que otro enfoque es más realista.
«No deberíamos ralentizar la investigación. Esto es un descubrimiento; es el ingenio en acción; así es como progresamos. Pero sin duda debería haber límites de seguridad en cuanto a los modelos que se desarrollan y a cómo se utilizan para crear aplicaciones, a quiénes sirven esas aplicaciones y cuán seguras son. La puesta en circulación de modelos potentes de IA debería controlarse cuidadosamente».
«No podemos exponer al público en general —que quizá no esté plenamente capacitado ni familiarizado con el uso de estas herramientas— a modelos de IA que aún están en desarrollo. Creo que los reguladores están prestando atención a esto».
Debemos abordar la regulación de la IA de nuevas maneras
«El principio fundamental es que la IA debe estar centrada en las personas», afirma Hodes. Por ejemplo, tenemos que asegurarnos de que la IA nos ayude a avanzar hacia los Objetivos de Desarrollo Sostenible de la ONU.
«Además, la equidad, la rendición de cuentas y la transparencia son temas de alto nivel que se han debatido y adoptado en muchos otros países», afirma Hodes.
Amir Banifatemi considera que los reguladores deben comprender urgentemente la magnitud del posible impacto de la IA y acelerar el proceso regulatorio para seguir el ritmo de su desarrollo.
«Esta es una cuestión que nos concierne como especie», afirma Banifatemi. «Durante los últimos miles de años no hemos tenido un primo ni un hermano, y ahora quizá tengamos uno. Así que se trata de entenderlo y de cómo convivir con ello. Creo que se presionará a los responsables políticos y a los reguladores para que aceleren la manera en que comprenden la situación, se reúnen y crean marcos que nos permitan orientarnos mejor».
Hodes duda de que los responsables políticos puedan adoptar una perspectiva a largo plazo.
«A la mayoría de los responsables políticos les preocupa la reelección. Tienen una perspectiva a corto plazo. Al mismo tiempo, no hablamos de este tema tan importante: el surgimiento de una nueva inteligencia. Hace falta mucha formación para los responsables políticos de todo el mundo».
«Esta es una cuestión que nos concierne como especie. Durante los últimos miles de años no hemos tenido un primo ni un hermano, y ahora quizá tengamos uno».
Amir Banifatemi
Hodes cita como modelo para la regulación de la IA los tratados internacionales sobre la seguridad de la energía atómica y la no proliferación de las armas nucleares.
«Este es el momento para que los responsables políticos de todo el mundo vuelvan a reunirse y trabajen para alcanzar un acuerdo de ese tipo», afirma.
«¿Por qué no regulamos la IA a escala mundial? Creo que, con todos mis colegas haciendo sonar las alarmas, este es el momento en que va a suceder».
