Los gobiernos quieren impulsar de forma responsable la innovación y las oportunidades económicas de la inteligencia artificial generativa (IA generativa) para prevenir y mitigar posibles riesgos.
La rápida evolución de la IA generativa, la competencia por los recursos y un panorama complejo de políticas globales pueden dificultar una respuesta ágil de los gobiernos.
Un informe de la Alianza para la Gobernanza de la IA ofrece a responsables de políticas y reguladores un marco práctico para una gobernanza resiliente y previsora de la IA generativa, capaz de seguir el ritmo de su evolución.
El potencial económico, impacto transformador y la rápida adopción de la IA generativa han llevado a gobiernos de todos los niveles a invertir en analizar cómo impulsar la innovación en IA en sus jurisdicciones, mitigando al mismo tiempo los riesgos de la tecnología y previniendo daños.
Diversos grupos de trabajo, comités e iniciativas de múltiples partes interesadas, como el Órgano Consultivo de Alto Nivel de las Naciones Unidas sobre Inteligencia Artificial, se han creado para estudiar y recomendar medidas gubernamentales adecuadas. Además, en todo el mundo se están examinando numerosos proyectos de ley relacionados con la IA, y algunas jurisdicciones ya han aprobado normativas, como la Unión Europea, China y, a nivel estatal, en Estados Unidos.
Hay mucho en juego a la hora de lograr una buena gobernanza de la IA generativa, pero la tarea no es sencilla y la cooperación público-privada es clave para lograrlo.
Desafíos complejos socavan la gobernanza eficaz de la IA generativa
Responsables de políticas y reguladores se enfrentan a varias complejidades sociotécnicas y geopolíticas que se agravan entre sí y pueden entorpecer una acción gubernamental eficaz. Por ejemplo:
Impactos amplios y diversos: La IA generativa es una tecnología de propósito general que puede aplicarse en distintos contextos, lo que dificulta la formulación de políticas cuando se intenta tener en cuenta todos sus usos. Además, las oportunidades y los daños asociados a la IA generativa pueden variar para las personas y las comunidades según las condiciones sociales (como la brecha digital y la explotación laboral), la capacidad institucional, las desigualdades estructurales y la marginación sistémica. Por ejemplo, un estudio de la Organización Internacional del Trabajo concluyó que la automatización tenía el doble de probabilidades de afectar al empleo de las mujeres que al de los hombres.
Ritmo acelerado del avance tecnológico: Las capacidades de la IA generativa evolucionan rápidamente y convergen con otras tecnologías emergentes, lo que complica los esfuerzos de responsables de políticas por crear una gobernanza que perdure. Por ejemplo, en los últimos meses, la generación de imágenes ha alcanzado nuevos niveles de realismo y los modelos han avanzado en sus capacidades multimodales. Estos avances abren oportunidades creativas y amplifican daños como la desinformación y las imágenes íntimas no consentidas. De cara al futuro, la IA generativa va camino de converger con tecnologías emergentes como la biología sintética, la neurotecnología y la computación cuántica.
Fragmentación global: El intercambio internacional limitado de recursos esenciales para la innovación en IA generativa, como la capacidad de cómputo y los datos, puede exacerbar las tensiones entre países e impedir que responsables de políticas promulguen políticas nacionales significativas por temor a perder competitividad internacional. Además, el panorama internacional de la gobernanza de la IA es impredecible, complejo y fragmentado, lo que deja a las jurisdicciones sin saber cómo armonizar con confianza sus políticas nacionales con una industria global.
Un enfoque de 360 grados
Durante el último año, la Alianza para la Gobernanza de la IA del Foro Económico Mundial ha unido a la industria y los gobiernos con la sociedad civil y el mundo académico. Este esfuerzo global de múltiples partes interesadas ha sentado las bases para un marco pionero con estrategias aplicables para una gobernanza resiliente de la IA generativa.
Mientras responsables de políticas de todo el mundo siguen conociendo mejor las promesas y preocupaciones de la IA generativa, este informe ofrece una hoja de ruta para desarrollar políticas de IA ágiles, integrales y adaptables que permitan crear un ecosistema de IA responsable, facilitar las oportunidades económicas y respetar los derechos humanos e individuales.
«El informe ofrece a responsables de políticas y reguladores un marco integral de 360 grados para la gobernanza de la IA generativa, que examina las lagunas normativas existentes, los desafíos de gobernanza específicos de las distintas partes interesadas y las necesidades cambiantes de esta tecnología dinámica», afirma Cathy Li, directora de IA, datos y metaverso del Foro.
Arnab Chakraborty, director de IA responsable de Accenture, destacó la importancia de este informe:
«Accenture se enorgullece de ser socio de conocimiento del Foro y de la Alianza en esta iniciativa. Este informe representa un hito fundamental en el diálogo global sobre la gobernanza integral de la IA generativa: va más allá de los llamamientos a una gobernanza responsable, la armonización de principios y la colaboración de múltiples partes interesadas, y avanza hacia mecanismos de acción concretos».
Nita Farahany, profesora de la Universidad de Duke y miembro de la Alianza, destacó el formato práctico del informe: «La estructura de tres pilares (Aprovechar el pasado, Construir el presente, Planificar el futuro) ofrece una hoja de ruta clara para abordar las complejidades de la [IA generativa]. Cada sección está bien organizada y ofrece ideas prácticas que serán muy valiosas para responsables de políticas y reguladores».
Otra miembro, Miho Naganuma, alta directiva de NEC Corporation, destacó cómo el informe beneficiará a los miembros de la industria al «facilitar su comunicación con responsables de políticas y reguladores».
1. Aprovechar el pasado
Las estrategias nacionales eficaces para promover la innovación responsable en IA requieren evaluar oportunamente los instrumentos normativos actuales para abordar los desafíos y oportunidades específicos de la tecnología. Antes de desarrollar nuevas normativas o autoridades de IA, los gobiernos deberían:
Evaluar las normativas existentes para detectar conflictos o lagunas causados por la IA generativa y armonizarlas con los objetivos de los distintos marcos regulatorios.
Aclarar la asignación de responsabilidades mediante precedentes jurídicos y normativos, y reforzar las medidas allí donde se detecten lagunas.
Evaluar la capacidad de las autoridades reguladoras existentes para abordar los desafíos de la IA generativa y considerar las ventajas y desventajas de centralizar la autoridad en un organismo específico.
La estructura de tres pilares (Aprovechar el pasado, Construir el presente, Planificar el futuro) ofrece una hoja de ruta clara para abordar las complejidades de la [IA generativa].
Nita Farahany, profesora de Derecho y Filosofía, Universidad de Duke
2. Construir el presente
Responsables de políticas y reguladores no pueden garantizar por sí solos una gobernanza resiliente de la IA generativa: la industria, la sociedad civil y el mundo académico también deben aportar sus puntos de vista. Los gobiernos deberían recurrir a algo más que las normativas para fomentar una gobernanza de la IA generativa que abarque a toda la sociedad y el intercambio de conocimientos entre sectores mediante:
Abordar los desafíos específicos de cada grupo de partes interesadas.
Fomentar el intercambio de conocimientos entre múltiples partes interesadas e impulsar el pensamiento interdisciplinario.
Dar ejemplo mediante la adopción de prácticas de IA responsable.
3. Planificar el futuro
Las capacidades de la IA generativa evolucionan rápidamente junto con otras tecnologías. Es necesario incorporar preparación y agilidad en la gobernanza de la IA generativa, además de fomentar la cooperación internacional. Los gobiernos deben desarrollar estrategias nacionales que tengan en cuenta los recursos limitados y las incertidumbres globales, e incluyan mecanismos de prospectiva para adaptar las políticas y normativas a los avances tecnológicos y los riesgos emergentes. Para ello, se requieren las siguientes medidas clave:
Inversiones específicas en formación y contratación de personal especializado en IA en el gobierno.
Exploración de horizontes de la innovación en IA generativa, los riesgos previsibles asociados a las capacidades emergentes y la convergencia con otras tecnologías y las interacciones humanas.
Ejercicios de prospectiva para prepararse ante varios futuros posibles.
Evaluación del impacto y normativas ágiles para prepararse ante los efectos posteriores de la normativa vigente y los futuros avances de la IA.
Cooperación internacional para armonizar normas y taxonomías de riesgos y facilitar el intercambio de conocimientos y de infraestructura.
El marco de 360 grados está diseñado para ayudar a responsables de políticas y reguladores a desarrollar una gobernanza integral y duradera de la IA generativa. Sin embargo, la aplicación concreta del marco variará entre jurisdicciones en función de su estrategia nacional de IA, la madurez de sus redes de IA, los contextos económicos y geopolíticos, y las expectativas y normas sociales de las personas.
Se invita a responsables de políticas, líderes de la industria, académicos y miembros de la sociedad civil a consultar las recomendaciones de este marco para impulsar una IA generativa que contribuya positivamente a nuestro mundo y garantice un futuro próspero, inclusivo y sostenible para todos.
