La IA generativa está llamada a transformar las economías y las industrias de todo el mundo.
Para garantizar que esta transformación sea justa y beneficie a todos, es esencial que desarrollemos e implementemos marcos de gobernanza de la IA.
Con este fin, el Foro Económico Mundial ha puesto en marcha la Alianza para la Gobernanza de la IA para reunir a líderes de la industria, gobiernos, instituciones académicas y organizaciones de la sociedad civil en torno al objetivo de una gobernanza significativa de la IA.
La IA generativa (inteligencia artificial) está demostrando ser una fuerza transformadora para nuestras economías y sociedades. Su rápido desarrollo en los últimos meses subraya el papel vital de la IA como infraestructura fundamental sobre la que evolucionará el panorama digital, y refuerza la necesidad de garantizar su uso responsable y ético.
La IA generativa sintetiza rápidamente grandes cantidades de información para generar contenidos diversos en distintos formatos, combinando la creatividad de tipo humano con la tecnología. Este campo emergente ofrece numerosas posibilidades para revolucionar el trabajo en todos los sectores, automatizar tareas, fomentar la creatividad y mejorar la toma de decisiones, dotando a las personas de herramientas para avanzar en el progreso.
Pero también plantea desafíos, desde consideraciones éticas y nociones de equidad hasta debates más profundos sobre la inteligencia y temores ante la llegada de la singularidad tecnológica, un futuro hipotético en el que la tecnología se volvería incontrolable. Plantea posibles riesgos, como el desplazamiento de empleos, la explotación malintencionada y la desalineación con los valores humanos, y suscita interrogantes sobre la propiedad y los derechos de propiedad intelectual, los modelos abiertos frente a los cerrados, el equilibrio entre innovación y seguridad, la tensión entre los modelos de lenguaje nacionales multilingües y soberanos, y mucho más. También preocupa de forma acuciante que pueda agravar la brecha digital al provocar una distribución desigual de oportunidades y recursos.
Necesitamos marcos de gobernanza de la IA ya
Estas incertidumbres ponen de manifiesto la urgencia de crear marcos de gobernanza de la IA sólidos para garantizar resultados responsables y beneficiosos para todos. Las estrategias de gobernanza de la IA deben evaluar las oportunidades y los riesgos y proponer vías de avance que logren un delicado equilibrio entre aprovechar el potencial de la IA generativa y salvaguardar las consideraciones éticas. A medida que la tecnología continúa avanzando y ampliando su alcance, resulta imperativo asegurar que su desarrollo y despliegue sigan firmemente alineados con principios centrados en el ser humano, impulsando el progreso social en cada paso.
Las instituciones internacionales, entre ellas las Naciones Unidas, la OCDE, el Proceso de Hiroshima sobre IA del G7, el portal de IA del G20 y el Consejo de Comercio y Tecnología UE-EE. UU., han presentado propuestas de principios éticos, transparencia y seguridad en el desarrollo y despliegue de las tecnologías de IA. Asimismo, los países están explorando enfoques regulatorios, desde la autorregulación liderada por la industria hasta modelos de gobernanza formales. Estas iniciativas han sido prometedoras, pero por sí solas no son suficientes. Abordar la rápida velocidad y el creciente alcance del desarrollo de la IA generativa exige una colaboración público-privada a escala mundial.
La Alianza para la Gobernanza de la IA
En respuesta, el Foro Económico Mundial ha puesto en marcha la Alianza para la Gobernanza de la IA para reunir a líderes de la industria, gobiernos, instituciones académicas y organizaciones de la sociedad civil, y para impulsar el diseño y la publicación responsables a escala mundial de sistemas de IA transparentes e inclusivos. Esta iniciativa se apoya en marcos existentes e incorpora las recomendaciones preliminares de la Cumbre sobre «Responsible AI Leadership: A Global Summit on Generative AI», organizada por el Foro Económico Mundial en abril.
La Alianza para la Gobernanza de la IA se apoya en los más de 50 años de experiencia del Foro Económico Mundial en la creación de alianzas multipartitas. Reúne el conocimiento del sector privado, los mecanismos de gobernanza del sector público y los objetivos de la sociedad civil para abordar la naturaleza transformadora de los sistemas de IA generativa. Con el apoyo del Centro para la Cuarta Revolución Industrial (C4IR) del Foro Económico Mundial, la alianza colabora activamente con diversas regiones y contribuye a dar forma a un enfoque global para abordar la naturaleza transformadora de los sistemas de IA generativa.
Tres misiones para una IA responsable
La misión de la alianza refuerza tres acciones fundamentales que deben emprenderse para garantizar el desarrollo y despliegue responsables y seguros de la IA.
En primer lugar, debemos priorizar los sistemas y tecnologías seguros, invirtiendo recursos en sistemas de IA robustos y seguros para garantizar la seguridad de los usuarios y la mitigación de riesgos. Esto implica aspectos técnicos, como establecer una terminología, parámetros de referencia y trazabilidad compartidos, así como aplicar prácticas responsables en todo el desarrollo y despliegue, y garantizar métodos de evaluación robustos.
En segundo lugar, debemos garantizar aplicaciones y transformaciones sostenibles, alineando la IA generativa con objetivos sociales a largo plazo, abordando los sesgos y promoviendo la transparencia. Es esencial dotar a los líderes empresariales y gubernamentales de los conocimientos y la previsión necesarios para aprovechar el poder de la IA generativa de forma eficaz y responsable dentro de sus respectivas organizaciones, mitigando al mismo tiempo los riesgos que conlleva.
En tercer lugar, la gobernanza y la regulación resilientes son clave. La alianza colaborará con responsables políticos y partes interesadas para establecer marcos éticos y medidas regulatorias específicas para la IA generativa. Con el objetivo de anticipar posibles riesgos, orientar el desarrollo y garantizar una comprensión armonizada a escala mundial de las prácticas de IA responsable, estas medidas implican evaluar el impacto social, defender la equidad y la inclusión, y codiseñar planos de gobernanza esenciales.
Debemos unirnos para garantizar que la innovación prospere y que se materialicen los beneficios de la IA, minimizando al mismo tiempo los riesgos. La IA generativa puede ser una fuerza para el bien, que empodera a las personas y hace avanzar a las sociedades, si reunimos diversas perspectivas y estrategias sólidas para encaminarla por la senda correcta hoy.
