La Alianza para la Gobernanza de la IA ha alcanzado un hito significativo en su empeño por aprovechar el poder transformador de la inteligencia artificial y la IA generativa.
Como iniciativa emblemática del Foro Económico Mundial, la Alianza se dedica a promover el desarrollo responsable y ético de la inteligencia artificial.
Estas son algunas reflexiones sobre el futuro de la IA y el trabajo realizado durante el primer año de la Alianza, que forma parte del Centro para la Cuarta Revolución Industrial.
La Alianza para la Gobernanza de la IA alcanzó recientemente un hito significativo en su trayectoria colectiva para aprovechar el poder transformador de la inteligencia artificial y la IA generativa en distintos sectores.
La Reunión Comunitaria de la Alianza para la Gobernanza de la IA, celebrada el 28 de mayo en San Francisco, reunió a 118 líderes de los sectores público y privado, del ámbito académico y de la sociedad civil para una jornada completa de diálogo y trabajo con el fin de avanzar en la visión y los objetivos de la Alianza. También celebró un año emocionante y productivo desde la creación de la Alianza en junio de 2023.
Lanzada tras la Cumbre de Liderazgo en IA Responsable de 2023, la Alianza para la Gobernanza de la IA se ha expandido rápidamente y actualmente abarca más de 350 miembros de más de 280 organizaciones.
Como iniciativa emblemática del Foro Económico Mundial y parte del Centro para la Cuarta Revolución Industrial, la Alianza se dedica a promover el desarrollo responsable y ético de la IA. Su misión es fomentar la transparencia, la inclusión y la rendición de cuentas en la IA, garantizando que los avances tecnológicos beneficien a todas las partes interesadas a nivel mundial.
Construir un ecosistema de IA fiable
Desde su creación, la Alianza ha trabajado con diligencia para establecer las mejores prácticas globales en materia de gobernanza de la IA. Sus primeros esfuerzos están vinculados a las Recomendaciones de Presidio, que ofrecen directrices para el uso ético y la cooperación internacional en la gobernanza de la IA.
En enero de 2024, la Alianza publicó una primera serie de documentos informativos, que combina las lecciones de sus grupos de trabajo para orientar a las partes interesadas hacia estrategias coordinadas de gobernanza de la IA, las cuales se debatieron con mayor profundidad en el encuentro de mayo.
Estos son los aspectos más destacados de la reunión comunitaria sobre gobernanza de la IA:
1. Análisis en profundidad de la IA inclusiva
Uno de los temas centrales de la reciente asamblea fue la IA inclusiva, un nuevo ámbito de interés de la Alianza que busca garantizar que las tecnologías de IA se desarrollen y desplieguen de forma inclusiva y equitativa. Su iniciativa reúne a líderes de diversos sectores para crear un marco estratégico que aborde los desafíos y oportunidades únicos que plantea la IA.
Los debates del evento hicieron hincapié en la integración responsable de la IA en los marcos sociales, con énfasis en las consideraciones éticas y la innovación sostenible. La Alianza prevé desarrollar liderazgo intelectual sobre esta cuestión, reconociendo la IA como catalizador del crecimiento económico y del desarrollo acelerado.
El compromiso se extiende a hacer que la IA sea accesible a nivel mundial, especialmente en las regiones en desarrollo, ya que este nuevo grupo de trabajo amplía de forma natural los esfuerzos de la Alianza por mejorar el acceso global a las tecnologías de IA y por establecer los cimientos necesarios para que los países en desarrollo fomenten un ecosistema de IA próspero y sostenible.
2. Exploración de la convergencia de la IA con otras tecnologías de vanguardia
Otro ámbito significativo de exploración analizado en la reunión fue la convergencia de la IA con otras tecnologías de vanguardia. Esta sesión se centró en aprovechar las sinergias entre estas tecnologías para impulsar la innovación y afrontar desafíos globales complejos.
Los participantes exploraron cómo la IA, en tanto que tecnología fundamental, podría revolucionar sectores como la sanidad, la agricultura y la educación al mejorar las capacidades de precisión y predicción en estos ámbitos. También se consideraron las posibles implicaciones para la sociedad y la economía, en particular cómo interactuará la IA con las tecnologías emergentes en biología, computación cuántica y robótica, lo que generará un nuevo impulso económico y tecnológico para el desarrollo.
3. Avances en los grupos de trabajo existentes
La reunión también avanzó en los tres grupos de trabajo principales de la Alianza:
Grupo de Trabajo sobre Sistemas y Tecnologías Seguros: El grupo definió los agentes de IA como sistemas compuestos por componentes como ventanas de contexto, memoria, acción y autonomía, impulsados por grandes modelos de lenguaje y modelos multimodales. Los clasificaron en función de sus funciones, su forma física o virtual y su autonomía. El debate también hizo hincapié en abordar desafíos de seguridad y gobernanza, como el uso indebido y la disrupción social. Destacaron la importancia de contar con prácticas de gobernanza claras, que incluyan transparencia, alineación con los valores humanos, honestidad verificable y auditorías a posteriori.
Grupo de Trabajo sobre Gobernanza Resiliente y Regulación: Este grupo subrayó la necesidad de desarrollar marcos de gobernanza de la IA transparentes, inclusivos y responsables mediante la cooperación internacional y la participación de una amplia gama de partes interesadas, entre ellas distintos sectores, pequeñas empresas y regiones como el Sur Global. Los debates giraron en torno a las lagunas de las leyes vigentes, las funciones para garantizar la responsabilidad en el ámbito de la IA, los mecanismos de divulgación y la importancia fundamental de incorporar perspectivas diversas para una gobernanza eficaz y bucles de retroalimentación. Entre las cuestiones clave identificadas para la cooperación internacional figuraban la armonización de normas, la mejora de la protección de datos, el aumento de la transparencia y del acceso, así como el establecimiento de mecanismos de supervisión estratégica y de gobernanza ágil para abordar problemas emergentes, como la regulación de los sistemas multiagente. El grupo de trabajo propuso la creación de un Espacio Global de Pruebas para la Gobernanza de la IA (Global AI Governance Sandbox) con el fin de someter a prueba y perfeccionar estos marcos, con el objetivo de armonizar normas e impulsar la cooperación mundial en materia de IA.
Grupo de Trabajo sobre Aplicaciones Responsables y Transformación: El grupo profundizó en el potencial transformador de la IA en diversos sectores y en la necesidad de que las organizaciones adopten una cultura de IA centrada en las personas para sobrevivir y prosperar en la era de la IA. Los debates pusieron de relieve la necesidad de pensar a largo plazo y adoptar un enfoque prospectivo, ya que se espera que la IA altere las cadenas de valor existentes y cree nuevos modelos de negocio. La sesión concluyó con un fuerte énfasis en la necesidad de que las industrias se autorregulen en medio de la evolución de la madurez tecnológica y de un entorno regulatorio cambiante.
El camino a seguir para la gobernanza de la IA
De cara al futuro, la Alianza para la Gobernanza de la IA sigue comprometida con la construcción de un ecosistema de IA inclusivo, responsable, sostenible y fiable que beneficie a las partes interesadas de todo el mundo. Se invita a todos los que deseen participar en este crucial empeño a sumarse a medida que avanza la misión.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios generar una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Entre los próximos eventos figuran la Cumbre Africana de IA en Ruanda en octubre y la Reunión Anual del Foro Económico Mundial en Davos en enero de 2025. Además, se avecinan varias publicaciones, entre ellas informes sobre gobernanza y regulación, y sobre agentes de IA, previstos para otoño, seguidos de publicaciones sobre la IA y las industrias y de planos regionales para el desarrollo de la inteligencia artificial en enero.
La participación activa es fundamental para garantizar que el desarrollo y el despliegue de la IA se ajusten a los más altos estándares de ética y equidad, y que, en última instancia, se cultive un entorno tecnológico que enriquezca a la sociedad a nivel mundial.
