Las ciudades están midiendo el horizonte de la IA generativa. Pero primero tienen que establecer las reglas básicas
La ciudad tecnológica de San José ya está formulando políticas sobre el uso civil de GenAI. Image: Unsplash/Andrii Ganzevych
Sara Al Hudaithy
Fellow, Centre for the Fourth Industrial Revolution, Saudi Arabia, World Economic Forum- 96 de cada 100 alcaldes y funcionarios municipales han expresado su interés por explorar las posibles aplicaciones de la inteligencia artificial generativa (GenAI), más que implementarla activamente.
- Esta fase exploratoria es una oportunidad para comprender los mejores casos de uso y los riesgos de GenAI.
- Una revisión inicial del panorama muestra que varias ciudades de Norteamérica y Europa están estableciendo políticas de GenAI que cubren temas fundamentales de gobernanza tecnológica.
El uso de la tecnología de inteligencia artificial generativa (GenAI) -que implica el uso de datos, algoritmos y aprendizaje automático para generar nuevos contenidos- está surgiendo entre particulares y empresas; los gobiernos también están introduciéndose en este terreno integrando la GenAI en sus operaciones. Se prevé que el mercado de GenAI alcance los 255.800 millones de dólares en 2033, frente a los 13.500 millones de 2023.
A medida que las ciudades de todo el mundo reconocen el potencial de la tecnología, varias de ellas están formulando políticas para regular su uso. Su desarrollo representa un paso crucial en la navegación por las oportunidades y desafíos que presentan las tecnologías emergentes. Desde Dubai hasta San José, en California, las ciudades están explorando la gobernanza de la IA y la GenAI centrándose en consideraciones éticas, la transparencia y la rendición de cuentas. Estos marcos generales representan la fase inicial de un esfuerzo continuo para desarrollar y perfeccionar las políticas y procedimientos de GenAI, con el objetivo de fomentar el uso responsable de las capacidades de GenAI en la administración y los servicios públicos.
Mediante el establecimiento de marcos éticos antes de integrar GenAI en los servicios públicos, Arabia Saudita pretende aprovechar de forma responsable la IA en beneficio de la comunidad y alinearse con sus objetivos de Visión 2030 de convertirse en un líder mundial de IA. Esto se alinea con los principios de las ciudades inteligentes centradas en las personas, garantizando que la tecnología mejore la calidad de vida y la inclusión.
”El estado actual de GenAI
Las ciudades parecen encontrarse en la fase exploratoria de la adopción de GenAI. En 2023, Bloomberg Philanthropies encuestó a 100 alcaldes y personal municipal para conocer su opinión sobre esta tecnología. Líderes municipales de todo el mundo expresaron su interés en utilizarla, con un 69% de ciudades explorando o probando las capacidades de GenAI.
Estos funcionarios municipales están particularmente interesados en comprender cómo GenAI puede ayudar a mejorar la participación ciudadana, avanzar en la formulación de políticas basadas en datos, optimizar los servicios y la asignación de recursos, y agilizar los procesos administrativos y la comunicación. Además, están interesados en determinar cómo GenAI puede mejorar los servicios y la eficiencia de la ciudad, especialmente en áreas como el tráfico y el transporte, la infraestructura, la seguridad pública, las cuestiones ambientales, la educación y las tareas administrativas.
Las administraciones municipales de todo el mundo necesitan un enfoque riguroso del diagnóstico de necesidades, la adquisición, la integración y la evaluación de la IA generativa. Este es también un ámbito emergente para que las ciudades se asocien con los sectores sin fines de lucro, filantrópico y empresarial.
”Sin embargo, parece existir una brecha entre el interés y la implementación. Aunque el 96% de los alcaldes están interesados en el uso de GenAI, muchos no han desarrollado políticas integrales relacionadas con ella, y sólo el 2% de las ciudades están adoptando activamente la tecnología. Las ciudades que están adoptando GenAI están designando responsables de GenAI, creando pautas de alto nivel y proporcionando formación a su personal.
Una revisión preliminar inicial de las políticas urbanas de GenAI por parte de la Alianza Global de Ciudades Inteligentes del G20 a principios de 2024 indica que algunas ciudades, principalmente de Norteamérica y Europa, están dando los primeros pasos para desarrollar políticas y directrices para la gobernanza de la tecnología.
GenAI presenta una oportunidad transformadora para mejorar la calidad de vida en nuestras comunidades mediante la optimización de los servicios de la ciudad y el fomento de la toma de decisiones basada en datos. Es crucial que las ciudades establezcan políticas sólidas que garanticen un uso ético y transparente, sin dudar en avanzar con criterio y determinación en el impacto positivo en la comunidad con esta tecnología revolucionaria.
”Entre los principios comunes de estas pautas se incluye la priorización de consideraciones éticas como la seguridad, la transparencia, la privacidad y la responsabilidad. Las normas hacen hincapié en la necesidad de transparencia en los procesos de toma de decisiones, el uso responsable de los datos y la protección de los derechos individuales. Además, existe un reconocimiento compartido del impacto potencial de GenAI en los ciudadanos y la importancia de mantener la equidad, la inclusión y la supervisión humana en el despliegue de estas tecnologías.
Por poner algunos ejemplos:
- Seattle, Washington, tiene una política que tiene como objetivo establecer los requisitos que los departamentos de la ciudad deben seguir al adquirir y utilizar software que entra en la definición de GenAI.
- San José, California, tiene una norma que establece las reglas básicas para los usuarios (como el personal, los contratistas y los voluntarios) al utilizar GenAI para el trabajo de la ciudad. Además de que el uso de la tecnología está sujeto a la Ley de Registros Públicos, la medida establece principios para el uso de GenAI, aborda los derechos de autor y la propiedad del contenido, y exige a los usuarios que citen la IA cuando la utilicen y que entiendan los riesgos relacionados.
- Ante la preocupación por el impacto y el uso de GenAI, Boston (Massachusetts) cuenta con una política provisional como recurso para los empleados a la hora de utilizar este tipo de herramientas.
- Ciudades como Ámsterdam y Helsinki han establecido registros para describir cómo se utilizan los algoritmos en la prestación de servicios, mientras que la ciudad de Nueva York ha establecido leyes que obligan a las empresas a revelar los algoritmos relacionados con la contratación.
La gobernanza de GenAI por parte de los gobiernos locales es relativamente nueva, y muchos de los principios y prácticas éticos y responsables que se están explorando coinciden con preocupaciones fundamentales relacionadas con la gobernanza tecnológica.
Establecer políticas responsables de gobernanza de la GenAI será crucial para desarrollar productos y servicios de confianza que puedan aportar el máximo valor a la sociedad. La Alianza para la Gobernanza de la IA del Foro Económico Mundial sigue liderando la gobernanza de la IA fomentando el consenso sobre las mejores prácticas mundiales y garantizando que la gobernanza de la tecnología contribuya positivamente al bienestar de la sociedad. Las partes interesadas también pueden consultar el conjunto de herramientas AI Procurement para replantearse cómo adquieren la IA y tomar decisiones de compra responsables.
Más allá del revuelo de la GenAI
La exploración y adopción de la GenAI por parte de las ciudades aún está en pañales, y su impacto todavía no se conoce en su totalidad. Las ciudades de todo el mundo se enfrentan a numerosos retos sociales, medioambientales y económicos. La tecnología, cuando se utiliza de forma adecuada y se considera la mejor solución disponible, puede ser una poderosa herramienta para abordarlos.
La GenAI es una fuerza emergente para el empoderamiento de los ciudadanos y la fuerza de trabajo, y cuanto más entendamos colectivamente, mayor será el potencial que se desbloquee. Pero para ponerla a trabajar para nosotros hoy, debemos elevar nuestra comprensión por encima de la niebla de la especulación en fase inicial, centrarnos en soluciones para la eficacia y la eficiencia transformadoras, y cumplir las rigurosas normas de seguridad, accesibilidad y gestión del rendimiento que nuestras comunidades esperan de la administración pública.
”El potencial de combinar conjuntos de datos imparciales y de gran tamaño con el aprendizaje automático y otras capacidades tecnológicas puede aportar importantes beneficios a la sociedad, los gobiernos y las empresas. Sin embargo, este potencial solo puede aprovecharse cuando los riesgos y las consecuencias imprevistas, tanto a corto como a largo plazo, se tienen en cuenta y se abordan a través de marcos de gobernanza diseñados para minimizar los daños. Además, encontrar casos de uso y aprendizajes rentables y prácticos para las ciudades es esencial para el éxito de la adopción.
Como muestra Gartner, parece que GenAI se encuentra en el punto álgido del ciclo de la popularidad y tardará años en alcanzar la "meseta de la productivida" en la que es probable que se observe una adopción real. Esto presenta oportunidades para entender el potencial de la tecnología en la administración local, determinando a fondo las barreras y los riesgos desde el principio, sabiendo cuándo GenAI es y no es apropiada para un reto de la ciudad, y pensando en soluciones adecuadas y ágiles que puedan ser sostenibles en el tiempo y dadas las complejidades.
Las ciudades ya están encontrando varios obstáculos para determinar el verdadero potencial de GenAI, incluyendo saber dónde puede hacer una diferencia. Los alcaldes y el personal de la ciudad también están identificando barreras para la adopción de la tecnología, incluyendo la falta de conocimientos técnicos, políticas y sensibilización, las limitaciones presupuestarias, la privacidad de los datos y las preocupaciones de seguridad, el acceso limitado a la infraestructura suficiente, y la falta de casos de uso. Estos retos subrayan la necesidad de estrategias integrales para abordar las complejidades y los riesgos asociados a la integración de GenAI en las operaciones y servicios de la ciudad.
De cara al futuro, el futuro de las políticas de GenAI en las ciudades radica en el establecimiento de marcos integrales que equilibren la innovación con consideraciones éticas. A medida que las ciudades continúan navegando por las complejidades de la gobernanza de la GenAI, es crucial que los responsables políticos entablen un diálogo continuo con expertos, partes interesadas y el público para garantizar que las políticas de GenAI reflejen los valores y las necesidades de las comunidades a las que sirven.
¿Qué está haciendo el Foro Económico Mundial en el ámbito del futuro de las ciudades?
Las ciudades deben priorizar el desarrollo de políticas de GenAI que aborden no solo los aspectos técnicos de su implementación, sino también las ramificaciones éticas, legales y sociales del despliegue de dicha tecnología en un contexto urbano. Esto implica fomentar una cultura de uso responsable de la GenAI, garantizando que los sistemas sean transparentes, responsables y alineados con los valores sociales. Las ciudades también deben centrarse en la creación de conocimientos técnicos dentro de sus administraciones y el fomento de asociaciones con el mundo académico, la industria y la sociedad civil.
No te pierdas ninguna actualización sobre este tema
Crea una cuenta gratuita y accede a tu colección personalizada de contenidos con nuestras últimas publicaciones y análisis.
Licencia y republicación
Los artículos del Foro Económico Mundial pueden volver a publicarse de acuerdo con la Licencia Pública Internacional Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0, y de acuerdo con nuestras condiciones de uso.
Las opiniones expresadas en este artículo son las del autor y no del Foro Económico Mundial.
La Agenda Semanal
Una actualización semanal de los temas más importantes de la agenda global
Puedes anular tu suscripción en cualquier momento utilizando el enlace que figura en nuestros correos electrónicos. Para obtener más información, consulta nuestro Política de privacidad.
Más sobre Transformación UrbanaVer todo
Christine Zhou and Rupesh Madlani
1 de noviembre de 2024