Las ciudades están midiendo el horizonte de la IA generativa. Pero primero tienen que establecer las reglas básicas

El uso de la tecnología de inteligencia artificial generativa (GenAI) -que implica el uso de datos, algoritmos y aprendizaje automático para generar nuevos contenidos- está surgiendo entre particulares y empresas; los gobiernos también están introduciéndose en este terreno integrando la GenAI en sus operaciones. Se prevé que el mercado de GenAI alcance los 255.800 millones de dólares en 2033, frente a los 13.500 millones de 2023.

A medida que las ciudades de todo el mundo reconocen el potencial de la tecnología, varias de ellas están formulando políticas para regular su uso. Su desarrollo representa un paso crucial en la navegación por las oportunidades y desafíos que presentan las tecnologías emergentes. Desde Dubai hasta San José, en California, las ciudades están explorando la gobernanza de la IA y la GenAI centrándose en consideraciones éticas, la transparencia y la rendición de cuentas. Estos marcos generales representan la fase inicial de un esfuerzo continuo para desarrollar y perfeccionar las políticas y procedimientos de GenAI, con el objetivo de fomentar el uso responsable de las capacidades de GenAI en la administración y los servicios públicos.

Las ciudades parecen encontrarse en la fase exploratoria de la adopción de GenAI. En 2023, Bloomberg Philanthropies encuestó a 100 alcaldes y personal municipal para conocer su opinión sobre esta tecnología. Líderes municipales de todo el mundo expresaron su interés en utilizarla, con un 69% de ciudades explorando o probando las capacidades de GenAI.

Estos funcionarios municipales están particularmente interesados en comprender cómo GenAI puede ayudar a mejorar la participación ciudadana, avanzar en la formulación de políticas basadas en datos, optimizar los servicios y la asignación de recursos, y agilizar los procesos administrativos y la comunicación. Además, están interesados en determinar cómo GenAI puede mejorar los servicios y la eficiencia de la ciudad, especialmente en áreas como el tráfico y el transporte, la infraestructura, la seguridad pública, las cuestiones ambientales, la educación y las tareas administrativas.

Sin embargo, parece existir una brecha entre el interés y la implementación. Aunque el 96% de los alcaldes están interesados en el uso de GenAI, muchos no han desarrollado políticas integrales relacionadas con ella, y sólo el 2% de las ciudades están adoptando activamente la tecnología. Las ciudades que están adoptando GenAI están designando responsables de GenAI, creando pautas de alto nivel y proporcionando formación a su personal.

Una revisión preliminar inicial de las políticas urbanas de GenAI por parte de la Alianza Global de Ciudades Inteligentes del G20 a principios de 2024 indica que algunas ciudades, principalmente de Norteamérica y Europa, están dando los primeros pasos para desarrollar políticas y directrices para la gobernanza de la tecnología.

Entre los principios comunes de estas pautas se incluye la priorización de consideraciones éticas como la seguridad, la transparencia, la privacidad y la responsabilidad. Las normas hacen hincapié en la necesidad de transparencia en los procesos de toma de decisiones, el uso responsable de los datos y la protección de los derechos individuales. Además, existe un reconocimiento compartido del impacto potencial de GenAI en los ciudadanos y la importancia de mantener la equidad, la inclusión y la supervisión humana en el despliegue de estas tecnologías.

Por poner algunos ejemplos:

La gobernanza de GenAI por parte de los gobiernos locales es relativamente nueva, y muchos de los principios y prácticas éticos y responsables que se están explorando coinciden con preocupaciones fundamentales relacionadas con la gobernanza tecnológica.

Establecer políticas responsables de gobernanza de la GenAI será crucial para desarrollar productos y servicios de confianza que puedan aportar el máximo valor a la sociedad. La Alianza para la Gobernanza de la IA del Foro Económico Mundial sigue liderando la gobernanza de la IA fomentando el consenso sobre las mejores prácticas mundiales y garantizando que la gobernanza de la tecnología contribuya positivamente al bienestar de la sociedad. Las partes interesadas también pueden consultar el conjunto de herramientas AI Procurement para replantearse cómo adquieren la IA y tomar decisiones de compra responsables.

La exploración y adopción de la GenAI por parte de las ciudades aún está en pañales, y su impacto todavía no se conoce en su totalidad. Las ciudades de todo el mundo se enfrentan a numerosos retos sociales, medioambientales y económicos. La tecnología, cuando se utiliza de forma adecuada y se considera la mejor solución disponible, puede ser una poderosa herramienta para abordarlos.

El potencial de combinar conjuntos de datos imparciales y de gran tamaño con el aprendizaje automático y otras capacidades tecnológicas puede aportar importantes beneficios a la sociedad, los gobiernos y las empresas. Sin embargo, este potencial solo puede aprovecharse cuando los riesgos y las consecuencias imprevistas, tanto a corto como a largo plazo, se tienen en cuenta y se abordan a través de marcos de gobernanza diseñados para minimizar los daños. Además, encontrar casos de uso y aprendizajes rentables y prácticos para las ciudades es esencial para el éxito de la adopción.

Como muestra Gartner, parece que GenAI se encuentra en el punto álgido del ciclo de la popularidad y tardará años en alcanzar la "meseta de la productivida" en la que es probable que se observe una adopción real. Esto presenta oportunidades para entender el potencial de la tecnología en la administración local, determinando a fondo las barreras y los riesgos desde el principio, sabiendo cuándo GenAI es y no es apropiada para un reto de la ciudad, y pensando en soluciones adecuadas y ágiles que puedan ser sostenibles en el tiempo y dadas las complejidades.

Las ciudades ya están encontrando varios obstáculos para determinar el verdadero potencial de GenAI, incluyendo saber dónde puede hacer una diferencia. Los alcaldes y el personal de la ciudad también están identificando barreras para la adopción de la tecnología, incluyendo la falta de conocimientos técnicos, políticas y sensibilización, las limitaciones presupuestarias, la privacidad de los datos y las preocupaciones de seguridad, el acceso limitado a la infraestructura suficiente, y la falta de casos de uso. Estos retos subrayan la necesidad de estrategias integrales para abordar las complejidades y los riesgos asociados a la integración de GenAI en las operaciones y servicios de la ciudad.

De cara al futuro, el futuro de las políticas de GenAI en las ciudades radica en el establecimiento de marcos integrales que equilibren la innovación con consideraciones éticas. A medida que las ciudades continúan navegando por las complejidades de la gobernanza de la GenAI, es crucial que los responsables políticos entablen un diálogo continuo con expertos, partes interesadas y el público para garantizar que las políticas de GenAI reflejen los valores y las necesidades de las comunidades a las que sirven.

Las ciudades deben priorizar el desarrollo de políticas de GenAI que aborden no solo los aspectos técnicos de su implementación, sino también las ramificaciones éticas, legales y sociales del despliegue de dicha tecnología en un contexto urbano. Esto implica fomentar una cultura de uso responsable de la GenAI, garantizando que los sistemas sean transparentes, responsables y alineados con los valores sociales. Las ciudades también deben centrarse en la creación de conocimientos técnicos dentro de sus administraciones y el fomento de asociaciones con el mundo académico, la industria y la sociedad civil.