La inteligencia artificial (IA) en el gobierno debe diseñarse para empoderar a las personas, no solo para optimizar procesos.
La verdadera soberanía digital implica contar con equipos cualificados, infraestructuras resilientes y una gobernanza sujeta a rendición de cuentas, así como con almacenamiento seguro de datos.
Los jóvenes aportan urgencia, creatividad e imaginación cívica, cualidades que pueden hacer que la IA en los servicios públicos sea responsable y transformadora.
La tecnología está transformando la relación entre la ciudadanía y los gobiernos, y crea oportunidades para convertir los servicios públicos en sistemas proactivos, ágiles y centrados en las personas.
La inteligencia artificial (IA) y los datos podrían ayudar a los gobiernos a superar la prestación reactiva y avanzar hacia modelos anticipatorios. Sin embargo, las conclusiones extraídas de un taller celebrado este verano en Ginebra con líderes de centros de la Comunidad Global Shapers ponen de relieve que, desde la perspectiva de los jóvenes, esta transformación debe situar la responsabilidad y la creación de valor local en el centro.
De lo contrario, la IA corre el riesgo de reforzar la ineficiencia o limitar la innovación al priorizar métricas de precisión y rendimiento mal concebidas por encima del impacto humano y el valor social; esto ocurre precisamente cuando las personas no ocupan un lugar central en el diseño y la toma de decisiones.
Es arriesgado construir sistemas públicos esenciales que dependan permanentemente de la IA.
Las tendencias mundiales indican que los gobiernos ya están publicando sus estrategias de IA: el Informe del Índice de Inteligencia Artificial 2024 constató que, entre 2016 y 2023, 32 países aprobaron al menos una ley relacionada con la IA, entre la legislación que menciona la «inteligencia artificial» en 128 países.
Sin embargo, muchos carecen de marcos para hacer seguimiento de los resultados o evaluar los riesgos.
La OCDE ha advertido que la adopción del gobierno digital avanza de manera desigual. Muchos países aún tienen dificultades con la interoperabilidad y la capacidad de gobernanza, lo que significa que sus sistemas suelen carecer de estructuras para compartir datos de manera eficaz, lo que limita la coordinación, la eficiencia y la capacidad de prestar servicios públicos integrados.
Desde la perspectiva de los jóvenes, la urgencia no solo se debe a la escala de la adopción, sino también a la oportunidad de replantear la gobernanza en sí. El taller de julio también concluyó que la IA está llegando a los sistemas públicos justo cuando las generaciones más jóvenes exigen transparencia, inclusión e impactos positivos y mensurables.
Conciliar beneficios y desafíos
Los posibles beneficios de la tecnología en el gobierno son numerosos: menos burocracia, un acceso más rápido a los servicios sanitarios y sociales, una mayor capacidad de respuesta ante las preocupaciones de la ciudadanía e incluso el uso de la IA para desarrollar, evaluar e implementar políticas más eficaces.
Los sistemas basados en datos pueden preservar la memoria institucional, fundamentar las decisiones y hacer transparente el desempeño de los servicios. Sin embargo, para aprovechar estos beneficios, los gobiernos deben poner primero a la ciudadanía, no a los sistemas.
Pensemos en Alemania, donde se han introducido proyectos de salud digital como las historias clínicas electrónicas para empoderar a los pacientes, dándoles acceso directo a sus datos de salud personales y permitiéndoles tomar decisiones informadas y tener mayor control sobre su atención. Sin embargo, la implementación se ha visto obstaculizada por una gobernanza fragmentada, que ha dejado el sistema elektronische Patientenakte (ePA) complejo y infrautilizado.
Incluso sigue siendo difícil acceder a historias clínicas unificadas —es decir, que todos los datos de salud de una persona estén en un solo lugar—. El desafío no es exclusivo de Europa. En Filipinas, las bases de datos aisladas y los portales de datos abiertos fragmentados impiden que las agencias interoperan de manera eficaz.
Mientras tanto, en América Latina, países como Chile carecen de un marco centralizado para hacer seguimiento de las inversiones en gobierno digital; la supervisión está repartida entre distintas agencias y no existe un sistema integrado de seguimiento. Por lo tanto, además de la infraestructura, la gobernanza, el diseño y la rendición de cuentas contribuirían a que los sistemas funcionaran para quienes utilizan sus servicios.
Riesgos para la innovación
¿Cuáles son los riesgos de depender en exceso de la tecnología sin estrategias de innovación adecuadas?
Es arriesgado construir sistemas públicos esenciales que dependan permanentemente de la IA, pues esto puede exponer a la ciudadanía a interrupciones de los servicios, vulneraciones de la privacidad y desequilibrios de poder. Esto subraya la necesidad de diseñar la IA en los servicios públicos en torno a la supervisión humana, la rendición de cuentas y la resiliencia.
A menudo, la soberanía digital se plantea en función del lugar donde se almacenan los datos, pero también implica disponer de capacidad —mediante equipos cualificados, infraestructuras resilientes y marcos de gobernanza— para que los Estados utilicen los datos en beneficio del interés público.
Las redes juveniles ya actúan como laboratorios vivos de innovación.
Por ejemplo, publicar datos abiertos no basta si la ciudadanía carece de las herramientas o los conocimientos necesarios para utilizarlos de manera significativa. Cuando son accesibles, los datos abiertos pueden empoderar a las comunidades para examinar las acciones del gobierno, promover la rendición de cuentas y generar confianza. Sin embargo, estos beneficios se pierden si no se cuenta con la capacidad para interpretar y aplicar la información.
El enfoque de la UE en virtud del Reglamento de Gobernanza de Datos demuestra que el establecimiento de marcos jurídicos para compartir datos debe ir acompañado de inversiones en talento local, infraestructuras técnicas fiables y financiación operativa suficiente, para garantizar que los datos sean realmente utilizables a través de fronteras y sectores.
De lo contrario, la soberanía se vuelve simbólica y los gobiernos quedan dependiendo de proveedores externos o el control se concentra en estrechos centros de poder.
Confianza y gobernanza
La seguridad y la resiliencia son igualmente relevantes. Las infraestructuras públicas deben diseñarse para resistir ciberataques, proteger los datos de la ciudadanía y medir continuamente el rendimiento, porque sin estas protecciones, la ciudadanía no puede confiar en los servicios públicos habilitados por la IA ni beneficiarse de ellos.
La iniciativa GovTech estadounidense, Propel, que desarrolla herramientas para evaluar modelos de IA en programas de asistencia pública, demuestra cómo los marcos de medición continua pueden fortalecer la rendición de cuentas mediante el seguimiento del rendimiento, la detección de sesgos y la garantía de que las decisiones impulsadas por IA traten a la ciudadanía de manera justa y transparente.
Sin embargo, para transformar de manera significativa las interacciones de la ciudadanía con los servicios gubernamentales, debemos hacer transparentes los sistemas complejos, ofreciendo explicaciones claras de las decisiones de la IA, auditando los algoritmos para garantizar la equidad y facilitando la supervisión.
Un ejemplo pertinente es la iniciativa de México para introducir una CURP biométrica (Clave Única de Registro de Población), que incorporará datos de huellas dactilares y del iris en un sistema unificado de identidad digital. Esto suscitó gran preocupación entre los grupos de derechos digitales, que advierten que el sistema podría dar lugar a vigilancia masiva y posibles violaciones de los derechos humanos.
La falta de medidas claras de protección de datos y la centralización de información biométrica sensible ponen de relieve los riesgos de implementar sistemas de IA sin salvaguardias exhaustivas. Este ejemplo destaca la necesidad fundamental de transparencia, rendición de cuentas y participación ciudadana en el diseño y despliegue de tecnologías de IA en el sector público.
Para conciliar la necesidad de seguridad sólida y rendición de cuentas, se requieren marcos de gobernanza que hagan que los sistemas de IA sean comprensibles y confiables para la ciudadanía. El diseño transparente, los mecanismos claros de supervisión y la participación inclusiva garantizan que las tecnologías públicas complejas no concentren el poder ni exacerben las desigualdades.
Sistemas centrados en la ciudadanía
Cuando existen estas bases, los gobiernos pueden ir más allá de la mitigación de riesgos y experimentar activamente con enfoques ágiles, programas piloto y reformas iterativas. Esto abre espacio para que los jóvenes y la sociedad civil contribuyan a soluciones responsables y atentas a las necesidades públicas. Algunos gobiernos ya están experimentando con modelos más ágiles.
En España, Correos Lab utiliza financiación piloto y mecanismos de premios para acelerar soluciones GovTech y probarlas a gran escala en cuestión de meses. Para ello, necesitamos condiciones propicias: normas de interoperabilidad estandarizadas, contratación pública accesible para las pequeñas y medianas empresas y vías de ensayo iterativo que orienten la reforma sistémica.
Las redes juveniles ya actúan como laboratorios vivos de innovación: aportan urgencia, creatividad y compromiso con la tecnología responsable al situar a los jóvenes como codiseñadores en equipos multidisciplinares, metodologías de investigación, aceleradoras e incubadoras.
Al colaborar con universidades, centros de innovación y ecosistemas de startups, los gobiernos pueden aprovechar las perspectivas de los jóvenes como fuente renovable de imaginación cívica.
La IA transformará la prestación de los servicios públicos. Sin embargo, la transformación solo será positiva si la ciudadanía sigue ocupando un lugar central en el diseño, si los proyectos piloto cuentan con vías creíbles para ampliarse y si la soberanía abarca no solo la propiedad de la infraestructura, sino también la capacidad instalada para gobernarla.
