La inteligencia artificial (IA) desempeña un papel cada vez más importante en las operaciones del sector público en todo el mundo.
Los gobiernos deben replantearse la contratación de IA con un enfoque centrado en la innovación, la eficiencia y la ética, pero se enfrentan a desafíos.
El Centro para la Cuarta Revolución Industrial de Brasil ha publicado un informe que destaca cómo la IA podría beneficiar a los sectores públicos del Sur Global.
Las tecnologías de inteligencia artificial (IA) pueden transformar la ejecución de las operaciones gubernamentales al ampliar los servicios, mejorar la eficiencia e implementar mejoras que reduzcan los costos.
Sin embargo, puede resultar difícil prever los riesgos inherentes al uso de estas tecnologías, especialmente en entidades gubernamentales que aún no cuentan con capacidades institucionales adecuadas para implementar sistemas de IA.
A pesar de algunas iniciativas pertinentes en este ámbito, los gobiernos suelen sufrir las consecuencias de la falta de recursos y de personal cualificado para acompañar la contratación y el desarrollo de soluciones de IA, lo que retrasa la difusión de esta tecnología en el sector público.
Kit de herramientas para la contratación de IA en el sector público
Teniendo en cuenta estas consideraciones, el Foro Económico Mundial publicó «Desbloquear la IA en el sector público: la contratación de IA en un kit» en 2020, un kit de herramientas con 10 directrices diseñado para ayudar a los gobiernos a evaluar adecuadamente sus necesidades tecnológicas y contextuales, así como los riesgos asociados a la contratación de soluciones de IA.
Elaboradas en colaboración con actores del sector público, las directrices del kit se basaron en proyectos piloto realizados en el Reino Unido y en conclusiones extraídas de talleres en Baréin, India y los Emiratos Árabes Unidos.
Para ampliar este trabajo y llevar estas prácticas a Brasil, el Centro para la Cuarta Revolución Industrial de Brasil (C4IR Brasil) implementó el kit de herramientas de contratación de IA en un kit en colaboración con São Paulo Metrô y el Hospital das Clínicas.
Nos propusimos participar en el debate existente sobre la contratación pública para la innovación y contribuir al uso ético de la IA artificial en el sector público y a la preparación institucional para las tecnologías de la Cuarta Revolución Industrial (4IR).
Además, queríamos examinar cómo adaptar el kit de herramientas al contexto brasileño para demostrar cómo ampliar estas buenas prácticas en todo el mundo.
Como resultado, publicamos un kit de herramientas sobre el primer tema, con recomendaciones específicas para el contexto brasileño, que ilustra los dos estudios de caso mencionados y los vincula con desafíos concretos de la contratación de IA en Brasil, identificados mediante conversaciones con las partes interesadas pertinentes.
Desafíos de la contratación pública en Brasil
Uno de nuestros desafíos importantes es que el marco de contratación pública de Brasil es complejo y relativamente restrictivo, lo que lleva a los funcionarios a seguir procedimientos formularios que no están diseñados para incentivar la innovación ni la evaluación integral de las propuestas de proyectos. Muchos funcionarios públicos no están familiarizados con las prácticas de contratación para la innovación o de IA y recurren a procesos de subasta inversa que quizá no permitan evaluar adecuadamente proyectos complejos.
A través de nuestro proyecto piloto con São Paulo Metrô, una de las redes ferroviarias más grandes de América Latina, con 3,7 millones de pasajeros al día pudimos probar las directrices en un proceso de contratación concreto.
Debido al elevado volumen de tráfico diario del sistema de metro, se producen numerosas interrupciones por mantenimiento a lo largo del día, lo que provocó aproximadamente 1.840 minutos de afectación del servicio entre 2016 y 2020.
Para aumentar la eficiencia, el metro se prepara para adquirir una herramienta de modelización predictiva en línea y en tiempo real que pueda identificar los tramos de vía que requieren mantenimiento y minimizar las interrupciones del servicio, en beneficio tanto de los pasajeros como del sistema de metro.
Al aplicar las directrices de contratación de IA en un kit, el metro pudo aprovechar la legislación brasileña sobre contratación para la innovación, involucrar a las partes interesadas esenciales y comunicar eficazmente los detalles del proyecto a los posibles proveedores.
El metro también aplicó la primera evaluación de impacto algorítmico de Brasil para evaluar los riesgos del uso de la IA y ayudar a formular estrategias de mitigación eficaces.
El estudio de caso del Hospital das Clínicas de São Paulo examinó el proceso de una institución para alcanzar la madurez técnica y en el acceso a los datos, principalmente con el fin de utilizar la IA de forma ética en un ámbito sometido al escrutinio público.
Debido a sus múltiples funciones, la institución se propuso organizar sus más de 60 sistemas y protocolos en un conjunto coherente que le permitiera utilizar eficientemente el enorme volumen de datos que recopila en sus otros ámbitos de trabajo: la docencia, la investigación y la innovación.
Para superar los numerosos obstáculos que planteaba este objetivo, el hospital se centró en integrar los registros de datos tanto dentro como fuera del hospital mediante la creación de un lago de datos; en la capacitación técnica del personal y la optimización de iniciativas; en la arquitectura y gestión de datos, y en la armonización de datos entre distintas áreas.
Gracias a estas acciones, el Hospital das Clínicas pudo elaborar una hoja de ruta para aprovechar sus datos y adoptar mejor la IA y otras innovaciones de forma segura y protegida.
Importancia del proyecto de contratación de IA en un kit
Las lecciones de estos dos estudios de caso ilustraron la importancia del proyecto de contratación de IA en un kit y mostraron cómo las orientaciones del Foro Económico Mundial pueden seguir evolucionando y beneficiando a los funcionarios del sector público, particularmente en el Sur Global y en zonas con pocos recursos.
Como extensión del proyecto original, el Foro y C4IR Brasil han publicado «Desglosar la contratación de IA en un kit: perspectivas de su implementación». Este informe analiza diversos aspectos de la contratación y la adopción en el sector público, como la madurez en IA de las organizaciones del sector público, desde la infraestructura básica hasta la gobernanza de datos, las personas y la cultura.
¿Cómo ayuda el Foro a los gobiernos a adoptar responsablemente la tecnología de IA?
También nos centramos en ir más allá de las evaluaciones de riesgos y en establecer una combinación de políticas que regule estas tecnologías. ¿Qué herramientas de supervisión, además de la participación humana en el proceso, son necesarias para garantizar la seguridad y la eficacia?
Para facilitar la implementación continuada a escala mundial de la contratación de IA en un kit, hemos incluido un conjunto de indicadores que permiten comprender el éxito de un proyecto de contratación de IA y orientar a los futuros socios implementadores.
Esperamos que este proyecto siga implementándose, no solo a través de los centros C4IR afiliados, sino también por parte de gobiernos de todo el mundo. De este modo, la contratación de IA en un kit crecerá y seguirá compartiendo las buenas prácticas necesarias para una IA responsable e innovadora en el sector público a escala mundial.
