La inteligencia artificial (IA) podría ayudar a los gobiernos a responder a la COVID-19.
La pandemia demuestra que es importante que los gobiernos den forma proactivamente al desarrollo y despliegue de las tecnologías de IA para garantizar que sean responsables y éticas.
Mediante la contratación pública, los gobiernos podrían apoyar la innovación en IA y el crecimiento económico, así como establecer normas y regulaciones adecuadas.
Cuando fue elegida presidenta de la Comisión Europea en 2019, Ursula von der Leyen propuso un enfoque europeo coordinado sobre las implicaciones humanas y éticas de la inteligencia artificial (IA).
Muchos escenarios estaban dentro de lo imaginable: una legislación estricta sobre IA similar al Reglamento General de Protección de Datos (RGPD), la prohibición de las tecnologías de reconocimiento facial en espacios públicos, como la prohibición de San Francisco, y enfoques innovadores para el despliegue de la IA en el sector público, similares a la Directiva canadiense sobre la toma de decisiones automatizada.
Ahora, la consulta pública sobre el Libro Blanco de la Comisión Europea coincide con la pandemia de COVID-19. La IA podría ayudar en la respuesta, como destacó UN Global Pulse. La IA puede ser tan precisa como la inteligencia humana, ahorrar tiempo a los radiólogos y diagnosticar la COVID-19 con mayor rapidez y a menor costo que las pruebas estándar. Por ejemplo, BenevolentAI, una empresa emergente del Reino Unido, descubrió en solo 90 minutos un fármaco ya aprobado como posible tratamiento para la COVID-19.
Estos avances son prometedores, pero también plantean preguntas sobre cómo debería ser un despliegue responsable y ético de la IA. Dado que este debate es demasiado importante para dejarlo únicamente en manos de la industria, es importante que los gobiernos den forma proactivamente al desarrollo y despliegue de las tecnologías de IA.
Una regulación adecuada y proactiva por parte de los gobiernos es fundamental. Pero ¿cómo pueden los responsables de formular políticas diseñar una regulación que mitigue los riesgos mediante restricciones y prescripciones, a la vez que promueva la apertura y la innovación? Y, aún más importante, ¿cómo puede la regulación seguir siendo flexible a medida que madura la tecnología? Estas exigencias hacen urgente repensar cómo regulan los gobiernos y, en particular, cómo utilizan su poder regulador para dar forma al futuro de la IA.
Los principios de gobernanza ágil pueden desempeñar un papel. Estos principios incluyen la colaboración y la toma de decisiones basada en datos, así como conceptos regulatorios flexibles e inclusivos, que podrían ayudar a los gobiernos a comprender la dinámica de la industria y el mercado y a mantenerse al tanto de los nuevos avances.
Una oportunidad para que los gobiernos respondan a estos desafíos consiste en adoptar un enfoque ágil de la contratación pública. Solo en la UE, más de 250.000 entidades públicas gastan alrededor de 2 billones de euros al año en servicios externos, obras y suministros, y se destina una cantidad cada vez mayor a software, almacenamiento en la nube y asistencia informática. Al utilizar deliberadamente este poder comercial y recurrir a la contratación pública, los gobiernos podrían no solo apoyar la innovación en IA y el crecimiento económico, sino también establecer normas que tengan un efecto de señal en el mercado.
Para impulsar la innovación y el crecimiento económico, los gobiernos podrían considerar nuevos enfoques de contratación para impulsar la innovación en el mercado.
Por ejemplo, las vías flexibles de acceso al mercado y las solicitudes de propuestas permitirían a los gobiernos centrarse en el desafío, en lugar de en una especificación detallada de la tecnología. Las plantillas de licitación específicas para IA, las cláusulas contractuales modelo y los marcos de contratación específicos, como las adquisiciones basadas en desafíos (por ejemplo, el programa UK GovTech Catalyst), pueden contribuir a ello.
Otra idea sería acercarse sistemáticamente a las empresas pequeñas o jóvenes, que quizá no tengan los incentivos adecuados ni la capacidad organizativa para responder a una convocatoria pública de propuestas. Entre sus dificultades figuran los largos procesos de licitación, los pagos tardíos y el desconocimiento de las oportunidades en el sector público. Sin embargo, como el mercado evoluciona rápidamente, sería beneficioso incluir a estos actores en el debate público. Una opción sería que los gobiernos contactaran con las empresas emergentes mediante sesiones de presentación y espacios de trabajo compartido. Esto podría ayudar a garantizar que los procesos de contratación pública no impidan que las empresas innovadoras jóvenes y pequeñas tengan al sector público como cliente.
El diseño proactivo y estratégico de las licitaciones públicas también ofrece a los gobiernos la oportunidad de utilizar la contratación pública como palanca para fomentar el desarrollo de una IA ética y responsable.
Integrar la rendición de cuentas y la ética en el ciclo de compra permitiría a los gobiernos utilizar su poder adquisitivo para llevar estos principios a la práctica de manera eficaz. Por ejemplo, los gobiernos pueden preaprobar a proveedores que cumplan normas éticas, como las de la lista canadiense de proveedores de IA o exigir que se apliquen las mejores prácticas en materia de IA explicable. La evaluación podría incluir una puntuación de interpretabilidad. Además, los sistemas de IA y las evaluaciones del impacto de la IA, como las descritas por AINow, deberían formar parte de la documentación de contratación.
¿Qué está haciendo el Foro Económico Mundial en relación con la Cuarta Revolución Industrial?
El Centro de Tecnologías de Frontera e Innovación reúne a científicos, responsables de políticas y líderes empresariales para comprender las tecnologías emergentes y sus implicaciones en el mundo real.
Al facilitar la colaboración y la experimentación, el Centro ayuda a sus socios a convertir la innovación de la investigación en aplicaciones prácticas que abordan desafíos globales compartidos.
El Libro Blanco de la Comisión Europea subraya la importancia de que las administraciones públicas adopten la IA de forma responsable y con visión de futuro, y menciona diálogos sobre contratación pública. Sin embargo, no explica en detalle los objetivos de transformar los procesos de contratación pública ni cómo se llevaría a cabo esa transformación. Cuando concluya la consulta pública, el 14 de junio, la Comisión Europea finalizará el enfoque regulador de la IA.
Por tanto, sería deseable que la respuesta de la Comisión a las complejas exigencias de las tecnologías de IA no solo adoptara principios ágiles, sino que también pusiera en marcha el proceso de replantear los enfoques tradicionales de contratación pública. Hoy, los gobiernos nacionales deberían ir más allá de hablar de la IA en términos generales y poner en práctica soluciones concretas que fomenten su adopción y mitiguen sus riesgos.
El kit de herramientas «AI procurement in a box» de la Plataforma de Inteligencia Artificial y Aprendizaje Automático del Foro Económico Mundial ofrece una visión general de las mejores prácticas para la contratación de IA y herramientas que ayudan a los equipos gubernamentales a aplicarlas.
