Los gobiernos compran cada vez más sistemas de IA, pero es necesario contar con prácticas de contratación responsables que tengan en cuenta los riesgos y las oportunidades para la sociedad.
Entre los recursos existentes se incluyen directrices generales, recomendaciones específicas e iniciativas regulatorias de organizaciones como AI Now, el Gobierno del Reino Unido y la Oficina de Gestión y Presupuesto de EE. UU.
Se necesitan más herramientas y repositorios para respaldar la contratación responsable de IA, incluidas plantillas de RFP, cláusulas contractuales y cuadros de evaluación para medir la madurez en materia de ética de la IA.
Los gobiernos y los administradores públicos adquieren IA a una escala cada vez mayor. Por ejemplo, en 2022 Estados Unidos gastó 2,5 más en contratos relacionados con la IA que en 2017. Estas compras pueden ser muy útiles, pero incluyen sistemas de alto riesgo con un inmenso potencial de daño. Por ello, los administradores públicos que adquieren sistemas de IA deben disponer de los conocimientos y los recursos necesarios para contratar IA de forma responsable, teniendo en cuenta los riesgos y las oportunidades para la sociedad. Ya se publican recursos útiles, pero hay margen para cubrir lagunas adicionales que permitan adaptarse a la evolución de los sistemas de IA y sus aplicaciones. Este artículo revisa los recursos existentes en inglés y las lagunas que deben cubrirse.
Directrices y regulación
El tipo de recurso más común que tienen a su disposición los administradores públicos que contratan IA son las directrices sobre IA. Estas se dividen en tres categorías: 1) asesoramiento general en materia de contratación; 2) recomendaciones específicas, centradas en un sector, un caso de uso, una materia o un enfoque; y 3) iniciativas regulatorias.
Las directrices y recomendaciones generales incluyen las elaboradas por AI Now, DataEthics, Hickok, Miller and Waters, Rubenstein, el Gobierno del Reino Unido, y el Foro Económico Mundial. Además, Estados Unidos ha anunciado que la Oficina de Gestión y Presupuesto (OMB) publicará directrices sobre contratación de IA.
Entre las directrices específicas, la Prison Policy Initiative ofrece directrices para la compra de tabletas en prisiones. Aunque no abordan específicamente la IA, estas directrices incorporan requisitos de ética tecnológica que podrían adaptarse a la IA. Coglianese & Lampmann recomiendan incluir cláusulas contractuales sobre secretos comerciales, privacidad y ciberseguridad, auditoría y participación pública. Jacobs & Mulligan sugieren utilizar un método denominado «modelización de la medición» en los procesos de contratación para comprender los impactos previstos de los sistemas de IA.
Las iniciativas regulatorias también ofrecen directrices. Los profesionales de la contratación pueden recurrir a estas iniciativas, aunque no se apliquen en su jurisdicción y aunque no se hayan convertido en ley.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
En Canadá, los organismos federales deben cumplir la Directiva sobre la toma de decisiones automatizada, que incluye requisitos para la contratación de IA en materia de evaluación de impacto, transparencia, garantía de calidad y otros aspectos. En Estados Unidos, la normativa existente sobre contratación de IA incluye la Orden Ejecutiva (EO) 13960, que exige que los organismos federales diseñen, desarrollen, adquieran y utilicen la IA de forma que fomente la confianza y la seguridad del público, abordando temas como la privacidad, los derechos civiles y las libertades civiles. La Ley de Formación en IA exige presupuestar la formación en IA para el personal de contratación. Por último, los estados de Maryland, Connecticut y Washington han presentado proyectos de ley que introducen requisitos de ética de la IA en el proceso de contratación.
Estas directrices e iniciativas regulatorias son un buen punto de partida. Sin embargo, aún quedan lagunas por cubrir para dotar a los profesionales de las herramientas adecuadas. En conversaciones con los autores de este artículo, los profesionales expresaron su preocupación de que, sin un apoyo adecuado, las prácticas responsables de contratación de IA no se implementen aunque la ley las exija. Esto ya ha ocurrido en el pasado con normativas similares sobre contratación.
Herramientas
Existen herramientas útiles y pertinentes disponibles públicamente, pero es necesario prestar más atención a su correcta implementación, uso, mejora y ampliación. La Ford Foundation, Richardson, y el Foro Económico Mundial han elaborado listas de preguntas que los profesionales de la contratación deben plantear a lo largo del ciclo de vida de la contratación. La ciudad de Ámsterdam creó una plantilla en inglés para contratos de adquisición de IA, que incorpora funciones de IA responsable (y véase Miller and Waters para obtener contexto y debate). La ciudad de San José (California) ha creado varias herramientas de contratación de IA. Entre ellas se incluyen un mapa del proceso de revisión para la compra de un sistema de IA, y un formulario para recopilar información de los proveedores de IA. Por último, el condado de Alameda (California) ha publicado una RFP para un sistema de IA que incluye requisitos de privacidad. Puede utilizarse como plantilla.
Aunque lo anterior supone grandes esfuerzos en la dirección correcta, aún se necesita más trabajo para abordar la contratación responsable de IA. Por ejemplo, los profesionales expresan la necesidad de disponer de plantillas completas de RFP, cláusulas breves que puedan incorporarse a contratos existentes y cuadros de evaluación para medir la madurez en materia de ética de la IA de un proveedor potencial. Además, las herramientas existentes no abordan los desafíos que encuentran los profesionales al intentar contratar IA de forma responsable, como las dificultades para que los proveedores revelen información relacionada con la ética de la IA o para hacer un seguimiento de los compromisos éticos en materia de IA, incluso cuando dichos compromisos figuran en contratos firmados.
Repositorios
Hemos encontrado dos tipos de repositorios relacionados con la contratación responsable de IA en la administración pública. Algunos repositorios ayudan a la gestión del conocimiento. Por ejemplo, la base de datos de soft law de Gutierrez contiene una lista de normas de soft law relacionadas con la contratación de IA de los años 2001 a 2019. Puede encontrar debates sobre este repositorio aquí y aquí. Otro repositorio relevante para la gestión del conocimiento es la Tabla Periódica de Innovaciones en Adquisiciones, creada por el Instituto Federal de Adquisiciones de EE. UU. (FAI).
Otros repositorios documentan información sobre la IA adquirida por la administración pública. Los Países Bajos, la Ciudad de Ámsterdam, la Ciudad de Helsinki, y la Ciudad de San José (California) han creado registros de algoritmos en sus municipios. Además, Eurocities creó un esquema para registrar los algoritmos utilizados en las ciudades
No se han encontrado repositorios que recopilen recursos sobre la contratación responsable de IA. Sin embargo, sin un repositorio, los profesionales pueden tener dificultades para encontrar recursos pertinentes y elegir los mejores para ellos. Nuestra revisión requirió un análisis en profundidad que muchas de las personas implicadas en la contratación de IA quizá no puedan llevar a cabo.
Conclusiones
Los recursos actuales para la contratación responsable de IA en la administración pública son útiles, pero necesitamos prestar más atención al desarrollo de estas herramientas y a la creación de recursos adicionales para garantizar que los profesionales estén plenamente preparados para abordar todo el ciclo de contratación. Al desarrollar nuevas herramientas, es fundamental incluir en mayor medida a los profesionales. Muchos de los recursos que encontramos no mencionan consultas sustantivas con los profesionales y no abordan los desafíos a los que estos se enfrentan. Cerrar estas lagunas es una tarea fundamental. La contratación responsable de IA en la administración pública es clave para la seguridad pública y para influir en el sector tecnológico a fin de desarrollar la IA de forma más responsable.
Este artículo se ha beneficiado enormemente de la contribución de Beth Schwanke y Hubert Halopé. Beth Schwanke, PhD, es directora ejecutiva del Instituto de Derecho, Política y Seguridad Cibernética de la Universidad de Pittsburgh. Hubert Halopé es responsable de Inteligencia Artificial y Aprendizaje Automático en el Foro Económico Mundial