La semana pasada, el recién anunciado Centro del Gobierno del Reino Unido para la Ética de los Datos y la Innovación emitió una consulta. El Centro pidió directrices para regular no solo el uso de datos y el desarrollo tecnológico del sector privado, sino también el uso de la inteligencia artificial (IA) en el sector público, incluso para «dirigir con precisión los servicios públicos a quienes más los necesitan y distribuir los recursos públicos de manera más eficaz».
El Reino Unido no es el único que busca desarrollar su capacidad de IA para la prestación de servicios públicos y la formulación de políticas. Los gobiernos más «preparados para la IA» están, podría decirse, repartidos por Europa, Australasia, América y Oriente Medio. Estos gobiernos dependen de estrechas relaciones con el sector tecnológico, una tendencia que probablemente se intensificará a medida que los gigantes tecnológicos comprendan el alcance mundial de la oportunidad empresarial que representa la IA y los gobiernos sigan dependiendo de conocimientos tecnológicos externos. Los gobiernos también empiezan a considerar a las empresas emergentes como posibles proveedoras de soluciones de IA para el sector público, y fondos y concursos respaldados por el Estado de GovTech o tecnología para el gobierno fomentan el crecimiento del sector.
A pesar de todos los posibles beneficios de las colaboraciones público-privadas en IA, la relación es complicada desde el principio. La obligación primordial del gobierno es con sus ciudadanos. La principal responsabilidad de las empresas privadas, en cambio, es con sus accionistas. Estas prioridades pueden chocar: no es un problema nuevo, pero podría agravarse a medida que el mercado mundial de GovTech aspira a valoraciones de billones de dólares. ¿Quién protegerá y controlará los datos de los ciudadanos? ¿Y quién captará el valor económico de la información que pueda extraerse de ellos? Las respuestas a estas preguntas son cruciales para la legitimidad del gobierno, sobre todo en regiones donde las asociaciones público-privadas históricamente han servido también de caldo de cultivo para la corrupción y el capitalismo clientelista.
Los gobiernos centrados en los ciudadanos de todo el mundo deben asegurarse de contar con suficientes conocimientos tecnológicos internos para ser clientes informados y exigentes. Ahora más que nunca, los gobiernos también necesitan «traductores» cualificados, capaces de desenvolverse entre los distintos lenguajes, culturas, prioridades y ambiciones, tanto en las dimensiones tecnológicas y de formulación de políticas del gobierno como entre las empresas tecnológicas y el Estado.
A medida que las empresas tecnológicas contribuyen cada vez más al desarrollo de la IA para el gobierno, a distintos ritmos y en culturas políticas diversas en todo el mundo, preguntamos a un panel internacional de responsables de políticas y expertos: «¿Qué papel debería desempeñar el sector privado en el desarrollo de la IA para el gobierno y cuáles deberían ser sus límites?»
Dra. Tanya Filer, Bennett Institute for Public Policy, Universidad de Cambridge
«Las grandes organizaciones y los gobiernos están mal preparados para afrontar semejante disrupción».
En los últimos meses, muchos gobiernos de todo el mundo han anunciado o actualizado sus estrategias digitales, a menudo complementándolas con un capítulo sobre IA. Francia, el Reino Unido, Estados Unidos, Rusia y China han expresado claramente su voluntad de asumir cierto liderazgo en este ámbito, a menudo con enfoques muy distintos. Lo que distingue este caso del proceso tradicional de formulación de políticas es que los gobiernos tienen poco en común con las tecnologías disruptivas, y aún menos con las tecnologías ampliamente distribuidas. El hecho de que la mayoría de los avances clave sean de código abierto (en Github y Tensor Flow) es solo una de las complejidades que los gobiernos deben afrontar. Las grandes organizaciones y los gobiernos están mal preparados para afrontar semejante disrupción. Los proyectos disruptivos de los Estados han tendido a acabar mal, con la excepción de DARPA y un número muy limitado de otros casos.
Entonces, ¿cómo deberían los Estados utilizar lo digital y la IA para aprovechar las mejoras de productividad que pueden ofrecer? Primero, deben centrarse en los principios, más que en los detalles de la prestación. Deben respetar al ciudadano y prestarle servicios públicos, en lugar de tratarlo como consumidor; segundo, deben subcontratar con entusiasmo al sector privado para aumentar su experiencia en la gestión de proyectos y operaciones; tercero, esta delegación de servicios públicos debe estar sujeta a una regulación estricta y dicha regulación debe hacerse cumplir, de ser posible, mediante acuerdos regionales con estatus extraterritorial, como el RGPD. Si lo hacen, los gobiernos pueden convertirse en instituciones del siglo XXI; de lo contrario, corren el riesgo de quedar obsoletos y ser reemplazados progresivamente por actores privados sobre los que tendrían poco control.
Gilles Babinet es el representante digital de Francia ante la Comisión Europea.
«La futura relación con el sector privado debe ser una verdadera asociación, no una sumisión dócil».
Ha llegado la hora de que el sector público tome las riendas de su destino digital. Desde la década de 1980, los sucesivos gobiernos han dependido del sector privado para la innovación digital. La consecuencia fueron contratos informáticos inflexibles y costosos, una mala experiencia para los usuarios y la erosión de los conocimientos internos. Desde la década de 2010, el GDS revirtió parcialmente esta tendencia en el gobierno central, pero amplios sectores de los gobiernos locales y del NHS siguieron dependiendo de un pequeño número de proveedores.
El Gran Desafío de IA del gobierno corre el riesgo de perpetuar la mentalidad de que solo el sector privado puede innovar e impulsar el crecimiento económico. El papel del gobierno parece limitarse a estimular la inversión y a mejorar modestamente la infraestructura digital. Sin embargo, como ha demostrado la economista Mariana Mazzucato, la inversión y la investigación estatales han propiciado avances tecnológicos sorprendentes: el GPS, la pantalla táctil, los algoritmos de búsqueda e Internet deben mucho al apoyo del Estado.
El Estado debería desempeñar un papel protagonista en el futuro de la IA, y la futura relación con el sector privado debe ser una verdadera asociación, no una sumisión dócil. Tres cambios de política ayudarían. Primero, debe desarrollarse la capacidad de IA en el seno del gobierno. Se debería financiar a investigadores de IA y asignarlos a los departamentos gubernamentales, y los responsables de políticas de alto nivel deberían recibir formación en IA. Segundo, la inversión estatal debería incentivar a las empresas emergentes de IA a centrarse en cuestiones fundamentales de los servicios públicos (como urgencias, asistencia social, etc.) mediante inversiones y financiación para investigación y desarrollo. La naturaleza universal de los servicios públicos implica que los modelos del sector privado de «copiar y trasladar» solo funcionarán hasta cierto punto; a menudo se centran de forma limitada en transacciones «baratas de atender» y dejan que el Estado asuma los «casos extremos» costosos. La nueva Oficina de Inteligencia Artificial podría coordinar las solicitudes departamentales de «casos de uso». Por último, el Estado debería maximizar el valor de sus activos digitales. No hay razón para que los conjuntos de datos abundantes de los servicios públicos, aptos para el aprendizaje automático, sean de acceso gratuito para las empresas de IA. El Estado debería considerar adquirir participaciones en las empresas emergentes a las que presta apoyo esencial. Por ejemplo, Oxford University Hospitals adquirió recientemente una participación de 5 millones de libras esterlinas en Drayson Technologies.
El gobierno hace bien en dar prioridad a la IA ética y se necesita un marco para las relaciones entre el Estado y el sector privado; hay que abordar las cuestiones de protección y control de datos. Es más probable que los ciudadanos apoyen el uso de sus datos si saben que habrá un beneficio público; por ejemplo, mediante el hallazgo de curas para enfermedades que ellos o sus seres queridos puedan padecer.
Antonio Weiss es director de 2020 Delivery, una consultora especializada que asesora a los servicios públicos del Reino Unido en materia de transformación digital. 2020 Delivery organiza junto con otros el evento «¿Cuándo empezarán los robots a gestionar los servicios públicos del Reino Unido?» el 21 de junio.
«El nuevo gobierno de México tendrá que desarrollar una Política Nacional de IA integral que impulse el potencial económico de México y promueva un desarrollo social inclusivo».
No hay mejor lugar que el Sur Global para demostrar el potencial de la IA para propiciar un cambio social transformador y reducir la pobreza y la desigualdad. Sin embargo, los gobiernos nacionales y locales de estas regiones deben comprender la urgencia de invertir en IA y desarrollar políticas integrales de IA que tengan en cuenta las limitaciones éticas y garanticen que los beneficios se compartan con todos.
México es una de las economías emergentes que lideran el cambio en este ámbito. En los últimos años, su gobierno ha avanzado mucho en políticas de datos abiertos e infraestructura digital, dos pilares fundamentales para una política de IA eficaz. También publicó recientemente una estrategia nacional de IA para 2018, lo que situó a México entre los diez primeros países en contar con una. La sociedad civil, la industria y el mundo académico también están impulsando cambios importantes al sentar las bases de una colaboración intersectorial eficaz mediante la coalición de IA AI2030, creada recientemente. Su objetivo es contribuir al desarrollo de una agenda nacional de largo plazo sobre IA, cuyos componentes centrales sean la ética y la corresponsabilidad sectorial. Además, gobiernos locales como los de Jalisco y Ciudad de México están promoviendo conversaciones y acciones y ayudando a acelerar el crecimiento de los ecosistemas locales de datos e IA.
No cabe duda de que México avanza en la dirección correcta; aun así, hay muchos desafíos que deben abordarse para garantizar un impacto social y económico verdaderamente inclusivo impulsado por la IA. El nuevo gobierno de México, que será elegido en julio de 2018, tendrá que desarrollar una Política Nacional de IA integral que impulse el potencial económico de México y promueva un desarrollo social inclusivo. Entre otras medidas clave, también tendrá que seguir trabajando para cerrar la brecha de competencias digitales, priorizar la agenda digital, invertir en infraestructura digital, seguir garantizando la publicación de datos abiertos de buena calidad y crear un Centro Nacional de IA que ayude a fomentar las alianzas entre el mundo académico y la industria, definir las áreas con mayor potencial y contribuir a comercializar los mejores productos. Si se aprovecha correctamente a nivel nacional y local, la IA puede ser una herramienta clave para ayudar a mejorar los servicios públicos mexicanos para el 80 % de los ciudadanos con menores ingresos.
Constanza Gomez Mont es coautora de «Hacia una estrategia nacional de IA en México» (descarga en www.cminds.co/ai) y fundadora y directora ejecutiva de C Minds.
«Dada la gran demanda de expertos en este ámbito, muchos —si no la mayoría— de los sistemas de aprendizaje automático del gobierno serán creados y mantenidos por el sector privado».
A medida que empezamos a utilizar la «inteligencia artificial» en el gobierno debemos recordar una verdad evidente: gobernar es, fundamentalmente, un ejercicio normativo. No existe una manera «objetivamente correcta» de hacer muchas de las cosas que hace el gobierno. Esto, por supuesto, siempre ha sido así. Lo nuevo es que, cuando utilizamos algoritmos, nos vemos obligados a convertir esos juicios de valor en código.
Dada la gran demanda de expertos en este ámbito, muchos —si no la mayoría— de los sistemas de aprendizaje automático del gobierno serán creados y mantenidos por el sector privado. Sin embargo, no estamos preparados para supervisar y controlar cómo deciden las empresas codificar esos juicios de valor al crear sistemas de IA. A veces, ni siquiera se reconoce suficientemente que se están formulando esos juicios de valor.
El gobierno debe asumir la responsabilidad y garantizar que las decisiones normativas que tomamos al crear sistemas de aprendizaje automático reflejen elecciones conscientes y legítimas, en lugar de arbitrarias o carentes de rendición de cuentas.
Pensemos en COMPAS, el algoritmo de riesgo de reincidencia. El algoritmo calcula una puntuación que indica la probabilidad de que una persona acusada vuelva a delinquir, y esta se utiliza para orientar las decisiones de los jueces. La empresa incorporó al algoritmo una determinada idea de justicia, que dio lugar a una tasa de verdaderos positivos igual para las personas acusadas negras y blancas. Sin embargo, la tasa de falsos positivos era dos veces mayor para las personas acusadas negras.
Como parte de nuestra investigación sobre el uso de la IA en el gobierno, hemos hablado tanto con los científicos de datos que crearon este algoritmo como con las personas que dependen de sus resultados. El problema de COMPAS no era solo que incorporara esta noción particular de justicia, posiblemente problemática. Estas decisiones son inevitables, y los visitadores sanitarios, trabajadores sociales, docentes y funcionarios públicos emiten juicios similares constantemente.
El problema era que los jueces y los funcionarios de libertad condicional que se basaban en los resultados del algoritmo apenas sabían que se estaba utilizando esa noción particular de justicia. También era un problema que los científicos de datos del sector privado que crearon el algoritmo no fueran conscientes de que estaban incorporando determinadas perspectivas normativas en él.
En lo que respecta a la toma de decisiones humanas, con el tiempo y en parte mediante ensayo y error, hemos creado mecanismos de gobernanza que nos permiten examinar los juicios de valor que subyacen a una decisión, apelarla y lograr que se modifique. Aunque estos mecanismos sean imperfectos, al menos existen.
Necesitamos esos mismos mecanismos para los sistemas de «inteligencia artificial» del gobierno. Si no establecemos estos controles y no lo hacemos de una manera que los ciudadanos consideren legítima, no se cumplirá la gran promesa de la IA en el gobierno.
Danny Buerkli es director de programas del Centre for Public Impact.
