La experiencia de Canadá en investigación sobre inteligencia artificial (IA) ha propiciado importantes inversiones recientes. Sin embargo, se han dedicado muchos menos recursos a la gobernanza, la ética o las responsabilidades sociales de esta nueva tecnología, lo que ha llevado a muchas iniciativas locales distintas a intentar cubrir esa carencia.
La IA ya afecta a nuestra vida cotidiana. Con cada «me gusta», deslizamiento y comentario en las redes sociales, la mayoría ya aportamos datos para mejorar las aplicaciones de IA que recomiendan vídeos en línea o nos ayudan a gestionar el correo electrónico.
Nuestra capacidad para hacerle una pregunta a un teléfono inteligente es fruto de una larga historia de investigación sobre cómo usar ordenadores para automatizar el trabajo humano y mejorar la toma de decisiones. Los procesadores más potentes, los avances en los algoritmos y los macrodatos, a menudo recopilados a partir de nuestras interacciones en línea, han impulsado grandes avances en el aprendizaje profundo, una rama de la IA.
Se ha presentado el avance en estos campos como un beneficio neto para toda la humanidad.
Pero considerar que la IA es intrínsecamente buena pasa por alto la importante labor de investigación y desarrollo necesaria para crear aplicaciones éticas, seguras e inclusivas. Los datos deficientes, el código inexplicable o una implementación apresurada pueden dar lugar fácilmente a sistemas de IA que no merecen celebrarse.
Por ejemplo, los sistemas automatizados pueden estar programados con sesgos. Una investigación de ProPublica reveló que el programa COMPAS, utilizado para evaluar los índices de riesgo delictivo en Estados Unidos, estaba intrínsecamente sesgado contra las personas afroamericanas.
Descubrimientos como este revelan una realidad importante: primero, los efectos de la IA son muy reales y afectan a personas y familias reales. Segundo, esto está ocurriendo ahora mismo: no son escenarios inverosímiles que podrían darse en el futuro.
Evaluar las consecuencias
Pese a estos riesgos, el interés por la IA en Canadá y en todo el mundo no ha disminuido.
En Canadá, el Gobierno federal realizó una inversión considerable en investigación sobre inteligencia artificial el año pasado. El presupuesto de 2017 incluyó 125 millones de dólares para una Estrategia pancanadiense de inteligencia artificial que administrará el Instituto Canadiense de Investigación Avanzada. En febrero, una propuesta de Quebec para investigar la IA y las cadenas de suministro obtuvo una parte de los 950 millones de dólares del «fondo federal para superclústeres».
Pero, sin una colaboración adecuada con sectores que tengan experiencia en las consecuencias sociales, culturales y políticas de las nuevas tecnologías, es probable que estas iniciativas amplíen la brecha entre las empresas tecnológicas y el interés público y desvinculen la investigación de la reflexión crítica.
Afortunadamente, las implicaciones sociales de la IA empiezan a estar en el radar del Gobierno federal.
La Secretaría del Consejo del Tesoro de Canadá está ultimando la primera ronda de consultas públicas sobre el uso responsable de la IA en el Gobierno. Ha colaborado estrechamente con la comunidad de IA mediante un proyecto piloto de consulta abierta en línea que nos ha permitido a nosotros y a otras personas colaborar en las directrices resultantes.
Ese informe examina muchas aplicaciones potenciales de la IA, como los chatbots que ayudan a los usuarios a navegar por los servicios gubernamentales y los programas que crean contenido para sitios web. La iniciativa demuestra cómo el Gobierno federal puede asumir un papel de liderazgo adoptando directrices sólidas para su propio uso de la IA.
Estas aplicaciones concretas y acotadas indican que el Gobierno entiende los riesgos de la automatización en su propio trabajo. Esperamos que el informe final dé lugar a directrices sólidas que garanticen la transparencia, la rendición de cuentas y la equidad.
Además, Asuntos Globales de Canadá lidera una colaboración entre varias universidades sobre inteligencia artificial y derechos humanos. Por ejemplo, estudiantes de posgrado del seminario de Fenwick McKelvey sobre políticas de medios en la Universidad Concordia contribuyen a un análisis amplio de las implicaciones de la IA para las políticas de derechos humanos. McKelvey pretende vincular los debates sobre la IA con la experiencia en comunicación y estudios culturales, disciplinas que llevan mucho tiempo cuestionando las dimensiones culturales, sociales y políticas de los medios de comunicación y la tecnología.
La investigación de McKelvey se conecta con estas iniciativas al explorar las implicaciones de los algoritmos y la IA para la gobernanza de internet y el rendimiento de la banda ancha.
Abhishek Gupta está evaluando los efectos de la automatización basada en IA en el sector de los servicios financieros y cómo ajustar los planes de estudio universitarios para preparar mejor a los profesionales ante las cambiantes necesidades laborales.
Gupta también fundó el grupo Montreal AI Ethics, donde las conversaciones se han centrado en elaborar la Declaración de Montreal para un desarrollo responsable de la inteligencia artificial. Este documento establece principios claros para que la IA respete el bienestar, la autonomía, la justicia, la privacidad, el conocimiento y la democracia, y para garantizar su propio desarrollo responsable.
La IA como política de datos
Una estrategia de IA no tiene por qué desarrollarse de forma aislada.
Un enfoque nacional de la IA debería aprender de los debates incipientes sobre los datos en los sectores filantrópico y sin ánimo de lucro. La iniciativa de Montreal Powered by Data ha contribuido a impulsar conversaciones importantes sobre cómo las organizaciones filantrópicas y sin ánimo de lucro pueden basar más su labor en los datos y servir de modelo para un uso inclusivo y ético de los datos.
Los datos son solo una de las formas en que el sector está incorporando la innovación digital a sus operaciones y elaborando estrategias digitales para centrarse en sus misiones.
Parte de este cambio exige reevaluar las cuestiones de desigualdad y discriminación a la luz de la automatización digital. El Instituto Brookfield, un centro de políticas sobre innovación y emprendimiento, ha estudiado los posibles beneficios y amenazas de la automatización para el mercado laboral. Su evaluación indica que estos efectos no se distribuirán de manera uniforme en Canadá y que algunas comunidades son más vulnerables a la reducción del empleo.
Pero estas iniciativas no tienen la escala ni el alcance de las intervenciones que se llevan a cabo en otros lugares.
En Estados Unidos, las fundaciones Ford y MacArthur financian el AI Now Institute, con sede en la Universidad de Nueva York. El grupo ha publicado dos informes importantes sobre la gobernanza de la IA, que han dado lugar a un debate internacional sobre cómo debería desarrollarse y utilizarse la IA y han demostrado que estos sectores pueden desempeñar un papel importante.
El éxito de AI Now demuestra que los sectores filantrópico y sin ánimo de lucro pueden contribuir al desarrollo y la aplicación de la IA. Al crear un instituto o comprometerse con iniciativas a largo plazo, estos sectores podrían garantizar el desarrollo de una estrategia de IA vinculada a debates importantes sobre el avance de la equidad, la precariedad laboral, la discriminación en el uso de datos y la reconciliación.
Situar a Canadá a la cabeza
Canadá tiene una elección clara. Puede aprovechar la oportunidad de liderar el desarrollo responsable de la IA o arriesgarse a legitimar una carrera hacia el mínimo común denominador, en la que no haya lugar para la ética, la equidad ni la justicia.
Mejorar las orientaciones para que los investigadores comprendan cómo se aplica a la investigación y el desarrollo de la IA la Carta Canadiense de Derechos y Libertades es un buen primer paso. A partir de ahí, Canadá puede crear una base justa, equitativa y estable para una agenda de investigación que sitúe esta nueva tecnología dentro de instituciones sociales consolidadas desde hace mucho tiempo.
Canadá también necesita un esfuerzo nacional más coordinado e inclusivo que dé prioridad a las voces que, de otro modo, quedarían marginadas. Estas consultas serán fundamentales para que Canadá se convierta en un referente en este campo.
Sin estas medidas, Canadá podría quedarse rezagado. Europa ya está redactando nuevos enfoques importantes para la protección de datos. Este otoño, la ciudad de Nueva York puso en marcha un grupo de trabajo para convertirse en líder mundial en la gobernanza de la toma de decisiones automatizada. Esperamos que esto propicie consultas activas con organismos municipales, académicos de las ciencias y las humanidades, así como grupos comunitarios, desde Data for Black Lives hasta Picture the Homeless, además de la consideración de evaluaciones del impacto algorítmico.
Estas iniciativas deberían ofrecer un contexto útil mientras Canadá desarrolla su propia estrategia de gobernanza y determina cómo incluir en ella los conocimientos indígenas.
Si Canadá desarrolla un enfoque estratégico nacional sólido para la gobernanza de la IA, que abarque distintos sectores y disciplinas, podrá liderar a escala mundial.
