Si bien la tecnología aporta numerosos beneficios, sin gobernanza puede causar daños significativos.
Una nueva Carta de Derechos de la IA, publicada en EE. UU. la semana pasada, establece cinco protecciones clave.
Muchos consideran que el documento es un punto de partida fundamental, pero desearían que existieran más mecanismos de control y equilibrio para que la IA rinda cuentas.
La semana pasada, la Oficina de Política Científica y Tecnológica (OSTP) de la Casa Blanca de EE. UU. publicó un «Plan para una Carta de Derechos de la IA» junto con varias acciones relacionadas de las agencias. El documento ofrece un marco importante para que el gobierno, las empresas tecnológicas y los ciudadanos trabajen juntos con el fin de garantizar una IA más responsable.
Esto es lo fundamental que hay que entender sobre las nuevas directrices: qué abarcan, qué no y qué otras iniciativas se están llevando a cabo en materia de rendición de cuentas en IA.
¿Por qué se necesita una Carta de Derechos de la IA?
La necesidad de resolver los problemas relacionados con el uso responsable de la inteligencia artificial (IA) ha cobrado cada vez más importancia para los países, los ciudadanos y las empresas en los últimos ocho años. Actualmente, unos 60 países cuentan con estrategias nacionales de IA y muchos tienen, o están elaborando, políticas que permiten el uso responsable de una tecnología que puede aportar enormes beneficios, pero que, sin una gobernanza adecuada, puede causar daños significativos a las personas y a nuestra sociedad.
¿Cómo garantiza el Foro Económico Mundial el uso responsable de la tecnología?
Desde 2018, la Unión Europea lleva liderando iniciativas para impulsar el diseño, el desarrollo y la implantación de la IA en su región, al tiempo que procura proteger a sus ciudadanos frente a un uso indebido. La Ley de IA de la UE, prevista para 2024, será la culminación de esa labor. Se ha debatido mucho sobre cómo responderían los Estados Unidos a este nuevo marco legislativo. Asimismo, China ha desarrollado su propio régimen regulatorio para el uso de la IA. Aunque se ha escrito mucho sobre la carrera armamentística en IA y el desacoplamiento tecnológico entre Estados Unidos y China, la cuestión de fondo es si esto marca el inicio de regímenes tecnológicos y mecanismos de gobernanza internacionales divergentes. El Consejo de Comercio y Tecnología UE-EE. UU. apunta a nuevos esfuerzos orientados a garantizar una mayor convergencia a ambos lados del Atlántico, mientras que el énfasis de la UE y China en una mayor regulación de los algoritmos sugiere que Estados Unidos va a la zaga en la fijación de normas para la economía digital. También existen numerosas iniciativas internacionales para establecer buenas prácticas en el uso de la IA. Por ejemplo, la Asociación Mundial sobre IA se creó en 2020 e incluye tanto a la UE como a EE. UU. La UNESCO y la OCDE también han establecido principios para el uso adecuado de la IA, y en el Foro Económico Mundial llevamos desde 2017 creando marcos escalables y accesibles para la buena gobernanza de la IA por parte de gobiernos y empresas.
¿Qué contiene el «Plan para una Carta de Derechos de la IA»?
El Plan contiene cinco principios, cada uno de los cuales incluye un documento técnico complementario que ofrece orientaciones para la aplicación responsable de los principios, que, tal como se publicaron, son los siguientes:
Sistemas seguros y eficaces: Debería estar protegido frente a sistemas inseguros o ineficaces.
Protecciones frente a la discriminación algorítmica: No debería sufrir discriminación por parte de algoritmos, y los sistemas deben utilizarse y diseñarse de manera equitativa.
Privacidad de los datos: Debería estar protegido frente a prácticas abusivas en el tratamiento de datos mediante salvaguardas integradas, y debería poder decidir cómo se utilizan los datos que le conciernen.
Notificación y explicación: Debería saber que se está utilizando un sistema automatizado y comprender cómo y por qué contribuye a resultados que le afectan.
Opciones alternativas: Debería poder optar por no participar, cuando proceda, y tener acceso a una persona que pueda considerar y resolver con rapidez los problemas que encuentre.
El objetivo del plan es «orientar el diseño, el uso y la implantación de sistemas automatizados para proteger al público estadounidense». Los principios no son normativos ni vinculantes: se trata de un "Plan", tal como se anunció, y todavía no es una «Carta de Derechos» exigible mediante las protecciones legislativas correspondientes.
El Plan tiene 76 páginas e incluye numerosos ejemplos de casos de uso de la IA que la OSTP de la Casa Blanca considera problemáticos. Es importante señalar que el documento aclara que el Plan solo debería aplicarse a sistemas automatizados que puedan afectar de manera significativa a los derechos, las oportunidades o el acceso a recursos o servicios esenciales del público estadounidense, excluyendo en general muchas aplicaciones industriales u operativas de la IA. El Plan amplía los ejemplos de uso de la IA en el ámbito de los préstamos, los recursos humanos, la vigilancia y otros campos (que también encontrarían un equivalente en el marco de casos de uso «de alto riesgo» de la próxima Ley de IA de la UE).
¿Cómo han reaccionado los expertos ante el «Plan para una Carta de Derechos de la IA»?
La publicación del Plan recibió una acogida dispar por parte de la prensa, la industria y el mundo académico. Algunos defensores de los controles gubernamentales consideran que no va lo suficientemente lejos y que será en gran medida ineficaz. Estas personas desearían que el documento incluyera más mecanismos de control y equilibrio, como los previstos en la Ley de IA de la UE. Además de las preocupaciones de los defensores, The Wall Street Journal, por ejemplo, señaló los temores de algunos directivos tecnológicos de que la regulación pudiera frenar la innovación en IA.
Por otro lado, existe un gran respaldo a no avanzar hacia la regulación, a fin de permitir que la innovación y la competencia beneficiosas prosperen en los numerosos usos de la IA. Los expertos en políticas también han destacado las importantes protecciones que este documento podría ofrecer a diversos grupos, entre ellos los afroamericanos y los latinos. Como señaló el director del centro sin ánimo de lucro Center for AI and Digital Policy en MIT Technology Review, la Carta de Derechos es un punto de partida clave y, además, un documento «impresionante».
¿Dónde puedo consultar el trabajo del Foro sobre la rendición de cuentas en IA?
El Foro Económico Mundial ya ha publicado trabajos para ayudar a las empresas, los gobiernos y los ciudadanos a comprender cómo utilizar la IA de forma responsable en recursos humanos y en la aplicación de la ley. El año pasado, el Foro publicó este kit de herramientas práctico para promover el uso responsable de herramientas basadas en inteligencia artificial en recursos humanos. Además, un marco elaborado el otoño pasado ofrece orientaciones fundamentales sobre el uso del reconocimiento facial en la aplicación de la ley.
¿Qué otras iniciativas se están llevando a cabo en materia de rendición de cuentas en IA?
Aunque el Plan no es vinculante, la Casa Blanca también anunció que varias agencias federales pondrán en marcha medidas y orientaciones relacionadas sobre su uso de sistemas de IA, incluidas nuevas políticas en materia de contratación pública. La actividad de las agencias en relación con el Plan varía mucho en cuanto a nivel de madurez, y no está claro cómo se relacionarán o complementarán las nuevas orientaciones con las directivas vigentes sobre IA (p. ej., Orden Ejecutiva 13960 sobre la promoción del uso de inteligencia artificial fiable en la Administración federal, o el Marco de Gestión de Riesgos de IA del Instituto Nacional de Normalización y Tecnología (NIST)) y las declaraciones de la Comisión Federal de Comercio, la EEOC, la CFPB y el HHS.
No obstante, la «Plan para una Carta de Derechos de la IA» puede considerarse como una ampliación de declaraciones previas según las cuales las normas y leyes existentes se aplican, y como un complemento a la aplicación normativa de aspectos de otros mecanismos jurídicos propuestos, como la Ley de Responsabilidad Algorítmica, que se volvió a presentar en el Senado en una versión modificada a principios de 2022. Estos mecanismos jurídicos no solo dotarían a la Carta de Derechos de la IA de mayor fuerza, sino que también, con carácter provisional, generarían una mayor convergencia de las buenas prácticas regulatorias entre EE. UU. y la próxima Ley de IA de la UE.
Al evaluar el panorama general de los mecanismos internacionales y las formas de buenas prácticas en la gobernanza de la IA, la Carta de Derechos de la IA es una iniciativa bienvenida que debe situarse correctamente en el contexto de otras iniciativas futuras, tanto en EE. UU. como en otros países. Como se ha mencionado, la UE y China ya avanzan con firmeza en el diseño y la implantación de regímenes regulatorios reales, que afectarán a las buenas prácticas globales. Para garantizar que EE. UU. no pierda su capacidad de influir en las normas de jure internacionales en materia de IA, es importante que los responsables políticos se esfuercen por hacer más para aplicar nuevas políticas y prácticas que salvaguarden los intereses de los ciudadanos estadounidenses, así como la innovación beneficiosa, de cara al futuro. Sin duda, estos avances tendrán efectos en cadena sobre las buenas prácticas internacionales, frágiles pero emergentes, en la gobernanza de la IA.
