El NITI Aayog está desarrollando un enfoque para garantizar el uso responsable de la IA en la India, con el apoyo del Centro para la Cuarta Revolución Industrial del Foro Económico Mundial.
El enfoque define principios generales a los que deben ajustarse las soluciones de IA, al tiempo que explora mecanismos de implementación y aplicación.
Se ha publicado un documento preliminar para consulta pública. El NITI Aayog está explorando actualmente una hoja de ruta para la aplicación de los principios en el sector público, el sector privado y la investigación académica.
Partiendo de la Estrategia Nacional sobre IA (NSAI) publicada en 2018, el NITI Aayog trabaja ahora en la definición de un enfoque para materializar los beneficios económicos de la IA de manera «responsable» con sus usuarios y con la sociedad en general. El enfoque pretende establecer principios generales para el diseño, el desarrollo y el despliegue de la IA en la India, basándose en iniciativas globales similares, pero fundamentados en el marco jurídico y regulatorio indio. El documento también explora formas de poner en práctica los principios en el sector público, el sector privado, la investigación y el ámbito académico.
El NITI Aayog, el centro de estudios del Gobierno de la India, está desarrollando el enfoque «Responsible #AIforAll» a partir de una consulta a gran escala con las partes interesadas, facilitada por el Centro para la Cuarta Revolución Industrial (C4IR) India. Un documento de trabajo sobre IA responsable (elaborado a partir de un taller de consulta celebrado en diciembre de 2019 y organizado por el C4IR India, Foro Económico Mundial) se presentó durante una consulta global con expertos en ética de la IA de todo el mundo el 21 de julio de 2020 y, posteriormente, el NITI Aayog lo publicó para consultas públicas más amplias.
La India se esfuerza por equilibrar la regulación y la innovación en el ámbito de la tecnología de IA.
¿Cómo deberían ser los principios de ética de la IA?
A escala global se han desarrollado numerosos principios de IA ética basados en el objetivo subyacente de proteger los derechos humanos fundamentales. Para un enfoque más adaptado al contexto indio, los principios del documento de trabajo se han elaborado a partir de los «derechos fundamentales» que la Constitución reconoce a los ciudadanos indios. Estos principios se han diseñado para ser «duraderos» a la hora de prevenir los riesgos de la IA, independientemente del caso de uso de que se trate.
Al mismo tiempo, sin embargo, se requiere agilidad para que estos principios no frenen la innovación y para aprovechar los últimos avances en este campo, que evoluciona rápidamente. Los principios tendrán que evolucionar, y también es necesario un mecanismo institucional que los actualice periódicamente.
También es importante evaluar qué tipo de marco regulatorio podría funcionar en la India, teniendo en cuenta que en varios sectores (salud, finanzas) ya existen reguladores que podrían asumir de forma natural esta función, ampliando su ámbito regulatorio. Así pues, los responsables de las políticas se enfrentan a la cuestión de si dejarlo en manos de reguladores y legislación sectoriales o crear una nueva autoridad legal. Otra consideración que surge es el «grado» de aplicación necesario para cumplir los principios definidos. ¿Solo necesitamos principios de alto nivel o deberíamos regular aplicaciones y casos de uso concretos?
¿Cómo se ponen estos principios en práctica?
Los mecanismos de aplicación evolucionan en varios niveles, a saber, normas, directrices y legislación. Trazar la línea divisoria entre la autocertificación y la regulación es una de las cuestiones clave que el NITI Aayog debate en diversas consultas con expertos. Aunque la autocertificación es útil y debería explorarse con elementos básicos notificados por el Gobierno para que las empresas los cumplan, no puede sustituir a un enfoque más directo.
En diversas consultas con expertos, la estratificación de los casos de uso de la IA según el riesgo, que sugiere distintos grados de aplicación de los principios, se ha perfilado como la línea de actuación más respaldada.
Para aplicar los principios, las normas de ética de la IA son necesarias pero no suficientes, y deben complementarse con directrices y legislación. Además, notificar únicamente normas sería un enfoque muy pasivo, y se necesita más iniciativa para garantizar que estas se integren adecuadamente en la cultura y los flujos de trabajo de una organización. Las directrices y la legislación, aunque son herramientas más eficaces para aplicar los principios, también son menos ágiles y flexibles ante la innovación.
Ética de la IA en el sector privado
Varios expertos han recomendado como mecanismos clave para la aplicación en el sector privado los comités éticos internos, las guías de autoevaluación y las auditorías externas. En ciertos escenarios, podría considerarse exigir a los proveedores que permitan auditorías independientes de sus soluciones. Esto puede ayudar a prevenir o mitigar resultados imprevistos.
El otro gran reto consiste en distinguir entre directrices independientes del sector y directrices específicas de cada sector. La evaluación de los casos de uso de la IA a nivel de la industria puede ayudar a identificar variaciones específicas de cada sector. Según el impacto, los beneficios y los riesgos asociados a la cartera de casos de uso, los marcos de gobernanza pueden ponerse en práctica en consecuencia. Esto también permitirá probar el marco de políticas de IA responsable en aplicaciones del mundo real.
Ética de la IA en la investigación
Para garantizar que la investigación en el ámbito de la IA respete los principios, los expertos han recomendado tomar como referencia las prácticas del sector sanitario. Entre las prácticas específicas figuran la creación de «comités internos de revisión (IRB)» o comités específicos de revisión ética.
Incentivar la investigación ética en IA es otro ámbito prioritario. El NITI Aayog, al exponer los conceptos de «India como garaje de la IA" y «Alianza Global de IA», en la NSAI, ha venido defendiendo entre otras cosas, la colaboración internacional en materia de IA ética y la financiación pública destinada a proyectos similares. El documento del NITI Aayog pretende identificar amplios sectores en los que pueda considerarse la investigación.
Ética de la IA en el despliegue en el sector público
Dado que se espera que el despliegue de sistemas de IA en el sector público afecte a la población en general, es importante garantizar una contratación pública responsable de la IA. Para ello, deberán establecerse mecanismos que garanticen que las decisiones de los profesionales de la contratación pública estén guiadas por un grupo multidisciplinar de expertos en la materia, que podría adoptar la forma de «comités de revisión ética» encargados de examinar los documentos de contratación y la evaluación de las propuestas.
Otras recomendaciones de puesta en práctica
Se están considerando varias otras técnicas, entre ellas:
Crear entornos favorables a la innovación, como cajas de arena regulatorias para facilitar la innovación, el desarrollo y la adopción de la IA.
Enfoque de «ética desde el diseño», según el cual los principios éticos se aplican desde el inicio del proceso de diseño.
Seguimiento continuo de los sistemas de IA una vez desplegados (similar a la vigilancia poscomercialización de medicamentos y productos sanitarios).
Garantizar mecanismos de reclamación accesibles y asequibles para las decisiones adoptadas por el sistema de IA.
En el caso de la toma de decisiones basada en IA, también cobra importancia la impugnabilidad (la posibilidad de recurrir). Si un algoritmo va a tomar decisiones que afecten a los derechos de las personas y a las prestaciones públicas, es importante describir cómo el proceso administrativo preservaría las garantías procesales mediante la posibilidad de impugnar la toma de decisiones automatizada.
¿Qué hace el Foro Económico Mundial en relación con la Cuarta Revolución Industrial?
El Centro de Tecnologías de Frontera e Innovación reúne a científicos, responsables políticos y líderes empresariales para comprender las tecnologías emergentes y sus implicaciones en el mundo real.
Al facilitar la colaboración y la experimentación, el Centro ayuda a los socios a trasladar la innovación de la investigación a aplicaciones prácticas que abordan retos globales compartidos.
Uno de los aspectos clave de la ambición de la India de #AIforAll incluye la IA responsable y el equilibrio entre las consideraciones éticas y la necesidad de innovar. Una vez publicado, el documento de la India sobre IA responsable para todos establecerá recomendaciones para abordar algunos de los desafíos éticos de la IA en la hoja de ruta futura de la India para la IA.
