Australia es uno de los 42 países que la semana pasada se adhirieron a un nuevo conjunto de directrices de política para el desarrollo de sistemas de inteligencia artificial (IA).
Sin embargo, Australia tiene sus propias directrices preliminares sobre ética en la IA sometidas a consulta pública, y otros varios países y organismos del sector han elaborado sus propias directrices sobre IA.
Entonces, ¿por qué necesitamos tantas directrices y son alguna de ellas de cumplimiento obligatorio?
Los nuevos principios
El conjunto más reciente de directrices de política es la Recomendación sobre Inteligencia Artificial de la Organización para la Cooperación y el Desarrollo Económicos (OCDE).
Promueve cinco principios para el desarrollo responsable de una IA fiable. También incluye cinco estrategias complementarias para el desarrollo de políticas nacionales y la cooperación internacional.
Dado que procede de la OCDE, busca un equilibrio entre promover la mejora económica y la innovación, y fomentar valores fundamentales y la confianza en el desarrollo de la IA.
Los cinco principios de la IA alientan a:
1. un crecimiento inclusivo, el desarrollo sostenible y el bienestar
2. valores centrados en el ser humano y equidad
3. transparencia y explicabilidad
4. solidez, seguridad y protección
5. rendición de cuentas.
Estas recomendaciones son amplias y no tienen fuerza de ley ni siquiera de normativa. En cambio, buscan animar a los países miembros a incorporar estos valores o principios éticos en el desarrollo de la IA.
Pero, ¿a qué nos referimos con IA?
Es difícil formular recomendaciones específicas en relación con la IA. Esto se debe en parte a que la IA no es una sola cosa con una única aplicación que plantee riesgos o amenazas concretos.
En cambio, el término IA se ha convertido en un concepto general que engloba un gran número de sistemas diferentes. Cada uno suele estar diseñado para recopilar y procesar datos mediante tecnología informática, adaptarse a los cambios y actuar de forma racional para alcanzar sus objetivos, en última instancia sin intervención humana.
Esos objetivos pueden ser tan diferentes como traducir un idioma, identificar rostros o incluso jugar al ajedrez.
El tipo de IA que destaca en la consecución de estos objetivos suele denominarse IA estrecha. Un buen ejemplo es una IA que juega al ajedrez. Está diseñada específicamente para jugar al ajedrez y es extremadamente buena en ello, pero completamente inútil para otras tareas.
Por otro lado está la IA general. Se trata de una IA que, según se afirma, sustituirá a la inteligencia humana en la mayoría, si no en todas, las tareas. Esto aún está muy lejos, pero sigue siendo el objetivo final de algunos desarrolladores de IA.
Sin embargo, es esta idea de la IA general la que alimenta muchos de los temores y conceptos erróneos que rodean a la IA.
Muchísimas directrices
En respuesta a estos temores y a una serie de problemas muy reales de la IA estrecha, las recomendaciones de la OCDE son las más recientes de una serie de proyectos y directrices de gobiernos y otros organismos de todo el mundo que buscan inculcar un enfoque ético en el desarrollo de la IA.
Entre ellas figuran iniciativas del Instituto de Ingenieros Eléctricos y Electrónicos, la autoridad francesa de protección de datos, la Oficina del Comisionado de Privacidad de Hong Kong y la Comisión Europea.
El Gobierno australiano financió el Data61 de la CSIRO para desarrollar un marco de ética de la IA, que actualmente está abierto a comentarios públicos, y la Australian Council of Learned Academies aún no ha publicado su informe sobre el futuro de la IA en Australia.
La Comisión Australiana de Derechos Humanos, junto con el Foro Económico Mundial, también está examinando e informando sobre el impacto de la IA en los derechos humanos.
El objetivo de estas iniciativas es alentar o impulsar el desarrollo ético de la IA. Pero esto presupone un comportamiento poco ético. ¿Cuál es el problema con la IA?
IA no ética
Un estudio identificó tres amplios posibles usos malintencionados de la IA. Estos apuntan a:
seguridad digital (por ejemplo, mediante ciberataques)
seguridad física (por ejemplo, ataques con drones o piratería informática)
seguridad política (por ejemplo, si la IA se utiliza para la vigilancia masiva, la persuasión y el engaño).
Un ámbito de preocupación se está desarrollando en China, donde varias regiones están desarrollando un sistema de crédito social vinculado a la vigilancia masiva mediante tecnologías de IA.
El sistema puede identificar a una persona que infringe normas sociales (como cruzar la calle de forma imprudente, relacionarse con delincuentes o hacer un uso indebido de las redes sociales) y restar puntos de crédito social a esa persona.
Cuando se reduce la puntuación crediticia, se restringen las libertades de esa persona (como la libertad para viajar o pedir préstamos). Aunque todavía no se trata de un sistema de alcance nacional, los informes indican que este podría ser el objetivo último.
Además de estos usos deliberadamente indebidos de la IA, se suman varios efectos secundarios no intencionados de una IA estrecha mal construida o mal implementada. Entre ellos se incluyen el sesgo y la discriminación y la erosión de la confianza.
Construir consenso sobre la IA
Las sociedades difieren en lo que consideran ético. Incluso dentro de una misma sociedad, las personas difieren en lo que consideran un comportamiento ético. Entonces, ¿cómo puede existir alguna vez un consenso mundial sobre el desarrollo ético de la IA?
Dado el alcance tan amplio del desarrollo de la IA, cualquier política relativa a la IA ética no puede ser aún más específica hasta que podamos identificar normas compartidas de comportamiento ético que puedan servir de base para algunas normas mundiales acordadas.
Al desarrollar y expresar los valores, derechos y normas que consideramos importantes en la actualidad, en forma de los informes y directrices mencionados anteriormente, estamos trabajando para generar confianza entre las naciones.
Están surgiendo temas comunes en las distintas directrices, como la necesidad de una IA que tenga en cuenta los derechos humanos, la seguridad, la protección, la transparencia, la fiabilidad y la rendición de cuentas, por lo que aún podríamos estar avanzando hacia un consenso mundial.
