La crisis mundial de la COVID-19 ha acelerado en todo el mundo la implementación de iniciativas de inteligencia artificial (IA).
La ética y la gobernanza de los sistemas de IA no están claras.
Debemos avanzar en tres cuestiones principales para lograr un impacto real.
La crisis mundial de la COVID-19 ha acelerado en todo el mundo la implementación de iniciativas de IA. Tecnologías que habrían tardado cinco años en ponerse en marcha se han implementado en seis meses.
Aunque la pandemia ha incorporado la IA a nuestras vidas a una velocidad vertiginosa, también ha intensificado la urgencia de comprender las normas y la ética relacionadas con ella. Por ejemplo, las empresas tecnológicas encargadas de aplicaciones de seguimiento y rastreo biométricos ahora poseen enormes cantidades de nuestros datos biométricos personales y no disponen de normas claras sobre qué hacer con ellos ni cómo protegerlos.
Como resultado, las empresas y las partes interesadas se ven obligadas a apagar incendios, como fallos de ciberseguridad, la propagación generalizada de desinformación e información errónea y la venta indiscriminada de datos; problemas que podrían evitarse fácilmente.
Con tanto en juego, ¿por qué no son más claras las normas y la gobernanza de los sistemas de IA?
No se debe a la falta de esfuerzos. En los últimos años han surgido numerosos principios y orientaciones para apoyar el desarrollo y el uso responsables de la IA, pero sin que se haya producido ningún cambio significativo.
Para lograr un impacto, debemos profundizar en tres cuestiones principales:
1. Ampliar los diálogos existentes sobre la ética de la IA y las reglas que deben regirla.
Es preciso abrir de par en par la conversación sobre la IA y la ética para comprender los matices y el ciclo de vida de los sistemas de IA, así como sus efectos en cada etapa.
Con demasiada frecuencia, estas conversaciones no tienen el alcance suficiente y se centran únicamente en las etapas de desarrollo y despliegue del ciclo de vida, aunque muchos problemas surgen en las etapas previas de conceptualización, investigación y diseño.
O bien, no llegan a comprender cuándo, o siquiera si, un sistema de IA alcanzará el grado de madurez necesario para evitar fallos en sistemas adaptativos complejos.
Otro problema es que las empresas y las partes interesadas pueden centrarse en la puesta en escena de la ética: aparentar que promueven una IA beneficiosa mientras ignoran aspectos más fundamentales y problemáticos. Esto se conoce como «lavado ético»: crear una impresión superficialmente tranquilizadora, pero ilusoria, de que se están abordando las cuestiones éticas para justificar que se siga adelante con sistemas que terminan agravando patrones problemáticos.
Dejemos que la transparencia guíe la ética. En esta conversación hay muchas compensaciones y zonas grises. Abordemos de lleno esas complejas zonas grises.
Aunque el «discurso sobre la ética» suele consistir en subrayar las distintas compensaciones asociadas a diversos cursos de acción, la verdadera supervisión ética exige abordar aquello que las opciones elegidas dejan sin atender.
Esta parte esencial —y a menudo ignorada— del proceso supone un obstáculo para quienes intentan abordar la ética de la IA.
2. El debate sobre la ética de la IA no se está traduciendo en acciones significativas.
Con demasiada frecuencia, quienes se encargan de desarrollar, integrar y desplegar sistemas de IA no comprenden cómo funcionan ni el potencial que pueden tener para cambiar las relaciones de poder, perpetuar las desigualdades existentes y crear otras nuevas.
Exagerar las capacidades de la IA es un problema bien conocido en la investigación sobre IA y el aprendizaje automático, y ha llevado a una actitud complaciente ante la necesidad de comprender los problemas reales que esos sistemas se diseñaron para resolver, así como de identificar posibles problemas posteriores. La creencia de que un sistema de IA incompetente e inmaduro puede corregirse una vez desplegado mediante la intervención de un ser humano que supervise el sistema o la suposición de que existe un antídoto —especialmente uno compatible con la ciberseguridad— es una ilusión errónea y potencialmente peligrosa.
Esta falta de comprensión se manifiesta en nuestros responsables de la toma de decisiones, que caen en una narrativa miope y determinista de la tecnología, y aplican enfoques tecnosolucionistas y de optimización a los desafíos mundiales, industriales y sociales. A menudo, se dejan deslumbrar por lo que se ofrece, en lugar de centrarse en lo que realmente requiere el problema.
Para comprender verdaderamente la ética de la IA, debemos escuchar a un grupo mucho más diverso de expertos y partes interesadas, incluidos quienes entienden las posibles consecuencias posteriores y las limitaciones de la IA, como el impacto ambiental del consumo de recursos necesarios para construir, entrenar y ejecutar un sistema de IA, su interoperabilidad con otros sistemas y la viabilidad de interrumpirlo de forma segura y protegida.
3. El diálogo sobre la IA y la ética está confinado a la torre de marfil.
Conceptos como la ética, la igualdad y la gobernanza pueden parecer elevados y abstractos. Debemos fundamentar la conversación sobre la IA en la identificación de responsabilidades y culpas concretas.
Se equivocaría quien supusiera que los sistemas de IA son apolíticos por naturaleza, sobre todo cuando se integran en situaciones o se enfrentan a tareas para las que no fueron creados ni entrenados.
Las desigualdades estructurales son habituales, como ocurre con los algoritmos predictivos utilizados en la labor policial que a menudo presentan sesgos evidentes. Además, las personas más vulnerables a los efectos negativos no suelen tener poder para participar.
Parte de la solución y del desafío consiste en encontrar un lenguaje común para replantear la ética ante tensiones y compensaciones desconocidas e implícitas. Las transformaciones tecnológicas a gran escala siempre han provocado profundos cambios sociales, económicos y políticos, y siempre ha llevado tiempo encontrar la manera de hablar de ellos en público y establecer prácticas seguras y éticas.
Sin embargo, tenemos poco tiempo.
Trabajemos juntos para replantear la ética para la era de la información y superar el pensamiento compartimentado, a fin de fortalecer la inteligencia y el diálogo transversales y científicos. Nuestro único camino viable es una ética práctica y participativa que garantice la transparencia, atribuya responsabilidades e impida que la IA se utilice de formas que dicten las reglas y puedan causar daños graves.
Anja Kaspersen y Wendell Wallach son investigadores sénior del Carnegie Council for Ethics in International Affairs. Junto con un consejo asesor internacional, consejo asesor, dirigen la iniciativa Carnegie Artificial Intelligence and Equality Initiative (AIEI), que busca comprender las innumerables formas en que la IA afecta a la igualdad y, en respuesta, proponer posibles mecanismos para garantizar que los beneficios de la IA lleguen a todas las personas.
