Por qué debemos considerar los impactos intergeneracionales de la IA

• La tecnología se utiliza con frecuencia para resolver problemas cotidianos en ámbitos como la contratación, las finanzas y la educación, sin abordar los problemas de equidad existentes ni los desequilibrios de poder.

• La IA puede perpetuar desigualdades históricas basadas en la raza, el género y la clase social, con perjuicios no solo para esta generación, sino también para las futuras.

• Una iniciativa del Consejo Global de Futuro sobre IA para la Humanidad aborda la necesidad de que los responsables políticos y los reguladores reexaminen el uso de esta tecnología, prestando la debida atención a los impactos intergeneracionales de las decisiones tecnológicas que se adoptan hoy.
  

Aunque nuestro futuro aún no está escrito, cada día sentamos sus bases mediante nuestros esfuerzos colectivos, del mismo modo que nuestro pasado ha allanado el camino hacia el momento presente. Los debates actuales sobre la inteligencia artificial (IA) y la ética de la IA se centran principalmente en el impacto que tiene sobre las poblaciones actuales; por ejemplo, la equidad del uso de la IA en la contratación, las finanzas y la educación. Pero ¿qué ocurre con los impactos intergeneracionales de los sistemas de IA actuales sobre las generaciones futuras, igualmente importantes? Los responsables políticos y los reguladores deberían prestar atención a estas cuestiones.

En la actualidad, un grupo demográfico muy reducido de la población mundial ostenta el poder de decisión en el sector tecnológico, y las decisiones que toman están configurando nuestros futuros colectivos. Además, quienes están fuera de la industria tecnológica suelen ser considerados meramente como consumidores y quedan al margen de los debates sobre las tecnologías que afectan a sus vidas y medios de subsistencia. Esto agrava los desequilibrios de poder y fomenta las condiciones de explotación y las injusticias de nuestro mundo. Por lo tanto, sin un cambio en el nivel de la toma de decisiones, existe el riesgo de que la IA perjudique a las generaciones venideras.

Cómo la IA perpetúa las desigualdades existentes

Consideremos, por ejemplo, el caso de los sistemas automatizados de supervisión de exámenes, que se utilizan para vigilar las pruebas, confirmar la identidad de los examinandos y garantizar la integridad del entorno de examen. Estas aplicaciones han resultado especialmente útiles durante la pandemia de COVID-19, cuando muchas instituciones educativas pasaron a plataformas virtuales. Sin embargo, existen hallazgos recientes que demuestran los perjuicios y los efectos de estas tecnologías. Esto se basa en más de una década de investigación realizada por mujeres y personas de color que han estudiado las repercusiones desiguales de las tecnologías cotidianas.

Históricamente, en Estados Unidos, estudios demuestran un sesgo racial significativo en las medidas disciplinarias adoptadas en las escuelas, donde «los alumnos negros tienen más probabilidades de ser considerados problemáticos y de ser castigados que los blancos por la misma falta», según Travis Riddle y Stacey Sinclair, de la Universidad de Princeton. Resulta tentador suponer que una implementación automatizada y técnica de la vigilancia del comportamiento en las escuelas estaría libre de estas acciones discriminatorias, pero las investigaciones demuestran lo contrario. Como señala la investigadora del MIT Joy Buolamwini: «La IA se basa en datos, y los datos son un reflejo de nuestra historia». Su trabajo, que aparece en el documental Coded Bias, pone de relieve «cómo los algoritmos de aprendizaje automático... pueden perpetuar las desigualdades existentes en la sociedad basadas en la raza, la clase y el género», según una reseña del NYT.

Subyacentes a este tipo de herramientas y procedimientos se encuentra la infraestructura social normativa que se formó hace décadas, en la que los estudiantes son vistos como sujetos que deben ser vigilados por infracciones. Son ideas que debemos examinar críticamente antes de reproducir tales nociones en los nuevos productos tecnológicos. Como señala Shea Swauger, bibliotecario académico e investigador de la Universidad de Colorado Denver: «La tecnología no inventó las condiciones para hacer trampa y no será lo que lo detenga. Lo mejor que podemos hacer en la educación superior es partir de la idea radical de confiar en los estudiantes. Elijamos la compasión en lugar de la vigilancia».

Mitigar los perjuicios ahora y en el futuro

Cuando los sistemas se codifican digitalmente, se convierten en un registro digital permanente de juicios que puede vincularse a una persona de por vida. «Hemos llegado a un punto de inflexión en el que será difícil desterrar la normalización de la vigilancia digital. Además, sus efectos pueden ser duraderos y abarcar varias generaciones», afirma la doctora Safiya Noble, profesora asociada de Estudios de Género y Estudios Afroamericanos en la Universidad de California en Los Ángeles (UCLA). Entonces, ¿cómo establecemos estructuras que puedan mitigar los perjuicios existentes y futuros de los sistemas de IA que están actualmente en funcionamiento?

La regulación puede desempeñar un papel crucial en estos esfuerzos. El beneficio económico actual para los accionistas e inversores ha sido el valor principal en el núcleo de muchas de las innovaciones tecnológicas que han crecido rápidamente en las últimas cinco décadas. Necesitamos pensar a más largo plazo sobre el futuro de la IA a medida que se implementa en diversos sectores a lo largo de múltiples generaciones. Este es un momento crucial para innovar nuestro enfoque regulatorio abordando las implicaciones intergeneracionales.

Por lo general, la regulación se centra en las compensaciones a corto o medio plazo. Este enfoque suele dar lugar a acciones reactivas, en lugar de proactivas, para mitigar los perjuicios a lo largo de las generaciones. Analizar la regulación de la IA desde una perspectiva intergeneracional exige que primero abordemos el contexto histórico de tales sistemas tecnológicos. ¿Cómo han dado forma a estas herramientas las ideologías dominantes y las estructuras sociopolíticas?

Dentro de este marco de comprensión, podemos empezar a analizar cómo la IA y su infraestructura física y digital asociada podrían afectar a las generaciones actuales y futuras. Anticipar los posibles impactos generales de la IA desde una perspectiva intergeneracional nos acercará a una regulación que responda a los datos y las investigaciones emergentes, a las preocupaciones de múltiples partes interesadas y a las posibilidades globales.

Las tendencias actuales en la regulación de la IA ofrecen un camino prometedor. En 2019, Aotearoa Nueva Zelanda trabajó en colaboración con el Foro Económico Mundial para desarrollar un proceso gubernamental denominado Re Imagining Regulation for AI para garantizar el diseño y el despliegue fiables de la IA.

Más recientemente, la Comisión Federal de Comercio de Estados Unidos publicó un audaz conjunto de directrices sobre «veracidad, equidad e igualdad» en la IA en 2021. La Comisión Europea también publicó una propuesta de regulación de la IA a principios de este año. Estas medidas ofrecen enfoques valiosos para mejorar la transparencia, la rendición de cuentas y las evaluaciones de impacto asociadas a los sistemas de IA. Podemos avanzar sobre estos procedimientos incorporando voces más intergeneracionales, interdisciplinarias e internacionales en el debate sobre los impactos de la IA a lo largo de las generaciones.

La regulación creada desde esta perspectiva podría mitigar los perjuicios actuales e incluso prevenir daños futuros. La sabiduría indígena nos enseña a considerar la toma de decisiones como una responsabilidad de 500 años que pone en primer plano el bienestar de las personas y del planeta, tanto en el pasado como en el presente y en el futuro. Debemos atender estas lecciones si queremos construir un futuro saludable y próspero, libre de los intereses a corto plazo de hoy, para las generaciones venideras.