¿Quién es el 'humano' de la IA centrada en el ser humano?

La implementación y el uso de la inteligencia artificial generativa (IA) están causando disrupción en la economía y tienen un costo financiero y ambiental significativo. Desarrollar una IA centrada en el ser humano y fomentar las habilidades centradas en el ser humano son dos respuestas en la búsqueda de una IA responsable.

Institutos y programas como el Instituto de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford, el Programa de Interacción Humano-Computadora de la Universidad Carnegie Mellon y el Instituto para la Innovación en Salud Centrada en el Ser Humano reflejan este enfoque.

Además, el Informe sobre el Futuro del Empleo 2025 del Foro Económico Mundial, el Índice de IA 2025 de Stanford y la Base de Datos de Incidentes de IA ponen de manifiesto el poder de los grandes modelos de lenguaje (LLM). Estos informes identifican la necesidad de contar con habilidades centradas en el ser humano y con directrices éticas en torno a una tecnología que implica sesgos, alucinaciones y riesgos.

El interés por una IA y por habilidades centradas en el ser humano revela las aspiraciones de la sociedad de que el progreso tecnológico, en el mejor de los casos, promueva el desarrollo humano con prácticas económicas sostenibles y la gestión responsable del medio ambiente. Este enfoque acepta que los seres humanos se relacionan, a menudo de manera profunda, con "personas y cosas" (incluyendo los chatbots), lo que revela una vulnerabilidad humana susceptible de ser explotada. Las sociedades están reconociendo el amplio impacto que tiene la creación y el uso de la IA generativa. La Ley de IA de la UE de 2023 es la primera ley integral sobre IA del mundo que busca garantizar que los sistemas de IA sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente.

Una tecnología como la inteligencia artificial, en las diversas formas en que nos topamos con los algoritmos, exige nuestro discernimiento compartido. El historiador de la tecnología Melvin Kranzberg nos recuerda que "la tecnología no es ni buena ni mala, ni tampoco es neutral". Esta afirmación implica que la tecnología funciona como una relación de poder con consecuencias humanas, sociales y ambientales imprevistas y de gran alcance.

La forma, el momento y el lugar en que un agente específico aplica una tecnología producen resultados diferentes. Se necesita un enfoque colaborativo y multilateral para orientar mejor el desarrollo, la implementación y el uso de las plataformas de IA por parte de la humanidad.

Para desarrollar una IA centrada en el ser humano y mejorar las habilidades de los trabajadores, hay que plantearse tres preguntas fundamentales:

1. ¿Quién es el ser humano en los esfuerzos centrados en el ser humano?

¿Es un alto directivo, un gestor de nivel medio que implementa las decisiones de los altos directivos, un trabajador de una cadena de montaje o incluso una persona de una zona rural del mundo con acceso limitado a Internet? ¿Es este humano alguien que está esperando que su vehículo eléctrico tenga capacidad de conducción totalmente autónoma, una persona que espera que llueva para mantener sus cultivos de subsistencia durante la sequía o un isleño que se prepara para la próxima marea alta en medio del aumento del nivel del mar?

2. ¿Quién concibe al ser humano que utiliza una plataforma de IA?

¿Se trata de un joven tecnólogo varón o de un equipo multidisciplinar con una visión diversa y compleja de la humanidad? Al fin y al cabo, las mujeres y las personas de color están notablemente infrarrepresentadas en el perfil demográfico de los especialistas en IA.

3. ¿Qué guardarraíles se adoptarán para proteger a los seres humanos de distintas categorías demográficas, como nacionalidad, género, religión, educación, capacidad y clase social, que se ven afectados por las plataformas de IA?

La forma en que se concibe y se entiende al ser humano en los enfoques centrados en el ser humano tiene repercusiones importantes. Las enormes diferencias en las experiencias vividas por las personas quedan confirmadas por el Informe Global sobre la Brecha de Género 2025 del Foro Económico Mundial y los índices de Gini. El progreso tecnológico a menudo pasa por alto la humanidad en sus diversas formas de manifestarse, así como las consecuencias no deseadas de dicho progreso.

Si bien disciplinas como la psicología, la sociología, la antropología y la historia pueden ayudar a los creadores de plataformas de IA a descubrir a las personas que interactúan con su producto, las comunidades religiosas, que representan el 75,8% de la población mundial (2020), contribuyen de manera única a este debate.

Un número sorprendente de personas que no se identifican con ninguna religión, pero que practican la espiritualidad—los llamados 'sin afiliación' o 'sin religión'— también mantienen creencias religiosas. Las tradiciones religiosas y la espiritualidad aportan valor en, al menos, seis aspectos concretos:

1. Las religiones tienen un profundo conocimiento del desarrollo humano y la protección del medio ambiente.

2. Las escrituras, tradiciones y prácticas espirituales religiosas ofrecen valores esenciales para una vida ética, como la paz, la compasión y la justicia.

3. La fe se practica universalmente en contextos y situaciones que a menudo se pasan por alto en el desarrollo y la implementación de plataformas de IA.

4. Las narrativas religiosas nos recuerdan que los límites fomentan el bienestar personal, social y ambiental. Los límites y las reglas no son necesariamente opresivos.

5. Los movimientos religiosos han protagonizado algunos de los peores momentos de la historia de la humanidad, instigando y sancionando injusticias, violencia y destrucción. La tecnología puede aprender de los errores cometidos por las religiones.

6. Las tradiciones religiosas son guardianes históricos de sabiduría que trasciende los datos, la información y el conocimiento que impulsan los algoritmos.

Cada una de estas formas en que las tradiciones religiosas y la espiritualidad pueden aportar valor a un debate sobre la IA centrada en el ser humano es compleja y rica en posibilidades.

Documentos como la Declaración Teológica de Barmen contra el nacionalismo cristiano de 1934, la Confesión de Accra ecuménica cristiana contra las injusticias económicas y ambientales de 2004 y la Carta de la Compasión de 2009, que destaca la sabiduría del Dalai Lama, pueden servir de base para un debate sobre la IA centrada en el ser humano. Informes recientes, como la declaración interreligiosa hacia un nuevo multilateralismo ético y el Informe Jubileo, persiguen el bien común en un mundo complejo que se enfrenta a múltiples crisis.

Es posible un progreso tecnológico que sirva al bien común. Una colaboración creativa multilateral que incluya a los gobiernos, las empresas, las compañías tecnológicas, el mundo académico y las comunidades religiosas podría convertirse en la mejor práctica.