La inteligencia artificial puede beneficiar a la humanidad y al desarrollo sostenible, pero es prioritario potenciar los ecosistemas locales de IA para crear medidas de seguridad sólidas.
Las normas de confianza y seguridad que clasifican a determinadas regiones o perfiles de usuario como un ‘riesgo’ pueden limitar su participación en la economía digital.
Para lograr y ampliar un nuevo modelo de confianza y seguridad en IA, será necesario que los socios públicos y privados colaboren y se adapten a los matices geopolíticos, medioambientales y culturales específicos.
Cerrar la brecha de equidad en la inteligencia artificial (IA) implica garantizar que los modelos y las soluciones de IA respondan a los contextos locales de los países en desarrollo. Es urgente replantear el enfoque de la confianza y la seguridad, pasando de un modelo reactivo y centrado en las crisis a medidas proactivas, anticipatorias y adaptativas orientadas a la seguridad y la inclusión de las personas.
La IA es una tecnología cada vez más potente que puede beneficiar a la humanidad y al desarrollo sostenible, pero es necesario priorizar el fortalecimiento de los ecosistemas locales de IA en todos los países para crear las herramientas y las coaliciones necesarias que garanticen medidas de seguridad sólidas. En este artículo defendemos la necesidad de replantear la confianza y la seguridad, un elemento fundamental para cerrar la brecha de equidad en IA.
¿Cómo se describen actualmente la confianza y la seguridad?
"Confianza y seguridad" no es un término que los países en desarrollo siempre conozcan, aunque las personas se vean afectadas por él con frecuencia en sus interacciones cotidianas. Tradicionalmente, la confianza y la seguridad hacen referencia a las normas y políticas que las empresas del sector privado establecen para gestionar y mitigar los riesgos que afectan al uso de sus productos y servicios digitales, así como a los sistemas operativos de aplicación que determinan las restricciones reactivas o proactivas. Las decisiones que sustentan estas prácticas de confianza y seguridad tienen implicaciones en lo que los usuarios pueden acceder en línea, así como en lo que pueden decir o hacer.
Aunque algunas de estas decisiones responden al cumplimiento legal o a cuestiones de seguridad, en otros casos se trata de políticas independientes que las empresas crean para alinearse con la experiencia del usuario y sus intereses comerciales. Las empresas tienden a establecer de forma independiente sus normas de confianza y seguridad, con una información limitada, poca transparencia y escasa colaboración local en los países en desarrollo.
El riesgo no intencionado de exclusión
Las decisiones sobre confianza y seguridad se integran en el tejido de las experiencias digitales colectivas de los usuarios. Aunque estos filtros suelen concebirse como medidas positivas y protectoras, sin consideraciones holísticas basadas en los derechos, pueden convertirse en obstáculos que limiten la capacidad de las personas para aprovechar plenamente las herramientas y los servicios digitales.
Por ejemplo, las normas de confianza y seguridad que clasifican a determinadas regiones o perfiles de usuario como un ‘riesgo’ pueden limitar su participación en la economía digital, lo que provoca consecuencias no deseadas de exclusión. A continuación, se presentan algunos escenarios con los que los usuarios podrían encontrarse:
Un ‘bloqueo’ de fondos
Al realizar o recibir pagos en línea, es posible que determinadas regiones o tipos de transacción se clasifiquen como de ‘alto riesgo’. Es posible que se bloquee la cuenta para proteger el dinero, lo que restringe temporalmente el acceso a él. Sin embargo, los períodos de espera prolongados pueden alterar de forma significativa la vida diaria, al retrasar el pago a los empleados o a gastos básicos como el alquiler.
Retrasos en los listados de Google Maps
En determinadas regiones, las empresas que intentan incluir su negocio en Google Maps pueden sufrir un tiempo de espera de aprobación muy prolongado. Esto se debe a que el equipo de confianza y seguridad de Google no puede autenticar fácilmente las nuevas direcciones en algunos países ni verificar fácilmente los documentos empresariales redactados en algunas lenguas locales. No aparecer en la búsqueda de Google o en Maps puede afectar a la captación de nuevos clientes y a la recepción de entregas.
Bloqueo en los mercados en línea
Los vendedores de productos o servicios que utilizan mercados en línea, como Airbnb o Alibaba, pueden ser bloqueados por filtros automatizados de palabras clave, lo que provoca que sus anuncios sean bloqueados. Con frecuencia, a estos vendedores solo se les permite recurrir esta decisión en inglés o utilizar un software de traducción poco fiable, lo que limita su capacidad para impugnar o resolver la decisión si se trata de un problema de aplicación excesiva de las normas. La imposibilidad de hacer negocios en línea puede suponer una pérdida considerable de ingresos.
Aunque la justificación de algunas de estas prácticas de confianza y seguridad puede ser bien intencionada, en algunos casos han dado lugar a resultados negativos. Las empresas deberían considerar los mecanismos de reparación contextuales y localizados como una extensión de la aplicación de las medidas de confianza y seguridad. Esto podría implicar, por ejemplo, utilizar datos locales para evaluar y optimizar la confianza y la seguridad con el fin de reducir la duración y el importe de un bloqueo de fondos, y garantizar un circuito de retroalimentación eficaz mediante la integración de las lenguas locales.
No obstante, la protección y la capacidad de impugnar estas decisiones no se distribuyen por igual. Las empresas tienden a otorgar a los usuarios de sus mercados nacionales y de las grandes economías mayor poder y capacidad de actuación para recurrir las decisiones y dar forma a las políticas de las plataformas tecnológicas.
Aunque las empresas de los países en desarrollo están experimentando una adopción acelerada de la tecnología, a menudo se enfrentan a importantes obstáculos para recibir intervenciones aplicables a nivel local que prevengan los daños digitales. Esta disparidad es especialmente evidente cuando las taxonomías de confianza y seguridad y los marcos de riesgo son diseñados por empresas de países desarrollados sin tener plenamente en cuenta los contextos, las culturas y los desafíos locales.
¿Cómo está creando el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centre for AI Excellence conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Desafíos de la IA y la desigualdad
La IA requiere enormes cantidades de datos para entrenar sus modelos. El acceso a estos datos depende en gran medida del acceso de la población a la tecnología –5G, almacenamiento en la nube y dispositivos modernos–, y el acceso temprano a estas tecnologías acelera la creación de contenidos. Este contenido pasa después por los filtros de confianza y seguridad de las empresas, que pueden eliminar contenidos según sus normas e intereses, antes de que se extraiga o se introduzca en la IA.
Las respuestas de los grandes modelos de lenguaje (LLM) recientes y de otras IA generativas han sido moldeadas por los primeros usuarios de las regiones tecnológicamente avanzadas, cuyos comentarios determinan qué constituye un resultado defectuoso, inaceptable u óptimo.
El acceso temprano a los sistemas de IA suele concederse a investigadores, desarrolladores y usuarios de países tecnológicamente avanzados. Sus comentarios, incluidos los que marcan como perjudiciales, inexactos o inadecuados, influyen en la forma en que muchas de las principales empresas de IA desarrollan sus protocolos de seguridad y filtros de contenido. Esto genera un efecto en cascada: los adoptantes posteriores de la IA, a menudo en países con un desarrollo técnico menor, interactúan con versiones preacondicionadas por las preferencias de confianza y seguridad de los primeros usuarios de los países desarrollados. Como resultado, ven contenidos filtrados según los sesgos y las preocupaciones de otros.
Además, a diferencia de los protocolos de confianza y seguridad para los contenidos generados por los usuarios, la IA no ofrece ningún proceso de recurso. Muchas plataformas en línea permiten a los usuarios impugnar acciones como el bloqueo, la suspensión o el acceso limitado, lo que proporciona una retroalimentación fundamental cuando los sistemas aplican las normas de forma excesiva.
Sin embargo, con la IA falta este circuito de retroalimentación fundamental. Las personas pueden denunciar resultados de la IA defectuosos o perjudiciales, pero estos sistemas no están diseñados para distinguir entre denuncias justas e injustas: simplemente suprimen el contenido señalado. Una vez que el contenido queda oculto, incluso los desarrolladores de IA rara vez vuelven a encontrarlo, lo que hace casi imposible revisarlo o corregirlo. Esto deriva en una aplicación excesiva de las normas, en la que el contenido se omite de forma permanente y los adoptantes posteriores no pueden revisar, impugnar ni influir en estos.
Crear modelos de confianza y seguridad en IA más inclusivos
La velocidad y la adopción de la IA en la actualidad exigen un nuevo enfoque y un alcance ampliado para la confianza y la seguridad. Los modelos actuales de confianza y seguridad en IA deben evolucionar para responder de forma más local y cultural a las distintas formas en que pueden manifestarse los daños de la IA y basarse en las realidades de diferentes contextos.
La IA es un factor clave para el desarrollo sostenible, pero, al mismo tiempo, no debe pasarse por alto la confianza y la seguridad en torno a su uso y adopción. A medida que el Programa de las Naciones Unidas para el Desarrollo (UNDP) avanza en su compromiso de cerrar la brecha mundial de equidad en IA, es más importante que nunca orientarse hacia una reformulación más proactiva de la confianza y la seguridad en IA que se centre en un crecimiento equitativo y sea sensible a los contextos locales.
Para lograr y ampliar un nuevo modelo de confianza y seguridad en IA, será necesario que los socios públicos y privados colaboren y se adapten a los matices geopolíticos, medioambientales y culturales específicos de los ecosistemas locales de IA.
Invertir en la reformulación de los modelos de confianza y seguridad en IA contribuirá a crear un entorno propicio en el que la innovación en IA pueda prosperar, especialmente en los países en desarrollo. Al igual que la inversión en sectores tradicionales requiere una evaluación exhaustiva de los riesgos, el desarrollo de la IA exige una evaluación integral de los riesgos de seguridad, protección y mercado dentro del ecosistema operativo.
Existe una necesidad crítica de que las nuevas empresas de IA de los países en desarrollo reciban apoyo con relevancia local para afrontar los desafíos de la confianza y la seguridad en IA, ya que estos afectan directamente a la viabilidad y el crecimiento de las organizaciones. Sin este apoyo, las medidas de confianza y seguridad pueden obstaculizar el éxito en lugar de favorecerlo.
La confianza y la seguridad son fundamentales para desarrollar economías digitales sanas y lograr futuros de IA equitativos, aunque los modelos actuales suelen excluir las voces de quienes más se ven afectados por sus limitaciones. Quienes están en mejores condiciones de ayudar a diseñar la próxima generación de confianza y seguridad son las comunidades que actualmente carecen de una atención adecuada por parte de los sistemas existentes, especialmente en regiones donde los recursos técnicos son escasos. Sus experiencias y perspectivas son fundamentales para construir marcos que sirvan verdaderamente a todos.
Las soluciones más innovadoras para las escaladas de confianza y seguridad en IA del futuro no deberían proceder, y probablemente no procederán, de los enfoques institucionales actuales. Las respuestas más acertadas surgirán de disciplinas diversas y de partes interesadas locales, lideradas por personas creativas motivadas intrínsecamente por una ética del cuidado hacia sus comunidades, informadas por su cercanía y su experiencia directa con los daños digitales.
El UNDP invita a las partes interesadas, especialmente a quienes provienen de los países en desarrollo y trabajan en ellos, a participar en la reformulación de la confianza y la seguridad en IA. Juntos podemos crear marcos que protejan y empoderen a las comunidades, al tiempo que permiten que la innovación local prospere.
Alexander Hradecky, gestor de proyectos, AI Hub for Sustainable Development, UNDP; Dwayne Carruthers, responsable de comunicación y promoción de la transformación digital, UNDP; y Romilly Golding, especialista en comunicación, también contribuyeron a este artículo.
