Opinión: Sin una IA inclusiva, el desarrollo sostenible es imposible

• Persiste la incertidumbre sobre el grado en que se distribuirán equitativamente los beneficios de la IA.

• El acceso insuficiente en los países en desarrollo y las comunidades desfavorecidas, así como los datos de entrenamiento predominantemente en inglés, corren el riesgo de generar desigualdad en el ámbito de la IA.

• Un modelo multisectorial para el desarrollo de la IA puede ayudar a superar esta brecha.

2023 fue el año de la IA generativa, cuando el enorme potencial de la tecnología comenzó a materializarse en entornos reales. 2024 debe ser el año en que nos tomemos en serio sus riesgos, especialmente las graves consecuencias que podría tener para ampliar las desigualdades existentes y crear otras nuevas.

Corresponde a los líderes internacionales y a los responsables de políticas garantizar que toda la humanidad, y no solo un afortunado grupo reducido, cosecche los beneficios de la IA.

Las capacidades de los sistemas de IA están madurando, y muchas personas del mundo desarrollado ya utilizan en su vida cotidiana modelos de lenguaje de gran tamaño que comprenden el lenguaje, generan imágenes y razonan. En un futuro próximo, se espera que estos modelos impulsen mejoras en la productividad, estimulen el crecimiento económico, potencien a las personas, desde las artes hasta la investigación científica, y probablemente ayuden a la humanidad a afrontar desafíos sociales y tecnológicos de gran escala.

¿Se distribuirán equitativamente estos efectos? ¿Se centrarán en las necesidades de las comunidades que ya están infrarrepresentadas? Y ¿cómo podemos garantizar que los beneficios no se concentren solo en los países desarrollados, que disponen de los recursos, la infraestructura, la alfabetización digital y la formación necesarios para aprovechar al máximo la IA de frontera?

En lo que respecta al desarrollo de la IA, existen varias cuestiones que deben abordarse en materia de acceso e inclusión.

Por ejemplo, en materia de desarrollo, la mayoría de los datos de entrenamiento tienden a basarse en datos en inglés. Esto es natural, ya que la mayor parte de los datos generados están vinculados al inglés; sin embargo, es importante reconocer que también pueden desbloquearse innovaciones locales relevantes cuando los modelos de lenguaje de gran tamaño se especializan en lenguas con pocos recursos, para las que no hay datos tan fácilmente disponibles.

Los desafíos para desbloquear la innovación local en materia de IA suelen ir acompañados de un acceso insuficiente a los servicios de internet, una capacidad de cómputo limitada y una escasa disponibilidad de formación sectorial. Los grupos y las naciones que ya tienen dificultades para aprovechar los sistemas de IA actuales probablemente se quedarán aún más rezagados, a menos que se reviertan activamente algunas de estas tendencias.

Para corregir esta situación, los gobiernos, los líderes del sector privado y los expertos técnicos deben generar apoyo y crear normas y reglas para el desarrollo, la distribución y el acceso equitativos a la IA. También deberán considerar una serie de otras cuestiones, entre ellas el sesgo, la privacidad, la necesidad de una terminología compartida y precisa, la rendición de cuentas, la transparencia y la generación de confianza.

Sin cierto grado de intervención, gobernanza, salvaguardas y, sobre todo, consenso, no podemos garantizar una IA inclusiva. Para abordar esta brecha, el Foro Económico Mundial utiliza su modelo multisectorial para reunir a líderes gubernamentales y empresariales con el fin de garantizar que cuestiones clave, como la inclusión y el acceso equitativo, figuren en la agenda de la IA.

Partiendo de su Marco de IA de Presidio para el Desarrollo y la Implementación Responsables y Optimizados de la IA, publicado en junio del año pasado, la Alianza para la Gobernanza de la IA del Foro reúne a expertos de distintos sectores para promover la calidad y la disponibilidad transfronterizas de los datos. Su objetivo es movilizar recursos para explorar los beneficios de la IA en sectores importantes, como la educación y la sanidad.

La Alianza para la Gobernanza de la IA avanza en un enfoque de tres vertientes para garantizar la distribución equitativa de la tecnología en todo el mundo. La serie de documentos informativos, publicada durante nuestra reunión anual, presenta recomendaciones sobre sistemas y tecnologías seguros, aplicaciones y transformaciones responsables, y gobernanza y regulación resilientes.

Entre los principios fundamentales identificados para lograr el éxito figuran la necesidad de contar con perspectivas estandarizadas sobre el ciclo de vida de los modelos, fomentar la responsabilidad compartida, adoptar medidas para gestionar proactivamente los riesgos, garantizar una gobernanza multisectorial, comunicar con transparencia y abogar por la coordinación y las normas internacionales para ayudar a evitar la fragmentación.

La IA generativa se está convirtiendo rápidamente en un rasgo definitorio de la modernidad. A diferencia de otras tecnologías de importancia nacional e internacional, la IA puede ser utilizada por cualquier persona con acceso en todo el mundo. La cuestión es garantizar que forme parte del futuro de todos, y esto solo puede lograrse si incorporamos la inclusión desde ahora.

La innovación abierta y transparente y la colaboración internacional son esenciales para el desarrollo responsable y continuo de la IA, a fin de garantizar que respete los valores humanos compartidos y promueva un progreso social inclusivo. Hasta la fecha, se ha demostrado que esto no se cumple, pero estamos bien posicionados para ver dónde están los problemas y cómo pueden abordarse.

Disponemos de una ventana de actuación limitada, lo que subraya por qué debemos trabajar con rapidez, eficacia y en conjunto durante 2024.