El Quarterly Connect de la plataforma de IA y aprendizaje automático del Foro Económico Mundial tuvo lugar en marzo de 2023, con directivos de alto nivel que explicaron lo que depara el futuro de la IA.
La equidad y el sesgo siguen siendo un desafío persistente en el desarrollo de la IA, pero los problemas que afrontan las empresas individuales son variados y matizados, por lo que se necesitan enfoques de mitigación diversos.
El futuro de la IA se presenta prometedor con la IA generativa y los grandes modelos de lenguaje, con casos de uso de beneficio social, como la eliminación de residuos y la detección del fraude.
La inteligencia artificial (IA) se vuelve cada vez más omnipresente, adquiere más usos sociales y ya es más accesible para la persona común. Esas perspectivas son estimulantes, pero persisten desafíos en materia de equidad y de resultados libres de sesgos. ¿Y qué ocurre con las consecuencias no deseadas o los daños de la IA? ¿Cómo pueden quienes trabajan en el sector de la IA y el aprendizaje automático garantizar que la IA siga siendo una fuerza para el bien?
Los panelistas del Quarterly Connect de la plataforma de IA y aprendizaje automático del Foro Económico Mundial abordaron esas cuestiones en un seminario web celebrado el 23 de marzo de 2023.
El panel, moderado por Kay Firth-Butterfield, responsable de IA y aprendizaje automático en el Foro, contó con la participación de Armughan Ahmad, consejero delegado y presidente de Appen, líder mundial en datos para el ciclo de vida de la IA; Michael Schmidt, director de tecnología de DataRobot, empresa centrada en la IA orientada al valor; y Daniela Braga, fundadora y consejera delegada de Defined.ai, que se enorgullece de ser el mayor mercado de datos de entrenamiento del mundo, con un fuerte enfoque ético que incluye la privacidad de los datos y la transparencia.
Datos de entrenamiento para una IA ética
Los tres ponentes dirigen empresas que han reconocido los dilemas éticos que surgen de la IA cuando se entrena con datos deficientes. Todos prevén que la equidad y el sesgo seguirán siendo temas persistentes a la hora de alcanzar sus objetivos. Dicho esto, Schmidt reconoció que la comunidad de datos ha avanzado mucho en la lucha contra el sesgo y la equidad y, más recientemente, en las mejores prácticas para mitigar los problemas de sesgo.
Cada empresa puede considerar el sesgo y la equidad de forma algo distinta, por lo que es necesario ser flexibles con las soluciones, afirmó Schmidt.
Y añadió: “Existen todo tipo de otras preocupaciones prácticas; por ejemplo, vemos que las empresas cometen muchos errores: se lanzan a los proyectos de IA más ambiciosos... recomendamos empezar de forma sencilla y ayudar a resolver algunos de estos desafíos prácticos, para luego avanzar hacia los de mayor impacto real.”
“Es la primera vez en la cuarta revolución industrial que [los agricultores de los países en desarrollo] pueden acceder a un modelo LLM debidamente entrenado, un modelo de IA generativa, y hacer una pregunta en su propio idioma para obtener después una subvención gubernamental, porque alguien puede entrenar muy rápidamente ese modelo y darles acceso a él”, dijo Ahmad.
“¿Cómo se asegura de que la oportunidad se convierta en una oportunidad de igualdad de ingresos y no de desigualdad?”, añadió.
En Appen, Ahmad explica que garantizan una IA responsable a través de tres pilares:
Datos de calidad.
Responsabilidad desde la perspectiva de la computación.
Las personas que construyen los modelos y su diversidad.
Alcanzar esos objetivos no es posible sin buenas acciones por parte de las propias empresas, como reconoció Ahmad: deben informar y cumplir en materia de salarios justos, de huella de carbono derivada de la generación de datos y de diversidad. Si aciertan con el propósito y la perspectiva en su enfoque, la prosperidad llegará, afirmó.
Sin embargo, algunas empresas tendrán que ir más despacio, especialmente si se están lanzando a la IA generativa, ya que requiere grandes cantidades de datos, señaló Braga. Es importante contar con sistemas internos debidamente supervisados: auditorías periódicas, consentimiento y consideraciones sobre derechos de autor. Cada vez más personas utilizan datos extraídos de la web, lo que introduce sesgos, y no forman a sus empleados.
Las oportunidades de la IA generativa en 2023
En 2023, la IA generativa es la gran novedad, basada en grandes modelos de lenguaje que no necesitan muchas personas para entrenarlos. Sin embargo, suponer que las personas no son necesarias en el proceso sería un error, como señala Ahmad; ellas, nosotros, seguimos siendo fundamentales para obtener lo mejor de la IA.
ChatGPT3, por ejemplo, depende de la ingeniería de prompts: la elaboración de un enunciado o pregunta que devuelva resultados precisos y adecuados y garantice que la IA no “alucine”, como se ha visto en algunos ejemplos difundidos públicamente
“Si la IA es el facilitador, los humanos son los transformadores”, afirmó Ahmad.
Schmidt también señaló que habrá casos de uso emocionantes para abordar problemas sociales, como la eliminación de residuos, la detección de fraudes y los casos de uso contra el blanqueo de capitales: “Estamos viendo una adopción mucho mayor de la IA para hacer radicalmente más eficaz la persecución y la eliminación de estas fuentes de fraude.”
Mientras tanto, Braga afirmó que la IA determinaría el futuro de la productividad.
“Está claro que la IA ha llegado para quedarse y para trabajar junto a los humanos, para complementarnos”, dijo. “Pero al mismo tiempo vemos la oportunidad de desarrollar herramientas de ingeniería inversa para hacer un seguimiento de la transparencia y la fiabilidad de estas fuentes de datos”, añadió.
Generar confianza
Por útil y transformadora que pueda ser la IA, y aunque se reconoce la necesidad de abordar el sesgo, aún existen preocupaciones sobre los casos de uso de la IA generativa.
Para que los proveedores educativos construyan sistemas realmente fiables, por ejemplo, Braga sugiere que procuren asociarse con empresas o universidades que desarrollen modelos de IA generativa que no alimenten ChatGPT, a fin de fortalecer la herramienta y generar confianza entre los educadores.
Mientras tanto, en la Unión Europea, la propuesta de Ley de IA, que busca armonizar las normas sobre sistemas de IA en todo el bloque, añadió recientemente una definición de “IA de uso general” para acomodar la IA generativa, reconociendo que puede utilizarse en aplicaciones de riesgo bajo y alto.
Schmidt admite que es difícil lograr que los modelos de IA generativa se centren en temas específicos con gran precisión; actualmente se están elaborando en la comunidad estrategias sofisticadas de formulación de prompts, pero eso sigue siendo, en gran medida, un arte oscuro.
Braga distingue el riesgo asociado a la IA generativa de otras aplicaciones de alto riesgo que han sido prohibidas o que se están considerando prohibir en los 27 Estados miembros, como la puntuación de crédito social.
En cuanto a la IA generativa, Braga sugiere: “En lugar de prohibirla, sería mejor certificar que las aplicaciones cumplen todos los principios éticos.”
