A medida que crecen las aplicaciones y la influencia de la inteligencia artificial (IA), un enfoque ético en el desarrollo de la IA es imprescindible;
Las empresas pueden tener dificultades con las acciones específicas necesarias para desarrollar una IA que sea inclusiva, responsable y ética;
Estas acciones relacionadas con los datos, el modelo de IA y la fase posterior a la implementación pueden hacer que la IA sea más inclusiva.
Los debates sobre la inteligencia artificial (IA) responsable se están intensificando, a medida que las implicaciones éticas de su uso se perciben cada vez más en nuestra vida diaria y en la sociedad. Dado que la IA influye en decisiones que cambian vidas en ámbitos como los préstamos hipotecarios, la sanidad, la libertad condicional y otros más, un enfoque ético en el desarrollo de la IA no es simplemente algo deseable, sino un requisito.
En teoría, las empresas quieren producir una IA que sea inclusiva, responsable y ética, tanto en beneficio de sus clientes como para mantener la reputación de su marca; en la práctica, a menudo tienen dificultades con los detalles concretos.
Crear una IA inclusiva requiere un cambio completo de mentalidad a lo largo de todo el proceso de desarrollo. Implica tener en cuenta el peso total de cada decisión crucial en el proceso de construcción. Como mínimo, será necesaria una renovación integral de las estrategias en torno a los datos, al modelo de IA (los programas que representan las reglas, los números y cualquier otra estructura de datos específica de algoritmos necesaria para realizar predicciones para una tarea concreta) y más allá.
Un plan de acción para la inclusión
Es responsabilidad de quienes desarrollan soluciones de IA garantizar que su IA sea inclusiva y aporte un beneficio neto positivo a la sociedad. Para ello, existen varios pasos esenciales que deben darse durante el ciclo de vida de la IA:
1. Datos: En la fase de datos, las organizaciones recopilan, limpian, anotan y validan los datos para sus modelos de aprendizaje automático. En esta fase del ciclo de vida de la IA existe la máxima oportunidad de incorporar un enfoque inclusivo, ya que los datos constituyen la base del modelo. Estos son dos factores que conviene tener en cuenta:
Diversidad de datos: La diversidad de datos se refiere al alcance de la red que tiende el conjunto de datos. ¿Abarca todos los casos de uso potenciales, incluidos los que pueden ser menos habituales? ¿Representa a todos los usuarios finales y la forma en que pueden interactuar con el modelo? La falta de cobertura es una de las principales razones por las que las empresas fracasan en sus esfuerzos por desarrollar una IA más inclusiva. Este paso es el que requiere una de las consideraciones más cuidadosas en el ciclo de vida de la IA.
Gobernanza de datos: La gobernanza de datos debe abordarse desde una perspectiva inclusiva. Desarrolle directrices y políticas en torno a la gestión de datos que garanticen que usted: prepara datos de entrenamiento de la máxima calidad y cobertura, y respalda los objetivos éticos de su empresa.
Sin datos representativos, no se puede aspirar a crear un producto inclusivo. Dedique la mayor parte del tiempo de su proyecto a asegurarse de que los datos son correctos, o colabore con un proveedor externo de datos que pueda garantizar que los datos son representativos del grupo para el que se diseña su modelo.
2. Modelo: Aunque quizá tenga menos peso que el elemento de datos, durante la construcción del modelo existen oportunidades fundamentales para incorporar prácticas inclusivas.
Gobernanza del modelo: Un marco de gobernanza para el desarrollo de modelos se refiere a las políticas que garantizan que sus modelos se utilizan de forma ética y que se priorizan las métricas adecuadas. Si optimiza su modelo para que sea preciso el 85 % de las veces, ¿qué significa eso para el 15 % restante? Si el impacto negativo en los usuarios finales es lo suficientemente significativo como para representar un fallo ético, entonces debe replantear sus prioridades. Un plan de gobernanza también indicará qué proyectos deben implementarse (y cuáles no).
Pruebe con un conjunto diverso de usuarios finales a gran escala: No siempre es posible anticipar cómo interactuarán los usuarios finales con su tecnología. Para contrarrestar la posibilidad de sorpresas desagradables, incorpore desde el principio del proceso de pruebas un conjunto amplio y representativo de sus usuarios finales. Puede descubrir deficiencias en el rendimiento del modelo o nuevos casos de uso, algunos de los cuales habrían resultado problemáticos de detectar una vez el modelo ya estuviera en producción.
Definir una estrategia y alcanzar los objetivos adecuados (por ejemplo, un KPI que mida el sesgo) le permitirá avanzar mucho hacia la creación de un producto final responsable.
3. Posimplementación: Algunos equipos consideran que su trabajo está prácticamente terminado una vez implementado el modelo, pero ocurre lo contrario: esto solo es el comienzo del ciclo de vida del modelo. Los modelos requieren un mantenimiento significativo y un reentrenamiento constante para mantener el mismo nivel de rendimiento, y esto no puede dejarse para más adelante: permitir que el rendimiento disminuya podría tener graves implicaciones éticas en determinados casos de uso. Incorpore las siguientes buenas prácticas como parte de su infraestructura posterior a la implementación:
Supervisión y reentrenamiento continuos: Designe un equipo encargado de supervisar el modelo tras su implementación. Plantee preguntas de forma periódica: ¿funciona según lo previsto? ¿Ofrece el mismo rendimiento para cada grupo de usuarios? ¿Mantiene su rendimiento? Si la respuesta a cualquiera de estas preguntas es negativa, es momento de reentrenar el modelo con datos nuevos.
Cree bucles de retroalimentación abiertos: Es importante estar siempre al tanto de cómo los usuarios experimentan su tecnología. No siempre tendrá una visión completa o inmediata de los problemas si no crea un protocolo para recopilar comentarios. Cree una infraestructura para captar la opinión de los usuarios y, sobre todo, actúe de inmediato ante cualquier comentario que resulte válido.
Lo anterior no es un plan exacto, sino un punto de partida para pasar de un debate teórico sobre la IA inclusiva a un plan de acción para su organización. Si aborda la creación de IA con una perspectiva inclusiva, lo ideal es que encuentre muchos pasos adicionales a lo largo del ciclo de vida del desarrollo. Es una tarea de importancia crítica: para que la IA funcione bien, debe funcionar bien para todos.
