Debemos volver a lo básico mientras navegamos por el bombo publicitario para hacer justa la IA.
La equidad básica se aplica a todos los niveles del inmenso ciclo de desarrollo de la IA.
No se está teniendo en cuenta el trato justo de las personas que recopilan los datos.
Desde hace tiempo se habla de cómo los líderes que desarrollan aplicaciones de IA deben crear “IA justa”; esta debe ser imparcial y equitativa, y, idealmente, mejorar la calidad de vida de todas las personas a las que afecta.
Sin embargo, la mayor parte de las reflexiones sobre la IA ética se han centrado en los modelos, la explicabilidad, los equipos técnicos y la gobernanza de datos.
¿Pero qué tal si se considera la equidad básica en el ciclo de desarrollo de la IA? Este ciclo es inmenso. Abarca a los contratistas de recopilación y anotación de datos, a las empresas y personas que gestionan los datos, a los especialistas en tecnología que crean los modelos de IA, a los expertos en comercialización que desarrollan las aplicaciones de IA, y a las empresas y personas que utilizan productos y servicios basados en IA.
Este enfoque es la única forma de garantizar que la tecnología siga mejorando el mundo.
¿Qué es la IA justa?
Cuando un producto de IA se despliega en el mundo real, debe funcionar como se espera, ofrecer resultados equitativos a todos los beneficiarios previstos en todas las circunstancias y no causar daño físico, mental ni emocional a nadie. Es una tarea muy exigente, y comienza por crear un conjunto de datos imparcial y exhaustivo.
Aunque pueda parecer obvio, es fácil que los equipos de desarrollo relegen los datos imparciales a un segundo plano y se centren en obtener resultados lo más rápido posible. Sin embargo, hacerlo genera una responsabilidad a largo plazo que los desarrolladores pueden olvidar fácilmente mantener.
¿Cuándo es injusta la IA?
La injusticia en forma de sesgo puede aparecer en la IA de múltiples maneras.
Consideremos los algoritmos de evaluación del riesgo criminal que utilizan datos conductuales y demográficos para determinar el riesgo de reincidencia.
Un sistema de anotación informatizado no puede hacerlo por sí solo cuando se trata de interpretar situaciones complejas y detectar errores sutiles que podrían tener consecuencias en la vida real.
Mark Brayan
Un estudio reciente reveló que uno de estos algoritmos presentaba sesgo racial. Por ejemplo, una mujer negra de 18 años fue acusada de hurto menor por haber robado una bicicleta de 80 dólares. A pesar de tener solo un antecedente previo como delincuente juvenil por delito menor, se le asignó un riesgo de reincidencia más alto que a un varón blanco de 41 años acusado de un delito similar, pero que tenía varios antecedentes previos.
Avanzando en el tiempo, la mujer no cometió ningún otro delito, mientras que el varón cumple ahora una pena de prisión por el robo de miles de dólares en productos electrónicos. Es evidente que el algoritmo se basaba en datos deficientes.
La IA injusta también se encuentra en la tecnología cotidiana. Si una empresa vende en varios países automóviles equipados con reconocimiento de voz, pero entrena el producto únicamente con hablantes nativos masculinos de cada idioma, es posible que el sistema tenga dificultades para entender a las mujeres o a cualquier persona con un acento diferente.
Esto podría llevar a que los conductores sean dirigidos al destino equivocado. Peor aún, podría provocar distracciones al volante y, en consecuencia, accidentes. Además de ser injustos con algunos usuarios, los datos sesgados pueden dejar a los proveedores de soluciones con productos de calidad inferior que pueden dañar su reputación.
Donde triunfan los humanos
Desarrollar un conjunto de datos exhaustivo e imparcial requiere diversidad y amplitud de datos. Esto garantiza que el producto se entrene en todas las situaciones que probablemente encontrará en la vida real, como todos los acentos, tonos de voz e idiomas que el sistema de reconocimiento de voz de un automóvil pueda encontrar en sus mercados objetivo.
Para lograrlo, es necesario trabajar con personas que representen a todo el perfil de clientes para recopilar, anotar y validar los datos de entrenamiento del modelo de IA.
También implica trabajar con un equipo diverso en la propia construcción del modelo. Un sistema de anotación informatizado no puede hacerlo por sí solo cuando se trata de interpretar situaciones complejas y detectar errores sutiles que podrían tener consecuencias en la vida real.
Por ejemplo, una persona que anota imágenes o vídeos para una aplicación de coche autónomo podría interpretar que alguien con determinada postura que camina entre dos coches podría estar empujando un cochecito que aparecerá en el tráfico antes de que la persona lo haga.
Incluso los mejores sistemas de anotación informatizados tendrían dificultades para hacer esta interpretación. De igual modo, una persona que lee una reseña de producto tiene mucha más probabilidad de detectar el sarcasmo que una máquina.
Las personas detrás de los datos
Los líderes comprometidos con la IA justa deben incluir otro eslabón importante del ciclo de desarrollo de la IA al crear productos o servicios de IA globales: los millones de personas que recopilan y etiquetan los datos. Involucrar a estas personas de forma justa y ética es fundamental y debe formar parte de la carta de responsabilidades de toda organización.
Un trato justo implica comprometerse con una remuneración justa, horarios de trabajo flexibles, la inclusión de personas de cualquier origen, el respeto a la privacidad y la confidencialidad, y trabajar con las personas de manera que se sientan escuchadas y respetadas.
Los líderes también deben inspirar a sus contratistas de forma que sientan orgullo por trabajar en la tecnología de mayor impacto utilizada por la economía mundial.
¿Por qué importa la IA justa más allá de lo evidente?
Sencillamente, es bueno para la sociedad y para los negocios. Los equipos de producto, por ejemplo, se sienten inspirados cuando crean productos que tienen un impacto positivo en su mercado y en el mundo. Pero ¿qué más aportan los productos justos?
Funcionan para toda la base de clientes objetivo: los productos basados en datos representativos funcionarán para todos los usuarios sin sesgos, por lo que se venden mejor, reducen la frustración y disminuyen las devoluciones.
Son más seguros: los datos de entrenamiento exhaustivos e imparciales conducirán a productos más seguros y de mejor calidad, lo que reduce el potencial de fallos.
Generan lealtad: los buenos productos y una buena reputación son claves para aumentar la fidelidad del cliente.
Protegen la marca: los productos que funcionan como se espera suelen reducir el riesgo de daños graves y duraderos a la marca.
Según un estudio de MIT Sloan, solo alrededor de una de cada diez empresas afirma obtener beneficios económicos “significativos” gracias a la IA.
En 2021, a medida que los consejos de administración se centren en cerrar la brecha entre el potencial de la IA y su realidad, darán cada vez más prioridad a la adopción de los principios de la IA justa. Saben que esto garantizará que los proyectos funcionen según lo diseñado, ofrezcan los beneficios esperados y contribuyan a una sociedad mejor.
Las aplicaciones basadas en IA también están penetrando en todos los sectores, incluido el sector público. Por tanto, los desarrolladores de IA tienen cierta responsabilidad de garantizar que sus productos se construyan sobre conjuntos de datos imparciales y exhaustivos que funcionen para todos.
Los líderes empresariales y tecnológicos deben adoptar la IA justa como un principio fundamental para mejorar sus negocios y, al mismo tiempo, ayudar a la sociedad en su conjunto.
