A medida que las empresas aplican cada vez más la inteligencia artificial, deben abordar las preocupaciones en torno a la confianza.
Estas son 10 intervenciones prácticas que las empresas pueden poner en marcha para garantizar la equidad de la IA.
Incluyen la creación de una carta de equidad de la IA y la implementación de formación y pruebas.
Las tecnologías basadas en datos y la inteligencia artificial (IA) impulsan hoy en día nuestro mundo, desde predecir dónde surgirá la próxima variante de la COVID-19 hasta ayudarnos a viajar por la ruta más eficiente. En muchos ámbitos, el público en general confía en gran medida en que los algoritmos que impulsan estas experiencias se desarrollen de manera justa.
Sin embargo, esta confianza puede romperse fácilmente. Por ejemplo, considere un software de contratación que, debido a datos de entrenamiento no representativos, penaliza las solicitudes que contienen la palabra “mujeres”, o un sistema de calificación crediticia que no tiene en cuenta pruebas reales de solvencia y que, como resultado, hace que ciertos grupos reciban límites de crédito más bajos o se les denieguen préstamos.
La realidad es que la tecnología avanza más rápido que la educación y la formación sobre la equidad de la IA. Las personas que forman, desarrollan, implementan y comercializan estas experiencias basadas en datos a menudo desconocen las implicaciones de segundo o tercer orden de su trabajo.
Como parte del Consejo Global de Futuro sobre Inteligencia Artificial para la Humanidad del Foro Económico Mundial, un colectivo de profesionales, investigadores y asesores corporativos de la IA, proponemos 10 intervenciones prácticas que las empresas pueden poner en marcha para garantizar la equidad de la IA.
1. Asigne responsabilidades en la educación sobre la IA.
Designe a un director de ética de la IA (CAIO, por sus siglas en inglés) que, junto con un consejo de ética multifuncional (que incluya representantes de ciencia de datos, regulación, relaciones públicas, comunicación y recursos humanos), sea responsable del diseño y la implementación de las actividades de educación sobre la IA. El CAIO también debe ser el “defensor del pueblo” al que el personal pueda acudir en caso de preocupaciones sobre la equidad, así como portavoz para el personal no técnico. Idealmente, este cargo debería reportar directamente al director ejecutivo para garantizar la visibilidad y la implementación.
2. Defina la equidad para su organización.
Desarrolle una plantilla de carta de equidad de la IA y, a continuación, pida a todos los departamentos que utilizan activamente la IA que la completen en su contexto. Esto es especialmente relevante para los gerentes de líneas de negocio y los responsables de productos y servicios.
3. Garantice la equidad de la IA a lo largo de la cadena de suministro.
Exija a los proveedores que utiliza y que tienen IA integrada en sus productos y servicios adquiridos (por ejemplo, una agencia de contratación que podría utilizar IA para la selección de candidatos) que también completen una carta de equidad de la IA y que se adhieran a las políticas de la empresa sobre equidad de la IA. Esto es especialmente relevante para la función de compras y para los proveedores.
4. Eduque al personal y a las partes interesadas mediante formación y un enfoque de “aprender haciendo”.
Exija formación y certificación obligatorias para todos los empleados sobre los principios de equidad de la IA, de forma similar a como se les exige suscribir los códigos de conducta empresarial. Para el personal técnico, ofrezca formación sobre cómo construir modelos que no vulneren los principios de equidad. Todas las formaciones deben aprovechar las conclusiones de las cartas de equidad de la IA para abordar directamente los problemas a los que se enfrenta la empresa. Asegúrese de que el contenido de los cursos sea revisado periódicamente por el consejo de ética.
5. Cree un plan de personas sobre equidad de la IA en recursos humanos.
Un plan de equidad de la IA en recursos humanos debe incluir una revisión anual por parte de RR. HH. para evaluar la diversidad del equipo que trabaja en tecnologías basadas en datos e IA, así como una revisión y actualización explícitas de las competencias y habilidades que actualmente se anuncian para los puestos clave de desarrollo de productos relacionados con la IA (como responsable de producto, científico de datos e ingeniero de datos), para garantizar que la conciencia sobre la equidad forme parte de la descripción del puesto.
6. Pruebe la equidad de la IA antes de cualquier lanzamiento tecnológico.
Exija que los departamentos y los proveedores realicen y publiquen internamente pruebas de resultados de equidad antes de que cualquier algoritmo de IA pueda entrar en funcionamiento. Una vez que sepa qué grupos pueden ser tratados injustamente debido a sesgos en los datos, simule usuarios de ese grupo y supervise los resultados. Los equipos de producto pueden utilizar esto para iterar y mejorar su producto o servicio antes de que se lance. Las herramientas de código abierto, como Microsoft Fairlearn, pueden ayudar a proporcionar el análisis para una prueba de resultados de equidad.
7. Comunique su enfoque de la equidad de la IA.
Organice sesiones de aprendizaje sobre resultados de equidad con el personal de cara al cliente y al público para revisar las pruebas de resultados de equidad de cualquier producto o servicio nuevo o actualizado. Esto es especialmente relevante para los equipos de marketing y comunicación externa, así como para los de atención al cliente.
8. Dedique un punto permanente en las reuniones del consejo de administración a los procesos de equidad de la IA.
Este debate debe incluir el informe sobre los avances y el cumplimiento, los temas planteados por el director de ética de la IA y el consejo de ética, y los resultados de las pruebas de resultados de equidad de alta prioridad.
9. Asegúrese de que la formación arraigue.
Haga un seguimiento y un informe periódicos de la participación y la finalización de las actividades de equidad de la IA, junto con el impacto demostrado de la gestión de la equidad en términos de valor empresarial real. Proporcione estas actualizaciones a los gerentes de departamento y de línea para que las comuniquen al personal, reforzando la idea de que, al hacer que las plataformas y el software de IA sean más justos, la organización es más eficaz y productiva.
10. Documente todo.
Documente su enfoque de la equidad de la IA y comuníquelo en las formaciones para el personal y los proveedores y en eventos de alto perfil, incluidos los dirigidos a clientes e inversores.
