IBM ya ha avanzado considerablemente en su misión de desarrollar y promover una tecnología de IA ética.
Un nuevo informe, coescrito por el Foro Económico Mundial y el Markkula Center for Applied Ethics de la Universidad de Santa Clara, detalla estos esfuerzos.
Estas son sus principales lecciones para otras organizaciones de este ámbito.
Durante los últimos dos años, el Foro Económico Mundial ha trabajado con un grupo de múltiples partes interesadas para promover la ética en la tecnología en el marco de un proyecto titulado Uso responsable de la tecnología. Este grupo ha identificado la necesidad de destacar y compartir las mejores prácticas en el diseño, desarrollo, despliegue y uso responsable de la tecnología. Con este fin, hemos emprendido la publicación de una serie de estudios de caso que presentan organizaciones que han realizado contribuciones significativas y avances en la ética tecnológica. A principios de este año, iniciamos esta serie con un análisis en profundidad del enfoque de Microsoft para la innovación responsable.
En la segunda edición de esta serie, nos centramos en el camino de IBM hacia una tecnología de IA ética. Los conocimientos derivados de este esfuerzo se detallan en un informe titulado Uso responsable de la tecnología: el caso de estudio de IBM, que ha sido escrito conjuntamente por el Foro Económico Mundial y el Markkula Center for Applied Ethics de la Universidad de Santa Clara. A continuación, se presentan las principales lecciones aprendidas de nuestra investigación, junto con una breve descripción general de la trayectoria histórica de IBM hacia una tecnología ética.
1. Confiar en que sus empleados piensen y actúen de forma ética
Cuando Francesca Rossi se incorporó a IBM en 2015 con el mandato de trabajar en la ética de la IA, reunió a 40 colegas para explorar este tema. El trabajo de este grupo de empleados marcó el inicio de un capítulo decisivo en el camino de IBM hacia una tecnología de IA ética.
Inicialmente, el grupo investigó y publicó un artículo titulado Aprender a confiar en los sistemas de IA, en el que la empresa asume una serie de compromisos para profundizar en su comprensión y poner en práctica el desarrollo ético de la IA. Uno de estos compromisos consiste en crear una «junta de ética de la IA» interna que debata, asesore y oriente el desarrollo y despliegue éticos de los sistemas de IA. Bajo el liderazgo de la Dra. Rossi y de la directora de privacidad de IBM, Christina Montgomery, esta junta es responsable de gobernar los esfuerzos de la empresa en materia de ética tecnológica a escala global. Sin embargo, una junta de gobernanza ética centralizada no basta para supervisar a más de 345.000 empleados que trabajan en más de 175 países. Todos los empleados reciben formación en la metodología de «ética desde el diseño», y es también un mandato para todas las unidades de negocio de IBM adoptar esta metodología. La junta de ética de la IA se apoya en un grupo de empleados denominados «puntos focales», que desempeñan funciones oficiales para apoyar a sus unidades de negocio en cuestiones relacionadas con la ética.
También existe una red de voluntarios empleados denominada «red de defensa», que promueve la cultura de una tecnología ética, responsable y fiable. Empoderar a los empleados es una parte importante para que la ética tecnológica funcione en IBM.
2. Llevar a la práctica los valores y principios sobre ética de la IA
Para poner en práctica la ética en un entorno organizativo, primero deben asumirse compromisos con los valores. Con este fin, IBM desarrolló un conjunto de «principios y pilares» para orientar su investigación y su actividad empresarial hacia el respaldo de valores clave en la IA. La aplicación de estos principios y pilares dio lugar al desarrollo de herramientas técnicas para que la ética llegara al nivel del código; IBM Research creó cinco herramientas de código abierto, disponibles gratuitamente para cualquiera:
1. AI Explainability 360: ocho algoritmos para hacer que los modelos de aprendizaje automático sean más explicables
2. AI Fairness 360: un conjunto de 70 métricas de equidad y 10 algoritmos de mitigación de sesgos
3. Adversarial Robustness Toolbox: un amplio conjunto de herramientas para hacer frente a una serie de ataques adversarios contra modelos de aprendizaje automático.
4. AI FactSheets 360: para hacer transparentes los modelos de IA, las fichas técnicas reúnen en un solo lugar datos sobre el modelo; esto incluye ejemplos de FactSheets y una metodología para crearlas.
5. Uncertainty Quantification 360: un conjunto de herramientas para evaluar la fiabilidad de las predicciones de la IA, lo que ayuda a establecer límites a la confianza en los modelos.
Cualquier organización puede formular principios u otros compromisos éticos, pero estos deben ponerse en práctica para hacerse realidad. Estas herramientas ayudan a IBM a cumplir sus propios compromisos éticos y, al hacerlas de código abierto, IBM espera ayudar a otras empresas tecnológicas y, de forma más amplia, a la comunidad del aprendizaje automático.
3. Aspirar a un impacto amplio en la ética de la IA
IBM reconoce que no está separada de la industria tecnológica ni del mundo. Sus acciones afectarán a la reputación del sector —y viceversa— y, en última instancia, el conjunto de la industria tecnológica afectará a la sociedad humana. Todo ello significa que lo que está en juego es importante, por lo que merece la pena esforzarse por hacerlo bien.
Una de las vías que IBM ha utilizado para promover el amplio impacto positivo de la tecnología ha sido a través de alianzas con organizaciones educativas y de investigación, así como con organizaciones multipartitas.
En el ámbito educativo, en 2011 IBM lanzó P-TECH, un programa que promueve el desarrollo de competencias aplicables a la carrera profesional para estudiantes de secundaria mientras trabajan con un mentor de IBM. Posteriormente, pueden participar en prácticas remuneradas de verano en IBM e inscribirse en un programa de grado asociado sin coste alguno.
A nivel universitario, IBM tiene varias alianzas con centros, como el Notre Dame - IBM Tech Ethics Lab, para apoyar a comunidades subrepresentadas en las materias STEM y a sus docentes, y para mejorar los planes de estudio correspondientes. Al colaborar con organizaciones de investigación, IBM contribuye a formar a la próxima generación de profesionales de la tecnología y crea canales de comunicación entre el mundo académico y la industria, que incluyen el fomento del debate sobre las preocupaciones éticas desde ambas partes.
IBM es miembro fundador de varias organizaciones multipartitas, entre ellas la Partnership on AI to Benefit People and Society (2017) y la «Rome Call for AI Ethics» del Vaticano (2020). IBM también participa en numerosas iniciativas del Foro Económico Mundial relacionadas con la ética de la IA, entre ellas el Consejo Global de Futuro sobre IA para la Humanidad, el Consejo Global de IA y la Alianza Global para la Acción en IA.
Además de estas alianzas institucionales, empleados individuales de IBM también participan en la Iniciativa de Ética en Acción del IEEE, el Future of Life Institute, la conferencia AAAI/ACM AI, Ethics, and Society y la Cumbre Mundial AI for Good de la UIT.
IBM considera que merece la pena dedicar tiempo y recursos económicos a respaldar estas numerosas iniciativas por al menos tres razones. En primer lugar, IBM se compromete a educar a las personas y a la sociedad sobre cómo funcionan la tecnología y la IA. Una sociedad mejor formada, y especialmente unos responsables de la toma de decisiones mejor formados, están en condiciones de tomar mejores decisiones sobre el papel futuro de la IA en la sociedad.
En segundo lugar, IBM quiere recabar la opinión de la sociedad sobre las formas en que la IA está afectando al mundo. De este modo, IBM puede responder con mayor eficacia al impacto social de la IA y actuar con más rapidez para prevenir o reaccionar ante los daños. Esto contribuye a garantizar que la IA cumpla realmente su promesa como tecnología beneficiosa.
En tercer lugar, IBM y sus empleados se comprometen a desarrollar, desplegar y utilizar la IA en beneficio del mundo. Al asegurarse de que la sociedad está informada sobre la IA y de que las empresas tecnológicas conocen los impactos inmediatos de la IA en la sociedad, es más probable que la IA se destine a buenos usos.
Cada vez más personas estudian con más detenimiento la ética y la innovación responsable, y en muchos casos, ellas y sus organizaciones están haciendo de estas ideas una parte integral de su cultura corporativa. Todos estos esfuerzos contribuyen a que la IA sea una tecnología mejor y, por tanto, más fiable.
Mirando hacia el futuro
Aunque el tamaño y la escala de IBM le permiten invertir importantes recursos en estos ámbitos clave, las lecciones aprendidas en el camino de IBM en torno al uso ético de la tecnología de IA son pertinentes para cualquier organización. A medida que las empresas evolucionan y crecen, resulta inviable que los líderes supervisen todos los aspectos de su negocio. Los líderes deben confiar en sus empleados y capacitarlos para tomar decisiones éticas. Los líderes deben proporcionar los principios, directrices, formación, herramientas y apoyo que permitan a sus empleados sentirse capacitados y preparados para abordar cuestiones éticas. Por último, el propósito general de la tecnología responsable es generar impactos positivos en la sociedad. El alcance y la magnitud de los impactos variarán según la organización, pero el objetivo de mejorar el estado de la sociedad debe ser coherente.
A medida que más organizaciones comparten sus experiencias en la adopción de prácticas tecnológicas éticas, surge la oportunidad de analizar las similitudes y diferencias en sus enfoques. Con el tiempo, podría haber formas de medir sus éxitos y fracasos, a la vez que se analizan los caminos que los llevaron a tales resultados. Este esfuerzo tiene como objetivo que más organizaciones puedan aprender de las experiencias de otros, de modo que todos adopten métodos y herramientas para el uso responsable de la tecnología.
