En 2014, Stephen Hawking afirmó que la IA sería el mejor o el último invento de la humanidad. Seis años después, al darle la bienvenida a 2020, las empresas se preguntan cómo utilizar la inteligencia artificial (IA) en sus negocios para mantenerse competitivas. La cuestión a la que se enfrentan es cómo evaluar si los productos de IA que utilizan causarán más daño que beneficio.
Muchos líderes públicos y privados de todo el mundo están reflexionando sobre cómo abordar estas cuestiones relativas a la seguridad, la privacidad, la rendición de cuentas, la transparencia y el sesgo en los algoritmos. Por ejemplo, la próxima comisaria de la UE ha manifestado que desea ver legislación que garantice la producción de IA ética en Europa en los próximos meses.
Uno de los principales riesgos de la IA es que los datos deficientes y los algoritmos mal construidos puedan producir resultados deficientes, lo que podría traducirse en malos resultados para las empresas que los utilizan, no solo internamente, porque las empresas no obtienen la información necesaria, sino también externamente con sus clientes, si los usuarios consideran que las decisiones los excluyen o los marginan. Por ejemplo, un algoritmo podría tomar una decisión sesgada contra la concesión de un préstamo o en la contratación.
Entonces, ¿cómo puede su empresa adelantarse y evitar los escollos? Estas son cinco lecciones para el uso ético de la IA.
Contrate a un director de ética de la IA: Los directores de ética de la IA podrían orientar a las empresas en su uso de la IA, en particular en algunos de los usos más polémicos, como el reconocimiento facial y la explotación de datos personales. En 2017, en IEEE Spectrum, sugerí que las empresas contrataran a un director de ética de la IA. En 2014, una start-up de IA me contrató para este puesto, que tuve que definir desde cero. Además de poder alertar a la junta directiva de cualquier preocupación, organicé un panel de asesores y trabajé con los equipos de productos para garantizar que los marcos éticos se integraran desde el inicio del producto. De manera similar, Salesforce ha nombrado a un director de ética tecnológica y a un especialista en ética de la IA para trabajar con el equipo de producción de IA.
Eduque a sus líderes: Tanto los ejecutivos como las juntas directivas deben conocer los beneficios y los desafíos del uso de la IA. Para ayudar a las empresas a hacerlo, el Foro Económico Mundial publicará un conjunto de herramientas para consejeros de juntas directivas en nuestra Reunión Anual de Davos-Klosters, Suiza, del 21 al 24 de enero. En el centro de este conjunto de herramientas hay un módulo de ética que permite a los consejeros formular buenas preguntas a la alta dirección. La creación de consejos asesores de ética también podría ayudar a las empresas a determinar cómo producir o vender IA.
Esté atento a la regulación gubernamental: Las regulaciones gubernamentales pueden afectar la forma en que una empresa aborda sus ofertas de productos de IA. Por ejemplo, el Foro trabajó con el gobierno del Reino Unido para cocrear directrices éticas para la adquisición de IA por parte del gobierno. Estas directrices también se han probado como proyecto piloto en los Emiratos Árabes Unidos y Baréin, y el objetivo es ampliar su uso a nivel mundial. Las principales repercusiones son que permite al gobierno establecer lo que espera del desarrollo de una IA ética en su jurisdicción sin tener que pasar por el largo proceso regulatorio; proporciona a las empresas una comprensión básica de los niveles de tolerancia del gobierno y, de este modo, les permite destinar fondos de I+D con confianza; y aumenta el número de empresas que piensan en el diseño ético del desarrollo y el uso de las herramientas de IA.
Identifique los riesgos: Las empresas deben conocer dónde surgen determinados riesgos de la IA, por ejemplo, en el uso de la IA en recursos humanos. Una vez identificados esos riesgos, resulta útil examinar las normas y certificaciones en desarrollo en este ámbito. Para abordar esta cuestión, el Foro está creando un conjunto de herramientas para que los departamentos de recursos humanos la utilicen al considerar el despliegue de soluciones de IA.
Mire hacia el futuro: Las empresas deben empezar a pensar desde ahora en cómo reciclarán y formarán a sus empleados a medida que la IA se introduzca para trabajar junto a ellos. También deben considerar qué nuevos mercados podrían abrirse gracias al diseño y uso éticos de la IA, y planificar cómo verificarán los cambios en los algoritmos o en el diseño para garantizar enfoques éticos.
Mi esperanza es que podamos evitar una reacción adversa contra la tecnología (techlash) que haría que las empresas se perdieran los beneficios que pueden derivarse de la IA. Debemos considerar con cuidado y de forma proactiva los mecanismos de gobernanza necesarios para garantizar consideraciones éticas en el despliegue de las herramientas de IA. Generar confianza en las soluciones y herramientas tecnológicas debe ser nuestro objetivo principal, para que las personas y el planeta puedan beneficiarse de su uso.
