La inteligencia artificial (IA) es una de las tendencias tecnológicas más debatidas del mundo y se prevé que aumente el PIB mundial en 15,7 billones de dólares para 2030.
Pero los beneficios transformadores de esta tecnología incipiente vienen acompañados de riesgos, y debemos comprometernos con los principios de una IA responsable.
Pronto las empresas tendrán que cumplir las regulaciones mundiales sobre IA y adoptar un enfoque responsable para seguir siendo competitivas y evitar responsabilidades legales.
La inteligencia artificial (IA) es hoy una de las tendencias tecnológicas más debatidas que impulsan el crecimiento empresarial. Se estima que para 2030 la IA aumentará el PIB mundial en 15,7 billones de dólares , más que la producción actual conjunta de China e India.
Pero un gran poder conlleva una gran responsabilidad. A medida que se hacen evidentes los beneficios transformadores de la IA, también lo hacen sus riesgos. Los algoritmos pueden introducir sesgos, errores evitables y una toma de decisiones deficiente, lo que genera desconfianza entre las personas a las que pretenden ayudar. Ante el ritmo sin precedentes del desarrollo de la IA, muchas organizaciones han empezado a comprometerse con principios de IA responsable.
La IA responsable es un ámbito emergente de la gobernanza de la IA que abarca la ética, la moral y los valores jurídicos en el desarrollo y la implementación de una IA beneficiosa. Como marco de gobernanza, la IA responsable documenta cómo una organización concreta aborda los retos de la IA para contribuir al bienestar de las personas y la sociedad.
En los últimos años, todas las organizaciones vinculadas a las políticas tecnológicas han propuesto un conjunto de principios rectores sobre su uso, entre ellas Google, IBM, y la Organización para la Cooperación y el Desarrollo Económicos.
Crece la preocupación por los riesgos de la IA
Sin embargo, el creciente interés por la IA ha venido acompañado de preocupación ante el aumento de consecuencias imprevistas, con riesgos que afectan tanto a los aspectos técnicos del sistema como a las prácticas de gobernanza.
Estudio tras estudio ha demostrado que la toma de decisiones basada en IA puede conducir a resultados sesgados, desde la elaboración de perfiles raciales mediante algoritmos policiales predictivos hasta decisiones sexistas de contratación. Por ello, en los últimos años, gobiernos de todo el mundo han endurecido las regulaciones dirigidas a la IA, impulsando la adopción de iniciativas de IA responsable, ética o confiable.
A escala europea, la Comisión de la UE ha creado un Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial, encargado de desarrollar un marco integrador para una IA responsable y confiable, y también ha propuesto la Directiva sobre responsabilidad en materia de IA.
La directiva pretende facilitar las demandas contra empresas que causen daños, como parte de un esfuerzo más amplio para impedir que desarrollen e implementen IA perjudicial, y añade una capa adicional a la propuesta de Ley de IA de la UE, que exigirá controles adicionales para los usos de la IA de «alto riesgo», como en la actividad policial, la contratación o la atención sanitaria.
Sin embargo, Europa no está sola en sus esfuerzos: la Oficina de Política Científica y Tecnológica de la Casa Blanca ha publicado recientemente un Plan para una Declaración de Derechos de la IA, que expone la visión del Gobierno de EE. UU. sobre la gobernanza de la IA para prevenir daños, y China ha propuesto un conjunto de leyes para regular distintas aplicaciones de la IA. A medida que entren en vigor estos marcos regulatorios, las empresas tendrán que modificar su forma de operar a escala mundial.
La IA responsable va a la zaga de los avances
Muchos ven las ventajas de hacer que la IA sea más responsable, pero pocos lo están logrando.
El rápido ritmo del desarrollo de la IA no parece estar disminuyendo. Los avances se suceden con rapidez y pronto superan el ritmo de la regulación. Solo en el último año hemos visto diversos avances, desde modelos de aprendizaje profundo que generan imágenes a partir de texto, hasta grandes modelos lingüísticos capaces de responder cualquier pregunta que se te ocurra. Aunque los avances son impresionantes, seguir el ritmo de los posibles daños de cada nuevo avance puede convertirse en un reto constante.
El problema es que muchas empresas ni siquiera se dan cuenta de que tienen un problema, según un informe publicado por MIT Sloan Management Review y Boston Consulting Group.
La IA era una prioridad estratégica principal para el 42% de las personas encuestadas en el informe, pero solo el 19% afirmó que su organización había implementado un programa de IA responsable. Esta brecha aumenta la posibilidad de fracaso y expone a las empresas a riesgos regulatorios, financieros y reputacionales.
La IA responsable es mucho más que marcar una casilla o desarrollar una función complementaria. Las organizaciones tendrán que realizar cambios estructurales sustanciales antes de implementar la IA para garantizar que sus sistemas automatizados operen dentro de los límites legales, internos y éticos.
Los clientes, empleados y accionistas esperan que las organizaciones utilicen la IA de forma responsable, y los gobiernos lo exigen. Esto es fundamental ahora, ya que cada vez más personas expresan preocupación por la reputación de las marcas y su uso de la IA.
Cada vez vemos más empresas que convierten la responsabilidad social y ética en una prioridad estratégica clave. El gran reto consiste en maximizar responsablemente sus beneficios y, al mismo tiempo, protegerse de los peligros.
Auditorías para garantizar una IA responsable
Para minimizar o evitar consecuencias perjudiciales o imprevistas durante el ciclo de vida de los proyectos de IA, es necesario comprender a fondo el papel de los principios de responsabilidad en el diseño, la implementación y el mantenimiento de las aplicaciones de IA.
La auditoría de IA es la investigación y práctica de evaluar, mitigar y garantizar la seguridad, legalidad y ética de un algoritmo. Su propósito es evaluar un sistema identificando sus riesgos tanto en su funcionalidad técnica como en su estructura de gobernanza, y recomendar medidas para mitigarlos.
Al evaluar un sistema, es importante tener en cuenta los cinco factores siguientes:
Eficacia: si un sistema cumple su propósito y funciona según lo previsto.
Robustez o fiabilidad: la idea de que los sistemas deben ser fiables, seguros y protegidos, y no vulnerables a manipulaciones ni a la alteración de los datos con los que se entrenan.
Sesgo: los sistemas deben evitar el trato injusto de personas o grupos.
Explicabilidad: los sistemas deben ofrecer decisiones o sugerencias que puedan comprender sus usuarios, desarrolladores y reguladores.
Privacidad: los sistemas deben entrenarse conforme a los principios de minimización de datos y adoptar técnicas que refuercen la privacidad para mitigar la filtración de datos personales o críticos.
Aunque todo el mundo quiere una IA responsable, pocos parecen contar con ella. Sin embargo, no se puede subestimar la importancia de garantizar la responsabilidad en la IA: ayuda a asegurar que un sistema de IA sea eficiente, opere conforme a normas éticas y evite posibles daños reputacionales y financieros en el futuro.
Además, pronto las empresas tendrán que cumplir las regulaciones mundiales sobre IA y adoptar un enfoque más responsable para seguir siendo competitivas y evitar responsabilidades legales. La mejor manera de avanzar es empezar pronto y colaborar con un amplio conjunto de partes interesadas clave para adoptar un enfoque más integral de la IA responsable.
