La transparencia y los marcos responsables son esenciales para generar confianza en la inteligencia artificial (IA), garantizando un uso justo, seguro e inclusivo que maximice sus beneficios.
Involucrar a diversos actores y habilidades en todo el diseño, desarrollo e implementación de la IA fomenta la colaboración, reduce los sesgos y aumenta el compromiso organizacional.
La gobernanza transparente, la comunicación proactiva y las salvaguardas algorítmicas son fundamentales para mitigar riesgos, fomentar la confianza y desbloquear el potencial de la IA para transformar industrias y vidas.
La inteligencia artificial (IA) está llamada a transformar de manera significativa las industrias, las empresas y la vida de las personas de múltiples formas. Mejorará la salud, la seguridad y la educación. Además, la IA puede permitirnos afrontar desafíos globales como la desigualdad, la pobreza y el cambio climático.
Sin embargo, a pesar del potencial de la IA como fuerza significativa para el bien, persisten grandes temores y desconfianza. Casi la mitad (49%) de los encuestados estadounidenses en una encuesta de YouGov admitió sentir preocupación por la tecnología, mientras que el 22% afirmó sentir miedo.
Además, algunos comentaristas de los medios han señalado una creciente reacción adversa contra la IA, que podría limitar la capacidad de las organizaciones para desplegar sistemas de IA que ahorran tiempo y, en ocasiones, salvan vidas, y que transforman nuestro mundo para mejor.
Entonces, ¿cómo pueden los líderes atender las preocupaciones de las personas para liderar la transformación de la IA con confianza?
Adoptar un enfoque transparente
Creo firmemente que infundir confianza en la IA en esta era de incertidumbre y desconfianza generalizadas exige honestidad y transparencia por parte de todos los actores que participan en su implementación, un enfoque que, lamentablemente, no siempre se ha aplicado.
Poner a las personas (clientes, empleados y otras partes interesadas) en el centro de las estrategias organizacionales de IA también es esencial.
Por mi experiencia trabajando con clientes, he comprobado que un enfoque transparente en la implementación de la IA exige que los líderes:
1. Desarrollar un marco que respalde el uso responsable de la IA
Los marcos ayudan a garantizar que la IA se utilice de forma responsable, es decir, de manera justa, segura e inclusiva, con la rendición de cuentas, la transparencia y la consideración de su impacto ambiental adecuados. Cuando las partes interesadas creen que una organización utiliza la IA de forma responsable, es más probable que confíen en sus modelos de IA.
Las organizaciones pueden adoptar directrices externas sobre IA, como el Marco de Gestión de Riesgos de IA del NIST o desarrollar marcos internos. EY ha creado los principios éticos y responsables de la IA, un marco utilizado internamente y con los clientes.
2. Involucrar proactivamente a las partes interesadas desde el inicio
Mantener a las personas en el circuito durante el desarrollo de sistemas de IA es esencial por dos razones. En primer lugar, en lugar de tomar una decisión de arriba hacia abajo, las partes interesadas de todos los niveles deben participar. En segundo lugar, las personas proporcionan la supervisión y el seguimiento esenciales que sustentan la transparencia: ofrecen la garantía fundamental de que los modelos de IA funcionan según lo previsto.
Ser transparente sobre la IA significa ser honesto sobre lo que un sistema está diseñado para hacer.
Al planificar una implementación de IA, es fundamental preguntar a las partes interesadas cuáles son sus puntos débiles y cómo las herramientas de IA podrían abordarlos. Comunicar desde el principio lo que el sistema pretende lograr y cómo puede ayudar a las personas en su trabajo respaldará el desarrollo de un caso de negocio sólido; además, ayudará a disipar el temor de que la IA pueda quitarles el empleo.
3. Involucrar habilidades diversas en el diseño y la construcción
Las herramientas de IA solo se considerarán positivas para la sociedad y para la eficiencia organizacional si en su diseño y construcción participan habilidades diversas. Un equipo de desarrollo diverso es fundamental para mitigar el riesgo de sesgo, uno de los mayores riesgos asociados a los sistemas de IA.
Asimismo, un equipo diverso puede ayudar a que las herramientas de IA de la organización satisfagan las necesidades y expectativas de un amplio abanico de partes interesadas, aportando experiencias y perspectivas distintas.
4. Lograr que la «aldea» colabore en la implementación
Técnicamente hablando, se necesita una aldea para construir un nuevo sistema de IA, compuesta por expertos tecnológicos y talento en gestión de proyectos. El mismo principio se aplica al despliegue del sistema una vez construido.
La aldea abarca toda la organización, desde científicos de datos y responsables de procesos de negocio hasta personal de recursos humanos, gestión del cambio y jurídico, para poner en marcha el sistema y capacitar a la plantilla en su uso responsable. La colaboración ayuda a aumentar la transparencia en torno al nuevo sistema y fomenta un alto nivel de compromiso de los empleados.
5. Aplicar los principios de una buena gobernanza
El consejo de administración debe ayudar a establecer el apetito de riesgo de la organización en materia de IA y ejercer una supervisión de alto nivel sobre su estrategia de IA. También debe garantizar que la IA se utilice y despliegue de forma responsable y que todos los usuarios de herramientas de IA reciban la formación adecuada.
Otro buen principio es una cadena de aprobación para cada caso de uso de la IA, que permitirá evaluar adecuadamente los riesgos y oportunidades y aplicar las salvaguardas correspondientes.
6. Incorporar salvaguardas en los modelos de IA
Las salvaguardas son parte integral del uso de modelos de IA responsables. Pueden considerarse salvaguardas algorítmicas: un conjunto de filtros, reglas y herramientas predefinidos, diseñados para garantizar que los sistemas de IA funcionen de forma ética y legal.
Someter los modelos de IA a pruebas rigurosas antes de su uso puede ayudar a identificar dónde se encuentran los riesgos y las vulnerabilidades, para que puedan implementarse salvaguardas. Pueden prevenir, por ejemplo, las alucinaciones y reducir al mínimo el riesgo de que los modelos de IA generen resultados tóxicos.
Por qué debemos ser transparentes sobre la IA
Ser transparente sobre la IA significa ser honesto sobre lo que un sistema está diseñado para hacer, en qué encaja dentro de la estrategia general de la organización, qué beneficios e inconvenientes aporta y cómo es probable que afecte a las personas. También implica explicar por qué un modelo de IA toma las decisiones que toma.
Por desgracia, hoy en día muchas implementaciones de IA están envueltas en el misterio, con soluciones potentes desarrolladas a puerta cerrada por un reducido número de partes interesadas. Como resultado, las personas no confían en las herramientas y se resisten a usarlas, lo que tiene consecuencias perjudiciales para nuestra sociedad.
Debido a esta resistencia, corremos el riesgo de vernos frenados en el uso de tecnologías de IA para transformar empresas, impulsar economías y mejorar vidas. Por eso debemos ser transparentes sobre la IA.
Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente las de la organización EY global ni de sus firmas miembro.
