En la carrera por aprovechar la IA para obtener beneficios, las empresas no deberían descuidar el posible impacto negativo de la tecnología.
La desinformación, la privacidad y los sesgos son ámbitos que requieren atención.
Los avances tecnológicos son clave para afrontar los desafíos mundiales –esto requiere innovación y salvaguardas.
A medida que la adopción de la IA generativa se expande rápidamente por todos los ámbitos de la sociedad, las empresas de todo tipo están en condiciones de volverse más ágiles, creativas e inteligentes. Lo vemos en todas partes: los casinos utilizan la IA para predecir mejor los hábitos de juego de sus clientes y atraerlos con promociones irresistibles. La IA guía a los diseñadores de productos para que elijan materiales mejores y más eficientes. Muchas empresas incluso están empezando a utilizar la tecnología para predecir pagos a partir de facturas escaneadas. Según Goldman Sachs, el uso generalizado de la IA podría generar un crecimiento anual de la productividad del 1,5 % durante un período de 10 años.
Sin embargo, esta rápida expansión también debe traer consigo precaución: las empresas deben tener cuidado de no ampliar la adopción de la IA únicamente con fines de lucro. Deben darse cuenta de que, al igual que muchas otras tecnologías de rápida emergencia que la precedieron, el uso desenfrenado de la IA podría tener consecuencias peligrosas. La IA generativa tiene el potencial de impulsar la propagación de la desinformación, agravar la adicción a las redes sociales entre los adolescentes y perpetuar los sesgos sociales existentes. Estas consecuencias no solo son perjudiciales para la sociedad en general, sino también malas para las empresas que trabajan incansablemente para generar confianza entre sus clientes, solo para cometer un error y enfrentarse a riesgos reputacionales de los que puede resultar imposible recuperarse. Mientras las empresas intentan adaptarse al panorama de la IA, que evoluciona rápidamente, ¿cómo pueden utilizar esta tecnología revolucionaria de forma ética?
1. Priorizar la privacidad de los datos
En primer lugar, las empresas deben priorizar la protección de los datos: los propios, los de sus clientes y los de sus consumidores. Para ello, deben comprender los riesgos del uso de modelos de lenguaje de gran tamaño (LLM) públicos. Los LLM son la columna vertebral de la IA generativa. Son algoritmos que se nutren de grandes cantidades de datos para hacer predicciones y generar contenido. Los LLM públicos recopilan datos de conjuntos de datos genéricos de acceso público y los ponen a disposición de cualquiera. Si se les solicita correctamente, pueden revelar o filtrar datos sensibles utilizados en sus procesos de entrenamiento, o introducir sesgos. Dado que los LLM no tienen un botón de eliminación, no pueden desaprender datos, lo que hace que los riesgos de filtración sean permanentes. Los sectores regulados, como las instituciones financieras, deberían preocuparse especialmente por los riesgos del uso de LLM públicos. Una filtración que publique información financiera, como números de cuentas bancarias y detalles de transacciones, podría dar lugar al robo de identidad de clientes e incluso a fraudes, sin contar los elevados honorarios legales para los bancos.
Para mitigar este riesgo, las empresas pueden utilizar LLM privados, que se entrenan con el corpus de datos específico y privado de una empresa y solo pueden ser accedidos por las partes interesadas autorizadas. Con los LLM privados, las empresas pueden aprovechar los beneficios de la IA generativa —por ejemplo, a través de chatbots desarrollados con los datos propios de los clientes— sin el riesgo de enviar los datos a terceros. Y dado que estos LLM se entrenan con información específica y permiten un mayor control sobre los ciclos de actualización, es menos probable que “alucinen”, o que proporcionen respuestas “irrelevantes, absurdas o factualmente incorrectas”.
2. Mitigar el sesgo de la IA
El núcleo de la IA son los datos. Sin ellos, la IA es inútil, pero con datos erróneos, la tecnología también puede ser peligrosa. Los sistemas de IA generativa populares, como ChatGPT, se basan en fuentes de datos grandes y de acceso público, algunas de las cuales reflejan sesgos históricos y sociales. Los sistemas de IA que se apoyan en estos conjuntos de datos terminan replicando dichos sesgos. Consideremos el ejemplo anterior de un banco: los algoritmos entrenados con datos históricos generados por prácticas discriminatorias (por ejemplo, la práctica de la «redlining» en Chicago en la década de 1930) pueden llevar a los bancos a denegar préstamos a comunidades marginadas. Las compañías de seguros también pueden terminar cobrando primas más altas, y las agencias de crédito pueden tergiversar las calificaciones crediticias.
La mejor manera de combatir el sesgo de la IA es incorporar a las personas en los procesos de entrenamiento de los LLM. Esta relación entre humanos e IA puede ser doble: las personas pueden supervisar los sistemas de IA para aportar información, retroalimentación y correcciones que mejoren su rendimiento, y la IA entrenada puede utilizarse para ayudar a las personas a detectar sesgos en su comportamiento. Por ejemplo, a medida que las personas proporcionan a la IA los datos adecuados y le enseñan a eliminar los sesgos mediante correcciones, la IA puede entrenarse para alertar a los responsables de contratación sobre prácticas discriminatorias ocultas que pueden existir en las decisiones de contratación de sus empresas.
¿Cómo está creando el Foro Económico Mundial mecanismos de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
3. Implementar un marco para la transparencia
Las empresas deben asegurarse de que su uso de la IA cumple con los marcos normativos, incluidas las leyes de protección de datos, ciberseguridad y gobernanza corporativa. Pero ¿cómo pueden las empresas cumplir con mecanismos de supervisión que aún no se han diseñado? La respuesta está en la transparencia. La transparencia es clave para generar confianza y superar el temor a que la IA pueda manipular e incluso dictar nuestras vidas. El Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial de la UE (AI HLEG) ha elaborado una lista de evaluación para una IA fiable que las empresas pueden utilizar como guía. Se basa en tres principios:
Trazabilidad: ¿Está documentado con precisión y de forma adecuada el proceso que desarrolló el sistema de IA? Por ejemplo, ¿puede rastrearse qué datos utilizó el sistema de IA para generar decisiones?
Explicabilidad: ¿Puede explicarse el razonamiento que sustenta las soluciones o decisiones del sistema de IA? Más importante aún, ¿pueden las personas comprender las decisiones tomadas por un sistema de IA?
Comunicación: ¿Se han comunicado a los usuarios las posibilidades y limitaciones del sistema? Por ejemplo, ¿debería informarse a los usuarios de que se están comunicando con un bot de IA y no con una persona?
La IA es una de las herramientas tecnológicas más prometedoras jamás desarrolladas, no porque pueda ayudarnos a aumentar los beneficios y la productividad (aunque sin duda lo hará), sino por su enorme potencial para ayudarnos a convertirnos en mejores personas. Nunca debemos perder de vista el hecho de que los seres humanos, incluidos los del sector privado, son quienes dirigen el desarrollo de la IA. Es nuestra responsabilidad desarrollarla de forma responsable: es buena para la sociedad y buena para los negocios.
