La IA está revolucionando la forma en que trabajamos, hacemos negocios, innovamos, consumimos, nos comunicamos e incluso nos relacionamos socialmente.
Sin embargo, la rápida proliferación de la IA genera preocupaciones fundamentales en torno a la confianza, que podrían determinar el éxito o el fracaso de la adopción de esta tecnología.
La regulación, la transparencia y los marcos éticos son fundamentales para garantizar que la IA se utilice de forma responsable.
La inteligencia artificial (IA) está redefiniendo la relación entre las personas y la tecnología. Influye en la forma en que percibimos, consumimos e interactuamos con la información. Está transformando la manera en que trabajamos, hacemos negocios, innovamos y nos comunicamos. Por ello, es probable que la IA siga situada en el centro del debate global durante las próximas décadas.
Sin embargo, su creciente influencia trae consigo preocupaciones más profundas que podrían determinar el éxito o el fracaso de la tecnología, en particular: ¿podemos confiar en ella?
Según un estudio del Capgemini Research Institute publicado en junio de 2023, el 73 % de los consumidores de todo el mundo afirma confiar en el contenido creado por la IA generativa; el 53 % confía en ella para la planificación financiera, el 67 % para diagnósticos y consejos médicos, y el 66 % para las relaciones personales o la planificación de la vida y de la carrera profesional.
Además, a pesar del potencial de los ciberataques y los ultrafalsos (deepfakes), la concienciación de los consumidores sobre los riesgos es baja; casi la mitad (49 %) de los consumidores no se preocupa por la posibilidad de que la IA generativa se utilice para crear noticias falsas, y solo el 34 % se preocupa por los ataques de phishing.
Paralelamente, el 70 % de las organizaciones se encuentra actualmente en «modo de exploración» en lo que respecta a la innovación con IA generativa. Tienen razón al estarlo, ya que las oportunidades y ventajas de desplegar la IA en un entorno B2B controlado, como el uso de operaciones inteligentes de envío y almacenamiento impulsadas por IA, son evidentes: una reciente encuesta de IDC encuesta reveló que los líderes empresariales obtienen un rendimiento medio increíble de 3,5 $ por cada 1 $ invertido en IA.
El nivel de confianza de los consumidores en la IA es alentador y, al mismo tiempo, preocupante. Alentador, porque las plataformas de IA solo alcanzarán su potencial si los resultados pueden ser de confianza. Preocupante, porque la IA, en particular la generativa, tiene el potencial de ser explotada con fines poco éticos, puede filtrar datos, es una fuente importante de emisiones de carbono y se sabe que «alucina» y produce resultados incorrectos.
Con estas preocupaciones en mente, conviene recordar que los modelos de lenguaje de gran tamaño (LLM) pueden hablar de causalidad, pero no son causales; son estadísticos, construidos a partir de la cantidad de datos textuales introducidos en el modelo. La calidad de los datos determina su precisión; si esa calidad es deficiente, los LLM pueden producir información objetivamente incorrecta; si los datos se obtienen sin permiso, pueden causar daños reputacionales o infracciones de derechos de autor.
Aunque la IA no es una tecnología nueva, el lanzamiento de ChatGPT produjo su «momento iPhone» a finales de 2022. Al igual que el iPhone, la tecnología que hay detrás solo mejorará, pero la confianza en la IA no puede tomarse a la ligera ni darse por sentada. Los primeros adoptantes pueden tener una mayor tolerancia al riesgo, pero el entusiasmo puede desvanecerse rápidamente. Para mantener y generar confianza en una IA responsable, los responsables políticos, los innovadores y las empresas deben establecer sólidos mecanismos de control.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro para la Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Favorece un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Fundamentos clave para el éxito de la IA
El potencial global de la IA depende del libre flujo de datos de alta calidad. Sin embargo, las políticas de datos divergentes en todo el mundo —en materia de privacidad, acceso gubernamental, seguridad, contenido nocivo y derechos de propiedad intelectual— plantean un desafío formidable para la sociedad, los consumidores y los gobiernos en la gestión de la información, la garantía de la seguridad de los datos, la protección de los derechos de los consumidores y la preservación de los valores democráticos.
En la salud digital, por ejemplo, el desafío se ejemplifica en la necesidad de interoperabilidad y gobernanza, equilibrando el acceso con sólidas medidas de privacidad para aumentar la confianza y liberar la innovación en pos de mejores resultados para los pacientes, desde la prevención hasta el tratamiento.
En definitiva, los datos tienen valor, y las organizaciones tienen la responsabilidad de proteger sus datos y los de sus clientes. El uso descontrolado de la IA podría provocar que los datos queden inesperadamente disponibles para el consumo público, como ya hemos visto.
Reconociendo la complejidad que rodea a la IA, la Ley de IA de la Unión Europea (propuesta en 2021 y recién aprobada) ha suscitado el primer debate público a gran escala sobre los usos y riesgos de esta tecnología. La aplicación técnica exacta de esta ley aún podría evolucionar en las próximas semanas, pero, en cualquier caso, al clasificar los sistemas de IA en distintos tipos de riesgos y exigir la transparencia de las fuentes de datos, puede sentar las bases para un uso responsable de la IA.
Dado que cualquier regulación puede tardar en implementarse, los socios empresariales y tecnológicos desempeñan un papel importante al ofrecer formación y hacer cumplir salvaguardas que aborden las preocupaciones sobre la ética y el uso indebido de la IA generativa en la práctica.
En 2019, Capgemini publicó su Código Ético para la IA para orientar a las organizaciones y garantizar que la IA se adopte siempre de forma que ofrezca beneficios claros de las tecnologías de IA dentro de un marco de confianza. Existen siete principios clave:
Tener un impacto cuidadosamente delimitado: IA diseñada para el beneficio humano, con un propósito claramente definido que establezca qué ofrecerá la solución y a quién. El propósito de la IA debe ser claro para todas las partes interesadas.
Ser sostenible: IA desarrollada para beneficiar al medio ambiente y a todos los miembros actuales y futuros de nuestro ecosistema, humanos y no humanos por igual, y para abordar desafíos apremiantes como las emisiones de CO2, la mejora de la salud y la producción alimentaria sostenible. La huella de carbono propia del sistema de IA debe minimizarse mediante una gestión de datos eficiente y salvaguardas de la IA, tanto para el entrenamiento como para el consumo de modelos de IA
Ser justo: IA producida por equipos diversos, que utilizan datos sólidos para obtener resultados imparciales e incluir a todas las personas y grupos de población. Uso de herramientas de automatización para detectar sesgos en los algoritmos de forma continua.
Ser transparente y explicable: IA con resultados que puedan entenderse, rastrearse y auditarse, según corresponda.
Ser controlable, con una responsabilidad clara: Permitir que las personas tomen decisiones más informadas y conserven la última palabra.
Ser robusta y segura: Asegurarse siempre de que haya una persona en el proceso, incluidos planes de contingencia cuando sea necesario.
Ser respetuosa con la privacidad y la protección de datos: Tener en cuenta la privacidad y la seguridad de los datos desde la fase de diseño, para un uso de datos seguro y conforme a la normativa de privacidad.
Estos principios sobre la IA pretenden crear una cultura de la IA enfáticamente responsable y centrada en el ser humano. La IA generativa conlleva un nuevo conjunto de riesgos, como la pérdida de propiedad intelectual o la desinformación, pero también nuevos desafíos, lo que reafirma la necesidad de que las organizaciones hagan cumplir sus códigos éticos. Los valores éticos humanos nunca deben verse menoscabados por los usos que se hagan de las tecnologías de IA, y todas las empresas tienen la responsabilidad fundamental de generar confianza con una IA responsable. En ausencia de una regulación adecuada, adoptar un enfoque de «esperar y ver» no es viable.
El tiempo dirá cómo se desarrollarán todos estos elementos. Lo que está claro es que la tecnología de IA ya forma parte de nuestra realidad y seguirá dando forma al mundo en que vivimos. Si las organizaciones quieren desbloquear el increíble potencial de la IA para acelerar la innovación, ahora es el momento de trabajar juntos para establecer los cimientos necesarios que ayuden a generar una confianza duradera en esta tecnología transformadora.
