La IA generativa se está convirtiendo en una prioridad empresarial, al ayudar a optimizar costos, mejorar la calidad, aumentar la velocidad y alcanzar objetivos de sostenibilidad.
En un campo en rápida evolución, las organizaciones deben equilibrar estas oportunidades con la mitigación de riesgos.
Las organizaciones ágiles están desarrollando marcos de gobernanza a nivel empresarial para desplegar la IA generativa, que incorporan una matriz de evaluación de riesgos.
Se prevé que la IA generativa (IAg) aporte 4,4 billones de dólares anuales a la economía mundial, según McKinsey. Mientras los consejos de administración y la alta dirección intentan con urgencia comprender el panorama de oportunidades para desplegar la IA generativa en sus operaciones empresariales y no quedarse atrás ante una evolución tecnológica “única en una generación”, la supervisión de riesgos se convierte en una consideración clave.
Riesgos de cumplimiento, operativos, reputacionales y regulatorios – las ramificaciones de la IA generativa son tan complejas como sus oportunidades. El control de calidad, la precisión y la desinformación figuran entre las principales preocupaciones que surgen en torno al uso de la IA generativa. La calidad del resultado de la IA generativa depende, entre otros factores, de la calidad de los datos de entrada. La desinformación y la precisión de los modelos de IA son otros desafíos. Un caso reciente en Nueva York, en el que se citaron jurisprudencias falsas generadas por IA, ilustra el desafío de las “alucinaciones de la IA”.
Las organizaciones navegan una compleja red de respuestas regulatorias ante una tecnología en rápida evolución. Además del papel de los gobiernos en la elaboración de normas y regulaciones sobre IA, crece la conciencia sobre el importante papel de la autorregulación de la industria para salvaguardar los intereses de los ciudadanos y la sociedad, además de las obligaciones fiduciarias con los accionistas. Aunque el equilibrio entre las regulaciones gubernamentales y la inversión del sector privado en autorregulación varía según el país, existe un impulso creciente para que las agencias reguladoras (por ejemplo, el AI Safety Institute Consortium del NIST) colaboren con la industria en el desarrollo de estándares de gobernanza de la IA generativa.
Riesgos y enfoques de mitigación relacionados
Reunimos perspectivas de la comunidad de directores jurídicos (CLO) del Foro Económico Mundial sobre cómo las empresas líderes están gestionando los riesgos y las oportunidades de la IA generativa. Como máximo ejecutivo de una organización responsable de la estrategia jurídica y la gobernanza corporativa, los CLO están en una posición única para asesorar a sus consejos sobre los riesgos relacionados con la IA, mediante marcos de evaluación de riesgos, y para desarrollar políticas de mitigación en toda la empresa, alineándose estratégicamente con las prioridades empresariales.
'Propiedad intelectual'
Inderpreet Sawhney, Asesor jurídico general del grupo y director de cumplimiento, Infosys
El uso no autorizado de material protegido por derechos de autor para entrenar grandes modelos de lenguaje es un riesgo emergente de propiedad intelectual en el desarrollo de productos de IA generativa. En la misma línea, las licencias de varios modelos de IA restringen el uso del resultado generado por IA para entrenar o ajustar otro modelo de IA. Curiosamente, esta tendencia se observa en las prácticas de licencia tanto de los proveedores de modelos abiertos como de los cerrados. Las organizaciones usuarias deben examinar detenidamente este otro riesgo de nueva era creado por la IA.
Otro aspecto clave sobre la propiedad intelectual del contenido generado por IA es que requiere seguridad jurídica en todas las jurisdicciones. La ausencia de dicha titularidad tendrá distintos grados de consecuencias comerciales para los diferentes sectores industriales. Las leyes deben armonizarse entre países, con la participación de todos los grupos de interés pertinentes.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centre for AI Excellence conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
'Falta de armonización regulatoria'
Andreas Hoffmann, Asesor jurídico general y jefe de Asuntos Jurídicos y Cumplimiento, Siemens
Las lagunas y la falta de claridad sobre la aplicabilidad de las normativas existentes, así como la divergencia de las nuevas regulaciones sobre IA, plantean otro riesgo para las empresas globales. En el horizonte se perfila un mosaico de nuevas regulaciones, entre ellas la Ley de IA de la UE y la Orden Ejecutiva de EE. UU. sobre seguridad y protección de la IA, emitida el 30 de octubre de 2023. La divergencia no solo se da a nivel nacional, sino también a nivel municipal y sectorial. Solo en EE. UU., más de 25 estados presentaron legislación relacionada con la IA en 2023. La naturaleza policéntrica y fragmentada del panorama regulatorio de la IA supone un riesgo grave para las empresas que operan en diversos sectores y geografías.
'El cumplimiento como catalizador'
Ulrike Schwarz-Runer, Directora Gerente y Socia Sénior, Asesora jurídica general, BCG
Aunque el panorama regulatorio actual en torno a la IA sigue fragmentado en todo el mundo, también ofrece oportunidades únicas para que las organizaciones den forma activamente a las mejores prácticas. Las empresas que adopten desde el principio programas de cumplimiento responsable de la IA podrán garantizar que lideran con integridad. La diligencia debida, los programas de cumplimiento y la documentación, junto con las pruebas y el aprendizaje, son esfuerzos necesarios en este camino de la IA. Deben considerarse catalizadores de escala y crecimiento, y serán parte integral para garantizar la confianza, la calidad y la seguridad de estas soluciones.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centre for AI Excellence conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
'Generar confianza'
Sabastian Niles, Presidente y Director Jurídico, Salesforce
Materializar el notable potencial económico y humanitario de la IA generativa va más allá de la innovación tecnológica. Todo se trata de confianza. Dentro de sus propias empresas y sectores, el sector privado puede modelar un enfoque que priorice la confianza para maximizar los beneficios de la IA. Esto implica adoptar un enfoque de «tanto lo uno como lo otro» que priorice el éxito sostenido de los clientes y las partes interesadas, internos y externos: al anticipar y gestionar riesgos, también aplicamos una perspectiva que exige que la IA sea un facilitador del crecimiento inteligente, del aumento de la productividad y de la toma de decisiones acertadas, y que abrace el potencial de mejora de habilidades, recualificación y ampliación del talento que nos aguarda.
Pero aprovechar el poder de la IA de forma confiable también requerirá que los reguladores, las empresas y la sociedad civil trabajen juntos y cumplan con directrices y barreras de protección:
Priorizar la transparencia: Las personas deben saber cuándo interactúan con sistemas de IA y tener acceso a información sobre cómo se toman las decisiones impulsadas por la IA.
Proteger la privacidad: Dado que la IA se basa en datos, promover y proteger la calidad, la integridad y la recopilación y el uso adecuados de esos datos es fundamental para generar confianza. Los estándares de la industria, la regulación armonizada y una legislación de sentido común deberían respaldar la privacidad y el control de los clientes sobre sus propios datos.
Desarrollar marcos basados en el riesgo que abarquen toda la cadena de valor: La IA no es una solución única para todos, y los marcos eficaces deben proteger a los ciudadanos al tiempo que fomentan una innovación inclusiva.
Como se ha señalado anteriormente, el mero cumplimiento de los mandatos legales es insuficiente. Las empresas deben aspirar a más para generar confianza, comprendiendo y esforzándose por superar las expectativas de los clientes y las partes interesadas. Si bien esta búsqueda puede implicar sortear compensaciones, al impulsar iniciativas internas como los consejos de gobernanza de la IA para revisar los casos de uso propuestos y establecer políticas de uso ético, los directores jurídicos pueden desempeñar un papel central para orientar a las organizaciones hacia la priorización de la confianza, la rendición de cuentas y la creación de un impacto positivo en esta era de innovación en IA
'Políticas a nivel empresarial'
Rishi Varma, Vicepresidente Sénior y Asesor jurídico general, Hewlett Packard Enterprise
Las empresas están desarrollando estrategias de mitigación para garantizar un enfoque de controles y contrapesos. Algunas empresas innovadoras han establecido un comité de supervisión o de ética de la IA para desarrollar y supervisar su estrategia de gobernanza de la IA. Estos comités reúnen la experiencia de distintos ejecutivos de alto nivel dentro de la empresa, como el director de tecnología, el director de datos, junto con el director jurídico y otros, y pueden abarcar estrategias que van desde la estrategia de datos hasta la estrategia de personas, en línea con los valores fundamentales y las prioridades de la empresa.
Pierre Gentin, Socio Sénior y Director Jurídico, McKinsey
Una política interna alineada con las regulaciones globales emergentes y los estándares de la industria es un elemento fundamental de un enfoque eficaz de la gobernanza de la IA. La política debe identificar los casos de uso de IA de alto riesgo y establecer un conjunto de estándares que se espera que cumplan los equipos involucrados en el desarrollo de dichos sistemas. Asegurar que la política se comunique de manera eficaz y se operacionalice en toda la organización debería ser el foco de las empresas a corto plazo.
Ryan Taylor, Director de Ingresos y Director Jurídico, Palantir Technologies
La gobernanza de los usos de la IA generativa requiere más que la supervisión institucional y los controles para mitigar riesgos. También exige una infraestructura digital completa que ayude a garantizar la fiabilidad, la accesibilidad y la seguridad al conectar los resultados generados por IA con resultados impulsados e impactados por personas. Diseñar el cumplimiento y fomentar la confianza y la rendición de cuentas en las aplicaciones de IA de nueva generación comienza con un enfoque de todo el sistema frente al riesgo, desde la gestión del ciclo de vida de los datos hasta el apoyo a la toma de decisiones y la supervisión de la interacción humana.
'Perspectiva de la industria de seguros'
Katja Roth Pellanda, Asesora jurídica general del grupo, Zurich Insurance Group
Las aplicaciones innovadoras de IA permiten a las aseguradoras agilizar los procesos de suscripción, detectar el fraude de forma más eficaz y adaptar las pólizas a las necesidades individuales, lo que revoluciona las operaciones y el servicio al cliente del sector.
AI Governance Alliance
La nueva AI Governance Alliance del Foro es una iniciativa pionera, global y multipartita que busca impulsar el diseño y la construcción responsables a escala mundial de sistemas de IA transparentes e inclusivos. Si bien las regulaciones impulsadas por los gobiernos establecerán el marco general, la autorregulación mediante una estrategia de mitigación de riesgos ayuda a las corporaciones a responder a las necesidades de la industria en materia de desarrollo y despliegue responsables en un panorama tecnológico en rápida evolución. Entre las estrategias de mitigación que cabe considerar se incluyen las consideraciones sobre la adopción de un modelo de IA de código abierto frente a uno de código cerrado, así como sobre las aplicaciones de IA propias frente a las de proveedores externos.
Otra estrategia consiste en trasladar las pruebas, el control de calidad y la evaluación del rendimiento a las etapas iniciales del desarrollo. Esto puede ayudar a una organización a supervisar el conjunto de datos con el que se entrena un modelo de IA e incorporar medidas basadas en la transparencia y la rendición de cuentas. La comunidad de CLO del Foro está trabajando con la AI Governance Alliance en 2024 para dar forma a una visión común de cómo las empresas pueden mitigar eficazmente los riesgos, autorregular la IA generativa y desarrollar una estrategia de IA exitosa.
