La inteligencia artificial (IA) promete ser la innovación tecnológica más profunda y trascendente de nuestra era.
Las empresas deben adaptarse con rapidez a un entorno normativo en evolución y establecer marcos de gobernanza responsable de la IA alineados con sus valores y objetivos.
La esencia de la IA responsable consiste en gestionar con criterio numerosas compensaciones para generar valor, evitando riesgos y protegiendo el capital reputacional.
La inteligencia artificial (IA) promete ser la innovación tecnológica más profunda y trascendente de nuestra era, y evoluciona y avanza a una velocidad vertiginosa.
Con sus últimos avances, en particular la IA generativa (IAGen), está destinada a transformar industrias enteras, crear nuevos modelos de negocio e impactar en todas las funciones empresariales y en nuestra vida personal.
Como ocurre con todas las tecnologías revolucionarias, la IA conlleva una serie de riesgos importantes, entre ellos los relacionados con la calidad y la privacidad de los datos, la seguridad y protección de la información confidencial, los resultados engañosos y, aún peor, el uso deliberadamente indebido de la tecnología en campañas de desinformación y en manos de actores malintencionados.
Ante estos desafíos, los gobiernos de todo el mundo han comenzado a establecer marcos normativos para garantizar el desarrollo responsable de las tecnologías basadas en IA. La Unión Europea ha elaborado la Ley de IA de la UE, la primera ley específica sobre IA de su tipo. Su objetivo es garantizar el uso seguro y legal de la IA y el respeto de los derechos fundamentales en los sistemas de IA.
De cara al futuro, las empresas deberán sentar las bases para adaptarse con rapidez a un entorno normativo en evolución y deberán establecer marcos de gobernanza responsable de la IA alineados con sus valores y objetivos empresariales.
El sector privado tiene una enorme responsabilidad: garantizar que disponga de marcos de IA holísticos y dinámicos que ayuden a cerrar la brecha entre la innovación y el despliegue responsable.
Entonces, ¿por dónde pueden empezar las empresas?
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de diversos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
Mediante espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Evaluar la preparación
Evaluar la preparación es el primer paso para crear el entorno óptimo para la gobernanza de la IA. Esto implica analizar la IA de forma holística y responder a algunas preguntas fundamentales sobre el uso de la IA dentro de una organización. Por ejemplo, ¿cuál es la visión de una empresa sobre la IA responsable, basada en su sector y su entorno normativo? Teniendo en cuenta el modelo de negocio de la organización, ¿cómo se alinea esta visión con los valores existentes y qué riesgos es probable que genere la IA? Sobre la base de estas consideraciones, las organizaciones deben evaluar su estructura de gobernanza existente y decidir si su modelo de gobernanza actual es suficiente para hacer frente a estos riesgos.
Muchas organizaciones consideran hoy que el enfoque de las tres líneas de defensa es muy adecuado para la IA. Este enfoque implica tres niveles de defensa frente a los riesgos:
1. Los directivos operativos y los empleados que controlan y gestionan los riesgos cotidianos.
2. Funciones especializadas de gestión de riesgos y de cumplimiento para la supervisión y el apoyo.
3. Auditorías internas que proporcionan una garantía independiente de que los procesos de gestión de riesgos y de gobernanza son eficaces.
Aunque este es un enfoque ampliamente aceptado, cada organización debe evaluar cómo se aplica a su entorno y determinar los parámetros y las condiciones adecuados para cada línea de defensa.
La preparación también implica analizar la legislación aplicable e identificar soluciones rentables para cumplir los requisitos de cumplimiento normativo.
La Ley de IA de la UE, por ejemplo, exige que las empresas consideradas desarrolladoras de IA de alto riesgo elaboren una evaluación de conformidad y mantengan una documentación exhaustiva que demuestre su cumplimiento del reglamento. Las organizaciones incluidas en esta categoría deberán elaborar una evaluación de impacto sobre los derechos fundamentales para valorar el efecto de sus sistemas de IA en las personas y sus derechos. Esto implicará elaborar registros de las metodologías de programación y entrenamiento, los conjuntos de datos utilizados y las medidas adoptadas para la supervisión y el control.
Al mismo tiempo, el uso ampliado de los grandes modelos de lenguaje (LLM) que sustentan la IAGen creará nuevos riesgos de seguridad para las organizaciones. Los LLM han hecho que los actores malintencionados sean más eficientes, y los defensores todavía no han logrado ponerse al día con estas nuevas técnicas. Por ello, aprovechar la tecnología de IA demasiado pronto en múltiples flujos de trabajo puede aumentar la superficie de exposición al riesgo.
Para anticiparse a los ciberriesgos, las empresas deberán reevaluar su enfoque de seguridad e introducir cada vez más equipos rojos — la prueba de los sistemas de ciberseguridad mediante un enfoque adversarial que aprovecha la IA — así como marcos de gestión de riesgos y controles.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de diversos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
Mediante espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Constituir un equipo multidisciplinar
La IA es mucho más que tecnología. Transformará y reconfigurará nuestras relaciones y la forma en que trabajamos juntos y junto a la tecnología.
Uno de los mayores desafíos para las organizaciones será sincronizar puntos de vista y crear un vocabulario compartido en torno a la IA. Los científicos de datos, por ejemplo, podrían no comprender plenamente las implicaciones legales y éticas de la IA. En cambio, los equipos jurídicos podrían tener la formación jurídica y ética, pero no la competencia necesaria para convertir esas consideraciones en cálculos computacionales.
Crear un lenguaje común en todos los ámbitos es una tarea compleja que exige que los equipos cooperen al traducir los requisitos legales en elementos computacionales y viceversa. Es posible que la ciencia de datos llegue a ser una competencia muy demandada en los equipos jurídicos, mientras que es posible que los ingenieros deban familiarizarse en profundidad con las normativas sobre IA promulgadas en distintas partes del mundo.
Este es un desafío que exige invertir en la formación cruzada de competencias en las organizaciones. En algún momento, todas las organizaciones tendrán que poner en marcha un programa de formación a nivel de toda la empresa para dotar a los empleados de competencias básicas e interdisciplinares en IA. Además, los equipos deberán orientarse activamente hacia la mejora de competencias específicas en tecnologías que refuerzan la privacidad y desarrollar soluciones técnicas más completas para cumplir los requisitos legales en torno a la IA.
Prepare sus datos para la IA
Los datos son la base subyacente de los LLM que sustentan la IAGen. Estos LLM utilizan grandes cantidades de datos y generan sus propios datos a partir de las entradas originales. La calidad de los datos introducidos en los modelos y el método con el que se recopilan esos datos influirán en los resultados. En última instancia, los datos deficientes producirán resultados deficientes, lo que socavará el valor de la IA o, aún peor, reforzará los sesgos y conducirá a conclusiones incorrectas o a «alucinaciones».
A medida que aumenta el volumen de datos utilizados por los modelos de IA, algunos modelos deberán reentrenarse con subconjuntos de datos específicos para lograr una mayor precisión. En general, la gobernanza y la gestión de los datos serán fundamentales para el despliegue eficaz de la IA.
En última instancia, la preparación y el entrenamiento de los modelos de IA permitirán a las organizaciones elaborar previsiones más precisas, descubrir nuevas conexiones entre datos y generar mejores conocimientos. Desde la calidad, el etiquetado y el aumento de datos hasta la protección y la gobernanza de los datos, las empresas deben mejorar sus procesos de gestión de datos a lo largo de todo el ciclo de vida de los datos. Las herramientas avanzadas de análisis de datos, los controles rigurosos de calidad de los datos y una cultura de refinamiento y evaluación continuos de los datos serán todos elementos esenciales para el éxito.
Cuidado con el sesgo
La calidad de los datos es también una prioridad para abordar las prácticas sesgadas e injustas en la IA. Esto puede producirse cuando una programación aparentemente neutral refleja los sesgos de sus desarrolladores, entrenadores o datos de entrada.
Un algoritmo sesgado plantea un problema considerable. La discriminación impulsada por modelos algorítmicos amenaza con generar una desventaja aún mayor para los grupos infrarrepresentados de la población. Los estudios han demostrado que dichos sesgos en la contratación habilitada por IA pueden dar lugar a prácticas discriminatorias por motivos de género, raza y rasgos de personalidad, a menudo derivadas de conjuntos de datos brutos limitados y de los sesgos de los diseñadores de algoritmos.
La cuestión del sesgo se sitúa en la intersección de muchas disciplinas y es especialmente pertinente en el contexto de las leyes de privacidad e igualdad. Abordar los sesgos en la IA exige intervenciones tecnológicas y humanas, así como un modelo de gobernanza sólido.
Aproveche la tecnología, pero no dependa únicamente de ella
En muchos casos, la tecnología acudirá al rescate y ayudará a las empresas a afrontar los desafíos asociados a la transparencia, la privacidad y la calidad de los datos.
Por ejemplo, las pruebas de conocimiento cero —un tipo de protocolo criptográfico— pueden permitir verificar atributos o hechos confidenciales mediante datos sintéticos sin exponer los datos en sí. A medida que mejoren los datos producidos de forma sintética, estas soluciones ayudarán cada vez más a abordar los problemas en torno a la transparencia de los datos.
Además, el uso de tecnologías que refuerzan la privacidad, como el cifrado y la privacidad diferencial —un marco matemático para garantizar la privacidad de las personas en los conjuntos de datos—, puede ayudar a mitigar los problemas de filtración de datos y crear un entorno más seguro para experimentar con datos y desarrollar nuevas soluciones.
Si bien la tecnología es crucial, es esencial recordar que las preocupaciones en torno a la IA requerirán la intervención humana para encaminarse hacia resultados positivos. El papel de las personas en este contexto consistirá en proporcionar la supervisión necesaria, la toma de decisiones éticas y la comprensión de los contextos sociales y culturales que las máquinas no pueden replicar. Las empresas necesitarán la experiencia humana para interpretar los resultados de la IA, garantizar el cumplimiento de las normas éticas y refinar continuamente los sistemas de IA para alinearlos con los valores corporativos y sociales.
Equilibrar la innovación con una IA responsable
En última instancia, los líderes empresariales son responsables de fomentar la innovación responsable y de garantizar que esta tecnología revolucionaria no se vea frenada por la regulación y que se aplique de forma que ofrezca un beneficio neto para las empresas y las sociedades en su conjunto.
La forma en que desplegamos la IA dirá mucho de nuestros valores como empresas. Al margen de las leyes, la esencia de la IA responsable consiste en gestionar con criterio numerosas compensaciones para generar valor, evitando riesgos y protegiendo el capital reputacional. Si lo hacemos con transparencia, involucrando a nuestra plantilla y formando a nuestras personas para que se sumen a este camino, desempeñaremos un papel fundamental para que la IA funcione en beneficio de la humanidad.
