El uso de la IA generativa crece rápidamente, pero aún no se ha desplegado todo su potencial.
Un equipo de investigación liderado por UC Berkeley explora cómo son el desarrollo y el uso responsables de la IAGen dentro de las organizaciones.
La guía Uso Responsable de la IA Generativa de UC Berkeley describe cómo utilizar la IAGen de forma responsable en el trabajo diario y en nuevos productos.
El uso de la IA generativa (IAGen) sigue creciendo rápidamente en empresas de todo el mundo. De hecho, investigaciones muestran que más de un tercio (39,4 %) de los adultos estadounidenses (de 18 a 64 años) declaró haber utilizado la IAGen el año pasado, y que el 24 % de los trabajadores la utiliza al menos una vez por semana y el 11 % a diario, en una variedad de ocupaciones y tareas.
La adopción ha aumentado rápidamente. Un estudio de McKinsey de 2024 constató que el uso de la IAGen casi se duplicó en todas las regiones durante el año anterior, y que ChatGPT alcanzó 200 millones de usuarios activos semanales en agosto de 2024, el doble que en 2023.
El ritmo de adopción de la IAGen es más rápido que la adopción de los ordenadores personales e internet. El entusiasmo no solo continúa, sino que se intensifica. Lo impulsan innovadores, empresas e inversores, así como países y gobiernos que desean liderar y aprovechar la tecnología.
En efecto, una encuesta reciente a profesionales de todo el mundo realizada por Thomson Reuters mostró que el 95 % de los encuestados cree que la IA será fundamental para el flujo de trabajo de su organización en los próximos cinco años.
Se necesita un desarrollo y uso responsables de la IA generativa
Para desbloquear el pleno potencial de la tecnología, las organizaciones reconocen cada vez más la importancia de diseñar de forma proactiva aplicaciones beneficiosas de IAGen guiadas por principios, abordar los riesgos potenciales y compartir de manera transparente las lecciones aprendidas, con el fin de contribuir a establecer buenas prácticas sobre cómo se desarrolla, prueba y utiliza de forma responsable la IAGen.
La investigación muestra que los usuarios de IAGen con mejores resultados que captan el mayor valor prestan más atención a los riesgos conocidos, los abordan y trabajan para identificar y prevenir otros nuevos.
Identificar y definir cómo son el desarrollo y el uso responsables de los nuevos productos y servicios de IAGen, en particular a nivel de gestión de productos, puede resultar complejo en una fase tan temprana.
Escuchar las necesidades de quienes toman decisiones empresariales y técnicas sobre cómo se comercializan y utilizan los productos de IAGen permite a las organizaciones comprender mejor los factores que pueden limitar o favorecer el desarrollo y el uso responsables.
Ante esta brecha y oportunidad, un equipo de investigación liderado por UC Berkeley (Berkeley AI Research Lab y Haas School of Business), junto con investigadores de la Universidad de Stanford y del Oxford Internet Institute, con el apoyo de Google, explora cómo son el desarrollo y el uso responsables de la IAGen.
El equipo realizó entrevistas a 25 gestores de productos con sede en Estados Unidos y una encuesta a más de 300 gestores de productos de todo el mundo, pertenecientes a una variedad de empresas que ofrecen productos de IA generativa y que también los utilizan internamente, con el fin de comprender mejor los desafíos actuales a la hora de implementar prácticas de IA responsable tanto en el desarrollo como en el uso de productos.
De la incertidumbre a la acción en el uso responsable de la IA generativa
En términos generales, nuestra investigación constata que persiste una necesidad generalizada entre los gestores de productos —guardianes críticos de la toma de decisiones— de contar con un vocabulario estándar para todo el sector y guías prácticas que orienten los enfoques de las empresas para poner en práctica el desarrollo y despliegue responsables de modelos y productos avanzados de IAGen.
El estudio Uso responsable de la IA generativa por parte de los gestores de productos: reconectar principios y prácticas éticos, muestra que los gestores de productos comparten una sensación de incertidumbre, que se deriva del hecho de que la IAGen es una tecnología incipiente que ha pasado rápidamente de los laboratorios a los productos. Su uso en los distintos sectores aún se encuentra en sus primeras etapas.
Esta incertidumbre está relacionada con la falta de definiciones estandarizadas de términos y conceptos dentro del ecosistema de la IA, así como con una necesidad claramente expresada de orientación organizativa práctica para un uso responsable. En particular, existe una necesidad urgente de estándares específicos sobre la transparencia de los modelos, por ejemplo, la explicabilidad, la presentación de informes sobre cómo se construyó y se probó un modelo en materia de seguridad, la protección de la propiedad intelectual, la seguridad de los modelos y otros aspectos.
La transparencia (o la falta de transparencia) es una cuestión fundamental. El estudio destaca cómo la falta de transparencia percibida no solo alimenta la incertidumbre, sino que también frena la adopción de modelos de IAGen por parte de los gestores de productos y la confianza en ellos. Esta relación entre transparencia y adopción también se ha puesto de manifiesto en otros estudios; por ejemplo, en un análisis del uso de modelos en la plataforma de aprendizaje automático Hugging Face, los investigadores constataron que los modelos con artefactos de transparencia se descargan significativamente más que aquellos que carecen de ellos.
Por último, los incentivos importan. Solo el 19 % de los encuestados afirma contar con incentivos para el uso responsable de la IAGen, y dichos incentivos suelen estar ligados a los incentivos tradicionales de lanzar productos y avanzar con rapidez.
En el lado positivo, en las organizaciones con principios de IA y respaldo del liderazgo, es casi tres veces más probable que los gestores de productos trabajen con equipos de IA responsable o de confianza y seguridad, y 2,4 veces más probable que implementen salvaguardas y estándares, como la evaluación de sesgos.
Además, incluso en entornos inciertos, los gestores de productos declaran que adoptan micromomentos de responsabilidad, que son acciones como revisiones individuales o de todo el equipo, la protección de normas para los datos de los clientes y la búsqueda de formas de alinear las acciones con los valores de la empresa.
Reconociendo la necesidad de guías prácticas que orienten el desarrollo y el uso responsables de la IAGen y que respalden el ámbito en general, nuestro equipo de investigación elaboró una guía basada en la investigación. Fue probada con gestores de productos de Google y de otros sectores.
Formas clave de utilizar la IA generativa de manera responsable
La Uso responsable de la IA generativa guía describe 10 acciones —cinco para líderes empresariales y cinco para gestores de productos— que muestran cómo utilizar de forma responsable la IAGen en el trabajo diario y en nuevos productos, con recursos y herramientas complementarios.
Cinco acciones para líderes empresariales:
Asegurar que el liderazgo reconozca el valor del uso responsable de la IAGen, desarrolle principios de IA responsable y comunique a todos los empleados el compromiso de la organización con la responsabilidad.
Implementar políticas y estándares asociados que garanticen el uso responsable de la IA generativa.
Crear un marco integral de gobernanza de la IA responsable que defina funciones clave, establezca estructuras organizativas y fomente una cultura de responsabilidad compartida.
Actualizar los incentivos para alinear el desempeño, el desarrollo de productos y las métricas con la responsabilidad.
Implementar formación a medida para subsanar carencias y respaldar el uso responsable de la IAGen.
Cinco acciones para gestores de productos:
Realizar «comprobaciones de intuición» para evaluar los riesgos de responsabilidad en los casos de uso del trabajo y en el desarrollo de productos.
Elegir un modelo para los productos de IAGen evaluando las necesidades y los riesgos potenciales. Garantizar la transparencia documentando el modelo, los datos de ajuste fino y destacando las consideraciones clave.
Realizar evaluaciones de riesgos y auditorías de los productos de IAGen, con la participación de equipos multifuncionales, supervisión experta y herramientas alineadas con los principios organizativos y los riesgos fundamentales.
Implementar pruebas de equipo rojo y de adversario para detectar vulnerabilidades, al tiempo que se recopilan y atienden los comentarios de los usuarios a lo largo del tiempo.
Registre sus micromomentos de responsabilidad —acciones sencillas e impactantes que demuestran una toma de decisiones responsable— y muéstrelos en las evaluaciones de desempeño.
La guía respalda la transformación en la era de la IA generativa
La Uso responsable de la IA generativa guía es un complemento práctico de la iniciativa transversal del Centro para la Cuarta Revolución Industrial del Foro Económico Mundial, en el marco de la Alianza para la Gobernanza de la IA —en concreto, la reciente serie de documentos técnicos Industrias en la era inteligente—.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Esta iniciativa plantea la siguiente pregunta: ¿cómo pueden los líderes del sector impulsar el crecimiento y la transformación en la era de la IA y la IAGen de forma responsable, en beneficio de las empresas y de la sociedad?
La guía ofrece orientación estructurada sobre cómo los líderes empresariales y los gestores de productos pueden integrar de forma sistemática las prácticas emergentes de IAGen responsable en los flujos de trabajo diarios y en el desarrollo de productos, mediante pasos prácticos alineados con las prioridades estratégicas.
El análisis en profundidad subraya la necesidad de que las organizaciones pasen de casos de uso de IA aislados a una transformación empresarial visionaria, pero práctica, a través de la IAGen.
