La IA generativa (GenAI) tiene el potencial de mejorar la productividad y la creatividad en todas las industrias y sectores.
Los líderes de la industria, los gobiernos y el mundo académico deben sopesar las oportunidades y los nuevos desafíos de la tecnología para establecer mejores prácticas que permitan crear aplicaciones de GenAI seguras, protegidas y fiables.
La colaboración y la comunicación intersectoriales son clave para escalar de forma responsable.
Promover la alineación en las mejores prácticas del sector es imprescindible para desarrollar aplicaciones avanzadas de inteligencia artificial (IA) que generen beneficios sociales, eviten sesgos injustos, se diseñen y prueben para garantizar la seguridad y la privacidad, y rindan cuentas ante las personas. El auge de la IA generativa (GenAI) brinda la oportunidad de orientar el desarrollo de una tecnología sin precedentes mediante prácticas basadas en principios y enfoques comunes en materia de transparencia.
Este enfoque común puede incluir incluso las definiciones básicas compartidas de GenAI, para facilitar un intercambio reflexivo y práctico de las lecciones aprendidas. Por ejemplo, el grupo de trabajo sobre aplicaciones y transformación responsables de la Alianza para la Gobernanza de la IA del Foro Económico Mundial ayudó a definir, junto con otros miembros de la comunidad del Foro, un vocabulario compartido para el desarrollo responsable de la GenAI.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite a los socios construir un entendimiento compartido y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Tal como se describe en el documento recientemente publicado, Desbloquear el valor de la IA generativa: orientación para una transformación responsable, codefinimos:
Transformación responsable: el esfuerzo y la orientación organizativos para aprovechar las oportunidades y los beneficios de la GenAI, mitigando al mismo tiempo los riesgos para las personas, las organizaciones y la sociedad. Es una tarea estratégica que abarca los pilares de gobernanza, operaciones, talento y comunicación de las organizaciones.
Adopción responsable: la adopción de casos de uso y oportunidades concretos dentro de una organización. Es un enfoque más táctico y requiere una evaluación exhaustiva para garantizar que el valor pueda materializarse.
Rendición de cuentas y gobernanza de la IA
Para rendir cuentas por el intercambio de las lecciones aprendidas, desde 2019 Google publica un informe anual sobre cómo ponemos en práctica nuestros Principios de IA. Los Principios de IA son nuestra carta ética para desarrollar aplicaciones de IA seguras, protegidas y fiables. La GenAI no es una excepción. Los principios nos ayudan a orientar las decisiones empresariales y técnicas a lo largo de toda la investigación y el desarrollo de productos. El informe de este año ofrece ejemplos concretos de transformación responsable y adopción responsable, tal como se definen en el documento de la Alianza para la Gobernanza de la IA.
Por ejemplo, cada vez integramos más nuestros Principios de IA en nuestros marcos integrales de gestión de riesgos empresariales para garantizar la calidad de nuestra oferta. Esta evolución nos ayuda a ampliar el alcance de nuestro trabajo y a integrarlo en la gobernanza existente, en la infraestructura de toda la empresa y en los procesos de rendición de cuentas.
Los marcos de riesgo empresariales, las herramientas y los sistemas de registro de Google constituyen la base para las revisiones de primera línea de los problemas relacionados con la IA y ayudan a cumplir los parámetros de referencia legales, reglamentarios y de normas en evolución, como la Orden Ejecutiva sobre IA de la Casa Blanca de Estados Unidos, los Principios Rectores Internacionales del Grupo de los Siete para las organizaciones que desarrollan sistemas avanzados de IA y la Ley de IA de la Unión Europea.
Los equipos de gobernanza de la IA y de confianza y seguridad colaboran estrechamente con equipos y expertos en la materia de ámbitos como la investigación en aprendizaje automático, la política de productos, la investigación y el diseño de la experiencia de usuario, la política pública, el derecho, los derechos humanos y las ciencias sociales, entre otras muchas disciplinas.
Las evaluaciones previas al lanzamiento de la IA forman parte de un proceso previo al lanzamiento más amplio y de extremo a extremo, que incluye pruebas técnicas de seguridad y revisiones estándar de privacidad y seguridad.
Riesgos e intervenciones comunes de la GenAI
A partir de los conocimientos obtenidos en cientos de lanzamientos de GenAI en 2023, hemos perfeccionado las mejores prácticas emergentes para mitigar estos riesgos, que compartimos a continuación. Abarcan desde herramientas técnicas, como SynthID o Información sobre esta imagen, que pueden ayudar a identificar la información errónea y desinformación cuando actores malintencionados utilizan herramientas de GenAI, hasta técnicas de explicabilidad, como aumentar la información explicativa a lo largo del producto de IA, y no solo en el momento de la decisión.
También incluye pruebas adversarias y el red teaming, o “hacking ético”, para evaluar sistemáticamente un modelo de GenAI y comprobar cómo se comporta cuando recibe entradas malintencionadas o involuntariamente dañinas.
Inversión en investigación sobre los riesgos de la GenAI
La GenAI es una tecnología que evoluciona rápidamente, con riesgos que también evolucionan con rapidez. Es importante llevar a cabo investigaciones fundamentales para obtener más información sobre estos riesgos. Por ejemplo, trabajamos recientemente con Gallup, Inc. para encuestar percepciones y actitudes en torno a la tecnología, con el fin de comprender cómo el antropomorfismo influye en el uso que las personas hacen de los chatbots de GenAI y de otras tecnologías.
Estos conocimientos nos ayudan a comprender los posibles beneficios y peligros de humanizar la tecnología, así como el desarrollo de nuevas intervenciones, mitigaciones y barreras de protección que ayuden a las personas a utilizar la IA de forma adecuada.
Nuestros investigadores estudian la GenAI desde la perspectiva de temas centrados en las personas. Un estudio exploratorio con cinco diseñadores analizó cómo las personas sin experiencia ni formación en programación de aprendizaje automático pueden utilizar la programación mediante instrucciones (prompts) para crear rápidamente prototipos de maquetas funcionales de interfaces de usuario. Utilizamos esta técnica internamente y, después, la lanzamos externamente como Google AI Studio para desarrolladores de GenAI en 179 países y territorios.
La investigación multidisciplinar en IA puede ayudar a abordar desafíos compartidos a nivel social, desde la previsión del hambre hasta la predicción de enfermedades y la mejora de la productividad. Nuestra reciente investigación con Boston Consulting Group también concluyó que la IA tiene el potencial de mitigar entre un 5 y un 10 % de las emisiones mundiales de gases de efecto invernadero para 2030.
Para ayudar a promover perspectivas diversas en la investigación en IA centrada en la sociedad, anunciamos que 70 profesores fueron seleccionados para el Programa de Investigación sobre Inclusión, Premio 2023, que respalda la investigación académica que atiende las necesidades de los grupos históricamente marginados en todo el mundo.
La transparencia colaborativa es clave
Construir la IA de forma responsable debe ser un esfuerzo colectivo. Es necesario involucrar de manera proactiva al mundo académico y a los laboratorios de investigación, así como a científicos sociales, expertos en sectores específicos, responsables políticos, creadores, editores y personas que utilizan la IA en su vida diaria.
Cada vez son más los foros de colaboración que complementan y enriquecen la Alianza para la Gobernanza de la IA, y que se centran en ámbitos específicos, como el desarrollo multipartito de parámetros de referencia estándar para la seguridad de la IA por parte de MLCommons. La Casa Blanca patrocinó un evento de red teaming en DEF CON, al que asistieron más de 2000 personas para probar grandes modelos de lenguaje líderes en el sector de Google, NVIDIA, Anthropic, Hugging Face y otras empresas.
La Partnership on AI facilita esfuerzos de colaboración sobre un marco para medios sintéticos, directrices de abastecimiento para el enriquecimiento de datos y orientación para el despliegue seguro de modelos. Y de cara al futuro, junto con socios del sector, cofundamos el Frontier Model Forum para desarrollar normas y parámetros de referencia sobre los problemas emergentes de seguridad y protección de los modelos de frontera.
Mantener y ampliar este enfoque colaborativo a lo largo del tiempo de forma segura requiere un enfoque de gobernanza con múltiples partes interesadas. En todas las industrias y naciones, podemos aprender de la experiencia del crecimiento de internet a lo largo de décadas para desarrollar normas comunes, mejores prácticas compartidas y una regulación adecuada basada en el riesgo. Este esfuerzo requerirá no solo colaboración, sino también transparencia.
Como llamamiento concreto a la acción, es necesario desarrollar y acordar normas para toda la industria sobre documentación de transparencia, como informes técnicos o modelos o fichas de datos, que hagan públicas de forma adecuada la información esencial basada en la documentación interna sobre seguridad y otros detalles de evaluación de los modelos.
Estos artefactos de transparencia son más que vehículos de comunicación. Pueden ofrecer orientación compartida para los investigadores de IA, los responsables de su despliegue y los desarrolladores posteriores sobre el uso responsable de la IA avanzada, contribuyendo juntos a la búsqueda de aplicaciones y transformación responsables de la GenAI.
