La confianza es fundamental para adoptar con éxito la inteligencia artificial (IA), en particular la IA generativa (IAGen).
Implementar una IA responsable requiere la colaboración entre los sectores público y privado y la adopción de nuevas prácticas dentro de las empresas.
Estas son seis acciones que las empresas pueden emprender para implementar una IA responsable.
En la Reunión Anual 2024 del Foro Económico Mundial en Davos, Suiza, mis compañeros directivos de Cognizant y yo mantuvimos conversaciones en profundidad con cientos de líderes mundiales sobre la inteligencia artificial (IA) responsable.
Nos complació contribuir a los documentos informativos de la Alianza para la Gobernanza de la IA sobre sistemas seguros, aplicaciones responsables y gobernanza resiliente. Aunque las perspectivas variaron en cuanto al enfoque y las acciones necesarias, hubo un acuerdo unánime en que una mejor gestión de los riesgos de la IA es una prioridad urgente.
Está claro que la confianza estará en el centro de una adopción exitosa de la IA. La confianza nos permitirá escalar y materializar el potencial de la IAGen, la tecnología nueva más revolucionaria de una generación. Cuando los consumidores experimentan estas soluciones disruptivas que parecen magia, adoptan instintivamente una actitud escéptica; la confianza debe ganarse desde el principio.
Crear una IA de confianza
Dado que la confianza es un factor crítico, analicemos qué es la confianza y cómo se obtiene. En 1995, profesores de la Universidad de Notre Dame y de Purdue publicaron un modelo de confianza que ha sido ampliamente adoptado y es muy aplicable a los servicios impulsados por IA. El modelo propone que la confianza se deriva de la percepción de capacidad, benevolencia e integridad. Lo que escuchamos en Davos coincide con este modelo y ayuda a comprender los desafíos que tenemos por delante.
En primer lugar, la confianza en los sistemas de IA depende de su capacidad para resolver problemas del mundo real. La utilidad en un escenario real no es algo que podamos dar por sentado: he visto demostraciones asombrosas de la IAGen, pero me he quedado algo decepcionado al probar estas herramientas en el mundo real.
Las soluciones de IA que prometen más de lo que cumplen provocarán graves problemas de confianza a largo plazo. Lo hemos visto con chatbots y asistentes de voz que prometen comodidad conversacional, pero ofrecen una comprensión limitada y árboles de decisión estáticos. Los usuarios se desencantaron, y las promesas de estas tecnologías quedaron incumplidas.
Para que los sistemas de IA sean útiles, debemos centrarlos en los problemas adecuados, respaldarlos con datos relevantes y de alta calidad, e integrarlos sin fisuras en las experiencias de los usuarios y en los flujos de trabajo. Lo más importante es que se requieren supervisión y pruebas sostenidas para garantizar que los sistemas de IA ofrezcan de forma continua resultados relevantes y de alta calidad.
El segundo ámbito que impulsa la confianza es la idea de benevolencia. Los modelos de IA deben tener un impacto positivo en la sociedad, las empresas y las personas, o serán rechazados. Existen dos desafíos fundamentales:
Implementar para lograr un impacto positivo. Debemos garantizar que las empresas implementen la IA de forma responsable y aborden plenamente los efectos adversos. Deben bloquear los casos de uso inaceptables, respetar los derechos de propiedad intelectual, garantizar un trato equitativo, evitar los daños ambientales y permitir que los trabajadores desplazados accedan a empleos alternativos.
Prevenir el uso malintencionado. No basta con que las empresas responsables implementen una IA benevolente; también debemos protegernos contra el uso malintencionado. Las entidades gubernamentales y reguladoras deben tomar medidas para respaldar a los proveedores legítimos y eliminar a los actores malintencionados. Entre las cuestiones fundamentales se incluyen la validación de los proveedores, la validación de los contenidos auténticos, la prevención de nuevos ataques impulsados por IA y la moderación de los canales de distribución digital.
Por último, la integridad genera confianza cuando los usuarios perciben que sus servicios son seguros, privados, resilientes y bien gobernados.
Los tecnólogos y las empresas llevan décadas construyendo infraestructuras a escala web y arquitecturas nativas de la nube que dan soporte a servicios digitales de misión crítica. Las prácticas que permiten al mundo confiar en estos servicios deben ampliarse y adaptarse de forma transparente a las capacidades de la IA, de manera que resulten convincentes para las comunidades de usuarios.
La única manera de lograr esta integridad necesaria es adoptar plataformas que incorporen transparencia, rendimiento, seguridad, privacidad y calidad. Desarrollar casos de uso puntuales y paralelos basados en objetivos localizados y datos aislados es un camino peligroso que conducirá a un aumento de los costos y los riesgos, a malos resultados y, en última instancia, al colapso de la integridad del sistema.
El desafío de implementar una IA responsable
Aunque es positivo tener claridad sobre los objetivos, es innegable que nos enfrentamos a un desafío formidable. Abordar la IA responsable exigirá la colaboración entre los sectores público y privado en diversas cuestiones. También requerirá adoptar nuevas prácticas dentro de la empresa para diseñar, desarrollar, garantizar y operar de forma responsable los sistemas impulsados por IA.
No podemos permitirnos el lujo de esperar a que otro resuelva estos desafíos. Independientemente de su función y sector, pueda estar seguro de que los competidores avanzan en la implementación de la IA, de que los empleados utilizan de forma encubierta soluciones no fiables y de que los actores malintencionados idean nuevas formas de atacar y explotar las debilidades.
Sobre la base de nuestra experiencia ayudando a construir una IA responsable a escala empresarial en cientos de organizaciones y en el núcleo de nuestro propio negocio, creemos que las empresas deben actuar en seis ámbitos:
1. Alinear el liderazgo con una visión coherente y la rendición de cuentas
La IA es un asunto de nivel de director general que requiere la colaboración de todas las funciones de la organización. Los equipos directivos deben debatir las cuestiones que rodean a la IA responsable y, a continuación, acordar las áreas de oportunidad, los enfoques de gobernanza, las respuestas a las amenazas y la rendición de cuentas por las acciones.
2. Abordar los factores humanos desde el principio
La investigación de Cognizant indica que la desconfianza de los empleados y los consumidores, entre otros factores, podría frenar el crecimiento de la IAGen. Si bien las personas creen que la IAGen simplificará las interacciones con la tecnología y aumentará los beneficios empresariales, temen que no beneficie a los trabajadores ni a la sociedad, lo que genera inseguridad laboral.
Las empresas deben abordar estas preocupaciones con transparencia y una comunicación directa. Este enfoque da resultados, ya que el estudio muestra que el entusiasmo por la IAGen aumenta con una mayor comprensión.
3. Gestionar los estándares y los riesgos
Establezca un marco de gobernanza, riesgo y cumplimiento para estandarizar las buenas prácticas y supervisar de forma sistemática la actividad relacionada con la IA. Dentro de este marco, es fundamental considerar el alcance completo de un sistema impulsado por IA, incluidos los datos de entrenamiento, los modelos de IA, los casos de uso de las aplicaciones, los impactos en las personas y la seguridad.
4. Crear un punto focal de experiencia
La IA responsable no puede gestionarse sin una transparencia y una supervisión centralizadas de la actividad. Al crear un centro de excelencia en IA, las empresas pueden aprovechar al máximo la escasa experiencia disponible y ofrecer una visión coherente a los líderes, reguladores, socios, equipos de desarrollo y empleados.
5. Desarrollar capacidades y concienciación
Para mantener las prácticas de IA responsable, todas las personas de la empresa deben comprender las capacidades, limitaciones y riesgos de la tecnología. Todos los empleados deben recibir formación sobre la IA responsable, la visión de la organización y los procesos de gobernanza. Después, determinados grupos necesitarán una ayuda adicional mediante formación y coaching para desempeñar un papel más práctico en el desarrollo y aprovechamiento de las soluciones de IA.
6. Codificar las buenas prácticas en plataformas
La IA es una tecnología transversal y omnipresente que afectará a casi todos los puestos de trabajo. Para que los equipos desarrollen soluciones fiables con rapidez, necesitarán los datos y las herramientas adecuados para la tarea. Las plataformas de IA pueden poner a disposición activos compartibles para su reutilización, garantizar que exista una gestión eficaz de riesgos y proporcionar transparencia a todas las partes interesadas.
Cómo el Foro ayuda a los líderes a comprender la IA y a colaborar en la innovación responsable
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Al abordar estos seis puntos de acción, las organizaciones están preparadas para poner en práctica su postura sobre la IA responsable y ejecutar y gobernar eficazmente las actividades de IA. Creemos que toda organización que adopte la IA o esté expuesta a amenazas impulsadas por IA debe implementar una IA responsable, y debe hacerlo ya.
