Desplegar la IA a gran escala seguirá siendo problemático mientras las empresas no emprendan un cambio fundamental para convertirse en organizaciones impulsadas por una «IA responsable».
Las empresas deberían abrazar esta transformación, ya que la confianza en los sistemas de IA será el factor determinante para decidir con quién merece la pena hacer negocios.
Esta es una guía para ayudarlas a lograr una IA responsable a gran escala.
El aprendizaje automático es una tecnología revolucionaria que ha empezado a transformar de forma fundamental la manera en que operan las empresas. Por ello, no sorprende que las compañías se apresuren a incorporarlo a sus procesos, según informa McKinsey & Company Global AI Survey. Al mismo tiempo, un pequeño porcentaje de estas empresas ha logrado desplegar la inteligencia artificial (IA) a gran escala, un proceso que parece más difícil de lograr debido a los informes periódicos sobre usos poco éticos de la IA y a la creciente preocupación pública por sus posibles repercusiones negativas.
Es probable que estas dificultades persistan mientras las empresas no emprendan un cambio fundamental para convertirse en organizaciones impulsadas por una «IA responsable». En la práctica, esto exige abordar los desafíos de gobernanza asociados a la IA y, a continuación, diseñar y ejecutar una estrategia sólida. Para ayudar a las empresas a desplegar una IA responsable a gran escala, ofrecemos una guía de cinco pasos.
La IA plantea desafíos de gobernanza únicos
Vivimos en un mundo lleno de incertidumbre, y la capacidad de construir sistemas de aprendizaje capaces de afrontar en cierta medida esta realidad básica, descubriendo patrones y relaciones en los datos sin necesidad de ser programados explícitamente, representa una oportunidad inmensa.
Sin embargo, sigue habiendo motivos de preocupación, porque el aprendizaje automático también plantea desafíos de gobernanza únicos. En primer lugar, estos sistemas dependen en gran medida de los datos, lo que incentiva a las empresas a recopilar masivamente datos personales, lo que puede provocar problemas de privacidad en el proceso.
En segundo lugar, recopilar, depurar y procesar datos de alta calidad es una tarea costosa y compleja. En consecuencia, los conjuntos de datos empresariales a menudo no reflejan con precisión el «mundo real». Incluso cuando lo hacen, pueden simplemente replicar o agravar los sesgos humanos y conducir a resultados discriminatorios. Esto se debe a que el bucle de retroalimentación de la IA tiende a amplificar cualquier propensión innata incrustada en los datos.
Por último, la potencia de los sistemas computacionales masivos con capacidades de almacenamiento ilimitadas elimina la opción del anonimato, ya que se tiene en cuenta información detallada sobre el comportamiento personal para permitir la segmentación individual con un nivel de granularidad sin precedentes.
Más fundamentalmente, debido a que los sistemas impulsados por IA evolucionan con los datos y el uso, sus comportamientos son difíciles de anticipar; y cuando funcionan mal, son más difíciles de depurar y mantener. A diferencia del software clásico, no se pueden simplemente corregir las instrucciones dadas al sistema para restablecer la coherencia con su funcionalidad prevista. En pocas palabras, cuando algo sale mal, es más difícil determinar por qué ocurrió e implementar medidas correctivas. En este contexto, un objetivo inocente, como maximizar los ingresos, podría permitir que un sistema de aprendizaje de IA altamente capaz desarrollara formas profundas y difíciles de detectar de engañar al usuario para que gaste más, lo que plantea preocupaciones éticas legítimas.
5 pasos para desplegar una IA responsable a gran escala
Como empresa, ¿cómo despliega con éxito la IA a gran escala mientras mitiga los riesgos mencionados anteriormente? Debe emprender un cambio organizativo fundamental para convertirse en una empresa impulsada por una IA responsable. Para ayudar a guiar ese cambio, ofrecemos el siguiente proceso como punto de partida:
1. Defina qué significa una IA responsable para su empresa: Para asegurarse de que toda la organización avanza en la misma dirección, los directivos deben definir qué constituye un uso responsable de la IA para su empresa mediante un proceso colaborativo en el que participen miembros del consejo, directivos y altos mandos de distintos departamentos. Esto puede adoptar la forma de un conjunto de principios que orienten el diseño y el uso de los servicios o productos de IA. El proceso de redacción de dichos principios debe articularse en torno a una reflexión práctica sobre cómo puede la IA generar valor para la organización y qué riesgos (por ejemplo, la reputación de la marca, la seguridad de los empleados, los resultados injustos para los clientes o el aumento de la polarización en el discurso público) deben mitigarse en el camino.
Importantes actores del sector, entre ellos Google y Microsoft, ya han avanzado en esta dirección y han publicado sus principios de IA responsable. Más empresas deberían seguir su ejemplo. La redacción de tales principios aporta dos beneficios principales. En primer lugar, brinda a todos, en particular a la alta dirección, la oportunidad de formarse sobre la IA responsable. En segundo lugar, puede constituir la base de una estrategia empresarial de IA responsable, detallando cómo su organización prevé construir una cartera de servicios y productos de IA responsable.
2. Desarrollar capacidades organizativas: Diseñar y desplegar sistemas de IA fiables debe ser un esfuerzo que involucre a toda la organización. Requiere una planificación sólida, una ejecución coordinada e interfuncional, formación de los empleados y una inversión significativa en recursos para impulsar la adopción de prácticas de IA responsable. Para poner en marcha estas actividades, las empresas deberían crear un «Centro de Excelencia en IA» interno, que concentraría sus esfuerzos en dos funciones básicas: la formación y el impulso de la adopción.
En efecto, para desempeñar su trabajo, los empleados necesitan formación que les permita comprender cómo se manifiesta el riesgo en sus interacciones contextuales con los sistemas de IA y, lo que es más importante, cómo identificarlo, notificarlo y mitigarlo. Ahí es donde incluso la empresa mejor intencionada puede quedarse corta si se centra exclusivamente en los equipos técnicos. Además, el Centro debe operar en estrecha colaboración con «impulsores» empresariales encargados de supervisar la implementación de soluciones y productos de IA fiables.
3. Facilitar la colaboración interfuncional: Los riesgos son altamente contextuales, lo que significa que las distintas funciones empresariales tienen percepciones de riesgo diferentes. Al diseñar su estrategia, asegúrese de contar con perspectivas complementarias de diversos departamentos para desarrollar un esquema sólido de priorización de riesgos.
Esto reducirá los «puntos ciegos» de la alta dirección y garantizará un mayor apoyo de la plantilla durante la ejecución. Además, debido a que los sistemas de aprendizaje tienden a generar comportamientos no previstos, habrá riesgos que deberán abordarse mientras el sistema esté en funcionamiento. En este caso, será clave una estrecha colaboración interfuncional, coordinada por los responsables de riesgos y cumplimiento, para diseñar e implementar soluciones eficaces.
4. Adoptar métricas de rendimiento más integrales: Actualmente, en el sector, los sistemas de IA suelen evaluarse en función de su rendimiento medio en conjuntos de datos de referencia. Sin embargo, los profesionales e investigadores de la IA reconocen que se trata de un enfoque bastante limitado para evaluar el rendimiento y están investigando métodos alternativos.
Proponemos un enfoque más integral: las empresas deberían, de forma periódica, supervisar y evaluar el comportamiento de sus sistemas en función de sus principios de IA responsable. Desde esa perspectiva, se considera que un sistema tiene un buen rendimiento si su comportamiento es coherente con la definición organizativa de lo que se considera un servicio o producto basado en IA responsable.
5. Definir líneas de responsabilidad claras: Contar con la formación y los recursos adecuados no basta para implementar un cambio duradero si no se logra establecer las líneas de responsabilidad adecuadas. En otras palabras, para hacer lo correcto, los empleados deben tener los incentivos adecuados y ser reconocidos por ello. No sorprende que ese sea uno de los mayores desafíos a los que se enfrentan los profesionales de la IA responsable al informar. Aquí proponemos dos soluciones.
En primer lugar, debe introducir un proceso de revisión, ya sea como parte de la revisión previa al lanzamiento de sus productos de IA o de forma independiente, para asegurarse de que se han tenido en cuenta las consideraciones éticas. Este proceso de revisión debe articularse con un marco organizativo que defina las funciones y responsabilidades de cada equipo implicado, así como un procedimiento de escalamiento que deba seguirse cuando, si es que se produce, exista un desacuerdo persistente, por ejemplo, entre los responsables de producto y de privacidad. En segundo lugar, los empleados que hayan notificado casos de uso problemáticos y se hayan tomado el tiempo de introducir medidas correctivas deberían ser recompensados como parte de su evaluación anual del desempeño.
El camino a seguir
Existe una creciente conciencia entre los líderes empresariales de que se necesita un enfoque responsable de la IA para garantizar el uso beneficioso y fiable de esta tecnología transformadora. Sin embargo, no están seguros de cómo hacerlo a gran escala y, al mismo tiempo, crear valor para sus empresas. Queremos asegurarles que esto es posible, pero requiere un cambio organizativo profundo.
Como ocurre con cualquier cambio importante en la vida, los primeros pasos suelen ser los más difíciles, y esperamos que nuestra guía ayude a los líderes empresariales a afrontar esa fase de transición. También nos gustaría animarles a perseverar, porque, a largo plazo, es probable que las empresas impulsadas por una IA responsable sean las más competitivas. En efecto, la necesidad de confianza en los sistemas de IA no es una tendencia; es el factor determinante que definirá con quién merece la pena hacer negocios.
