La crisis de la COVID-19 plantea nuevas exigencias particulares al liderazgo de los gobiernos y de las empresas.
Las empresas y las agencias que utilicen herramientas de inteligencia artificial y aprendizaje automático deberán desarrollar prácticas de gobernanza aplicables en el mundo real para mantener la confianza de los consumidores a medio y largo plazo.
La crisis de la COVID-19 pone de manifiesto, de forma muy clara, el rápido desarrollo y la adopción de la inteligencia artificial y del aprendizaje automático (IA/AA) para su impacto en entornos reales y en tiempo real. Con o sin virus, los avances tecnológicos (junto con los profundos cambios demográficos en todo el mundo y el cambio climático) garantizan que la próxima década será una de transformación y disrupción. Sin embargo, ya podemos ver que la IA/AA es fundamental en el panorama de la COVID-19; y, cuando se pone en práctica, estas tecnologías requieren una evaluación concertada, una gobernanza cuidadosa y un manejo prudente por parte de las personas que las utilizan. Esta crisis plantea, por tanto, nuevas exigencias particulares al liderazgo de los gobiernos y de las empresas.
Nuestras herramientas más eficaces, inmediatas y distribuidas para limitar la propagación de la COVID-19 se definen, básicamente, como «de baja tecnología»: mantener la distancia física, quedarse en casa, lavarse las manos y mantenerse físicamente en forma, en la medida de lo posible. Nuestras abuelas estarían orgullosas. Pero el complemento de estas medidas, y lo que en gran medida determinará lo bien (y lo rápido) que salgamos de esta crisis, son las herramientas y técnicas impulsadas por la IA/AA, con aplicaciones tan nuevas y fantásticas que todavía no conocemos sus nombres, y mucho menos cómo evaluar o gestionar su promesa y sus riesgos, o cómo integrar sus resultados en estrategias más amplias e instituciones humanas.
¿Qué está haciendo el Foro Económico Mundial frente al brote de coronavirus?
Por simplificar en exceso, cualquier modelo de IA/AA utiliza enormes cantidades de datos históricos para producir predicciones potentes sobre el futuro. Por definición, estas predicciones e ideas superan la capacidad de procesamiento humano, lo que puede considerarse tanto una fortaleza como una debilidad.
La precisión técnica y la calidad de esas predicciones dependen de: a) la calidad, la integridad y la ausencia de sesgos de los datos subyacentes utilizados para entrenar el modelo, b) los datos utilizados para generar la predicción, c) el diseño y la solidez del propio algoritmo y d) lo que ocurre con un modelo cuando se enfrenta a datos e impactos del mundo real.
La idoneidad de que las personas confíen en esas predicciones depende de lo bien que las personas a) definan, seleccionen y alineen los casos de uso con la capacidad actual de la tecnología (por ejemplo, si la herramienta de IA/AA es adecuada para el problema que se pretende resolver), b) diseñen los modelos para evitar sesgos, errores y otros efectos adversos (previstos e imprevistos), c) comprendan y contextualicen el impacto específico de confiar en las predicciones (que varía según el caso de uso) y d) se comprometan con la supervisión activa del funcionamiento de un modelo a lo largo del tiempo.
En otras palabras, los aspectos técnicos de las herramientas de IA/AA son solo la mitad de la historia; la otra mitad es cómo nosotros, las personas, las desarrollamos, utilizamos y gobernamos. Y es aquí donde la actual crisis de la COVID-19 presenta a la vez una oportunidad clave y un desafío clave: al acelerar la adopción de la IA a largo plazo, también acelera la necesidad de que los líderes de los gobiernos y de las empresas presten atención a cómo diseñamos y gestionamos tecnologías potentes y en fase temprana.
Cómo proteger los derechos y valores humanos es objeto de un debate sólido y de los primeros esfuerzos de regulación. Ahora bien, las empresas y los gobiernos ya están tomando hoy decisiones sobre cómo se utilizan estas herramientas y qué repercusiones tendrán. No obstante, todavía no existen normas comunes para la calidad interna ni para los usos externos, ni soluciones válidas para todos los casos en las distintas aplicaciones de la IA/AA. Por ello, cada empresa y cada agencia que utilice herramientas de IA/AA deberá desarrollar prácticas de gobernanza aplicables en el mundo real, a nivel de caso de uso, que reflejen tanto sus misiones más amplias como las normas de mercado en rápida evolución.
De lo contrario, corren el riesgo de sufrir pérdidas evitables de la confianza de clientes y del público, interrupciones de las operaciones, responsabilidad jurídica y crisis de confianza y reputación si no dan prioridad a la gobernanza de estas tecnologías como parte de su labor estratégica y de supervisión más amplia. En algún momento, será impensable que las empresas o las agencias que utilicen herramientas de IA/AA no tengan un plan o una estrategia para gestionar estos riesgos junto con los beneficios. Pero este trabajo debe comenzar ya, ya que esta crisis de salud pública acelera el uso de estas herramientas en entornos con un impacto directo en los pacientes, los profesionales sanitarios y el resto de la población.
La COVID-19 y las cuestiones que plantea
Hoy: acelerar el descubrimiento médico y farmacéutico
Es cierto que la calidad de estas herramientas y su potencial varían, pero, dado que ya se confía en la IA para acelerar la comprensión de las enfermedades y el desarrollo de fármacos, también deberíamos acelerar el trabajo sobre las salvaguardas.
Entre los mayores desafíos de gobernanza figura evaluar la fiabilidad, la seguridad y la equidad de estas herramientas. En muchos casos, un marco de auditoría bien diseñado permitiría a los líderes evaluar si el sistema es fiable, pero esto puede resultar complicado en la práctica.Mañana: permitir la gestión de la población y limitar la propagación de la enfermedad
Se considera ampliamente que el seguimiento de los pacientes con COVID-19 y de sus contactos es fundamental para el esfuerzo por contener la propagación y, en última instancia, aflojar las restricciones a nuestra movilidad y actividad económica. Las herramientas de rastreo de contactos habilitadas por IA/AA que resultaron tan eficaces en Singapur y Corea del Sur es probable que, en alguna forma, lleguen a la UE y a Estados Unidos.
Mientras los gobiernos y las empresas colaboran para debatir las consideraciones sobre privacidad y eficacia, con el objetivo de lograr ambas, es una falsa elección suponer que las entidades deben optar por una u otra. La forma en que se logrará y mantendrá este equilibrio dependerá tanto de lo que exijamos a las características técnicas de las tecnologías como de lo que exijamos a los desarrolladores, a los encargados del tratamiento de datos, a los gobiernos y a los unos a los otros. Más allá de la recopilación y protección de los datos personales, los fines específicos para los que se utilizan, durante cuánto tiempo y en combinación con qué otros conjuntos de datos y tecnologías, y con qué salvaguardas para las libertades civiles, plantean todas cuestiones importantes de cara al futuro. Como otros nos han recordado, establecer una arquitectura de gobernanza de la IA adecuada es inherente a la eficacia de la propia solución.Pasado mañana: reactivar la economía, optimizar los recursos y todo a distancia
Más allá de la gestión de enfermedades concretas, las economías posteriores a la COVID-19 también necesitarán recurrir a herramientas de IA/AA para ponerse en marcha. Se utilizarán en todo, desde la asignación y evaluación de empleados para oportunidades, hasta la reconstrucción de las existencias de las cadenas de suministro, pasando por la impartición y personalización de la educación para millones de estudiantes. La presión para adoptarlas será grande, ya que las empresas se reactivarán con un enfoque en la eficiencia, la flexibilidad y la reducción de costes.
Una cuestión interesante es hasta qué punto los datos históricos permitirán hacer predicciones posteriores a la COVID-19. Cabe argumentar que la capacidad de procesamiento de la IA/AA es clave para que las empresas y los gobiernos comprendan las consecuencias de los profundos cambios que estamos experimentando, y lo hagan con la suficiente rapidez para realizar los ajustes necesarios. Al mismo tiempo, los riesgos de errores y de dependencia excesiva de las prácticas históricas son especialmente elevados. Esto se suma a los conocidos riesgos de sesgo, de resultados descontrolados y de otras características de bajo o alto rendimiento. Y refuerza la necesidad imperiosa de que las empresas integren estas herramientas en sistemas meditados que incorporen la aportación, la experiencia y el contexto humanos.
De la política de IA a la práctica: gestionar la adopción de la IA para lograr el éxito a largo plazo
Todo ello aumenta lo que está en juego para los directivos superiores de las empresas y de los gobiernos, que deben comprender los casos de uso de estas tecnologías, sus capacidades genuinas (frente a las aspiracionales) y las formas especiales en que estas herramientas —diseñadas para superar la capacidad analítica humana— deben gestionarse para garantizar la resiliencia de toda la organización. ¿Cuándo tiene realmente sentido utilizar estas tecnologías, quién las utiliza, cómo se gestionan sus datos, quién es responsable de ellas, cómo se forma a los equipos para desarrollar, evaluar y operar, y cómo se incentiva y mide el cumplimiento a lo largo del tiempo?
«En algún momento, será impensable que las empresas o las agencias que utilicen herramientas de inteligencia artificial y aprendizaje automático no tengan un plan o una estrategia para gestionar estos riesgos junto con los beneficios.»
Karen Silverman, miembro del Consejo Mundial de IA y socia jubilada de Latham & Watkins LLP
No existen soluciones empaquetadas ni válidas para todos los casos. Las políticas generales de IA abundan (algunas muy buenas) y la regulación está en el horizonte. Sin embargo, el reto para las empresas y los gobiernos es cómo poner en práctica estos principios. Esto exigirá un trabajo cuidadoso y minucioso, diseñado para la empresa o el gobierno específicos, los casos de uso y la tecnología. Y diseñado para adaptarse al ritmo vertiginoso del cambio y a los desafíos constantes.
Parte de este trabajo se supervisa mejor a nivel de consejo, con miras a desarrollar estrategias y culturas de IA/AA que fomenten la gobernanza en nombre de la resiliencia y la viabilidad a largo plazo. Parte de este trabajo lo mejor es que lo realice la dirección, apoyando ese trabajo estratégico y cultural, junto con la puesta en práctica de procesos para determinar la calidad y el impacto de las herramientas de IA/AA y de otras tecnologías de vanguardia, y su alineación con la misión de la organización. En todo caso, en la medida en que algunos consejos y directivos ya cuentan con la experiencia específica necesaria para ejercer funciones de supervisión en este entorno en evolución, debemos desarrollarla con rapidez en el mundo posterior a la COVID-19. Asimismo, cualquier recuperación real de esta crisis exigirá que las empresas y las agencias elaboren estrategias, políticas y planes específicos sobre cuándo, dónde y cómo utilizarán estas tecnologías (y cuándo no lo harán).
La IA/AA está haciendo posibles soluciones que antes eran desconocidas y en un plazo de tiempo antes impensable. Estas soluciones serán clave para nuestra recuperación de la crisis actual. A largo plazo, también cambiarán la forma en que trabajamos y nos relacionamos entre nosotros y con la tecnología, cómo elaboramos previsiones y compartimos datos, cómo contratamos y somos contratados, y quién sabe qué sobre nosotros. Hay mucho que esperar con ilusión, y todos podemos contribuir a mejores diagnósticos y terapias, a una menor propagación de enfermedades, y a mercados laborales y cadenas de suministro más eficientes y sólidos. Una recuperación más rápida generará beneficios compartidos. Con un compromiso con una gobernanza práctica y eficaz, podremos mantener esos beneficios a largo plazo.
