La COVID-19 ha alterado nuestros comportamientos y causa estragos en los sistemas de IA.
Los expertos en la materia, que comprenden el contexto en el que opera un sistema de IA, deberían evaluar cómo la crisis de la COVID-19 pudo haberlo afectado.
MIT Technology Review informó la semana pasada de que varios sistemas de IA se están averiando en el contexto de la pandemia de COVID-19. Los sistemas diseñados para tareas que van desde la gestión de inventarios hasta la recomendación de contenidos en línea ya no funcionan como deberían.
El impacto de la crisis del coronavirus refleja una limitación bien conocida de los sistemas de IA: no manejan bien las situaciones nuevas. De hecho, hace dos meses advertí del desafío que supone utilizar la IA durante la crisis de la COVID-19. En ese momento me centré en la dificultad de crear nuevos algoritmos para abordar los problemas de la COVID-19, pero este mismo problema también plantea desafíos para los sistemas de IA preexistentes.
Por tanto, ahora es el momento de revisar los sistemas de IA que su organización tiene actualmente implementados y evaluar si siguen siendo viables en esta era de la COVID-19.
¿Por qué la IA tiene problemas?
Casi todos los sistemas de IA actuales utilizan alguna versión del aprendizaje automático, que funciona examinando grandes cantidades de datos de entrenamiento, generalmente ejemplos pasados de la tarea que intentan aprender (p. ej., ejemplos pasados de fluctuaciones de inventario o de comportamiento en la transmisión de contenidos). Los sistemas de aprendizaje automático buscan patrones en los datos de entrenamiento y, una vez desplegados, utilizan esos patrones para hacer predicciones sobre casos nuevos (p. ej., cuáles serán las necesidades de inventario la próxima semana o qué le gustará a un nuevo usuario determinado).
"Las disrupciones radicales, como la pandemia de Covid-19, pueden implicar que factores completamente nuevos, que ni siquiera forman parte del algoritmo, cobren de repente importancia."
Matissa Hollister
El enfoque del aprendizaje automático funciona bien cuando estos casos nuevos son similares a los ejemplos de los datos de entrenamiento. La capacidad de los algoritmos de aprendizaje automático para identificar patrones sutiles en los datos de entrenamiento puede permitirles hacer predicciones más rápidas y posiblemente mejores que las de un ser humano. Sin embargo, si los casos nuevos son radicalmente distintos de los datos de entrenamiento, y especialmente si estamos jugando con un conjunto de reglas completamente nuevo, los patrones de los datos de entrenamiento ya no serán una base útil para la predicción. Algunos algoritmos están diseñados para añadir continuamente nuevos datos de entrenamiento y, por tanto, actualizar el algoritmo, pero con cambios grandes esta actualización gradual no será suficiente. Para aprender reglas completamente nuevas, los algoritmos de aprendizaje automático necesitan grandes cantidades de datos nuevos.
Además de carecer de ejemplos pertinentes en los datos de entrenamiento, los sistemas de IA pueden fallar si cobran importancia nuevos factores que no se tuvieron en cuenta en el diseño original. Los desarrolladores de IA seleccionan qué información incluir en los datos de entrenamiento, anticipando todos los factores pertinentes para la tarea. Las disrupciones radicales, como la pandemia de COVID-19, pueden implicar que factores completamente nuevos, que ni siquiera forman parte del algoritmo, cobren de repente importancia. Estas situaciones exigirán rediseñar el propio sistema, desde un pequeño ajuste hasta una revisión completa.
Anticipar los problemas de la IA
No todos los algoritmos de IA se enfrentarán a problemas de rendimiento con la COVID-19. Dado esto, podría simplemente confiar en que su sistema no se vea afectado o supervisarlo para detectar caídas de rendimiento. Sin embargo, un enfoque más proactivo consiste en anticipar los problemas y adoptar medidas estratégicas para abordarlos. Anticipar los problemas no requiere necesariamente comprender los aspectos técnicos de la IA. De hecho, es más importante contar con experiencia en la materia, es decir, alguien que comprenda el contexto en el que opera el sistema de IA y cómo la crisis de la COVID-19 lo ha afectado.
El experto en la materia debe examinar dos aspectos del sistema de IA. En primer lugar, ¿cuál es la fuente de los datos de entrenamiento? ¿En qué medida siguen siendo relevantes hoy esos datos? ¿Son las situaciones actuales lo bastante similares a los ejemplos de los datos de entrenamiento como para que los patrones que el algoritmo ha identificado sigan siendo pertinentes?
En segundo lugar, ¿qué factores considera el sistema y qué supuestos sobre causa y efecto están integrados en su diseño? ¿Existen nuevos factores que influyen hoy en los comportamientos y que faltan en el sistema?
Elaborar un plan de acción
Si su análisis sugiere que la pandemia de COVID-19 puede causar problemas en su sistema de IA, tiene varias opciones.
A corto plazo, probablemente será necesario aumentar la supervisión humana. Los seres humanos también nos esforzamos por comprender cómo funciona el mundo en esta era de la COVID-19, pero estamos mejor preparados para afrontar situaciones nuevas en la mayoría de los casos que la IA. Incluso puede ser necesario que los humanos asuman un papel protagonista durante un tiempo. Por ejemplo, Facebook recurre a organizaciones de verificación de datos para identificar inicialmente los casos de desinformación sobre la COVID-19 y, después, combinarlos con un sistema de IA que marque las numerosas variantes de cada uno de estos casos que, de otro modo, desbordarían la capacidad de verificación. A medida que al sistema de IA se le proporcionen más ejemplos de desinformación sobre la COVID-19, aprenderá patrones y será cada vez más capaz de reconocer nuevos casos por sí mismo.
Del mismo modo, si la falta de datos de entrenamiento pertinentes es el problema central de su sistema, puede tratar de recopilar nuevos datos de entrenamiento que se ajusten a las condiciones actuales. Si ha identificado nuevos factores pertinentes que no se consideran actualmente en el modelo, también deberá rediseñar sus sistemas de IA para tener en cuenta estos factores.
Sin embargo, estos pasos pueden no merecer la pena si espera que el contexto vuelva a cambiar radicalmente. En el caso de la identificación de noticias falsas, cabe esperar razonablemente que la desinformación sobre la COVID-19 evolucione lo bastante despacio en el futuro como para que merezca la pena entrenar un sistema de IA que la detecte. La importante repercusión de esta desinformación, así como el gran volumen de datos que ya se están generando, también hacen que este rediseño merezca la pena. En cambio, no está claro que los cambios bruscos en el consumo que han afectado a los sistemas de IA de inventario representen una «nueva normalidad» estable que merezca el tiempo y el coste de modelizar.
La lección más amplia
A pesar de su reputación como tecnología disruptiva, la IA no maneja bien las disrupciones. Aunque la pandemia de COVID-19 ha puesto de manifiesto este problema, se trata de una debilidad persistente. Incluso los cambios lentos pueden acumularse hasta provocar una desviación significativa que amenace a los sistemas de IA. Por tanto, la supervisión y revisión periódicas son necesarias. Sin embargo, en lugar de perderse en los detalles técnicos, el paso más importante para supervisar un sistema de IA es comprender el panorama cambiante. Asegúrese de que el sistema sigue encajando en ese panorama, ya evolucione lentamente o cambie con una velocidad inquietante bajo nuestros pies.
