Para entrenar modelos de aprendizaje automático que realicen tareas de clasificación de imágenes se necesitan enormes cantidades de datos.
Los conjuntos de datos cuestan millones de dólares y, incluso los mejores, a menudo contienen sesgos que afectan negativamente al rendimiento de un modelo.
Por ello, investigadores del MIT han creado un modelo de aprendizaje automático para la clasificación de imágenes que se entrena con datos sintéticos.
Afirman que puede rivalizar con uno entrenado con datos reales.
Para entrenar modelos de aprendizaje automático que realicen tareas de clasificación de imágenes, como identificar daños en fotografías satelitales tras un desastre natural, se necesitan enormes cantidades de datos. Sin embargo, estos datos no siempre son fáciles de obtener. Los conjuntos de datos pueden costar millones de dólares generarlos, si es que existen datos utilizables, y, incluso los mejores conjuntos de datos, a menudo contienen sesgos que afectan negativamente al rendimiento de un modelo.
Para sortear algunos de los problemas que plantean los conjuntos de datos, investigadores del MIT desarrollaron un método para entrenar un modelo de aprendizaje automático que, en lugar de utilizar un conjunto de datos, emplea un tipo especial de modelo de aprendizaje automático para generar datos sintéticos extremadamente realistas que pueden entrenar otro modelo para tareas de visión posteriores.
Sus resultados muestran que un modelo de aprendizaje de representaciones contrastivas entrenado únicamente con estos datos sintéticos es capaz de aprender representaciones visuales que rivalizan e incluso superan a las aprendidas a partir de datos reales.
Este modelo especial de aprendizaje automático, conocido como modelo generativo, requiere mucha menos memoria para almacenarse o compartirse que un conjunto de datos. El uso de datos sintéticos también puede eludir algunas preocupaciones relacionadas con la privacidad y los derechos de uso que limitan la distribución de determinados datos reales. Además, un modelo generativo podría editarse para eliminar determinados atributos, como la raza o el género, lo que podría abordar algunos sesgos presentes en los conjuntos de datos tradicionales.
«Sabíamos que este método debería funcionar en algún momento; solo necesitábamos esperar a que estos modelos generativos mejoraran cada vez más. Pero nos complació especialmente comprobar que este método a veces incluso supera a los datos reales», afirma Ali Jahanian, científico investigador del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) y autor principal del artículo.
Jahanian escribió el artículo junto con los estudiantes de posgrado del CSAIL Xavier Puig y Yonglong Tian, así como con el autor principal, Phillip Isola, profesor adjunto del Departamento de Ingeniería Eléctrica e Informática. La investigación se presentará en la Conferencia Internacional sobre Representaciones del Aprendizaje.
Generación de datos sintéticos
Una vez que un modelo generativo ha sido entrenado con datos reales, puede generar datos sintéticos tan realistas que resultan casi indistinguibles de los reales. El proceso de entrenamiento consiste en mostrar al modelo generativo millones de imágenes que contienen objetos de una clase concreta (como coches o gatos); después, el modelo aprende cómo es un coche o un gato para poder generar objetos similares.
Básicamente, con solo activar un interruptor, los investigadores pueden utilizar un modelo generativo preentrenado para producir un flujo constante de imágenes únicas y realistas basadas en las del conjunto de datos de entrenamiento del modelo, explica Jahanian.
Pero los modelos generativos son aún más útiles porque aprenden a transformar los datos subyacentes con los que se entrenan, afirma. Si el modelo se entrena con imágenes de coches, puede «imaginar» cómo se vería un coche en distintas situaciones —situaciones que no vio durante el entrenamiento— y, después, generar imágenes que muestren el coche en poses, colores o tamaños únicos.
Disponer de varias vistas de una misma imagen es importante para una técnica denominada aprendizaje contrastivo, en la que se muestran a un modelo de aprendizaje automático numerosas imágenes sin etiquetar para que aprenda qué pares son similares o diferentes.
Los investigadores conectaron un modelo generativo preentrenado con un modelo de aprendizaje contrastivo de forma que ambos pudieran trabajar juntos de manera automática. El aprendiz contrastivo podía indicar al modelo generativo que produjera distintas vistas de un objeto y, después, aprender a identificar ese objeto desde múltiples ángulos, explica Jahanian.
«Fue como unir dos bloques de construcción. Dado que el modelo generativo puede proporcionarnos distintas vistas de una misma cosa, puede ayudar al método contrastivo a aprender mejores representaciones», afirma.
Incluso mejor que los datos reales
Los investigadores compararon su método con otros modelos de clasificación de imágenes que se habían entrenado con datos reales y comprobaron que su método funcionaba igual de bien e incluso mejor en algunos casos que los demás modelos.
Una ventaja de utilizar un modelo generativo es que, en teoría, puede crear un número infinito de muestras. Por ello, los investigadores también estudiaron cómo influía el número de muestras en el rendimiento del modelo. Descubrieron que, en algunos casos, generar un mayor número de muestras únicas daba lugar a mejoras adicionales.
«Lo bueno de estos modelos generativos es que alguien más los entrenó por ti. Puedes encontrarlos en repositorios en línea, de modo que todos pueden utilizarlos. Y no necesitas intervenir en el modelo para obtener buenas representaciones», afirma Jahanian.
Pero advierte de que el uso de modelos generativos tiene algunas limitaciones. En algunos casos, estos modelos pueden revelar datos de origen, lo que puede suponer riesgos para la privacidad, y podrían amplificar los sesgos presentes en los conjuntos de datos con los que se entrenan si no se auditan adecuadamente.
Él y sus colaboradores planean abordar esas limitaciones en trabajos futuros. Otro ámbito que quieren explorar es el uso de esta técnica para generar casos límite que podrían mejorar los modelos de aprendizaje automático. Los casos límite a menudo no pueden aprenderse a partir de datos reales. Por ejemplo, si los investigadores están entrenando un modelo de visión artificial para un coche autónomo, los datos reales no contendrían ejemplos de un perro y su dueño corriendo por una autopista, por lo que el modelo nunca aprendería qué hacer en esta situación. Generar datos de estos casos límite de forma sintética podría mejorar el rendimiento de los modelos de aprendizaje automático en algunas situaciones de alto riesgo.
Los investigadores también quieren seguir mejorando los modelos generativos para poder componer imágenes aún más sofisticadas, afirma.
Esta investigación contó, en parte, con el respaldo del MIT-IBM Watson AI Lab, el Laboratorio de Investigación de la Fuerza Aérea de los Estados Unidos y el Acelerador de Inteligencia Artificial de la Fuerza Aérea de los Estados Unidos.
