Los avances en inteligencia artificial se han utilizado para crear sofisticados sistemas de texto a imagen.
Estos generadores de imágenes a partir de texto con IA, que ya utilizan millones de artistas digitales, han suscitado preocupaciones por la desinformación, el contenido dañino, la protección de los derechos de autor y los sesgos.
«Debe gobernarse y regularse en consecuencia», afirmó el principal responsable de plataformas de inteligencia artificial del Foro.
El número de generadores de imágenes a partir de texto con inteligencia artificial (IA) disponibles aumenta rápidamente y ofrece al público una gama de nuevas herramientas para crear imágenes digitales.
El mes pasado, la empresa de desarrollo de IA OpenAI eliminó su lista de espera para DALL·E, un generador de imágenes con IA desarrollado por la organización. DALL·E, cuyo nombre se inspira en el artista español Salvador Dalí y en la película de animación de Disney Pixar WALL-E, crea imágenes a partir de descripciones de texto que los usuarios pueden introducir en el sistema.
Por ejemplo, como se ve en la cuenta de Twitter del director ejecutivo de OpenAI, Sam Altman, un usuario podría pedir a DALL·E que cree una imagen de «una fiesta del té de elefantes en un césped» o «un gato sabio meditando en el Himalaya en busca de la iluminación.»
DALL·E se presentó por primera vez en abril a un grupo selecto de usuarios, entre ellos diseñadores gráficos, autores y arquitectos. En junio, una imagen de DALL·E acaparó titulares tras aparecer en la portada de Cosmopolitan, la primera portada de revista generada por IA, según Cosmopolitan.
«Aunque cada intento solo tarda 20 segundos en generarse, se necesitaron cientos de intentos», afirmó Karen X Cheng, artista digital que contribuyó a producir la portada de Cosmopolitan , explicado en Instagram. «Horas y horas generando y perfeccionando las indicaciones antes de obtener la imagen perfecta».
Las innovaciones y preocupaciones en torno a los generadores de imágenes a partir de texto con IA
DALL·E se desarrolló utilizando un generador de texto de OpenAI conocido como GPT-3. El sistema se actualizó y entrenó para producir imágenes correspondientes a partir de frases de texto complejas, con 12 000 millones de parámetros. Según OpenAI, DALL·E ya tiene más de 1,5 millones de usuarios activos que crean más de 2 millones de imágenes al día.
DALL·E se suma a otros generadores de imágenes con IA que se han presentado al público en los últimos meses. Por ejemplo, en agosto, la organización de investigación en IA Stability.ai lanzó Stable Diffusion, otro generador de imágenes a partir de texto con IA. Google también trabaja en el desarrollo de dos sistemas de texto a imagen llamados Imagen y Parti, acrónimo de Pathways Autoregressive Text-to-Image.
Midjourney es otro generador de imágenes a partir de texto con IA que permite a los usuarios introducir indicaciones a través de Discord, una popular plataforma de mensajería grupal. El sistema atrajo una gran atención en agosto, tras una imagen creada con Midjourney que ganó un concurso de arte en Estados Unidos. El triunfo desató un intenso debate en el mundo del arte sobre los procesos creativos y sobre qué constituye el arte.
Ya se están ofreciendo a la venta y para descarga miles de imágenes generadas por IA ofrecidas para venta y descarga en determinados sitios web de fotografías de archivo. Sin embargo, el uso de generadores de arte con IA ha suscitado una amplia preocupación por los derechos de autor.
En septiembre, Getty Images, una de las principales empresas de medios visuales y suministro de fotografías del mundo, anunció que no aceptaría imágenes generadas por IA en sus distintas plataformas. En un comunicado, la empresa afirmó que la decisión se tomó por responsabilidades en materia de derechos de autor y preocupaciones sobre los derechos de uso.
«Seguiremos apoyando a los creativos que utilizan herramientas, incluidas las que puedan recurrir a la IA, para mejorar sus conceptos originales y su trabajo visual de acuerdo con nuestras políticas de aceptación», añadió el comunicado de Getty Images. «Estamos dispuestos a colaborar con quienes deseen impulsar la IA de manera socialmente responsable y que respete los derechos de propiedad personal e intelectual».
Además, los escépticos han dado la voz de alarma sobre el uso de generadores de imágenes con IA para crear contenido dañino, difundir desinformación y reforzar sesgos y estereotipos negativos. Y aunque algunos sistemas de texto a imagen cuentan con determinadas salvaguardas, como la prohibición de imágenes de figuras públicas como celebridades o políticos, muchas personas han pedido un sistema de gobernanza más estricto para regular el sector.
«El hecho de que las imágenes sean creadas por IA no significa que no deban regirse por principios éticos ni cumplir las leyes y normativas nacionales, por ejemplo, las leyes de privacidad, de protección infantil y de derechos de autor», afirmó Hubert Halopé, principal responsable de plataformas de IA y aprendizaje automático del Foro Económico Mundial.
Los investigadores en IA trabajan para perfeccionar los sistemas de texto a imagen y abordar estas preocupaciones. OpenAI, por ejemplo, ya presentó su segunda versión de DALL·E, DALL·E 2, diseñada para identificar mejor el uso indebido de imágenes personales como rostros individuales y para contrarrestar los sesgos cuando las entradas de texto no especifican la raza o el género. Entre estas entradas podrían figurar «CEO», «bombero» o «médico».
«Según nuestra evaluación interna, los usuarios tenían 12 veces más probabilidades de afirmar que las imágenes de DALL·E incluían personas de diversos orígenes tras aplicar la técnica», afirmó OpenAI en un comunicado.
También se están desarrollando sistemas de texto a vídeo con IA. Y aunque los generadores de vídeo se encuentran en una fase más temprana que los sistemas de texto a imagen, varios se han presentado en los últimos meses.
En mayo, investigadores de la Universidad Tsinghua de China y de la Academia de Inteligencia Artificial de Pekín presentaron un generador de vídeo con IA llamado CogVideo.
Más recientemente, en septiembre, Meta, empresa matriz de Facebook, Instagram y WhatsApp, lanzó Make-A-Video, un sistema de IA que crea breves clips de vídeo a partir de indicaciones de texto. «Este es un avance realmente asombroso», afirmó el director ejecutivo de Meta, Mark Zuckerberg, en Facebook.
«Generar vídeo es mucho más difícil que generar fotos, porque, además de generar correctamente cada píxel, el sistema también tiene que predecir cómo cambiarán con el tiempo», añadió Zuckerberg.
El lanzamiento de Meta se produjo solo unas semanas antes de que Google presentara Imagen Video, un sistema similar de texto a vídeo con IA. En un artículo de investigación, la empresa afirmó que Imagen Video es «no solo capaz de generar vídeos de alta fidelidad, sino también de un alto grado de controlabilidad y conocimiento del mundo, incluida la capacidad de generar vídeos diversos y animaciones de texto en diversos estilos artísticos y con comprensión de objetos 3D».
