A medida que la tecnología se adopta de forma más generalizada, el público debe recibir formación sobre los beneficios y riesgos de la IA generativa.
Regular la IA es importante, pero la industria también debe practicar una participación colectiva proactiva.
Las cuestiones relacionadas con el consentimiento y las campañas de sensibilización pública que destacan casos de uso positivos son áreas clave a tener en cuenta.
Todos hemos oído al menos una de las historias sobre el uso de la IA generativa con fines perniciosos, desde el abogado que presentó un escrito plagado de errores hasta los estafadores que suplantan voces y roban dinero.
Estas historias, y muchas otras, han recorrido los medios de comunicación. Por eso no sorprende que la gente desconfíe de la IA generativa en el mejor de los casos y sea hostil hacia ella en el peor.
Tampoco sorprende que los debates serios sobre la regulación de la IA se estén intensificando, con la Unión Europea acordando recientemente un histórico pacto que establecerá las primeras normas para la IA en el mundo.
Como fundador de Synthesia, una de las primeras startups en desarrollar una plataforma de vídeo con IA, leo estas historias con consternación. Pero confío en que, con el tipo adecuado de participación colectiva con el público, la IA generativa pueda comprenderse mejor y utilizarse como la herramienta transformadora que es. Permítanme explicarlo.
La regulación de la IA de alto riesgo es, sin duda, importante. La ley debe garantizar determinadas protecciones, y en todo el mundo se observan propuestas de regulación cada vez más numerosas, centradas en cuestiones como la puntuación social, la vigilancia predictiva, la manipulación del comportamiento y otros usos indebidos que afectan a los derechos fundamentales de las personas.
También se están introduciendo leyes para garantizar la transparencia y la rendición de cuentas en los procesos de toma de decisiones de la IA, y para abordar las preocupaciones sobre los derechos de propiedad intelectual en los contenidos generados por IA. Además, algunos Estados están aplicando directrices éticas y normas de seguridad, en particular para las tecnologías de IA que interactúan con el mundo físico o se utilizan en el sector público. Estos avances muestran el progreso que estamos logrando para integrar la IA de forma segura en nuestra sociedad.
Sin embargo, estas regulaciones solo llegarán hasta cierto punto en la protección del público frente a los usos perniciosos de la IA. De manera similar, hemos formado al público sobre otras tecnologías nuevas: no todo el mundo se entusiasmó cuando los hogares fueron electrificados, por ejemplo. Tenemos la responsabilidad de explicar cómo se utiliza la IA generativa, qué se puede obtener de ella y qué debe vigilar el público al producir y consumir contenidos de IA generativa.
Como inversores, inventores y usuarios de esta tecnología, somos responsables de hacerlo. Pero, ¿cómo afrontamos una tarea tan trascendental? Estas son algunas estrategias que nos ayudarán a empezar para garantizar que la IA generativa haga avanzar a la sociedad de manera responsable:
1. Consentimiento
Es de vital importancia que nos aseguremos de que el público comprenda y las empresas apliquen normas de consentimiento que protejan la imagen de los usuarios. Las personas deben entender qué significa usar su voz, su cuerpo y sus pensamientos para crear contenidos generados por IA, y sentirse cómodas con las normas sobre cómo pueden utilizarse esos contenidos. Las distintas empresas pueden tener formas diferentes de obtener este consentimiento según cómo funcionen sus productos, pero en Synthesia pedimos a cualquier persona que cree un avatar personalizado que dé su consentimiento verbal ante la cámara antes de que empecemos a capturar las grabaciones de vídeo y audio necesarias.
2. Marcas de agua
Esto ayudará a las personas a entender, desde el momento del consumo, cuándo los vídeos son sintéticos y, quizá, a aplicar una perspectiva diferente al analizar lo que están viendo. También se están realizando muchos esfuerzos similares en toda la industria, y creo que las marcas de agua acabarán convirtiéndose en una expectativa estándar del sector que los consumidores aprenderán a buscar.
3. Campañas de sensibilización pública
Sabemos que la IA ha llegado para quedarse. Sabemos que se invertirán muchos miles de millones de dólares en ella y que cambiará con rapidez a medida que mejore. Corresponde a quienes formamos parte de este sector destinar una parte importante de esa financiación a crear conciencia pública sobre estas herramientas y a enseñar a los estudiantes de todas las edades a usar y consumir la IA. Estas campañas deberían incluir tutoriales gratuitos y contenidos educativos para que los consumidores comprendan cómo funciona la IA y cómo puede utilizarse para bien o para mal. Las empresas que desarrollan estos productos obtendrán múltiples beneficios, como generar confianza y credibilidad entre el público y captar usuarios, al crear estas campañas y contenidos educativos.
4. Ejemplos positivos
En relación con esto, es esencial que nosotros, como empresas que proporcionamos tecnología de IA, eduquemos mediante la exposición a casos de uso positivos de la IA lo antes posible. Es fundamental mostrar al público cómo la IA puede usarse para el bien, para que no le temá su poder, sino que pueda aprovecharla de la mejor manera para sí mismo. Un ejemplo positivo de la IA generativa es hacer que los contenidos sean accesibles para públicos diversos, por ejemplo, doblando películas y series de televisión a distintos idiomas. Dado que los usuarios están deseosos de acceder a la tecnología de IA, debemos crear herramientas que la gente pueda usar con facilidad. Contar con una población que no solo sepa identificar cuándo la IA se usa para bien o para mal, sino que también entienda cómo se fabrica, será nuestra mejor salvaguarda.
¿Cómo está el Foro Económico Mundial creando salvaguardas para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Las oportunidades que ofrece la IA generativa son infinitas. Me siento afortunado de desarrollar esta tecnología nueva y apasionante cada día. Pero también sabemos que la IA es una tecnología novedosa y, en ocasiones, confusa para la mayoría de las personas. Es nuestra responsabilidad hacerla más accesible, transparente y segura para aprovechar todo su potencial. Espero que el resto de la industria se una a mí para formar al público, y deseo que llegue el día en que haya más buenas noticias sobre la IA que malas.
