Escuelas, colegios y universidades deben adaptarse con rapidez a la IA generativa.
Ahora la UNESCO ha elaborado las primeras orientaciones mundiales para el uso de la IA generativa en la educación.
El Foro Económico Mundial también aborda los “cambios educativos” en sus Recomendaciones de Presidio sobre IA generativa responsable.
Apenas recuperados de la pandemia, escuelas y universidades comienzan el curso académico 2023-24 con un nuevo desafío al que hacer frente: la IA generativa.
Mientras algunas instituciones educativas prohibieron inicialmente el uso de ChatGPT cuando se lanzó en noviembre del año pasado, principalmente por la preocupación de que pudiera facilitar las trampas, ahora se trata de establecer normas básicas y directrices sobre el uso de la IA generativa.
Las primeras orientaciones para la IA generativa en la educación y la investigación, una iniciativa de la UNESCO concebida para “abordar las perturbaciones” causadas por la tecnología, ya está disponible para ayudar en este proceso. Mientras los países siguen definiendo su enfoque de gobernanza, las orientaciones “ayudarán a los responsables políticos y a los docentes a aprovechar al máximo el potencial de la IA en beneficio del interés primordial de los estudiantes”, afirma Audrey Azoulay, directora general de la UNESCO.
El Foro Económico Mundial y AI Commons tienen objetivos similares con sus 30 recomendaciones orientadas a la acción recogidas en las Recomendaciones de Presidio sobre IA generativa responsable. Estas directrices, fruto de la reunión de 100 líderes de opinión y profesionales en una cumbre mundial celebrada en abril de 2023, giran en torno a tres temas clave: el desarrollo responsable de la tecnología, la colaboración internacional y el progreso social, que incorpora los “cambios educativos”.
¿Cuáles son las directrices de la UNESCO sobre la IA en la educación?
Menos del 10 % de las escuelas y universidades cuentan con orientaciones formales sobre IA, según la UNESCO. Sus nuevas orientaciones proponen ocho medidas concretas que las instituciones educativas podrían adoptar para garantizar “una educación de calidad, equidad social e inclusión”.
1. Promover la inclusión, la equidad y la diversidad lingüística y cultural
El sesgo se identificó desde el principio como un problema de los modelos de IA generativa, y la tarea de los gobiernos y las instituciones es ahora nivelar el terreno de juego de la IA. Con este fin, la UNESCO afirma que deben adoptarse medidas para garantizar que todos tengan conectividad a internet y acceso a las aplicaciones de IA; deben establecerse criterios para eliminar los sesgos de género o culturales, y los sistemas de IA generativa deben evolucionar para incluir datos en múltiples idiomas, especialmente en lenguas minoritarias.
2. Proteger la capacidad de decisión humana
Existe el peligro de depender en exceso de la IA generativa y perder de vista nuestra capacidad de decisión humana, lo que compromete “el desarrollo de las capacidades intelectuales”, advierte la UNESCO. Uno de los enfoques que el informe recomienda para contrarrestar esta posibilidad es prohibir selectivamente la tecnología en situaciones “en las que privaría a los estudiantes de oportunidades para desarrollar capacidades cognitivas y habilidades sociales mediante la observación del mundo real”.
¿Cómo crea el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios generar una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
3. Supervisar y validar los sistemas de IA generativa para la educación
Este punto reconoce la necesidad de una supervisión continua de la IA generativa a medida que la tecnología sigue evolucionando. Deben establecerse controles y contrapesos para garantizar que “los sistemas de IA generativa utilizados en la educación y la investigación estén libres de sesgos”, y que los niños y los “estudiantes vulnerables” comprendan lo que implica el consentimiento informado. El informe añade que “las instituciones y los educadores deberían estar dispuestos y en condiciones de adoptar medidas rápidas y sólidas para mitigar o eliminar … contenidos inapropiados”.
4. Desarrollar competencias en IA, incluidas las habilidades relacionadas con la IA generativa, para los estudiantes
La UNESCO afirma que los gobiernos deberían comprometerse a ofrecer currículos de IA en escuelas y universidades, “así como para el aprendizaje permanente”. También deberían ofrecerse programas adaptados para los trabajadores de más edad y los ciudadanos “que puedan necesitar aprender nuevas habilidades”.
5. Desarrollar la capacidad de los docentes e investigadores para hacer un uso adecuado de la IA generativa
Por supuesto, no son solo los estudiantes quienes utilizan la IA generativa. Una reciente encuesta en EE. UU. reveló que hay más docentes que alumnos que la utilizan, y un profesor admitió que MagicSchool, una herramienta de IA generativa para educadores, le había permitido “recuperar su verano” después de planificar un año de lecciones con esta tecnología. Sin embargo, la UNESCO afirma que solo siete países se centran actualmente en programas de formación en IA para docentes y que las políticas futuras deben “permitir a los docentes crear herramientas específicas basadas en la IA generativa para facilitar el aprendizaje en el aula y en su propio desarrollo profesional”.
6. Promover opiniones plurales y expresiones plurales de ideas
Los estudiantes y los educadores deben acercarse a la IA generativa comprendiendo que es “una fuente de información rápida pero con frecuencia poco fiable”, entrenada principalmente con “visiones del mundo dominantes”. Saber evaluar de forma objetiva las respuestas de la tecnología es fundamental para proteger “las opiniones minoritarias y las expresiones plurales de ideas”, señala el informe.
7. Probar modelos de aplicación con relevancia local y construir una base de pruebas acumulativa
Parte del sesgo de la IA es que los modelos de IA generativa se entrenan sobre todo con información del hemisferio norte, lo que significa que el Sur Global y las comunidades indígenas están infrarrepresentados. La UNESCO pide que las herramientas de IA generativa “sean sensibles al contexto y a las necesidades de las comunidades locales”, y recomienda que los casos de uso en la educación y la investigación reflejen con precisión las prioridades educativas, “y no la novedad, el mito o el bombo”.
8. Revisar las implicaciones a largo plazo de forma intersectorial e interdisciplinaria
Los proveedores de IA, los educadores, los investigadores, así como los representantes de padres y estudiantes, deben colaborar en “ajustes a nivel de todo el sistema” en los planes de estudio para mitigar los riesgos y aprovechar el potencial de la IA generativa, afirma la UNESCO.
“Todos debemos tener presente que la IA generativa podría … transformar los sistemas establecidos”, concluye el informe. Las herramientas de IA no deberían socavarnos, entrar en conflicto con nosotros ni usurpar nuestro papel, afirma la UNESCO. Para garantizar que eso no ocurra, “la transformación de la educación y la investigación [mediante la IA generativa] debe ser examinada rigurosamente y dirigida por un enfoque centrado en el ser humano”.
