Los niños necesitan orientación sobre la IA en la escuela. Pero, ¿quién guía a las escuelas?

La rápida integración de la Inteligencia Artificial (IA) en la sociedad exige una orientación clara en los entornos educativos. Sin embargo, una reciente encuesta mundial realizada por la UNESCO en más de 450 escuelas y universidades puso de manifiesto que menos del 10% contaba con políticas institucionales u orientaciones formales sobre el uso de la IA generativa.

En octubre, el Centro para la Democracia y la Tecnología informó de que el 81% de los padres afirman que sería útil orientar a sus hijos sobre el uso responsable de la IA generativa en las tareas escolares y dentro de las normas escolares. El 72 % de los estudiantes está de acuerdo en que esta misma orientación sería útil para ellos mismos.

Con la orientación adecuada, el uso de la IA en la educación puede mejorar los resultados del aprendizaje, reforzar la instrucción y el bienestar de los profesores y promover la equidad en la educación. Sin embargo, a falta de esa orientación, existe el riesgo de que se produzcan violaciones de la privacidad, medidas disciplinarias desiguales y una aplicación ineficaz de las tecnologías de IA en el contexto educativo.

En un campo tan nuevo, ¿a qué orientación práctica pueden recurrir los líderes a la hora de elaborar directrices para sus sistemas escolares? A continuación se exponen 7 principios prácticos que los educadores, los responsables políticos y los líderes educativos pueden tener en cuenta a la hora de elaborar orientaciones que garanticen el uso responsable y eficaz de la IA en la educación.

1. Propósito: Vincular explícitamente el uso de la IA a los objetivos educativos

La IA debe emplearse con el propósito de apoyar y enriquecer la experiencia de aprendizaje, promover el bienestar de los estudiantes y del personal y mejorar las funciones administrativas. El enfoque debe centrarse en el uso de la IA para ayudar a todos los estudiantes a alcanzar sus objetivos educativos, teniendo en cuenta la equidad, la inclusión y la reducción de la brecha digital. Las herramientas de IA deben estar en consonancia con la visión compartida de la educación, atendiendo a las diversas necesidades de aprendizaje y contextos.

A modo de ejemplo, el distrito escolar de Lower Merion, en Pensilvania, Estados Unidos, afirma: "En lugar de prohibir esta tecnología, a la que los alumnos seguirían pudiendo acceder fuera del campus o en sus redes y dispositivos personales, estamos optando por verla como una oportunidad para aprender y crecer."

2. Cumplimiento: Afirmar la adhesión a las políticas existentes

La implantación de la IA en la educación exige el cumplimiento de áreas clave de la política tecnológica, como la privacidad, la seguridad de los datos, la seguridad de los estudiantes y la propiedad de los datos. Es esencial alinear el uso de la IA con la normativa vigente y las consideraciones éticas, especialmente en lo que respecta a la privacidad de los alumnos y la seguridad de los datos.

3. Conocimientos: Promover la alfabetización en IA

La alfabetización en IA implica comprender cómo funciona la IA, sus limitaciones, implicaciones y consideraciones éticas. Es fundamental dotar a los individuos de los conocimientos y habilidades necesarios para utilizar de forma responsable las tecnologías de IA. Esto abarca elementos de informática, ética, psicología, ciencia de datos y más.

Un ejemplo de ello es el artículo 26 del Marco Regulatorio para el Desarrollo y Uso de la IA de Argentina , que establece: "Se promoverá la capacitación y formación en IA para profesionales, investigadores y estudiantes, con el fin de desarrollar habilidades y competencias necesarias para comprender, utilizar y desarrollar sistemas de IA de manera ética y responsable."

4. Equilibrio: Aprovechar las ventajas de la IA y abordar los riesgos

Aunque la IA ofrece numerosos beneficios potenciales para la educación, es vital reconocer y mitigar sus riesgos. Los sistemas educativos deben proporcionar orientación sobre el uso responsable de la IA, garantizando que apoye los objetivos de la comunidad, como la mejora del bienestar de estudiantes y profesores y los resultados del aprendizaje.

Por ejemplo, en abril de 2023, la Oficina de IA, Economía Digital y Trabajo a Distancia de los Emiratos Árabes Unidos publicó la guía 100 Practical Applications and Use Cases of Generative AI ("100 aplicaciones prácticas y casos de uso de la IA generativa"), que incluye casos de uso detallados para estudiantes, como esbozar un ensayo y simplificar conceptos difíciles.

5. Integridad: Fomentar la integridad académica

La IA presenta retos y oportunidades en relación con la integridad académica. Es importante abordar los riesgos de plagio al tiempo que se utiliza la IA para hacer hincapié en valores fundamentales como la honestidad, la confianza, la equidad, el respeto y la responsabilidad. Las herramientas de IA pueden ayudar a cruzar información, pero hay que reconocer sus limitaciones para valorar la creación auténtica.

Los profesores deben tener claro cuándo y cómo utilizar la IA en las tareas. A continuación se indican tres niveles de uso de la IA que deben cambiar en función de la tarea.

- Permisivo: Los estudiantes pueden utilizar libremente herramientas de IA para ayudarles en sus tareas, como generar ideas, corregir u organizar contenidos.

- Moderado: Los alumnos pueden utilizar herramientas de IA para partes específicas de sus tareas, como la lluvia de ideas o la investigación inicial, pero el contenido central y las conclusiones deben ser originales.

- Restrictivo: Las herramientas de IA están prohibidas para la tarea, y todo el trabajo debe ser creación original del estudiante.

6. Agencia: Mantener la toma de decisiones humana

Toda toma de decisiones basada en la IA debe permitir la intervención humana y basarse en procesos de aprobación humanos. La IA debe desempeñar un papel consultivo, aumentando, pero no sustituyendo, las responsabilidades de educadores y administradores.

A modo de ejemplo, el Distrito Escolar de Península, en Washington, expuso en su Declaración de Principios y Creencias sobre IA: "La promesa de la Inteligencia Artificial (IA) en el Distrito Escolar de Península es sustancial, no en la sustitución de instructores humanos, sino en el aumento y la racionalización de sus esfuerzos. Nuestra perspectiva de la IA en la educación es comparable a la utilización de un GPS: sirve de guía de apoyo al tiempo que deja el control último en manos del usuario, ya sea el educador o el alumno."

7. Evaluación: Evaluar continuamente el impacto de la IA.

Es fundamental revisar y actualizar periódicamente las orientaciones sobre IA para garantizar que satisfacen las necesidades cambiantes de la comunidad educativa y se ajustan a la evolución de la legislación y la tecnología. Las opiniones de las distintas partes interesadas, incluidos profesores, padres y alumnos, son vitales para la mejora continua.

Nuestro guía AI Guidance for Schools Toolkit, un conjunto de herramientas de orientación sobre la IA para las escuelas, y estos siete principios proporcionan un marco para aplicar la IA en la educación de manera responsable y eficaz. Al adherirse a estas directrices, los educadores y los responsables políticos pueden aprovechar los beneficios de la IA al tiempo que abordan sus desafíos, garantizando un enfoque equilibrado, ético e inclusivo de la IA en la educación.

La iniciativa TeachAI, con más de 70 miembros del comité asesor y 60 autoridades educativas, se dedica a proporcionar recursos para conectar el debate sobre la enseñanza con IA con la enseñanza sobre IA. Inscríbase para recibir información actualizada sobre eventos y futuras publicaciones en TeachAI.org.

Los principios de este blog se han resumido, con la ayuda de ChatGPT, a partir del
AI Guidance for Schools Toolkit, desarrollado por TeachAI, una iniciativa liderada por Code.org, ETS, la Sociedad Internacional para la Tecnología en la Educación, Khan Academy y el Foro Económico Mundial. Consulta el kit de herramientas completo en TeachAI.org/toolkit.