Cómo alinear negocios y educación en tiempos de IA generativa

La IA generativa — sistemas de algoritmos entrenados en grandes conjuntos de datos para generar textos, imágenes u otros contenidos — ha llegado a las aulas. Las herramientas de IA generativa son atractivas: pídele a la máquina que responda a una pregunta de redacción, que cree un plan de trabajo o que revise un texto escrito y, como por arte de magia, lo hará. Pídele que haga un resumen de 500 palabras de Otelo en interfaces como ChatGPT de OpenAI o Claude de Anthropic y aparecerá un resumen conciso en cuestión de segundos. Las dos compañías ofrecieron a los estudiantes universitarios acceso gratis a niveles más avanzados de sus servicios en la primavera de 2025 — justo a tiempo para los exámenes finales.

Estas promociones, perfectamente sincronizadas, revelan cómo las empresas que desarrollan IA comprenden las fuerzas que actúan en la educación de los estudiantes. Los estudiantes utilizan la IA para gestionar su tiempo limitado, la presión y las tareas que consideran de poco valor. Algunos casos recientes también ponen de relieve cómo, para algunos estudiantes, el uso de la IA se ha vuelto tan omnipresente, y los resultados tan irresistibles, que no pueden imaginar hacer sus tareas escolares sin ella. Si los estudiantes recurren cada vez más a la IA generativa para completar sus tareas, ¿están realmente recibiendo una educación?

Aquí es donde divergen los objetivos educativos y los incentivos comerciales. Mientras que las empresas priorizan los resultados, el uso a gran escala y la monetización, el aprendizaje es un proceso lento, deliberado y cíclico. Las herramientas de IA generativa que acortan este proceso pueden erosionar la motivación y el desarrollo de habilidades. Peor aún, si las instituciones adoptan la IA para aumentar el volumen de evaluaciones, ofrecer currículos centralizados impregnados de 'basura de IA' o sustituir las funciones docentes, corremos el riesgo de diseñar herramientas que optimizan la eficiencia, pero no el desarrollo. Como escribió Timothy Cook, profesor de tercer grado: "Estamos priorizando la educación como producto en detrimento del proceso de aprendizaje." La participación de los alumnos en el proceso de aprendizaje es, en realidad, más valiosa que cualquier tarea.

En el campo de la investigación sobre IA, el término 'alineación' se refiere a la creación de sistemas de IA generativa que reflejen los objetivos y valores del diseñador. Esto puede incluir la equidad, la privacidad y la justicia, con la intención de evitar que sistemas sofisticados causen daños catastróficos.

Las herramientas educativas que utilizan IA deben compatibilizar claramente el propósito de la educación con las capacidades de estas plataformas. Es contraproducente que un sistema IA generativa escriba ensayos para los estudiantes o dé respuestas incorrectas a problemas de cálculo con total seguridad. Los estudiantes pueden beneficiarse de una mayor personalización de los comentarios y del soporte, y pueden comprender mejor las limitaciones de las herramientas que encontrarán fuera de la escuela, pero si la educación va a la zaga de la industria de la IA generativa, esas necesidades nunca se satisfarán.

Para lograr que un sistema de IA generativa se ajuste plenamente a los objetivos de la educación, este tendría que:

1. Detectar cuándo los estudiantes lo utilizan indebidamente para esquivar el aprendizaje.

2. Ofrecer respuestas de modo que los estudiantes vuelvan a involucrarse en la tarea.

3. Respetar las necesidades cognitivas, emocionales y sociales de los estudiantes.

En la educación, el proceso es importante. Desarrollar habilidades de pensamiento crítico, como interpretar nueva información, analizar los puntos fuertes y débiles de diferentes argumentos y sacar conclusiones lógicas, será útil para los estudiantes independientemente de la carrera o profesión que terminen eligiendo. Los estudiantes desarrollan estas habilidades a través de ciclos de práctica que requieren mucho tiempo y reaccionando a los comentarios recibidos. La autorregulación también es una habilidad, y adquirir experiencia en el manejo de tareas exigentes, pero manejables, proporciona a los estudiantes la confianza y las habilidades necesarias para afrontar desafíos dentro y fuera de la escuela.

Los sistemas vigentes de evaluación de los estudiantes subestiman el proceso de aprendizaje y el papel de los educadores como facilitadores insustituibles que guían a los estudiantes a lo largo de ese proceso. Cuando la evaluación se centra en la puntuación de un examen, significa que el resultado es más importante que el proceso. Cambiar ese enfoque para captar cómo se desarrollan los conocimientos y las habilidades, cómo estos se transfieren de un contexto a otro y cómo se profundizan con el tiempo sería un marco más adecuado para alinear los objetivos educativos y los de la IA generativa.

Esto no significa que IA generativa no tenga ningún papel en la educación. Significa que debemos construirla en colaboración con los educadores, para los alumnos y en contra de una lógica empresarial extractiva.

Los educadores experimentados cuentan con un repertorio de habilidades y métodos para mejorar el proceso de aprendizaje mediante el uso de la tecnología. El sector de la IA haría bien en aprender de ellos. Para satisfacer plenamente las necesidades de los estudiantes, los educadores deben participar en el diseño conjunto de las herramientas de IA generativa —y no solo ser consultados o tener acceso a formación sobre cómo integrar la IA en el currículo, como algo secundario. La participación de los educadores no es solo una cuestión ética, sino que es esencial para crear herramientas que promuevan un aprendizaje efectivo. Colaborar con los docentes en el diseño permite alinear los sistemas de IA generativa con los conocimientos y las mejores prácticas adquiridos en el aula.

¿Qué valores incorporaremos en el diseño de las herramientas IA generativa? Algunas herramientas de IA generativa y enfoques para integrar la IA generativa en las clases subrayan sus capacidades como "colaboradora intelectual", estructurando interacciones para estimular el trabajo de los alumnos, en lugar de producirlo. Mejorar esas capacidades diseñándolas en colaboración con los educadores es un componente importante para hacer frente a este cambio radical en la tecnología educativa.

Hemos demostrado que la tecnología funciona en el aula cuando involucra a los educadores, está orientada a los estudiantes, despierta la curiosidad y permite el descubrimiento. Las herramientas de IA generativa han sido criticadas por su acceso desigual para los distintos usuarios, por utilizar desconsideradamente textos protegidos por derechos de autor en sus conjuntos de entrenamiento, por su consumo intenso de energía y recursos hídricos y por proporcionar resultados erróneos, sesgados, engañosos o peligrosos. Quizás cada uno de estos problemas pueda resolverse con un liderazgo responsable y conocimientos técnicos de ingeniería.

Sin embargo, el proyecto de la educación en la sociedad no consiste simplemente en ofrecer de manera eficiente un conjunto de respuestas correctas. El diseño de IA generativa para la educación no puede tener éxito sin los educadores; si las tendencias actuales continúan girando en torno a los resultados del trabajo de los estudiantes, en lugar de los procesos de aprendizaje, puede que, como dice el informático Stuart Russell, "logremos exactamente lo que pedimos, pero no lo que queremos".

Jessica Ochoa Hendrix, CEO y cofundadora de Killer Snails, también ha contribuido a este artículo.