Asistentes de aprendizaje basados en inteligencia artificial: Principios de seguridad y experiencias de implementación en educación superior

Abstract

El capítulo presenta el impacto y las aplicaciones de la Inteligencia Artificial Generativa (IAGen) en educación superior, centrándose en principios de seguridad y experiencias prácticas. Desde finales de 2022, herramientas como ChatGPT y Dall-E han revolucionado los métodos de enseñanza, promoviendo la personalización del aprendizaje y la automatización de procesos educativos. Sin embargo, estas tecnologías también plantean desafíos, como la privacidad de datos, las "alucinaciones" en las respuestas de los modelos, los sesgos inherentes y la dependencia tecnológica.

Para garantizar una implementación segura y ética de la IAGen, los autores proponen siete principios clave: confidencialidad, alineación con estrategias educativas, prácticas didácticas, precisión, comprensión, supervisión humana y entrenamiento ético. Estos principios buscan integrar herramientas de IA de manera alineada con los valores institucionales y las normativas de privacidad.

El capítulo también introduce LAMB (Learning Assistant Manager and Builder), un marco de software diseñado para crear asistentes de aprendizaje seguros y personalizados. Estos asistentes, interoperables con sistemas como Moodle, emplean recuperación aumentada por generación (RAG) para combinar datos específicos con la capacidad de los modelos de lenguaje. Un ejemplo práctico de LAMB se ilustra en un curso de negocios donde se utilizó un asistente para realizar análisis PESTLE y DAFO, mostrando una recepción positiva por parte de los estudiantes.

Finalmente, se concluye que integrar la IAGen en la educación no solo debe enfocarse en su potencial innovador, sino en asegurar una aplicación ética y responsable, alineada con los objetivos educativos. Herramientas como LAMB ejemplifican cómo la IA puede ser una pieza valiosa y segura en los ecosistemas educativos.