GRIAL resources
Permanent URI for this communityhttps://repositorio.grial.eu/handle/123456789/1
Browse
64 results
Search Results
Item Inteligencia híbrida: retos y límites de la automatización con inteligencia artificial(Grupo GRIAL, 2026-07-17) García-Peñalvo, Francisco JoséConferencia plenaria invitada de 0,5 horas de duración, impartida en las I Jornadas Internacionales sobre Utilización de Recursos Tecnológicos y Técnicas de Inteligencia Artificial Aplicadas a la Neuropsicología y la Neurología: Retos y Oportunidades, celebradas en la Escuela Politécnica Superior de la Universidad de Burgos el 17 de julio de 2026. Se plantea una idea central: el futuro de la inteligencia artificial en la educación no debería orientarse a sustituir a docentes y estudiantes, sino a construir sistemas de inteligencia híbrida en los que las capacidades humanas y artificiales se complementen. Frente al mito de una automatización total, se propone pasar de una visión de reemplazo a otra de ampliación. La IA puede asumir tareas repetitivas, analizar grandes volúmenes de datos o generar contenidos, mientras que las personas mantienen el propósito, el juicio crítico, la creatividad, la empatía y la responsabilidad en la toma de decisiones. La inteligencia híbrida se define como la capacidad de alcanzar objetivos complejos combinando inteligencia humana y artificial, con resultados superiores a los que cada una obtendría por separado. Esta colaboración exige distribuir adecuadamente el control. El modelo de seis niveles de automatización muestra un continuo que abarca desde la actuación exclusiva del profesorado hasta la automatización total. En educación, la automatización condicional se presenta como el punto de equilibrio más razonable: la tecnología puede actuar con cierta autonomía, pero el ser humano conserva la supervisión y puede recuperar el control en cualquier momento. Este enfoque también amplía el significado del aprendizaje híbrido. Ya no se trata únicamente de combinar presencialidad y formación en línea, sino de integrar espacios, IA, datos y responsabilidad. Los datos pueden provenir de plataformas educativas, de trabajos del alumnado y de señales multimodales. Sin embargo, más datos no significan necesariamente un mejor aprendizaje. Las evidencias directas, como las interacciones y los productos elaborados, deben tener prioridad frente a señales biométricas o conductuales, cuyo uso puede introducir vigilancia, errores de interpretación, sesgos y riesgos para la privacidad. La adopción de la IA debe ajustarse al impacto de cada actividad. En tareas de bajo riesgo puede servir como apoyo responsable para generar borradores, ejemplos o retroalimentación inicial. En situaciones de colaboración guiada debe existir trazabilidad, revisión crítica y aportación humana significativa. Cuando la IA interviene en la evaluación, la acreditación o en decisiones sensibles, son necesarias evidencias de autoría, auditorías, revisión humana y controles reforzados. Cuanto mayor sea el impacto, mayor debe ser el rigor documental. Se advierte también sobre tres problemas frecuentes: la desconexión entre los modelos y la realidad pedagógica, la fragilidad metodológica de algunas investigaciones y la falta de confianza causada por sistemas opacos. Por ello, la alfabetización en IA no puede reducirse al manejo instrumental. Requiere verificar los resultados, reconocer sesgos, comprender los límites, declarar el uso de las herramientas y mantener la agencia humana. La propuesta final combina principios éticos, herramientas controladas por el profesorado y escenarios de adopción gradual. La tecnología debe adaptarse a la pedagogía, y no al contrario. El objetivo es avanzar hacia una IA educativa con más humanidad, más evidencia y más responsabilidad. Este resumen se ha generado con ChatGPT 5.6 Sol (inteligencia media) el 14 de julio de 2026, tomando como fuente la presentación para la conferencia y, posteriormente, ha sido revisado y corregido por el autor.Item IA e Investigación educativa: Consideraciones éticas(Grupo GRIAL, 2026-07-09) García-Peñalvo, Francisco JoséLa conferencia “IA e Investigación educativa: Consideraciones éticas” se ha impartido en la Escuela de Verano SEP – Iniciarse en el proceso de investigación educativa: Claves para el Doctorado, celebrada en el Campus María Zambrano de Segovia de la Universidad de Valladolid el día 9 de julio de 2026, con una duración de 1 hora. La conferencia plantea una cuestión muy concreta: la inteligencia artificial ya forma parte del trabajo investigador, pero su presencia no convierte la investigación en un proceso automático. En educación, donde se trabaja con personas, datos sensibles, trayectorias formativas y decisiones con impacto real, usar IA exige algo más que la habilidad técnica: criterio. La IA generativa puede ayudar en muchas fases del ciclo de investigación. Puede servir para organizar tareas, explorar ideas, formular hipótesis iniciales, revisar la literatura, redactar borradores, traducir, programar, clasificar información o visualizar datos. Bien empleada, permite ganar tiempo para pensar mejor. Pero ese es precisamente el punto: no debe usarse para pensar menos. Su valor académico se evidencia cuando libera carga operativa sin desplazar la responsabilidad intelectual del investigador. El problema no es solo ético. También es científico. Una respuesta plausible no equivale a evidencia. Las alucinaciones, las referencias inventadas, los sesgos ocultos, la falsa objetividad o la dependencia cognitiva pueden deteriorar la calidad del conocimiento producido. En una tesis, pedirle a la IA que complete lo que no se ha leído genera una deuda epistémica difícil de detectar. Por eso, toda cita, dato, categoría o inferencia relevante debe contrastarse con fuentes primarias, el diseño metodológico y el juicio experto. La privacidad ocupa un lugar central. Antes de entregar información a una herramienta, hay que preguntarse qué datos se comparten: personales, sensibles o institucionales. En investigación educativa, subir transcripciones completas, datos de menores, observaciones de aula identificables o información contextual reidentificable puede cruzar una línea roja. La regla práctica es clara: anonimizar, minimizar, justificar y documentar antes de procesar. La conferencia también conecta estas decisiones con marcos de referencia como la UNESCO, la AI Act, el Safe AI in Education Manifesto, el ICMJE, el COPE y las guías editoriales de Wiley. Todos convergen en ideas similares: supervisión humana, confidencialidad, transparencia, declaración de uso, revisión crítica y responsabilidad no delegable. La conclusión es sencilla y exigente. La IA puede asistir, pero no puede ser autora, directora metodológica ni garante ética. La decisión final, la interpretación, la defensa del proceso y la rendición de cuentas siguen siendo humanas. Sin un humano en el bucle, no hay investigación educativa rigurosa, explicable y defendible.Item Dirección y tutorización de tesis doctorales(Grupo GRIAL, 2026-06-02) García-Peñalvo, Francisco JoséCurso impartido en el ICE de la Universidad Politécnica de Madrid (ETSI Caminos) el día 2 de junio de 2026, dentro del Plan de Formación del Profesorado del Curso 2025-2026, con una duración de 2 horas. En este seminario se plantea la dirección doctoral como una práctica de gobierno académico que combina supervisión científica, cumplimiento normativo y acompañamiento profesional. El seminario parte del marco regulador del doctorado en España, con especial atención al Real Decreto 99/2011 y sus modificaciones, así como a la normativa universitaria, la escuela de doctorado y los requisitos propios de cada programa. La idea central es que no se acepta solo un tema de tesis, sino una relación de trabajo viable, regulada y evaluable. El curso organiza el proceso de dirección en trece bloques. Comienza con el marco normativo, el tiempo de permanencia y la entrevista inicial, entendida como un filtro para valorar el encaje científico, la motivación, los recursos, la disponibilidad, las expectativas, los riesgos éticos y la compatibilidad de los estilos de trabajo. A partir de ahí, se aborda el acuerdo de supervisión, con reglas explícitas sobre reuniones, entregas, revisión de textos, autoría, datos, confidencialidad, IA y resolución de conflictos. La presentación concede un espacio específico a los roles del director/a, tutor/a, comisión académica y doctorando/a, así como al diseño estratégico de la codirección, que debe justificarse por su valor real y no por cortesía académica. El primer año aparece como un momento decisivo: debe elaborar un plan de investigación, un plan de formación personal y un documento de actividades que permitan hacer visible el progreso. Se profundiza en la construcción de la tesis desde la idea hasta la estructura: estado de la cuestión, preguntas, objetivos, hipótesis, metodología y evidencias. La revisión bibliográfica se presenta como una tarea continua, orientada a situar la tesis y justificar su aportación, mientras que las evidencias de progreso incluyen publicaciones, congresos, borradores, datos, código, estancias, formación e informes de reuniones. La presentación también incorpora internacionalización, cotutela, mención industrial, ciencia abierta, ciencia ciudadana e IA generativa. En estos apartados se insiste en la planificación temprana, la transparencia, la trazabilidad, la protección de datos y la responsabilidad humana. Finalmente, el depósito y la defensa se entienden como fases que se preparan desde el inicio: informes externos, subsanación, control de originalidad, propuesta de tribunal, depósito y defensa pública. El seminario culmina con un kit operativo de plantillas para aceptar una dirección, entrevistar al doctorando, protocolizar la codirección, hacer seguimiento anual, planificar la formación y gestionar datos de investigaciónItem AI Governance Strategies: A University Perspective(GRIAL Research Group, 2026-05-13) García-Peñalvo, Francisco JoséKeynote at the T4E Transformational Leadership Programme, held 13-14 May 2026 in the University of Alicante, Spain. This keynote argues that universities must move beyond viewing artificial intelligence as a mere technological trend and recognise it as a core challenge for institutional governance, digital transformation, and academic responsibility. The presentation begins by framing digital transformation and AI as key terms in higher education government, but immediately questions a technology-centred view. Digital transformation is presented not only as the optimisation of processes through technology, but as a change in mindset, operating models, and institutional culture. Its central element is people, not tools. The talk then defines the real challenge for universities: rethinking digital transformation from digitising processes to governing AI-enabled sociotechnical ecosystems with meaningful human oversight. AI is shown as affecting the three main university functions: teaching, administration, and research. In teaching, it enables personalised learning and engagement; in administration, automation and efficiency; and in research, data analysis and discovery acceleration. However, the presentation stresses that AI also creates risks: bias, opacity, legal non-compliance, privacy breaches, academic integrity concerns, dependence on third-party providers, and uneven access. A major section focuses on responsible AI adoption through the Safe AI in Education Manifesto, whose principles include human oversight, confidentiality, alignment with educational strategies and didactic practices, accuracy, explainability, comprehensible interfaces, ethical model training, and transparency. These principles map to university governance strategies: human-oriented, infrastructure-oriented, and a governance/assurance layer. The presentation also highlights the need for ethical AI policies, critical AI literacy, communities of practice, and shared good practices. The keynote further explores the strategic dilemma between relying on third-party proprietary tools and developing one’s own infrastructure based on open LLMs. It argues that there is no single best option: universities must evaluate privacy, cost, internal capacity, transparency, auditability, deployment speed, and strategic autonomy. In-house intelligent applications, such as learning assistants, are presented as examples of governed institutional services. The closing message is that AI governance must be strategic, participatory, and ethical. Universities should not merely adopt AI systems but build an AI-augmented academic culture grounded in values, critical engagement, institutional responsibility, and human-centred innovation.Item El papel de las instituciones para garantizar la equidad en el conocimiento y en el acceso a la inteligencia artificial(Grupo GRIAL, 2026-06-18) García-Peñalvo, Francisco JoséParticipación en la sesión “Equidad en el conocimiento e IA: ecosistemas colaborativos y soberanía informacional en la adopción de la IA generativa”, organizada por la Knowledge Equity Network (KEN), la Open Education Latin America (OELATAM) y la Universidad Nacional del Sur (UNS) de Argentina, celebrada online el 18 de junio de 2026, con una duración de una hora. Mi intervención sitúa la equidad en el conocimiento y el acceso a la inteligencia artificial como una responsabilidad institucional, no como una consecuencia automática de la disponibilidad tecnológica. El punto de partida es que las universidades deben repensar su transformación digital: ya no basta con digitalizar trámites o incorporar herramientas aisladas, sino que deben gobernar ecosistemas sociotécnicos habilitados por la Inteligencia Artificial (IA), con supervisión humana significativa, criterios de calidad académica y rendición de cuentas. Desde esta perspectiva, la IA puede contribuir a la excelencia educativa en la docencia, la administración y la investigación, pero solo si se integra con sentido pedagógico, garantías éticas y capacidad institucional. El Manifiesto para una IA segura en la educación ofrece un marco operativo basado en siete principios: supervisión humana, confidencialidad, alineación con las estrategias educativas y las prácticas didácticas, precisión y explicabilidad, interfaces comprensibles, formación ética y transparencia. Estos principios deben traducirse en políticas, procesos y decisiones de gobernanza que conecten la innovación con la equidad. Un eje central de la intervención es la alfabetización crítica en IA generativa. La formación de estudiantes, profesorado y personal de gestión no debe limitarse al manejo instrumental de herramientas, sino que debe orientarse a verificar antes de adoptar, proteger la privacidad, promover la inclusión, mantener explícita la agencia humana y documentar los procesos de toma de decisiones. Las comunidades de práctica y la compartición de buenas prácticas son claves para construir conocimiento colectivo, contextualizado y transferible. También se aborda la tensión entre la dependencia de productos externos y el desarrollo de infraestructuras propias basadas en modelos abiertos. No existe una única opción óptima: cada institución debe evaluar la privacidad, la protección de datos, los costes, la capacidad interna, la velocidad de despliegue, las necesidades de personalización, la transparencia, la auditabilidad y la autonomía estratégica. En muchos casos, las estrategias híbridas serán las más realistas, siempre que estén cuidadosamente gobernadas. Finalmente, se presentan los asistentes LAMB como ejemplo de infraestructura abierta para crear asistentes de IA integrados en sistemas de gestión del aprendizaje. Este enfoque permite desplegar asistentes vinculados a bases de conocimiento institucionales, con control docente, trazabilidad, revisión de interacciones y orientación al aprendizaje. La tesis central es que la IA generativa puede servir a la equidad si las universidades asumen la soberanía informacional, la gobernanza responsable, la formación crítica y la colaboración abierta como condiciones para una adopción con un impacto sostenible, verificable y alineado con la misión pública.Item How to Conduct a Systematic Literature Review?(GRIAL Research Group, 2026-06-22) García-Peñalvo, Francisco JoséTraining course for doctoral students organized by the ICE and the EID of the Polytechnic University of Madrid, lasting 4 hours, taught on June 22 and 23, 2026, in online format. The main purpose of this training activity is to introduce researchers to conducting systematic literature reviews (SLRs). It begins with the need to conduct literature reviews to understand the state of the art, distinguishing between the concepts of a literature review and a systematic review. Several types of systematic reviews are presented, with special emphasis on the two most commonly used approaches: systematic literature reviews and literature mapping studies. Once the basic concepts are established, the main methodological frameworks for conducting systematic reviews are introduced. The three major phases of a systematic review (planning, conducting, and reporting) are described in detail. The course concludes with a simple case study of a systematic literature mapping review. The specific objectives of the course are: 1. To know what is meant by systematic review of the literature. 2. Evaluate the effort required to conduct a systematic review of the literature. 3. Plan a systematic review of the literature. 4. Conduct a systematic review of the literature. 5. Capture the work done in a report or research article. The contents of the seminar are: 1. Introduction to systematic reviews 2. Systematic literature reviews vs. Literature mapping reviews and Scoping reviews 3. Methodological frameworks of reference for systematic literature reviews 4. Planning phase 5. Conducting the review phase 6. Reporting phase 7. Case study 8. Bibliometrix 9. Collection of workflows and tools for conducting literature reviews 10. ConclusionsItem Model of Characterization of Teamwork Competence Based on Three Types of Capabilities(Springer, 2025-07-15) Fidalgo-Blanco, Ángel; Sein-Echaluce, María Luisa; Fonseca, David; García-Peñalvo, Francisco Joséhere are various teamwork models with different orientations regard-ing the conceptual model, member involvement, evidence management, and even the training process for acquiring teamwork-related skills. This research defines a hybrid model that integrates the two main theoretical models (focused on group achievements and team member involvement) and an open-box method (with continuous generation and verification of both group and individual evidence). Therefore, teamwork competence is associated with a set of capabilities of dif-ferent types, classified into three main categories: group, individual, and general (soft skills), which are related to teamwork but not exclusive to it. This paper also presents the evidence that allows for continuous and transparent training and evaluation of these three types of capabilities.Item Enhancing Learning Assistant Quality Through Automated Feedback Analysis and Systematic Testing in the LAMB Framework(Springer, 2025-06-22) Alier-Forment, Marc; Pereira-Valera, Juanan; Casañ-Guerrero, María José; García-Peñalvo, Francisco Joséhe Learning Assistant Manager and Builder (LAMB) is an open-source software framework that lets educators build and deploy AI learning assis-tants within institutional Learning Management Systems (LMS) without cod-ing expertise. It addresses critical challenges in educational AI by providing privacy-focused integration, controlled knowledge bases, and seamless deploy-ment through standard protocols. This paper presents major enhancements that enable systematic quality assurance and continuous improvement of these learning assistants. The new LAMB includes mechanisms for structured feedback on real-world assistant behavior, transforming it into a test suite with curated prompts and expected correct or incorrect responses. When changes are made—such as prompt engineering, retrieval-augmented generation optimization, or knowledge base expansions—this suite enables automated validation of their impact. A key innovation is using frontier large language models (LLMs) to evaluate responses automatically, generating detailed reports that reveal improvement areas and confirm performance gains. This systematic feedback-driven testing fosters continuous refinement while preserving quality standards. Validation studies show measurable boosts in reliability and consistency. In various educational contexts, the framework identifies edge cases, maintains con-sistency across iterations, and provides actionable insights. Automated testing is especially beneficial for assistants with extensive knowledge bases and complex interaction patterns. This work advances educational AI by providing a robust methodology for quality assurance and ongoing improvement of learning assistants. Its structured feedback and automated evaluations ensure alignment with educational goals while refining assistants over time. The enhanced LAMB framework offers a scalable and reliable solution for educators aiming to integrate AI-driven support into their LMS environments.Item AI-Powered DICOM Image Segmentation: A Collaborative Platform for Continuous Expert Feedback(Springer, 2026-03-01) Santos-Blázquez, Pablo; Vázquez-Ingelmo, Andrea; García-Holgado, Alicia; García-Peñalvo, Francisco José; Sánchez-Puente, Antonio; Sánchez, P. L.his work presents the development of an interactive web platform that integrates deep learning techniques for the segmentation of cardiac ultra-sound (echocardiogram) images. The platform incorporates a Picture Archiving and Communication System (PACS) to facilitate the seamless visualization, anno-tation, and automated processing of DICOM images. The web platform features an intuitive interface that allows healthcare professionals to interactively annotate medical images, providing feedback that directly informs model improvements. The system’s retraining workflow ensures that AI-driven segmentation remains adaptable to real-world clinical needs. These findings underscore the importance of iterative AI model refinement through expert feedback, paving the way for more reliable and personalized medical image analysis.Item Alfabetización en IA y su impacto en el empleo(Grupo GRIAL, 2026-05-11) García-Peñalvo, Francisco JoséParticipación en el curso “La IA en la búsqueda de empleo”, organizado por el Servicio de Empleo y Emprendimiento (SIPPE) de la Universidad de Salamanca, con el tema “Alfabetización en IA y su impacto en el empleo”, de 4 horas de duración, impartido el 11 de mayo de 2026. El material de la sesión “Alfabetización en IA y su impacto en el empleo” se estructura como un recorrido que abarca desde la activación inicial del grupo hasta una comprensión básica (pero rigurosa) de la IA y, finalmente, a su aterrizaje en el mercado laboral y en la búsqueda de empleo. Empieza con una dinámica de “romper el hielo” para diagnosticar el punto de partida del alumnado: un semáforo de familiaridad con la IA (de “no he usado IA” a “la uso a menudo y sé comparar resultados”), un sondeo rápido sobre las herramientas utilizadas (ChatGPT, Gemini, Claude) y un mapa de usos reales (estudio, trabajo y búsqueda de empleo). También incorpora una “línea de posición” para debatir mitos y miedos: desde “la IA me ayuda y me da ventaja” hasta “la IA pone en riesgo mi empleo”, conectando con el contexto social del cambio tecnológico y con el “shock del futuro”. A partir de ahí, se define qué es la Inteligencia Artificial desde distintas perspectivas: se reconoce la dificultad de definirla debido a la coexistencia de paradigmas, se introduce la definición de McCarthy y se incluye la de la Comisión Europea, que enfatiza sistemas capaces de analizar su entorno y actuar con cierto grado de autonomía. Se distingue entre IA fuerte y débil, y se presentan tipologías (ANI, AGI, ASI) y ámbitos de aplicación (derecho, medicina, industria, educación, etc.), para evidenciar que la IA ya opera en múltiples dominios. El bloque “cómo funciona una IA” utiliza una analogía pedagógica (un bebé que aprende) para explicar conceptos como modelo, datos, entrenamiento y evaluación, y para diferenciar entre el aprendizaje supervisado, el no supervisado y el por refuerzo. Se introduce el ajuste fino (fine-tuning) como una especialización, lo que refuerza la idea de que no existe un modelo universalmente excelente para todo: la especialización y el contexto importan. En la parte de Inteligencia Artificial Generativa se enmarca la disrupción asociada a los grandes modelos de lenguaje (LLM) y a la popularización de las interfaces conversacionales. Se explican, de forma accesible, conceptos como token, probabilidad de la siguiente palabra, parámetros y ventana de contexto. Se ofrece un panorama de técnicas (GAN, GPT, modelos de difusión, etc.), beneficios (productividad, creatividad, aprendizaje informal) y riesgos (alucinaciones, sesgos, privacidad, dependencia, impacto ambiental), con especial atención a las alucinaciones y sus tipos: contradicciones, errores factuales o matemáticos y citas inventadas. El tramo de mercado laboral aterriza en el ATS (Applicant Tracking System): un software que recibe, parsea y organiza las candidaturas, permite filtrar por palabras clave y prioriza una lista para su revisión humana. De ahí se derivan reglas prácticas: CV legible para el sistema y convincente para la persona, secciones estándar, texto real (evitar imágenes para datos clave), ítems claros con logros medibles y palabras clave coherentes sin “relleno”. Se enseña a identificar keywords en la oferta (técnicas, transversales, tareas y “knockout”) y dónde ubicarlas en el CV. Finalmente, se presenta cómo “traduce” la IA un perfil (experiencia → competencias inferidas → evidencias/logros → keywords) y se propone un proceso guiado con herramientas: crear cuentas, probar prompts y realizar un caso completo de oferta → requisitos → viñetas STAR y versión ATS. Como cierre, se subraya que el chat parece fácil, pero la calidad depende del prompt y del contexto; y que hay que verificar, medir y mantener la autenticidad.