Se refiere a la creación por parte de una Inteligencia Artificial (IA, en adelante) generativa de contenidos que pueden parecer plausibles, pero son incorrectos o no están respaldados por la información de referencia proporcionada al sistema (Ji et al., 2023). En la práctica educativa, la alucinación constituye un fenómeno crítico que hay que tener en cuenta cuando se emplean herramientas basadas en esta tecnología para diseñar materiales, planificar sesiones o actividades o apoyar la evaluación.
Las alucinaciones pueden estar relacionadas con los datos, el entrenamiento y los mecanismos de generación del modelo (Ji et al., 2023). En tareas de resumen, pueden manifestarse como información que contradice el documento de entrada o que no está respaldada por él (Maynez et al., 2020). Afectan a tareas frecuentes en nuevos entornos docentes vinculados a la IA, como la consulta de conceptos, la elaboración de definiciones, la descripción de procedimientos o la creación de ejemplos. La aparente coherencia de los textos generados puede favorecer que se confíe en información incorrecta (Bender et al., 2021). En la práctica educativa, esto hace necesario verificar los contenidos y promover una alfabetización digital crítica entre el profesorado y el alumnado.
En procesos de formación docente, sea esta inicial o continua, la alucinación se analiza como un riesgo asociado al uso de tecnologías generativas y se relaciona con nociones como la instrucción (prompt), el sesgo o la fiabilidad de los resultados de evaluación. También se vincula con la reflexión sobre el papel del profesorado como mediador crítico y responsable de revisar la calidad de los materiales pedagógicos, incluida su adecuación a los niveles de referencia del MCER y al PCIC.
En los centros y entidades con programas de enseñanza de español que incorporan IA en sus procesos de innovación, la gestión de alucinaciones debe incorporarse a los procedimientos de calidad vinculados al uso responsable de herramientas tecnológicas, así como a la supervisión realizada por el equipo docente en procesos de análisis, diseño y curación de materiales.
La comprensión del fenómeno de las alucinaciones y la verificación de los contenidos pueden contribuir a una integración más segura de la IA generativa en el aula y a la generación de producciones más adecuadas a los objetivos pedagógicos, los contenidos de aprendizaje y los principios éticos de la práctica docente.
