Se refiere a la presencia de tendencias sistemáticas en los datos, en los modelos o en los procesos de toma de decisiones que generan resultados parciales, desiguales o distorsionados (Mehrabi et al., 2021). En el contexto de la Inteligencia Artificial (IA, en adelante) aplicada a la enseñanza de ELE, estos sesgos pueden manifestarse en respuestas que favorecen o infrarrepresentan sistemáticamente determinados grupos, perspectivas o variedades lingüísticas. Pueden estar relacionados con los datos de entrenamiento, las decisiones de diseño del sistema y su contexto de uso (Mehrabi et al., 2021).
Este fenómeno afecta a tareas frecuentes en la práctica docente asistida por IA, como la selección de ejemplos, la generación de materiales o recursos, la descripción de usos lingüísticos, la elaboración de ilustraciones o el análisis de producciones del alumnado. Los modelos de lenguaje pueden reproducir o amplificar estereotipos y representaciones desiguales presentes en los datos de entrenamiento (Bender et al., 2021). En la enseñanza de español, esto exige prestar atención a la representación de las culturas y las variedades lingüísticas en los materiales generados. Por ello, se relaciona de manera directa con la competencia digital del profesor y la del alumno y con la capacidad de analizar críticamente la información generada por los modelos de IA.
En la formación docente, el sesgo se estudia como un elemento central para desarrollar prácticas éticas y responsables en el uso de tecnologías educativas. Permite reflexionar sobre la procedencia de los datos, la desigual o estereotipada representación de colectivos y la necesidad de integrar mecanismos de verificación en el diseño de actividades y en la evaluación. Los sistemas algorítmicos pueden reproducir y reforzar desigualdades sociales, como muestra Noble (2018) en su análisis de los motores de búsqueda.
En los centros o entidades con programas de enseñanza de español que implementan el uso de la IA para gestionar procesos académicos o producir materiales, la detección, el análisis y la mitigación del sesgo se entienden como tareas necesarias para favorecer un uso responsable de estas tecnologías. Este trabajo implica la supervisión realizada por el equipo docente en procesos de análisis, diseño o selección de materiales, con el fin de asegurar que las herramientas utilizadas apoyen los objetivos y contenidos de aprendizaje y respeten la diversidad lingüística y cultural del alumnado. La comprensión de los sesgos y la revisión de los materiales pueden contribuir a un uso más equitativo de estas herramientas y a una mayor adecuación de las producciones generadas a los objetivos pedagógicos, los contenidos enseñados y los principios éticos de la práctica docente.
