INTERSOSTENIA: Ciencia, Desarrollo e Innovación por la convergencia de saberes | Año 01 – Nº2 – Sept-Dic 2026
Marco Antonio Román Villegas
Universidad Internacional de La Rioja en México/ Universidad Tecnológica de Queretaro UTEQ
ORCID: 0009-0004-4238-3166
E-mail: marcoantonio.roman@unir.net
Liliana Benítez Jaimes
INEDIB Instituto para la Educación Integral del Bachiller
ORCID: 0009-0006-4733-7841
E-mail: liliana.benitez@inedib.edu.mx
Juan Manuel Peña Aguilar
Universidad Internacional de La Rioja en México (UNIR México)/Universidad Tecnológica de Querétaro (UTEQ)
ORCID: 0000-0002-7605-238X
E-mail: juanmanuel.pena@unir.net
La educación superior virtual persigue dar respuesta a la demanda de modelos formativos sostenibles, inclusivos y éticos en el contexto de una evolución digital y de la paulatina agregación de la inteligencia artificial (IA). La intención de esta investigación es analizar las condiciones pedagógicas, éticas y organizativas a cumplir para la implementación de aplicaciones de IA relacionadas con la tutoría o con el seguimiento académico desde una óptica de sostenibilidad educativa. El estudio plantea un diseño mixto explicativo secuencial, en una fase cuantitativa, mediante un cuestionario con escalas tipo Likert dirigido a estudiantes, docentes y tutores, para seguir con una fase cualitativa sobre la base de entrevistas semiestructuradas que profundizan en las percepciones, experiencias y tensiones que se identificaron. La discusión se desarrolla a partir de cuatro dimensiones: gobernanza ética institucional, tutoría académica apoyada, inclusión digital y evaluación sistemática. El análisis argumenta que la IA puede ayudar a garantizar la continuidad de las trayectorias, la personalización y la detección anticipada de riesgos, sin embargo, puede dificultar la privacidad, la existencia de sesgos algorítmicos, la vigilancia, la dependencia tecnológica y el desplazamiento del juicio profesional. Se concluye que su contribución a la sostenibilidad educativa quedará supeditada a la consideración de que pueda ser utilizada como un apoyo a la decisión humana, de manera transparente, asegurando salvaguardar los datos, accesibilidad, la supervisión docente y la responsabilidad institucional.
Palabras clave: sostenibilidad educativa; inteligencia artificial; educación superior; educación virtual; ética; tutoría; inclusión digital; gobernanza.
Virtual higher education seeks to address the growing demand for sustainable, inclusive, and ethical educational models within the context of digital transformation and the progressive integration of Artificial Intelligence (AI). The purpose of this study is to analyze the pedagogical, ethical, and organizational conditions required for the implementation of AI applications related to academic tutoring and student monitoring from the perspective of educational sustainability. The research adopts a sequential explanatory mixed-methods design. The quantitative phase consists of a questionnaire using Likert-scale items administered to students, faculty members, and academic tutors, followed by a qualitative phase based on semi-structured interviews aimed at exploring in greater depth the perceptions, experiences, and tensions identified during the quantitative stage. The discussion is structured around four key dimensions: institutional ethical governance, AI-supported academic tutoring, digital inclusion, and systematic evaluation. The findings suggest that AI can contribute to ensuring the continuity of students’ educational pathways, enhancing personalized learning experiences, and enabling the early identification of academic risks. However, it may also give rise to challenges related to privacy, algorithmic bias, surveillance, technological dependency, and the displacement of professional judgment. The study concludes that AI can effectively contribute to educational sustainability only if it is implemented as a transparent decision-support tool that complements, rather than replaces, human judgment while ensuring data protection, accessibility, faculty oversight, and institutional accountability.
Keywords: educational sustainability; artificial intelligence; higher education; virtual education; ethics; tutoring; digital inclusion; governance.
La educación universitaria en procesos de aprendizaje virtual se ha ido configurando, representando un nuevo acceso a la educación superior, diversificando las rutas educativas, satisfaciendo así nuevas exigencias sociales, laborales y tecnológicas; sin embargo, la proliferación de esta modalidad también evidenció los desafíos más relacionados con la lógica de continuidad de los itinerarios del alumnado, de la calidad del seguimiento formativo, la disminución de las discrepancias en el acceso, de la alfabetización digital, del tratamiento y la gestión de los datos educativos, así como de la capacidad de las instituciones para garantizar la continuidad con calidad de los procesos formativos. Desde esta perspectiva, el concepto de sostenibilidad educativa no debería hacer referencia solamente a la continuidad en el funcionamiento de los programas formativos, sino al poder de las instituciones para garantizar condiciones de aprendizaje justas, igualmente inclusivas, pertinentes y éticamente responsables.
La IA ha llegado incipientemente a la educación universitaria a modo de sistemas de analítica del aprendizaje, tutores inteligentes, asistentes conversacionales, sistemas de recomendación, herramientas de feedback automatizadas, plataformas que favorezcan a la toma de decisiones de la educación entre otros. Hay investigación que sostiene que estas tecnologías/tratamientos podrían servir para el acomodamiento de las experiencias de aprendizaje, el reconocimiento de las necesidades del alumnado y la compatibilidad con las posibilidades de seguimiento formativo en los entornos digitales (Crompton & Burke, 2023; Zawacki-Richter et al., 2019). No obstante, la incorporación de la IA en el ámbito de la formación universitaria también plantea numerosas preguntas críticas sobre temas como la privacidad y la confidencialidad, la transparencia, la autonomía, la parcialidad, la vigilancia, la responsabilidad del profesorado o la justicia educativa (Nguyen et al., 2023; Williamson & Eynon, 2020).
Desde la visión de la sostenibilidad educativa, la pregunta no giraría tanto en torno a si la IA puede eficientar los procesos académicos, sino que lo haría en torno a las condiciones bajo las cuales podría contribuir a una formación universitaria en modalidad virtual más justas, humanas y socialmente responsables. La literatura más reciente advierte que la IA educativa no debería asumirse como un recurso desinteresado, como sucedería, con el agua, por ejemplo, puesto que su diseño, su implementación y su evaluación están marcados por decisiones de carácter institucional, pedagógico, económico y ético (Holmes et al., 2022; UNESCO, 2023).
Cuando se opta por la educación virtual como modalidad de aprendizaje, existe el riesgo de caer en la soledad, en la deserción o en el atraso, cuando no existen, a su vez, mecanismos adecuados de seguimiento, de respuesta y de apoyo académico por parte de la institución. Para ese instante del proceso, la IA nos puede dar oportunidades significativas, poniendo en marcha alertas tempranas, revisando la participación, sugiriendo recursos e inclusive proporcionando apoyo inicial a las dudas más frecuentemente formuladas (Luckin, 2018; Siemens, 2013).
En este trabajo queremos proponer la IA como recurso para la sostenibilidad de los términos de formación en la educación superior a distancia, en la medida que esta IA se introduzca desde un enfoque responsable de las instituciones educativas. Un enfoque que, por cierto, es antitético a los enfoques tecnocéntricos, según los cuales la innovación educativa no es más que una forma de incorporar recursos tecnológicos. Lejos de ello, este enfoque implica que toda innovación debe evaluarse desde su capacidad de coadyubar a la equidad, a la inclusión, a la calidad pedagógica, a la toma de decisiones del estudiante y a la salvaguarda de derechos.
PROBLEMA DE INVESTIGACIÓN
La adopción acelerada de la inteligencia artificial en la formación superior en línea está creando importantes expectativas de mejora en el seguimiento formativo, en la eficacia de las instituciones educativas y en la adaptación de las experiencias de aprendizaje. Sin embargo, muchas instituciones no tienen marcos claros desde los cuales formar de manera ética, pedagógica y sostenible su utilización, lo cual puede generar un uso fragmentado, improvisado o poco transparente de herramientas inteligentes con riesgo para la privacidad y la confidencialidad, la equidad, la autodeterminación de los estudiantes y el reconocimiento del profesorado.
La ampliación de la matrícula en las titulaciones de virtualidad ha transformado la interpretación de lo que hay que entender por seguimiento formativo. En el entorno del aula presencial, gran parte de estas señales de dificultad se recogen mediante observación, manteniendo una conversación espontánea o bien entablando una conversación informal. En el espacio del aula virtual, de modo mayoritario, buena parte de esas señales quedan mediatizadas a través de los registros digitales que deben ser interpretadas. La falta de participación en el momento de estar dentro de un espacio virtual, la tardanza en la presentación de un producto, la reducción del tiempo de conexión puede dar cuenta de la expertise sobre las dificultades que percibe el estudiante, pero no ayudan a clarificar qué es lo que ha conducido a la situación. La lectura institucional de esos datos es de alto riesgo, debe tomarse en consideración el contexto y también tienen que existir vías de contacto que se aúnen a escuchar la experiencia del estudiante antes de hacerla evidente y tener que valorar la performance o la implicación que demuestra.
Otro aspecto de la cuestión tiene que ver con las capacidades institucionales para adoptar y regular las nuevas tecnologías. Algunas universidades tienen áreas específicas, estrategias de datos, grupos de innovación, personal formado en el uso de aplicaciones de IA. En contraposición, otras universidades son capaces de incorporar en sus actividades pedagógicas soluciones de mercado sin pasar por un análisis pedagógico, jurídico y ético a favor de articular modelos de uso dispares, desde modelos de experiencia muy controlados y seguidos, hasta experiencias donde cada docente decide individualmente qué aplicación utilizar, qué información compartir o cómo hacer uso de sus resultados en un proceso de evaluación que, en muchos casos, no es evaluado antes de entrar en el proceso de tutoría.
Por eso el problema no es determinar si la IA hace las cosas bien o si va a contribuir a optimizar la gestión del tiempo. La consistencia del problema es pensar de qué manera puede ser implementada sin debilitar el vínculo didáctico, sin aumentar desigualdades, y sin convertir la práctica de enseñanza-aprendizaje en una sucesión de decisiones opacas. La respuesta requiere incluir en su artículo la dimensión técnica, la práctica docente, la organización institucional, el resguardo de la información personal y las condiciones sociales de los estudiantes. Solo desde esta visión amplia la evaluación se podrá dar cuenta de la contribución real al mantenimiento de la educación superior a distancia.
OBJETIVO
Analizar las condiciones pedagógicas, éticas y organizativas necesarias para implementar aplicaciones basadas en IA orientadas al seguimiento y la tutoría académica en educación superior virtual, desde una perspectiva de sostenibilidad educativa.
La investigación se aborda bajo un diseño de tipo mixto de carácter explicativo, ya que posibilita la combinación de una primera fase cuantitativa, encauzada a identificar las directrices generales de la percepción, al tiempo de una segunda fase cualitativa, dirigida a profundizar en las experiencias, en los sentidos y en las tensiones que fundamentan los resultados. Este tipo de diseño de investigación resulta ser, a nivel metodológico, el adecuado de llevar a cabo cuando se desea interpretar un fenómeno de carácter complejo, que como tal involucra dimensiones medibles y dimensiones interpretativas (Creswell & Plano Clark, 2018).
El diseño de investigación y el enfoque metodológico coinciden con una visión sociocrítica, puesto que el objetivo de la investigación no se limita a describir el uso de la IA dentro de la modalidad virtual, sino que busca cuestionar los supuestos por ella misma elaborada acerca de la equidad, la justicia educativa, la capacidad de decisión que puede tener el estudiante y la responsabilidad que tienen las instituciones. Desde esta visión, la tecnología no se percibe como un recurso neutro, sino como una construcción social que, a partir de las circunstancias en las que se desarrolla, puede reproducir o transformar relaciones de poder (Selwyn, 2019).
La secuencia cuantitativa-cualitativa permitirá, igualmente, una selección intencionada de las personas participantes en las entrevistas. Los resultados que proporciona el cuestionario pueden dar lugar tanto a dimensiones con altos acuerdos como a posiciones divididas o repartidas, e incluso a diferencias con respecto a los perfiles propios de las personas participantes en la investigación. En función de esas tendencias cobrarán sentido determinadas tendencias configurativas que pueden llevar a convocar a personas cuyas experiencias permitan matizar dicha contradicción. Supongamos que los estudiantes muestran una mayor preocupación por la privacidad y la confidencialidad que no los docentes.
En tal caso, la etapa hermeneútica cualitativa permitirá explorar en cada una de las situaciones concretas qué ha llevado a interpretar previamente esa priorización de su aspecto privado y qué tipo de condiciones pueden ser consideradas necesarias para recuperar la confianza.
Diseño de la investigación
La estrategia metodológica mixta de corte explicativa se desarrollará en 2 fases secuenciales. La primera fase será cuantitativa y consistirá en la ejecución de un instrumento estructurado de consulta a estudiantes, docentes y tutores académicos implicados con programas de educación superior en modalidad virtual. El instrumento utilizará una escala de valoración tipo Likert para identificar percepciones sobre utilidad, confianza, riesgos, condiciones de uso y valoración de la función del profesorado respecto a la IA.
La segunda fase será cualitativa y se llevará a cabo mediante entrevistas guiadas con un esquema semiestructurado. Su finalidad es profundizar en los hallazgos cuantitativos, principalmente en lo concerniente con la privacidad y la confidencialidad, sesgos, autonomía, seguimiento formativo, participación digital inclusiva y gobernanza institucional. La fase cualitativa servirá para interpretar cómo las partes implicadas en la educación atribuyen significados a la presencia de IA en sus trayectorias formativas y en sus prácticas docentes. La etapa cuantitativa será orientada hacia la consecución de un mapa panorámico de las percepciones de la comunidad educativa. El cuestionario se podrá estructurar en pequeños y claramente diferenciados bloques para limitar la fatiga de los participantes e incrementar la posibilidad de ser bien entendidos. En adición a los reactivos de tipo Likert, se tendrá en consideración una parte de datos generales asociada con el rol académico, la experiencia en la modalidad virtual, la frecuencia de uso de las aplicaciones que incorporan IA y el tipo de actividades en las cuales se han incorporado. Estos datos permitirán indagar si las percepciones cambian en función de la proximidad real hacia la tecnología y el rol formativo que ocupa cada participante en el proceso formativo.
La última integración corresponderá a una lectura cruzada de las dos fuentes disponibles, de la que se podrán construir matrices de tendencias, testimonios, coincidencias y divergencias. El propósito no será sentar que la única verdad se refiere a un método respecto del otro (una manera de tener validez respecto del otro), sino, hacer una mejor explicación. Una media alta de la utilidad percibida puede ser la contraposición a testimonios que adviertan de los riesgos importantes. Ello requerirá una interpretación en que se mantenga esa tensión y se haga ver que aceptar una herramienta no significa abrir la puerta a su uso indiscriminado.
Participantes
Se llevará a cabo una muestra intencionada en la que prima la diversidad de edad, trayectoria académica, disciplina, experiencia tecnológica y condiciones de acceso. Se considera relevante la diversidad porque la relación con la modalidad de educación virtual no es uniforme. Existen personas con activa experiencia digital que integran una herramienta sin dificultad, mientras que exixten personas que requieren un mayor acompañamiento. Asimismo, las necesidades pueden diferir entre estudiantes de ingreso reciente, personas adultas que retornan a los estudios, participantes con discapacidad o quienes tienen que combinar la formación con el ámbito laboral y con familia.
Dentro de la etapa cualitativa se considerará la saturación como el instante en el que las entrevistas dejan de aportar categorías sustantivamente novedosas incidiendo sobre los objetivos del estudio que se va realizando y, más concretamente, se busca la profundidad y la variedad de las perspectivas más que la representación estadística.
La convocatoria habrá de evitar dar a entender un sentido de obligatoriedad, sobre todo si los participantes pertenecen a cursos u otros espacios en los que hay una identificación de la autoridad. La invitación ha de decir que la decisión de participar no afectará en la calificación, en las relaciones laborales, en el acceso a servicios, sino que se ofrecerá la posibilidad de anular el consentimiento antes del cierre del análisis. Las explicaciones son importantes para proteger el sentido de libertad de participación y establecer el carácter de autenticidad de las respuestas.
TÉCNICAS DE INSTRUMENTOS
Análisis de datos
Con el objetivo de analizar la información cuantificable se llevarán a cabo procesos estadísticos descriptivos como frecuencias, porcentajes, medias y desviaciones típicas por dimensión. En caso de que exista una cantidad de casos que se ubiquen en una categoría determinada, se hace oportuno realizar el análisis de las posibles relaciones que surgen entre las variables a través de análisis básicos correlacionales. La información de tipo cualitativo será analizada mediante un proceso de categorización temática. Este proceso comprende la lectura inicial, la identificación de las unidades de significado, la elaboración de categorías, la comparación entre discursos y la articulación con los resultados de carácter cuantitativo. Por lo tanto, integrar los resultados hace posible dar cuenta de las tendencias que se habían detectado en la fase inicial a partir de las experiencias y valoraciones de los participantes.
El análisis cuantitativo empezará, en primera instancia, por la depuración de la base, junto con la revisión de aquellas respuestas que no han podido ser completadas. Segundo, se procederá a analizar la distribución de los reactivos y la fiabilidad de las dimensiones. Las estadísticas descriptivas serán la base para detectar tendencias centrales y situaciones de dispersión. Comparar grupos se hará con cuidado desde una lectura de los tamaños de la submuestra y evitando explicar las diferencias por causas únicas y específicas. La intención será detectar patrones que orienten la interpretación y la elección de temas para la fase cualitativa.
La fase de categorización temática de las entrevistas aglutinará categorías iniciales de los objetivos con las categorías emergentes.
En una primera lectura se identificarán extractos relacionados con beneficios, riesgos, uso, condiciones institucionales y propuestas. En una segunda lectura se instrumentarán vínculos entre categorías, roces y la variación del perfil de los participantes. La comparación constante servirá para afinar el sentido de los temas y evitar dar a una experiencia individual el sentido de tendencia.
El análisis mantendrá la frontera entre la percepción y la evidencia del desempeño. Que una herramienta sea considerada como útil no implica que haya que correlacionar que se esté produciendo una mejora del aprendizaje o de la permanencia. Del mismo modo, el hecho de expresar una preocupación no significa que el desacierto se haya dado. Por otra parte, la discusión requerirá que cada resultado sea situado en su ámbito y que aquélla evite trabajos causales que el diseño no avala. Esta prudencia será una buena práctica para una interpretación académica responsable.
Consideraciones éticas y criterios de rigor
El trabajo elaborado comienza considerando el consentimiento libre e informado, la intervención voluntaria, la anonimización de respuestas y el resguardo seguro de la información; no se recabarán datos sensibles innecesarios. En paralelo, se informará a los/as participantes que se trabajará con los datos únicamente para fines académicos. Esta consideración es relevante, dado que la IA educativa tiene una estrecha relación con el uso de los datos personales, las trazas digitales y los patrones de comportamiento académico (Floridi et al., 2018; Prinsloo y Slade, 2017).
El consentimiento libre e informado presentará de forma intuitiva el objetivo del estudio; actividades a solicitar; tiempo de participación estimado; medidas de protección de participantes. Así mismo se indicará que el estudio indaga visiones respecto a la IA, pero no recurrirá al uso de sistemas automáticos para clasificar o puntuar a personas participantes en la investigación. Esa dote con la que se presenta lo parido, constituye un aspecto relevante para disminuir el miedo y asegurar que la determinación última se realiza con conocimiento y consenso.
La anonimización inicia con la reordenación de los datos iniciales. Los nombres de los sujetos que participan en la investigación se reemplazan por códigos, además de la separación de información que puede poner en riesgo la identidad de las personas que son las respuestas proporcionadas en la investigación.
El principio de minimización hará de guía de la forma de contactar con la información. Únicamente se solicitarán datos estrictamente necesarios para los objetivos del análisis, evitando el recopilar datos sensibles que no sean medibles en relación con el discurso. El trabajo realizado no trata de acceder a cómo han sido recibidos sus historiales académicos personales y no a registros de navegación de plataformas. El citado límite delimita el estudio de una práctica de vigilancia y evoca la atención a las percepciones y experiencias mostradas voluntariamente.
Debido a que el estudio se encuentra en fase de diseño, este apartado presenta resultados esperados y una discusión sustentada en la literatura especializada. Los hallazgos se organizan en cuatro dimensiones que permiten valorar la implementación de la IA más allá de su eficiencia técnica: continuidad de las trayectorias, tutoría aumentada, protección de derechos e inclusión digital.
Inteligencia artificial y continuidad de las trayectorias estudiantiles
Uno de los mayores potenciales de la inteligencia artificial en educación superior de entorno virtual, se relaciona con la opción de asegurar la permanencia de las trayectorias de los estudiantes con sistemas de detección anticipada de vulnerabilidad académica. Las plataformas digitales desarrollan datos sobre el acceso, la participación, la entrega de actividades, la interacción con los recursos, el rendimiento académico, etc. Estos datos pueden ser utilizados para poder identificar patrones que den cuenta del rezago, la desmotivación o el riesgo de abandono (Siemens, 2013).
Sin embargo, el uso de la analítica de la educación debe ser capaz de sortear una visión reduccionista del estudiante, ya que, por ejemplo. un bajo nivel de conexiones o de participación no siempre expresa desinterés; también podría estar relacionado con el trabajo, la familia, la economía, la tecnología o la emoción. Por lo tanto, la IA debe ser concebida como sistema de soporte a la decisión, no como máquina de clasificación automatizada. La sostenibilidad educativa requiere la intervención humana, la tutoría contextualizada y la comunicación empática para poder responder ante las alertas tempranas.
Tutoría académica aumentada
La IA puede contribuir a la formalización de modelos de tutoría aumentada por recursos inteligentes, entendida como una forma de tutoría en la cual las aplicaciones automatizadas dan apoyo a tareas específicas, pero el acompañamiento formativo sigue siendo responsabilidad de las personas. Esta visión permite sortear una falsa oposición entre el docente y la IA. La cuestión no consiste en saber si será la tecnología la que sustituya al docente, sino en poder integrarla para la consolidación de su potencial de acompañamiento.
Los asistentes inteligentes pueden ayudar a dar respuesta a preguntas frecuentes, sugerir recursos, facilitar la posibilidad de una retroalimentación inicial, guiar búsquedas de información, proveer apoyo a las tareas de auto-regulación, sin embargo la dimensión humana de la tutoría sigue siendo imprescindible para la interpretación de los contextos, la interpretación de necesidades emocionales, el valor de condiciones concretas y la toma de decisiones fundadas en la ética de la responsabilidad (Holmes et al., 2022; Luckin, 2018).
Los procesos de formación del profesorado se constituyen en un aspecto fundamental para la sostenibilidad de los procesos de enseñanza, ya que no basta con la mera inclusión de recursos tecnológicos, sino que se debe formar a los profesores y tutores en el uso crítico, la evaluación de sesgos, la salvaguarda de la información personal y el diseño de las experiencias de aprendizaje con mediación de IA.
La tutoría aumentada se basa en la distribución consciente de tareas. Las propuestas automatizadas pueden facilitar actividades repetitivas, por ejemplo, guiar sobre fechas, localizar recursos, responder sobre cuestiones administrativas. Esta disponibilidad puede reducir tiempos de espera y asentir que el personal se enfoque en las situaciones que requieren juicio, escucha y acompañamiento.
La mejora no radica en automatizarlo todo, sino en reservar el tiempo humano para lo que tiene un mayor valor formativo.
El tutor conserva la responsabilidad de interpretar la información y decidir cómo actuar. Una recomendación automatizada debe ser entendida como un insumo que debe ser revisado. Conocer la trayectoria del estudiante, su estilo de comunicación y sus circunstancias puede osar en contra de un aviso producido por la máquina. Además, la posibilidad de desviarse de la recomendación es esencial para que la máquina no se convierta en un estamento al que no se le puede discutir.
La evaluación de la tutoría aumentada deberá tener en cuenta la experiencia del personal y los resultados de los estudiantes. Una herramienta que amplifica la cantidad de alertas o requiere la revisión de las respuestas puede ampliar la carga y no disminuirla; la sostenibilidad organizacional requiere observar los tiempos, las responsabilidades y los recursos. El objetivo ha de ser el proporcionar la capacidad de atención si ya precariza el trabajo docente y convierte los tutores en árbitros de los errores de las máquinas.
Privacidad, datos y vigilancia educativa
El uso de la IA en su modalidad en línea supone una recogida, procesado e interpretación de grandes volúmenes de datos, que pueden contener información académica, patrones de navegación, tiempos de conexión, navegación en los foros, entregas de su seguimiento de actividades, resultados de evaluación. Aunque esta información puede ser útil para favorecer el acompañamiento, es evidente que puede generar muchos problemas en correlación con la privacidad, la confidencialidad, el consentimiento y el control de la actividad educativa.
La continuidad de los procesos educativos exige que las instituciones definan expresamente qué datos serán recogidos, con qué finalidad, el ritmo con el cual se encuentran disponibles, quién tiene acceso a ellos y cómo se salvaguarda la identidad de los alumnos. La falta de políticas limpias también puede dar pie a desconfianza y puede mermar la legitimidad de la solución automatizada.
Por otra parte, la cantidad excesiva de datos produce que el seguimiento formativo se convierta en vigilancia permanente que contradice los principios de autonomía y confianza que deben guiar la educación superior (Prinsloo & Slade, 2017; Williamson & Eynon, 2020).
El maridaje datos-educación requiere establecer diferencias entre información necesaria y recolección desmesurada de datos; es decir, una plataforma puede recoger gran cantidad de acciones, pero no todas ellas son relevantes para el seguimiento formativo. La disponibilidad técnica o la posibilidad de recoger datos no justifican por sí mismas el uso de los datos. Cada dato debe asociarse a un determinado fin educativo, a un periodo determinado de conservación y a una persona (o una unidad) responsable. Este criterio contribuye a recortar prácticas invasivas y reduce los riesgos que podrían surgir del almacenamiento de información que no se va a utilizar legítimamente.
La transparencia informativa requiere algo más que una política extensa que apenas es leída por nadie, los estudiantes necesitan de explicitarles aquello que se procesa y las consecuencias que podría tener. Un usuario de un sistema que esté utilizando datos para producir una alarma, debe requerir saberlo y poder dar contexto. El acceso a la información oportuna permite llevar la autonomía a la práctica y hace que el análisis del comportamiento no sea una actividad secreta.
Sesgos algorítmicos y justicia educativa
Las importantes amenazas que enfrenta la IA educativa es, precisamente, la forma en la que se reeditan las distorsiones relacionadas con la lógica algorítmica. De hecho, las soluciones automatizadas se configuran a partir de datos históricos y, por lo tanto, podrían reproducir desigualdades en los estudiantes, si estos datos están impregnados de patrones de exclusión, discriminación y representación desigual.
En la modalidad de educación virtual alguna de las variables puede hacer el papel de sustitutos indirectos de condiciones sociales. El tipo de dispositivo, el horario de la conexión o la continuidad de la participación puede relacionarse con el empleo, las obligaciones familiares o, simplemente, con un acceso desigual a internet. Como consecuencia, la interpretación que el sistema pueda deducir de tales señales puede ser la de una menor implicación; el resultado sería penalizar a aquellos alumnos que toparen con mayores barreras. La revisión humana está vinculada a cuestionar la idea de que sean los datos los que tienen el poder de instaurar el modo de conocimiento descrito para un hecho correlacionando no es el modo de conocimiento que deba considerarse la causa.
La justificativa de la justicia educativa supone también cuestionar de quien son los beneficios de la tecnología. Una herramienta puede favorecer el rendimiento de aquellos estudiantes con un mayor nivel de competencia digital y otorgar poca o nula ayuda a quienes más la necesitan. La institución ha de valorar el acceso sin barreras, la claridad y la facilidad de uso; la iniciativa misma requiere de hacer un acompañamiento. La innovación sólo ha de considerarse como sostenible cuando se trate de ayudar a reducir barreras y no cuando refuercen ventajas previas.
Las auditorías de sesgo han de ser hechas de forma periódica porque los datos y las poblaciones cambian. Un sistema que funcionó de forma aceptable en una etapa puede ser que no funcione ante un cambio curricular o al observar distintos perfiles de ingreso. La evaluación requerirá de incluir indicadores cuantitativos, revisión de casos y participación de la comunidad. La experiencia de los grupos afectados es la única forma que tenemos de poder revisar consecuencias que no pueden necesariamente ser las que aparecen en las métricas técnicas.
El poder impugnar una recomendación debe considerarse una condición de justicia. El estudiante ha de contar con una vía que le permita solicitar revisión, aportar información y una respuesta razonada. Este mecanismo protege derechos y, a la vez, permite detectar fallas del sistema. Las inconformidades han de entenderse como pruebas a las que habría que dar valor de cara a mejorar la herramienta y la política que la regula.
Inclusión digital y accesibilidad
La IA puede favorecer oportunidades para la enseñanza, pero también puede ahondar las brechas si su aplicación no responde a las condiciones reales de acceso a la tecnología. Una educación virtual sostenible requiere garantizar conectividad, un acceso sin barreras, conocimientos sobre el uso de la tecnología, la ejecución de principios de diseño universal para el aprendizaje, o apoyos diferenciados a estudiantes con necesidades de acceso diferentes.
El concepto de la participación digital inclusiva implica tomar conciencia de que no todos los alumnos tienen las equivalentes oportunidades de acceder a la tecnología. Algunos lo hacen a partir de dispositivos móviles, en redes de calidad inestable o en espacios poco apropiados para el estudio; otros tienen que lidiar con barreras de acceso sin defensas, del propio lenguaje o las habilidades digitales. En un contexto como este, la IA tiene que ser desarrollada para favorecer oportunidades, no para incrementar las exigencias tecnológicas que segreguen a aquellas personas que ya están en desventaja (Eynon & Malmberg, 2021).
El lenguaje es otra de las dimensiones de la inclusión. Los sistemas, en función de sus variantes lingüísticas, pueden llegar a responder mejor y, al mismo tiempo, dejar de lado expresiones regionales, estilos de escritura o vocabulario de especialización. La institución debe plantearse si la herramienta conoce la diversidad de la comunidad de la que forma parte y no reproduce estereotipos. La calidad de la interacción no debe quedar determinada solamente por la existencia de condiciones ideales a partir de ejemplos que no corresponden a la práctica cotidiana.
La inclusión se relaciona también con las alternativas no automatizadas. Existen usuarios que prefieren la interacción humana, que tienen problemas de uso o que simplemente deciden no proporcionar ciertos tipos de datos. Contar con otra vía puede evitar que el uso de la herramienta conlleve una suerte de obligación que limite derechos. La calidad de los procesos educativos es más duradera si la tecnología proporciona más opciones y no si las suprime sin dejar ninguna alternativa.
Modelo de implementación responsable
Derivado del análisis anterior, se plantea un modelo de implementación responsable de la IA para la sostenibilidad educativa que integra cuatro dimensiones. El primer componente hace referencia a la dirección institucional ética, ya que incluye políticas institucionales sobre el uso de la IA, protección de la información personal, consentimiento libre e informado, claridad informativa algorítmica, auditoría sobre sesgos y responsabilidad humana en la toma de decisiones. Esta dimensión se relaciona con la necesidad de establecer marcos institucionales que sean capaces de normar el uso de tecnologías emergentes mediante criterios de legitimidad y de rendición de cuentas (Floridi et al., 2018; UNESCO, 2021).
El segundo componente se refiere al acompañamiento pedagógico, ya que considera la IA como apoyo de la tutoría, la retroalimentación, el seguimiento académico y la individualización de las experiencias de aprendizaje. El tercer componente se refiere a la participación digital inclusiva, la cual supone asegurar el acceso equitativo, un acceso libre de barreras, la alfabetización digital y apoyos diferenciados. El cuarto componente es la valoración sistemática y contemplativa para siempre. Nos pide monitorear los efectos de la IA en permanencia, aprendizaje, satisfacción estudiantil, carga docente, equidad y calidad académica.
La primera fase de la implantación debería abordarse a partir de una prueba controlada. Un piloto permite observar situaciones de uso, recoger incidencias y corregir procedimientos antes de la práctica dentro de los otros usos. En ese momento deberían determinarse los indicadores de utilidad, calidad, equidad, carga de trabajo y satisfacción. También se deberá tener en consideración el registro de incidentes y decisiones para corregir los fallos. La extensión sólo debería considerarse en el momento en el cual la evidencia muestra que existen beneficios desde que el uso está consolidado, y riesgos perfectamente asumibles.
La programación ética del aula universitaria prevé una estructura de responsabilidades. Ha de existir una instancia que autorice los usos, reconduzca los incidentes, revise las fuentes o los proveedores y gestione las auditorías. Aun así, la responsabilidad no puede ser atribuida solamente al comité. Docentes, tutores, administradores y usuarios han de conocer sus responsabilidades. La claridad sobre quién decide, quién supervisa y quién responde en caso de donde existe un daño evita los huecos que suelen aparecer cuando la tecnología atraviesa diferentes dimensiones de la institución.
El acompañamiento pedagógico requiere la descripción de escenarios permitidos, condicionados y prohibidos. Las tareas de bajo impacto, como por ejemplo guiar sobre los recursos pueden permitir mayor automatización. Las decisiones que tienen que ver con evaluación, sanciones, admisión y permanencia requieren regulación estricta y revisión humana.
Esta distinción permite ser aplicador del principio de proporcionalidad: a mayor impacto de una decisión en la trayectoria de una persona mayor ha de ser la información clara, la supervisión de una instancia, la posibilidad de apelar.
La dimensión de la inclusión exige contar con los propios indicadores, relativos a ella misma. No puede bastar con que se mida la media de satisfacción. Hay que observar diferencias de uso, abandono, acceso sin barrera y de resultados por grupos. También se recomienda hacer frente de forma directa a las personas con barrera. La evaluación de la equidad requiere la realización de concretos ajustes (interfaz más simplificada, capacitación, exigencias técnicas más bajas y conservar canales de atención alternativos).
La comunicación institucional atraviesa el conjunto del modelo. La comunidad educativa tiene que estar informada de los objetivos, de los resultados e incluso de los cambios que trae la implementación. La claridad de la información hace posible ajustar expectativas irreales y evita que los rumores definan la percepción del resto. Comunicar también significa asumir los límites y los errores. Una institución que comunica con honestidad aumenta su legitimidad y la cultura del aprendizaje compartido.
La inteligencia artificial brinda puntos relevantes para fortalecer la tutoría, agilizar la retroalimentación y detectar de manera temprana dificultades académicas en la educación superior virtual. No obstante, estos beneficios no son automáticos: dependen de la finalidad pedagógica, de la eficacia de los datos, de la vigilancia humana y de la capacidad institucional para prevenir efectos adversos.
Las alertas, recomendaciones o respuestas automatizadas deben funcionar como insumos revisables, contextualizados mediante el diálogo con el estudiante y sujetos a mecanismos claros de corrección e impugnación.
La implementación responsable requiere una gobernanza institucional que delimite usos permitidos, condicionados y prohibidos; establezca responsabilidades; proteja los datos personales; examine sesgos; garantice accesibilidad; y evalúe periódicamente la pertinencia pedagógica, ética y organizativa de las herramientas.
El modelo propuesto articula cuatro dimensiones: gobernanza ética, mediación pedagógica, inclusión digital y evaluación continua. Su aplicación mediante pilotos controlados, indicadores diferenciados y participación de la comunidad educativa permitiría introducir la IA de manera gradual, transparente y susceptible de mejora.
La principal aportación del estudio consiste en situar la IA dentro de un proyecto educativo humanista. La innovación será sostenible cuando amplíe oportunidades, reduzca barreras y fortalezca las capacidades de estudiantes y docentes, sin convertir la experiencia educativa en una secuencia de decisiones opacas o automatizadas.
Creswell, J. W., & Plano Clark, V. L. (2018). Designing and conducting mixed methods research (3rd ed.). SAGE.
Crompton, H., & Burke, D. (2023). Artificial intelligence in higher education: The state of the field. International Journal of Educational Technology in Higher Education, 20, Article 22. https://doi.org/10.1186/s41239-023-00392-8
Eynon, R., & Malmberg, L. E. (2021). Lifelong learning and the Internet: ¿Who benefits most from learning en línea? British Journal of Educational Technology, 52(2), 569–583.
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). IA4People: An ethical framework for a good IA society. Minds and Machines, 28, 689–707. https://doi.org/10.1007/s11023-018-9482-5
Holmes, W., Bialik, M., & Fadel, C. (2022). Artificial intelligence in education: Promises and implications for teaching and learning. Center for Curriculum Redesign.
Luckin, R. (2018). Machine learning and human intelligence: The future of education for the 21st century. UCL Institute of Education Press.
Nguyen, A., Ngo, H. N., Hong, Y., Dang, B., & Nguyen, B. P. T. (2023). Ethical principles for artificial intelligence in education. Education and Information Technologies, 28, 4221–4241. https://doi.org/10.1007/s10639-022-11316-w
O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.
OECD. (2021). IA and the future of skills, volume 1: Capabilities and assessments. OECD Publishing.
Prinsloo, P., & Slade, S. (2017). An elephant in the learning analytics room: The obligation to act. Proceedings of the Seventh International Learning Analytics & Knowledge Conference, 46–55.
Selwyn, N. (2019). Should robots replace teachers? IA and the future of education. Polity Press.
Siemens, G. (2013). Learning analytics: The emergence of a discipline. American Behavioral Scientist, 57(10), 1380–1400. https://doi.org/10.1177/0002764213498851
UNESCO. (2021). IA and education: Guidance for policy-makers. UNESCO.
UNESCO. (2023). Guidance for generative IA in education and research. UNESCO.
Williamson, B., & Eynon, R. (2020). Historical threads, missing links, and future directions in IA in education. Learning, Media and Technology, 45(3), 223–235. https://doi.org/10.1080/17439884.2020.1798995
Zawacki-Richter, O., Marín, V. I., Bond, M., & Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education. International Journal of Educational Technology in Higher Education, 16, Article 39. https://doi.org/10.1186/s41239-019-0171-0