Desigualdad en el aprendizaje, protección de datos y criterios de evaluación: los tres dilemas éticos de la IA en el aula

La inteligencia artificial ya está en las aulas universitarias: muchos profesores utilizan herramientas de este tipo para preparar clases, diseñar actividades o resolver dudas. También se emplean para redactar los trabajos que entregan los estudiantes. Cada día, este uso supone tomar decisiones que no son solo técnicas, sino éticas, y que afectan a grupos numerosos y perfiles muy distintos.

Varios estudios e informes recientes han analizado cuáles son las principales tensiones del uso de la inteligencia artificial generativa en el aula, tanto por parte de los estudiantes como de los docentes.

En esta línea, he investigado para mi tesis doctoral la percepción de varios docentes universitarios competentes en esta tecnología sobre este tipo de decisiones y cómo les afectan en su día a día. Tanto la investigación previa como las conclusión de mis conversaciones plantean tres dilemas clave que explican por qué la tecnología no genera los mismos resultados en todas partes.

1. Rapidez vs equidad

La inteligencia artificial es rápida. Resume textos, redacta borradores y crea preguntas en segundos. Puede ahorrar mucho tiempo. Eso parece una ventaja evidente.
Si esa rapidez no va acompañada de orientación clara, algunos estudiantes harán preguntas precisas y revisarán lo que reciben, pero otros aceptarán el primer resultado sin comprobarlo. Por eso, los estudiantes más avanzados, o quienes ya dominan estas herramientas, parten con ventaja. Quienes no, pueden depender por completo del sistema o entregar textos que no comprenden.

Proteger la equidad exige enseñar cómo preguntar, cómo verificar información y cómo detectar errores. También exige fijar límites claros. Sin esa guía, la inteligencia artificial puede aumentar las desigualdades, como advierte la OCDE en su informe sobre IA, equidad e inclusión.

Leer más: Cuanto más confiamos en la inteligencia artificial, menos aprendemos con ella

2. Personalización vs privacidad

Otra promesa es el aprendizaje “a la medida”. La IA puede recomendar contenidos o ajustar ejercicios según el ritmo de cada estudiante. Esto puede ayudar a quienes necesitan apoyo adicional.

Pero para hacerlo necesita datos. Registra tiempos, respuestas y patrones de uso. En algunos casos analiza incluso la forma de escribir o resolver problemas.

En este punto aparece una tensión concreta: cuanto más personalizada es la ayuda que ofrece la IA, más información necesita recopilar sobre el estudiante. Por tanto, el problema estriba en definir qué datos son realmente necesarios, con qué finalidad se usan, quién puede acceder a ellos y durante cuánto tiempo se conservan, tal como señalan las directrices éticas de la Comisión Europea para educadores.

En muchos centros no hay normas claras sobre esto. El docente debe decidir si utiliza una herramienta externa o si limita la información que comparte. Puede optar por no introducir datos sensibles o desactivar funciones que recopilan más información.

La innovación avanza rápido. La protección de datos lo hace más despacio. El dilema no es elegir entre innovar o no innovar. Es decidir cuánto dato estamos dispuestos a entregar para mejorar el aprendizaje. Cada ajuste “a la medida” deja un rastro digital.

Ante esto, una actuación prudente sería aplicar el principio de minimización de datos: usar solo la información estrictamente necesaria, evitar introducir datos sensibles o identificables del alumnado en herramientas externas, informar con claridad sobre el uso de estas plataformas y priorizar, cuando sea posible, soluciones institucionales con garantías de protección de datos, como recomienda la Oficina del Comisionado de Información del Reino Unido (ICO).

3. Automatización vs a criterios compartidos

La evaluación es un terreno delicado. La IA puede detectar similitudes, sugerir comentarios o proponer una nota inicial. También puede ayudar al estudiante a mejorar su texto antes de entregarlo. Surgen entonces dos preguntas. ¿Qué hacer si se sospecha que un trabajo fue elaborado con esta herramienta? ¿Es adecuado usarla para evaluar?

Más allá del dilema planteado antes (que al usar plataformas externas se comparten datos del estudiante e incluso una tarea sencilla puede quedar almacenada fuera de la universidad), delegar en un sistema automático puede reducir el criterio del docente si no se establecen marcos compartidos que preserven el juicio profesional, como advierten investigaciones recientes sobre integridad académica y ChatGPT. No todos los sistemas explican cómo funcionan. Tampoco responden igual en todas las materias.

Algunos profesores cambian sus actividades. Piden explicar el proceso que el estudiante ha seguido o defender el trabajo en voz alta. Otros reclaman reglas claras sobre cuándo y cómo usar IA en evaluación. Sin criterios compartidos, cada aula opera con normas distintas. Eso genera incertidumbre.

Leer más: Seis pasos para integrar la IA en el aula universitaria

Más allá de la habilidad individual

Estos dilemas muestran que el debate no se resuelve solo con más formación digital. Incluso docentes con experiencia reconocen que las tensiones siguen ahí.

La IA puede mejorar el aprendizaje y abrir oportunidades nuevas. Pero también puede ampliar desigualdades, aumentar el uso de datos personales y automatizar decisiones que requieren juicio humano.

Leer más: Cuatro maneras de experimentar con la inteligencia artificial en el aula universitaria

Si la tecnología ya forma parte de la educación superior, el siguiente paso es construir reglas claras sobre equidad en el uso, protección de datos y límites de la automatización, tal como recomienda la UNESCO. De lo contrario, dilemas estructurales seguirán resolviéndose, día tras día, en la soledad del aula.

Las personas firmantes no son asalariadas, ni consultoras, ni poseen acciones, ni reciben financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y han declarado carecer de vínculos relevantes más allá del cargo académico citado anteriormente.