Imaginen rendir un examen o presentar un trabajo universitario y recibir, horas después, una nota acompañada de comentarios bastante detallados. Hasta ahí, nada extraño. Ahora imaginen enterarse recién después de reclamar que esa calificación no fue colocada por su profesor, sino por un sistema de inteligencia artificial que leyó su trabajo, aplicó una rúbrica, asignó puntajes y generó la retroalimentación. La pregunta entonces resulta inevitable: ¿puede una universidad trasladar a una máquina una decisión tan relevante para la vida académica del estudiante sin informarle previamente y sin una revisión docente efectiva?

La inteligencia artificial viene ingresando con fuerza a las universidades y puede convertirse en una excelente herramienta para mejorar procesos, reducir tiempos y apoyar a los docentes. El problema, como suele ocurrir con la tecnología, no está necesariamente en utilizarla, sino en cómo se utiliza y qué garantías existen para las personas afectadas por sus decisiones.

Por ello, se debe tener en cuenta que la calificación no es un simple proceso operativo. En efecto, desde la perspectiva de protección al consumidor, los estudiantes son consumidores de un servicio educativo y las universidades son proveedores. Esto significa que la evaluación académica no puede ser tratada únicamente como un proceso interno o tecnológico.

El Código de Protección y Defensa del Consumidor exige que los servicios educativos sean idóneos y se presten respetando la normativa aplicable. Además, reconoce expresamente el derecho del estudiante a recibir información veraz, oportuna, completa, objetiva y de buena fe sobre las características y condiciones del servicio.

Por ello, si una universidad decide que una inteligencia artificial tendrá participación directa en la corrección de exámenes, asignará puntajes o generará la nota que luego aparecerá en el sistema académico, estamos frente a información relevante. Probablemente muchos estudiantes habrían querido saber, antes de rendir una evaluación, si su respuesta sería revisada por su profesor, por una máquina o por ambos.

Y no se trata de una preocupación teórica, pues el INDECOPI ya ha sancionado a universidades por modificar reglas o no trasladar información clara y suficiente a los alumnos antes, durante e incluso después del servicio ofrecido. Por ello, es importante tener presente que la tecnología no crea un espacio sin reglas: si cambia la forma en que se presta el servicio educativo, también modifica aquello que razonablemente espera el consumidor.

Además, algo que deben tener en claro las universidades es que informar que se usa IA no es suficiente. Una comunicación genérica que señale que la universidad “utiliza herramientas tecnológicas” difícilmente sería suficiente. Si la IA participa en una decisión académica, el estudiante debería conocer qué hace exactamente: si propone una nota o la determina, qué rúbrica utiliza, qué grado de intervención mantiene el docente, cuáles son sus principales limitaciones y qué mecanismo existe para pedir una revisión humana.

El Reglamento de la Ley que promueve el uso de la inteligencia artificial en el Perú también refuerza principios como transparencia, supervisión humana, fiabilidad y rendición de cuentas. Cuando un sistema puede producir efectos relevantes sobre las personas, la explicación del resultado deja de ser una cortesía y se convierte en una garantía esencial.

Entonces queda preguntarnos si la supervisión humana se debe dar antes o después de la calificación. Aquí aparece uno de los mayores riesgos, pues algunas herramientas permiten que la IA califique primero y que el docente intervenga solo si el estudiante reclama. Ese diseño puede resultar muy eficiente para la universidad, pero traslada al alumno el costo del posible error.

La supervisión humana real no debería significar que el profesor aparece recién cuando el estudiante detectó el problema. Si una nota puede afectar el promedio, la aprobación de un curso, una beca o incluso la permanencia académica, parece razonable exigir que el docente conserve la posibilidad efectiva de revisar, corregir o invalidar el resultado antes de que este produzca consecuencias definitivas.

Además, existe otro punto que no debemos olvidar: los trabajos, respuestas, calificaciones y comentarios académicos también contienen datos personales. Las universidades deberán evaluar qué información será procesada por la herramienta, quién tendrá acceso, cuánto tiempo se conservará y si esos datos podrían utilizarse para entrenar o mejorar modelos de inteligencia artificial.

Otro riesgo aparece cuando el procedimiento de revisión exige al alumno “demostrar” el error de la IA para recién conseguir que un docente revise su examen. ¿Cómo puede hacerlo si no conoce la lógica general de la calificación ni tiene acceso suficiente a la rúbrica, los criterios aplicados o la trazabilidad del resultado?

El reclamo debe ser una garantía y no una carrera de obstáculos. Una disconformidad razonablemente sustentada debería ser suficiente para activar una revisión humana efectiva. Lo contrario profundizaría la asimetría informativa que precisamente las normas de protección al consumidor buscan corregir.

Por ello, antes de implementar sistemas de calificación automatizada, consideramos que las universidades deberían adoptar, por lo menos, cuatro medidas: 1) informar previamente y de manera clara cuándo una evaluación será procesada mediante IA; 2) mantener control docente real antes de publicar notas con efectos académicos; 3) garantizar trazabilidad y explicaciones comprensibles sobre los criterios utilizados; y 4) establecer un mecanismo sencillo, rápido y accesible de revisión humana, sin imponer al estudiante cargas probatorias excesivas.

Consideramos que la inteligencia artificial puede ser una extraordinaria aliada de la educación. Puede ayudar a los docentes, agilizar procesos y mejorar la retroalimentación. Pero una universidad no debería medir el éxito de estas herramientas únicamente por cuántos exámenes puede corregir en pocas horas. También debería preguntarse cuántas decisiones puede explicar, revisar y corregir cuando sea necesario.

La verdadera innovación no consiste en reemplazar personas por algoritmos, sino en utilizar la tecnología sin disminuir los derechos de quienes reciben el servicio. En educación, donde una nota puede tener consecuencias relevantes, la eficiencia no puede reemplazar a la transparencia ni la automatización puede eliminar la responsabilidad del proveedor. Como siempre señalamos, un consumidor informado es un consumidor empoderado; y, en este nuevo escenario, también debería ser un estudiante capaz de saber cuándo una máquina está decidiendo sobre su futuro académico.

Guadalupe Montenegro Ruiz, Abogada Asociada Senior y Líder del área de Protección al Consumidor de TyTL Abogados.