Los sistemas educativos que hemos construido a lo largo de muchos años (sean buenos, malos o muy malos, para el caso es lo mismo) se enfrentan hoy en día con un fenómeno inédito: una fábrica de inteligencia que trabaja las 24 horas de los 365 días del año, que sabe de todos los temas, que habla todos los idiomas, que se adapta a las necesidades de cada estudiante, que mejora continuamente la calidad de sus respuestas y que no necesita una escuela o un campus universitario que habitar.
Esta maravilla que se llama inteligencia artificial (IA) tiene, al menos teóricamente hablando, el potencial para resolver los problemas más graves de la humanidad, como por ejemplo el cáncer, el cambio climático o la pobreza. Pero también se hace acompañar por muchos otros problemas como la erosión cognitiva, esto es, el deterioro gradual y la pérdida importante de habilidades mentales como la memoria, la atención y el razonamiento.
Uno de los diagnósticos más articulados que he leído sobre el deterioro cognitivo de la comodidad tecnológica en el aula, lo realizaron tres investigadores (Zhai, Wibowo, Li) de la CQUniversity de Australia, publicado en junio de 2024. Una de las preguntas que se hicieron estos autores fue ¿qué le pasa al cerebro del estudiante cuando empieza a confiar demasiado en la IA?
Te podría interesar
La sobredependencia de la IA no es simplemente usarla con frecuencia. Ocurre cuando la o el estudiante acepta abiertamente las recomendaciones generadas por el sistema sin someterlas a ningún escrutinio crítico, lo cual sucede a menudo porque a las y los estudiantes se les hace difícil comprobar la validez o la veracidad de una sugerencia o una respuesta de la IA. Ello hace que opten por el camino más fácil: aceptar lo que el chatbot les dice, sin chistar.
Este mecanismo tiene una explicación cognitiva: los seres humanos tendemos a preferir atajos mentales —que llamamos heurísticas— que nos permiten llegar rápido a una respuesta aceptable, en lugar de procesos más lentos y complicados aunque sean más confiables. La IA explota de maravilla esa tendencia natural. Cuando un sistema de diálogo ofrece una respuesta personalizada, de manera empática, coherente, bien redactada y que entiende la persona que la solicitó, el esfuerzo de verificarla, cuestionarla o de construir una alternativa propia parece desproporcionado. El resultado, documentado en estudios como el mencionado líneas arriba, es que el músculo cognitivo se va atrofiando por falta de uso.
La evidencia obtenida identifica tres dimensiones cognitivas que resultan dañadas cuando la sobredependencia se instala: toma de decisiones, pensamiento crítico y razonamiento analítico. La primera implica que estudiantes con alta dependencia de chatbots exhiben menor capacidad para evaluar opciones y tomar decisiones informadas de forma autónoma. Las y los usuarios tienden a aceptar incluso respuestas incorrectas —las llamadas "alucinaciones" de la IA— sin validarlas, porque el sesgo cognitivo de confianza en la máquina ya está instalado.
También se ha documentado cómo el uso regular de sistemas de diálogo con IA se vincula a una reducción en la capacidad de los estudiantes para evaluar la calidad de la información y construir argumentos propios. Esto es, si ya de por sí en México arrastramos un déficit de formación en pensamiento crítico, con esta dependencia el déficit aumenta preocupantemente.
Y en cuanto al tema del razonamiento analítico, se comprobó que los sesgos algorítmicos de los sistemas de IA —entrenados usando conjuntos de datos con sesgos históricos y estructurales— suelen ser aceptados por las y los estudiantes como información válida y objetiva. El punto aquí es que esto genera resultados distorsionados que replican y amplifican los sesgos y las desigualdades estructurales.
Si a esto se le añade la observación de que la sobredependencia de la IA disminuye la capacidad para retener lo aprendido, entonces el panorama es más que preocupante.
A la pregunta de qué podemos hacer para resolver esto, no hay evidentemente una sola respuesta. Pero algo que queda muy claro: la capacidad para calibrar el nivel de confianza en la IA no es innata, es algo que debemos aprender para que la línea entre "el chatbot me ayudó" y "el chatbot lo hizo por mí" deje de ser invisible.
Las estrategias de solución pueden diseñarse tomando en cuenta los puntos siguientes:
- Instrucción explícita sobre las limitaciones de la IA: los estudiantes no pueden evaluar lo que no conocen. Saber que los chatbots alucinan, que tienen sesgos y que generan contenido no referenciado es una competencia básica que debe enseñarse, no asumirse.
- Diseño de tareas que requieran verificación: asignaciones donde el estudiante deba confrontar la respuesta de la IA con fuentes primarias, argumentar en su contra o identificar sus errores, de modo que el proceso cognitivo permanezca activo.
- Práctica de la metacognición: entrenar a los estudiantes para que identifiquen cuándo están usando la IA como atajo y cuándo como herramienta; es decir, para que sean conscientes de su propio proceso de confianza y delegación.
- Preservar espacios de escritura y razonamiento sin asistencia de IA: porque la práctica independiente no es un castigo pedagógico, sino la única manera de que los circuitos neuronales del pensamiento analítico se mantengan activos.
En contextos donde las brechas de aprendizaje en comprensión lectora son amplias —México obtuvo 415 puntos en lectura en PISA 2022, muy por debajo del promedio OCDE de 476— la tentación de usar la IA como atajo puede ser especialmente aguda, tanto para estudiantes que buscan compensar déficits acumulados como para docentes que enfrentan grupos numerosos con recursos limitados. Pero la solución no está en acortar el período escolar “por el mundial”, ¿o sí?