Inteligencia artificial generativa y pensamiento crítico: detección estudiantil de errores y sesgos en contenidos educativos
DOI:
https://doi.org/10.70625/rlce/977Palabras clave:
Alfabetización en inteligencia artificial, Contenidos educativos, Detección de errores, Inteligencia artificial generativa, Pensamiento críticoResumen
La expansión de la inteligencia artificial generativa en los entornos escolares plantea la necesidad de formar estudiantes capaces de evaluar la veracidad, confiabilidad e imparcialidad de sus respuestas. El objetivo de esta investigación fue analizar la capacidad de estudiantes de Educación Básica para detectar errores y sesgos en contenidos educativos producidos mediante inteligencia artificial generativa, considerando sus criterios de evaluación y estrategias de verificación. Se desarrolló un estudio cualitativo de caso con 18 estudiantes de octavo año de una institución educativa fiscal de Cuenca, Ecuador. Los participantes analizaron ocho contenidos generados mediante ChatGPT que incorporaban deliberadamente errores factuales, contradicciones, referencias inexistentes y sesgos de género, culturales, étnicos, geográficos, socioeconómicos y lingüísticos. La información se recopiló mediante entrevistas semiestructuradas, producciones escritas y notas de campo, y se examinó mediante análisis temático mixto y triangulación. Los estudiantes identificaron problemas en 132 de las 144 evaluaciones realizadas. Los errores factuales y las contradicciones fueron reconocidos con mayor facilidad que los sesgos implícitos y las referencias inexistentes. La organización y fluidez de los textos generaron confianza inicial; no obstante, la consulta de libros y fuentes institucionales favoreció la revisión de las respuestas. También se identificaron confianza cautelosa, conciencia metacognitiva y contraste colaborativo. Se concluye que la capacidad crítica frente a la inteligencia artificial no depende únicamente de su utilización, sino de actividades pedagógicas que exijan cuestionar, verificar, argumentar y corregir sus contenidos mediante evidencias.
Descargas
Referencias
Alfarwan, A. A. (2025). Generative AI use in K–12 education: A systematic review. Frontiers in Education, 10, 1647573. https://doi.org/10.3389/feduc.2025.1647573
Altafuya Rojas, C. P., & Suárez Tigse, F. A. (2026). Uso y percepción de la inteligencia artificial en estudiantes de bachillerato ecuatoriano. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 7(1). https://doi.org/10.56712/latam.v7i1.5493
Braun, V., & Clarke, V. (2021). Thematic analysis: A practical guide. SAGE.
Creswell, J. W., & Poth, C. N. (2018). Qualitative inquiry and research design: Choosing among five approaches (4th ed.). SAGE.
Doty, K., & Lipien, L. (2024). Student perceptions and attitudes about the usage of ChatGPT in online K–12 education and student preferences about learning to use artificial intelligence from teachers. American Journal of Educational Research, 12(9), 348–355. https://doi.org/10.12691/education-12-9-2
Fan, Y., Tang, L., Le, H., Shen, K., Tan, S., Zhao, Y., Shen, Y., Li, X., & Gašević, D. (2025). Beware of metacognitive laziness: Effects of generative artificial intelligence on learning motivation, processes, and performance. British Journal of Educational Technology, 56(2), 489–530. https://doi.org/10.1111/bjet.13544
Hennink, M., & Kaiser, B. N. (2022). Sample sizes for saturation in qualitative research: A systematic review of empirical tests. Social Science & Medicine, 292, 114523. https://doi.org/10.1016/j.socscimed.2021.114523
Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248. https://doi.org/10.1145/3571730
Kasneci, E., Sessler, K., Küchemann, S., Bannert, M., Dementieva, D., Fischer, F., Gasser, U., Groh, G., Günnemann, S., Hüllermeier, E., Krusche, S., Kutyniok, G., Michaeli, T., Nerdel, C., Pfeffer, J., Poquet, O., Sailer, M., Schmidt, A., Seidel, T., … Kasneci, G. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 103, 102274. https://doi.org/10.1016/j.lindif.2023.102274
Klarin, J., Hoff, E., Larsson, A., & Daukantaitė, D. (2024). Adolescents’ use and perceived usefulness of generative AI for schoolwork: Exploring their relationships with executive functioning and academic achievement. Frontiers in Artificial Intelligence, 7, 1415782. https://doi.org/10.3389/frai.2024.1415782
Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. In Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (Article 1121, pp. 1–22). Association for Computing Machinery. https://doi.org/10.1145/3706598.3713778
Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems (pp. 1–16). Association for Computing Machinery. https://doi.org/10.1145/3313831.3376727
Ng, D. T. K., Leung, J. K. L., Chu, S. K. W., & Qiao, M. S. (2021). Conceptualizing AI literacy: An exploratory review. Computers and Education: Artificial Intelligence, 2, 100041. https://doi.org/10.1016/j.caeai.2021.100041
O’Brien, B. C., Harris, I. B., Beckman, T. J., Reed, D. A., & Cook, D. A. (2014). Standards for reporting qualitative research: A synthesis of recommendations. Academic Medicine, 89(9), 1245–1251. https://doi.org/10.1097/ACM.0000000000000388
Tlili, A., Shehata, B., Adarkwah, M. A., Bozkurt, A., Hickey, D. T., Huang, R., & Agyemang, B. (2023). What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education. Smart Learning Environments, 10, Article 15. https://doi.org/10.1186/s40561-023-00237-x
Tong, A., Sainsbury, P., & Craig, J. (2007). Consolidated criteria for reporting qualitative research (COREQ): A 32-item checklist for interviews and focus groups. International Journal for Quality in Health Care, 19(6), 349–357. https://doi.org/10.1093/intqhc/mzm042
UNESCO. (2023). Guidance for generative AI in education and research. https://unesdoc.unesco.org/ark:/48223/pf0000386693
Vallejo Rodríguez, F. W., Gómez Rivero, J. O., & Cruz López, W. O. (2025). Estado del arte de la inteligencia artificial en la Educación Básica del Ecuador: Una revisión sistemática. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 6(3), 1863–1882. https://doi.org/10.56712/latam.v6i3.4082
Weidinger, L., Uesato, J., Rauh, M., Griffin, C., Huang, P.-S., Mellor, J., Glaese, A., Cheng, M., Balle, B., Kasirzadeh, A., Biles, C., Brown, S., Kenton, Z., Hawkins, W., Stepleton, T., Birhane, A., Hendricks, L. A., Rimell, L., Isaac, W., … Gabriel, I. (2022). Taxonomy of risks posed by language models. In Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency (pp. 214–229). Association for Computing Machinery. https://doi.org/10.1145/3531146.3533088
Zhai, C., Wibowo, S., & Li, L. D. (2024). The effects of over-reliance on AI dialogue systems on students’ cognitive abilities: A systematic review. Smart Learning Environments, 11, Article 28. https://doi.org/10.1186/s40561-024-00316-7
Zhang, P., & Tur, G. (2024). A systematic review of ChatGPT use in K–12 education. European Journal of Education, 59, e12599. https://doi.org/10.1111/ejed.12599
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Oswaldo Valenzuela, Rocio Alexandra Malla Malla, Briggitte Gisela Ochoa Cojitambo, Diana María Guamán Moreno, Karla Paola Arízaga López (Autor/a)
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
