Developing a predictive model for student learning success by applying ensemble learning
Keywords:
student learning success, students' learning behaviors, machine learningAbstract
This research applies ensemble learning, which combines multiple models to analyze student learning. The objectives are: 1) to develop a model for predicting the academic success of 397 M.4 students in the second semester of the academic year 2023 at Srinakharinwirot University Prasarnmit Demonstration School (secondary), who are enrolled in the mathematics course 2(1) M31208. The prediction uses student learning behaviors observable by teacher during learning activities, comprising five aspects of learning behavior: learning ability, responsibility, class participation, diligence, and determination; and 2) to analyze the factors that significantly impact students' academic success. The study compares the performance of five classification models: Elastic–net regularized generalized linear model (GLM), Random Forest (RF), Gradient Boosting with XGBoost (XGBoost), Artificial Neural Network (ANN), and ensemble learning with Stacking (stack), evaluating them using F1 score, recall, and precision. The results indicate that the RF and XGBoost models have the highest performance (F1 score = .904, recall = .891, and precision = .920). Additionally, learning ability, represented by average quiz scores, is identified as the most significant factor for academic success (importance = 153.818), while responsibility, represented by the proportion of bringing books to class, is the least significant factor (importance = 1.660).
References
B. Dietz and J. E. Hurn, "Using learning analytics to predict (and improve) student success: A faculty perspective," Journal of Interactive Online Learning., vol. 12, pp. 17-26, 01/01 2013.
R. Hasan, S. Palaniappan, S. Mahmood, A. Abbas, K. U. Sarker, and M. U. Sattar, " Predicting student performance in higher education institutions using video learning analytics and data mining techniques," Applied Sciences., vol. 10, no. 11, p. 3894, 2020.
[Online]. Available: https://www.mdpi.com/2076-3417/10/11/3894. [Accessed 19 May 2024].
A. Breen, “Q&A: Why classroom-level data is a powerful tool for teachers,” [Online]. Available: https://education.virginia.edu/news-stories/qa-why-classroom-level-data-powerful-tool-teachers. [Accessed 26 May 2024].
สำนักงานคณะกรรมการการศึกษาขั้นพื้นฐาน. "ข้อมูลทางการศึกษา ประจำปี 2567." [ออนไลน์] http://www.bopp.go.th/?page_id=1828. [วันที่เข้าถึง 1 ตุลาคม 2567].
KKP Research, "ทำไมคุณภาพการศึกษาไทยแย่ลงทุกปี ?," เกียรตินาคินภัทร, 12 ธ.ค. 2566. [ออนไลน์]. https://advicecenter.kkpfg.com/th/kkp-research/thai-education-quality. [วันที่เข้าถึง 1 ต.ค. 2567].
FeedbackFruits, "How learning analytics can improve student success: Best strategies," FeedbackFruits Blog. [online]. https:// feedbackfruits.com/ blog/ leverage-learning-analytics-for-strategic-decisions-and-student-success. [Accessed 1 October 2024].
C. Liu, H. Wang, Y. Du, and Z. Yuan, “A predictive model for student achievement using spiking neural networks based on educational data,” Applied Sciences., vol. 12, no. 8, pp. 1–20, 2022.
X. Li, Y. Zhang, H. Cheng, M. Li, and B. Yin, "Student achievement prediction using deep neural network from multi-source campus data," Complex & Intelligent Systems., vol. 8, no. 6, pp. 5143–5156, 2022.
ขวัญตา ศิลปไพบูลย์พานิช, “การใช้เทคโนโลยีการเรียนรู้ของเครื่อง เพื่อทำนายผลการเรียนของ
นักเรียน,” วิทยาศาสตร์มหาบัณฑิต, สาขาวิชาเทคโนโลยีสารสนเทศ, มหาวิทยาลัยศรีนครินทรวิโรฒ, กรุงเทพมหานคร, 2562.
N. Venkat, S. Srivastava, and L. Garg, “Predicting Student Grades using Machine Learning,” [Online]. Available: https://www.researchgate.net/publication/329514879_Predicting_Student_Grades_using_Machine_Learning. [Accessed 19 May 2024].
N. Sghir, A. Adadi, and M. Lahmer, "Recent advances in predictive learning analytics: a decade systematic review (2012–2022)," Education and Information Technologies., vol. 28, no. 7, pp. 8299–8333, 2023.
A. Korchi, F. Messaoudi, A. Abatal, and Y. Manzali, "Machine learning and deep learning-based students’ grade prediction," Operations Research Forum., vol. 4, no. 4, p. 87, 2023.
T. K. Dang and H. H. X. Nguyen, "A hybrid approach using decision tree and multiple linear regression for predicting students’ performance based on learning progress and behavior," SN Computer Science., vol. 3, no. 5, p. 393, 2022.
A. Surawatchayotin and W. Paireekreng, “The predictive model of higher education guidance using integrated techniques for imbalanced data of learner groups,” Journal of Information Science and Technology., vol. 11, no. 1, pp. 65–79, 2023.
I. K. Nti, A. F. Adekoya, and B. A. Weyori, "A comprehensive evaluation of ensemble learning for stock-market prediction.," Journal of Big Data., vol. 7, no. 1, p. 20, 2020.
อัศวิน สุรวัชโยธิน และ วัรภัทร ไพรีเกรง, “การสร้างตัวแบบการทำนายในการเลือกศึกษาต่อในระดับอุดมศึกษา โดยการใช้เทคนิคแบบบูรณาการในการแก้ปัญหาการจำแนกข้อมูลไม่สมดุลของกลุ่มผู้เรียน,” วารสารวิทยาการและเทคโนโลยีสารสนเทศ., ปีที่ 11, ฉบับที่ 1, น. 65–79, 2564.
B. Mahesh, Machine Learning Algorithms -A Review. 2019.
S. Rajendran, S. Chamundeswari, and A. A. Sinha, "Predicting the academic performance of middle- and high-school students using machine learning algorithms," Social Sciences & Humanities Open., vol. 6, no. 1, p. 100357, 2022.
A. Salah Hashim, W. Akeel Awadh, and A. Khalaf Hamoud, "Student Performance Prediction Model based on Supervised Machine Learning Algorithms," IOP Conference Series: Materials Science and Engineering., vol. 928, no. 3, p. 032019, 2020.
C. Hans, "Elastic net regression modeling with the orthant normal prior," Journal of the American Statistical Association., vol. 106, no. 496, pp. 1383-1393, 2011.
L. Giba, “Elastic net regression explained, step by step,” [Online]. Available: https://
machinelearningcompass.com/machine_learning_models. [Accessed 2 June 2024].
L. Chen, “Basic ensemble learning (random forest, adaboost, gradient boosting)-step by step explained,” [Online]. Available: https://towardsdatascience.com / basic - ensemble-learning – random – forest – adaboost – gradient – boosting – step – by – step – explained - 95d49d1e2725. [Accessed 2 June 2024].
G. Biau and E. Scornet, "A random forest guided tour," TEST., vol. 25, no. 2, pp. 197-227. 2015.
อรุณี ศรีดี, “การประยุกต์ใช้การเรียนรู้ด้วยเครื่องเพื่อตรวจจับงานเสียที่เกิดขึ้นในกระบวนการทดสอบฮาร์ดดิสก์ไดรฟ์,” วิทยาศาสตรมหาบัณฑิต, สาขาวิชาวิทยาศาสตร์คอมพิวเตอร์, จุฬาลงกรณ์มหาวิทยาลัย, กรุงเทพฯ, 2564.
S. Agatonovic-Kustrin and R. Beresford, "Basic concepts of artificial neural network (ANN) modeling and its application in pharmaceutical research," Journal of Pharmaceutical and Biomedical Analysis., vol. 22, no. 5, pp. 717-727, 2000.
M. P. Sesmero, A. I. Ledezma, and A. Sanchis, "Generating ensembles of heterogeneous classifiers using Stacked Generalization,"
WIREs Data Mining and Knowledge Discovery., vol. 5, no. 1, pp. 21-34, 2015.
ศรีสุภา วรคามิน, “การพัฒนาผลสัมฤทธิ์ทางการเรียนและสมรรถนะการรวมพลังทำงานเป็นทีมด้วยการจัดการเรียนรู้โดยใช้กิจกรรมเป็นฐานในรายวิชาคณิตศาสตร์ของนักเรียนชั้นมัธยมศึกษาปีที่ 4,” ศึกษาศาสตรมหาบัณฑิต, สาขาวิชาหลักสูตรและการสอน, มหาวิทยาลัยธุรกิจบัณฑิตย์, กรุงเทพฯ, 2565.
ผ่องใส เพ็ชรรักษ์, อาทร จิตสุนทรชัยกุล และ ศิรัตน์ แจ้งรักษ์สกุล, “การศึกษาถึงการศึกษาพฤติกรรมการเรียนที่มีผลต่อผลสัมฤทธิ์ทางการเรียนของนักศึกษา สาขาวิชาการจัดการอุตสาหกรรม คณะบริหารธุรกิจ มหาวิทยาลัยธุรกิจบัณฑิตย์” [ออนไลน์]. แหล่งที่มา: https://dric.nrct.go.th/index.php?/
Search/SearchDetail/291094. [วันที่เข้าถึง 19 พฤษภาคม 2567].
H. Yao, D. Lian, Y. Cao, Y. Wu, and T. Zhou, "Predicting academic performance for college students: a campus behavior perspective," ACM Transactions on Intelligent Systems and Technology., vol. 10, no. 3, p. Article 24, 2019.
S.-Y. Park, "Student engagement and classroom variables in improving mathematics achievement," Asia Pacific Education Review., vol. 6, no. 1, pp. 87-97, 2005.
J. R. Wolf and R. Jia, "The Role Of Grit In Predicting Student Performance In Introductory Programming Courses: An Exploratory Study," in Proceeding of the Southern Association for Information Systems Conference, Hilton Head Island, SC, USA, 2015.
I. Tsaousis and M. H. Alghamdi, "Examining academic performance across gender differently: Measurement invariance and latent mean differences using bias-corrected bootstrap confidence intervals," Frontiers in Psychology, vol. 13, 2022.
ปัทมา ภู่ระหงษ์, "ผลการจัดกิจกรรมการเรียนรู้โดยใช้หลักการประเมินแบบเสริมพลังที่มีต่อผลสัมฤทธิ์ทางการเรียนวิชาคณิตศาสตร์และเจตคติต่อวิชาคณิตศาสตร์ของนักเรียนชั้นมัธยมศึกษาปีที่ 3," วารสารวิชาการศรีปทุม ชลบุรี, vol. 9, no. 3, pp. 96-102, 2553. [ออนไลน์]. Available: https://www.chonburi.spu.ac.th/journal/booksearch/upload/1242-96.pdf. [วันที่เข้าถึง 19 พฤษภาคม 2567].
พิชญ์ภัชกัญจน์ ปานเผือก, "ปัจจัยที่ส่งผลกระทบต่อผลสัมฤทธิ์ทางการเรียนของนักเรียนชั้นมัธยมศึกษา: ศึกษาเฉพาะกรณี นักเรียนในโรงเรียนขยายโอกาส สังกัดสำนักงานเขตภาษีเจริญ กรุงเทพมหานคร," คณะรัฐศาสตร์ มหาวิทยาลัยธรรมศาสตร์, การค้นคว้าอิสระ, 2560.
M. Yağcı, "Educational data mining: prediction of students' academic performance using machine learning algorithms," Smart Learning Environments, vol. 9, no. 1, p. 11, 2022/03/03 2022, doi: 10.1186/s40561-022-00192-z.
F. Ouyang, M. Wu, L. Zheng, L. Zhang, and P. Jiao, "Integration of artificial intelligence performance prediction and learning analytics to improve student learning in online engineering course," International Journal of Educational Technology in Higher Education., vol. 20, no. 1, p. 4, 2023/01/17 2023, doi: 10.1186/s41239-022-00372-4.
N. McJames, A. Parnell, and A. O'Shea, "Little and often: Causal inference machine learning demonstrates the benefits of homework for improving achievement in mathematics and science," Learning and Instruction., vol. 93, p. 101968, 2024/10/01/ 2024, doi: https://doi.org/10.1016/j.learninstruc.2024.101968.
Downloads
Published
How to Cite
Issue
Section
License
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
