ESTIMATION OF STUDENTS’ PERFORMANCE IN DISTANCE EDUCATION USING ENSEMBLE-BASED MACHINE LEARNING

Abstract

ABSTRACT

Machine learning techniques applied in the educational context can reveal hidden knowledge and patterns to assist decision-making processes to improve the educational system. In recent years, predicting student success in the academic sector has increased interest in improving the shortcomings of academics and providing support to future students. Machine learning techniques have been used to build prediction models using students' academic past records to assist in this task.

The performance of students in academic institutions indicates how much work such institutions need to continue to do to improve their low or even moderate performance. The importance of using machine learning techniques to utilize students' historical data to predict unknown or future performance was an important parameter that encouraged us to build the model . Due to its high generalization performance, ensemble learning has attracted great interest. The main challenges of building a strong ensemble are to train a variety of accurate base classifiers and combine them efficiently. The ensemble margin is calculated by taking the vote difference. The number of votes received by the correct class and the number of votes received by another class is commonly used to describe the success of ensemble learning. The classification confidence of the base classifiers is not considered in this formulation of the ensemble margin.

In this study, we applied an ensemble classifier as a classification strategy to predict the substitute achievement prediction model based on machine learning. This model uses discrete datasets to reflect the student's interaction with the teaching model. Various classifiers such as logistic regression, naive bayes tree, artificial neural network, support vector system, decision tree, random forest and k-nearest neighbor are used to evaluate the prediction model of a substitute. Furthermore, cluster processes have been used to improve the appearance of these classifiers. We have used Boosting, Bagging and Voting Algorithms, which are the most common strategies used in the research. As a result, successful results have been obtained using ensemble approaches, and the robustness of the proposed model has been demonstrated.

ÖZET

Eğitim bağlamında uygulanan makine öğrenimi teknikleri, eğitim sistemini iyileştirmeye yönelik karar verme süreçlerine yardımcı olmak için gizli bilgileri ve kalıpları ortaya çıkarabilir. Son yıllarda akademik sektörde öğrenci başarısını tahmin etmek, akademisyenlerin eksikliklerini gidermeye ve geleceğin öğrencilerine destek sağlamaya olan ilgiyi artırmıştır. Bu göreve yardımcı olmak için öğrencilerin akademik geçmiş kayıtlarını kullanarak tahmin modelleri oluşturmak için makine öğrenimi teknikleri kullanılmıştır.

Öğrencilerin akademik kurumlardaki performansı, bu tür kurumların düşük ve hatta orta düzeydeki performanslarını iyileştirmek için ne kadar çalışmaya devam etmeleri gerektiğini gösterir. Bilinmeyen veya gelecekteki performansı tahmin etmek için öğrencilerin geçmiş verilerini kullanmak üzere makine öğrenimi tekniklerini kullanmanın önemi, bizi modeli oluşturmaya teşvik eden önemli bir parametredir.

Topluluk öğrenme, yüksek genelleme performansı nedeniyle büyük ilgi görmektedir. Güçlü bir topluluk oluşturmanın temel zorlukları, çeşitli doğru temel sınıflandırıcıları eğitmek ve bunları verimli bir şekilde birleştirmektir. Topluluk marjı, oy farkı alınarak hesaplanır. Doğru sınıfın aldığı oy sayısı ve başka bir sınıfın aldığı oy sayısı, toplu öğrenmenin başarısını tanımlamak için yaygın olarak kullanılır. Temel sınıflandırıcıların sınıflandırma güvenirliği, topluluk marjının bu formülasyonunda dikkate alınmamaktadır.

Bu çalışmada, makine öğrenimine dayalı ikame başarı tahmin modelini tahmin etmek amacıyla sınıflandırma stratejisi olarak topluluk sınıflandırıcısı yaklaşımı uygulanmıştır. Bu model, öğrencinin öğretim modeliyle etkileşimini yansıtmak için ayrık veri kümeleri kullanır. Bir ikamenin tahmin modelini değerlendirmek için lojistik regresyon, naive bayes ağacı, yapay sinir ağı, destek vektör sistemi, karar ağacı, rastgele orman ve k-en yakın komşu gibi çeşitli sınıflandırıcılar kullanılır. Ayrıca, bu sınıflandırıcıların görünümünü iyileştirmek için küme işlemleri kullanılmıştır. Araştırmada en sık kullanılan stratejiler olan Boosting, Bagging ve Voting algoritmalarını kullanılmıştır. Sonuç olarak topluluk yaklaşımları kullanılarak başarılı sonuçlar elde edilmiş ve önerilen modelin sağlamlığı gösterilmiştir.