PERBANDINGAN RANDOM FOREST DAN XGBOOST DALAM PREDIKSI STATUS PINJAMAN MENGGUNAKAN CROSS VALIDATION DAN ANALISIS FEATURE IMPORTANCE

Abstract

Peningkatan penyaluran kredit diikuti oleh meningkatnya risiko gagal bayar yang berdampak pada stabilitas lembaga keuangan. Namun, banyak penelitian komparasi algoritma klasifikasi kredit belum menerapkan skema validasi yang sistematis untuk meminimalisir risiko data leakage. Penelitian ini bertujuan membandingkan kinerja Random Forest dan XGBoost dalam memprediksi status pinjaman menggunakan pipeline yang dirancang untuk mengurangi risiko data leakage. Pendekatan CRISP-DM diterapkan pada dataset 50.000 sampel dengan 17 fitur yang diperoleh dari Kaggle. Seluruh tahapan preprocessing (imputasi, One-Hot Encoding, SMOTE) dan hyperparameter tuning (GridSearchCV) dilakukan secara per-fold dalam kerangka Nested Cross Validation. Evaluasi menggunakan Stratified 10-Fold Cross Validation dengan metrik Accuracy, F1-Score, F2-Score, dan AUC. Hasil menunjukkan XGBoost secara konsisten mengungguli Random Forest pada semua metrik (Accuracy: 0,9167 vs 0,9013; F1-Score: 0,9249 vs 0,9108; AUC: 0,9745 vs 0,9649), dengan perbedaan yang signifikan secara statistik berdasarkan paired t-test (p < 0,001). Estimasi finansial menunjukkan potensi penghematan sebesar  7.564.966 (11,8%), sementara skor_kredit dan rasio_hutang_terhadap_pendapatan teridentifikasi sebagai fitur paling dominan pada kedua model