ANALISIS KOMPARATIF METODE HYPERPARAMETER TUNING PADA MODEL KLASIFIKASI UNTUK DATA BALANCED DAN INBALANCED

Abstrak

Pemilihan metode hyperparameter tuning yang tepat berperan penting dalam meningkatkan kinerja model klasifikasi, terutama ketika diterapkan pada dataset dengan karakteristik distribusi kelas yang berbeda. Penelitian ini bertujuan untuk menganalisis dan membandingkan efektivitas tiga metode hyperparameter tuning, yaitu Grid Search, Random Search, dan Bayesian Optimization, pada model XGBoost, Random Forest, dan Support Vector Machine (SVM). Pengujian dilakukan menggunakan dua dataset dengan karakteristik berbeda, yaitu Breast Cancer Wisconsin sebagai dataset berimbang dan Credit Card Fraud Detection sebagai dataset tidak berimbang. Evaluasi kinerja model disesuaikan dengan karakteristik dataset, menggunakan F1-score (macro) untuk dataset Breast Cancer dan Precision-Recall AUC untuk dataset Credit Card Fraud. Hasil penelitian menunjukkan bahwa pada dataset berimbang, seluruh metode tuning menghasilkan performa yang relatif serupa, dengan SVM secara konsisten memberikan hasil terbaik. Sebaliknya, pada dataset tidak berimbang, metode Random Search dan Bayesian Optimization menunjukkan keunggulan dalam menemukan konfigurasi hyperparameter yang mampu meningkatkan kemampuan deteksi kelas minoritas, khususnya pada model XGBoost. Temuan ini menegaskan bahwa pemilihan metode tuning dan metrik evaluasi harus disesuaikan dengan karakteristik data yang digunakan.