Robust Support Vector Machine Berbasis Faktor Penyesuaian Adaptif

Purwadi, Joko (2026) Robust Support Vector Machine Berbasis Faktor Penyesuaian Adaptif. Doctoral thesis, Institut Teknologi Sepuluh Nopember.

Text 7003221005 -Dissertation.pdf - Accepted Version Restricted to Repository staff only Download (3MB) | Request a copy

Abstract

Ketidakseimbangan kelas pada data klasifikasi menjadi tantangan utama dalam pengembangan model prediktif, terutama karena data besar cenderung memiliki distribusi kelas yang timpang. Metode Robust Support Vector Machine (Robust SVM) telah terbukti efektif menangani masalah ini melalui pemberian bobot pada bidang pemisah berupa faktor penyesuaian (µ). Namun, penentuan µ secara konvensional menggunakan grid search bersifat kurang adaptif dan sangat bergantung pada cakupan domain yang dipilih, sehingga berpotensi menurunkan performa model. Penelitian ini bertujuan mengembangkan metode Robust SVM dengan faktor penyesuaian adaptif yang dioptimasi menggunakan adaptive moment estimation (ADAM) untuk meningkatkan akurasi klasifikasi pada data tidak seimbang. Pengembangan diawali dengan derivasi matematis fungsi Lagrange termodifikasi untuk hard margin dan soft margin, yang menghasilkan formulasi dual dengan parameter τ_i yang proporsional terhadap distribusi kelas. Optimasi faktor penyesuaian dan hyperparameter dilakukan menggunakan ADAM, yang dikombinasikan dengan pendekatan berbasis ReLU untuk efisiensi komputasi. Metode diuji melalui studi simulasi pada berbagai skenario ketidakseimbangan serta diterapkan pada data finansial 542 Pemerintah Daerah tahun 2022 untuk klasifikasi financial distress. Hasil simulasi menunjukkan bahwa model Robust SVM dengan faktor penyesuaian adaptif mampu mengatasi bias klasifikasi pada kondisi ketidakseimbangan moderat hingga seimbang (proporsi minoritas ≥ 15%), dengan balanced accuracy dan AUC-ROC di atas 0,9. Namun, pada ketidakseimbangan ekstrem (≤ 0,7%), model mengalami kegagalan generalisasi akibat dominasi kelas mayoritas. Implementasi ADAM berhasil mempercepat konvergensi dan menstabilkan pelatihan, mencapai kinerja optimal pada proporsi kelas ≥ 25% dengan F1-Score > 0,92 dan AUC-ROC mendekati 1,0. Penerapan pada data keuangan daerah dengan ketidakseimbangan kelas 18,45%, menghasilkan performa sangat memuaskan, rata-rata balanced accuracy 98,5% dan AUC 1,0. Penelitian ini membuktikan bahwa faktor penyesuaian adaptif pada Robust SVM mampu meningkatkan ketahanan model terhadap ketidakseimbangan kelas.
======================================================================================================================================
Class imbalance in classification data is a major challenge in predictive model development, particularly because big data tends to have skewed class dis-tributions. The Robust Support Vector Machine (Robust SVM) method has been proven effective in addressing this issue by assigning weights to the separating hyperplane through an adjustment factor (µ). However, the conventional determi-nation of µ using grid search is less adaptive and highly dependent on the selected domain range, which can potentially degrade model performance. This study aims to develop a Robust SVM method with an adaptive adjustment factor optimized using adaptive moment estimation (ADAM) to improve classification accuracy on imbalanced data. The development begins with the mathematical derivation of the modified Lagrange function for both hard margin and soft margin, yielding a dual formulation with a parameter τi that is proportional to the class distribution. Opti-mization of the adjustment factor and hyperparameters is performed using AD-AM, combined with a ReLU-based approach for computational efficiency. The method was tested through simulation studies under various imbalance scenarios and applied to financial data from 542 Local Governments in 2022 for financial distress classification. Simulation results show that the Robust SVM model with an adaptive adjustment factor is able to overcome classification bias under moder-ate to balanced imbalance conditions (minority proportion ≥ 15%), with balanced accuracy and AUC-ROC above 0.9. However, under extreme imbalance (≤ 0.7%), the model suffers from generalization failure due to majority class dominance. The implementation of ADAM successfully accelerates convergence and stabilizes training, achieving optimal performance at class proportions ≥ 25% with an F1-Score > 0.92 and an AUC-ROC approaching 1.0. Applied to regional financial data with an 18.45% class imbalance, the model yields highly satisfactory perfor-mance, with an average balanced accuracy of 98.5% and an AUC of 1.0. This study proves that the adaptive adjustment factor in Robust SVM is able to en-hance the model's robustness against class imbalance.

Item Type:	Thesis (Doctoral)
Uncontrolled Keywords:	Faktor Penyesuaian Adaptif, Imbalanced data, Klasifikasi, Robust SVM, Financial distress Adaptive Adjustment Factor, Classification, Financial Distress, Imbal-anced Data, Robust SVM
Subjects:	Q Science > Q Science (General) > Q325.5 Machine learning. Support vector machines.
Divisions:	Faculty of Science and Data Analytics (SCIENTICS) > Statistics > 49001-(S3) PhD Thesis
Depositing User:	Joko Purwadi
Date Deposited:	04 Aug 2026 03:08
Last Modified:	04 Aug 2026 03:08
URI:	http://repository.its.ac.id/id/eprint/142846

Actions (login required)

View Item