BAB I PENDAHULUAN

1.1 Latar Belakang Masalah

Perkembangan teknologi dan ketersediaan data yang semakin besar mendorong pemanfaatan pembelajaran terawasi (supervised learning) untuk membangun model prediksi, baik untuk memprediksi kelas suatu observasi (klasifikasi) maupun nilai respon yang kontinu (regresi). Pada bidang kesehatan, metode ini banyak digunakan untuk membantu memprediksi diagnosis dan prognosis penyakit. Pemilihan metode yang tepat penting karena kinerja model sangat bergantung pada karakteristik data dan parameter yang digunakan (Tharwat, 2019).

Salah satu metode yang banyak digunakan adalah Support Vector Machine (SVM), yaitu algoritma yang mengklasifikasikan observasi dengan mencari hyperplane pemisah yang memaksimalkan margin antarkelas. SVM telah diterapkan pada berbagai bidang ilmu dan rekayasa, dan kesederhanaan relatifnya membuat risiko overfitting lebih rendah, bahkan pada data berdimensi tinggi. Dengan fungsi kernel, SVM juga dapat menangani hubungan antarkelas yang tidak dapat dipisahkan secara linear. Untuk kasus regresi, SVM diperluas menjadi Support Vector Regression (SVR), yang mempelajari hubungan antara prediktor dan respon kontinu langsung dari data tanpa bergantung pada asumsi bentuk model tertentu (Zhang & O’Donnell, 2020).

Meskipun demikian, kinerja SVM dan SVR dipengaruhi oleh pemilihan jenis kernel serta parameter seperti cost, \(\gamma\), dan \(\varepsilon\). SVM juga masih menghadapi tantangan pada data yang tidak seimbang, sedangkan SVR standar sensitif terhadap noise dan outlier. Oleh karena itu, parameter perlu ditentukan melalui tuning menggunakan grid search dan validasi silang, dan kinerja model perlu dievaluasi pada data testing (James dkk., 2021). Pada data yang tidak seimbang, evaluasi juga tidak cukup hanya menggunakan akurasi. Oleh karena itu pada praktikum kali ini dibahas mengenai “Support Vector Machine (SVM) dan Support Vector Regression (SVR)”.

1.2 Rumusan Masalah

Berdasarkan latar belakang, rumusan masalah pada penelitian ini, yaitu:

  1. Bagaimana konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR)?

  2. Apa yang dimaksud dengan hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR?

  3. Bagaimana cara mengimplementasikan SVM untuk klasifikasi dan SVR untuk regresi menggunakan R?

  4. Bagaimana cara melakukan tuning parameter cost, gamma, dan epsilon serta mengevaluasi performa model menggunakan ukuran yang sesuai?

1.3 Tujuan

Berdasarkan rumusan masalah di atas, tujuan pada penelitian ini, yaitu:

  1. Mahasiswa dapat memahami konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR).

  2. Mahasiswa dapat menjelaskan hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR.

  3. Mahasiswa dapat mengimplementasikan SVM untuk klasifikasi dan SVR untuk regresi menggunakan R.

  4. Mahasiswa dapat melakukan tuning parameter cost, gamma, dan epsilon serta mengevaluasi performa model menggunakan ukuran yang sesuai.

1.4 Manfaat

Adapun manfaat pada penelitian ini, yaitu:

  1. Dapat memberikan informasi serta pengetahuan tentang Support Vector Machine (SVM) dan Support Vector Regression (SVR) menggunakan program RStudio.

  2. Mengembangkan dan menerapkan wawasan ilmu yang telah diperoleh khususnya tentang Support Vector Machine (SVM) dan Support Vector Regression (SVR) (𝑘-NN) di RStudio.

1.5 Batasan Masalah

Lakukan klasifikasi menggunakan Support Vector Machine (SVM) pada data SynthDiabetes2 dari package mlbench, dengan variabel diabetes sebagai respon. Lakukan penanganan missing value sebagaimana pada sintaks praktikum sebelum membentuk model. Gunakan e1071::svm() dan bandingkan kernel linear dan radial. Untuk kernel radial, lakukan tuning kombinasi cost = 0.1, 1, 10, 100 dan gamma = 0.001, 0.01, 0.1, 1. Gunakan model terbaik untuk memprediksi data testing. Evaluasi model berdasarkan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC, dengan kelas pos sebagai kelas positif. Jelaskan pengaruh parameter cost dan gamma terhadap fleksibilitas model dan batas keputusan, kemudian tentukan kernel yang memberikan performa terbaik.

1.6 Sistematika Penulisan

Adapun sistematika penulisan dari praktikum ini adalah:

BAB I PENDAHULUAN

Bab I terdiri dari latar belakang, rumusan masalah, batasan masalah, tujuan penelitian, manfaat penelitian, dan sistematika penulisan.

BAB II TINJAUAN PUSTAKA

Bab ini berisi tentang kajian pustaka yang terdiri dari jurnal-jurnal, buku-buku, dan informasi pendukung tentang Machine Learning pada program R.

BAB III METODE PENELITIAN

Bab ini terdiri dari analisis jenis dan sumber data, variabel penelitian, algoritma penelitian, dan diagram alur.

BAB IV HASIL DAN PEMBAHASAN

Bab ini merupakan tahapan pencapaian hasil yang diperoleh dari analisis data yang dilakukan serta penjelasan dari hasil tersebut di bagian pembahasan.

BAB V KESIMPULAN DAN SARAN

Bab ini merupakan bagian penutup dalam laporan ini berupa penarikan kesimpulan mengenai hasil analisis dari penelitian serta penyampaian saran oleh penulis.

DAFTAR PUSTAKA

LAMPIRAN

BAB II TINJAUAN PUSTAKA

2.1 Support Vector Machine (SVM)

Support Vector Machine (SVM) adalah algoritma pembelajaran terawasi (supervised learning) yang mengklasifikasikan observasi dengan cara mencari hyperplane pemisah yang optimal, yaitu hyperplane yang memaksimalkan jarak (margin) antarkelas (Cervantes dkk., 2020; Pisner & Schnyer, 2020). Observasi training yang paling dekat dengan hyperplane disebut support vector, dan hanya observasi inilah yang menentukan posisi hyperplane (Cervantes dkk., 2020; James dkk., 2021). SVM telah banyak diterapkan pada berbagai bidang ilmu dan rekayasa (Cervantes dkk., 2020), termasuk pada bidang kesehatan untuk memprediksi diagnosis dan prognosis penyakit (Pisner & Schnyer, 2020). Kesederhanaan relatif SVM membuat risiko overfitting-nya lebih rendah, bahkan pada data berdimensi tinggi (Pisner & Schnyer, 2020).

Pada dasarnya SVM merupakan klasifikator biner, sedangkan kasus dengan lebih dari dua kelas ditangani dengan memperluas klasifikator biner ke bentuk multikelas (Faouzi & Colliot, 2023). Beberapa konsep utama yang menentukan kinerja SVM adalah hyperplane dan margin maksimum, margin lunak (soft margin) beserta parameter cost, fungsi kernel, serta pemilihan parameter (tuning) (Tharwat, 2019).

1. Hyperplane dan Margin Maksimum

Misalkan terdapat data training \(\{(\mathbf{x}_i, y_i)\}_{i=1}^{n}\) dengan \(\mathbf{x}_i \in \mathbb{R}^{p}\) adalah vektor prediktor dan \(y_i \in \{-1, +1\}\) adalah kelas observasi ke-\(i\) (Faouzi & Colliot, 2023). Hyperplane pemisah dinyatakan sebagai:

\[ f(\mathbf{x}) = \mathbf{w}^{\top}\mathbf{x} + b = 0 \]

dengan \(\mathbf{w}\) adalah vektor bobot dan \(b\) adalah konstanta (bias). Lebar margin antara kedua kelas adalah \(2/\lVert \mathbf{w} \rVert\), sehingga memaksimalkan margin setara dengan meminimalkan \(\lVert \mathbf{w} \rVert\). Untuk data yang dapat dipisahkan secara sempurna, masalah optimasinya adalah:

\[ \min_{\mathbf{w},\, b}\ \frac{1}{2}\lVert \mathbf{w} \rVert^{2} \qquad \text{dengan syarat} \qquad y_i\left(\mathbf{w}^{\top}\mathbf{x}_i + b\right) \geq 1, \quad i = 1, 2, \dots, n \]

Observasi baru \(\mathbf{x}\) diklasifikasikan berdasarkan tanda dari \(f(\mathbf{x})\), yaitu kelas \(+1\) apabila \(f(\mathbf{x}) > 0\) dan kelas \(-1\) apabila \(f(\mathbf{x}) < 0\) (James dkk., 2021).

2. Margin Lunak dan Parameter Cost

Pada data nyata, kedua kelas umumnya saling tumpang tindih sehingga tidak dapat dipisahkan secara sempurna. Oleh karena itu, SVM menggunakan margin lunak (soft margin) dengan memperkenankan sebagian observasi berada di dalam margin atau pada sisi yang salah melalui variabel kelonggaran (slack) \(\xi_i \geq 0\) (James dkk., 2021):

\[ \min_{\mathbf{w},\, b,\, \boldsymbol{\xi}}\ \frac{1}{2}\lVert \mathbf{w} \rVert^{2} + C\sum_{i=1}^{n}\xi_i \qquad \text{dengan syarat} \qquad y_i\left(\mathbf{w}^{\top}\mathbf{x}_i + b\right) \geq 1 - \xi_i,\quad \xi_i \geq 0 \]

Parameter \(C\) (cost) merupakan parameter penalti yang mengatur keseimbangan antara memaksimalkan margin dan meminimalkan kesalahan klasifikasi pada data training (Tharwat, 2019). Nilai \(C\) yang kecil menghasilkan margin yang lebih lebar dengan lebih banyak support vector dan toleransi yang lebih besar terhadap kesalahan, sedangkan nilai \(C\) yang besar menghasilkan margin yang lebih sempit dan model yang lebih ketat terhadap data training sehingga berisiko overfitting (James dkk., 2021).

Masalah optimasi tersebut umumnya diselesaikan dalam bentuk dualnya. Dengan pengali Lagrange \(\alpha_i\) (\(0 \leq \alpha_i \leq C\)), fungsi keputusan SVM dinyatakan sebagai:

\[ f(\mathbf{x}) = \sum_{i \in S} \alpha_i\, y_i\, K(\mathbf{x}_i, \mathbf{x}) + b \]

dengan \(S\) adalah himpunan support vector, yaitu observasi dengan \(\alpha_i > 0\), dan \(K(\cdot,\cdot)\) adalah fungsi kernel (James dkk., 2021).

3. Fungsi Kernel

Apabila hubungan antarkelas tidak dapat dipisahkan secara linear, fungsi kernel digunakan untuk memetakan data ke ruang fitur berdimensi lebih tinggi yang memungkinkan data dipisahkan secara linear (Tharwat, 2019). Pemetaan ini dilakukan tanpa menghitung koordinat pada ruang fitur secara eksplisit, melainkan hanya melalui nilai kernel antarpasang observasi (kernel trick) (Faouzi & Colliot, 2023). Dua kernel yang digunakan pada penelitian ini adalah:

\[ \text{Linear:}\quad K(\mathbf{x}_i, \mathbf{x}_j) = \mathbf{x}_i^{\top}\mathbf{x}_j \]

\[ \text{Radial (\textit{Radial Basis Function}):}\quad K(\mathbf{x}_i, \mathbf{x}_j) = \exp\left(-\gamma\,\lVert \mathbf{x}_i - \mathbf{x}_j \rVert^{2}\right), \qquad \gamma > 0 \]

Kernel linear menghasilkan batas keputusan berbentuk garis atau bidang lurus, sedangkan kernel radial menghasilkan batas keputusan yang tak linear. Parameter \(\gamma\) pada kernel radial mengatur seberapa jauh pengaruh satu observasi training, yaitu nilai \(\gamma\) yang besar membuat batas keputusan lebih lengkung dan lebih rentan terhadap overfitting, sedangkan nilai \(\gamma\) yang kecil membuat batas keputusan lebih halus (James dkk., 2021; Tharwat, 2019). Pada fungsi svm() di package e1071, nilai bawaan \(\gamma\) adalah satu dibagi banyaknya prediktor (Meyer dkk., 2025).

4. Tuning Parameter dan Standardisasi Data

Parameter penalti dan parameter kernel berpengaruh besar terhadap kinerja klasifikasi SVM (Tharwat, 2019). Salah satu pendekatan yang umum digunakan untuk menentukan nilainya adalah pencarian grid (grid search), yaitu mencoba kombinasi nilai parameter pada suatu rentang tertentu, walaupun pendekatan ini membutuhkan waktu komputasi yang besar apabila ruang parameter luas (Tharwat, 2019). Setiap kombinasi dievaluasi menggunakan validasi silang (cross validation) pada data training, yaitu data dibagi menjadi \(K\) lipatan yang secara bergantian digunakan sebagai data validasi, kemudian kombinasi dengan kesalahan validasi terkecil dipilih sebagai parameter terbaik (James dkk., 2021). Pada package e1071, proses ini dilakukan oleh fungsi tune.svm() (Meyer dkk., 2025).

Karena SVM berbasis kernel yang bergantung pada jarak antarobservasi, prediktor dengan rentang nilai besar dapat mendominasi perhitungan sehingga prediktor perlu distandardisasi sebelum model dibentuk (Faouzi & Colliot, 2023). Fungsi svm() pada package e1071 menyediakan standardisasi ini melalui argumen scale dan implementasinya menggunakan pustaka libsvm (Meyer dkk., 2025).

5. Kelebihan dan Keterbatasan

SVM efektif untuk data berdimensi tinggi dan memiliki risiko overfitting yang relatif rendah karena prinsip margin maksimum (Pisner & Schnyer, 2020). Penggunaan fungsi kernel juga membuat SVM dapat menangani hubungan yang tak linear (Tharwat, 2019). Di sisi lain, kinerja SVM sangat bergantung pada pemilihan kernel dan parameternya (Tharwat, 2019). Selain itu, SVM masih menghadapi tantangan pada data berukuran besar, klasifikasi multikelas, dan data yang tidak seimbang (Cervantes dkk., 2020). Pada data yang tidak seimbang, kinerja SVM dapat lebih baik pada kelas mayoritas dibandingkan kelas minoritas, sehingga evaluasi tidak cukup hanya menggunakan akurasi.

6. Tahapan Algoritma

Tahapan klasifikasi menggunakan SVM adalah sebagai berikut (Faouzi & Colliot, 2023; James dkk., 2021; Meyer dkk., 2025).

  1. Siapkan data, yaitu menghapus variabel yang bukan prediktor, menangani missing value, dan memastikan variabel respon berbentuk factor. Bagi data menjadi data training dan data testing.

  2. Standardisasi variabel prediktor agar berada pada skala yang sama.

  3. Tentukan jenis kernel (linear atau radial) beserta parameter awal, yaitu cost \(C\) dan, untuk kernel radial, \(\gamma\).

  4. Bentuk model SVM pada data training dengan menyelesaikan masalah optimasi margin lunak sehingga diperoleh support vector beserta fungsi keputusan \(f(\mathbf{x})\).

  5. Lakukan tuning parameter menggunakan grid search dan validasi silang pada data training, kemudian bentuk kembali model dengan parameter terbaik.

  6. Prediksi kelas data testing berdasarkan tanda fungsi keputusan:

\[ \hat{y}(\mathbf{x}_q) = \operatorname{sign}\left(\sum_{i \in S}\alpha_i\, y_i\, K(\mathbf{x}_i, \mathbf{x}_q) + b\right) \]

  1. Evaluasi hasil prediksi dengan membandingkannya terhadap kelas aktual pada data testing.

2.2 Support Vector Regression (SVR)

Support Vector Regression (SVR) adalah perluasan SVM untuk kasus regresi, yaitu teknik analitik untuk mengkaji hubungan antara satu atau lebih variabel prediktor dan variabel dependen yang bernilai kontinu (Zhang & O’Donnell, 2020). Berbeda dengan metode regresi tradisional yang bergantung pada asumsi bentuk model tertentu, misalnya hubungan linear, SVR mempelajari hubungan antara variabel input dan output langsung dari data (Zhang & O’Donnell, 2020). Pada pengelompokan metode klasik, SVR termasuk metode regresi bersama regresi linear, tetangga terdekat, dan model berbasis pohon (Faouzi & Colliot, 2023). Sebagaimana SVM, SVR memanfaatkan konsep support vector, margin, dan fungsi kernel, sehingga dapat memodelkan hubungan yang tak linear (Zhang & O’Donnell, 2020).

1. Fungsi Kerugian \(\varepsilon\)-insensitive

Misalkan terdapat data training \(\{(\mathbf{x}_i, y_i)\}_{i=1}^{n}\) dengan \(y_i \in \mathbb{R}\) adalah nilai respon kontinu. SVR mencari fungsi:

\[ f(\mathbf{x}) = \mathbf{w}^{\top}\phi(\mathbf{x}) + b \]

dengan \(\phi(\cdot)\) adalah pemetaan ke ruang fitur. Gagasan utama SVR adalah membentuk suatu “tabung” selebar \(\pm\varepsilon\) di sekitar fungsi \(f(\mathbf{x})\). Selisih antara nilai aktual dan prediksi yang berada di dalam tabung tidak dihitung sebagai kesalahan, sedangkan hanya selisih yang melampaui \(\varepsilon\) yang dikenai penalti. Hal ini dinyatakan oleh fungsi kerugian \(\varepsilon\)-insensitive (Zhang & O’Donnell, 2020):

\[ L_{\varepsilon}\bigl(y, f(\mathbf{x})\bigr) = \max\left(0,\ \bigl|y - f(\mathbf{x})\bigr| - \varepsilon\right) \]

Dengan variabel kelonggaran \(\xi_i\) dan \(\xi_i^{*}\) untuk observasi yang berada di atas dan di bawah tabung, masalah optimasi SVR dinyatakan sebagai:

\[ \min_{\mathbf{w},\, b,\, \boldsymbol{\xi},\, \boldsymbol{\xi}^{*}}\ \frac{1}{2}\lVert \mathbf{w} \rVert^{2} + C\sum_{i=1}^{n}\left(\xi_i + \xi_i^{*}\right) \]

\[ \text{dengan syarat}\qquad \begin{aligned} y_i - f(\mathbf{x}_i) &\leq \varepsilon + \xi_i \\ f(\mathbf{x}_i) - y_i &\leq \varepsilon + \xi_i^{*} \\ \xi_i,\ \xi_i^{*} &\geq 0 \end{aligned} \]

Dalam bentuk dualnya, fungsi prediksi SVR adalah:

\[ f(\mathbf{x}) = \sum_{i=1}^{n}\left(\alpha_i - \alpha_i^{*}\right)K(\mathbf{x}_i, \mathbf{x}) + b \]

dengan \(\alpha_i\) dan \(\alpha_i^{*}\) adalah pengali Lagrange. Observasi yang berada tepat pada batas tabung atau di luar tabung memiliki \(\alpha_i - \alpha_i^{*} \neq 0\) dan disebut support vector, sedangkan observasi di dalam tabung tidak memengaruhi fungsi prediksi (Zhang & O’Donnell, 2020).

2. Parameter SVR

Kinerja SVR dipengaruhi oleh tiga parameter utama, yaitu \(C\), \(\varepsilon\), dan parameter kernel seperti \(\gamma\) pada kernel radial. Parameter \(C\) mengatur keseimbangan antara kerataan fungsi (nilai \(\lVert \mathbf{w} \rVert\) yang kecil) dan penalti terhadap selisih yang melampaui \(\varepsilon\). Parameter \(\varepsilon\) menentukan lebar tabung, yaitu nilai \(\varepsilon\) yang kecil membuat model lebih ketat terhadap data dan menghasilkan lebih banyak support vector, sedangkan nilai \(\varepsilon\) yang besar menghasilkan model yang lebih sederhana dan lebih sedikit support vector (Zhang & O’Donnell, 2020). Seperti pada SVM, parameter kernel dan parameter penalti berpengaruh besar terhadap kinerja model sehingga ditentukan melalui tuning menggunakan grid search dan validasi silang (Tharwat, 2019). Pada package e1071, SVR dibentuk dengan fungsi svm() pada tipe eps-regression dan tuning dilakukan dengan fungsi tune.svm() (Meyer dkk., 2025).

3. Kelebihan dan Keterbatasan

SVR tidak mensyaratkan asumsi bentuk hubungan tertentu antara prediktor dan respon dan dapat memodelkan hubungan tak linear melalui fungsi kernel (Zhang & O’Donnell, 2020). Namun, SVR standar sensitif terhadap data yang mengandung noise dan outlier (Sabzekar & Hasheminejad, 2021). Hal ini terjadi karena outlier dapat terpilih sebagai support vector sehingga memengaruhi fungsi prediksi (Dhhan dkk., 2017). Oleh karena itu, berbagai pengembangan SVR yang lebih kokoh (robust) terhadap noise dan outlier telah diusulkan (Sabzekar & Hasheminejad, 2021). Selain itu, pemilihan kernel dan parameter yang kurang tepat dapat menurunkan kinerja model (Tharwat, 2019).

4. Tahapan Algoritma

Tahapan regresi menggunakan SVR adalah sebagai berikut (Faouzi & Colliot, 2023; Meyer dkk., 2025; Zhang & O’Donnell, 2020).

  1. Siapkan data, yaitu menangani missing value, memastikan variabel respon bernilai numerik kontinu, kemudian bagi data menjadi data training dan data testing.

  2. Standardisasi variabel prediktor agar berada pada skala yang sama.

  3. Tentukan jenis kernel beserta parameter awal, yaitu \(C\), \(\varepsilon\), dan \(\gamma\) (untuk kernel radial).

  4. Bentuk model SVR pada data training dengan meminimalkan fungsi kerugian \(\varepsilon\)-insensitive sehingga diperoleh support vector dan fungsi prediksi \(f(\mathbf{x})\).

  5. Lakukan tuning parameter menggunakan grid search dan validasi silang pada data training, kemudian bentuk kembali model dengan parameter terbaik.

  6. Prediksi nilai respon data testing menggunakan fungsi prediksi \(f(\mathbf{x}_q)\).

  7. Evaluasi hasil prediksi dengan membandingkan nilai prediksi terhadap nilai aktual pada data testing.

2.3 Pembagian Data dan Overfitting

Untuk menilai kemampuan model memprediksi data baru, data dibagi menjadi data training untuk membangun model dan data testing untuk mengevaluasi model (James dkk., 2021). Proporsi pembagian data memengaruhi hasil evaluasi. Data training yang lebih besar memberikan informasi yang lebih banyak bagi model, sedangkan data testing yang lebih besar membuat penilaian kinerja model lebih andal (Hastie dkk., 2009).

Overfitting terjadi ketika model memiliki kinerja yang sangat baik pada data training tetapi menurun pada data testing, karena model mempelajari noise pada data training (Hastie dkk., 2009). Risiko ini meningkat apabila jumlah parameter \(n_w\) besar dibandingkan jumlah observasi training \(n\). Penalti bobot, pembatasan jumlah hidden neuron, dan evaluasi pada data testing merupakan cara untuk mendeteksi dan mengendalikan overfitting (Bishop, 2006).

2.3 Pembagian Data dan Overfitting

Untuk menilai kemampuan model memprediksi data baru, data dibagi menjadi data training untuk membangun model dan data testing untuk mengevaluasi model (James dkk., 2021). Proporsi pembagian data memengaruhi hasil evaluasi. Data training yang lebih besar memberikan informasi yang lebih banyak bagi model, sedangkan data testing yang lebih besar membuat penilaian kinerja model lebih andal (Hastie dkk., 2009).

Overfitting terjadi ketika model memiliki kinerja yang sangat baik pada data training tetapi menurun pada data testing, karena model mempelajari noise pada data training (Hastie dkk., 2009). Risiko ini meningkat apabila jumlah parameter \(n_w\) besar dibandingkan jumlah observasi training \(n\). Penalti bobot, pembatasan jumlah hidden neuron, dan evaluasi pada data testing merupakan cara untuk mendeteksi dan mengendalikan overfitting (Bishop, 2006).

2.4 Ukuran Evaluasi Model

Kinerja model klasifikasi pada data testing dievaluasi menggunakan tabel klasifikasi (confusion matrix) yang membandingkan kelas aktual dengan kelas prediksi (Sokolova & Lapalme, 2009). Misalkan \(n_{kl}\) adalah banyaknya observasi dengan kelas aktual ke-\(k\) yang diprediksi sebagai kelas ke-\(l\), maka tabel klasifikasi untuk \(K = 3\) kelas disajikan sebagai berikut.

Kelas Aktual Prediksi Kelas 1 Prediksi Kelas 2 Prediksi Kelas 3
Kelas 1 \(n_{11}\) \(n_{12}\) \(n_{13}\)
Kelas 2 \(n_{21}\) \(n_{22}\) \(n_{23}\)
Kelas 3 \(n_{31}\) \(n_{32}\) \(n_{33}\)

Observasi yang terklasifikasi dengan benar berada pada diagonal tabel. Ukuran evaluasi yang digunakan adalah classification rate atau akurasi, yaitu proporsi observasi yang terklasifikasi dengan benar, serta kebalikannya yaitu laju kesalahan klasifikasi (misclassification rate) (Hastie dkk., 2009; James dkk., 2021):

\[ Akurasi = \frac{\sum_{k=1}^{K} n_{kk}}{\sum_{k=1}^{K}\sum_{l=1}^{K} n_{kl}}, \qquad Laju\ Kesalahan = 1 - Akurasi \]

Nilai akurasi yang lebih besar menunjukkan kinerja model yang lebih baik. Selain akurasi secara keseluruhan, tabel klasifikasi memungkinkan identifikasi kelas yang sering tertukar, sehingga dapat diketahui kelas mana yang sulit dibedakan oleh model (Sokolova & Lapalme, 2009).

BAB III METODE PENELITIAN

3.1 Sumber Data

Jenis data pada penelitian ini adalah data kuantitatif. Data kuantitatif adalah jenis data yang berbentuk angka atau bilangan dan dapat diukur atau dihitung secara langsung. Laporan ini memiliki satu batasan masalah yang menggunakan sumber data sekunder. Data sekunder adalah data yang diperoleh secara tidak langsung melalui media perantara. Data yang digunakan adalah data Pima Indians Diabetes (SynthDiabetes2) yang didapatkan dari package mlbench pada program R secara langsung. Data ini terdiri atas 768 observasi hasil pemeriksaan kesehatan pasien perempuan untuk mendeteksi penyakit diabetes.

3.2 Variabel Penelitian

Variabel penelitian adalah karakter atau segala sesuatu yang menjadi perhatian dalam suatu penelitian. Data awal terdiri atas 9 variabel. Variabel tersebut terdiri dari 8 variabel prediktor (numerik) dan 1 variabel respon (kategorik). Variabel prediktor meliputi pregnant (jumlah kehamilan), glucose (kadar glukosa plasma), pressure (tekanan darah diastolik), triceps (ketebalan lipatan kulit trisep), insulin (kadar insulin serum), mass (indeks massa tubuh), pedigree (fungsi riwayat diabetes keluarga), dan age (usia). Variabel respon adalah diabetes dengan dua kategori, yaitu neg (tidak diabetes) dan pos (diabetes). Namun, variabel triceps dan insulin tidak digunakan pada tahap pemodelan karena memiliki banyak missing value, sehingga model akhir hanya menggunakan 6 variabel prediktor.

3.3 Langkah-langkah Analisis

  1. Input data
  2. Eksplorasi awal data
  3. Preprocessing data
  4. Membagi data menjadi data latih (training data) dan data uji (testing data) sebesar 70:30
  5. Membentuk model Support Vector Machine (SVM)
  6. Membuat visualisasi decision boundary model SVM
  7. Melakukan prediksi data uji
  8. Membentuk confusion matrix
  9. Menghitung metrik evaluasi
  10. Melakukan tuning parameter
  11. Mengevaluasi model radial hasil tuning menggunakan confusion matrix, metrik evaluasi, dan kurva ROC
  12. Perbandingan kinerja model
  13. Pemilihan model terbaik

BAB IV HASIL DAN PEMBAHASAN

4.1 Library

library(e1071)
library(mlbench)
library(caret)
## Loading required package: ggplot2
## Warning: package 'ggplot2' was built under R version 4.6.2
## 
## Attaching package: 'ggplot2'
## The following object is masked from 'package:e1071':
## 
##     element
## Loading required package: lattice
library(pROC)
## Type 'citation("pROC")' for a citation.
## 
## Attaching package: 'pROC'
## The following objects are masked from 'package:stats':
## 
##     cov, smooth, var
library(ggplot2)

Package yang digunakan terdiri atas e1071 untuk membentuk model Support Vector Machine (SVM) melalui fungsi svm() serta melakukan tuning parameter melalui fungsi tune.svm(), mlbench sebagai sumber data Pima Indians Diabetes (SynthDiabetes2), caret untuk membagi data melalui fungsi createDataPartition() serta mengevaluasi model melalui fungsi confusionMatrix(), pROC untuk menghitung dan menggambar kurva Receiver Operating Characteristic (ROC) beserta nilai Area Under Curve (AUC), serta ggplot2 untuk visualisasi decision boundary.

4.2 Data

# Memuat dataset SynthDiabetes2
data("SynthDiabetes2", package = "mlbench")
pima <- SynthDiabetes2

# Melihat struktur data
str(pima)
## 'data.frame':    768 obs. of  9 variables:
##  $ pregnant: num  0 8 2 6 4 10 3 1 4 7 ...
##  $ glucose : num  194 129 132 184 108 117 100 88 73 126 ...
##  $ pressure: num  50 84 72 62 58 80 80 75 82 92 ...
##  $ triceps : num  45 NA 42 NA 32 13 41 30 38 NA ...
##  $ insulin : num  NA NA NA NA NA NA 65 49 NA NA ...
##  $ mass    : num  28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
##  $ pedigree: num  0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
##  $ age     : num  28 44 26 39 22 58 33 22 33 46 ...
##  $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
# Melihat ringkasan data
summary(pima)
##     pregnant         glucose         pressure         triceps     
##  Min.   : 0.000   Min.   : 57.0   Min.   : 24.00   Min.   : 7.00  
##  1st Qu.: 1.000   1st Qu.:101.0   1st Qu.: 64.00   1st Qu.:22.00  
##  Median : 3.000   Median :119.0   Median : 72.00   Median :30.00  
##  Mean   : 4.585   Mean   :125.3   Mean   : 72.59   Mean   :29.46  
##  3rd Qu.: 7.000   3rd Qu.:144.5   3rd Qu.: 80.00   3rd Qu.:36.00  
##  Max.   :13.000   Max.   :199.0   Max.   :108.00   Max.   :63.00  
##                   NAs    :5       NAs    :35       NAs    :251    
##     insulin         mass          pedigree           age        diabetes 
##  Min.   : 14   Min.   :18.20   Min.   :0.0780   Min.   :21.00   neg:488  
##  1st Qu.: 76   1st Qu.:27.80   1st Qu.:0.2430   1st Qu.:24.00   pos:280  
##  Median :125   Median :32.80   Median :0.3670   Median :28.00            
##  Mean   :159   Mean   :32.87   Mean   :0.4792   Mean   :33.05            
##  3rd Qu.:194   3rd Qu.:36.95   3rd Qu.:0.6450   3rd Qu.:41.00            
##  Max.   :846   Max.   :59.40   Max.   :2.4200   Max.   :81.00            
##  NAs    :405   NAs    :13
# Memeriksa missing value
colSums(is.na(pima))
## pregnant  glucose pressure  triceps  insulin     mass pedigree      age 
##        0        5       35      251      405       13        0        0 
## diabetes 
##        0

Data yang digunakan adalah data Pima Indians Diabetes (SynthDiabetes2) yang terdiri atas 768 observasi dan sembilan variabel, yaitu delapan variabel prediktor (pregnant, glucose, pressure, triceps, insulin, mass, pedigree, dan age) yang berskala numerik serta satu variabel respon kategorik diabetes dengan dua kelas, yaitu neg (tidak diabetes) dan pos (diabetes). Berdasarkan output, terdapat 488 observasi neg dan 280 observasi pos, sehingga data tidak seimbang dengan proporsi kelas neg lebih besar. Pemeriksaan missing value menunjukkan bahwa variabel glucose memiliki 5 data hilang, pressure 35 data hilang, triceps 251 data hilang, insulin 405 data hilang, dan mass 13 data hilang, sedangkan variabel pregnant, pedigree, age, dan diabetes tidak memiliki missing value. Variabel triceps dan insulin memiliki proporsi data hilang yang sangat besar (masing-masing sekitar 32,7% dan 52,7%).

4.3 Preprocessing Data

# Menghapus dua prediktor dengan banyak missing value
pima <- pima[, !names(pima) %in% c("triceps", "insulin")]

# Menghapus observasi yang masih mengandung missing value
pima <- na.omit(pima)

# Memastikan variabel respons berbentuk factor
pima$diabetes <- factor(
  pima$diabetes,
  levels = c("neg", "pos"))

# Memeriksa data setelah preprocessing
str(pima)
## 'data.frame':    727 obs. of  7 variables:
##  $ pregnant: num  0 8 2 6 4 10 3 1 4 7 ...
##  $ glucose : num  194 129 132 184 108 117 100 88 73 126 ...
##  $ pressure: num  50 84 72 62 58 80 80 75 82 92 ...
##  $ mass    : num  28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
##  $ pedigree: num  0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
##  $ age     : num  28 44 26 39 22 58 33 22 33 46 ...
##  $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
##  - attr(*, "na.action")= 'omit' Named int [1:41] 42 57 59 60 77 96 108 109 119 158 ...
##   ..- attr(*, "names")= chr [1:41] "42" "57" "59" "60" ...
summary(pima)
##     pregnant        glucose         pressure           mass      
##  Min.   : 0.00   Min.   : 57.0   Min.   : 24.00   Min.   :18.20  
##  1st Qu.: 1.00   1st Qu.:101.0   1st Qu.: 64.00   1st Qu.:27.80  
##  Median : 3.00   Median :119.0   Median : 72.00   Median :32.80  
##  Mean   : 4.67   Mean   :125.4   Mean   : 72.58   Mean   :32.96  
##  3rd Qu.: 7.00   3rd Qu.:144.0   3rd Qu.: 80.00   3rd Qu.:37.15  
##  Max.   :13.00   Max.   :196.0   Max.   :108.00   Max.   :59.40  
##     pedigree           age        diabetes 
##  Min.   :0.0780   Min.   :21.00   neg:462  
##  1st Qu.:0.2450   1st Qu.:24.00   pos:265  
##  Median :0.3650   Median :28.00            
##  Mean   :0.4790   Mean   :33.29            
##  3rd Qu.:0.6425   3rd Qu.:41.00            
##  Max.   :2.4200   Max.   :81.00
dim(pima)
## [1] 727   7
# Distribusi kelas
table(pima$diabetes)
## 
## neg pos 
## 462 265
prop.table(table(pima$diabetes))
## 
##       neg       pos 
## 0.6354883 0.3645117
# Memastikan variabel visualisasi tersedia
stopifnot(all(c("glucose", "pressure") %in% names(pima)))

Tahap preprocessing meliputi penghapusan variabel triceps dan insulin karena memiliki proporsi missing value yang terlalu besar sehingga imputasi dikhawatirkan menambah bias, penghapusan observasi yang masih memiliki missing value pada variabel glucose, pressure, dan mass dengan na.omit(), serta pemastian variabel diabetes berbentuk factor dengan urutan level neg dan pos. Berdasarkan output, sebanyak 41 observasi dihapus sehingga data yang tersisa terdiri atas 727 observasi dan tujuh variabel (enam prediktor dan satu respon) tanpa missing value. Distribusi kelas menjadi 462 neg dan 265 pos, atau sekitar 63,5% dan 36,5%. Proporsi kelas pos relatif tidak berubah dibandingkan data awal (36,5% pada 280 dari 768 observasi), sehingga penghapusan observasi tidak banyak mengubah komposisi kelas. Pada summary, seluruh prediktor berada pada rentang yang wajar, misalnya glucose 57 sampai 196, pressure 24 sampai 108, dan age 21 sampai 81 tahun. Perbedaan skala antarvariabel yang cukup besar ini perlu diperhatikan karena SVM sensitif terhadap skala, sehingga pada pembentukan model digunakan argumen scale = TRUE.

4.4 Splitting Data 70:30

# Inisialisasi random seed
set.seed(234)

# Mengambil sampel 70% untuk data training
idx.cls <- createDataPartition(
  pima$diabetes,
  p = 0.70,
  list = FALSE)

# Memisahkan data training dan testing
pima.train <- pima[idx.cls, ]
pima.test  <- pima[-idx.cls, ]

# Menampilkan dimensi data
dim(pima.train)
## [1] 510   7
dim(pima.test)
## [1] 217   7
# Memeriksa distribusi kelas pada data training dan testing
table(pima.train$diabetes)
## 
## neg pos 
## 324 186
table(pima.test$diabetes)
## 
## neg pos 
## 138  79
prop.table(table(pima.train$diabetes))
## 
##       neg       pos 
## 0.6352941 0.3647059
prop.table(table(pima.test$diabetes))
## 
##       neg       pos 
## 0.6359447 0.3640553

Pembagian data dilakukan dengan proporsi 70% untuk data training dan 30% untuk data testing menggunakan createDataPartition() dengan set.seed(234). Fungsi ini melakukan pengambilan sampel berstrata sehingga proporsi kelas tetap terjaga pada kedua bagian data. Berdasarkan output, data training terdiri atas 510 observasi (324 neg dan 186 pos), sedangkan data testing terdiri atas 217 observasi (138 neg dan 79 pos). Proporsi kelas pos pada data training (36,47%) dan testing (36,41%) hampir sama dengan proporsi pada data keseluruhan (36,45%). Data training digunakan untuk membentuk model SVM dan melakukan tuning parameter, sedangkan data testing digunakan untuk mengevaluasi kemampuan model mengklasifikasikan data baru.

4.5 Model SVM Kernel Radial Awal

# Membentuk model SVM radial dengan parameter awal
set.seed(234)
svm.cls <- svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "radial",
  cost = 1,
  gamma = 1 / (ncol(pima.train) - 1),
  scale = TRUE,
  probability = TRUE)

svm.cls
## 
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification", 
##     kernel = "radial", cost = 1, gamma = 1/(ncol(pima.train) - 1), 
##     probability = TRUE, scale = TRUE)
## 
## 
## Parameters:
##    SVM-Type:  C-classification 
##  SVM-Kernel:  radial 
##        cost:  1 
## 
## Number of Support Vectors:  307

Model SVM awal dibentuk dengan tipe C-classification dan kernel radial (Radial Basis Function) menggunakan parameter bawaan, yaitu cost = 1 dan gamma = 1/(7 − 1) = 1/6 ≈ 0,1667 (satu dibagi jumlah prediktor). Argumen scale = TRUE digunakan agar seluruh prediktor distandardisasi sebelum model dibentuk, sedangkan probability = TRUE digunakan agar model dapat menghasilkan probabilitas kelas yang dibutuhkan untuk menghitung ROC dan AUC. Berdasarkan output, model awal menghasilkan 307 support vector dari 510 data training (sekitar 60,2%). Jumlah support vector yang relatif besar menunjukkan bahwa banyak observasi berada di dekat atau di dalam margin, yang mengindikasikan bahwa kedua kelas pada data ini saling tumpang tindih dan tidak dapat dipisahkan dengan jelas.

4.6 Visualisasi Decision Boundary

# Membuat grid prediksi
grid_vals <- expand.grid(
  glucose = seq(
    min(pima.train$glucose),
    max(pima.train$glucose),
    length.out = 200),
  pressure = seq(
    min(pima.train$pressure),
    max(pima.train$pressure),
    length.out = 200))

# Menetapkan prediktor lainnya pada nilai median
prediktor <- setdiff(
  names(pima.train),
  c("diabetes", "glucose", "pressure"))

for (v in prediktor) {
  grid_vals[[v]] <- median(pima.train[[v]])}

# Menyesuaikan urutan kolom dengan data training
grid_vals <- grid_vals[, setdiff(names(pima.train), "diabetes"),
                       drop = FALSE]

# Prediksi dan mengambil decision values
pred.grid <- predict(
  svm.cls,
  newdata = grid_vals,
  decision.values = TRUE)

grid_vals$Prediksi <- factor(pred.grid, levels = c("neg", "pos"))
grid_vals$margin <- as.numeric(attr(pred.grid, "decision.values")[, 1])

# Plot decision boundary
plot_decision <- ggplot() +
  geom_raster(
    data = grid_vals,
    aes(x = glucose, y = pressure, fill = Prediksi),
    alpha = 0.25) +
  geom_contour(
    data = grid_vals,
    aes(x = glucose, y = pressure, z = margin),
    breaks = 0,
    colour = "red",
    linewidth = 1) +
  geom_point(
    data = pima.train,
    aes(x = glucose, y = pressure, color = diabetes),
    size = 2,
    alpha = 0.8) +
  scale_color_manual(
    values = c("neg" = "#377EB8", "pos" = "#E41A1C")) +
  scale_fill_manual(
    values = c("neg" = "#377EB8", "pos" = "#E41A1C")) +
  labs(
    title = "SVM dengan Kernel Radial",
    subtitle = "Decision Boundary Klasifikasi Diabetes",
    x = "Glucose",
    y = "Pressure",
    color = "Kelas Aktual",
    fill = "Kelas Prediksi") +
  theme_bw()

plot_decision

Visualisasi decision boundary dibuat pada bidang dua dimensi dengan sumbu-x glucose dan sumbu-y pressure, sedangkan empat prediktor lainnya (pregnant, mass, pedigree, dan age) ditetapkan pada nilai median data training. Oleh karena itu, grafik ini merupakan irisan dua dimensi dari model berdimensi enam, sehingga batas keputusan yang tampak tidak menggambarkan seluruh kerja model. Daerah berwarna biru menunjukkan wilayah prediksi neg, daerah berwarna merah muda menunjukkan wilayah prediksi pos, dan garis merah menunjukkan batas keputusan (decision value = 0).

Berdasarkan grafik, batas keputusan berbentuk lengkung dan memisahkan wilayah pos pada sisi kanan (kadar glucose tinggi, sekitar di atas 150 mg/dL) dari wilayah neg pada sisi kiri. Bentuk lengkung ini menunjukkan sifat tak linear dari kernel radial. Batas keputusan hampir tegak lurus terhadap sumbu glucose, sehingga prediksi lebih banyak ditentukan oleh glucose dibandingkan pressure. Hal ini sesuai dengan sebaran titik data, yaitu titik pos (merah) semakin banyak pada glucose yang tinggi, sedangkan sebaran terhadap pressure tampak merata. Pada kisaran glucose sekitar 90 sampai 150, titik neg dan pos bercampur dengan padat sehingga tidak ada batas sederhana yang dapat memisahkannya. Kondisi ini menjadi gambaran awal bahwa model akan cenderung mengalami kesalahan pada kelas pos yang berada di wilayah glucose sedang, yaitu diprediksi sebagai neg.

4.7 Prediksi dan Confusion Matrix Model Radial Awal

# Prediksi data testing
pred.svm.cls <- predict(
  svm.cls,
  newdata = pima.test,
  probability = TRUE)

pred.svm.cls <- factor(
  pred.svm.cls,
  levels = c("neg", "pos"))

# Membandingkan kelas aktual dan prediksi
hasil.svm.cls <- data.frame(
  Aktual = pima.test$diabetes,
  Prediksi = pred.svm.cls)

head(hasil.svm.cls, 10)
##    Aktual Prediksi
## 8     neg      neg
## 9     neg      neg
## 12    neg      neg
## 15    neg      neg
## 19    pos      pos
## 24    neg      neg
## 30    neg      pos
## 32    pos      pos
## 37    pos      neg
## 38    neg      pos
# Confusion matrix
cm.svm <- confusionMatrix(
  data = pred.svm.cls,
  reference = pima.test$diabetes,
  positive = "pos")

cm.svm
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 122  36
##        pos  16  43
##                                           
##                Accuracy : 0.7604          
##                  95% CI : (0.6979, 0.8156)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 5.909e-05       
##                                           
##                   Kappa : 0.4529          
##                                           
##  Mcnemar's Test P-Value : 0.008418        
##                                           
##             Sensitivity : 0.5443          
##             Specificity : 0.8841          
##          Pos Pred Value : 0.7288          
##          Neg Pred Value : 0.7722          
##              Prevalence : 0.3641          
##          Detection Rate : 0.1982          
##    Detection Prevalence : 0.2719          
##       Balanced Accuracy : 0.7142          
##                                           
##        'Positive' Class : pos             
## 

Prediksi pada data testing dilakukan dengan model radial awal, kemudian dibandingkan dengan kelas aktual. Pada sepuluh observasi pertama, terdapat dua kesalahan, yaitu observasi nomor 30 dan 38 yang sebenarnya neg tetapi diprediksi pos (false positive), serta satu kesalahan pada observasi nomor 37 yang sebenarnya pos tetapi diprediksi neg (false negative), sehingga total tiga kesalahan pada sepuluh observasi tersebut.

Kelas pos ditetapkan sebagai kelas positif (positive = “pos”) sehingga sensitivity menunjukkan kemampuan model mendeteksi pasien diabetes, sedangkan specificity menunjukkan kemampuan model mengenali pasien non-diabetes. Berdasarkan confusion matrix, model awal mengklasifikasikan benar 122 observasi neg (true negative) dan 43 observasi pos (true positive), dengan 52 kesalahan, yaitu 16 false positive dan 36 false negative. Akurasi model sebesar 76,04% (interval kepercayaan 95%: 69,79% sampai 81,56%) dan lebih tinggi dari No Information Rate sebesar 63,59% dengan p-value 5,909e-05 (< 0,05), sehingga kinerja model lebih baik secara signifikan dibandingkan menebak seluruh observasi sebagai neg. Nilai Kappa sebesar 0,4529 menunjukkan tingkat kesesuaian yang tergolong sedang. Sensitivity hanya sebesar 54,43% sementara specificity mencapai 88,41%, sehingga model jauh lebih baik dalam mengenali kasus neg dibandingkan kasus pos. Ketimpangan ini juga tampak dari Mcnemar’s Test P-Value sebesar 0,008418 (< 0,05), yang menunjukkan bahwa jumlah false negative (36) berbeda signifikan dengan jumlah false positive (16). Pada kasus diagnosis diabetes, false negative merupakan kesalahan yang lebih berbahaya karena pasien diabetes tidak terdeteksi, sehingga rendahnya sensitivity menjadi kelemahan utama model awal.

4.8 Fungsi Evaluasi Model

evaluasi.svm <- function(model, data.test) {

  # Prediksi kelas
  pred.raw <- predict(
    model,
    newdata = data.test,
    probability = TRUE)

  # Mengambil probabilitas kelas positif
  prob <- attr(
    pred.raw,
    "probabilities")[, "pos"]

  # Mengubah hasil prediksi menjadi factor
  pred <- factor(
    pred.raw,
    levels = c("neg", "pos"))

  aktual <- factor(
    data.test$diabetes,
    levels = c("neg", "pos"))

  # Confusion matrix
  cm <- confusionMatrix(
    data = pred,
    reference = aktual,
    positive = "pos")

  # Membentuk tabel confusion matrix
  tab <- table(
    Aktual = aktual,
    Prediksi = pred)

  TN <- tab["neg", "neg"]
  FP <- tab["neg", "pos"]
  FN <- tab["pos", "neg"]
  TP <- tab["pos", "pos"]

  # Menghitung metrik evaluasi
  Accuracy <- (TP + TN) / (TP + TN + FP + FN)

  Precision <- ifelse(
    TP + FP == 0,
    NA,
    TP / (TP + FP))

  Recall <- ifelse(
    TP + FN == 0,
    NA,
    TP / (TP + FN))

  Specificity <- ifelse(
    TN + FP == 0,
    NA,
    TN / (TN + FP))

  F1_Score <- ifelse(
    is.na(Precision) | is.na(Recall) |
      Precision + Recall == 0,
    NA,
    2 * Precision * Recall / (Precision + Recall))

  # ROC dan AUC
  roc.obj <- roc(
    response = aktual,
    predictor = prob,
    levels = c("neg", "pos"),
    direction = "<",
    quiet = TRUE)

  AUC <- as.numeric(auc(roc.obj))

  # Tabel evaluasi
  metrik <- data.frame(
    Accuracy = Accuracy,
    Precision = Precision,
    Recall = Recall,
    Specificity = Specificity,
    F1_Score = F1_Score,
    ROC_AUC = AUC)

  return(
    list(
      confusion_matrix = cm,
      tabel_confusion = tab,
      evaluasi = metrik,
      roc = roc.obj,
      prediksi = pred,
      probabilitas = prob))}

Fungsi evaluasi.svm() dibuat agar proses evaluasi dapat dilakukan secara seragam pada setiap model. Fungsi ini menerima model SVM dan data testing, kemudian menghasilkan confusion matrix, enam metrik evaluasi, serta objek ROC. Metrik yang dihitung adalah Accuracy (proporsi prediksi benar), Precision (ketepatan prediksi kelas pos), Recall (identik dengan sensitivity), Specificity, F1-Score (rata-rata harmonik Precision dan Recall), serta ROC-AUC yang dihitung dari probabilitas kelas pos. Penggunaan F1-Score dan ROC-AUC melengkapi akurasi karena data tidak seimbang, sehingga akurasi saja dapat memberikan gambaran yang terlalu optimis.

4.9 ROC dan AUC Model Radial Awal

# Evaluasi model radial awal
hasil.awal <- evaluasi.svm(svm.cls, pima.test)

# Confusion matrix
hasil.awal$confusion_matrix
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 122  36
##        pos  16  43
##                                           
##                Accuracy : 0.7604          
##                  95% CI : (0.6979, 0.8156)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 5.909e-05       
##                                           
##                   Kappa : 0.4529          
##                                           
##  Mcnemar's Test P-Value : 0.008418        
##                                           
##             Sensitivity : 0.5443          
##             Specificity : 0.8841          
##          Pos Pred Value : 0.7288          
##          Neg Pred Value : 0.7722          
##              Prevalence : 0.3641          
##          Detection Rate : 0.1982          
##    Detection Prevalence : 0.2719          
##       Balanced Accuracy : 0.7142          
##                                           
##        'Positive' Class : pos             
## 
# Seluruh metrik evaluasi
round(hasil.awal$evaluasi, 4)
##   Accuracy Precision Recall Specificity F1_Score ROC_AUC
## 1   0.7604    0.7288 0.5443      0.8841   0.6232   0.818
# Plot ROC
plot(
  hasil.awal$roc,
  legacy.axes = TRUE,
  main = paste0(
    "ROC SVM Radial Awal (AUC = ",
    round(as.numeric(auc(hasil.awal$roc)), 3), ")"))

Hasil evaluasi model radial awal menunjukkan Accuracy 0,7604, Precision 0,7288, Recall 0,5443, Specificity 0,8841, F1-Score 0,6232, dan ROC-AUC 0,8180. Precision sebesar 72,88% berarti dari seluruh observasi yang diprediksi pos, sekitar 73% benar-benar pos (43 dari 59). Recall yang jauh lebih rendah dari Precision menunjukkan model bersifat konservatif, yaitu hanya memprediksi pos ketika cukup yakin, sehingga banyak kasus pos terlewat.

Kurva ROC berada jauh di atas garis diagonal (klasifikasi acak), yang menunjukkan bahwa model mampu membedakan kedua kelas dengan baik. Kurva naik cepat pada 1 − Specificity sekitar 0 sampai 0,2 hingga sensitivity mencapai sekitar 0,78, lalu naik lebih landai hingga mencapai 1 pada 1 − Specificity sama dengan 1. Nilai AUC sebesar 0,818 tergolong baik (rentang 0,8 sampai 0,9), artinya jika diambil satu pasien pos dan satu pasien neg secara acak, model memberi probabilitas pos yang lebih tinggi kepada pasien pos dengan peluang sekitar 81,8%. Nilai AUC yang cukup baik dengan sensitivity yang rendah menunjukkan bahwa kemampuan pemisahan model sebenarnya baik, tetapi ambang klasifikasi bawaan (0,5) kurang cocok untuk mendeteksi kelas pos.

4.10 Tuning Parameter Cost dan Gamma Kernel Radial

# Tuning cost dan gamma dengan 5-fold cross validation
set.seed(234)
tune.svm.cls <- tune.svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "radial",
  cost = c(0.1, 1, 10, 100),
  gamma = c(0.001, 0.01, 0.1, 1),
  scale = TRUE,
  probability = TRUE,
  tunecontrol = tune.control(cross = 5))

# Hasil tuning
tune.svm.cls
## 
## Parameter tuning of 'svm':
## 
## - sampling method: 5-fold cross validation 
## 
## - best parameters:
##  gamma cost
##   0.01  100
## 
## - best performance: 0.2568627
# Model terbaik
svm.best <- tune.svm.cls$best.model
svm.best
## 
## Call:
## best.svm(x = diabetes ~ ., data = pima.train, gamma = c(0.001, 0.01, 
##     0.1, 1), cost = c(0.1, 1, 10, 100), type = "C-classification", 
##     kernel = "radial", scale = TRUE, probability = TRUE, tunecontrol = tune.control(cross = 5))
## 
## 
## Parameters:
##    SVM-Type:  C-classification 
##  SVM-Kernel:  radial 
##        cost:  100 
## 
## Number of Support Vectors:  286
# Parameter terbaik
tune.svm.cls$best.parameters
##    gamma cost
## 14  0.01  100

Tuning dilakukan untuk mencari kombinasi parameter cost dan gamma terbaik pada kernel radial menggunakan grid search dengan validasi silang lima lipatan (5-fold cross validation) pada data training. Nilai cost yang diuji adalah 0,1; 1; 10; dan 100, sedangkan nilai gamma yang diuji adalah 0,001; 0,01; 0,1; dan 1, sehingga terdapat 16 kombinasi parameter. Parameter cost mengatur seberapa besar penalti terhadap kesalahan klasifikasi (nilai besar membuat model lebih ketat terhadap data training), sedangkan gamma mengatur jangkauan pengaruh satu observasi (nilai besar membuat batas keputusan lebih lengkung dan lebih rentan overfitting).

Berdasarkan output, kombinasi terbaik adalah gamma = 0,01 dan cost = 100 dengan error validasi silang sebesar 0,2569, atau akurasi validasi silang sekitar 74,31%. Model terbaik memiliki 286 support vector, lebih sedikit dibandingkan model awal (307). Nilai gamma yang kecil menghasilkan batas keputusan yang lebih halus (mendekati linear), sedangkan nilai cost yang besar menandakan bahwa model memerlukan penalti yang tinggi terhadap kesalahan klasifikasi karena kelas saling tumpang tindih. Karena cost terbaik berada pada batas atas rentang yang diuji (100), kemungkinan terdapat nilai cost yang lebih besar yang memberikan hasil lebih baik, sehingga rentang parameter dapat diperluas pada penelitian lanjutan.

4.11 Evaluasi Model Radial Hasil Tuning

# Evaluasi model radial hasil tuning
hasil.radial <- evaluasi.svm(svm.best, pima.test)

# Confusion matrix
hasil.radial$confusion_matrix
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 123  29
##        pos  15  50
##                                           
##                Accuracy : 0.7972          
##                  95% CI : (0.7375, 0.8486)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 1.881e-07       
##                                           
##                   Kappa : 0.5449          
##                                           
##  Mcnemar's Test P-Value : 0.05002         
##                                           
##             Sensitivity : 0.6329          
##             Specificity : 0.8913          
##          Pos Pred Value : 0.7692          
##          Neg Pred Value : 0.8092          
##              Prevalence : 0.3641          
##          Detection Rate : 0.2304          
##    Detection Prevalence : 0.2995          
##       Balanced Accuracy : 0.7621          
##                                           
##        'Positive' Class : pos             
## 
# Tabel confusion matrix
hasil.radial$tabel_confusion
##       Prediksi
## Aktual neg pos
##    neg 123  15
##    pos  29  50
# Seluruh metrik evaluasi
evaluasi.radial <- hasil.radial$evaluasi
round(evaluasi.radial, 4)
##   Accuracy Precision Recall Specificity F1_Score ROC_AUC
## 1   0.7972    0.7692 0.6329      0.8913   0.6944  0.8242
# Plot ROC radial hasil tuning
plot(
  hasil.radial$roc,
  legacy.axes = TRUE,
  main = paste0(
    "ROC SVM Radial Tuning (AUC = ",
    round(as.numeric(auc(hasil.radial$roc)), 3), ")"))

Model radial hasil tuning mengklasifikasikan benar 123 observasi neg dan 50 observasi pos, dengan 44 kesalahan, yaitu 15 false positive dan 29 false negative. Dibandingkan model awal (52 kesalahan), jumlah kesalahan berkurang delapan observasi, terutama karena false negative turun dari 36 menjadi 29 dan false positive turun dari 16 menjadi 15. Akurasi naik dari 76,04% menjadi 79,72% (interval kepercayaan 95%: 73,75% sampai 84,86%) dan lebih tinggi dari No Information Rate 63,59% dengan p-value 1,881e-07. Kappa naik dari 0,4529 menjadi 0,5449, yang menunjukkan kesesuaian sedang yang membaik. Sensitivity naik dari 54,43% menjadi 63,29%, specificity naik dari 88,41% menjadi 89,13%, Precision naik dari 72,88% menjadi 76,92%, F1-Score naik dari 0,6232 menjadi 0,6944, dan Balanced Accuracy naik dari 71,42% menjadi 76,21%. Mcnemar’s Test P-Value sebesar 0,05002 sedikit di atas 0,05, sehingga ketimpangan antara false negative dan false positive sudah tidak signifikan, walaupun nilainya berada tepat di batas.

Nilai ROC-AUC naik dari 0,8180 menjadi 0,8242 (naik 0,0062). Kurva ROC model hasil tuning naik tajam pada 1 − Specificity sekitar 0,04 hingga sensitivity mencapai sekitar 0,52, kemudian naik bertahap hingga sekitar 0,76 pada 1 − Specificity 0,2. Peningkatan AUC yang kecil dibandingkan peningkatan akurasi dan sensitivity menunjukkan bahwa tuning terutama memperbaiki posisi batas keputusan, sedangkan kemampuan pemisahan model secara keseluruhan hanya berubah sedikit. Dengan demikian, tuning memberikan perbaikan yang nyata pada seluruh metrik, namun sensitivity sebesar 63,29% masih tergolong rendah untuk keperluan deteksi diabetes.

4.12 Tuning dan Evaluasi Model Kernel Linear

# Tuning cost kernel linear
set.seed(234)
tune.linear <- tune.svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "linear",
  cost = c(0.1, 1, 10, 100),
  scale = TRUE,
  probability = TRUE,
  tunecontrol = tune.control(cross = 5))

# Hasil tuning linear
tune.linear
## 
## Parameter tuning of 'svm':
## 
## - sampling method: 5-fold cross validation 
## 
## - best parameters:
##  cost
##   100
## 
## - best performance: 0.2588235
tune.linear$best.parameters
##   cost
## 4  100
# Model linear terbaik
svm.linear.best <- tune.linear$best.model
svm.linear.best
## 
## Call:
## best.svm(x = diabetes ~ ., data = pima.train, cost = c(0.1, 1, 10, 
##     100), type = "C-classification", kernel = "linear", scale = TRUE, 
##     probability = TRUE, tunecontrol = tune.control(cross = 5))
## 
## 
## Parameters:
##    SVM-Type:  C-classification 
##  SVM-Kernel:  linear 
##        cost:  100 
## 
## Number of Support Vectors:  295
# Evaluasi model linear
hasil.linear <- evaluasi.svm(svm.linear.best, pima.test)

# Confusion matrix
hasil.linear$confusion_matrix
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 119  28
##        pos  19  51
##                                           
##                Accuracy : 0.7834          
##                  95% CI : (0.7226, 0.8363)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 1.973e-06       
##                                           
##                   Kappa : 0.5206          
##                                           
##  Mcnemar's Test P-Value : 0.2432          
##                                           
##             Sensitivity : 0.6456          
##             Specificity : 0.8623          
##          Pos Pred Value : 0.7286          
##          Neg Pred Value : 0.8095          
##              Prevalence : 0.3641          
##          Detection Rate : 0.2350          
##    Detection Prevalence : 0.3226          
##       Balanced Accuracy : 0.7539          
##                                           
##        'Positive' Class : pos             
## 
# Tabel confusion matrix
hasil.linear$tabel_confusion
##       Prediksi
## Aktual neg pos
##    neg 119  19
##    pos  28  51
# Seluruh metrik evaluasi
evaluasi.linear <- hasil.linear$evaluasi
round(evaluasi.linear, 4)
##   Accuracy Precision Recall Specificity F1_Score ROC_AUC
## 1   0.7834    0.7286 0.6456      0.8623   0.6846  0.8317
# Plot ROC linear
plot(
  hasil.linear$roc,
  legacy.axes = TRUE,
  main = paste0(
    "ROC SVM Linear (AUC = ",
    round(as.numeric(auc(hasil.linear$roc)), 3), ")"))

Sebagai pembanding, dilakukan juga pembentukan model SVM dengan kernel linear. Pada kernel linear hanya parameter cost yang di-tuning dengan nilai yang sama (0,1; 1; 10; dan 100) menggunakan validasi silang lima lipatan. Berdasarkan output, cost terbaik adalah 100 dengan error validasi silang sebesar 0,2588 (akurasi sekitar 74,12%), tidak jauh berbeda dari model radial (0,2569). Model linear memiliki 295 support vector.

Pada data testing, model linear mengklasifikasikan benar 119 observasi neg dan 51 observasi pos, dengan 47 kesalahan, yaitu 19 false positive dan 28 false negative. Akurasi model sebesar 78,34% (interval kepercayaan 95%: 72,26% sampai 83,63%), Kappa 0,5206, Precision 72,86%, Recall 64,56%, Specificity 86,23%, F1-Score 0,6846, dan ROC-AUC 0,8317. Mcnemar’s Test P-Value sebesar 0,2432 (> 0,05) menunjukkan bahwa jumlah false positive dan false negative tidak berbeda signifikan. Kurva ROC model linear tampak berada sedikit lebih tinggi pada rentang 1 − Specificity sekitar 0,2 sampai 0,5, dengan sensitivity sekitar 0,8 pada 1 − Specificity 0,2, serta mencapai nilai AUC 0,832 yang tergolong baik. Hasil yang mirip antara kernel linear dan radial menunjukkan bahwa hubungan antara prediktor dan kelas pada data ini sudah cukup baik didekati dengan batas keputusan yang mendekati linear.

4.13 Perbandingan Kinerja Model

# Menggabungkan hasil evaluasi seluruh model
perbandingan.model <- data.frame(
  Model = c("Radial Awal", "Radial Tuning", "Linear Tuning"),
  rbind(hasil.awal$evaluasi, evaluasi.radial, evaluasi.linear))

# Membulatkan hasil evaluasi
perbandingan.model[, -1] <- round(perbandingan.model[, -1], 4)
perbandingan.model
##           Model Accuracy Precision Recall Specificity F1_Score ROC_AUC
## 1   Radial Awal   0.7604    0.7288 0.5443      0.8841   0.6232  0.8180
## 2 Radial Tuning   0.7972    0.7692 0.6329      0.8913   0.6944  0.8242
## 3 Linear Tuning   0.7834    0.7286 0.6456      0.8623   0.6846  0.8317
# Perbandingan kernel hasil tuning
perbandingan.kernel.cls <- data.frame(
  Kernel = c("Linear", "Radial"),
  rbind(evaluasi.linear, evaluasi.radial))

perbandingan.kernel.cls[, -1] <- round(perbandingan.kernel.cls[, -1], 4)
perbandingan.kernel.cls
##   Kernel Accuracy Precision Recall Specificity F1_Score ROC_AUC
## 1 Linear   0.7834    0.7286 0.6456      0.8623   0.6846  0.8317
## 2 Radial   0.7972    0.7692 0.6329      0.8913   0.6944  0.8242

Tabel perbandingan merangkum enam metrik evaluasi dari tiga model. Model radial awal memiliki kinerja terendah pada hampir seluruh metrik (akurasi 0,7604, Recall 0,5443, dan F1-Score 0,6232), sehingga tuning terbukti memberikan perbaikan. Pada kedua model hasil tuning, kernel radial unggul pada akurasi (0,7972 dibandingkan 0,7834), Precision (0,7692 dibandingkan 0,7286), Specificity (0,8913 dibandingkan 0,8623), dan F1-Score (0,6944 dibandingkan 0,6846). Kernel linear unggul pada Recall (0,6456 dibandingkan 0,6329) dan ROC-AUC (0,8317 dibandingkan 0,8242). Selisih antarmodel tergolong kecil. Setiap satu observasi pada data testing setara dengan 0,46% akurasi, 1,27% sensitivity (satu dari 79 kasus pos), dan 0,72% specificity (satu dari 138 kasus neg). Dengan demikian, keunggulan Recall kernel linear hanya berasal dari satu observasi pos tambahan yang terdeteksi (51 dibandingkan 50), dan selisih akurasi antarkernel hanya berasal dari tiga observasi (173 dibandingkan 170 prediksi benar).

4.14 Pemilihan Model Terbaik

# Menentukan kernel terbaik berdasarkan ROC-AUC
kernel.terbaik <- perbandingan.kernel.cls$Kernel[
  which.max(perbandingan.kernel.cls$ROC_AUC)]

kernel.terbaik
## [1] "Linear"

Pemilihan model terbaik dilakukan berdasarkan nilai ROC-AUC tertinggi karena AUC mengukur kemampuan model membedakan kedua kelas pada seluruh kemungkinan ambang klasifikasi sehingga tidak bergantung pada satu ambang tertentu dan lebih sesuai untuk data yang tidak seimbang. Berdasarkan output, model terbaik adalah SVM dengan kernel linear (cost = 100) dengan ROC-AUC sebesar 0,8317, akurasi 78,34%, sensitivity 64,56%, dan specificity 86,23%. Meskipun akurasi, Precision, dan Specificity model radial hasil tuning lebih tinggi, selisih ROC-AUC antara kedua kernel hanya 0,0075 dan selisih akurasinya hanya tiga observasi pada data testing. Kernel linear juga dipilih karena lebih sederhana dan memiliki sensitivity yang sedikit lebih tinggi, yang penting pada kasus diagnosis diabetes karena kesalahan yang paling berbahaya adalah false negative.

Namun, hasil ini bergantung pada pembagian data (set.seed) sehingga pemilihan kernel linear sebaiknya dipandang sebagai pilihan yang unggul tipis, bukan perbedaan yang pasti. Selain itu, seluruh model masih memiliki sensitivity di bawah 65%, yang berarti lebih dari sepertiga pasien diabetes pada data testing tidak terdeteksi. Perbaikan dapat dilakukan, antara lain, dengan menurunkan ambang probabilitas klasifikasi kelas pos di bawah 0,5, memberikan bobot kelas (class weight) yang lebih besar pada kelas pos, memperluas rentang tuning parameter, serta menggunakan validasi silang berulang untuk membandingkan model secara lebih andal.

BAB V KESIMPULAN

5.1 Kesimpulan

Support Vector Machine (SVM) merupakan metode supervised learning yang digunakan untuk klasifikasi dengan mencari batas pemisah terbaik antar kelas. Sementara itu, Support Vector Regression (SVR) merupakan pengembangan SVM yang digunakan untuk memprediksi nilai numerik atau kontinu. Keduanya bekerja dengan memanfaatkan prinsip optimasi untuk menghasilkan model dengan kemampuan prediksi yang baik.

Dalam SVM, hyperplane merupakan batas pemisah antar kelas, margin adalah jarak antara batas tersebut dengan titik data terdekat, sedangkan support vector merupakan titik data yang menentukan posisi hyperplane. Soft margin memberikan toleransi terhadap kesalahan klasifikasi, sementara fungsi kernel membantu menangani pola data yang tidak dapat dipisahkan secara linear. Pada SVR, epsilon-insensitive loss mengabaikan kesalahan prediksi yang masih berada dalam batas toleransi epsilon, sedangkan epsilon-tube merupakan rentang toleransi di sekitar garis regresi.

Implementasi SVM untuk klasifikasi dan SVR untuk regresi dapat dilakukan menggunakan bahasa R dengan package e1071 melalui fungsi svm(). Pada klasifikasi, variabel respon berupa kategori, sedangkan pada regresi variabel respon berupa numerik. Sebelum membentuk model, data perlu melalui tahap preprocessing, termasuk penanganan missing value dan pembagian data menjadi training dan testing. Selanjutnya, model digunakan untuk melakukan prediksi dan mengevaluasi hasilnya.

Tuning parameter dilakukan untuk memperoleh kombinasi parameter yang menghasilkan performa model terbaik. Parameter cost mengatur penalti terhadap kesalahan, gamma mengendalikan jangkauan pengaruh titik data pada kernel radial, sedangkan epsilon menentukan batas toleransi kesalahan pada SVR. Evaluasi SVM dapat menggunakan confusion matrix, Accuracy, Precision, Recall, Specificity, F1-Score, dan ROC-AUC, sedangkan evaluasi SVR dapat menggunakan MSE, RMSE, MAE, dan R². Pemilihan model terbaik dilakukan dengan membandingkan hasil evaluasi sesuai jenis permasalahan.

Berdasarkan hasil analisis pada data Pima Indians Diabetes, model SVM kernel radial awal menghasilkan akurasi 76,04% dengan sensitivity yang rendah (54,43%), dan tuning terbukti memperbaikinya hingga akurasi 79,72% dan sensitivity 63,29% pada kernel radial. Perbandingan dengan kernel linear menunjukkan kinerja yang sangat mirip, yaitu akurasi 78,34% dan ROC-AUC 0,8317, yang merupakan nilai AUC tertinggi sehingga kernel linear dipilih sebagai model terbaik. Namun, selisih antarmodel sangat kecil, sehingga pemilihan ini bersifat unggul tipis dan bergantung pada pembagian data. Seluruh model masih memiliki sensitivity di bawah 65%, sehingga perbaikan seperti penyesuaian ambang klasifikasi, pembobotan kelas, dan validasi silang berulang disarankan untuk penelitian selanjutnya.

5.2 Saran

Ketika menjalankan suatu fungsi pada program R diharapkan untuk teliti saat mengoperasikannya. Penulisan syntax sangat perlu diperhatikan karena apabila terdapat kesalahan penulisan akan membuat program error. Selain itu, perlu untuk memperhatikan tatacara penulisan yang sesuai dengan KBBI, sehingga dapat menghasilkan laporan yang baik.

DAFTAR PUSTAKA

Bishop, C. M. (2006). Pattern Recognition and Machine Learning. Springer.

Cervantes, J., Garcia-Lamont, F., Rodríguez-Mazahua, L., & Lopez, A. (2020). A comprehensive survey on support vector machine classification: Applications, challenges and trends. Neurocomputing, 408, 189–215.

Dhhan, W., Midi, H., & Alameer, T. (2017). Robust support vector regression model in the presence of outliers and leverage points. Modern Applied Science, 11(8), 92.

Faouzi, J., & Colliot, O. (2023). Classic machine learning methods. In O. Colliot (Ed.), Machine Learning for Brain Disorders (Neuromethods, Vol. 197). Humana.

Hastie, T., Tibshirani, R., & Friedman, J. (2009). The Elements of Statistical Learning: Data Mining, Inference, and Prediction (2nd ed.). Springer.

James, G., Witten, D., Hastie, T., & Tibshirani, R. (2021). An Introduction to Statistical Learning: With Applications in R (2nd ed.). Springer.

Meyer, D., Dimitriadou, E., Hornik, K., Weingessel, A., & Leisch, F. (2025). e1071: Misc functions of the Department of Statistics, Probability Theory Group (formerly: E1071), TU Wien (R package version 1.7-17).

Pisner, D. A., & Schnyer, D. M. (2020). Support vector machine. In A. Mechelli & S. Vieira (Eds.), Machine Learning: Methods and Applications to Brain Disorders (pp. 101–121). Academic Press.

Sabzekar, M., & Hasheminejad, S. M. H. (2021). Robust regression using support vector regressions. Chaos, Solitons & Fractals, 144, 110738.

Sokolova, M., & Lapalme, G. (2009). A systematic analysis of performance measures for classification tasks. Information Processing & Management, 45(4), 427–437.

Tharwat, A. (2019). Parameter investigation of support vector machine classifier with kernel functions. Knowledge and Information Systems, 61(3), 1269–1302.

Zhang, F., & O’Donnell, L. J. (2020). Support vector regression. In A. Mechelli & S. Vieira (Eds.), Machine Learning: Methods and Applications to Brain Disorders (pp. 123–140). Academic Press.