BAB I PENDAHULUAN

1.1 Latar Belakang Masalah

Support Vector Machine (SVM) merupakan salah satu metode machine learning yang digunakan untuk melakukan klasifikasi berdasarkan karakteristik data. Metode SVM bekerja dengan menentukan bidang pemisah (hyperplane) yang optimal untuk membedakan data ke dalam kelas tertentu. Penentuan hyperplane dilakukan dengan memaksimalkan jarak (margin) antara bidang pemisah dan data terdekat yang disebut support vector. Metode ini dapat menangani pola data linier maupun nonlinier dengan menggunakan fungsi kernel (Farida dan Bahri, 2024). Selain digunakan untuk klasifikasi, metode SVM juga dikembangkan menjadi Support Vector Regression (SVR) untuk melakukan prediksi data numerik. SVR bekerja dengan membentuk fungsi regresi yang memperkirakan nilai variabel respons berdasarkan variabel prediktor. Pemilihan parameter cost (C), epsilon (ε), dan gamma (γ) menjadi faktor penting karena dapat memengaruhi hasil prediksi model (Sepri dan Fauzi, 2020).

Metode SVM dan SVR dapat diterapkan dalam berbagai bidang, seperti pendidikan, kesehatan, ekonomi, dan industri untuk melakukan klasifikasi maupun prediksi berdasarkan karakteristik data. Proses analisis menggunakan kedua metode tersebut melibatkan beberapa tahapan, yaitu prapemrosesan data, pembagian data menjadi data latih dan data uji, pemilihan fungsi kernel, penentuan parameter model, serta pengujian hasil analisis. Kinerja kedua metode dipengaruhi oleh pemilihan parameter, fungsi kernel, dan karakteristik data yang digunakan. Penerapan SVM dalam klasifikasi kanker payudara menunjukkan bahwa metode ini dapat digunakan untuk membedakan tumor jinak dan ganas berdasarkan karakteristik variabel prediktor (Sundari, Amrustian dan Wicaksono 2024). Sementara itu, penerapan SVR dalam prediksi harga sayuran menunjukkan bahwa metode ini dapat digunakan untuk memperkirakan nilai numerik berdasarkan pola data yang digunakan (Yusuf, 2024).

Penerapan metode SVM dan SVR memerlukan evaluasi untuk mengetahui kemampuan model dalam menghasilkan klasifikasi maupun prediksi yang sesuai dengan data aktual. Evaluasi SVM dapat dilakukan menggunakan confusion matrix melalui pengukuran Accuracy, Precision, Recall, dan F1-score. Accuracy digunakan untuk mengukur ketepatan klasifikasi secara keseluruhan, sedangkan Precision dan Recall digunakan untuk menilai kemampuan model dalam mengidentifikasi kelas positif. Sementara itu, evaluasi SVR dapat dilakukan menggunakan Mean Absolute Error (MAE), Root Mean Squared Error (RMSE), dan koefisien determinasi (R²). MAE digunakan untuk mengukur rata-rata kesalahan absolut prediksi, sedangkan RMSE menunjukkan besarnya kesalahan prediksi dengan memberikan pengaruh lebih besar terhadap kesalahan yang tinggi. Koefisien determinasi digunakan untuk menilai kemampuan model dalam menjelaskan variasi data respons.

1.2 Rumusan Masalah

  1. Bagaimana konsep dasar dan prinsip kerja metode Support Vector Machine (SVM) dan Support Vector Regression (SVR)?
  2. Bagaimana konsep hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta epsilon-insensitive loss dan epsilon-tube pada SVR?
  3. Bagaimana penerapan metode SVM untuk klasifikasi dan SVR untuk regresi menggunakan program R?
  4. Bagaimana pengaruh tuning parameter cost, gamma, dan epsilon terhadap kinerja model SVM dan SVR serta bagaimana evaluasi performa kedua metode tersebut?

1.3 Tujuan

  1. Memahami konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR).
  2. Menjelaskan hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR.
  3. Mengimplementasikan SVM untuk klasifikasi dan SVR untuk regresi menggunakan R.
  4. Melakukan tuning parameter cost, gamma, dan epsilon serta mengevaluasi performa model menggunakan ukuran yang sesuai.

BAB II TINJAUAN PUSTAKA

2.1 Support Vector Machine (SVM)

Support Vector Machine (SVM) merupakan salah satu metode klasifikasi berbasis pembelajaran terarah (supervised learning) yang digunakan untuk mengelompokkan data berdasarkan karakteristik variabel prediktor. Metode SVM bekerja dengan mencari bidang pemisah (hyperplane) optimal yang dapat membedakan observasi dari kelas yang berbeda. Penentuan hyperplane dilakukan dengan memaksimalkan jarak (margin) antara bidang pemisah dan observasi terdekat dari masing-masing kelas yang disebut support vector. Metode SVM memiliki kemampuan untuk menangani data dengan pola linier maupun nonlinier melalui penggunaan fungsi kernel. Karakteristik tersebut menjadikan SVM dapat diterapkan dalam berbagai permasalahan klasifikasi, khususnya pada data yang memiliki hubungan kompleks antarvariabel (Farida dan Bahri, 2024).

Dalam proses klasifikasi, terdapat tiga konsep utama yang saling berkaitan, yaitu hyperplane, margin, dan support vector. Hyperplane merupakan bidang pemisah yang digunakan untuk membedakan observasi berdasarkan kelasnya. Pada ruang berdimensi dua, hyperplane berbentuk garis, sedangkan pada ruang berdimensi tiga berbentuk bidang. Margin merupakan jarak antara dua bidang batas kelas yang sejajar dengan hyperplane, sedangkan support vector merupakan observasi yang berperan penting dalam menentukan posisi bidang pemisah optimal. SVM berusaha memperoleh hyperplane dengan margin maksimum agar model memiliki kemampuan klasifikasi yang baik terhadap data baru. Secara matematis, persamaan hyperplane linier dinyatakan sebagai berikut.

\[ \mathbf{w}^{T}\mathbf{x}+b=0 \tag{2.1} \]

dengan:

  • \(\mathbf{w}\) = vektor bobot.
  • \(\mathbf{x}\) = vektor variabel prediktor.
  • \(b\) = nilai bias atau intersep.

Pada SVM linier dengan hard margin, dua bidang batas kelas dinyatakan sebagai berikut.

\[ \mathbf{w}^{T}\mathbf{x}+b=1 \tag{2.2} \]

\[ \mathbf{w}^{T}\mathbf{x}+b=-1 \tag{2.3} \]

Jarak antara kedua bidang batas tersebut merupakan lebar margin yang dirumuskan sebagai berikut.

\[ M=\frac{2}{\|\mathbf{w}\|} \tag{2.4} \]

dengan \(M\) merupakan lebar margin dan \(\|\mathbf{w}\|\) merupakan norma Euclidean dari vektor bobot. Semakin kecil nilai \(\|\mathbf{w}\|\), semakin besar margin yang diperoleh. Pada SVM linier dengan hard margin, observasi yang berada pada bidang batas kelas disebut support vector dan berperan dalam menentukan posisi hyperplane optimal.

Secara operasional, metode SVM dimulai dengan menentukan variabel prediktor dan variabel respons yang digunakan dalam proses klasifikasi. Data kemudian melalui tahap prapemrosesan, pembagian menjadi data latih dan data uji, serta pemilihan fungsi kernel dan parameter model. Pada proses pelatihan, SVM menentukan hyperplane yang mampu memisahkan kelas dengan margin optimal. Apabila data tidak dapat dipisahkan secara sempurna, SVM menggunakan pendekatan soft margin untuk memberikan toleransi terhadap kesalahan klasifikasi. Kinerja metode ini dipengaruhi oleh jenis kernel, nilai parameter cost, serta karakteristik data yang digunakan. Oleh karena itu, pemilihan parameter yang sesuai diperlukan untuk memperoleh hasil klasifikasi yang baik (Saputra, Khaira dan Abidin, 2021).

2.1.1 Soft Margin

Soft margin merupakan pendekatan pada metode SVM yang digunakan ketika data dari kelas berbeda tidak dapat dipisahkan secara sempurna menggunakan suatu hyperplane. Kondisi tersebut dapat terjadi akibat adanya observasi yang saling tumpang tindih, noise, atau data pencilan (outlier). Berbeda dengan hard margin yang mengharuskan seluruh observasi berada pada sisi batas kelas yang benar, pendekatan soft margin memberikan toleransi terhadap pelanggaran batas margin. Toleransi tersebut dinyatakan melalui variabel kelonggaran (slack variable) yang menunjukkan besarnya pelanggaran pada masing-masing observasi (Saputra, Khaira dan Abidin, 2021).

Fungsi optimasi pada pendekatan soft margin dirumuskan sebagai berikut.

\[ \min_{\mathbf{w},b,\boldsymbol{\xi}} \left( \frac{1}{2}\|\mathbf{w}\|^2+ C\sum_{i=1}^{n}\xi_i \right) \tag{2.7} \]

dengan kendala:

\[ y_i(\mathbf{w}^{T}\mathbf{x}_i+b)\geq 1-\xi_i \tag{2.8} \]

\[ \xi_i\geq 0,\quad i=1,2,\ldots,n \tag{2.9} \]

dengan:

  • \(C\) = parameter penalti terhadap pelanggaran margin.
  • \(\xi_i\) = variabel kelonggaran pada observasi ke-\(i\).
  • \(n\) = jumlah observasi.

Parameter \(C\) digunakan untuk mengatur keseimbangan antara besarnya margin dan penalti terhadap pelanggaran. Nilai \(C\) yang besar memberikan penalti lebih tinggi terhadap pelanggaran, sedangkan nilai \(C\) yang kecil memberikan toleransi lebih besar. Pemilihan nilai \(C\) perlu disesuaikan dengan karakteristik data agar model tidak terlalu menyesuaikan diri dengan data latih (overfitting) maupun gagal mengenali pola utama data (underfitting).

2.1.2 Fungsi Kernel

Fungsi kernel merupakan komponen pada metode SVM dan SVR yang digunakan untuk menangani hubungan nonlinier antarvariabel. Pada data yang tidak dapat dipisahkan secara linier dalam ruang fitur asal, fungsi kernel memungkinkan model menghitung hasil kali dalam pada ruang fitur berdimensi lebih tinggi tanpa harus melakukan transformasi secara eksplisit. Pendekatan tersebut dikenal sebagai kernel trick. Penggunaan fungsi kernel memungkinkan model mengenali pola hubungan yang lebih kompleks, sehingga pemilihan jenis kernel menjadi salah satu tahap penting dalam pembentukan model (Farida dan Bahri, 2024).

Beberapa jenis fungsi kernel yang umum digunakan pada metode SVM dan SVR adalah sebagai berikut.

1. Linear Kernel

Linear kernel merupakan fungsi kernel yang digunakan untuk memodelkan hubungan linier antarvariabel. Fungsi ini sesuai ketika pola hubungan data dapat direpresentasikan dalam bentuk linier.

\[ K(\mathbf{x}_i,\mathbf{x}_j)=\mathbf{x}_i^{T}\mathbf{x}_j \tag{2.10} \]

2. Polynomial Kernel

Polynomial kernel digunakan untuk menangani hubungan nonlinier dengan mempertimbangkan interaksi antarvariabel dalam bentuk polinomial.

\[ K(\mathbf{x}_i,\mathbf{x}_j)= (\gamma\mathbf{x}_i^{T}\mathbf{x}_j+r)^d \tag{2.11} \]

3. Radial Basis Function (RBF) Kernel

Radial Basis Function (RBF) merupakan fungsi kernel yang mengukur kemiripan dua observasi berdasarkan jarak Euclidean kuadrat. Fungsi ini banyak digunakan untuk menangani data yang memiliki pola hubungan nonlinier. Pemilihan fungsi kernel disesuaikan dengan karakteristik data yang digunakan.

\[ K(\mathbf{x}_i,\mathbf{x}_j)= \exp\left(-\gamma\|\mathbf{x}_i-\mathbf{x}_j\|^2\right) \tag{2.12} \]

dengan:

  • \(K(\mathbf{x}_i,\mathbf{x}_j)\) = nilai fungsi kernel antara observasi ke-\(i\) dan ke-\(j\).
  • \(\mathbf{x}_i,\mathbf{x}_j\) = vektor prediktor dari dua observasi.
  • \(\gamma\) = parameter kernel.
  • \(r\) = konstanta pada polynomial kernel.
  • \(d\) = derajat polinomial.

2.2 Support Vector Regression (SVR)

Support Vector Regression (SVR) merupakan pengembangan metode Support Vector Machine yang digunakan untuk menyelesaikan permasalahan regresi dan prediksi nilai numerik. Berbeda dengan SVM yang bertujuan menentukan kelas suatu observasi, SVR digunakan untuk memperkirakan nilai variabel respons berdasarkan hubungan dengan satu atau lebih variabel prediktor. Metode SVR bekerja dengan membentuk fungsi regresi yang mempertimbangkan kompleksitas model serta kesalahan prediksi berdasarkan batas toleransi tertentu. SVR termasuk metode nonparametrik dan dapat digunakan untuk menangani pola hubungan linier maupun nonlinier melalui penggunaan fungsi kernel (Saputra, Wigena, dan Sartono, 2019).

Proses pemodelan SVR melibatkan beberapa tahapan, yaitu prapemrosesan data, pembagian data menjadi data latih dan data uji, pemilihan fungsi kernel, serta penentuan parameter model. Parameter yang umum digunakan meliputi cost (\(C\)), gamma (\(\gamma\)), dan epsilon (\(\varepsilon\)). Nilai parameter tersebut memengaruhi kompleksitas fungsi regresi dan besarnya toleransi kesalahan prediksi. Salah satu pendekatan yang dapat digunakan untuk menentukan kombinasi parameter adalah grid search, yaitu dengan mencoba sejumlah kombinasi parameter dan membandingkan kinerja model.

Secara matematis, fungsi regresi pada SVR linier dinyatakan sebagai berikut.

\[ f(\mathbf{x})=\mathbf{w}^{T}\mathbf{x}+b \tag{2.13} \]

Untuk pemodelan nonlinier, fungsi regresi dinyatakan sebagai:

\[ f(\mathbf{x})=\mathbf{w}^{T}\phi(\mathbf{x})+b \tag{2.14} \]

dengan:

  • \(f(\mathbf{x})\) = nilai prediksi variabel respons.
  • \(\mathbf{w}\) = vektor bobot.
  • \(\mathbf{x}\) = vektor variabel prediktor.
  • \(\phi(\mathbf{x})\) = fungsi pemetaan ke ruang fitur.
  • \(b\) = nilai bias.

2.2.1 Epsilon-Insensitive Loss

Epsilon-insensitive loss merupakan fungsi kerugian pada metode SVR yang digunakan untuk mengukur kesalahan prediksi berdasarkan batas toleransi tertentu. Dalam pendekatan ini, selisih antara nilai aktual dan nilai prediksi yang berada dalam batas epsilon (\(\varepsilon\)) tidak dikenai penalti. Sebaliknya, selisih yang melebihi nilai epsilon diperhitungkan sebagai kesalahan. Konsep tersebut memungkinkan SVR membentuk fungsi regresi yang tidak harus melewati setiap observasi, tetapi tetap mempertahankan kesalahan prediksi dalam batas yang telah ditentukan (Saputra, Wigena, dan Sartono, 2019).

Secara matematis, fungsi epsilon-insensitive loss dapat dinyatakan sebagai berikut.

\[ L_{\varepsilon}(y_i,f(\mathbf{x}_i))= \max\left(0,\left|y_i-f(\mathbf{x}_i)\right|-\varepsilon\right) \tag{2.15} \]

atau dalam bentuk fungsi bagian:

\[ L_{\varepsilon}= \begin{cases} 0, & |y_i-f(\mathbf{x}_i)|\leq\varepsilon\\ |y_i-f(\mathbf{x}_i)|-\varepsilon, & |y_i-f(\mathbf{x}_i)|>\varepsilon \end{cases} \tag{2.16} \]

dengan \(y_i\) merupakan nilai aktual, \(f(\mathbf{x}_i)\) merupakan nilai prediksi, dan \(\varepsilon\) merupakan batas toleransi kesalahan.

2.2.2 Epsilon-Tube

Epsilon-tube merupakan daerah toleransi di sekitar fungsi regresi yang dibentuk oleh dua batas, yaitu \(f(\mathbf{x})+\varepsilon\) dan \(f(\mathbf{x})-\varepsilon\). Observasi yang berada di dalam daerah tersebut tidak memberikan kontribusi terhadap nilai kerugian epsilon-insensitive, sedangkan observasi di luar daerah toleransi dikenai penalti berdasarkan besarnya penyimpangan. Fungsi optimasi SVR dapat dirumuskan sebagai berikut.

\[ \min_{\mathbf{w},b,\boldsymbol{\xi},\boldsymbol{\xi}^{*}} \left( \frac{1}{2}\|\mathbf{w}\|^2+ C\sum_{i=1}^{n}(\xi_i+\xi_i^*) \right) \tag{2.17} \]

dengan kendala:

\[ y_i-f(\mathbf{x}_i)\leq\varepsilon+\xi_i \tag{2.18} \]

\[ f(\mathbf{x}_i)-y_i\leq\varepsilon+\xi_i^* \tag{2.19} \]

\[ \xi_i,\xi_i^*\geq 0 \tag{2.20} \]

dengan \(\xi_i\) dan \(\xi_i^*\) merupakan variabel kelonggaran yang menunjukkan besarnya pelanggaran di luar batas toleransi. Nilai epsilon yang lebih kecil menghasilkan daerah toleransi yang lebih sempit, sedangkan nilai epsilon yang lebih besar menghasilkan daerah toleransi yang lebih lebar. Oleh karena itu, pemilihan epsilon perlu disesuaikan dengan karakteristik data agar diperoleh model yang mampu menghasilkan prediksi dengan tingkat kesalahan yang rendah.

2.3 Tuning Parameter SVM dan SVR

Tuning parameter merupakan proses penentuan nilai parameter model untuk memperoleh kinerja klasifikasi atau regresi yang optimal. Pada metode SVM, parameter yang umum dioptimalkan adalah cost (\(C\)) dan gamma (\(gamma\)) untuk jenis kernel tertentu. Sementara itu, metode SVR juga menggunakan parameter epsilon (\(varepsilon\)) untuk menentukan batas toleransi kesalahan prediksi. Pemilihan nilai parameter yang kurang tepat dapat menyebabkan model terlalu kompleks atau terlalu sederhana, sehingga menurunkan kemampuannya dalam mengenali pola data baru (Isnaeni, Sudarmin, dan Rais, 2022). Salah satu metode yang digunakan dalam proses tuning adalah grid search, yaitu metode pencarian parameter yang dilakukan dengan menguji berbagai kombinasi nilai dalam rentang yang telah ditentukan. Setiap kombinasi parameter dievaluasi untuk memperoleh model dengan kinerja terbaik. Proses tersebut dapat dikombinasikan dengan k-fold cross-validation agar penilaian model tidak hanya bergantung pada satu pembagian data latih dan data validasi.

BAB III METODE PENELITIAN

3.1 Sumber Data

Data yang digunakan dalam penelitian ini merupakan data sekunder berupa data sintetis yang diperoleh dari dataset SynthDiabetes2 yang tersedia dalam paket mlbench pada perangkat lunak R. Dataset tersebut terdiri atas 768 observasi dengan delapan variabel prediktor dan satu variabel respons. Variabel respons berupa klasifikasi diabetes yang terbagi menjadi dua kategori, yaitu negatif sebanyak 488 observasi dan positif sebanyak 280 observasi.

3.2 Variabel Penelitian

Variabel yang digunakan dalam penelitian ini terdiri atas 8 variabel prediktor dan 1 variabel respons. Variabel prediktor meliputi pregnant yang menunjukkan jumlah kehamilan, glucose yang menunjukkan konsentrasi glukosa plasma, pressure yang menunjukkan tekanan darah diastolik, triceps yang menunjukkan ketebalan lipatan kulit trisep, insulin yang menunjukkan kadar insulin serum, mass yang menunjukkan indeks massa tubuh, pedigree yang menunjukkan fungsi riwayat diabetes dalam keluarga, dan age yang menunjukkan usia. Sementara itu, variabel respons yang digunakan adalah diabetes, yaitu kategori klasifikasi diabetes yang terdiri atas neg dan pos.

3.3 Langkah-langkah Analisis

Langkah-langkah analisis klasifikasi menggunakan metode Support Vector Machine (SVM) pada dataset SynthDiabetes2 adalah sebagai berikut:

  1. Persiapan data.
  2. Melakukan preprocessing data.
  3. Membagi dataset menjadi 70% data training dan 30% data testing.
  4. Membentuk model awal Support Vector Machine (SVM) menggunakan kernel radial dengan parameter cost = 1 dan gamma = (1/p), dengan (p) merupakan jumlah variabel prediktor.
  5. Melakukan visualisasi decision boundary model SVM.
  6. Melakukan prediksi klasifikasi menggunakan data testing.
  7. Mengevaluasi kinerja model menggunakan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan Receiver Operating Characteristic-Area Under the Curve (ROC-AUC), dengan kelas pos sebagai kelas positif.
  8. Melakukan tuning parameter pada kernel radial menggunakan variasi nilai cost sebesar 0,1; 1; 10; dan 100 serta gamma sebesar 0,001; 0,01; 0,1; dan 1 dengan metode 5-fold cross-validation.
  9. Membentuk model SVM menggunakan kombinasi parameter terbaik dari hasil tuning, kemudian melakukan prediksi dan evaluasi pada data testing.
  10. Melakukan tuning parameter cost pada kernel linear dengan variasi nilai 0,1; 1; 10; dan 100, kemudian melakukan prediksi menggunakan data testing.
  11. Membandingkan kinerja model SVM dengan kernel linear dan radial untuk menentukan model yang memberikan hasil klasifikasi terbaik.
  12. Melakukan interpretasi hasil klasifikasi.

BAB IV HASIL DAN PEMBAHASAN

Pada batasan masalah, diminta untuk melakukan analisis klasifikasi menggunakan metode Support Vector Machine (SVM) pada dataset SynthDiabetes2 dengan membandingkan kernel linear dan radial. Proses analisis dilakukan menggunakan proporsi pembagian data sebesar 70% data training dan 30% data testing dengan set.seed(234). Pada kernel radial, dilakukan tuning parameter cost sebesar 0,1; 1; 10; dan 100 serta gamma sebesar 0,001; 0,01; 0,1; dan 1. Selanjutnya, dilakukan evaluasi kinerja model menggunakan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC untuk mengetahui kemampuan SVM dalam mengklasifikasikan diabetes menjadi kategori negatif (neg) dan positif (pos). Hasil analisis digunakan untuk menentukan kernel terbaik serta menjelaskan pengaruh parameter cost dan gamma terhadap kinerja model dan bentuk batas keputusan.

4.1 Persiapan Data

Tahap persiapan data dilakukan dengan memanggil paket mlbench, e1071, caret, pROC, dan ggplot2, kemudian memuat dataset SynthDiabetes2 yang tersedia dalam paket mlbench pada perangkat lunak R. Selanjutnya, dilakukan pemeriksaan struktur data, ringkasan statistik, jumlah nilai hilang (missing value), serta distribusi variabel respons untuk mengetahui karakteristik awal data dan jumlah observasi pada setiap kategori diabetes, yaitu negatif (neg) dan positif (pos). Pemeriksaan ini dilakukan sebagai tahap awal sebelum proses preprocessing dan pembentukan model SVM.

Sintaks yang digunakan adalah sebagai berikut:

# 1. PERSIAPAN DATA
# Library
library(mlbench)
library(e1071)
library(caret)
library(pROC)
library(ggplot2)

# Input data
data("SynthDiabetes2", package = "mlbench")
pima <- SynthDiabetes2
str(pima)
## 'data.frame':    768 obs. of  9 variables:
##  $ pregnant: num  0 8 2 6 4 10 3 1 4 7 ...
##  $ glucose : num  194 129 132 184 108 117 100 88 73 126 ...
##  $ pressure: num  50 84 72 62 58 80 80 75 82 92 ...
##  $ triceps : num  45 NA 42 NA 32 13 41 30 38 NA ...
##  $ insulin : num  NA NA NA NA NA NA 65 49 NA NA ...
##  $ mass    : num  28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
##  $ pedigree: num  0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
##  $ age     : num  28 44 26 39 22 58 33 22 33 46 ...
##  $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
summary(pima)
##     pregnant         glucose         pressure         triceps     
##  Min.   : 0.000   Min.   : 57.0   Min.   : 24.00   Min.   : 7.00  
##  1st Qu.: 1.000   1st Qu.:101.0   1st Qu.: 64.00   1st Qu.:22.00  
##  Median : 3.000   Median :119.0   Median : 72.00   Median :30.00  
##  Mean   : 4.585   Mean   :125.3   Mean   : 72.59   Mean   :29.46  
##  3rd Qu.: 7.000   3rd Qu.:144.5   3rd Qu.: 80.00   3rd Qu.:36.00  
##  Max.   :13.000   Max.   :199.0   Max.   :108.00   Max.   :63.00  
##                   NAs    :5       NAs    :35       NAs    :251    
##     insulin         mass          pedigree           age        diabetes 
##  Min.   : 14   Min.   :18.20   Min.   :0.0780   Min.   :21.00   neg:488  
##  1st Qu.: 76   1st Qu.:27.80   1st Qu.:0.2430   1st Qu.:24.00   pos:280  
##  Median :125   Median :32.80   Median :0.3670   Median :28.00            
##  Mean   :159   Mean   :32.87   Mean   :0.4792   Mean   :33.05            
##  3rd Qu.:194   3rd Qu.:36.95   3rd Qu.:0.6450   3rd Qu.:41.00            
##  Max.   :846   Max.   :59.40   Max.   :2.4200   Max.   :81.00            
##  NAs    :405   NAs    :13
colSums(is.na(pima))
## pregnant  glucose pressure  triceps  insulin     mass pedigree      age 
##        0        5       35      251      405       13        0        0 
## diabetes 
##        0

Berdasarkan hasil pemeriksaan data awal, diketahui bahwa dataset SynthDiabetes2 terdiri atas 768 observasi dengan 9 variabel, yaitu delapan 8 prediktor dan 1 variabel respons. Seluruh variabel prediktor bertipe numerik, sedangkan variabel respons diabetes terdiri atas 2 kategori, yaitu negatif (neg) sebanyak 488 observasi atau 63,54% dan positif (pos) sebanyak 280 observasi atau 36,46%. Hasil tersebut menunjukkan bahwa jumlah observasi pada kelas negatif lebih banyak dibandingkan kelas positif. Selain itu, terdapat nilai hilang (missing value) pada beberapa variabel, yaitu glucose sebanyak 5 observasi, pressure sebanyak 35 observasi, triceps sebanyak 251 observasi, insulin sebanyak 405 observasi, dan mass sebanyak 13 observasi. Variabel insulin dan triceps memiliki jumlah nilai hilang terbanyak dibandingkan variabel lainnya, sehingga diperlukan penanganan data sebelum dilakukan pemodelan.

4.2 Preprocessing Data

Tahap preprocessing data dilakukan dengan menghapus variabel triceps dan insulin karena memiliki jumlah nilai hilang (missing value) yang cukup banyak, yaitu masing-masing sebanyak 251 dan 405 observasi. Selanjutnya, observasi yang masih mengandung nilai hilang pada variabel lainnya dihapus menggunakan fungsi na.omit(). Variabel respons diabetes juga dipastikan bertipe factor dengan dua kategori, yaitu negatif (neg) dan positif (pos), agar sesuai untuk pemodelan Support Vector Machine (SVM). Setelah proses tersebut, dilakukan pemeriksaan kembali terhadap struktur data, jumlah observasi, distribusi kelas, dan keberadaan nilai hilang untuk memastikan data siap digunakan dalam proses klasifikasi.

Sintaks yang digunakan adalah sebagai berikut:

# 2. PREPROCESSING DATA
# Hilangkan dua prediktor dengan banyak NA.
pima <- pima[, !names(pima) %in% c("triceps", "insulin")]
# Hapus baris yang masih mengandung NA.
pima <- na.omit(pima)
pima$diabetes <- factor(pima$diabetes, levels = c("neg", "pos"))

str(pima)
## 'data.frame':    727 obs. of  7 variables:
##  $ pregnant: num  0 8 2 6 4 10 3 1 4 7 ...
##  $ glucose : num  194 129 132 184 108 117 100 88 73 126 ...
##  $ pressure: num  50 84 72 62 58 80 80 75 82 92 ...
##  $ mass    : num  28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
##  $ pedigree: num  0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
##  $ age     : num  28 44 26 39 22 58 33 22 33 46 ...
##  $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
##  - attr(*, "na.action")= 'omit' Named int [1:41] 42 57 59 60 77 96 108 109 119 158 ...
##   ..- attr(*, "names")= chr [1:41] "42" "57" "59" "60" ...
summary(pima)
##     pregnant        glucose         pressure           mass      
##  Min.   : 0.00   Min.   : 57.0   Min.   : 24.00   Min.   :18.20  
##  1st Qu.: 1.00   1st Qu.:101.0   1st Qu.: 64.00   1st Qu.:27.80  
##  Median : 3.00   Median :119.0   Median : 72.00   Median :32.80  
##  Mean   : 4.67   Mean   :125.4   Mean   : 72.58   Mean   :32.96  
##  3rd Qu.: 7.00   3rd Qu.:144.0   3rd Qu.: 80.00   3rd Qu.:37.15  
##  Max.   :13.00   Max.   :196.0   Max.   :108.00   Max.   :59.40  
##     pedigree           age        diabetes 
##  Min.   :0.0780   Min.   :21.00   neg:462  
##  1st Qu.:0.2450   1st Qu.:24.00   pos:265  
##  Median :0.3650   Median :28.00            
##  Mean   :0.4790   Mean   :33.29            
##  3rd Qu.:0.6425   3rd Qu.:41.00            
##  Max.   :2.4200   Max.   :81.00
dim(pima)
## [1] 727   7
table(pima$diabetes)
## 
## neg pos 
## 462 265
prop.table(table(pima$diabetes))
## 
##       neg       pos 
## 0.6354883 0.3645117
stopifnot(!anyNA(pima), all(c("neg", "pos") %in% pima$diabetes))

Berdasarkan hasil preprocessing, diperoleh sebanyak 727 observasi dengan 7 variabel yang terdiri atas 6 variabel prediktor dan 1 variabel respons. Jumlah observasi berkurang dari 768 menjadi 727 setelah variabel triceps dan insulin dihapus serta 41 observasi yang masih mengandung nilai hilang dikeluarkan dari data. Enam variabel prediktor yang digunakan adalah pregnant, glucose, pressure, mass, pedigree, dan age, yang seluruhnya bertipe numerik, sedangkan variabel respons diabetes bertipe factor. Distribusi kelas menunjukkan bahwa kategori negatif (neg) terdiri atas 462 observasi atau 63,55%, sedangkan kategori positif (pos) sebanyak 265 observasi atau 36,45%. Hasil pemeriksaan menunjukkan bahwa data telah siap digunakan dalam proses pembagian data training dan testing untuk pembentukan model SVM.

4.3 Pembagian Data Training Dan Testing

Pembagian data dilakukan untuk memisahkan observasi yang digunakan dalam proses pelatihan dan pengujian model Support Vector Machine (SVM). Analisis ini menggunakan proporsi pembagian data sebesar 70% untuk data training dan 30% untuk data testing. Proses pembagian dilakukan secara acak menggunakan fungsi createDataPartition() dengan set.seed(234) agar hasil pembagian data dapat direproduksi. Pembagian ini juga mempertimbangkan proporsi kelas pada variabel respons diabetes sehingga distribusi kategori negatif (neg) dan positif (pos) pada data training dan testing tetap relatif seimbang.

Sintaks yang digunakan adalah sebagai berikut:

# 3. PEMBAGIAN DATA TRAINING DAN TESTING
set.seed(234)
idx.cls <- createDataPartition(pima$diabetes, p = 0.70, list = FALSE)
pima.train <- pima[idx.cls, ]
pima.test  <- pima[-idx.cls, ]

dim(pima.train)
## [1] 510   7
dim(pima.test)
## [1] 217   7
table(pima.train$diabetes)
## 
## neg pos 
## 324 186
table(pima.test$diabetes)
## 
## neg pos 
## 138  79
prop.table(table(pima.train$diabetes))
## 
##       neg       pos 
## 0.6352941 0.3647059
prop.table(table(pima.test$diabetes))
## 
##       neg       pos 
## 0.6359447 0.3640553

Berdasarkan hasil pembagian data, diperoleh sebanyak 510 observasi sebagai data training dan 217 observasi sebagai data testing, dengan masing-masing data terdiri atas 6 variabel prediktor dan 1 variabel respons. Pada data training, terdapat 324 observasi kategori negatif (neg) atau 63,53% dan 186 observasi kategori positif (pos) atau 36,47%. Sementara itu, data testing terdiri atas 138 observasi kategori negatif (neg) atau 63,59% dan 79 observasi kategori positif (pos) atau 36,41%. Hasil tersebut menunjukkan bahwa distribusi kedua kelas pada data training dan testing cukup seimbang dengan distribusi kelas pada keseluruhan data.

4.4 Pembentukan Model SVM Kernel Radial Awal

Tahap pembentukan model awal dilakukan menggunakan metode Support Vector Machine (SVM) dengan kernel Radial Basis Function (RBF) pada data training sebanyak 510 observasi. Model dibentuk menggunakan fungsi svm() dari paket e1071 dengan variabel diabetes sebagai respons dan enam variabel lainnya sebagai prediktor. Parameter awal yang digunakan adalah cost sebesar 1 dan gamma sebesar 1/6 atau sekitar 0,1667, sesuai dengan jumlah variabel prediktor. Selain itu, digunakan scale = TRUE untuk melakukan standardisasi variabel prediktor secara otomatis dan probability = TRUE untuk menghasilkan probabilitas prediksi yang diperlukan dalam evaluasi ROC-AUC. Model awal ini digunakan sebagai dasar untuk melakukan klasifikasi sebelum proses tuning parameter.

Sintaks yang digunakan adalah sebagai berikut:

# 4. MODEL SVM RADIAL AWAL
set.seed(234)
svm.cls <- svm(
  diabetes ~ ., data = pima.train,
  type = "C-classification", kernel = "radial",
  cost = 1, gamma = 1 / (ncol(pima.train) - 1),
  scale = TRUE, probability = TRUE
)
print(svm.cls)
## 
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification", 
##     kernel = "radial", cost = 1, gamma = 1/(ncol(pima.train) - 1), 
##     probability = TRUE, scale = TRUE)
## 
## 
## Parameters:
##    SVM-Type:  C-classification 
##  SVM-Kernel:  radial 
##        cost:  1 
## 
## Number of Support Vectors:  307

Berdasarkan hasil pembentukan model awal menggunakan metode Support Vector Machine (SVM) dengan kernel radial, diperoleh sebanyak 307 support vector dari 510 observasi data training. Model menggunakan parameter cost sebesar 1 dan gamma sebesar 0,1667, serta menerapkan standardisasi variabel prediktor secara otomatis melalui scale = TRUE. Sebanyak 307 support vector tersebut merupakan observasi yang berperan dalam menentukan batas keputusan (decision boundary) untuk memisahkan kelas diabetes negatif (neg) dan positif (pos). Model awal yang telah terbentuk selanjutnya digunakan untuk melakukan visualisasi batas keputusan, prediksi data testing, dan evaluasi kinerja sebelum dilakukan proses tuning parameter.

4.5 Visualisasi Decision Boundary SVM

Visualisasi decision boundary dilakukan menggunakan paket ggplot2 untuk menggambarkan batas keputusan model Support Vector Machine (SVM) dengan kernel radial. Visualisasi menggunakan variabel glucose sebagai sumbu X dan pressure sebagai sumbu Y, sedangkan variabel prediktor lainnya ditetapkan pada nilai median data training. Proses visualisasi dilakukan menggunakan fungsi expand.grid() untuk membentuk titik pengamatan, predict() untuk menentukan kelas prediksi, serta geom_raster(), geom_contour(), dan geom_point() untuk menampilkan daerah klasifikasi, batas keputusan, dan sebaran observasi.

Sintaks yang digunakan adalah sebagai berikut:

# 5. VISUALISASI DECISION BOUNDARY
# Seluruh prediktor tetap digunakan dalam model.
# Grafik hanya menampilkan bidang 2 dimensi: glucose & pressure.
x1 <- "glucose"
x2 <- "pressure"

grid_vals <- expand.grid(
  glucose = seq(min(pima.train$glucose), max(pima.train$glucose), length.out = 200),
  pressure = seq(min(pima.train$pressure), max(pima.train$pressure), length.out = 200)
)

# Prediktor lain ditahan tetap pada median data training.
prediktor_lain <- setdiff(names(pima.train), c("diabetes", x1, x2))
for (v in prediktor_lain) {
  grid_vals[[v]] <- median(pima.train[[v]], na.rm = TRUE)
}

pred.grid <- predict(svm.cls, newdata = grid_vals, decision.values = TRUE)
grid_vals$Prediksi <- pred.grid
grid_vals$decision <- as.numeric(attr(pred.grid, "decision.values")[, 1])

plot_decision <- ggplot() +
  geom_raster(
    data = grid_vals,
    aes(x = glucose, y = pressure, fill = Prediksi), alpha = 0.28
  ) +
  geom_contour(
    data = grid_vals,
    aes(x = glucose, y = pressure, z = decision),
    breaks = 0, color = "red", linewidth = 1
  ) +
  geom_point(
    data = pima.train,
    aes(x = glucose, y = pressure, color = diabetes),
    alpha = 0.7, size = 1.6
  ) +
  scale_fill_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
  scale_color_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
  labs(
    title = "Decision Boundary SVM Radial",
    subtitle = "Glucose vs Pressure; prediktor lain pada median training",
    x = "Glucose", y = "Pressure",
    fill = "Kelas Prediksi", color = "Kelas Aktual"
  ) +
  theme_bw()
print(plot_decision)

Berdasarkan gambar diatas, visualisasi decision boundary SVM dengan kernel radial menunjukkan bahwa daerah prediksi kelas negatif (neg) didominasi oleh nilai glucose yang lebih rendah, sedangkan daerah prediksi kelas positif (pos) cenderung berada pada nilai glucose yang lebih tinggi. Garis batas keputusan berwarna merah membentuk pola melengkung yang menunjukkan adanya pemisahan kelas secara nonlinier. Selain itu, terdapat beberapa observasi yang berada pada daerah prediksi yang berbeda dengan kelas aktualnya, sehingga menunjukkan adanya kesalahan klasifikasi. Hasil tersebut memperlihatkan bahwa model SVM radial mampu membentuk batas keputusan berdasarkan kombinasi variabel glucose dan pressure, meskipun kedua kelas belum dapat dipisahkan secara sempurna pada visualisasi tersebut.

4.6 Prediksi Data Testing

Prediksi data testing dilakukan menggunakan model Support Vector Machine (SVM) dengan kernel radial awal terhadap 217 observasi data uji. Proses prediksi menggunakan fungsi predict() untuk menentukan kelas diabetes berdasarkan enam variabel prediktor. Hasil prediksi kemudian dibandingkan dengan kelas aktual untuk mengetahui kesesuaian klasifikasi pada kategori negatif (neg) dan positif (pos). Perbandingan tersebut digunakan sebagai dasar evaluasi kinerja model SVM.

Sintaks yang digunakan adalah sebagai berikut:

# 6. PREDIKSI TESTING MODEL AWAL
pred.svm.cls <- predict(svm.cls, newdata = pima.test, probability = TRUE)
pred.svm.cls <- factor(pred.svm.cls, levels = c("neg", "pos"))
hasil.svm.cls <- data.frame(
  Aktual = pima.test$diabetes,
  Prediksi = pred.svm.cls
)
print(head(hasil.svm.cls, 10))
##    Aktual Prediksi
## 8     neg      neg
## 9     neg      neg
## 12    neg      neg
## 15    neg      neg
## 19    pos      pos
## 24    neg      neg
## 30    neg      pos
## 32    pos      pos
## 37    pos      neg
## 38    neg      pos

Berdasarkan hasil prediksi model Support Vector Machine (SVM) dengan kernel radial awal, dari 10 observasi data testing yang ditampilkan, terdapat 7 observasi yang berhasil diklasifikasikan sesuai dengan kelas aktual dan 3 observasi yang mengalami kesalahan klasifikasi. Kesalahan tersebut terdiri atas 2 observasi dengan kelas aktual negatif (neg) yang diprediksi sebagai positif (pos) dan 1 observasi dengan kelas aktual positif (pos) yang diprediksi sebagai negatif (neg). Hasil ini menunjukkan bahwa model mampu mengklasifikasikan sebagian besar observasi yang ditampilkan dengan benar, meskipun masih terdapat kesalahan dalam membedakan kedua kelas diabetes. Evaluasi terhadap seluruh 217 observasi data testing diperlukan untuk mengetahui kinerja model secara keseluruhan.

4.7 Evaluasi Model SMV Awal

Evaluasi model Support Vector Machine (SVM) dengan kernel radial awal dilakukan untuk mengetahui kemampuan model dalam mengklasifikasikan data testing. Evaluasi dilakukan menggunakan fungsi confusionMatrix() dari paket caret dengan kelas positif (pos) sebagai acuan. Selanjutnya, kinerja model diukur berdasarkan Accuracy, Precision, Recall/Sensitivity, Specificity, dan F1-Score. Selain itu, dilakukan analisis kurva Receiver Operating Characteristic (ROC) dan perhitungan Area Under the Curve (AUC) menggunakan paket pROC untuk mengetahui kemampuan model dalam membedakan kedua kelas diabetes.

Sintaks yang digunakan adalah sebagai berikut:

# 7. CONFUSION MATRIX MODEL AWAL
cm.svm <- confusionMatrix(
  data = pred.svm.cls, reference = pima.test$diabetes,
  positive = "pos"
)
print(cm.svm)
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 122  36
##        pos  16  43
##                                           
##                Accuracy : 0.7604          
##                  95% CI : (0.6979, 0.8156)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 5.909e-05       
##                                           
##                   Kappa : 0.4529          
##                                           
##  Mcnemar's Test P-Value : 0.008418        
##                                           
##             Sensitivity : 0.5443          
##             Specificity : 0.8841          
##          Pos Pred Value : 0.7288          
##          Neg Pred Value : 0.7722          
##              Prevalence : 0.3641          
##          Detection Rate : 0.1982          
##    Detection Prevalence : 0.2719          
##       Balanced Accuracy : 0.7142          
##                                           
##        'Positive' Class : pos             
## 
# 8. UKURAN EVALUASI KLASIFIKASI
# Fungsi ini digunakan kembali untuk radial terbaik dan linear.
hitung_metrik <- function(aktual, prediksi) {
  aktual   <- factor(aktual, levels = c("neg", "pos"))
  prediksi <- factor(prediksi, levels = c("neg", "pos"))
  tab <- table(Aktual = aktual, Prediksi = prediksi)
  TN <- as.numeric(tab["neg", "neg"])
  FP <- as.numeric(tab["neg", "pos"])
  FN <- as.numeric(tab["pos", "neg"])
  TP <- as.numeric(tab["pos", "pos"])
  accuracy <- (TP + TN) / (TP + TN + FP + FN)
  precision <- if ((TP + FP) > 0) TP / (TP + FP) else NA_real_
  recall <- if ((TP + FN) > 0) TP / (TP + FN) else NA_real_
  specificity <- if ((TN + FP) > 0) TN / (TN + FP) else NA_real_
  f1 <- if (!is.na(precision) && !is.na(recall) &&
            (precision + recall) > 0) {
    2 * precision * recall / (precision + recall)
  } else NA_real_
  data.frame(
    Accuracy = accuracy, Precision = precision,
    Recall = recall, Sensitivity = recall,
    Specificity = specificity, F1_Score = f1,
    TP = TP, TN = TN, FP = FP, FN = FN
  )
}

evaluasi.svm <- hitung_metrik(pima.test$diabetes, pred.svm.cls)
print(round(evaluasi.svm, 4))
##   Accuracy Precision Recall Sensitivity Specificity F1_Score TP  TN FP FN
## 1   0.7604    0.7288 0.5443      0.5443      0.8841   0.6232 43 122 16 36

Tabel 1. Confusion Matrix Model SVM Kernel Radial Awal

Kelas Prediksi Aktual Negatif Aktual Positif
Negatif (neg) 122 36
Positif (pos) 16 43

Berdasarkan tabel diatas, dari 217 observasi data testing, sebanyak 165 observasi berhasil diklasifikasikan dengan benar, terdiri atas 122 True Negative (TN) dan 43 True Positive (TP). Sementara itu, terdapat 52 observasi yang mengalami kesalahan klasifikasi, yaitu 16 False Positive (FP) dan 36 False Negative (FN). Jumlah False Negative yang lebih tinggi menunjukkan bahwa model masih mengalami kesulitan dalam mengenali kelas positif diabetes, karena terdapat 36 observasi yang sebenarnya positif tetapi diklasifikasikan sebagai negatif.

Tabel 2. Hasil Evaluasi Model SVM Kernel Radial Awal

Ukuran Evaluasi Nilai
Accuracy 0,7604
Precision 0,7288
Recall/Sensitivity 0,5443
Specificity 0,8841
F1-Score 0,6232

Berdasarkan tabel diatas, model SVM dengan kernel radial awal menghasilkan nilai Accuracy sebesar 76,04%, Precision sebesar 72,88%, Recall/Sensitivity sebesar 54,43%, Specificity sebesar 88,41%, dan F1-Score sebesar 62,32%. Nilai Specificity yang lebih tinggi dibandingkan Sensitivity menunjukkan bahwa model lebih baik dalam mengenali kelas negatif dibandingkan kelas positif diabetes. Nilai Recall sebesar 54,43% menunjukkan bahwa hampir setengah dari observasi positif belum berhasil dikenali dengan benar, sedangkan F1-Score sebesar 62,32% menunjukkan bahwa keseimbangan antara Precision dan Recall masih perlu ditingkatkan. Dengan demikian, meskipun model memiliki ketepatan klasifikasi keseluruhan sebesar 76,04%, kemampuannya dalam mengidentifikasi kelas positif masih belum optimal.

# 9. ROC DAN AUC MODEL AWAL
prob.svm <- attr(
  predict(svm.cls, newdata = pima.test, probability = TRUE),
  "probabilities"
)[, "pos"]
roc.svm <- roc(
  response = pima.test$diabetes, predictor = prob.svm,
  levels = c("neg", "pos"), direction = "<", quiet = TRUE
)
AUC.svm <- as.numeric(auc(roc.svm))
print(AUC.svm)
## [1] 0.818015
plot(roc.svm, legacy.axes = TRUE,
     main = paste0("ROC SVM Radial Awal (AUC = ", round(AUC.svm, 3), ")"))

Berdasarkan gambar diatas, kurva Receiver Operating Characteristic (ROC) model SVM dengan kernel radial awal berada di atas garis diagonal yang menunjukkan bahwa model memiliki kemampuan dalam membedakan kelas diabetes negatif (neg) dan positif (pos). Nilai Area Under the Curve (AUC) yang diperoleh sebesar 0,8180 atau 81,80%, yang menunjukkan kemampuan diskriminasi model tergolong baik. Hasil tersebut menunjukkan bahwa model mampu membedakan kedua kelas diabetes pada berbagai nilai ambang klasifikasi. Meskipun demikian, nilai Sensitivity sebesar 54,43% pada ambang klasifikasi yang digunakan menunjukkan bahwa kemampuan model dalam mengenali kelas positif masih perlu ditingkatkan.

4.8 Tuning Parameter Cost dan Gamma pada Kernel Radial

Tahap tuning parameter dilakukan untuk memperoleh kombinasi parameter terbaik pada model Support Vector Machine (SVM) dengan kernel radial. Proses ini menggunakan fungsi tune.svm() dengan variasi nilai cost sebesar 0,1; 1; 10; dan 100 serta gamma sebesar 0,001; 0,01; 0,1; dan 1. Sebanyak 16 kombinasi parameter diuji menggunakan metode 5-fold cross-validation pada data training. Kombinasi dengan nilai kesalahan validasi silang (cross-validation error) terkecil dipilih sebagai parameter optimal untuk pembentukan model SVM.

Sintaks yang digunakan adalah sebagai berikut:

# 10. TUNING KERNEL RADIAL: COST DAN GAMMA 
set.seed(234)
tune.svm.cls <- tune.svm(
  diabetes ~ ., data = pima.train,
  type = "C-classification", kernel = "radial",
  cost = c(0.1, 1, 10, 100),
  gamma = c(0.001, 0.01, 0.1, 1),
  scale = TRUE, tunecontrol = tune.control(cross = 5)
)
print(tune.svm.cls$performances)
##    gamma  cost     error dispersion
## 1  0.001   0.1 0.3647059 0.08066668
## 2  0.010   0.1 0.3647059 0.08066668
## 3  0.100   0.1 0.2882353 0.05571871
## 4  1.000   0.1 0.3647059 0.08066668
## 5  0.001   1.0 0.3647059 0.08066668
## 6  0.010   1.0 0.2666667 0.02973677
## 7  0.100   1.0 0.2588235 0.02824482
## 8  1.000   1.0 0.2921569 0.02235638
## 9  0.001  10.0 0.2647059 0.01834146
## 10 0.010  10.0 0.2627451 0.01885822
## 11 0.100  10.0 0.2607843 0.02032984
## 12 1.000  10.0 0.3196078 0.02556550
## 13 0.001 100.0 0.2647059 0.01550136
## 14 0.010 100.0 0.2568627 0.01278275
## 15 0.100 100.0 0.3000000 0.04471276
## 16 1.000 100.0 0.3313725 0.04566986
print(tune.svm.cls$best.parameters)
##    gamma cost
## 14  0.01  100
print(tune.svm.cls$best.performance)  # CV error lebih kecil lebih baik
## [1] 0.2568627

Tabel 3. Hasil Tuning Parameter Cost dan Gamma pada SVM Kernel Radial

Cost Gamma CV Error Dispersion
0,1 0,001 0,3647 0,0807
0,1 0,010 0,3647 0,0807
0,1 0,100 0,2882 0,0557
0,1 1,000 0,3647 0,0807
1 0,001 0,3647 0,0807
1 0,010 0,2667 0,0297
1 0,100 0,2588 0,0282
1 1,000 0,2922 0,0224
10 0,001 0,2647 0,0183
10 0,010 0,2627 0,0189
10 0,100 0,2608 0,0203
10 1,000 0,3196 0,0256
100 0,001 0,2647 0,0155
100 0,010 0,2569 0,0128
100 0,100 0,3000 0,0447
100 1,000 0,3314 0,0457

Berdasarkan tabel diatas, hasil tuning menunjukkan bahwa setiap kombinasi parameter cost dan gamma menghasilkan tingkat kesalahan klasifikasi yang berbeda. Nilai cross-validation error berkisar antara 0,2569 hingga 0,3647. Kombinasi parameter terbaik diperoleh pada cost sebesar 100 dan gamma sebesar 0,01 dengan nilai cross-validation error terendah sebesar 0,2569 atau 25,69% serta dispersion sebesar 0,0128. Hasil tersebut menunjukkan bahwa kombinasi parameter ini memberikan kinerja terbaik berdasarkan kesalahan validasi silang dari 16 kombinasi yang diuji. Selain itu, perubahan nilai cost dan gamma tidak selalu menghasilkan penurunan kesalahan, sehingga pemilihan kedua parameter perlu dilakukan secara bersamaan. Kombinasi parameter optimal tersebut selanjutnya digunakan untuk membentuk model SVM kernel radial hasil tuning dan mengevaluasi kinerjanya pada data testing.

4.9 Pembentukan dan Evaluasi Model Radial Hasil Tuning

Pembentukan model Support Vector Machine (SVM) dengan kernel radial hasil tuning dilakukan menggunakan kombinasi parameter terbaik yang diperoleh dari proses grid search, yaitu cost sebesar 100 dan gamma sebesar 0,01. Model tersebut kemudian digunakan untuk memprediksi 217 observasi data testing. Evaluasi kinerja dilakukan menggunakan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC untuk mengetahui kemampuan model setelah optimasi parameter serta membandingkannya dengan model awal sebelum tuning.

Sintaks yang digunakan adalah sebagai berikut:

# Bentuk kembali model terbaik dengan probability=TRUE untuk ROC-AUC.
set.seed(234)
svm.best <- svm(
  diabetes ~ ., data = pima.train,
  type = "C-classification", kernel = "radial",
  cost = tune.svm.cls$best.parameters$cost,
  gamma = tune.svm.cls$best.parameters$gamma,
  scale = TRUE, probability = TRUE
)
print(svm.best)
## 
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification", 
##     kernel = "radial", cost = tune.svm.cls$best.parameters$cost, 
##     gamma = tune.svm.cls$best.parameters$gamma, probability = TRUE, 
##     scale = TRUE)
## 
## 
## Parameters:
##    SVM-Type:  C-classification 
##  SVM-Kernel:  radial 
##        cost:  100 
## 
## Number of Support Vectors:  286

Berdasarkan hasil pembentukan model SVM dengan kernel radial setelah proses tuning, diperoleh sebanyak 286 support vector dari 510 observasi data training, atau sekitar 56,08% dari keseluruhan data latih. Jumlah tersebut mengalami penurunan sebanyak 21 support vector dibandingkan model awal yang memiliki 307 support vector. Model hasil tuning menggunakan parameter cost sebesar 100 dan gamma sebesar 0,01. Penurunan jumlah support vector menunjukkan adanya perubahan dalam pembentukan batas keputusan setelah penyesuaian parameter. Namun, peningkatan kinerja klasifikasi belum dapat disimpulkan hanya berdasarkan jumlah support vector, sehingga diperlukan perbandingan hasil evaluasi model awal dan model hasil tuning pada data testing.

Setelah model SVM kernel radial hasil tuning terbentuk, dilakukan evaluasi untuk mengetahui kemampuan model dalam mengklasifikasikan 217 observasi data testing. Evaluasi dilakukan menggunakan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC. Hasil evaluasi tersebut digunakan untuk menilai kinerja model dengan parameter cost sebesar 100 dan gamma sebesar 0,01 serta mengetahui perubahan kemampuan klasifikasi setelah proses tuning.

Sintaks yang digunakan adalah sebagai berikut:

# 11. EVALUASI MODEL RADIAL HASIL TUNING
pred.svm.best <- predict(svm.best, newdata = pima.test, probability = TRUE)
pred.svm.best <- factor(pred.svm.best, levels = c("neg", "pos"))
cm.svm.best <- confusionMatrix(
  data = pred.svm.best, reference = pima.test$diabetes,
  positive = "pos"
)
print(cm.svm.best)
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 123  29
##        pos  15  50
##                                           
##                Accuracy : 0.7972          
##                  95% CI : (0.7375, 0.8486)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 1.881e-07       
##                                           
##                   Kappa : 0.5449          
##                                           
##  Mcnemar's Test P-Value : 0.05002         
##                                           
##             Sensitivity : 0.6329          
##             Specificity : 0.8913          
##          Pos Pred Value : 0.7692          
##          Neg Pred Value : 0.8092          
##              Prevalence : 0.3641          
##          Detection Rate : 0.2304          
##    Detection Prevalence : 0.2995          
##       Balanced Accuracy : 0.7621          
##                                           
##        'Positive' Class : pos             
## 
evaluasi.radial <- hitung_metrik(pima.test$diabetes, pred.svm.best)
print(round(evaluasi.radial, 4))
##   Accuracy Precision Recall Sensitivity Specificity F1_Score TP  TN FP FN
## 1   0.7972    0.7692 0.6329      0.6329      0.8913   0.6944 50 123 15 29
prob.radial <- attr(
  predict(svm.best, newdata = pima.test, probability = TRUE),
  "probabilities"
)[, "pos"]
roc.radial <- roc(
  pima.test$diabetes, prob.radial,
  levels = c("neg", "pos"), direction = "<", quiet = TRUE
)
AUC.radial <- as.numeric(auc(roc.radial))
print(AUC.radial)
## [1] 0.8241607

Tabel 4. Confusion Matrix Model SVM Kernel Radial Hasil Tuning

Kelas Prediksi Aktual Negatif Aktual Positif
Negatif (neg) 123 29
Positif (pos) 15 50

Berdasarkan Tabel 4.8, model SVM kernel radial hasil tuning berhasil mengklasifikasikan 173 dari 217 observasi data testing dengan benar, yang terdiri atas 123 True Negative (TN) dan 50 True Positive (TP). Sementara itu, terdapat 44 observasi yang mengalami kesalahan klasifikasi, yaitu 15 False Positive (FP) dan 29 False Negative (FN). Hasil tersebut menunjukkan bahwa model lebih banyak melakukan kesalahan dalam mengenali kelas positif dibandingkan kelas negatif diabetes.

Tabel 5. Hasil Evaluasi Model SVM Kernel Radial Hasil Tuning

Ukuran Evaluasi Nilai
Accuracy 0,7972
Precision 0,7692
Recall/Sensitivity 0,6329
Specificity 0,8913
F1-Score 0,6944
ROC-AUC 0,8242

Berdasarkan Tabel 4.9, model SVM kernel radial hasil tuning menghasilkan nilai Accuracy sebesar 79,72%, Precision sebesar 76,92%, Recall/Sensitivity sebesar 63,29%, Specificity sebesar 89,13%, dan F1-Score sebesar 69,44%. Nilai Specificity yang lebih tinggi dibandingkan Sensitivity menunjukkan bahwa model lebih baik dalam mengenali kelas negatif daripada kelas positif diabetes. Selain itu, nilai ROC-AUC sebesar 0,8242 menunjukkan bahwa model memiliki kemampuan diskriminasi yang baik dalam membedakan kedua kelas. Secara keseluruhan, model hasil tuning menunjukkan peningkatan kinerja dibandingkan model awal, dengan Accuracy meningkat dari 76,04% menjadi 79,72% dan Recall dari 54,43% menjadi 63,29%.

4.10 Pembentukan dan Evaluasi SVM Kernel Linear

Pembentukan model Support Vector Machine (SVM) dengan kernel linear dilakukan sebagai pembanding model kernel radial. Proses tuning dilakukan menggunakan fungsi tune.svm() dengan variasi parameter cost sebesar 0,1; 1; 10; dan 100 melalui metode 5-fold cross-validation. Parameter dengan nilai kesalahan validasi silang terkecil digunakan untuk membentuk model SVM linear. Selanjutnya, model dievaluasi menggunakan 217 observasi data testing berdasarkan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC.

Sintaks yang digunakan adalah sebagai berikut:

# 12. TUNING DAN EVALUASI KERNEL LINEAR 
set.seed(234)
tune.linear <- tune.svm(
  diabetes ~ ., data = pima.train,
  type = "C-classification", kernel = "linear",
  cost = c(0.1, 1, 10, 100),
  scale = TRUE, tunecontrol = tune.control(cross = 5)
)
print(tune.linear)
## 
## Parameter tuning of 'svm':
## 
## - sampling method: 5-fold cross validation 
## 
## - best parameters:
##  cost
##   100
## 
## - best performance: 0.2588235
print(tune.linear$best.parameters)
##   cost
## 4  100
print(tune.linear$best.performance)
## [1] 0.2588235
set.seed(234)
svm.linear <- svm(
  diabetes ~ ., data = pima.train,
  type = "C-classification", kernel = "linear",
  cost = tune.linear$best.parameters$cost,
  scale = TRUE, probability = TRUE
)
pred.linear <- predict(svm.linear, newdata = pima.test, probability = TRUE)
pred.linear <- factor(pred.linear, levels = c("neg", "pos"))
cm.linear <- confusionMatrix(
  data = pred.linear, reference = pima.test$diabetes,
  positive = "pos"
)
print(cm.linear)
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 119  28
##        pos  19  51
##                                           
##                Accuracy : 0.7834          
##                  95% CI : (0.7226, 0.8363)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 1.973e-06       
##                                           
##                   Kappa : 0.5206          
##                                           
##  Mcnemar's Test P-Value : 0.2432          
##                                           
##             Sensitivity : 0.6456          
##             Specificity : 0.8623          
##          Pos Pred Value : 0.7286          
##          Neg Pred Value : 0.8095          
##              Prevalence : 0.3641          
##          Detection Rate : 0.2350          
##    Detection Prevalence : 0.3226          
##       Balanced Accuracy : 0.7539          
##                                           
##        'Positive' Class : pos             
## 
evaluasi.linear <- hitung_metrik(pima.test$diabetes, pred.linear)
print(round(evaluasi.linear, 4))
##   Accuracy Precision Recall Sensitivity Specificity F1_Score TP  TN FP FN
## 1   0.7834    0.7286 0.6456      0.6456      0.8623   0.6846 51 119 19 28
prob.linear <- attr(
  predict(svm.linear, newdata = pima.test, probability = TRUE),
  "probabilities"
)[, "pos"]
roc.linear <- roc(
  pima.test$diabetes, prob.linear,
  levels = c("neg", "pos"), direction = "<", quiet = TRUE
)
AUC.linear <- as.numeric(auc(roc.linear))
print(AUC.linear)
## [1] 0.8316823

Tabel 6. Hasil Tuning Parameter Cost pada SVM Kernel Linear

Parameter Nilai
Cost optimal 100
Cross-validation Error 0,2588
Jumlah Fold 5

Berdasarkan tabel diatas, hasil tuning menunjukkan bahwa parameter cost optimal pada model SVM kernel linear adalah 100 dengan nilai cross-validation error sebesar 0,2588 atau 25,88%. Hasil tersebut menunjukkan bahwa parameter cost sebesar 100 menghasilkan tingkat kesalahan validasi silang terendah dari empat nilai yang diuji. Parameter ini selanjutnya digunakan dalam pembentukan model SVM linear untuk melakukan klasifikasi pada data testing.

Tabel 7. Confusion Matrix Model SVM Kernel Linear

Kelas Prediksi Aktual Negatif Aktual Positif
Negatif (neg) 119 28
Positif (pos) 19 51

Berdasarkan tabel diatas, model SVM kernel linear berhasil mengklasifikasikan 170 dari 217 observasi data testing dengan benar, yang terdiri atas 119 True Negative (TN) dan 51 True Positive (TP). Sementara itu, terdapat 47 observasi yang mengalami kesalahan klasifikasi, yaitu 19 False Positive (FP) dan 28 False Negative (FN). Hasil tersebut menunjukkan bahwa model masih memiliki kesalahan dalam mengidentifikasi kelas positif diabetes, dengan jumlah False Negative lebih tinggi dibandingkan False Positive.

Tabel 8. Hasil Evaluasi Model SVM Kernel Linear

Ukuran Evaluasi Nilai
Accuracy 0,7834
Precision 0,7286
Recall/Sensitivity 0,6456
Specificity 0,8623
F1-Score 0,6846
ROC-AUC 0,8317

Berdasarkan tabel diatas, model SVM kernel linear menghasilkan nilai Accuracy sebesar 78,34%, Precision sebesar 72,86%, Recall/Sensitivity sebesar 64,56%, Specificity sebesar 86,23%, dan F1-Score sebesar 68,46%. Nilai Specificity yang lebih tinggi dibandingkan Sensitivity menunjukkan bahwa model lebih baik dalam mengenali kelas negatif daripada kelas positif diabetes. Sementara itu, nilai ROC-AUC sebesar 0,8317 menunjukkan bahwa model memiliki kemampuan diskriminasi yang baik dalam membedakan kedua kelas. Meskipun demikian, kemampuan model dalam mengenali kelas positif masih perlu diperhatikan karena terdapat 28 observasi positif yang diklasifikasikan sebagai negatif.

4.11 Perbandingan Kernel Linear dan Kernel Radial

Perbandingan model Support Vector Machine (SVM) dilakukan untuk mengetahui perbedaan kinerja klasifikasi antara kernel linear dan kernel radial setelah proses tuning parameter. Perbandingan dilakukan berdasarkan hasil Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC pada data testing yang sama. Selain itu, nilai cross-validation error digunakan untuk menentukan kernel terbaik berdasarkan hasil validasi silang pada data training. Hasil perbandingan juga divisualisasikan menggunakan kurva ROC untuk melihat kemampuan kedua model dalam membedakan kelas diabetes negatif (neg) dan positif (pos).

Sintaks yang digunakan adalah sebagai berikut:

# 13. PERBANDINGAN KERNEL LINEAR DAN RADIAL
perbandingan.kernel.cls <- rbind(
  data.frame(Kernel = "Linear", Cost = tune.linear$best.parameters$cost,
             Gamma = NA_real_, evaluasi.linear, ROC_AUC = AUC.linear,
             CV_Error = tune.linear$best.performance),
  data.frame(Kernel = "Radial", Cost = tune.svm.cls$best.parameters$cost,
             Gamma = tune.svm.cls$best.parameters$gamma,
             evaluasi.radial, ROC_AUC = AUC.radial,
             CV_Error = tune.svm.cls$best.performance)
)
kolom_angka <- vapply(perbandingan.kernel.cls, is.numeric, logical(1))
perbandingan.kernel.cls[kolom_angka] <- lapply(
  perbandingan.kernel.cls[kolom_angka], round, digits = 4
)
print(perbandingan.kernel.cls)
##   Kernel Cost Gamma Accuracy Precision Recall Sensitivity Specificity F1_Score
## 1 Linear  100    NA   0.7834    0.7286 0.6456      0.6456      0.8623   0.6846
## 2 Radial  100  0.01   0.7972    0.7692 0.6329      0.6329      0.8913   0.6944
##   TP  TN FP FN ROC_AUC CV_Error
## 1 51 119 19 28  0.8317   0.2588
## 2 50 123 15 29  0.8242   0.2569
# Membandingkan kesalahan cross-validation
cv_error <- c(
  Linear = tune.linear$best.performance,
  Radial = tune.svm.cls$best.performance
)

# Menentukan kernel terbaik berdasarkan CV
kernel.terbaik <- names(which.min(cv_error))

cat("Kernel terbaik:", kernel.terbaik, "\n")
## Kernel terbaik: Radial
cat("CV Error:", min(cv_error), "\n")
## CV Error: 0.2568627
# Perbandingan ROC pada data testing.
plot(roc.linear, legacy.axes = TRUE, col = "#377EB8", lwd = 2,
     main = "Perbandingan ROC SVM Linear vs Radial")
lines(roc.radial, col = "#E41A1C", lwd = 2)
legend("bottomright",
       legend = c(paste0("Linear (AUC = ", round(AUC.linear, 3), ")"),
                  paste0("Radial (AUC = ", round(AUC.radial, 3), ")")),
       col = c("#377EB8", "#E41A1C"), lwd = 2, bty = "n")

# Menampilkan evaluasi kernel terpilih
# berdasarkan cross-validation
hasil.terbaik <- perbandingan.kernel.cls[
  perbandingan.kernel.cls$Kernel == kernel.terbaik,
  ,
  drop = FALSE
]
print(hasil.terbaik)
##   Kernel Cost Gamma Accuracy Precision Recall Sensitivity Specificity F1_Score
## 2 Radial  100  0.01   0.7972    0.7692 0.6329      0.6329      0.8913   0.6944
##   TP  TN FP FN ROC_AUC CV_Error
## 2 50 123 15 29  0.8242   0.2569

Tabel 9. Perbandingan Kinerja SVM Kernel Linear dan Kernel Radial

Ukuran Evaluasi Linear Radial
Cost 100 100
Gamma – 0,01
Accuracy 0,7834 0,7972
Precision 0,7286 0,7692
Recall/Sensitivity 0,6456 0,6329
Specificity 0,8623 0,8913
F1-Score 0,6846 0,6944
ROC-AUC 0,8317 0,8242
CV Error 0,2588 0,2569

Berdasarkan tabel diatas, model SVM dengan kernel radial menghasilkan nilai Accuracy sebesar 79,72%, lebih tinggi dibandingkan kernel linear sebesar 78,34%. Model radial juga memiliki nilai Precision, Specificity, dan F1-Score yang lebih tinggi. Namun, kernel linear menghasilkan nilai Recall/Sensitivity sebesar 64,56% dan ROC-AUC sebesar 0,8317, sedikit lebih tinggi dibandingkan kernel radial yang memperoleh 63,29% dan 0,8242. Berdasarkan hasil cross-validation, kernel radial memiliki tingkat kesalahan terendah sebesar 0,2569 dibandingkan kernel linear sebesar 0,2588. Dengan demikian, kernel radial dipilih sebagai model terbaik berdasarkan kriteria kesalahan validasi silang terkecil, meskipun tidak unggul pada seluruh ukuran evaluasi.

Sedangkan berdasarkan gambar, kurva ROC kedua model berada di atas garis diagonal, yang menunjukkan bahwa kedua kernel memiliki kemampuan dalam membedakan kelas diabetes negatif (neg) dan positif (pos). Model kernel linear menghasilkan nilai AUC sebesar 0,8317, sedangkan kernel radial sebesar 0,8242. Perbedaan tersebut menunjukkan bahwa kernel linear memiliki kemampuan diskriminasi sedikit lebih tinggi pada data testing. Meskipun demikian, kedua model menunjukkan kinerja yang relatif berdekatan, sehingga pemilihan kernel radial sebagai model terbaik tetap didasarkan pada nilai cross-validation error yang lebih rendah.

BAB V KESIMPULAN

5.1 Kesimpulan

Metode Support Vector Machine (SVM) dan Support Vector Regression (SVR) merupakan metode supervised learning yang digunakan untuk menyelesaikan permasalahan klasifikasi dan regresi. SVM bekerja dengan menentukan bidang pemisah (hyperplane) optimal untuk membedakan data berdasarkan kelasnya, sedangkan SVR digunakan untuk memprediksi nilai numerik melalui pembentukan fungsi regresi dengan mempertimbangkan batas toleransi kesalahan. Kedua metode dapat menangani hubungan linier maupun nonlinier dengan menggunakan fungsi kernel.

Prinsip kerja SVM melibatkan konsep hyperplane, margin, dan support vector untuk menentukan batas pemisah antarkelas. Hyperplane merupakan bidang pemisah, margin menunjukkan jarak antara dua batas kelas, sedangkan support vector merupakan observasi yang berperan dalam menentukan batas keputusan. Pendekatan soft margin digunakan untuk memberikan toleransi terhadap pelanggaran batas klasifikasi, sementara fungsi kernel memungkinkan pemodelan hubungan nonlinier. Pada SVR, konsep epsilon-insensitive loss digunakan untuk menentukan kesalahan prediksi yang dikenai penalti, sedangkan epsilon-tube merupakan daerah toleransi di sekitar fungsi regresi.

Penerapan metode SVM dan SVR menggunakan perangkat lunak RStudio dapat dilakukan dengan bantuan paket e1071 melalui fungsi svm(). Tahapan analisis meliputi persiapan data, penanganan missing value, pembagian data training dan testing, standardisasi variabel, pembentukan model, serta prediksi dan evaluasi. Pada SVM, variabel respons berbentuk kategori digunakan untuk menentukan kelas suatu observasi, sedangkan pada SVR, variabel respons berbentuk numerik digunakan untuk menghasilkan nilai prediksi. Visualisasi SVM dapat dilakukan melalui decision boundary, sementara SVR dapat divisualisasikan menggunakan epsilon-tube untuk menggambarkan daerah toleransi kesalahan prediksi.

Pemilihan parameter cost, gamma, dan epsilon merupakan faktor penting yang memengaruhi kinerja model SVM dan SVR. Parameter cost mengatur besarnya penalti terhadap kesalahan, gamma mengatur jangkauan pengaruh observasi pada fungsi kernel radial, sedangkan epsilon menentukan batas toleransi kesalahan pada SVR. Optimasi parameter dapat dilakukan menggunakan metode grid search dan cross-validation untuk memperoleh kombinasi parameter yang sesuai. Evaluasi SVM dapat dilakukan menggunakan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC, sedangkan evaluasi SVR menggunakan ukuran seperti Mean Absolute Error (MAE), Root Mean Squared Error (RMSE), dan koefisien determinasi (R²). Dengan demikian, pemilihan parameter dan ukuran evaluasi yang tepat diperlukan untuk memperoleh model klasifikasi maupun regresi dengan kinerja yang baik.

Berdasarkan hasil analisis klasifikasi menggunakan metode Support Vector Machine (SVM) pada dataset SynthDiabetes2 dengan perbandingan kernel linear dan radial serta proporsi pembagian data training dan testing sebesar 70%:30%, diperoleh nilai accuracy sebesar 76,04% pada model radial awal, yang meningkat menjadi 79,72% setelah dilakukan tuning parameter. Kombinasi parameter optimal pada kernel radial diperoleh pada cost = 100 dan gamma = 0,01 dengan nilai cross-validation error sebesar 0,2569, sedangkan kernel linear menghasilkan nilai cost optimal sebesar 100 dengan cross-validation error sebesar 0,2588. Model radial hasil tuning menghasilkan precision sebesar 76,92%, sensitivity sebesar 63,29%, specificity sebesar 89,13%, F1-score sebesar 69,44%, dan ROC-AUC sebesar 0,8242. Berdasarkan confusion matrix, sebanyak 173 dari 217 observasi data testing berhasil diklasifikasikan dengan benar, sedangkan 44 observasi mengalami kesalahan klasifikasi, terdiri atas 15 False Positive dan 29 False Negative. Sementara itu, kernel linear menghasilkan accuracy sebesar 78,34%, sensitivity sebesar 64,56%, dan ROC-AUC sebesar 0,8317. Dengan demikian, kernel radial dipilih sebagai model terbaik berdasarkan nilai cross-validation error terkecil, meskipun kernel linear memiliki sensitivity dan ROC-AUC yang sedikit lebih tinggi. Secara keseluruhan, metode SVM menunjukkan kemampuan klasifikasi yang cukup baik pada dataset SynthDiabetes2, serta memperlihatkan bahwa proses tuning parameter dapat meningkatkan kinerja model, terutama dalam mengurangi kesalahan False Negative dari 36 menjadi 29 observasi.

DAFTAR PUSTAKA

Farida, L. N., & Bahri, S. (2024). Klasifikasi gagal jantung menggunakan metode SVM (Support Vector Machine). Komputika: Jurnal Sistem Komputer, 13(2), 149–156. https://doi.org/10.34010/komputika.v13i2.11330

Isnaeni, R., Sudarmin, & Rais, Z. (2022). Analisis Support Vector Regression (SVR) dengan kernel Radial Basis Function (RBF) untuk memprediksi laju inflasi di Indonesia. VARIANSI: Journal of Statistics and Its Application on Teaching and Research, 4(1), 30–38. https://doi.org/10.35580/variansiunm13

Saputra, E., Khaira, U., & Abidin, Z. (2021). Implementasi algoritme Support Vector Machines untuk klasifikasi area terbakar di lahan gambut. Jurnal Nasional Teknik Elektro dan Teknologi Informasi, 10(1), 19–24. https://doi.org/10.22146/jnteti.v10i1.990

Saputra, G. H., Wigena, A. H., & Sartono, B. (2019). Penggunaan Support Vector Regression dalam pemodelan Indeks Saham Syariah Indonesia dengan algoritme grid search. Indonesian Journal of Statistics and Its Applications, 3(2), 148–160. https://doi.org/10.29244/ijsa.v3i2.172

Sepri, D., & Fauzi, A. (2020). Prediksi harga cabai merah menggunakan Support Vector Regression. Computer Based Information System Journal, 8(2), 1–5. https://doi.org/10.33884/cbis.v8i2.1921

Sundari, H., Amrustian, M. A., & Wicaksono, A. D. P. (2024). Penerapan Recursive Feature Elimination pada Support Vector Machine untuk klasifikasi kanker payudara. LEDGER: Journal Informatic and Information Technology, 3(2). https://doi.org/10.20895/ledger.v3i2.1591

Yusuf, B. F. (2024). Implementasi algoritma Support Vector Regression dalam memprediksi harga sayuran komoditas: Studi kasus Desa Hegarmanah. JATI (Jurnal Mahasiswa Teknik Informatika), 8(5). https://doi.org/10.36040/jati.v8i5.11034