Support Vector Machine (SVM) merupakan salah satu metode machine learning yang digunakan untuk melakukan klasifikasi berdasarkan karakteristik data. Metode SVM bekerja dengan menentukan bidang pemisah (hyperplane) yang optimal untuk membedakan data ke dalam kelas tertentu. Penentuan hyperplane dilakukan dengan memaksimalkan jarak (margin) antara bidang pemisah dan data terdekat yang disebut support vector. Metode ini dapat menangani pola data linier maupun nonlinier dengan menggunakan fungsi kernel (Farida dan Bahri, 2024). Selain digunakan untuk klasifikasi, metode SVM juga dikembangkan menjadi Support Vector Regression (SVR) untuk melakukan prediksi data numerik. SVR bekerja dengan membentuk fungsi regresi yang memperkirakan nilai variabel respons berdasarkan variabel prediktor. Pemilihan parameter cost (C), epsilon (ε), dan gamma (γ) menjadi faktor penting karena dapat memengaruhi hasil prediksi model (Sepri dan Fauzi, 2020).
Metode SVM dan SVR dapat diterapkan dalam berbagai bidang, seperti pendidikan, kesehatan, ekonomi, dan industri untuk melakukan klasifikasi maupun prediksi berdasarkan karakteristik data. Proses analisis menggunakan kedua metode tersebut melibatkan beberapa tahapan, yaitu prapemrosesan data, pembagian data menjadi data latih dan data uji, pemilihan fungsi kernel, penentuan parameter model, serta pengujian hasil analisis. Kinerja kedua metode dipengaruhi oleh pemilihan parameter, fungsi kernel, dan karakteristik data yang digunakan. Penerapan SVM dalam klasifikasi kanker payudara menunjukkan bahwa metode ini dapat digunakan untuk membedakan tumor jinak dan ganas berdasarkan karakteristik variabel prediktor (Sundari, Amrustian dan Wicaksono 2024). Sementara itu, penerapan SVR dalam prediksi harga sayuran menunjukkan bahwa metode ini dapat digunakan untuk memperkirakan nilai numerik berdasarkan pola data yang digunakan (Yusuf, 2024).
Penerapan metode SVM dan SVR memerlukan evaluasi untuk mengetahui kemampuan model dalam menghasilkan klasifikasi maupun prediksi yang sesuai dengan data aktual. Evaluasi SVM dapat dilakukan menggunakan confusion matrix melalui pengukuran Accuracy, Precision, Recall, dan F1-score. Accuracy digunakan untuk mengukur ketepatan klasifikasi secara keseluruhan, sedangkan Precision dan Recall digunakan untuk menilai kemampuan model dalam mengidentifikasi kelas positif. Sementara itu, evaluasi SVR dapat dilakukan menggunakan Mean Absolute Error (MAE), Root Mean Squared Error (RMSE), dan koefisien determinasi (R²). MAE digunakan untuk mengukur rata-rata kesalahan absolut prediksi, sedangkan RMSE menunjukkan besarnya kesalahan prediksi dengan memberikan pengaruh lebih besar terhadap kesalahan yang tinggi. Koefisien determinasi digunakan untuk menilai kemampuan model dalam menjelaskan variasi data respons.
Support Vector Machine (SVM) merupakan salah satu metode klasifikasi berbasis pembelajaran terarah (supervised learning) yang digunakan untuk mengelompokkan data berdasarkan karakteristik variabel prediktor. Metode SVM bekerja dengan mencari bidang pemisah (hyperplane) optimal yang dapat membedakan observasi dari kelas yang berbeda. Penentuan hyperplane dilakukan dengan memaksimalkan jarak (margin) antara bidang pemisah dan observasi terdekat dari masing-masing kelas yang disebut support vector. Metode SVM memiliki kemampuan untuk menangani data dengan pola linier maupun nonlinier melalui penggunaan fungsi kernel. Karakteristik tersebut menjadikan SVM dapat diterapkan dalam berbagai permasalahan klasifikasi, khususnya pada data yang memiliki hubungan kompleks antarvariabel (Farida dan Bahri, 2024).
Dalam proses klasifikasi, terdapat tiga konsep utama yang saling berkaitan, yaitu hyperplane, margin, dan support vector. Hyperplane merupakan bidang pemisah yang digunakan untuk membedakan observasi berdasarkan kelasnya. Pada ruang berdimensi dua, hyperplane berbentuk garis, sedangkan pada ruang berdimensi tiga berbentuk bidang. Margin merupakan jarak antara dua bidang batas kelas yang sejajar dengan hyperplane, sedangkan support vector merupakan observasi yang berperan penting dalam menentukan posisi bidang pemisah optimal. SVM berusaha memperoleh hyperplane dengan margin maksimum agar model memiliki kemampuan klasifikasi yang baik terhadap data baru. Secara matematis, persamaan hyperplane linier dinyatakan sebagai berikut.
\[ \mathbf{w}^{T}\mathbf{x}+b=0 \tag{2.1} \]
dengan:
Pada SVM linier dengan hard margin, dua bidang batas kelas dinyatakan sebagai berikut.
\[ \mathbf{w}^{T}\mathbf{x}+b=1 \tag{2.2} \]
\[ \mathbf{w}^{T}\mathbf{x}+b=-1 \tag{2.3} \]
Jarak antara kedua bidang batas tersebut merupakan lebar margin yang dirumuskan sebagai berikut.
\[ M=\frac{2}{\|\mathbf{w}\|} \tag{2.4} \]
dengan \(M\) merupakan lebar margin dan \(\|\mathbf{w}\|\) merupakan norma Euclidean dari vektor bobot. Semakin kecil nilai \(\|\mathbf{w}\|\), semakin besar margin yang diperoleh. Pada SVM linier dengan hard margin, observasi yang berada pada bidang batas kelas disebut support vector dan berperan dalam menentukan posisi hyperplane optimal.
Secara operasional, metode SVM dimulai dengan menentukan variabel prediktor dan variabel respons yang digunakan dalam proses klasifikasi. Data kemudian melalui tahap prapemrosesan, pembagian menjadi data latih dan data uji, serta pemilihan fungsi kernel dan parameter model. Pada proses pelatihan, SVM menentukan hyperplane yang mampu memisahkan kelas dengan margin optimal. Apabila data tidak dapat dipisahkan secara sempurna, SVM menggunakan pendekatan soft margin untuk memberikan toleransi terhadap kesalahan klasifikasi. Kinerja metode ini dipengaruhi oleh jenis kernel, nilai parameter cost, serta karakteristik data yang digunakan. Oleh karena itu, pemilihan parameter yang sesuai diperlukan untuk memperoleh hasil klasifikasi yang baik (Saputra, Khaira dan Abidin, 2021).
Soft margin merupakan pendekatan pada metode SVM yang digunakan ketika data dari kelas berbeda tidak dapat dipisahkan secara sempurna menggunakan suatu hyperplane. Kondisi tersebut dapat terjadi akibat adanya observasi yang saling tumpang tindih, noise, atau data pencilan (outlier). Berbeda dengan hard margin yang mengharuskan seluruh observasi berada pada sisi batas kelas yang benar, pendekatan soft margin memberikan toleransi terhadap pelanggaran batas margin. Toleransi tersebut dinyatakan melalui variabel kelonggaran (slack variable) yang menunjukkan besarnya pelanggaran pada masing-masing observasi (Saputra, Khaira dan Abidin, 2021).
Fungsi optimasi pada pendekatan soft margin dirumuskan sebagai berikut.
\[ \min_{\mathbf{w},b,\boldsymbol{\xi}} \left( \frac{1}{2}\|\mathbf{w}\|^2+ C\sum_{i=1}^{n}\xi_i \right) \tag{2.7} \]
dengan kendala:
\[ y_i(\mathbf{w}^{T}\mathbf{x}_i+b)\geq 1-\xi_i \tag{2.8} \]
\[ \xi_i\geq 0,\quad i=1,2,\ldots,n \tag{2.9} \]
dengan:
Parameter \(C\) digunakan untuk mengatur keseimbangan antara besarnya margin dan penalti terhadap pelanggaran. Nilai \(C\) yang besar memberikan penalti lebih tinggi terhadap pelanggaran, sedangkan nilai \(C\) yang kecil memberikan toleransi lebih besar. Pemilihan nilai \(C\) perlu disesuaikan dengan karakteristik data agar model tidak terlalu menyesuaikan diri dengan data latih (overfitting) maupun gagal mengenali pola utama data (underfitting).
Fungsi kernel merupakan komponen pada metode SVM dan SVR yang digunakan untuk menangani hubungan nonlinier antarvariabel. Pada data yang tidak dapat dipisahkan secara linier dalam ruang fitur asal, fungsi kernel memungkinkan model menghitung hasil kali dalam pada ruang fitur berdimensi lebih tinggi tanpa harus melakukan transformasi secara eksplisit. Pendekatan tersebut dikenal sebagai kernel trick. Penggunaan fungsi kernel memungkinkan model mengenali pola hubungan yang lebih kompleks, sehingga pemilihan jenis kernel menjadi salah satu tahap penting dalam pembentukan model (Farida dan Bahri, 2024).
Beberapa jenis fungsi kernel yang umum digunakan pada metode SVM dan SVR adalah sebagai berikut.
1. Linear Kernel
Linear kernel merupakan fungsi kernel yang digunakan untuk memodelkan hubungan linier antarvariabel. Fungsi ini sesuai ketika pola hubungan data dapat direpresentasikan dalam bentuk linier.
\[ K(\mathbf{x}_i,\mathbf{x}_j)=\mathbf{x}_i^{T}\mathbf{x}_j \tag{2.10} \]
2. Polynomial Kernel
Polynomial kernel digunakan untuk menangani hubungan nonlinier dengan mempertimbangkan interaksi antarvariabel dalam bentuk polinomial.
\[ K(\mathbf{x}_i,\mathbf{x}_j)= (\gamma\mathbf{x}_i^{T}\mathbf{x}_j+r)^d \tag{2.11} \]
3. Radial Basis Function (RBF) Kernel
Radial Basis Function (RBF) merupakan fungsi kernel yang mengukur kemiripan dua observasi berdasarkan jarak Euclidean kuadrat. Fungsi ini banyak digunakan untuk menangani data yang memiliki pola hubungan nonlinier. Pemilihan fungsi kernel disesuaikan dengan karakteristik data yang digunakan.
\[ K(\mathbf{x}_i,\mathbf{x}_j)= \exp\left(-\gamma\|\mathbf{x}_i-\mathbf{x}_j\|^2\right) \tag{2.12} \]
dengan:
Support Vector Regression (SVR) merupakan pengembangan metode Support Vector Machine yang digunakan untuk menyelesaikan permasalahan regresi dan prediksi nilai numerik. Berbeda dengan SVM yang bertujuan menentukan kelas suatu observasi, SVR digunakan untuk memperkirakan nilai variabel respons berdasarkan hubungan dengan satu atau lebih variabel prediktor. Metode SVR bekerja dengan membentuk fungsi regresi yang mempertimbangkan kompleksitas model serta kesalahan prediksi berdasarkan batas toleransi tertentu. SVR termasuk metode nonparametrik dan dapat digunakan untuk menangani pola hubungan linier maupun nonlinier melalui penggunaan fungsi kernel (Saputra, Wigena, dan Sartono, 2019).
Proses pemodelan SVR melibatkan beberapa tahapan, yaitu prapemrosesan data, pembagian data menjadi data latih dan data uji, pemilihan fungsi kernel, serta penentuan parameter model. Parameter yang umum digunakan meliputi cost (\(C\)), gamma (\(\gamma\)), dan epsilon (\(\varepsilon\)). Nilai parameter tersebut memengaruhi kompleksitas fungsi regresi dan besarnya toleransi kesalahan prediksi. Salah satu pendekatan yang dapat digunakan untuk menentukan kombinasi parameter adalah grid search, yaitu dengan mencoba sejumlah kombinasi parameter dan membandingkan kinerja model.
Secara matematis, fungsi regresi pada SVR linier dinyatakan sebagai berikut.
\[ f(\mathbf{x})=\mathbf{w}^{T}\mathbf{x}+b \tag{2.13} \]
Untuk pemodelan nonlinier, fungsi regresi dinyatakan sebagai:
\[ f(\mathbf{x})=\mathbf{w}^{T}\phi(\mathbf{x})+b \tag{2.14} \]
dengan:
Epsilon-insensitive loss merupakan fungsi kerugian pada metode SVR yang digunakan untuk mengukur kesalahan prediksi berdasarkan batas toleransi tertentu. Dalam pendekatan ini, selisih antara nilai aktual dan nilai prediksi yang berada dalam batas epsilon (\(\varepsilon\)) tidak dikenai penalti. Sebaliknya, selisih yang melebihi nilai epsilon diperhitungkan sebagai kesalahan. Konsep tersebut memungkinkan SVR membentuk fungsi regresi yang tidak harus melewati setiap observasi, tetapi tetap mempertahankan kesalahan prediksi dalam batas yang telah ditentukan (Saputra, Wigena, dan Sartono, 2019).
Secara matematis, fungsi epsilon-insensitive loss dapat dinyatakan sebagai berikut.
\[ L_{\varepsilon}(y_i,f(\mathbf{x}_i))= \max\left(0,\left|y_i-f(\mathbf{x}_i)\right|-\varepsilon\right) \tag{2.15} \]
atau dalam bentuk fungsi bagian:
\[ L_{\varepsilon}= \begin{cases} 0, & |y_i-f(\mathbf{x}_i)|\leq\varepsilon\\ |y_i-f(\mathbf{x}_i)|-\varepsilon, & |y_i-f(\mathbf{x}_i)|>\varepsilon \end{cases} \tag{2.16} \]
dengan \(y_i\) merupakan nilai aktual, \(f(\mathbf{x}_i)\) merupakan nilai prediksi, dan \(\varepsilon\) merupakan batas toleransi kesalahan.
Epsilon-tube merupakan daerah toleransi di sekitar fungsi regresi yang dibentuk oleh dua batas, yaitu \(f(\mathbf{x})+\varepsilon\) dan \(f(\mathbf{x})-\varepsilon\). Observasi yang berada di dalam daerah tersebut tidak memberikan kontribusi terhadap nilai kerugian epsilon-insensitive, sedangkan observasi di luar daerah toleransi dikenai penalti berdasarkan besarnya penyimpangan. Fungsi optimasi SVR dapat dirumuskan sebagai berikut.
\[ \min_{\mathbf{w},b,\boldsymbol{\xi},\boldsymbol{\xi}^{*}} \left( \frac{1}{2}\|\mathbf{w}\|^2+ C\sum_{i=1}^{n}(\xi_i+\xi_i^*) \right) \tag{2.17} \]
dengan kendala:
\[ y_i-f(\mathbf{x}_i)\leq\varepsilon+\xi_i \tag{2.18} \]
\[ f(\mathbf{x}_i)-y_i\leq\varepsilon+\xi_i^* \tag{2.19} \]
\[ \xi_i,\xi_i^*\geq 0 \tag{2.20} \]
dengan \(\xi_i\) dan \(\xi_i^*\) merupakan variabel kelonggaran yang menunjukkan besarnya pelanggaran di luar batas toleransi. Nilai epsilon yang lebih kecil menghasilkan daerah toleransi yang lebih sempit, sedangkan nilai epsilon yang lebih besar menghasilkan daerah toleransi yang lebih lebar. Oleh karena itu, pemilihan epsilon perlu disesuaikan dengan karakteristik data agar diperoleh model yang mampu menghasilkan prediksi dengan tingkat kesalahan yang rendah.
Tuning parameter merupakan proses penentuan nilai parameter model untuk memperoleh kinerja klasifikasi atau regresi yang optimal. Pada metode SVM, parameter yang umum dioptimalkan adalah cost (\(C\)) dan gamma (\(gamma\)) untuk jenis kernel tertentu. Sementara itu, metode SVR juga menggunakan parameter epsilon (\(varepsilon\)) untuk menentukan batas toleransi kesalahan prediksi. Pemilihan nilai parameter yang kurang tepat dapat menyebabkan model terlalu kompleks atau terlalu sederhana, sehingga menurunkan kemampuannya dalam mengenali pola data baru (Isnaeni, Sudarmin, dan Rais, 2022). Salah satu metode yang digunakan dalam proses tuning adalah grid search, yaitu metode pencarian parameter yang dilakukan dengan menguji berbagai kombinasi nilai dalam rentang yang telah ditentukan. Setiap kombinasi parameter dievaluasi untuk memperoleh model dengan kinerja terbaik. Proses tersebut dapat dikombinasikan dengan k-fold cross-validation agar penilaian model tidak hanya bergantung pada satu pembagian data latih dan data validasi.
Data yang digunakan dalam penelitian ini merupakan data sekunder
berupa data sintetis yang diperoleh dari dataset
SynthDiabetes2 yang tersedia dalam paket mlbench
pada perangkat lunak R. Dataset tersebut terdiri atas 768
observasi dengan delapan variabel prediktor dan satu variabel respons.
Variabel respons berupa klasifikasi diabetes yang terbagi menjadi dua
kategori, yaitu negatif sebanyak 488 observasi dan positif sebanyak 280
observasi.
Variabel yang digunakan dalam penelitian ini terdiri atas 8 variabel
prediktor dan 1 variabel respons. Variabel prediktor meliputi
pregnant yang menunjukkan jumlah kehamilan,
glucose yang menunjukkan konsentrasi glukosa plasma,
pressure yang menunjukkan tekanan darah diastolik,
triceps yang menunjukkan ketebalan lipatan kulit trisep,
insulin yang menunjukkan kadar insulin serum,
mass yang menunjukkan indeks massa tubuh,
pedigree yang menunjukkan fungsi riwayat diabetes dalam
keluarga, dan age yang menunjukkan usia. Sementara itu,
variabel respons yang digunakan adalah diabetes, yaitu kategori
klasifikasi diabetes yang terdiri atas neg dan
pos.
Langkah-langkah analisis klasifikasi menggunakan metode Support Vector Machine (SVM) pada dataset SynthDiabetes2 adalah sebagai berikut:
Pada batasan masalah, diminta untuk melakukan analisis klasifikasi
menggunakan metode Support Vector Machine (SVM) pada
dataset SynthDiabetes2 dengan membandingkan kernel
linear dan radial. Proses analisis dilakukan menggunakan
proporsi pembagian data sebesar 70% data training dan 30% data
testing dengan set.seed(234). Pada kernel
radial, dilakukan tuning parameter cost sebesar
0,1; 1; 10; dan 100 serta gamma sebesar 0,001; 0,01; 0,1; dan
1. Selanjutnya, dilakukan evaluasi kinerja model menggunakan
confusion matrix, Accuracy, Precision,
Recall/Sensitivity, Specificity, F1-Score,
dan ROC-AUC untuk mengetahui kemampuan SVM dalam mengklasifikasikan
diabetes menjadi kategori negatif (neg) dan positif
(pos). Hasil analisis digunakan untuk menentukan
kernel terbaik serta menjelaskan pengaruh parameter
cost dan gamma terhadap kinerja model dan bentuk batas
keputusan.
Tahap persiapan data dilakukan dengan memanggil paket
mlbench, e1071, caret,
pROC, dan ggplot2, kemudian memuat dataset
SynthDiabetes2 yang tersedia dalam paket mlbench pada
perangkat lunak R. Selanjutnya, dilakukan pemeriksaan struktur data,
ringkasan statistik, jumlah nilai hilang (missing value), serta
distribusi variabel respons untuk mengetahui karakteristik awal data dan
jumlah observasi pada setiap kategori diabetes, yaitu negatif
(neg) dan positif (pos). Pemeriksaan ini
dilakukan sebagai tahap awal sebelum proses preprocessing dan
pembentukan model SVM.
Sintaks yang digunakan adalah sebagai berikut:
# 1. PERSIAPAN DATA
# Library
library(mlbench)
library(e1071)
library(caret)
library(pROC)
library(ggplot2)
# Input data
data("SynthDiabetes2", package = "mlbench")
pima <- SynthDiabetes2
str(pima)## 'data.frame': 768 obs. of 9 variables:
## $ pregnant: num 0 8 2 6 4 10 3 1 4 7 ...
## $ glucose : num 194 129 132 184 108 117 100 88 73 126 ...
## $ pressure: num 50 84 72 62 58 80 80 75 82 92 ...
## $ triceps : num 45 NA 42 NA 32 13 41 30 38 NA ...
## $ insulin : num NA NA NA NA NA NA 65 49 NA NA ...
## $ mass : num 28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
## $ pedigree: num 0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
## $ age : num 28 44 26 39 22 58 33 22 33 46 ...
## $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
## pregnant glucose pressure triceps
## Min. : 0.000 Min. : 57.0 Min. : 24.00 Min. : 7.00
## 1st Qu.: 1.000 1st Qu.:101.0 1st Qu.: 64.00 1st Qu.:22.00
## Median : 3.000 Median :119.0 Median : 72.00 Median :30.00
## Mean : 4.585 Mean :125.3 Mean : 72.59 Mean :29.46
## 3rd Qu.: 7.000 3rd Qu.:144.5 3rd Qu.: 80.00 3rd Qu.:36.00
## Max. :13.000 Max. :199.0 Max. :108.00 Max. :63.00
## NAs :5 NAs :35 NAs :251
## insulin mass pedigree age diabetes
## Min. : 14 Min. :18.20 Min. :0.0780 Min. :21.00 neg:488
## 1st Qu.: 76 1st Qu.:27.80 1st Qu.:0.2430 1st Qu.:24.00 pos:280
## Median :125 Median :32.80 Median :0.3670 Median :28.00
## Mean :159 Mean :32.87 Mean :0.4792 Mean :33.05
## 3rd Qu.:194 3rd Qu.:36.95 3rd Qu.:0.6450 3rd Qu.:41.00
## Max. :846 Max. :59.40 Max. :2.4200 Max. :81.00
## NAs :405 NAs :13
## pregnant glucose pressure triceps insulin mass pedigree age
## 0 5 35 251 405 13 0 0
## diabetes
## 0
Berdasarkan hasil pemeriksaan data awal, diketahui bahwa dataset
SynthDiabetes2 terdiri atas 768 observasi dengan 9 variabel, yaitu
delapan 8 prediktor dan 1 variabel respons. Seluruh variabel prediktor
bertipe numerik, sedangkan variabel respons diabetes terdiri atas 2
kategori, yaitu negatif (neg) sebanyak 488 observasi atau
63,54% dan positif (pos) sebanyak 280 observasi atau
36,46%. Hasil tersebut menunjukkan bahwa jumlah observasi pada kelas
negatif lebih banyak dibandingkan kelas positif. Selain itu, terdapat
nilai hilang (missing value) pada beberapa variabel, yaitu
glucose sebanyak 5 observasi, pressure
sebanyak 35 observasi, triceps sebanyak 251 observasi,
insulin sebanyak 405 observasi, dan mass
sebanyak 13 observasi. Variabel insulin dan
triceps memiliki jumlah nilai hilang terbanyak dibandingkan
variabel lainnya, sehingga diperlukan penanganan data sebelum dilakukan
pemodelan.
Tahap preprocessing data dilakukan dengan menghapus variabel
triceps dan insulin karena memiliki jumlah
nilai hilang (missing value) yang cukup banyak, yaitu
masing-masing sebanyak 251 dan 405 observasi. Selanjutnya, observasi
yang masih mengandung nilai hilang pada variabel lainnya dihapus
menggunakan fungsi na.omit(). Variabel respons
diabetes juga dipastikan bertipe factor dengan dua
kategori, yaitu negatif (neg) dan positif
(pos), agar sesuai untuk pemodelan Support Vector
Machine (SVM). Setelah proses tersebut, dilakukan pemeriksaan
kembali terhadap struktur data, jumlah observasi, distribusi kelas, dan
keberadaan nilai hilang untuk memastikan data siap digunakan dalam
proses klasifikasi.
Sintaks yang digunakan adalah sebagai berikut:
# 2. PREPROCESSING DATA
# Hilangkan dua prediktor dengan banyak NA.
pima <- pima[, !names(pima) %in% c("triceps", "insulin")]
# Hapus baris yang masih mengandung NA.
pima <- na.omit(pima)
pima$diabetes <- factor(pima$diabetes, levels = c("neg", "pos"))
str(pima)## 'data.frame': 727 obs. of 7 variables:
## $ pregnant: num 0 8 2 6 4 10 3 1 4 7 ...
## $ glucose : num 194 129 132 184 108 117 100 88 73 126 ...
## $ pressure: num 50 84 72 62 58 80 80 75 82 92 ...
## $ mass : num 28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
## $ pedigree: num 0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
## $ age : num 28 44 26 39 22 58 33 22 33 46 ...
## $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
## - attr(*, "na.action")= 'omit' Named int [1:41] 42 57 59 60 77 96 108 109 119 158 ...
## ..- attr(*, "names")= chr [1:41] "42" "57" "59" "60" ...
## pregnant glucose pressure mass
## Min. : 0.00 Min. : 57.0 Min. : 24.00 Min. :18.20
## 1st Qu.: 1.00 1st Qu.:101.0 1st Qu.: 64.00 1st Qu.:27.80
## Median : 3.00 Median :119.0 Median : 72.00 Median :32.80
## Mean : 4.67 Mean :125.4 Mean : 72.58 Mean :32.96
## 3rd Qu.: 7.00 3rd Qu.:144.0 3rd Qu.: 80.00 3rd Qu.:37.15
## Max. :13.00 Max. :196.0 Max. :108.00 Max. :59.40
## pedigree age diabetes
## Min. :0.0780 Min. :21.00 neg:462
## 1st Qu.:0.2450 1st Qu.:24.00 pos:265
## Median :0.3650 Median :28.00
## Mean :0.4790 Mean :33.29
## 3rd Qu.:0.6425 3rd Qu.:41.00
## Max. :2.4200 Max. :81.00
## [1] 727 7
##
## neg pos
## 462 265
##
## neg pos
## 0.6354883 0.3645117
Berdasarkan hasil preprocessing, diperoleh sebanyak 727
observasi dengan 7 variabel yang terdiri atas 6 variabel prediktor dan 1
variabel respons. Jumlah observasi berkurang dari 768 menjadi 727
setelah variabel triceps dan insulin dihapus
serta 41 observasi yang masih mengandung nilai hilang dikeluarkan dari
data. Enam variabel prediktor yang digunakan adalah
pregnant, glucose, pressure,
mass, pedigree, dan age, yang
seluruhnya bertipe numerik, sedangkan variabel respons
diabetes bertipe factor. Distribusi kelas
menunjukkan bahwa kategori negatif (neg) terdiri atas 462
observasi atau 63,55%, sedangkan kategori positif (pos)
sebanyak 265 observasi atau 36,45%. Hasil pemeriksaan menunjukkan bahwa
data telah siap digunakan dalam proses pembagian data training
dan testing untuk pembentukan model SVM.
Pembagian data dilakukan untuk memisahkan observasi yang digunakan
dalam proses pelatihan dan pengujian model Support Vector
Machine (SVM). Analisis ini menggunakan proporsi pembagian data
sebesar 70% untuk data training dan 30% untuk data
testing. Proses pembagian dilakukan secara acak menggunakan
fungsi createDataPartition() dengan
set.seed(234) agar hasil pembagian data dapat direproduksi.
Pembagian ini juga mempertimbangkan proporsi kelas pada variabel respons
diabetes sehingga distribusi kategori negatif
(neg) dan positif (pos) pada data
training dan testing tetap relatif seimbang.
Sintaks yang digunakan adalah sebagai berikut:
# 3. PEMBAGIAN DATA TRAINING DAN TESTING
set.seed(234)
idx.cls <- createDataPartition(pima$diabetes, p = 0.70, list = FALSE)
pima.train <- pima[idx.cls, ]
pima.test <- pima[-idx.cls, ]
dim(pima.train)## [1] 510 7
## [1] 217 7
##
## neg pos
## 324 186
##
## neg pos
## 138 79
##
## neg pos
## 0.6352941 0.3647059
##
## neg pos
## 0.6359447 0.3640553
Berdasarkan hasil pembagian data, diperoleh sebanyak 510 observasi
sebagai data training dan 217 observasi sebagai data
testing, dengan masing-masing data terdiri atas 6 variabel
prediktor dan 1 variabel respons. Pada data training, terdapat
324 observasi kategori negatif (neg) atau 63,53% dan 186
observasi kategori positif (pos) atau 36,47%. Sementara
itu, data testing terdiri atas 138 observasi kategori negatif
(neg) atau 63,59% dan 79 observasi kategori positif
(pos) atau 36,41%. Hasil tersebut menunjukkan bahwa
distribusi kedua kelas pada data training dan testing
cukup seimbang dengan distribusi kelas pada keseluruhan data.
Tahap pembentukan model awal dilakukan menggunakan metode Support
Vector Machine (SVM) dengan kernel Radial Basis Function
(RBF) pada data training sebanyak 510 observasi. Model dibentuk
menggunakan fungsi svm() dari paket e1071
dengan variabel diabetes sebagai respons dan enam variabel
lainnya sebagai prediktor. Parameter awal yang digunakan adalah
cost sebesar 1 dan gamma sebesar 1/6 atau sekitar 0,1667,
sesuai dengan jumlah variabel prediktor. Selain itu, digunakan
scale = TRUE untuk melakukan standardisasi variabel
prediktor secara otomatis dan probability = TRUE untuk
menghasilkan probabilitas prediksi yang diperlukan dalam evaluasi
ROC-AUC. Model awal ini digunakan sebagai dasar untuk melakukan
klasifikasi sebelum proses tuning parameter.
Sintaks yang digunakan adalah sebagai berikut:
# 4. MODEL SVM RADIAL AWAL
set.seed(234)
svm.cls <- svm(
diabetes ~ ., data = pima.train,
type = "C-classification", kernel = "radial",
cost = 1, gamma = 1 / (ncol(pima.train) - 1),
scale = TRUE, probability = TRUE
)
print(svm.cls)##
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification",
## kernel = "radial", cost = 1, gamma = 1/(ncol(pima.train) - 1),
## probability = TRUE, scale = TRUE)
##
##
## Parameters:
## SVM-Type: C-classification
## SVM-Kernel: radial
## cost: 1
##
## Number of Support Vectors: 307
Berdasarkan hasil pembentukan model awal menggunakan metode
Support Vector Machine (SVM) dengan kernel radial,
diperoleh sebanyak 307 support vector dari 510 observasi data
training. Model menggunakan parameter cost sebesar 1
dan gamma sebesar 0,1667, serta menerapkan standardisasi variabel
prediktor secara otomatis melalui scale = TRUE. Sebanyak
307 support vector tersebut merupakan observasi yang berperan
dalam menentukan batas keputusan (decision boundary) untuk
memisahkan kelas diabetes negatif (neg) dan positif
(pos). Model awal yang telah terbentuk selanjutnya
digunakan untuk melakukan visualisasi batas keputusan, prediksi data
testing, dan evaluasi kinerja sebelum dilakukan proses
tuning parameter.
Visualisasi decision boundary dilakukan menggunakan paket
ggplot2 untuk menggambarkan batas keputusan model
Support Vector Machine (SVM) dengan kernel radial.
Visualisasi menggunakan variabel glucose sebagai sumbu X
dan pressure sebagai sumbu Y, sedangkan variabel prediktor
lainnya ditetapkan pada nilai median data training. Proses
visualisasi dilakukan menggunakan fungsi expand.grid()
untuk membentuk titik pengamatan, predict() untuk
menentukan kelas prediksi, serta geom_raster(),
geom_contour(), dan geom_point() untuk
menampilkan daerah klasifikasi, batas keputusan, dan sebaran
observasi.
Sintaks yang digunakan adalah sebagai berikut:
# 5. VISUALISASI DECISION BOUNDARY
# Seluruh prediktor tetap digunakan dalam model.
# Grafik hanya menampilkan bidang 2 dimensi: glucose & pressure.
x1 <- "glucose"
x2 <- "pressure"
grid_vals <- expand.grid(
glucose = seq(min(pima.train$glucose), max(pima.train$glucose), length.out = 200),
pressure = seq(min(pima.train$pressure), max(pima.train$pressure), length.out = 200)
)
# Prediktor lain ditahan tetap pada median data training.
prediktor_lain <- setdiff(names(pima.train), c("diabetes", x1, x2))
for (v in prediktor_lain) {
grid_vals[[v]] <- median(pima.train[[v]], na.rm = TRUE)
}
pred.grid <- predict(svm.cls, newdata = grid_vals, decision.values = TRUE)
grid_vals$Prediksi <- pred.grid
grid_vals$decision <- as.numeric(attr(pred.grid, "decision.values")[, 1])
plot_decision <- ggplot() +
geom_raster(
data = grid_vals,
aes(x = glucose, y = pressure, fill = Prediksi), alpha = 0.28
) +
geom_contour(
data = grid_vals,
aes(x = glucose, y = pressure, z = decision),
breaks = 0, color = "red", linewidth = 1
) +
geom_point(
data = pima.train,
aes(x = glucose, y = pressure, color = diabetes),
alpha = 0.7, size = 1.6
) +
scale_fill_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
scale_color_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
labs(
title = "Decision Boundary SVM Radial",
subtitle = "Glucose vs Pressure; prediktor lain pada median training",
x = "Glucose", y = "Pressure",
fill = "Kelas Prediksi", color = "Kelas Aktual"
) +
theme_bw()
print(plot_decision)Berdasarkan gambar diatas, visualisasi decision boundary SVM
dengan kernel radial menunjukkan bahwa daerah prediksi kelas
negatif (neg) didominasi oleh nilai glucose
yang lebih rendah, sedangkan daerah prediksi kelas positif
(pos) cenderung berada pada nilai glucose yang
lebih tinggi. Garis batas keputusan berwarna merah membentuk pola
melengkung yang menunjukkan adanya pemisahan kelas secara nonlinier.
Selain itu, terdapat beberapa observasi yang berada pada daerah prediksi
yang berbeda dengan kelas aktualnya, sehingga menunjukkan adanya
kesalahan klasifikasi. Hasil tersebut memperlihatkan bahwa model SVM
radial mampu membentuk batas keputusan berdasarkan kombinasi
variabel glucose dan pressure, meskipun kedua
kelas belum dapat dipisahkan secara sempurna pada visualisasi
tersebut.
Prediksi data testing dilakukan menggunakan model
Support Vector Machine (SVM) dengan kernel radial awal
terhadap 217 observasi data uji. Proses prediksi menggunakan fungsi
predict() untuk menentukan kelas diabetes berdasarkan enam
variabel prediktor. Hasil prediksi kemudian dibandingkan dengan kelas
aktual untuk mengetahui kesesuaian klasifikasi pada kategori negatif
(neg) dan positif (pos). Perbandingan tersebut
digunakan sebagai dasar evaluasi kinerja model SVM.
Sintaks yang digunakan adalah sebagai berikut:
# 6. PREDIKSI TESTING MODEL AWAL
pred.svm.cls <- predict(svm.cls, newdata = pima.test, probability = TRUE)
pred.svm.cls <- factor(pred.svm.cls, levels = c("neg", "pos"))
hasil.svm.cls <- data.frame(
Aktual = pima.test$diabetes,
Prediksi = pred.svm.cls
)
print(head(hasil.svm.cls, 10))## Aktual Prediksi
## 8 neg neg
## 9 neg neg
## 12 neg neg
## 15 neg neg
## 19 pos pos
## 24 neg neg
## 30 neg pos
## 32 pos pos
## 37 pos neg
## 38 neg pos
Berdasarkan hasil prediksi model Support Vector Machine
(SVM) dengan kernel radial awal, dari 10 observasi data
testing yang ditampilkan, terdapat 7 observasi yang berhasil
diklasifikasikan sesuai dengan kelas aktual dan 3 observasi yang
mengalami kesalahan klasifikasi. Kesalahan tersebut terdiri atas 2
observasi dengan kelas aktual negatif (neg) yang diprediksi
sebagai positif (pos) dan 1 observasi dengan kelas aktual
positif (pos) yang diprediksi sebagai negatif
(neg). Hasil ini menunjukkan bahwa model mampu
mengklasifikasikan sebagian besar observasi yang ditampilkan dengan
benar, meskipun masih terdapat kesalahan dalam membedakan kedua kelas
diabetes. Evaluasi terhadap seluruh 217 observasi data testing
diperlukan untuk mengetahui kinerja model secara keseluruhan.
Evaluasi model Support Vector Machine (SVM) dengan
kernel radial awal dilakukan untuk mengetahui kemampuan model
dalam mengklasifikasikan data testing. Evaluasi dilakukan
menggunakan fungsi confusionMatrix() dari paket
caret dengan kelas positif (pos) sebagai
acuan. Selanjutnya, kinerja model diukur berdasarkan Accuracy,
Precision, Recall/Sensitivity, Specificity,
dan F1-Score. Selain itu, dilakukan analisis kurva Receiver
Operating Characteristic (ROC) dan perhitungan Area Under the
Curve (AUC) menggunakan paket pROC untuk mengetahui
kemampuan model dalam membedakan kedua kelas diabetes.
Sintaks yang digunakan adalah sebagai berikut:
# 7. CONFUSION MATRIX MODEL AWAL
cm.svm <- confusionMatrix(
data = pred.svm.cls, reference = pima.test$diabetes,
positive = "pos"
)
print(cm.svm)## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 122 36
## pos 16 43
##
## Accuracy : 0.7604
## 95% CI : (0.6979, 0.8156)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 5.909e-05
##
## Kappa : 0.4529
##
## Mcnemar's Test P-Value : 0.008418
##
## Sensitivity : 0.5443
## Specificity : 0.8841
## Pos Pred Value : 0.7288
## Neg Pred Value : 0.7722
## Prevalence : 0.3641
## Detection Rate : 0.1982
## Detection Prevalence : 0.2719
## Balanced Accuracy : 0.7142
##
## 'Positive' Class : pos
##
# 8. UKURAN EVALUASI KLASIFIKASI
# Fungsi ini digunakan kembali untuk radial terbaik dan linear.
hitung_metrik <- function(aktual, prediksi) {
aktual <- factor(aktual, levels = c("neg", "pos"))
prediksi <- factor(prediksi, levels = c("neg", "pos"))
tab <- table(Aktual = aktual, Prediksi = prediksi)
TN <- as.numeric(tab["neg", "neg"])
FP <- as.numeric(tab["neg", "pos"])
FN <- as.numeric(tab["pos", "neg"])
TP <- as.numeric(tab["pos", "pos"])
accuracy <- (TP + TN) / (TP + TN + FP + FN)
precision <- if ((TP + FP) > 0) TP / (TP + FP) else NA_real_
recall <- if ((TP + FN) > 0) TP / (TP + FN) else NA_real_
specificity <- if ((TN + FP) > 0) TN / (TN + FP) else NA_real_
f1 <- if (!is.na(precision) && !is.na(recall) &&
(precision + recall) > 0) {
2 * precision * recall / (precision + recall)
} else NA_real_
data.frame(
Accuracy = accuracy, Precision = precision,
Recall = recall, Sensitivity = recall,
Specificity = specificity, F1_Score = f1,
TP = TP, TN = TN, FP = FP, FN = FN
)
}
evaluasi.svm <- hitung_metrik(pima.test$diabetes, pred.svm.cls)
print(round(evaluasi.svm, 4))## Accuracy Precision Recall Sensitivity Specificity F1_Score TP TN FP FN
## 1 0.7604 0.7288 0.5443 0.5443 0.8841 0.6232 43 122 16 36
Tabel 1. Confusion Matrix Model SVM Kernel Radial Awal
| Kelas Prediksi | Aktual Negatif | Aktual Positif |
|---|---|---|
Negatif (neg) |
122 | 36 |
Positif (pos) |
16 | 43 |
Berdasarkan tabel diatas, dari 217 observasi data testing, sebanyak 165 observasi berhasil diklasifikasikan dengan benar, terdiri atas 122 True Negative (TN) dan 43 True Positive (TP). Sementara itu, terdapat 52 observasi yang mengalami kesalahan klasifikasi, yaitu 16 False Positive (FP) dan 36 False Negative (FN). Jumlah False Negative yang lebih tinggi menunjukkan bahwa model masih mengalami kesulitan dalam mengenali kelas positif diabetes, karena terdapat 36 observasi yang sebenarnya positif tetapi diklasifikasikan sebagai negatif.
Tabel 2. Hasil Evaluasi Model SVM Kernel Radial Awal
| Ukuran Evaluasi | Nilai |
|---|---|
| Accuracy | 0,7604 |
| Precision | 0,7288 |
| Recall/Sensitivity | 0,5443 |
| Specificity | 0,8841 |
| F1-Score | 0,6232 |
Berdasarkan tabel diatas, model SVM dengan kernel radial awal menghasilkan nilai Accuracy sebesar 76,04%, Precision sebesar 72,88%, Recall/Sensitivity sebesar 54,43%, Specificity sebesar 88,41%, dan F1-Score sebesar 62,32%. Nilai Specificity yang lebih tinggi dibandingkan Sensitivity menunjukkan bahwa model lebih baik dalam mengenali kelas negatif dibandingkan kelas positif diabetes. Nilai Recall sebesar 54,43% menunjukkan bahwa hampir setengah dari observasi positif belum berhasil dikenali dengan benar, sedangkan F1-Score sebesar 62,32% menunjukkan bahwa keseimbangan antara Precision dan Recall masih perlu ditingkatkan. Dengan demikian, meskipun model memiliki ketepatan klasifikasi keseluruhan sebesar 76,04%, kemampuannya dalam mengidentifikasi kelas positif masih belum optimal.
# 9. ROC DAN AUC MODEL AWAL
prob.svm <- attr(
predict(svm.cls, newdata = pima.test, probability = TRUE),
"probabilities"
)[, "pos"]
roc.svm <- roc(
response = pima.test$diabetes, predictor = prob.svm,
levels = c("neg", "pos"), direction = "<", quiet = TRUE
)
AUC.svm <- as.numeric(auc(roc.svm))
print(AUC.svm)## [1] 0.818015
plot(roc.svm, legacy.axes = TRUE,
main = paste0("ROC SVM Radial Awal (AUC = ", round(AUC.svm, 3), ")"))Berdasarkan gambar diatas, kurva Receiver Operating
Characteristic (ROC) model SVM dengan kernel radial awal
berada di atas garis diagonal yang menunjukkan bahwa model memiliki
kemampuan dalam membedakan kelas diabetes negatif (neg) dan
positif (pos). Nilai Area Under the Curve (AUC)
yang diperoleh sebesar 0,8180 atau 81,80%, yang menunjukkan kemampuan
diskriminasi model tergolong baik. Hasil tersebut menunjukkan bahwa
model mampu membedakan kedua kelas diabetes pada berbagai nilai ambang
klasifikasi. Meskipun demikian, nilai Sensitivity sebesar
54,43% pada ambang klasifikasi yang digunakan menunjukkan bahwa
kemampuan model dalam mengenali kelas positif masih perlu
ditingkatkan.
Tahap tuning parameter dilakukan untuk memperoleh kombinasi
parameter terbaik pada model Support Vector Machine (SVM)
dengan kernel radial. Proses ini menggunakan fungsi
tune.svm() dengan variasi nilai cost sebesar 0,1;
1; 10; dan 100 serta gamma sebesar 0,001; 0,01; 0,1; dan 1. Sebanyak 16
kombinasi parameter diuji menggunakan metode 5-fold
cross-validation pada data training. Kombinasi dengan
nilai kesalahan validasi silang (cross-validation error)
terkecil dipilih sebagai parameter optimal untuk pembentukan model
SVM.
Sintaks yang digunakan adalah sebagai berikut:
# 10. TUNING KERNEL RADIAL: COST DAN GAMMA
set.seed(234)
tune.svm.cls <- tune.svm(
diabetes ~ ., data = pima.train,
type = "C-classification", kernel = "radial",
cost = c(0.1, 1, 10, 100),
gamma = c(0.001, 0.01, 0.1, 1),
scale = TRUE, tunecontrol = tune.control(cross = 5)
)
print(tune.svm.cls$performances)## gamma cost error dispersion
## 1 0.001 0.1 0.3647059 0.08066668
## 2 0.010 0.1 0.3647059 0.08066668
## 3 0.100 0.1 0.2882353 0.05571871
## 4 1.000 0.1 0.3647059 0.08066668
## 5 0.001 1.0 0.3647059 0.08066668
## 6 0.010 1.0 0.2666667 0.02973677
## 7 0.100 1.0 0.2588235 0.02824482
## 8 1.000 1.0 0.2921569 0.02235638
## 9 0.001 10.0 0.2647059 0.01834146
## 10 0.010 10.0 0.2627451 0.01885822
## 11 0.100 10.0 0.2607843 0.02032984
## 12 1.000 10.0 0.3196078 0.02556550
## 13 0.001 100.0 0.2647059 0.01550136
## 14 0.010 100.0 0.2568627 0.01278275
## 15 0.100 100.0 0.3000000 0.04471276
## 16 1.000 100.0 0.3313725 0.04566986
## gamma cost
## 14 0.01 100
## [1] 0.2568627
Tabel 3. Hasil Tuning Parameter Cost dan Gamma pada SVM Kernel Radial
| Cost | Gamma | CV Error | Dispersion |
|---|---|---|---|
| 0,1 | 0,001 | 0,3647 | 0,0807 |
| 0,1 | 0,010 | 0,3647 | 0,0807 |
| 0,1 | 0,100 | 0,2882 | 0,0557 |
| 0,1 | 1,000 | 0,3647 | 0,0807 |
| 1 | 0,001 | 0,3647 | 0,0807 |
| 1 | 0,010 | 0,2667 | 0,0297 |
| 1 | 0,100 | 0,2588 | 0,0282 |
| 1 | 1,000 | 0,2922 | 0,0224 |
| 10 | 0,001 | 0,2647 | 0,0183 |
| 10 | 0,010 | 0,2627 | 0,0189 |
| 10 | 0,100 | 0,2608 | 0,0203 |
| 10 | 1,000 | 0,3196 | 0,0256 |
| 100 | 0,001 | 0,2647 | 0,0155 |
| 100 | 0,010 | 0,2569 | 0,0128 |
| 100 | 0,100 | 0,3000 | 0,0447 |
| 100 | 1,000 | 0,3314 | 0,0457 |
Berdasarkan tabel diatas, hasil tuning menunjukkan bahwa setiap kombinasi parameter cost dan gamma menghasilkan tingkat kesalahan klasifikasi yang berbeda. Nilai cross-validation error berkisar antara 0,2569 hingga 0,3647. Kombinasi parameter terbaik diperoleh pada cost sebesar 100 dan gamma sebesar 0,01 dengan nilai cross-validation error terendah sebesar 0,2569 atau 25,69% serta dispersion sebesar 0,0128. Hasil tersebut menunjukkan bahwa kombinasi parameter ini memberikan kinerja terbaik berdasarkan kesalahan validasi silang dari 16 kombinasi yang diuji. Selain itu, perubahan nilai cost dan gamma tidak selalu menghasilkan penurunan kesalahan, sehingga pemilihan kedua parameter perlu dilakukan secara bersamaan. Kombinasi parameter optimal tersebut selanjutnya digunakan untuk membentuk model SVM kernel radial hasil tuning dan mengevaluasi kinerjanya pada data testing.
Pembentukan model Support Vector Machine (SVM) dengan kernel radial hasil tuning dilakukan menggunakan kombinasi parameter terbaik yang diperoleh dari proses grid search, yaitu cost sebesar 100 dan gamma sebesar 0,01. Model tersebut kemudian digunakan untuk memprediksi 217 observasi data testing. Evaluasi kinerja dilakukan menggunakan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC untuk mengetahui kemampuan model setelah optimasi parameter serta membandingkannya dengan model awal sebelum tuning.
Sintaks yang digunakan adalah sebagai berikut:
# Bentuk kembali model terbaik dengan probability=TRUE untuk ROC-AUC.
set.seed(234)
svm.best <- svm(
diabetes ~ ., data = pima.train,
type = "C-classification", kernel = "radial",
cost = tune.svm.cls$best.parameters$cost,
gamma = tune.svm.cls$best.parameters$gamma,
scale = TRUE, probability = TRUE
)
print(svm.best)##
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification",
## kernel = "radial", cost = tune.svm.cls$best.parameters$cost,
## gamma = tune.svm.cls$best.parameters$gamma, probability = TRUE,
## scale = TRUE)
##
##
## Parameters:
## SVM-Type: C-classification
## SVM-Kernel: radial
## cost: 100
##
## Number of Support Vectors: 286
Berdasarkan hasil pembentukan model SVM dengan kernel radial setelah proses tuning, diperoleh sebanyak 286 support vector dari 510 observasi data training, atau sekitar 56,08% dari keseluruhan data latih. Jumlah tersebut mengalami penurunan sebanyak 21 support vector dibandingkan model awal yang memiliki 307 support vector. Model hasil tuning menggunakan parameter cost sebesar 100 dan gamma sebesar 0,01. Penurunan jumlah support vector menunjukkan adanya perubahan dalam pembentukan batas keputusan setelah penyesuaian parameter. Namun, peningkatan kinerja klasifikasi belum dapat disimpulkan hanya berdasarkan jumlah support vector, sehingga diperlukan perbandingan hasil evaluasi model awal dan model hasil tuning pada data testing.
Setelah model SVM kernel radial hasil tuning terbentuk, dilakukan evaluasi untuk mengetahui kemampuan model dalam mengklasifikasikan 217 observasi data testing. Evaluasi dilakukan menggunakan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC. Hasil evaluasi tersebut digunakan untuk menilai kinerja model dengan parameter cost sebesar 100 dan gamma sebesar 0,01 serta mengetahui perubahan kemampuan klasifikasi setelah proses tuning.
Sintaks yang digunakan adalah sebagai berikut:
# 11. EVALUASI MODEL RADIAL HASIL TUNING
pred.svm.best <- predict(svm.best, newdata = pima.test, probability = TRUE)
pred.svm.best <- factor(pred.svm.best, levels = c("neg", "pos"))
cm.svm.best <- confusionMatrix(
data = pred.svm.best, reference = pima.test$diabetes,
positive = "pos"
)
print(cm.svm.best)## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 123 29
## pos 15 50
##
## Accuracy : 0.7972
## 95% CI : (0.7375, 0.8486)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 1.881e-07
##
## Kappa : 0.5449
##
## Mcnemar's Test P-Value : 0.05002
##
## Sensitivity : 0.6329
## Specificity : 0.8913
## Pos Pred Value : 0.7692
## Neg Pred Value : 0.8092
## Prevalence : 0.3641
## Detection Rate : 0.2304
## Detection Prevalence : 0.2995
## Balanced Accuracy : 0.7621
##
## 'Positive' Class : pos
##
evaluasi.radial <- hitung_metrik(pima.test$diabetes, pred.svm.best)
print(round(evaluasi.radial, 4))## Accuracy Precision Recall Sensitivity Specificity F1_Score TP TN FP FN
## 1 0.7972 0.7692 0.6329 0.6329 0.8913 0.6944 50 123 15 29
prob.radial <- attr(
predict(svm.best, newdata = pima.test, probability = TRUE),
"probabilities"
)[, "pos"]
roc.radial <- roc(
pima.test$diabetes, prob.radial,
levels = c("neg", "pos"), direction = "<", quiet = TRUE
)
AUC.radial <- as.numeric(auc(roc.radial))
print(AUC.radial)## [1] 0.8241607
Tabel 4. Confusion Matrix Model SVM Kernel Radial Hasil Tuning
| Kelas Prediksi | Aktual Negatif | Aktual Positif |
|---|---|---|
Negatif (neg) |
123 | 29 |
Positif (pos) |
15 | 50 |
Berdasarkan Tabel 4.8, model SVM kernel radial hasil tuning berhasil mengklasifikasikan 173 dari 217 observasi data testing dengan benar, yang terdiri atas 123 True Negative (TN) dan 50 True Positive (TP). Sementara itu, terdapat 44 observasi yang mengalami kesalahan klasifikasi, yaitu 15 False Positive (FP) dan 29 False Negative (FN). Hasil tersebut menunjukkan bahwa model lebih banyak melakukan kesalahan dalam mengenali kelas positif dibandingkan kelas negatif diabetes.
Tabel 5. Hasil Evaluasi Model SVM Kernel Radial Hasil Tuning
| Ukuran Evaluasi | Nilai |
|---|---|
| Accuracy | 0,7972 |
| Precision | 0,7692 |
| Recall/Sensitivity | 0,6329 |
| Specificity | 0,8913 |
| F1-Score | 0,6944 |
| ROC-AUC | 0,8242 |
Berdasarkan Tabel 4.9, model SVM kernel radial hasil tuning menghasilkan nilai Accuracy sebesar 79,72%, Precision sebesar 76,92%, Recall/Sensitivity sebesar 63,29%, Specificity sebesar 89,13%, dan F1-Score sebesar 69,44%. Nilai Specificity yang lebih tinggi dibandingkan Sensitivity menunjukkan bahwa model lebih baik dalam mengenali kelas negatif daripada kelas positif diabetes. Selain itu, nilai ROC-AUC sebesar 0,8242 menunjukkan bahwa model memiliki kemampuan diskriminasi yang baik dalam membedakan kedua kelas. Secara keseluruhan, model hasil tuning menunjukkan peningkatan kinerja dibandingkan model awal, dengan Accuracy meningkat dari 76,04% menjadi 79,72% dan Recall dari 54,43% menjadi 63,29%.
Pembentukan model Support Vector Machine (SVM) dengan
kernel linear dilakukan sebagai pembanding model kernel
radial. Proses tuning dilakukan menggunakan fungsi
tune.svm() dengan variasi parameter cost sebesar
0,1; 1; 10; dan 100 melalui metode 5-fold cross-validation.
Parameter dengan nilai kesalahan validasi silang terkecil digunakan
untuk membentuk model SVM linear. Selanjutnya, model dievaluasi
menggunakan 217 observasi data testing berdasarkan
confusion matrix, Accuracy, Precision,
Recall/Sensitivity, Specificity, F1-Score,
dan ROC-AUC.
Sintaks yang digunakan adalah sebagai berikut:
# 12. TUNING DAN EVALUASI KERNEL LINEAR
set.seed(234)
tune.linear <- tune.svm(
diabetes ~ ., data = pima.train,
type = "C-classification", kernel = "linear",
cost = c(0.1, 1, 10, 100),
scale = TRUE, tunecontrol = tune.control(cross = 5)
)
print(tune.linear)##
## Parameter tuning of 'svm':
##
## - sampling method: 5-fold cross validation
##
## - best parameters:
## cost
## 100
##
## - best performance: 0.2588235
## cost
## 4 100
## [1] 0.2588235
set.seed(234)
svm.linear <- svm(
diabetes ~ ., data = pima.train,
type = "C-classification", kernel = "linear",
cost = tune.linear$best.parameters$cost,
scale = TRUE, probability = TRUE
)
pred.linear <- predict(svm.linear, newdata = pima.test, probability = TRUE)
pred.linear <- factor(pred.linear, levels = c("neg", "pos"))
cm.linear <- confusionMatrix(
data = pred.linear, reference = pima.test$diabetes,
positive = "pos"
)
print(cm.linear)## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 119 28
## pos 19 51
##
## Accuracy : 0.7834
## 95% CI : (0.7226, 0.8363)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 1.973e-06
##
## Kappa : 0.5206
##
## Mcnemar's Test P-Value : 0.2432
##
## Sensitivity : 0.6456
## Specificity : 0.8623
## Pos Pred Value : 0.7286
## Neg Pred Value : 0.8095
## Prevalence : 0.3641
## Detection Rate : 0.2350
## Detection Prevalence : 0.3226
## Balanced Accuracy : 0.7539
##
## 'Positive' Class : pos
##
## Accuracy Precision Recall Sensitivity Specificity F1_Score TP TN FP FN
## 1 0.7834 0.7286 0.6456 0.6456 0.8623 0.6846 51 119 19 28
prob.linear <- attr(
predict(svm.linear, newdata = pima.test, probability = TRUE),
"probabilities"
)[, "pos"]
roc.linear <- roc(
pima.test$diabetes, prob.linear,
levels = c("neg", "pos"), direction = "<", quiet = TRUE
)
AUC.linear <- as.numeric(auc(roc.linear))
print(AUC.linear)## [1] 0.8316823
Tabel 6. Hasil Tuning Parameter Cost pada SVM Kernel Linear
| Parameter | Nilai |
|---|---|
| Cost optimal | 100 |
| Cross-validation Error | 0,2588 |
| Jumlah Fold | 5 |
Berdasarkan tabel diatas, hasil tuning menunjukkan bahwa parameter cost optimal pada model SVM kernel linear adalah 100 dengan nilai cross-validation error sebesar 0,2588 atau 25,88%. Hasil tersebut menunjukkan bahwa parameter cost sebesar 100 menghasilkan tingkat kesalahan validasi silang terendah dari empat nilai yang diuji. Parameter ini selanjutnya digunakan dalam pembentukan model SVM linear untuk melakukan klasifikasi pada data testing.
Tabel 7. Confusion Matrix Model SVM Kernel Linear
| Kelas Prediksi | Aktual Negatif | Aktual Positif |
|---|---|---|
Negatif (neg) |
119 | 28 |
Positif (pos) |
19 | 51 |
Berdasarkan tabel diatas, model SVM kernel linear berhasil mengklasifikasikan 170 dari 217 observasi data testing dengan benar, yang terdiri atas 119 True Negative (TN) dan 51 True Positive (TP). Sementara itu, terdapat 47 observasi yang mengalami kesalahan klasifikasi, yaitu 19 False Positive (FP) dan 28 False Negative (FN). Hasil tersebut menunjukkan bahwa model masih memiliki kesalahan dalam mengidentifikasi kelas positif diabetes, dengan jumlah False Negative lebih tinggi dibandingkan False Positive.
Tabel 8. Hasil Evaluasi Model SVM Kernel Linear
| Ukuran Evaluasi | Nilai |
|---|---|
| Accuracy | 0,7834 |
| Precision | 0,7286 |
| Recall/Sensitivity | 0,6456 |
| Specificity | 0,8623 |
| F1-Score | 0,6846 |
| ROC-AUC | 0,8317 |
Berdasarkan tabel diatas, model SVM kernel linear menghasilkan nilai Accuracy sebesar 78,34%, Precision sebesar 72,86%, Recall/Sensitivity sebesar 64,56%, Specificity sebesar 86,23%, dan F1-Score sebesar 68,46%. Nilai Specificity yang lebih tinggi dibandingkan Sensitivity menunjukkan bahwa model lebih baik dalam mengenali kelas negatif daripada kelas positif diabetes. Sementara itu, nilai ROC-AUC sebesar 0,8317 menunjukkan bahwa model memiliki kemampuan diskriminasi yang baik dalam membedakan kedua kelas. Meskipun demikian, kemampuan model dalam mengenali kelas positif masih perlu diperhatikan karena terdapat 28 observasi positif yang diklasifikasikan sebagai negatif.
Perbandingan model Support Vector Machine (SVM) dilakukan
untuk mengetahui perbedaan kinerja klasifikasi antara kernel
linear dan kernel radial setelah proses tuning
parameter. Perbandingan dilakukan berdasarkan hasil Accuracy,
Precision, Recall/Sensitivity, Specificity,
F1-Score, dan ROC-AUC pada data testing yang sama.
Selain itu, nilai cross-validation error digunakan untuk
menentukan kernel terbaik berdasarkan hasil validasi silang
pada data training. Hasil perbandingan juga divisualisasikan
menggunakan kurva ROC untuk melihat kemampuan kedua model dalam
membedakan kelas diabetes negatif (neg) dan positif
(pos).
Sintaks yang digunakan adalah sebagai berikut:
# 13. PERBANDINGAN KERNEL LINEAR DAN RADIAL
perbandingan.kernel.cls <- rbind(
data.frame(Kernel = "Linear", Cost = tune.linear$best.parameters$cost,
Gamma = NA_real_, evaluasi.linear, ROC_AUC = AUC.linear,
CV_Error = tune.linear$best.performance),
data.frame(Kernel = "Radial", Cost = tune.svm.cls$best.parameters$cost,
Gamma = tune.svm.cls$best.parameters$gamma,
evaluasi.radial, ROC_AUC = AUC.radial,
CV_Error = tune.svm.cls$best.performance)
)
kolom_angka <- vapply(perbandingan.kernel.cls, is.numeric, logical(1))
perbandingan.kernel.cls[kolom_angka] <- lapply(
perbandingan.kernel.cls[kolom_angka], round, digits = 4
)
print(perbandingan.kernel.cls)## Kernel Cost Gamma Accuracy Precision Recall Sensitivity Specificity F1_Score
## 1 Linear 100 NA 0.7834 0.7286 0.6456 0.6456 0.8623 0.6846
## 2 Radial 100 0.01 0.7972 0.7692 0.6329 0.6329 0.8913 0.6944
## TP TN FP FN ROC_AUC CV_Error
## 1 51 119 19 28 0.8317 0.2588
## 2 50 123 15 29 0.8242 0.2569
# Membandingkan kesalahan cross-validation
cv_error <- c(
Linear = tune.linear$best.performance,
Radial = tune.svm.cls$best.performance
)
# Menentukan kernel terbaik berdasarkan CV
kernel.terbaik <- names(which.min(cv_error))
cat("Kernel terbaik:", kernel.terbaik, "\n")## Kernel terbaik: Radial
## CV Error: 0.2568627
# Perbandingan ROC pada data testing.
plot(roc.linear, legacy.axes = TRUE, col = "#377EB8", lwd = 2,
main = "Perbandingan ROC SVM Linear vs Radial")
lines(roc.radial, col = "#E41A1C", lwd = 2)
legend("bottomright",
legend = c(paste0("Linear (AUC = ", round(AUC.linear, 3), ")"),
paste0("Radial (AUC = ", round(AUC.radial, 3), ")")),
col = c("#377EB8", "#E41A1C"), lwd = 2, bty = "n")# Menampilkan evaluasi kernel terpilih
# berdasarkan cross-validation
hasil.terbaik <- perbandingan.kernel.cls[
perbandingan.kernel.cls$Kernel == kernel.terbaik,
,
drop = FALSE
]
print(hasil.terbaik)## Kernel Cost Gamma Accuracy Precision Recall Sensitivity Specificity F1_Score
## 2 Radial 100 0.01 0.7972 0.7692 0.6329 0.6329 0.8913 0.6944
## TP TN FP FN ROC_AUC CV_Error
## 2 50 123 15 29 0.8242 0.2569
Tabel 9. Perbandingan Kinerja SVM Kernel Linear dan Kernel Radial
| Ukuran Evaluasi | Linear | Radial |
|---|---|---|
| Cost | 100 | 100 |
| Gamma | – | 0,01 |
| Accuracy | 0,7834 | 0,7972 |
| Precision | 0,7286 | 0,7692 |
| Recall/Sensitivity | 0,6456 | 0,6329 |
| Specificity | 0,8623 | 0,8913 |
| F1-Score | 0,6846 | 0,6944 |
| ROC-AUC | 0,8317 | 0,8242 |
| CV Error | 0,2588 | 0,2569 |
Berdasarkan tabel diatas, model SVM dengan kernel radial menghasilkan nilai Accuracy sebesar 79,72%, lebih tinggi dibandingkan kernel linear sebesar 78,34%. Model radial juga memiliki nilai Precision, Specificity, dan F1-Score yang lebih tinggi. Namun, kernel linear menghasilkan nilai Recall/Sensitivity sebesar 64,56% dan ROC-AUC sebesar 0,8317, sedikit lebih tinggi dibandingkan kernel radial yang memperoleh 63,29% dan 0,8242. Berdasarkan hasil cross-validation, kernel radial memiliki tingkat kesalahan terendah sebesar 0,2569 dibandingkan kernel linear sebesar 0,2588. Dengan demikian, kernel radial dipilih sebagai model terbaik berdasarkan kriteria kesalahan validasi silang terkecil, meskipun tidak unggul pada seluruh ukuran evaluasi.
Sedangkan berdasarkan gambar, kurva ROC kedua model berada di atas
garis diagonal, yang menunjukkan bahwa kedua kernel memiliki
kemampuan dalam membedakan kelas diabetes negatif (neg) dan
positif (pos). Model kernel linear menghasilkan
nilai AUC sebesar 0,8317, sedangkan kernel radial sebesar
0,8242. Perbedaan tersebut menunjukkan bahwa kernel linear
memiliki kemampuan diskriminasi sedikit lebih tinggi pada data
testing. Meskipun demikian, kedua model menunjukkan kinerja
yang relatif berdekatan, sehingga pemilihan kernel radial
sebagai model terbaik tetap didasarkan pada nilai cross-validation
error yang lebih rendah.
Metode Support Vector Machine (SVM) dan Support Vector Regression (SVR) merupakan metode supervised learning yang digunakan untuk menyelesaikan permasalahan klasifikasi dan regresi. SVM bekerja dengan menentukan bidang pemisah (hyperplane) optimal untuk membedakan data berdasarkan kelasnya, sedangkan SVR digunakan untuk memprediksi nilai numerik melalui pembentukan fungsi regresi dengan mempertimbangkan batas toleransi kesalahan. Kedua metode dapat menangani hubungan linier maupun nonlinier dengan menggunakan fungsi kernel.
Prinsip kerja SVM melibatkan konsep hyperplane, margin, dan support vector untuk menentukan batas pemisah antarkelas. Hyperplane merupakan bidang pemisah, margin menunjukkan jarak antara dua batas kelas, sedangkan support vector merupakan observasi yang berperan dalam menentukan batas keputusan. Pendekatan soft margin digunakan untuk memberikan toleransi terhadap pelanggaran batas klasifikasi, sementara fungsi kernel memungkinkan pemodelan hubungan nonlinier. Pada SVR, konsep epsilon-insensitive loss digunakan untuk menentukan kesalahan prediksi yang dikenai penalti, sedangkan epsilon-tube merupakan daerah toleransi di sekitar fungsi regresi.
Penerapan metode SVM dan SVR menggunakan perangkat lunak RStudio
dapat dilakukan dengan bantuan paket e1071 melalui fungsi
svm(). Tahapan analisis meliputi persiapan data, penanganan
missing value, pembagian data training dan
testing, standardisasi variabel, pembentukan model, serta
prediksi dan evaluasi. Pada SVM, variabel respons berbentuk kategori
digunakan untuk menentukan kelas suatu observasi, sedangkan pada SVR,
variabel respons berbentuk numerik digunakan untuk menghasilkan nilai
prediksi. Visualisasi SVM dapat dilakukan melalui decision
boundary, sementara SVR dapat divisualisasikan menggunakan
epsilon-tube untuk menggambarkan daerah toleransi kesalahan
prediksi.
Pemilihan parameter cost, gamma, dan epsilon merupakan faktor penting yang memengaruhi kinerja model SVM dan SVR. Parameter cost mengatur besarnya penalti terhadap kesalahan, gamma mengatur jangkauan pengaruh observasi pada fungsi kernel radial, sedangkan epsilon menentukan batas toleransi kesalahan pada SVR. Optimasi parameter dapat dilakukan menggunakan metode grid search dan cross-validation untuk memperoleh kombinasi parameter yang sesuai. Evaluasi SVM dapat dilakukan menggunakan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC, sedangkan evaluasi SVR menggunakan ukuran seperti Mean Absolute Error (MAE), Root Mean Squared Error (RMSE), dan koefisien determinasi (R²). Dengan demikian, pemilihan parameter dan ukuran evaluasi yang tepat diperlukan untuk memperoleh model klasifikasi maupun regresi dengan kinerja yang baik.
Berdasarkan hasil analisis klasifikasi menggunakan metode Support Vector Machine (SVM) pada dataset SynthDiabetes2 dengan perbandingan kernel linear dan radial serta proporsi pembagian data training dan testing sebesar 70%:30%, diperoleh nilai accuracy sebesar 76,04% pada model radial awal, yang meningkat menjadi 79,72% setelah dilakukan tuning parameter. Kombinasi parameter optimal pada kernel radial diperoleh pada cost = 100 dan gamma = 0,01 dengan nilai cross-validation error sebesar 0,2569, sedangkan kernel linear menghasilkan nilai cost optimal sebesar 100 dengan cross-validation error sebesar 0,2588. Model radial hasil tuning menghasilkan precision sebesar 76,92%, sensitivity sebesar 63,29%, specificity sebesar 89,13%, F1-score sebesar 69,44%, dan ROC-AUC sebesar 0,8242. Berdasarkan confusion matrix, sebanyak 173 dari 217 observasi data testing berhasil diklasifikasikan dengan benar, sedangkan 44 observasi mengalami kesalahan klasifikasi, terdiri atas 15 False Positive dan 29 False Negative. Sementara itu, kernel linear menghasilkan accuracy sebesar 78,34%, sensitivity sebesar 64,56%, dan ROC-AUC sebesar 0,8317. Dengan demikian, kernel radial dipilih sebagai model terbaik berdasarkan nilai cross-validation error terkecil, meskipun kernel linear memiliki sensitivity dan ROC-AUC yang sedikit lebih tinggi. Secara keseluruhan, metode SVM menunjukkan kemampuan klasifikasi yang cukup baik pada dataset SynthDiabetes2, serta memperlihatkan bahwa proses tuning parameter dapat meningkatkan kinerja model, terutama dalam mengurangi kesalahan False Negative dari 36 menjadi 29 observasi.
Farida, L. N., & Bahri, S. (2024). Klasifikasi gagal jantung menggunakan metode SVM (Support Vector Machine). Komputika: Jurnal Sistem Komputer, 13(2), 149–156. https://doi.org/10.34010/komputika.v13i2.11330
Isnaeni, R., Sudarmin, & Rais, Z. (2022). Analisis Support Vector Regression (SVR) dengan kernel Radial Basis Function (RBF) untuk memprediksi laju inflasi di Indonesia. VARIANSI: Journal of Statistics and Its Application on Teaching and Research, 4(1), 30–38. https://doi.org/10.35580/variansiunm13
Saputra, E., Khaira, U., & Abidin, Z. (2021). Implementasi algoritme Support Vector Machines untuk klasifikasi area terbakar di lahan gambut. Jurnal Nasional Teknik Elektro dan Teknologi Informasi, 10(1), 19–24. https://doi.org/10.22146/jnteti.v10i1.990
Saputra, G. H., Wigena, A. H., & Sartono, B. (2019). Penggunaan Support Vector Regression dalam pemodelan Indeks Saham Syariah Indonesia dengan algoritme grid search. Indonesian Journal of Statistics and Its Applications, 3(2), 148–160. https://doi.org/10.29244/ijsa.v3i2.172
Sepri, D., & Fauzi, A. (2020). Prediksi harga cabai merah menggunakan Support Vector Regression. Computer Based Information System Journal, 8(2), 1–5. https://doi.org/10.33884/cbis.v8i2.1921
Sundari, H., Amrustian, M. A., & Wicaksono, A. D. P. (2024). Penerapan Recursive Feature Elimination pada Support Vector Machine untuk klasifikasi kanker payudara. LEDGER: Journal Informatic and Information Technology, 3(2). https://doi.org/10.20895/ledger.v3i2.1591
Yusuf, B. F. (2024). Implementasi algoritma Support Vector Regression dalam memprediksi harga sayuran komoditas: Studi kasus Desa Hegarmanah. JATI (Jurnal Mahasiswa Teknik Informatika), 8(5). https://doi.org/10.36040/jati.v8i5.11034