Perkembangan teknologi informasi menyebabkan meningkatnya kebutuhan terhadap metode analisis data yang mampu melakukan klasifikasi maupun prediksi secara akurat. Salah satu metode machine learning yang dapat digunakan adalah Support Vector Machine (SVM). SVM merupakan metode pembelajaran terawasi (supervised learning) yang bekerja dengan mencari bidang pemisah terbaik (hyperplane) untuk memisahkan data ke dalam kelas yang berbeda. Prinsip utama metode ini adalah menentukan batas pemisah dengan margin maksimum antara kelas-kelas data sehingga mampu menghasilkan klasifikasi yang optimal. SVM juga dapat menggunakan fungsi kernel, seperti linear, polynomial, dan Radial Basis Function (RBF), untuk menangani data yang memiliki pola hubungan linear maupun nonlinier.
SVM dapat diterapkan dalam permasalahan klasifikasi, yaitu proses pengelompokan data berdasarkan karakteristik tertentu ke dalam kelas yang telah ditentukan. Proses klasifikasi dilakukan dengan membentuk hyperplane yang memisahkan setiap kelas berdasarkan karakteristik data pelatihan (training data). Data yang berada paling dekat dengan bidang pemisah disebut support vector, yang berperan penting dalam menentukan posisi hyperplane. Selain digunakan untuk klasifikasi, SVM juga dikembangkan untuk menyelesaikan permasalahan regresi melalui metode Support Vector Regression (SVR). SVR bekerja dengan membentuk fungsi regresi yang menghasilkan prediksi nilai numerik dengan memperhatikan batas toleransi kesalahan (epsilon) terhadap nilai aktual. Penggunaan fungsi kernel pada SVR memungkinkan metode ini menangani pola hubungan nonlinier sehingga dapat digunakan untuk berbagai permasalahan prediksi (Isnaeni dkk., 2022).
Praktikum kali ini dilakukan penerapan metode Support Vector Machine (SVM) dan Support Vector Regression (SVR) untuk memahami konsep dasar, proses pembentukan model, serta mekanisme kerja kedua metode dalam menghasilkan prediksi. Praktikum ini juga bertujuan untuk mengetahui pengaruh penggunaan fungsi kernel terhadap hasil pemodelan serta mengevaluasi kinerja model SVM dalam melakukan klasifikasi dan SVR dalam melakukan regresi berdasarkan ukuran evaluasi yang sesuai.
Berdasarkan latar belakang, rumusan masalah yang disimpulkan adalah:
Bagaimana konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR)?
Bagaimana yang dimaksud dengan hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR?
bagaimana cara mengimplementasikan SVM untuk klasifikasi dan SVR untuk regresi menggunakan R?
bagaimana cara melakukan tuning parameter cost, gamma, dan epsilon serta mengevaluasi performa model menggunakan ukuran yang sesuai?
Berdasarkan rumusan masalah, tujuan yang dapat disimpulkan adalah:
Memahami konsep konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR).
Menjelaskan hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR.
Mengimplementasikan SVM untuk klasifikasi dan SVR untuk regresi menggunakan R.
Melakukan tuning parameter cost, gamma, dan epsilon serta mengevaluasi performa model menggunakan ukuran yang sesuai.
Adapun manfaat pada penelitian ini, yaitu:
Bagi penulis
Bagi pembaca
Menambah ilmu pengetahuan dan pemahaman yang berkaitan tentang SVM dan SVR.
Lakukan klasifikasi menggunakan Support Vector Machine (SVM) pada data SynthDiabetes2 dari package mlbench, dengan variabel diabetes sebagai respons. Lakukan penanganan missing value sebagaimana pada sintaks praktikum sebelum membentuk model.
Support Vector Machine (SVM) merupakan salah satu metode machine learning dengan pendekatan pembelajaran terawasi (supervised learning) yang digunakan untuk menyelesaikan permasalahan klasifikasi. SVM bekerja dengan mencari bidang pemisah terbaik (hyperplane) yang mampu memisahkan data ke dalam kelas-kelas tertentu. Prinsip utama metode ini adalah memaksimalkan jarak (margin) antara bidang pemisah dengan titik data terdekat dari masing-masing kelas. Titik-titik data yang berada paling dekat dengan hyperplane disebut support vector karena memiliki peranan penting dalam menentukan posisi bidang pemisah. Metode SVM dapat digunakan untuk mengklasifikasikan data berdasarkan karakteristik atribut yang dimiliki (Artiyati & Ahdika, 2024).
Berbeda dengan metode yang hanya berupaya memisahkan kelas, SVM menekankan kemampuan generalisasi melalui pemilihan hyperplane dengan margin maksimum. Margin yang lebar diharapkan membuat batas keputusan lebih stabil terhadap observasi baru, selama kompleksitas model tetap dikendalikan (Fransiska, 2026).
Proses klasifikasi menggunakan SVM dilakukan dengan membentuk hyperplane berdasarkan data pelatihan (training data). Data yang memiliki karakteristik berbeda akan dipisahkan ke dalam kelas tertentu berdasarkan posisi terhadap bidang pemisah yang terbentuk. SVM dapat digunakan untuk menangani data dengan pola hubungan linear maupun nonlinier. Kemampuan tersebut didukung oleh penggunaan fungsi kernel yang memungkinkan pemetaan data ke ruang fitur berdimensi lebih tinggi sehingga data yang sebelumnya sulit dipisahkan secara linear dapat diklasifikasikan. Penerapan SVM dengan berbagai fungsi kernel telah digunakan dalam penelitian klasifikasi cuaca harian oleh Qurniatun dan Farihati (2024).
Support Vector Regression (SVR) merupakan pengembangan dari metode Support Vector Machine (SVM) yang digunakan untuk menyelesaikan permasalahan regresi. Berbeda dengan SVM yang bertujuan mengklasifikasikan data ke dalam kelas tertentu, SVR digunakan untuk memprediksi nilai numerik berdasarkan hubungan antara variabel prediktor dan variabel respons. Prinsip kerja SVR adalah membentuk fungsi regresi dengan memperhatikan batas toleransi kesalahan yang disebut epsilon-insensitive loss. Pendekatan ini memungkinkan model menghasilkan prediksi dengan memperhatikan penyimpangan antara nilai aktual dan nilai prediksi dalam batas toleransi tertentu (Isnaeni dkk., 2022).
Proses pembentukan model SVR dilakukan dengan mencari fungsi regresi yang memiliki tingkat kompleksitas rendah dan kesalahan prediksi sekecil mungkin. Model SVR menggunakan konsep batas toleransi atau epsilon untuk menentukan besarnya penyimpangan yang masih dapat diterima. Kesalahan prediksi yang masih berada dalam batas toleransi tidak dikenakan penalti, sedangkan kesalahan yang melebihi batas tersebut akan diberikan penalti. Prinsip ini memungkinkan SVR membentuk model regresi yang memiliki kemampuan generalisasi terhadap data baru. Penerapan SVR dalam peramalan laju inflasi di Indonesia dilakukan oleh Isnaeni dkk. (2022) dengan menggunakan kernel RBF.
Jenis data yang digunakan di dalam penelitian ini berupa data kuantitatif. Data kuantitatif merupakan data atau informasi yang didapatkan dalam bentuk angka atau numerik. Data yang digunakan merupakan data sekunder berupa dataset SynthDiabetes2 dalam package mlbench dari perangkat lunak R. sumber data yang digunakan adalah data sekunder, yang berasal dari aplikasi RStudio.
Variabel penelitian adalah karakter atau segala sesuatu yang menjadi perhatian dalam suatu penelitian. Pada penelitian ini terdapat enam variabel prediktor dan satu variabel respon. Variabel prediktor terdiri atas pregnant, glucose, pressure, mass, pedigree, dan age. Sementara itu, variabel respon adalah diabetes yang menunjukkan kategori diabetes, yaitu positif dan negatif.
Berikut adalah algoritma untuk menyelesaiankan batasan masalah:
Input data
Membagi data training dan testing.
Membentuk model awal SVM dengan kernel radial.
Visualisasi decision boundary.
Melakukan prediksi data testing.
Membentuk confusion matrix dan menghitung ukuran evaluasi.
Menghitung kurva ROC dan nilai AUC.
Melakukan tuning parameter cost dan gamma pada kernel radial.
Evaluasi model radial hasil tuning.
Tuning dan evaluasi model SVM dengan kernel linear.
Membandingkan performa kernel linear dan radial.
Menentukan kernel terbaik.
## Loading required package: ggplot2
## Warning: package 'ggplot2' was built under R version 4.6.2
##
## Attaching package: 'ggplot2'
## The following object is masked from 'package:e1071':
##
## element
## Loading required package: lattice
## Type 'citation("pROC")' for a citation.
##
## Attaching package: 'pROC'
## The following objects are masked from 'package:stats':
##
## cov, smooth, var
library(ggplot2)
# A1. MEMUAT DAN MENYIAPKAN DATA
data("SynthDiabetes2", package = "mlbench")
pima <- SynthDiabetes2
str(pima) ## 'data.frame': 768 obs. of 9 variables:
## $ pregnant: num 0 8 2 6 4 10 3 1 4 7 ...
## $ glucose : num 194 129 132 184 108 117 100 88 73 126 ...
## $ pressure: num 50 84 72 62 58 80 80 75 82 92 ...
## $ triceps : num 45 NA 42 NA 32 13 41 30 38 NA ...
## $ insulin : num NA NA NA NA NA NA 65 49 NA NA ...
## $ mass : num 28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
## $ pedigree: num 0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
## $ age : num 28 44 26 39 22 58 33 22 33 46 ...
## $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
## pregnant glucose pressure triceps
## Min. : 0.000 Min. : 57.0 Min. : 24.00 Min. : 7.00
## 1st Qu.: 1.000 1st Qu.:101.0 1st Qu.: 64.00 1st Qu.:22.00
## Median : 3.000 Median :119.0 Median : 72.00 Median :30.00
## Mean : 4.585 Mean :125.3 Mean : 72.59 Mean :29.46
## 3rd Qu.: 7.000 3rd Qu.:144.5 3rd Qu.: 80.00 3rd Qu.:36.00
## Max. :13.000 Max. :199.0 Max. :108.00 Max. :63.00
## NAs :5 NAs :35 NAs :251
## insulin mass pedigree age diabetes
## Min. : 14 Min. :18.20 Min. :0.0780 Min. :21.00 neg:488
## 1st Qu.: 76 1st Qu.:27.80 1st Qu.:0.2430 1st Qu.:24.00 pos:280
## Median :125 Median :32.80 Median :0.3670 Median :28.00
## Mean :159 Mean :32.87 Mean :0.4792 Mean :33.05
## 3rd Qu.:194 3rd Qu.:36.95 3rd Qu.:0.6450 3rd Qu.:41.00
## Max. :846 Max. :59.40 Max. :2.4200 Max. :81.00
## NAs :405 NAs :13
## pregnant glucose pressure triceps insulin mass pedigree age
## 0 5 35 251 405 13 0 0
## diabetes
## 0
# Menghapus dua prediktor dengan banyak missing value
pima <- pima[
,
!names(pima) %in% c(
"triceps",
"insulin")]
# Menghapus sisa observasi yang masih mengandung missing value
pima <- na.omit(pima)
# Memastikan respons berupa factor
pima$diabetes <- droplevels(
as.factor(pima$diabetes) )
# Memeriksa data setelah preprocessing
str(pima) ## 'data.frame': 727 obs. of 7 variables:
## $ pregnant: num 0 8 2 6 4 10 3 1 4 7 ...
## $ glucose : num 194 129 132 184 108 117 100 88 73 126 ...
## $ pressure: num 50 84 72 62 58 80 80 75 82 92 ...
## $ mass : num 28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
## $ pedigree: num 0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
## $ age : num 28 44 26 39 22 58 33 22 33 46 ...
## $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
## - attr(*, "na.action")= 'omit' Named int [1:41] 42 57 59 60 77 96 108 109 119 158 ...
## ..- attr(*, "names")= chr [1:41] "42" "57" "59" "60" ...
## pregnant glucose pressure mass
## Min. : 0.00 Min. : 57.0 Min. : 24.00 Min. :18.20
## 1st Qu.: 1.00 1st Qu.:101.0 1st Qu.: 64.00 1st Qu.:27.80
## Median : 3.00 Median :119.0 Median : 72.00 Median :32.80
## Mean : 4.67 Mean :125.4 Mean : 72.58 Mean :32.96
## 3rd Qu.: 7.00 3rd Qu.:144.0 3rd Qu.: 80.00 3rd Qu.:37.15
## Max. :13.00 Max. :196.0 Max. :108.00 Max. :59.40
## pedigree age diabetes
## Min. :0.0780 Min. :21.00 neg:462
## 1st Qu.:0.2450 1st Qu.:24.00 pos:265
## Median :0.3650 Median :28.00
## Mean :0.4790 Mean :33.29
## 3rd Qu.:0.6425 3rd Qu.:41.00
## Max. :2.4200 Max. :81.00
## [1] 727 7
##
## neg pos
## 462 265
##
## neg pos
## 0.6354883 0.3645117
Berdasarkan hasil pemuatan dan preprocessing data SynthDiabetes2, diperoleh data awal sebanyak 768 observasi dengan 9 variabel, yang terdiri atas 8 variabel prediktor dan 1 variabel respons, yaitu diabetes. Pemeriksaan missing value menunjukkan bahwa variabel triceps memiliki 251 data hilang dan insulin memiliki 405 data hilang, sehingga kedua variabel tersebut dihapus karena memiliki proporsi data hilang yang cukup besar. Selanjutnya, dilakukan penghapusan observasi yang masih mengandung missing value pada variabel lainnya menggunakan fungsi na.omit(), sehingga diperoleh 727 observasi dengan 7 variabel yang siap digunakan dalam pemodelan. Variabel respons diabetes dipastikan bertipe faktor dengan dua kategori, yaitu neg (tidak mengalami diabetes) dan pos (mengalami diabetes). Berdasarkan distribusi kelas, terdapat 462 observasi (63,55%) pada kategori neg dan 265 observasi (36,45%) pada kategori pos. Hasil tersebut menunjukkan bahwa data memiliki jumlah observasi yang lebih banyak pada kategori neg, tetapi perbedaan proporsi antarkelas belum terlalu ekstrem sehingga kedua kategori masih dapat digunakan dalam proses klasifikasi menggunakan metode Support Vector Machine (SVM).
# A2. MEMBAGI DATA TRAINING DAN TESTING 70:30
set.seed(234)
idx.cls <- createDataPartition(
pima$diabetes,
p = 0.70,
list = FALSE )
pima.train <- pima[
idx.cls, ]
pima.test <- pima[
-idx.cls, ]
# Ukuran data
dim(pima.train) ## [1] 510 7
## [1] 217 7
##
## neg pos
## 324 186
##
## neg pos
## 138 79
##
## neg pos
## 0.6352941 0.3647059
##
## neg pos
## 0.6359447 0.3640553
Pembagian data dilakukan menggunakan metode stratified sampling dengan bantuan fungsi createDataPartition() dari paket caret, menggunakan proporsi 70% untuk data training dan 30% untuk data testing. Penggunaan set.seed(234) bertujuan agar proses pembagian data menghasilkan hasil yang konsisten ketika dijalankan kembali. Berdasarkan hasil pembagian, diperoleh 510 observasi data training dan 217 observasi data testing, dengan masing-masing terdiri atas 7 variabel. Data training memiliki 324 observasi (63,53%) pada kategori neg dan 186 observasi (36,47%) pada kategori pos, sedangkan data testing memiliki 138 observasi (63,59%) pada kategori neg dan 79 observasi (36,41%) pada kategori pos. Proporsi kelas pada kedua kelompok data tersebut relatif sama dengan distribusi kelas pada data awal, sehingga proses pembagian berhasil mempertahankan keseimbangan proporsi masing-masing kelas. Selanjutnya, data training digunakan untuk membangun model klasifikasi SVM, sedangkan data testing digunakan untuk menguji kemampuan model dalam mengklasifikasikan data baru.
# A3. MEMBENTUK MODEL SVM RADIAL AWAL
set.seed(234)
svm.cls <- svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "radial",
cost = 1,
gamma = 1 / (ncol(pima.train) - 1),
scale = TRUE,
probability = TRUE )
svm.cls ##
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification",
## kernel = "radial", cost = 1, gamma = 1/(ncol(pima.train) - 1),
## probability = TRUE, scale = TRUE)
##
##
## Parameters:
## SVM-Type: C-classification
## SVM-Kernel: radial
## cost: 1
##
## Number of Support Vectors: 307
Pembentukan model awal dilakukan menggunakan metode Support Vector Machine (SVM) dengan tipe C-classification dan fungsi kernel Radial Basis Function (RBF). Model dibangun menggunakan data training sebanyak 510 observasi dengan variabel diabetes sebagai variabel respons dan enam variabel lainnya sebagai prediktor. Parameter awal yang digunakan adalah cost = 1 dan gamma = 1/6, dengan nilai gamma diperoleh dari kebalikan jumlah variabel prediktor. Pengaturan scale = TRUE bertujuan untuk melakukan standarisasi terhadap variabel prediktor agar perbedaan skala data tidak memengaruhi proses pembentukan model, sedangkan probability = TRUE digunakan untuk menghasilkan estimasi probabilitas keanggotaan pada masing-masing kelas. Hasil pemodelan menunjukkan bahwa terdapat 307 support vectors, yaitu observasi yang berperan dalam menentukan batas pemisah (hyperplane) antar kelas. Jumlah tersebut menunjukkan bahwa sebagian besar observasi data training berkontribusi dalam pembentukan batas keputusan model. Model ini merupakan model awal yang selanjutnya perlu dievaluasi dan dioptimalkan melalui proses tuning parameter cost dan gamma untuk memperoleh kinerja klasifikasi yang lebih baik.
# A3.1 VISUALISASI DECISION BOUNDARY SVM RADIAL
# Memilih dua variabel untuk visualisasi
x1 <- "glucose"
x2 <- "mass"
# Membuat grid prediksi
grid_vals <- expand.grid(
glucose = seq(
min(pima.train$glucose),
max(pima.train$glucose),
length.out = 200),
mass = seq(
min(pima.train$mass),
max(pima.train$mass),
length.out = 200))
# Menetapkan variabel lainnya pada nilai median
prediktor <- setdiff(
names(pima.train),
c("diabetes", x1, x2))
for (v in prediktor) {
grid_vals[[v]] <- median(pima.train[[v]])}
# Prediksi dan ekstrak decision values
pred.grid <- predict(
svm.cls,
newdata = grid_vals,
decision.values = TRUE)
grid_vals$Prediksi <- pred.grid
grid_vals$margin <- as.numeric(
attr(pred.grid, "decision.values")[, 1])
# Plot decision boundary
plot_decision <- ggplot() +
geom_raster(
data = grid_vals,
aes(x = glucose,
y = mass,
fill = Prediksi),
alpha = 0.25) +
geom_contour(data = grid_vals,
aes(x = glucose,
y = mass,
z = margin),
breaks = 0,
colour = "red",
linewidth = 1) +
geom_point(
data = pima.train,
aes(x = glucose,
y = mass,
color = diabetes),
size = 2,
alpha = 0.8 ) +
scale_color_manual(
values = c(
"neg" = "#377EB8",
"pos" = "#E41A1C")) +
scale_fill_manual(
values = c(
"neg" = "#377EB8",
"pos" = "#E41A1C")) +
labs(title = "SVM Nonlinier dengan Kernel RBF",
subtitle = "Decision Boundary Klasifikasi Diabetes",
x = "Glucose",
y = "BMI",
color = "Kelas Aktual",
fill = "Kelas Prediksi") +
theme_bw()
plot_decisionBerdasarkan visualisasi decision boundary model SVM dengan kernel Radial Basis Function (RBF), terlihat bahwa model mampu membentuk batas keputusan yang bersifat nonlinier dalam membedakan dua kategori diabetes, yaitu neg dan pos. Visualisasi menggunakan variabel glucose sebagai sumbu X dan mass (BMI) sebagai sumbu Y, sedangkan variabel prediktor lainnya ditetapkan pada nilai median. Area berwarna biru menunjukkan wilayah yang diprediksi sebagai kelas neg, sedangkan area berwarna merah menunjukkan wilayah yang diprediksi sebagai kelas pos. Garis merah merupakan decision boundary yang menjadi batas pemisah antara kedua kelas. Bentuk garis batas yang melengkung menunjukkan bahwa kernel RBF mampu menangkap pola hubungan nonlinier antara variabel prediktor dalam proses klasifikasi. Titik biru dan merah menunjukkan kelas aktual masing-masing observasi. Terlihat bahwa sebagian besar observasi kelas neg berada pada wilayah prediksi neg, sedangkan observasi kelas pos cenderung berada pada wilayah prediksi pos. Meskipun demikian, masih terdapat beberapa titik yang berada pada wilayah prediksi kelas berbeda dari kelas aktualnya. Hal ini mengindikasikan adanya tumpang tindih karakteristik antara kedua kelas sehingga pemisahan diabetes dan tidak diabetes tidak sepenuhnya sempurna.
# A4. PREDIKSI DATA TESTING
pred.svm.cls <- predict(
svm.cls,
newdata = pima.test,
probability = TRUE )
pred.svm.cls <- factor(
pred.svm.cls,
levels = levels(
pima.test$diabetes ) )
hasil.svm.cls <- data.frame(
Aktual = pima.test$diabetes,
Prediksi = pred.svm.cls )
head(
hasil.svm.cls,
10 ) ## Aktual Prediksi
## 8 neg neg
## 9 neg neg
## 12 neg neg
## 15 neg neg
## 19 pos pos
## 24 neg neg
## 30 neg pos
## 32 pos pos
## 37 pos neg
## 38 neg pos
Berdasarkan hasil prediksi menggunakan model SVM dengan kernel Radial Basis Function (RBF), diperoleh hasil klasifikasi terhadap 217 observasi pada data testing. Proses prediksi dilakukan menggunakan fungsi predict() dengan model SVM yang telah dibentuk sebelumnya, kemudian hasil prediksi disesuaikan dengan tingkatan kategori variabel respons, yaitu neg dan pos. Hasil prediksi selanjutnya disajikan dalam bentuk tabel yang membandingkan kelas aktual dengan kelas prediksi untuk setiap observasi. Kolom Aktual menunjukkan kategori diabetes yang sebenarnya, sedangkan kolom Prediksi menunjukkan kategori yang dihasilkan oleh model SVM. Apabila kedua kategori memiliki nilai yang sama, maka observasi tersebut diklasifikasikan dengan benar. Sebaliknya, apabila kedua kategori berbeda, maka terjadi kesalahan klasifikasi. Berdasarkan sepuluh observasi pertama, terdapat tujuh observasi yang berhasil diklasifikasikan dengan benar dan tiga observasi yang mengalami kesalahan klasifikasi. Hasil prediksi secara keseluruhan ini selanjutnya digunakan untuk membentuk confusion matrix dan menghitung berbagai ukuran evaluasi, seperti accuracy, sensitivity, specificity, precision, dan F1-score, guna mengetahui kemampuan model SVM dalam mengklasifikasikan diabetes.
# A5. CONFUSION MATRIX
cm.svm <- confusionMatrix(
data = pred.svm.cls,
reference = pima.test$diabetes,
positive = "pos" )
cm.svm ## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 122 36
## pos 16 43
##
## Accuracy : 0.7604
## 95% CI : (0.6979, 0.8156)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 5.909e-05
##
## Kappa : 0.4529
##
## Mcnemar's Test P-Value : 0.008418
##
## Sensitivity : 0.5443
## Specificity : 0.8841
## Pos Pred Value : 0.7288
## Neg Pred Value : 0.7722
## Prevalence : 0.3641
## Detection Rate : 0.1982
## Detection Prevalence : 0.2719
## Balanced Accuracy : 0.7142
##
## 'Positive' Class : pos
##
# A6. UKURAN EVALUASI KLASIFIKASI
tab.svm <- table(
Aktual = pima.test$diabetes,
Prediksi = pred.svm.cls )
tab.svm ## Prediksi
## Aktual neg pos
## neg 122 16
## pos 36 43
# Kelas positif = pos
TN <- tab.svm[
"neg",
"neg" ]
FP <- tab.svm[
"neg",
"pos" ]
FN <- tab.svm[
"pos",
"neg" ]
TP <- tab.svm[
"pos",
"pos" ]
# Accuracy
Accuracy <-
(TP + TN) /
(TP + TN + FP + FN)
# Precision
Precision <-
TP /
(TP + FP)
# Recall / Sensitivity
Recall <-
TP /
(TP + FN)
# Specificity
Specificity <-
TN /
(TN + FP)
# F1-Score
F1 <-
2 *
(Precision * Recall) / (Precision + Recall)
evaluasi.svm <- data.frame(
Accuracy = Accuracy,
Precision = Precision,
Recall = Recall,
Specificity = Specificity,
F1_Score = F1 )
round(
evaluasi.svm,
4 ) ## Accuracy Precision Recall Specificity F1_Score
## 1 0.7604 0.7288 0.5443 0.8841 0.6232
Berdasarkan hasil confusion matrix model SVM dengan kernel RBF, diperoleh 122 observasi kelas neg yang berhasil diprediksi dengan benar (True Negative/TN) dan 43 observasi kelas pos yang berhasil diprediksi dengan benar (True Positive/TP). Sementara itu, terdapat 16 observasi kelas neg yang salah diklasifikasikan sebagai pos (False Positive/FP) dan 36 observasi kelas pos yang salah diklasifikasikan sebagai neg (False Negative/FN). Hasil evaluasi menunjukkan nilai accuracy sebesar 76,04%, yang berarti model mampu mengklasifikasikan 76,04% dari seluruh data pengujian secara tepat. Nilai precision sebesar 72,88% menunjukkan bahwa dari seluruh observasi yang diprediksi mengalami diabetes, sebanyak 72,88% benar-benar termasuk kelas pos. Nilai recall atau sensitivity sebesar 54,43% menunjukkan bahwa model mampu mengidentifikasi 54,43% dari seluruh observasi yang sebenarnya mengalami diabetes. Sementara itu, nilai specificity sebesar 88,41% menunjukkan kemampuan model dalam mengidentifikasi observasi yang tidak mengalami diabetes dengan benar. Nilai F1-score sebesar 62,32% menunjukkan keseimbangan antara precision dan recall, sedangkan nilai Kappa sebesar 0,4529 menunjukkan tingkat kesepakatan klasifikasi dalam kategori sedang. Selain itu, nilai P-Value [Acc > NIR] sebesar 0,00005909 menunjukkan bahwa akurasi model secara signifikan lebih tinggi dibandingkan tingkat akurasi dasar berdasarkan kelas mayoritas. Secara keseluruhan, model SVM RBF memiliki kemampuan klasifikasi yang cukup baik, terutama dalam mengidentifikasi kelas neg, tetapi kemampuan mendeteksi kelas pos masih relatif rendah karena terdapat 36 observasi positif yang salah diklasifikasikan sebagai negatif. Dengan demikian, diperlukan optimasi parameter untuk meningkatkan kinerja model, khususnya nilai sensitivity dalam mendeteksi diabetes.
# A7. ROC DAN AUC
prob.svm <- attr(
predict(
svm.cls,
newdata = pima.test,
probability = TRUE ),
"probabilities" )[
,
"pos" ]
roc.svm <- roc(
response = pima.test$diabetes,
predictor = prob.svm,
levels = c(
"neg",
"pos" ),
direction = "<",
quiet = TRUE )
AUC.svm <- as.numeric(
auc(
roc.svm ) )
AUC.svm ## [1] 0.818015
# Plot ROC
plot(
roc.svm,
legacy.axes = TRUE,
main = paste0(
"ROC SVM (AUC = ",
round(
AUC.svm,
3 ), ")" ) ) Berdasarkan kurva Receiver Operating Characteristic (ROC), diperoleh nilai Area Under the Curve (AUC) sebesar 0,818. Nilai tersebut menunjukkan bahwa model SVM dengan kernel RBF memiliki kemampuan diskriminasi yang baik dalam membedakan kelas neg (tidak diabetes) dan pos (diabetes). Kurva ROC menggambarkan hubungan antara sensitivity (TPR) pada sumbu Y dan 1-specificity (FPR) pada sumbu X untuk berbagai nilai ambang klasifikasi (threshold). Semakin mendekati sudut kiri atas, semakin baik kemampuan model dalam membedakan kedua kelas. Kurva ROC yang dihasilkan sebagian besar berada di atas garis diagonal, yang menunjukkan bahwa kemampuan klasifikasi model lebih baik dibandingkan klasifikasi secara acak. Nilai AUC sebesar 0,818 mengindikasikan bahwa model memiliki kemampuan sebesar 81,8% untuk memberikan skor probabilitas yang lebih tinggi kepada observasi kelas pos dibandingkan observasi kelas neg yang dipilih secara acak. Dengan demikian, model SVM RBF memiliki kemampuan diskriminasi yang baik, meskipun kinerja klasifikasi masih dapat ditingkatkan melalui optimasi parameter model.
# A8. TUNING COST DAN GAMMA
set.seed(234)
tune.svm.cls <- tune.svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "radial",
cost = c(
0.1,
1,
10,
100 ),
gamma = c(
0.001,
0.01,
0.1,
1 ),
scale = TRUE,
tunecontrol = tune.control(
cross = 5 ))
tune.svm.cls ##
## Parameter tuning of 'svm':
##
## - sampling method: 5-fold cross validation
##
## - best parameters:
## gamma cost
## 0.01 100
##
## - best performance: 0.2568627
## gamma cost error dispersion
## 1 0.001 0.1 0.3647059 0.08066668
## 2 0.010 0.1 0.3647059 0.08066668
## 3 0.100 0.1 0.2882353 0.05571871
## 4 1.000 0.1 0.3647059 0.08066668
## 5 0.001 1.0 0.3647059 0.08066668
## 6 0.010 1.0 0.2666667 0.02973677
## 7 0.100 1.0 0.2588235 0.02824482
## 8 1.000 1.0 0.2921569 0.02235638
## 9 0.001 10.0 0.2647059 0.01834146
## 10 0.010 10.0 0.2627451 0.01885822
## 11 0.100 10.0 0.2607843 0.02032984
## 12 1.000 10.0 0.3196078 0.02556550
## 13 0.001 100.0 0.2647059 0.01550136
## 14 0.010 100.0 0.2568627 0.01278275
## 15 0.100 100.0 0.3000000 0.04471276
## 16 1.000 100.0 0.3313725 0.04566986
##
## Call:
## best.svm(x = diabetes ~ ., data = pima.train, gamma = c(0.001, 0.01,
## 0.1, 1), cost = c(0.1, 1, 10, 100), type = "C-classification",
## kernel = "radial", scale = TRUE, tunecontrol = tune.control(cross = 5))
##
##
## Parameters:
## SVM-Type: C-classification
## SVM-Kernel: radial
## cost: 100
##
## Number of Support Vectors: 286
## gamma cost
## 14 0.01 100
Berdasarkan hasil tuning parameter menggunakan fungsi tune.svm() dengan metode validasi silang 5-fold (5-fold cross validation), dilakukan pengujian terhadap 16 kombinasi parameter cost dan gamma. Nilai cost yang diuji terdiri atas 0,1; 1; 10; dan 100, sedangkan nilai gamma terdiri atas 0,001; 0,01; 0,1; dan 1. Proses tuning bertujuan memperoleh kombinasi parameter yang menghasilkan tingkat kesalahan klasifikasi (error rate) paling rendah. Berdasarkan hasil pengujian, diperoleh kombinasi parameter terbaik yaitu gamma = 0,01 dan cost = 100, dengan nilai best performance sebesar 0,2569 atau tingkat kesalahan klasifikasi sebesar 25,69%. Artinya, model memiliki rata-rata kesalahan klasifikasi sebesar 25,69% selama proses validasi silang. Kombinasi parameter tersebut menghasilkan nilai error rate paling rendah dibandingkan 15 kombinasi parameter lainnya. Selanjutnya, model terbaik (svm.best) memiliki jumlah support vectors sebanyak 286 observasi, lebih sedikit dibandingkan model awal yang memiliki 307 support vectors. Dengan demikian, kombinasi cost = 100 dan gamma = 0,01 dipilih sebagai parameter optimal untuk membentuk model SVM RBF yang baru. Model hasil tuning tersebut selanjutnya akan dievaluasi menggunakan data testing untuk mengetahui apakah optimasi parameter mampu meningkatkan kinerja klasifikasi dibandingkan model awal.
# A9. EVALUASI MODEL HASIL TUNING
pred.svm.best <- predict(
svm.best,
newdata = pima.test )
pred.svm.best <- factor(
pred.svm.best,
levels = levels(
pima.test$diabetes ) )
cm.svm.best <- confusionMatrix(
data = pred.svm.best,
reference = pima.test$diabetes,
positive = "pos" )
cm.svm.best ## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 120 28
## pos 18 51
##
## Accuracy : 0.788
## 95% CI : (0.7276, 0.8404)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 9.258e-07
##
## Kappa : 0.5295
##
## Mcnemar's Test P-Value : 0.1845
##
## Sensitivity : 0.6456
## Specificity : 0.8696
## Pos Pred Value : 0.7391
## Neg Pred Value : 0.8108
## Prevalence : 0.3641
## Detection Rate : 0.2350
## Detection Prevalence : 0.3180
## Balanced Accuracy : 0.7576
##
## 'Positive' Class : pos
##
# Accuracy model radial hasil tuning
acc.radial <- mean(
pred.svm.best ==
pima.test$diabetes )
acc.radial ## [1] 0.7880184
# Tambahan evaluasi lengkap radial hasil tuning
tab.radial <- table(
Aktual = pima.test$diabetes,
Prediksi = pred.svm.best)
TN.radial <- tab.radial["neg", "neg"]
FP.radial <- tab.radial["neg", "pos"]
FN.radial <- tab.radial["pos", "neg"]
TP.radial <- tab.radial["pos", "pos"]
precision.radial <- TP.radial / (TP.radial + FP.radial)
recall.radial <- TP.radial / (TP.radial + FN.radial)
specificity.radial <- TN.radial / (TN.radial + FP.radial)
f1.radial <- 2 * (
precision.radial * recall.radial) / (precision.radial + recall.radial)
# Membentuk ulang model radial menggunakan parameter terbaik
svm.best <- svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "radial",
cost = tune.svm.cls$best.parameters$cost,
gamma = tune.svm.cls$best.parameters$gamma,
scale = TRUE,
probability = TRUE)
# Memeriksa model terbaik
svm.best##
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification",
## kernel = "radial", cost = tune.svm.cls$best.parameters$cost,
## gamma = tune.svm.cls$best.parameters$gamma, probability = TRUE,
## scale = TRUE)
##
##
## Parameters:
## SVM-Type: C-classification
## SVM-Kernel: radial
## cost: 100
##
## Number of Support Vectors: 286
# ROC dan AUC radial hasil tuning
prob.radial.best <- attr(
predict(
svm.best,
newdata = pima.test,
probability = TRUE
),
"probabilities"
)[, "pos"]
roc.radial.best <- roc(
response = pima.test$diabetes,
predictor = prob.radial.best,
levels = c("neg", "pos"),
direction = "<",
quiet = TRUE)
auc.radial <- as.numeric(
auc(roc.radial.best))
plot(
roc.radial.best,
legacy.axes = TRUE,
main = paste0(
"ROC SVM Radial Tuning (AUC = ",
round(auc.radial, 3), ")"))evaluasi.radial <- data.frame(
Accuracy = acc.radial,
Precision = precision.radial,
Recall = recall.radial,
Specificity = specificity.radial,
F1_Score = f1.radial,
AUC = auc.radial)
round(evaluasi.radial, 4)## Accuracy Precision Recall Specificity F1_Score AUC
## 1 0.788 0.7391 0.6456 0.8696 0.6892 0.8242
Berdasarkan hasil evaluasi model SVM dengan kernel RBF setelah dilakukan optimasi parameter, diperoleh nilai accuracy sebesar 78,80%, yang menunjukkan bahwa model mampu mengklasifikasikan 78,80% dari 217 observasi data testing secara tepat. Hasil confusion matrix menunjukkan bahwa sebanyak 120 observasi kelas neg berhasil diprediksi dengan benar (True Negative), sedangkan 51 observasi kelas pos berhasil diprediksi dengan benar (True Positive). Sementara itu, terdapat 18 kesalahan prediksi pada kelas neg (False Positive) dan 28 kesalahan prediksi pada kelas pos (False Negative). Nilai precision sebesar 73,91% menunjukkan ketepatan model dalam memprediksi kelas diabetes, sedangkan nilai sensitivity sebesar 64,56% menunjukkan kemampuan model dalam mendeteksi observasi yang benar-benar mengalami diabetes. Nilai specificity sebesar 86,96% menunjukkan kemampuan model dalam mengidentifikasi observasi yang tidak mengalami diabetes, sementara nilai Kappa sebesar 0,5295 menunjukkan tingkat kesepakatan klasifikasi dalam kategori sedang. Adapun nilai balanced accuracy sebesar 75,76% menunjukkan rata-rata kemampuan model dalam mengidentifikasi kedua kelas. Jika dibandingkan dengan model awal, nilai accuracy meningkat dari 76,04% menjadi 78,80%, sensitivity meningkat dari 54,43% menjadi 64,56%, dan F1-score meningkat dari 62,32% menjadi sekitar 68,90%. Meskipun nilai specificity sedikit menurun dari 88,41% menjadi 86,96%, hasil tersebut menunjukkan bahwa optimasi parameter dengan cost = 100 dan gamma = 0,01 mampu meningkatkan kinerja model, terutama dalam mendeteksi observasi yang mengalami diabetes. Model terbaik yang dibentuk kembali menggunakan parameter tersebut menghasilkan 286 support vectors. Hasil evaluasi model SVM RBF setelah optimasi parameter menunjukkan nilai accuracy sebesar 78,80%, precision 73,91%, recall 64,56%, specificity 86,96%, F1-score 68,92%, dan AUC 0,8242. Hasil tersebut menunjukkan bahwa model memiliki kemampuan klasifikasi yang cukup baik, terutama dalam membedakan kelas diabetes dan tidak diabetes, dengan kemampuan diskriminasi yang baik berdasarkan nilai AUC.
# A10. TUNING KERNEL LINEAR
set.seed(234)
tune.linear <- tune.svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "linear",
cost = c(
0.1,
1,
10,
100 ),
scale = TRUE,
tunecontrol = tune.control(
cross = 5 ))
tune.linear ##
## Parameter tuning of 'svm':
##
## - sampling method: 5-fold cross validation
##
## - best parameters:
## cost
## 100
##
## - best performance: 0.2588235
## cost
## 4 100
# Prediksi model linear
pred.linear <- predict(
tune.linear$best.model,
newdata = pima.test )
pred.linear <- factor(
pred.linear,
levels = levels(
pima.test$diabetes ) )
# Accuracy kernel linear
acc.linear <- mean(
pred.linear ==
pima.test$diabetes )
acc.linear ## [1] 0.764977
# Tambahan evaluasi lengkap linear
cm.linear <- confusionMatrix(
data = pred.linear,
reference = pima.test$diabetes,
positive = "pos")
cm.linear## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 115 28
## pos 23 51
##
## Accuracy : 0.765
## 95% CI : (0.7028, 0.8197)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 3.147e-05
##
## Kappa : 0.4855
##
## Mcnemar's Test P-Value : 0.5754
##
## Sensitivity : 0.6456
## Specificity : 0.8333
## Pos Pred Value : 0.6892
## Neg Pred Value : 0.8042
## Prevalence : 0.3641
## Detection Rate : 0.2350
## Detection Prevalence : 0.3410
## Balanced Accuracy : 0.7395
##
## 'Positive' Class : pos
##
tab.linear <- table(
Aktual = pima.test$diabetes,
Prediksi = pred.linear)
TN.linear <- tab.linear["neg", "neg"]
FP.linear <- tab.linear["neg", "pos"]
FN.linear <- tab.linear["pos", "neg"]
TP.linear <- tab.linear["pos", "pos"]
precision.linear <- TP.linear / (TP.linear + FP.linear)
recall.linear <- TP.linear / (TP.linear + FN.linear)
specificity.linear <- TN.linear / (TN.linear + FP.linear)
f1.linear <- 2 * (precision.linear * recall.linear) / (precision.linear + recall.linear)
# Melatih ulang model linear menggunakan cost terbaik
svm.linear.best <- svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "linear",
cost = tune.linear$best.parameters$cost,
scale = TRUE,
probability = TRUE)
# Prediksi probabilitas kelas pos
prob.linear <- attr(
predict(svm.linear.best,
newdata = pima.test,
probability = TRUE),
"probabilities")[, "pos"]
# ROC dan AUC linear
roc.linear <- roc(
response = pima.test$diabetes,
predictor = prob.linear,
levels = c("neg", "pos"),
direction = "<",
quiet = TRUE)
# Menampilkan AUC
auc.linear <- auc(roc.linear)
print(auc.linear)## Area under the curve: 0.8317
Berdasarkan hasil tuning SVM dengan kernel Linear menggunakan metode 5-fold cross validation, diperoleh parameter terbaik yaitu cost = 100 dengan tingkat kesalahan sebesar 25,88%. Hasil pengujian pada data testing menunjukkan nilai accuracy sebesar 76,50%, precision 68,92%, recall 64,56%, dan specificity 83,33%. Sementara itu, nilai AUC sebesar 0,8317 menunjukkan bahwa model SVM Linear memiliki kemampuan diskriminasi yang baik dalam membedakan kelas diabetes dan tidak diabetes. Kurva ROC yang berada di atas garis diagonal menunjukkan bahwa kemampuan klasifikasi model lebih baik dibandingkan klasifikasi secara acak.
# A12. PERBANDINGAN SELURUH UKURAN EVALUASI
perbandingan.lengkap <- data.frame(
Kernel = c("Linear", "Radial"),
Accuracy = c(acc.linear, acc.radial),
Precision = c(precision.linear, precision.radial),
Recall = c(recall.linear, recall.radial),
Specificity = c(specificity.linear, specificity.radial),
F1_Score = c(f1.linear, f1.radial),
AUC = c(as.numeric(auc.linear), as.numeric(auc.radial)))
# Membulatkan hasil evaluasi
perbandingan.lengkap[, -1] <- round(
perbandingan.lengkap[, -1],
4)
# Menampilkan tabel
print(perbandingan.lengkap)## Kernel Accuracy Precision Recall Specificity F1_Score AUC
## 1 Linear 0.765 0.6892 0.6456 0.8333 0.6667 0.8317
## 2 Radial 0.788 0.7391 0.6456 0.8696 0.6892 0.8242
# A13. PERBANDINGAN ROC LINEAR DAN RADIAL
plot(
roc.linear,
col = "blue",
lwd = 2,
legacy.axes = TRUE,
main = "Perbandingan ROC SVM Linear dan Radial")
plot(
roc.radial.best,
col = "red",
lwd = 2,
add = TRUE)
legend(
"bottomright",
legend = c(
paste0("Linear (AUC = ", round(auc.linear, 3), ")"),
paste0("Radial (AUC = ", round(auc.radial, 3), ")")),
col = c("blue", "red"),
lwd = 2)Berdasarkan hasil perbandingan, model SVM kernel Radial memiliki kinerja klasifikasi yang lebih baik dibandingkan kernel Linear berdasarkan nilai accuracy (78,80%), precision (73,91%), specificity (86,96%), dan F1-score (68,92%). Kedua kernel memiliki nilai recall yang sama, yaitu 64,56%. Namun, kernel Linear memiliki nilai AUC sedikit lebih tinggi, yaitu 0,8317 dibandingkan kernel Radial sebesar 0,8242. Secara keseluruhan, kernel Radial dipilih sebagai model terbaik karena menghasilkan nilai akurasi dan sebagian besar ukuran evaluasi yang lebih tinggi dalam mengklasifikasikan diabetes.
# A14. MENENTUKAN KERNEL TERBAIK BERDASARKAN ACCURACY
if (acc.radial > acc.linear) {
kernel.terbaik <- "Radial"
} else if (acc.linear > acc.radial) {
kernel.terbaik <- "Linear"
} else {
kernel.terbaik <- "Sama"
}
kernel.terbaik## [1] "Radial"
# Model terbaik berdasarkan hasil evaluasi
if (acc.radial >= acc.linear) {
model.terbaik <- svm.best
evaluasi.terbaik <- evaluasi.radial
} else {
model.terbaik <- tune.linear$best.model
evaluasi.terbaik <- evaluasi.linear
}
evaluasi.terbaik## Accuracy Precision Recall Specificity F1_Score AUC
## 1 0.7880184 0.7391304 0.6455696 0.8695652 0.6891892 0.8241607
Berdasarkan hasil perbandingan kurva ROC dan nilai evaluasi kedua kernel, diperoleh bahwa kernel Radial merupakan model terbaik dengan nilai accuracy sebesar 78,80%, precision 73,91%, recall 64,56%, specificity 86,96%, F1-score 68,92%, dan AUC 0,8242. Sementara itu, kernel Linear memiliki akurasi sebesar 76,50% dan AUC sebesar 0,8317. Meskipun kernel Linear memiliki nilai AUC lebih tinggi, kernel Radial dipilih sebagai model terbaik karena menghasilkan akurasi dan sebagian besar ukuran evaluasi yang lebih tinggi. Dengan demikian, model SVM menggunakan kernel Radial dengan parameter optimal cost = 100 dan gamma = 0,01 menjadi model terbaik dalam klasifikasi diabetes pada penelitian ini.
Support Vector Machine (SVM) merupakan metode machine learning terawasi (supervised learning) yang digunakan untuk menyelesaikan permasalahan klasifikasi dengan mencari batas pemisah terbaik antara dua kelas atau lebih berdasarkan karakteristik data. SVM berusaha memperoleh hyperplane dengan margin maksimal agar kemampuan model dalam mengklasifikasikan data baru menjadi lebih baik. Sementara itu, Support Vector Regression (SVR) merupakan pengembangan SVM yang digunakan untuk menyelesaikan permasalahan regresi atau memprediksi nilai numerik. SVR berusaha membentuk fungsi regresi yang mampu memprediksi nilai sedekat mungkin dengan nilai aktual, dengan mempertimbangkan batas toleransi kesalahan tertentu yang disebut epsilon.
Hyperplane merupakan garis atau bidang yang berfungsi sebagai batas pemisah antar kelas, sedangkan margin merupakan jarak antara hyperplane dengan titik data terdekat dari masing-masing kelas. Support vector adalah titik data yang berada paling dekat dengan hyperplane dan berperan dalam menentukan posisi batas pemisah tersebut. Soft margin merupakan pendekatan yang memungkinkan adanya beberapa kesalahan klasifikasi agar model tetap dapat bekerja dengan baik ketika data tidak dapat dipisahkan secara sempurna. Sementara itu, fungsi kernel digunakan untuk menangani pola hubungan nonlinier dengan memetakan data ke ruang berdimensi lebih tinggi. Dalam SVR, epsilon-insensitive loss merupakan fungsi kerugian yang tidak memberikan penalti terhadap kesalahan prediksi selama selisih antara nilai aktual dan prediksi masih berada dalam batas epsilon. Adapun epsilon-tube merupakan wilayah toleransi di sekitar fungsi regresi yang menunjukkan batas kesalahan prediksi yang masih dapat diterima tanpa dikenakan penalti.
Implementasi SVM untuk klasifikasi dan SVR untuk regresi dalam R dapat dilakukan menggunakan package e1071 melalui fungsi svm(). Tahap awal dilakukan dengan memuat data, memeriksa struktur data, menangani missing value, serta menentukan variabel respons dan prediktor. Selanjutnya, data dibagi menjadi data training dan testing. Untuk klasifikasi, variabel respons harus berbentuk faktor, kemudian model dibentuk menggunakan svm() dengan tipe C-classification dan kernel yang sesuai, seperti linear atau radial. Sementara itu, untuk regresi, variabel respons berupa numerik dan model dibentuk menggunakan tipe eps-regression dengan kernel yang sesuai. Model yang telah terbentuk digunakan untuk memprediksi data testing, kemudian hasil prediksi dibandingkan dengan nilai aktual untuk mengetahui kemampuan model dalam melakukan klasifikasi maupun regresi.
Tuning parameter dilakukan untuk memperoleh kombinasi parameter terbaik yang menghasilkan performa model optimal. Dalam R, proses tersebut dapat dilakukan menggunakan fungsi tune.svm() dari package e1071 dengan menentukan beberapa nilai parameter yang akan diuji dan menggunakan cross-validation. Parameter cost mengatur besarnya penalti terhadap kesalahan prediksi, gamma mengatur jangkauan pengaruh setiap titik data pada kernel radial, sedangkan epsilon menentukan batas toleransi kesalahan prediksi pada SVR. Evaluasi model klasifikasi dapat dilakukan menggunakan confusion matrix, Accuracy, Precision, Recall atau Sensitivity, Specificity, F1-Score, dan ROC-AUC. Sementara itu, evaluasi model regresi dapat menggunakan Mean Absolute Error (MAE), Mean Squared Error (MSE), Root Mean Squared Error (RMSE), dan Mean Absolute Percentage Error (MAPE). Model terbaik dipilih berdasarkan hasil evaluasi dengan mempertimbangkan karakteristik data dan tujuan analisis.
Berdasarkan hasil analisis, metode Support Vector Machine (SVM) mampu digunakan untuk mengklasifikasikan diabetes menggunakan kernel Linear dan Radial. Hasil perbandingan menunjukkan bahwa kernel Radial dengan parameter optimal cost = 100 dan gamma = 0,01 merupakan model terbaik, dengan nilai accuracy sebesar 78,80%, precision 73,91%, recall 64,56%, specificity 86,96%, F1-score 68,92%, dan AUC 0,8242. Meskipun kernel Linear menghasilkan nilai AUC sedikit lebih tinggi, yaitu 0,8317, kernel Radial unggul dalam nilai akurasi dan sebagian besar ukuran evaluasi lainnya. Dengan demikian, kernel Radial dipilih sebagai model terbaik karena memiliki kinerja klasifikasi yang lebih baik secara keseluruhan dalam membedakan individu yang mengalami diabetes dan tidak mengalami diabetes pada data yang digunakan.
Artiyati, N., & Ahdika, A. (2024). Implementation of the Support Vector Machine (SVM) method for classification of underdeveloped areas in Indonesia. Jurnal Media Informatika Budidarma, 8(2), 854–865.
Fransiska, H. (2026). Modul Praktikum Machine Learning and Modern Prediction. Laboratorium Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Bengkulu.
Isnaeni, R., Sudarmin, & Rais, Z. (2022). Analisis Support Vector Regression (SVR) dengan kernel Radial Basis Function (RBF) untuk memprediksi laju inflasi di Indonesia. VARIANSI: Journal of Statistics and Its Application on Teaching and Research, 4(1), 30–38.
Qurniatun, D., & Farihati, S. A. (2024). Analisis kernel dan parameter cost pada klasifikasi cuaca harian menggunakan metode Support Vector Machine. SAINTEK: Jurnal Sains dan Teknologi, 1(1).