Perkembangan teknologi informasi mendorong pemanfaatan metode Machine Learning dalam pengolahan dan analisis data untuk memperoleh informasi serta menghasilkan prediksi yang lebih akurat. Salah satu metode yang banyak digunakan adalah Support Vector Machine (SVM), yaitu metode pembelajaran mesin yang bekerja dengan mencari hyperplane optimal untuk memisahkan data ke dalam kelompok atau kelas tertentu. SVM memiliki kemampuan dalam menangani data dengan dimensi yang tinggi serta dapat menggunakan fungsi kernel untuk menyelesaikan permasalahan klasifikasi yang memiliki pola hubungan kompleks. Metode ini menjadi salah satu pendekatan yang dapat digunakan dalam proses klasifikasi maupun analisis data berbasis prediksi (Primartha, 2021).
Seiring dengan perkembangannya, SVM memiliki pengembangan yang disebut Support Vector Regression (SVR) yang digunakan untuk menyelesaikan permasalahan regresi atau memprediksi nilai yang bersifat kontinu. Berbeda dengan SVM yang umumnya digunakan untuk mengklasifikasikan data, SVR bertujuan membentuk fungsi regresi dengan meminimalkan kesalahan prediksi melalui penggunaan batas toleransi kesalahan atau epsilon (ε). Dalam penerapannya, SVR dapat menggunakan beberapa fungsi kernel, seperti kernel linear, polynomial, sigmoid, dan Radial Basis Function (RBF), untuk menyesuaikan pola hubungan antara variabel prediktor dan variabel respon (Ruliana et al., 2024).
Penerapan metode SVM dan SVR telah digunakan dalam berbagai bidang, seperti pengenalan pola, analisis data, serta peramalan kondisi ekonomi. Penggunaan SVR dalam penelitian peramalan inflasi di Kota Makassar menunjukkan bahwa metode ini dapat digunakan untuk memodelkan pola data dan menghasilkan prediksi dengan tingkat kesalahan yang relatif kecil (Ruliana et al., 2024). Selain itu, penerapan SVR dalam peramalan harga saham juga menunjukkan bahwa pemilihan fungsi kernel dan optimasi parameter berperan penting dalam memperoleh model terbaik (Artini et al., 2024). Oleh karena itu, praktikum ini dilakukan untuk memahami konsep dasar, prinsip kerja, serta penerapan metode SVM dan SVR dalam membangun model klasifikasi dan regresi, sekaligus mengevaluasi kemampuan model berdasarkan hasil pengolahan data.
Lakukan analisis SVM/SVR secara lengkap mulai dari persiapan data, pembagian data training dan testing, pembentukan model, tuning parameter, prediksi, evaluasi, visualisasi, dan interpretasi. Gunakan set.seed(234) agar hasil pembagian data dapat direproduksi. NPM Ganjil – SVM Klasifikasi Lakukan klasifikasi menggunakan Support Vector Machine (SVM) pada data SynthDiabetes2 dari package mlbench, dengan variabel diabetes sebagai respon. Lakukan penanganan missing value sebagaimana pada sintaks praktikum sebelum membentuk model. Clue: Gunakan e1071::svm() dan bandingkan kernel linear dan radial. Untuk kernel radial, lakukan tuning kombinasi cost = 0.1, 1, 10, 100 dan gamma = 0.001, 0.01, 0.1, 1. Gunakan model terbaik untuk memprediksi data testing. Evaluasi model berdasarkan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC, dengan kelas pos sebagai kelas positif. Jelaskan pengaruh parameter cost dan gamma terhadap fleksibilitas model dan batas keputusan, kemudian tentukan kernel yang memberikan performa terbaik.
Adapun manfaat dari pratikum kali ini adalah:
Adapun sistematika penulisan dari praktikum ini adalah sebagai berikut:
BAB I PENDAHULUAN
Bab ini merupakan bab yang memuat latar belakang penelitian, rumusan masalah, tujuan dan manfaat penelitian, batasan masalah penelitian, dan sistematika penelitian.
BAB II TINJAUAN PUSTAKA
Bab ini merupakan bab yang memuat pengertian dari teori yang diperlukan untuk rancangan penelitian pada bab-bab berikutnya.
BAB III METODE PENELITIAN
Bab ini merupakan bab yang memuat uraian mengenai jenis dan sumber penelitian, variabel penelitian, dan analisis data.
BAB IV HASIL DAN PEMBAHASAN
Bab ini merupakan bab yang memuat hasil analisis, pembahasan dari hasil yang telah diperoleh, dan interpretasi.
BAB V KESIMPULAN DAN SARAN
Bab ini merupakan bab yang memuat rangkuman dari hasil keseluruhan dan saran yang diberikan oleh penulis terhadap hasil maupun analisis yang telah dilakukan.
DAFTAR PUSTAKA
Support Vector Machine (SVM) merupakan metode supervised learning yang digunakan untuk menyelesaikan permasalahan klasifikasi dengan menentukan batas pemisah optimal (optimal hyperplane) di antara kelas-kelas data. Prinsip utama SVM adalah mencari bidang pemisah yang mampu memaksimalkan jarak antara hyperplane dan observasi terdekat dari masing-masing kelas. Observasi yang terletak paling dekat dengan bidang pemisah tersebut disebut support vectors karena menentukan posisi dan orientasi hyperplane yang terbentuk (Wang et al., 2024). Prinsip kerja SVM dimulai dengan menggunakan data pelatihan yang terdiri atas sejumlah observasi dengan variabel prediktor dan label kelas. Selanjutnya, SVM mencari hyperplane yang dapat memisahkan observasi berdasarkan kelasnya. Dalam klasifikasi linear, persamaan hyperplane dapat dituliskan sebagai berikut (Fransiska, 2026): \[ w^Tx+b=0 \] Pada permasalahan klasifikasi non-linear, SVM menggunakan fungsi kernel untuk memetakan data ke dalam ruang fitur berdimensi lebih tinggi sehingga pola pemisahan kelas dapat ditemukan. Du et al. (2024) menjelaskan bahwa fungsi kernel memungkinkan metode pembelajaran linear dikembangkan untuk menangani hubungan non-linear tanpa harus melakukan transformasi dimensi secara eksplisit. Beberapa jenis fungsi kernel yang umum digunakan dalam SVM adalah sebagai berikut (Du et al.,, 2024): 1. Linear Kernel Linear kernel digunakan apabila data memiliki pola hubungan yang dapat dipisahkan secara linear. \[ K(x_i,x_j)=x_i^T x_j \] 2. Polynomial Kernel Polynomial kernel digunakan untuk menangani hubungan non-linear dengan mempertimbangkan interaksi antarvariabel dalam bentuk polinomial. \[ K(x_i,x_j)=(\gamma x_i^T x_j+r)^d \] 3. Radial Basis Function (RBF) Kernel RBF merupakan fungsi kernel yang banyak digunakan untuk menangani pola hubungan non-linear. Fungsi ini mengukur kemiripan berdasarkan jarak antara dua observasi. \[ K(x_i,x_j)= \exp(-\gamma\|x_i-x_j\|^2) \] 4. Sigmoid Kernel Sigmoid kernel menggunakan fungsi hiperbolik tangen untuk memetakan hubungan antarobservasi. \[ K(x_i,x_j)= \tanh(\gamma x_i^Tx_j+r) \]
Support Vector Regression (SVR) merupakan pengembangan dari metode Support Vector Machine yang digunakan untuk menyelesaikan permasalahan regresi. Berbeda dengan SVM klasifikasi yang bertujuan memisahkan data ke dalam kelas tertentu, SVR bertujuan membentuk fungsi regresi yang dapat memperkirakan nilai variabel respons berdasarkan variabel prediktor. Menurut Rodríguez-Pérez dan Bajorath (2022), pendekatan SVM dapat diterapkan tidak hanya untuk klasifikasi, tetapi juga untuk pemodelan regresi. Pengembangan tersebut memungkinkan SVM digunakan untuk memprediksi nilai suatu variabel yang bersifat numerik.
Wu dan Wang (2023) menjelaskan bahwa SVR merupakan metode yang memiliki parameter toleransi ketidaksensitifan (insensitivity parameter) yang berperan dalam menentukan observasi yang menjadi support vectors. Parameter tersebut berpengaruh terhadap kemampuan generalisasi dan hasil prediksi model. Dengan demikian, SVR dapat digunakan untuk memodelkan hubungan antara variabel independen dan variabel dependen yang memiliki nilai kontinu, termasuk ketika hubungan antarvariabel menunjukkan pola non-linear.Menurut Wu dan Wang (2023), terdapat tiga parameter penting dalam SVR yang memengaruhi kemampuan generalisasi model, yaitu parameter \(C\), \(gamma\), dan \(varepsilon\).
Parameter Cost (C) Parameter \(C\) merupakan parameter regularisasi yang mengatur besarnya penalti terhadap kesalahan prediksi di luar batas toleransi. Nilai \(C\) yang besar memberikan penalti lebih tinggi terhadap kesalahan, sedangkan nilai \(C\) yang kecil memberikan toleransi lebih besar terhadap kesalahan prediksi.
Parameter Gamma Parameter gamma digunakan pada fungsi kernel tertentu, terutama RBF, untuk mengatur jangkauan pengaruh setiap observasi. Nilai gamma memengaruhi tingkat kelengkungan fungsi regresi yang dihasilkan.
Parameter Epsilon Parameter epsilon merupakan batas toleransi kesalahan prediksi. Kesalahan yang berada dalam rentang \(-varepsilon\) hingga \(+varepsilon\) tidak dikenakan penalti. Nilai epsilon juga berpengaruh terhadap jumlah support vectors yang digunakan dalam pembentukan model.
Evaluasi dilakukan pada data testing yang tidak digunakan dalam pembentukan model. Untuk SVM klasifikasi, ukuran evaluasi yang digunakan sama dengan metode klasifikasi pada pertemuan sebelumnya, yaitu confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC. Untuk SVR, ukuran evaluasi yang digunakan adalahMSE, RMSE, MAE, dan R². Rumus ukuran evaluasi tidak diulang karena telah dibahas pada pertemuan sebelumnya (Fransiska, 2026).
Jenis data yang digunakan dalam praktikum ini adalah data kuantitatif, yaitu data yang berbentuk angka dan dapat diukur atau dihitung secara numerik. Data yang digunakan merupakan data sekunder, yaitu data yang telah tersedia dan dikumpulkan oleh pihak lain. Dataset yang digunakan adalah SynthDiabetes2 yang tersedia dalam paket mlbench pada software R. Dataset ini berisi informasi mengenai karakteristik pasien yang digunakan untuk melakukan klasifikasi diabetes berdasarkan beberapa variabel prediktor.
Variabel merupakan karakteristik atau atribut yang diamati dan digunakan dalam suatu penelitian. Pada praktikum ini, variabel respon yang digunakan adalah diabetes, yang terdiri atas dua kategori, yaitu negatif (neg) dan positif (pos). Sementara itu, variabel prediktor terdiri atas enam variabel, yaitu pregnant (jumlah kehamilan), glucose (kadar glukosa), pressure (tekanan darah), mass (indeks massa tubuh), pedigree (riwayat keturunan diabetes), dan age (usia). Variabel triceps dan insulin tidak digunakan dalam pemodelan karena memiliki jumlah missing value yang cukup tinggi. Data yang masih memiliki nilai hilang pada variabel yang digunakan kemudian dihapus sebelum proses pemodelan dilakukan.
Langkah-langkah yang digunakan dalam praktikum ini untuk melakukan klasifikasi menggunakan metode Support Vector Machine (SVM) adalah sebagai berikut:
library(e1071)
library(mlbench)
library(caret)
## Loading required package: ggplot2
## Warning: package 'ggplot2' was built under R version 4.6.2
##
## Attaching package: 'ggplot2'
## The following object is masked from 'package:e1071':
##
## element
## Loading required package: lattice
library(pROC)
## Type 'citation("pROC")' for a citation.
##
## Attaching package: 'pROC'
## The following objects are masked from 'package:stats':
##
## cov, smooth, var
library(ggplot2)
pima <- tryCatch({
data("SynthDiabetes2", package = "mlbench")
SynthDiabetes2
}, error = function(e) {
message("SynthDiabetes2 tidak ditemukan, memakai PimaIndiansDiabetes2")
data("PimaIndiansDiabetes2", package = "mlbench")
PimaIndiansDiabetes2
}, warning = function(w) {
message("SynthDiabetes2 tidak ditemukan, memakai PimaIndiansDiabetes2")
data("PimaIndiansDiabetes2", package = "mlbench")
PimaIndiansDiabetes2
})
str(pima)
## 'data.frame': 768 obs. of 9 variables:
## $ pregnant: num 0 8 2 6 4 10 3 1 4 7 ...
## $ glucose : num 194 129 132 184 108 117 100 88 73 126 ...
## $ pressure: num 50 84 72 62 58 80 80 75 82 92 ...
## $ triceps : num 45 NA 42 NA 32 13 41 30 38 NA ...
## $ insulin : num NA NA NA NA NA NA 65 49 NA NA ...
## $ mass : num 28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
## $ pedigree: num 0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
## $ age : num 28 44 26 39 22 58 33 22 33 46 ...
## $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
summary(pima)
## pregnant glucose pressure triceps
## Min. : 0.000 Min. : 57.0 Min. : 24.00 Min. : 7.00
## 1st Qu.: 1.000 1st Qu.:101.0 1st Qu.: 64.00 1st Qu.:22.00
## Median : 3.000 Median :119.0 Median : 72.00 Median :30.00
## Mean : 4.585 Mean :125.3 Mean : 72.59 Mean :29.46
## 3rd Qu.: 7.000 3rd Qu.:144.5 3rd Qu.: 80.00 3rd Qu.:36.00
## Max. :13.000 Max. :199.0 Max. :108.00 Max. :63.00
## NAs :5 NAs :35 NAs :251
## insulin mass pedigree age diabetes
## Min. : 14 Min. :18.20 Min. :0.0780 Min. :21.00 neg:488
## 1st Qu.: 76 1st Qu.:27.80 1st Qu.:0.2430 1st Qu.:24.00 pos:280
## Median :125 Median :32.80 Median :0.3670 Median :28.00
## Mean :159 Mean :32.87 Mean :0.4792 Mean :33.05
## 3rd Qu.:194 3rd Qu.:36.95 3rd Qu.:0.6450 3rd Qu.:41.00
## Max. :846 Max. :59.40 Max. :2.4200 Max. :81.00
## NAs :405 NAs :13
Berdasarkan sintaks yang dijalankan, dataset SynthDiabetes2 dari package mlbench dimuat ke dalam R untuk digunakan dalam analisis klasifikasi menggunakan metode Support Vector Machine (SVM). Perintah str() digunakan untuk mengetahui struktur dataset, termasuk jumlah observasi, variabel, dan tipe data. Hasilnya menunjukkan bahwa dataset terdiri atas 768 observasi dan 9 variabel, yaitu pregnant, glucose, pressure, triceps, insulin, mass, pedigree, age, dan diabetes. Variabel diabetes merupakan variabel respons yang memiliki dua kategori, yaitu neg (negatif) sebanyak 488 data dan pos (positif) sebanyak 280 data. Selanjutnya, fungsi summary() digunakan untuk mengetahui ringkasan statistik setiap variabel, seperti nilai minimum, maksimum, median, dan rata-rata. Tahap ini dilakukan untuk memperoleh gambaran awal mengenai karakteristik data sebelum dilakukan pengolahan lebih lanjut.
# Jumlah missing value per variabel
colSums(is.na(pima))
## pregnant glucose pressure triceps insulin mass pedigree age
## 0 5 35 251 405 13 0 0
## diabetes
## 0
# Menghapus dua prediktor dengan banyak missing value (sesuai praktikum)
pima <- pima[, !names(pima) %in% c("triceps", "insulin")]
# Menghapus sisa observasi yang masih mengandung missing value
pima <- na.omit(pima)
# Memastikan respons berupa factor
pima$diabetes <- droplevels(as.factor(pima$diabetes))
str(pima)
## 'data.frame': 727 obs. of 7 variables:
## $ pregnant: num 0 8 2 6 4 10 3 1 4 7 ...
## $ glucose : num 194 129 132 184 108 117 100 88 73 126 ...
## $ pressure: num 50 84 72 62 58 80 80 75 82 92 ...
## $ mass : num 28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
## $ pedigree: num 0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
## $ age : num 28 44 26 39 22 58 33 22 33 46 ...
## $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
## - attr(*, "na.action")= 'omit' Named int [1:41] 42 57 59 60 77 96 108 109 119 158 ...
## ..- attr(*, "names")= chr [1:41] "42" "57" "59" "60" ...
summary(pima)
## pregnant glucose pressure mass
## Min. : 0.00 Min. : 57.0 Min. : 24.00 Min. :18.20
## 1st Qu.: 1.00 1st Qu.:101.0 1st Qu.: 64.00 1st Qu.:27.80
## Median : 3.00 Median :119.0 Median : 72.00 Median :32.80
## Mean : 4.67 Mean :125.4 Mean : 72.58 Mean :32.96
## 3rd Qu.: 7.00 3rd Qu.:144.0 3rd Qu.: 80.00 3rd Qu.:37.15
## Max. :13.00 Max. :196.0 Max. :108.00 Max. :59.40
## pedigree age diabetes
## Min. :0.0780 Min. :21.00 neg:462
## 1st Qu.:0.2450 1st Qu.:24.00 pos:265
## Median :0.3650 Median :28.00
## Mean :0.4790 Mean :33.29
## 3rd Qu.:0.6425 3rd Qu.:41.00
## Max. :2.4200 Max. :81.00
dim(pima)
## [1] 727 7
colSums(is.na(pima))
## pregnant glucose pressure mass pedigree age diabetes
## 0 0 0 0 0 0 0
# Distribusi kelas
table(pima$diabetes)
##
## neg pos
## 462 265
prop.table(table(pima$diabetes))
##
## neg pos
## 0.6354883 0.3645117
Pada tahap ini dilakukan preprocessing untuk menangani nilai kosong (missing value) yang terdapat pada dataset. Berdasarkan hasil pemeriksaan menggunakan fungsi colSums(is.na()), diketahui bahwa variabel glucose memiliki 5 nilai kosong, pressure sebanyak 35, triceps sebanyak 251, insulin sebanyak 405, dan mass sebanyak 13. Variabel triceps dan insulin dihapus karena memiliki jumlah missing value yang cukup banyak dibandingkan variabel lainnya. Selanjutnya, fungsi na.omit() digunakan untuk menghapus observasi yang masih memiliki nilai kosong pada variabel yang dipertahankan. Setelah proses tersebut, diperoleh 727 observasi dengan 7 variabel, yaitu 6 variabel prediktor dan 1 variabel respons. Distribusi kelas diabetes terdiri atas 462 data kategori neg (63,55%) dan 265 data kategori pos (36,45%). Dengan demikian, data yang digunakan pada tahap selanjutnya sudah tidak mengandung missing value.
set.seed(234)
idx.cls <- createDataPartition(pima$diabetes, p = 0.70, list = FALSE)
pima.train <- pima[idx.cls, ]
pima.test <- pima[-idx.cls, ]
dim(pima.train)
## [1] 510 7
dim(pima.test)
## [1] 217 7
table(pima.train$diabetes)
##
## neg pos
## 324 186
table(pima.test$diabetes)
##
## neg pos
## 138 79
prop.table(table(pima.train$diabetes))
##
## neg pos
## 0.6352941 0.3647059
prop.table(table(pima.test$diabetes))
##
## neg pos
## 0.6359447 0.3640553
# ---------------------------------------------------------------------
# FUNGSI BANTU EVALUASI (dipakai untuk semua model)
# ---------------------------------------------------------------------
evaluasi.model <- function(model, data, nama) {
p <- predict(model, newdata = data, probability = TRUE)
prob <- attr(p, "probabilities")[, "pos"]
pred <- factor(as.character(p), levels = levels(data$diabetes))
cm <- confusionMatrix(pred, data$diabetes, positive = "pos")
tab <- table(Aktual = data$diabetes, Prediksi = pred)
TN <- tab["neg", "neg"]; FP <- tab["neg", "pos"]
FN <- tab["pos", "neg"]; TP <- tab["pos", "pos"]
Accuracy <- (TP + TN) / (TP + TN + FP + FN)
Precision <- TP / (TP + FP)
Recall <- TP / (TP + FN)
Specificity <- TN / (TN + FP)
F1 <- 2 * Precision * Recall / (Precision + Recall)
roc.obj <- roc(response = data$diabetes, predictor = prob,
levels = c("neg", "pos"), direction = "<", quiet = TRUE)
AUC <- as.numeric(auc(roc.obj))
list(
nama = nama, pred = pred, prob = prob, cm = cm, tabel = tab,
roc = roc.obj,
metrik = data.frame(Model = nama, Accuracy, Precision, Recall,
Specificity, F1_Score = F1, AUC = AUC)
)
}
Berdasarkan hasil pembagian data, diperoleh sebanyak 510 data training dan 217 data testing, dengan masing-masing memiliki 7 variabel. Pada data training, kelas negatif (neg) berjumlah 324 observasi (63,53%), sedangkan kelas positif (pos) berjumlah 186 observasi (36,47%). Sementara itu, pada data testing, kelas negatif berjumlah 138 observasi (63,59%) dan kelas positif berjumlah 79 observasi (36,41%). Hasil tersebut menunjukkan bahwa proporsi kelas negatif dan positif pada data training dan testing relatif seimbang atau konsisten, sehingga pembagian data telah mempertahankan distribusi kelas dari keseluruhan data.
set.seed(234)
svm.cls <- svm(
diabetes ~ ., data = pima.train,
type = "C-classification", kernel = "radial",
cost = 1, gamma = 1 / (ncol(pima.train) - 1),
scale = TRUE, probability = TRUE
)
svm.cls
##
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification",
## kernel = "radial", cost = 1, gamma = 1/(ncol(pima.train) - 1),
## probability = TRUE, scale = TRUE)
##
##
## Parameters:
## SVM-Type: C-classification
## SVM-Kernel: radial
## cost: 1
##
## Number of Support Vectors: 307
cat("Jumlah support vector (radial awal):", svm.cls$tot.nSV, "\n")
## Jumlah support vector (radial awal): 307
Model awal SVM menggunakan kernel Radial dengan tipe klasifikasi
C-classification, nilai cost sebesar 1, dan gamma sebesar \((1/(p-1))\). Hasil pemodelan menunjukkan
terdapat 307 support vector yang berperan dalam
membentuk batas keputusan untuk memisahkan kelas neg dan
pos pada variabel diabetes. Kernel Radial digunakan karena
mampu menangani hubungan nonlinier antara variabel prediktor dan
variabel respons. Namun, banyaknya support vector belum menunjukkan
tingkat ketepatan model sehingga diperlukan evaluasi lebih lanjut
menggunakan data testing.
set.seed(234)
tune.radial <- tune.svm(
diabetes ~ ., data = pima.train,
type = "C-classification", kernel = "radial",
cost = c(0.1, 1, 10, 100),
gamma = c(0.001, 0.01, 0.1, 1),
scale = TRUE, probability = TRUE,
tunecontrol = tune.control(cross = 5)
)
tune.radial
##
## Parameter tuning of 'svm':
##
## - sampling method: 5-fold cross validation
##
## - best parameters:
## gamma cost
## 0.01 100
##
## - best performance: 0.2568627
tune.radial$best.parameters
## gamma cost
## 14 0.01 100
# Tabel error CV seluruh kombinasi
hasil.tuning <- tune.radial$performances
hasil.tuning$Akurasi.CV <- 1 - hasil.tuning$error
hasil.tuning[order(hasil.tuning$error), ]
## gamma cost error dispersion Akurasi.CV
## 14 0.010 100.0 0.2568627 0.01278275 0.7431373
## 7 0.100 1.0 0.2588235 0.02824482 0.7411765
## 11 0.100 10.0 0.2607843 0.02032984 0.7392157
## 10 0.010 10.0 0.2627451 0.01885822 0.7372549
## 9 0.001 10.0 0.2647059 0.01834146 0.7352941
## 13 0.001 100.0 0.2647059 0.01550136 0.7352941
## 6 0.010 1.0 0.2666667 0.02973677 0.7333333
## 3 0.100 0.1 0.2882353 0.05571871 0.7117647
## 8 1.000 1.0 0.2921569 0.02235638 0.7078431
## 15 0.100 100.0 0.3000000 0.04471276 0.7000000
## 12 1.000 10.0 0.3196078 0.02556550 0.6803922
## 16 1.000 100.0 0.3313725 0.04566986 0.6686275
## 1 0.001 0.1 0.3647059 0.08066668 0.6352941
## 2 0.010 0.1 0.3647059 0.08066668 0.6352941
## 4 1.000 0.1 0.3647059 0.08066668 0.6352941
## 5 0.001 1.0 0.3647059 0.08066668 0.6352941
svm.radial.best <- tune.radial$best.model
svm.radial.best
##
## Call:
## best.svm(x = diabetes ~ ., data = pima.train, gamma = c(0.001, 0.01,
## 0.1, 1), cost = c(0.1, 1, 10, 100), type = "C-classification",
## kernel = "radial", scale = TRUE, probability = TRUE, tunecontrol = tune.control(cross = 5))
##
##
## Parameters:
## SVM-Type: C-classification
## SVM-Kernel: radial
## cost: 100
##
## Number of Support Vectors: 286
# Visualisasi heatmap error CV (cost vs gamma)
ggplot(hasil.tuning,
aes(x = factor(gamma), y = factor(cost), fill = error)) +
geom_tile(colour = "white") +
geom_text(aes(label = round(error, 3)), size = 3.5) +
scale_fill_gradient(low = "#A7C7E7", high = "#E76F51") +
labs(title = "Error Cross-Validation SVM Radial",
subtitle = "Kombinasi cost dan gamma (5-fold CV)",
x = "Gamma", y = "Cost", fill = "Error CV") +
theme_bw()
## Intepretasi Hasil 4.5 Berdasarkan hasil parameter tuning
menggunakan metode 5-fold cross validation pada model
SVM kernel radial, diperoleh kombinasi parameter terbaik, yaitu
gamma sebesar 0,01 dan cost sebesar 100, dengan nilai
error sebesar 0,2568627 atau 25,69% dan akurasi
cross-validation sebesar 74,31%. Hasil tersebut menunjukkan bahwa
kombinasi parameter ini menghasilkan tingkat kesalahan prediksi paling
rendah dibandingkan kombinasi parameter lainnya. Hal ini juga terlihat
pada grafik heatmap, di mana kombinasi gamma = 0,01
dan cost = 100 memiliki nilai error paling rendah.
Model terbaik tersebut menghasilkan 286 Support Vectors, yang
merupakan observasi yang berperan dalam membentuk batas keputusan
klasifikasi. Dengan demikian, kombinasi parameter gamma = 0,01
dan cost = 100 dipilih sebagai parameter optimal untuk model
SVM kernel radial dan selanjutnya digunakan dalam proses klasifikasi
data testing.
set.seed(234)
tune.linear <- tune.svm(
diabetes ~ ., data = pima.train,
type = "C-classification", kernel = "linear",
cost = c(0.1, 1, 10, 100),
scale = TRUE, probability = TRUE,
tunecontrol = tune.control(cross = 5)
)
tune.linear
##
## Parameter tuning of 'svm':
##
## - sampling method: 5-fold cross validation
##
## - best parameters:
## cost
## 100
##
## - best performance: 0.2588235
tune.linear$best.parameters
## cost
## 4 100
svm.linear.best <- tune.linear$best.model
Hasil parameter tuning pada model SVM dilakukan menggunakan metode 5-fold cross-validationPREDIKSI DATA TESTING + CONFUSION MATRIX, yaitu membagi data training menjadi lima bagian untuk memperoleh kombinasi parameter terbaik. Berdasarkan hasil pengujian, diperoleh nilai cost terbaik sebesar 100 dengan nilai best performance sebesar 0,2588235. Nilai best performance tersebut menunjukkan tingkat kesalahan klasifikasi rata-rata selama proses validasi, sehingga semakin kecil nilainya maka semakin baik kinerja model. Dengan demikian, nilai cost sebesar 100 dipilih sebagai parameter terbaik berdasarkan hasil pengujian tersebut.
ev.awal <- evaluasi.model(svm.cls, pima.test, "Radial Awal")
ev.radial <- evaluasi.model(svm.radial.best, pima.test, "Radial Tuning")
ev.linear <- evaluasi.model(svm.linear.best, pima.test, "Linear Tuning")
# Contoh hasil prediksi model radial terbaik
head(data.frame(Aktual = pima.test$diabetes,
Prediksi = ev.radial$pred), 10)
## Aktual Prediksi
## 1 neg neg
## 2 neg neg
## 3 neg neg
## 4 neg neg
## 5 pos pos
## 6 neg neg
## 7 neg pos
## 8 pos pos
## 9 pos pos
## 10 neg pos
# Confusion matrix lengkap (positive = "pos")
ev.radial$cm
## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 123 29
## pos 15 50
##
## Accuracy : 0.7972
## 95% CI : (0.7375, 0.8486)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 1.881e-07
##
## Kappa : 0.5449
##
## Mcnemar's Test P-Value : 0.05002
##
## Sensitivity : 0.6329
## Specificity : 0.8913
## Pos Pred Value : 0.7692
## Neg Pred Value : 0.8092
## Prevalence : 0.3641
## Detection Rate : 0.2304
## Detection Prevalence : 0.2995
## Balanced Accuracy : 0.7621
##
## 'Positive' Class : pos
##
ev.linear$cm
## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 119 28
## pos 19 51
##
## Accuracy : 0.7834
## 95% CI : (0.7226, 0.8363)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 1.973e-06
##
## Kappa : 0.5206
##
## Mcnemar's Test P-Value : 0.2432
##
## Sensitivity : 0.6456
## Specificity : 0.8623
## Pos Pred Value : 0.7286
## Neg Pred Value : 0.8095
## Prevalence : 0.3641
## Detection Rate : 0.2350
## Detection Prevalence : 0.3226
## Balanced Accuracy : 0.7539
##
## 'Positive' Class : pos
##
ev.awal$cm
## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 122 36
## pos 16 43
##
## Accuracy : 0.7604
## 95% CI : (0.6979, 0.8156)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 5.909e-05
##
## Kappa : 0.4529
##
## Mcnemar's Test P-Value : 0.008418
##
## Sensitivity : 0.5443
## Specificity : 0.8841
## Pos Pred Value : 0.7288
## Neg Pred Value : 0.7722
## Prevalence : 0.3641
## Detection Rate : 0.1982
## Detection Prevalence : 0.2719
## Balanced Accuracy : 0.7142
##
## 'Positive' Class : pos
##
Berdasarkan hasil evaluasi model SVM kernel radial menggunakan confusion matrix, diperoleh nilai accuracy sebesar 76,04%, yang menunjukkan bahwa model mampu mengklasifikasikan data dengan benar sebesar 76,04%. Nilai sensitivity sebesar 54,43% menunjukkan kemampuan model dalam mendeteksi pasien positif diabetes, sedangkan specificity sebesar 88,41% menunjukkan kemampuan model dalam mengidentifikasi pasien negatif diabetes dengan benar. Nilai precision sebesar 72,88% menunjukkan ketepatan prediksi pada kelas positif, sementara balanced accuracy sebesar 71,42% menunjukkan rata-rata kemampuan model dalam mengklasifikasikan kedua kelas. Nilai Kappa sebesar 0,4529 menunjukkan tingkat kesesuaian prediksi pada kategori sedang. Selain itu, nilai P-Value [Acc > NIR] sebesar 0,00005909 menunjukkan bahwa akurasi model secara signifikan lebih tinggi dibandingkan No Information Rate sebesar 63,59%. Secara keseluruhan, model SVM kernel radial lebih baik dalam mengidentifikasi pasien negatif diabetes dibandingkan pasien positif diabetes.
perbandingan.model <- rbind(ev.awal$metrik, ev.radial$metrik, ev.linear$metrik)
rownames(perbandingan.model) <- NULL
round(perbandingan.model[, -1], 4) -> tmp
perbandingan.model[, -1] <- tmp
perbandingan.model
## Model Accuracy Precision Recall Specificity F1_Score AUC
## 1 Radial Awal 0.7604 0.7288 0.5443 0.8841 0.6232 0.8180
## 2 Radial Tuning 0.7972 0.7692 0.6329 0.8913 0.6944 0.8242
## 3 Linear Tuning 0.7834 0.7286 0.6456 0.8623 0.6846 0.8317
Berdasarkan hasil evaluasi, model SVM Radial Tuning menghasilkan kinerja terbaik dengan nilai accuracy sebesar 0,7972 (79,72%), precision sebesar 0,7692 (76,92%), recall sebesar 0,6329 (63,29%), specificity sebesar 0,8913 (89,13%), F1-Score sebesar 0,6944, dan AUC sebesar 0,8242. Sementara itu, model Radial Awal memperoleh accuracy sebesar 76,04% dan model Linear Tuning sebesar 78,34%. Hasil tersebut menunjukkan bahwa proses tuning berhasil meningkatkan kinerja model Radial dibandingkan model Radial Awal. Selain itu, model Radial Tuning memiliki nilai accuracy, specificity, F1-Score, dan AUC yang lebih tinggi dibandingkan kedua model lainnya. Dengan demikian, SVM Radial Tuning merupakan model terbaik berdasarkan hasil evaluasi tersebut.
plot(ev.radial$roc, legacy.axes = TRUE, col = "#E41A1C", lwd = 2,
main = "Kurva ROC SVM: Linear vs Radial (Data Testing)")
plot(ev.linear$roc, legacy.axes = TRUE, col = "#377EB8", lwd = 2, add = TRUE)
legend("bottomright", lwd = 2, col = c("#E41A1C", "#377EB8"),
legend = c(
paste0("Radial Tuning (AUC = ", round(auc(ev.radial$roc), 3), ")"),
paste0("Linear Tuning (AUC = ", round(auc(ev.linear$roc), 3), ")")
))
Berdasarkan kurva ROC, model SVM Radial Tuning memperoleh nilai AUC
sebesar 0,824, sedangkan model SVM Linear Tuning
memperoleh nilai AUC sebesar 0,832. Kedua model
memiliki kemampuan klasifikasi yang tergolong baik karena nilai AUC
berada di atas 0,8. Kurva ROC menunjukkan hubungan antara
Sensitivity dan 1-Specificity, dengan semakin
mendekati sudut kiri atas maka kemampuan model dalam membedakan kelas
semakin baik. Meskipun kedua model memiliki performa yang hampir sama,
SVM Linear Tuning memiliki nilai AUC sedikit lebih tinggi dibandingkan
SVM Radial Tuning. Dengan demikian, berdasarkan nilai AUC, model SVM
Linear Tuning memiliki kemampuan diskriminasi yang sedikit lebih baik
dalam membedakan kelas diabetes positif (pos) dan negatif
(neg).
d2 <- pima.train[, c("glucose", "mass", "diabetes")]
grid2 <- expand.grid(
glucose = seq(min(d2$glucose), max(d2$glucose), length.out = 200),
mass = seq(min(d2$mass), max(d2$mass), length.out = 200)
)
kombinasi <- expand.grid(cost = c(1, 100), gamma = c(0.01, 1))
grid.all <- do.call(rbind, lapply(seq_len(nrow(kombinasi)), function(i) {
m <- svm(diabetes ~ glucose + mass, data = d2,
type = "C-classification", kernel = "radial",
cost = kombinasi$cost[i], gamma = kombinasi$gamma[i], scale = TRUE)
pr <- predict(m, newdata = grid2, decision.values = TRUE)
g <- grid2
g$Prediksi <- pr
g$margin <- as.numeric(attr(pr, "decision.values")[, 1])
g$Panel <- paste0("Cost = ", kombinasi$cost[i],
" | Gamma = ", kombinasi$gamma[i])
g
}))
ggplot() +
geom_raster(data = grid.all,
aes(x = glucose, y = mass, fill = Prediksi), alpha = 0.25) +
geom_contour(data = grid.all,
aes(x = glucose, y = mass, z = margin),
breaks = 0, colour = "black", linewidth = 0.8) +
geom_point(data = d2, aes(x = glucose, y = mass, color = diabetes),
size = 1.3, alpha = 0.7) +
facet_wrap(~ Panel) +
scale_color_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
scale_fill_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
labs(title = "Pengaruh Cost dan Gamma terhadap Decision Boundary SVM Radial",
x = "Glucose", y = "BMI (mass)",
color = "Kelas Aktual", fill = "Kelas Prediksi") +
theme_bw()
# Decision boundary model radial terbaik (parameter hasil tuning)
bp <- tune.radial$best.parameters
m.best2 <- svm(diabetes ~ glucose + mass, data = d2,
type = "C-classification", kernel = "radial",
cost = bp$cost, gamma = bp$gamma, scale = TRUE)
pr.b <- predict(m.best2, newdata = grid2, decision.values = TRUE)
grid2$Prediksi <- pr.b
grid2$margin <- as.numeric(attr(pr.b, "decision.values")[, 1])
ggplot() +
geom_raster(data = grid2, aes(x = glucose, y = mass, fill = Prediksi),
alpha = 0.25) +
geom_contour(data = grid2, aes(x = glucose, y = mass, z = margin),
breaks = 0, colour = "red", linewidth = 1) +
geom_point(data = d2, aes(x = glucose, y = mass, color = diabetes),
size = 2, alpha = 0.8) +
scale_color_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
scale_fill_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
labs(title = "SVM Radial Terbaik: Decision Boundary Klasifikasi Diabetes",
subtitle = paste0("Cost = ", bp$cost, ", Gamma = ", bp$gamma),
x = "Glucose", y = "BMI (mass)",
color = "Kelas Aktual", fill = "Kelas Prediksi") +
theme_bw()
Berdasarkan grafik decision boundary SVM dengan kernel Radial, terlihat bahwa parameter cost dan gamma memengaruhi bentuk batas keputusan dalam mengklasifikasikan kelas diabetes. Pada cost = 1 dan gamma = 0,01, batas keputusan cenderung sederhana dan lebih halus, sedangkan ketika gamma meningkat menjadi 1, batas keputusan menjadi lebih melengkung dan kompleks. Peningkatan cost dari 1 menjadi 100 juga menyebabkan perubahan pada batas keputusan karena model memberikan penalti lebih besar terhadap kesalahan klasifikasi. Kombinasi cost = 100 dan gamma = 1 menghasilkan batas keputusan yang paling kompleks dibandingkan kombinasi lainnya. Hal ini menunjukkan bahwa semakin besar nilai cost dan gamma, model cenderung semakin menyesuaikan batas keputusan terhadap pola data training. Namun, batas keputusan yang terlalu kompleks berpotensi menyebabkan overfitting, sehingga pemilihan parameter terbaik perlu mempertimbangkan hasil evaluasi model pada data testing.
kernel.terbaik <- perbandingan.model[
perbandingan.model$Model %in% c("Linear Tuning", "Radial Tuning"), ]
kernel.terbaik
## Model Accuracy Precision Recall Specificity F1_Score AUC
## 2 Radial Tuning 0.7972 0.7692 0.6329 0.8913 0.6944 0.8242
## 3 Linear Tuning 0.7834 0.7286 0.6456 0.8623 0.6846 0.8317
cat("\nKernel dengan AUC tertinggi :",
kernel.terbaik$Model[which.max(kernel.terbaik$AUC)], "\n")
##
## Kernel dengan AUC tertinggi : Linear Tuning
cat("Kernel dengan Accuracy tertinggi:",
kernel.terbaik$Model[which.max(kernel.terbaik$Accuracy)], "\n")
## Kernel dengan Accuracy tertinggi: Radial Tuning
Berdasarkan hasil perbandingan, model SVM Radial Tuning memperoleh
nilai Accuracy tertinggi sebesar 0,7972 (79,72%),
sedangkan model SVM Linear Tuning memperoleh nilai AUC tertinggi
sebesar 0,8317. Hal ini menunjukkan bahwa model Radial Tuning
memiliki kemampuan ketepatan klasifikasi keseluruhan yang lebih baik,
sementara model Linear Tuning memiliki kemampuan yang sedikit lebih baik
dalam membedakan kelas diabetes positif (pos) dan negatif
(neg). Dengan demikian, pemilihan model terbaik bergantung
pada kriteria evaluasi yang digunakan. Jika didasarkan pada Accuracy,
model terbaik adalah Radial Tuning, sedangkan jika didasarkan pada AUC,
model terbaik adalah Linear Tuning.
Support Vector Machine (SVM) merupakan metode machine learning yang digunakan untuk menyelesaikan masalah klasifikasi dengan mencari batas pemisah terbaik antara dua kelas atau lebih. SVM bekerja dengan menentukan hyperplane yang memiliki jarak atau margin terbesar terhadap data dari masing-masing kelas sehingga dapat menghasilkan klasifikasi yang optimal. Sementara itu, Support Vector Regression (SVR) merupakan pengembangan SVM yang digunakan untuk masalah regresi, yaitu memprediksi nilai numerik berdasarkan hubungan antara variabel prediktor dan variabel respons.
Pada SVM, hyperplane merupakan garis atau bidang yang memisahkan data ke dalam kelas tertentu, sedangkan margin adalah jarak antara hyperplane dengan titik data terdekat dari masing-masing kelas. Titik data yang berada paling dekat dengan hyperplane disebut support vector karena berperan dalam menentukan posisi batas pemisah. Soft margin memungkinkan beberapa data mengalami kesalahan klasifikasi agar model lebih fleksibel terhadap data yang tidak dapat dipisahkan secara sempurna. Sementara itu, fungsi kernel digunakan untuk memetakan data ke ruang berdimensi lebih tinggi agar pola yang tidak linear dapat dipisahkan. Pada SVR, epsilon-insensitive loss merupakan fungsi kerugian yang tidak memberikan penalti terhadap kesalahan prediksi selama masih berada dalam batas epsilon. Batas tersebut membentuk epsilon-tube, yaitu daerah di sekitar garis regresi tempat kesalahan prediksi masih ditoleransi.
Implementasi SVM dan SVR menggunakan R dapat dilakukan dengan bantuan paket e1071, khususnya fungsi svm(). Untuk klasifikasi, variabel respons harus berbentuk kategori atau faktor, kemudian model dibangun menggunakan type = “C-classification” dengan menentukan kernel yang digunakan, seperti linear atau radial. Sementara itu, untuk regresi, variabel respons berbentuk numerik dan model dibangun menggunakan type = “eps-regression”. Setelah model terbentuk, data pengujian digunakan untuk menghasilkan prediksi dan mengetahui kemampuan model dalam mengklasifikasikan kategori atau memprediksi nilai numerik.
Tuning parameter dilakukan untuk memperoleh kombinasi parameter terbaik agar performa model lebih optimal. Parameter cost mengatur besarnya penalti terhadap kesalahan prediksi, gamma mengatur pengaruh setiap titik data pada kernel radial, sedangkan epsilon menentukan batas toleransi kesalahan pada SVR. Proses tuning dapat dilakukan menggunakan fungsi tune.svm() dengan mencoba beberapa kombinasi nilai parameter dan menerapkan cross-validation. Evaluasi model klasifikasi dapat menggunakan ukuran akurasi, presisi, sensitivitas, spesifisitas, F1-Score, dan AUC. Sementara itu, evaluasi SVR dapat menggunakan RMSE, MAE, dan \(R^2\) untuk mengukur besarnya kesalahan serta kemampuan model dalam menjelaskan variasi data.
Berdasarkan seluruh tahapan analisis, dapat disimpulkan bahwa metode
Support Vector Machine (SVM) mampu digunakan untuk
mengklasifikasikan data diabetes ke dalam kelas positif
(pos) dan negatif (neg). Hasil pengujian
menunjukkan bahwa model SVM dengan kernel Radial Tuning memperoleh nilai
Accuracy tertinggi sebesar 79,72%, sedangkan model SVM
dengan kernel Linear Tuning memperoleh nilai AUC tertinggi sebesar
0,8317. Proses tuning parameter pada kernel Radial juga
meningkatkan nilai Accuracy dibandingkan model Radial Awal, yaitu dari
76,04% menjadi 79,72%. Selain itu, visualisasi decision
boundary menunjukkan bahwa parameter cost dan gamma memengaruhi
kompleksitas batas keputusan dalam proses klasifikasi. Dengan demikian,
model Radial Tuning dapat dipilih sebagai model terbaik berdasarkan
nilai Accuracy, sedangkan Linear Tuning unggul berdasarkan nilai
AUC.
Penulis menyarankan agar ketepatan sintaks program R selalu diperhatikan untuk menghindari kesalahan dalam proses analisis. Penggunaan bahasa perlu disesuaikan dengan kaidah KBBI. Aturan penulisan huruf tebal juga perlu diperhatikan agar laporan tersusun secara sistematis, rapi, dan sesuai dengan kaidah penulisan ilmiah.
Fransiska, H. (2026). Modul Praktikum Machine Learning. Universitas Bengkulu.
Artini, N. P. S. Y., Sumarjaya, I. W., & Nilakusmawati, D. P. E. (2024). Penerapan metode Support Vector Regression (SVR) dengan algoritma Grid Search dalam peramalan harga saham. E-Jurnal Matematika, 13(2), 94–104.
Primartha, R. (2021). Algoritma machine learning. Informatika Bandung.
Ruliana, R., Rais, Z., Marni, M., & Ahmar, A. S. (2024). Implementation of the Support Vector Regression (SVR) method in inflation prediction in Makassar City. ARRUS Journal of Mathematics and Applied Science, 4(1), 28–35.
Rodríguez-Pérez, R., & Bajorath, J. (2022). Evolution of support vector machine and regression modeling in chemoinformatics and drug discovery. Journal of Computer-Aided Molecular Design, 36, 355–362. https://doi.org/10.1007/s10822-022-00442-9
Suyanto. (2022). Machine learning: Tingkat dasar dan lanjut (Edisi ke-2). Informatika Bandung.
Du, K.-L., Jiang, B., Lu, J., Hua, J., & Swamy, M. N. S. (2024). Exploring kernel machines and support vector machines: Principles, techniques, and future directions. Mathematics, 12(24), Article 3935. https://doi.org/10.3390/math12243935
Wang, Y., Liao, W., Shen, H., Jiang, Z., & Zhou, J. (2024). Some notes on the basic concepts of support vector machines. Journal of Computational Science, 82, Article 102390. https://doi.org/10.1016/j.jocs.2024.102390
Wu, J., & Wang, Y.-G. (2023). A working likelihood approach to support vector regression with a data-driven insensitivity parameter. International Journal of Machine Learning and Cybernetics, 14, 929–945. https://doi.org/10.1007/s13042-022-01672-x