BAB I PENDAHULUAN

1.1 Latar Belakang

Perkembangan teknologi informasi mendorong pemanfaatan metode Machine Learning dalam pengolahan dan analisis data untuk memperoleh informasi serta menghasilkan prediksi yang lebih akurat. Salah satu metode yang banyak digunakan adalah Support Vector Machine (SVM), yaitu metode pembelajaran mesin yang bekerja dengan mencari hyperplane optimal untuk memisahkan data ke dalam kelompok atau kelas tertentu. SVM memiliki kemampuan dalam menangani data dengan dimensi yang tinggi serta dapat menggunakan fungsi kernel untuk menyelesaikan permasalahan klasifikasi yang memiliki pola hubungan kompleks. Metode ini menjadi salah satu pendekatan yang dapat digunakan dalam proses klasifikasi maupun analisis data berbasis prediksi (Primartha, 2021).

Seiring dengan perkembangannya, SVM memiliki pengembangan yang disebut Support Vector Regression (SVR) yang digunakan untuk menyelesaikan permasalahan regresi atau memprediksi nilai yang bersifat kontinu. Berbeda dengan SVM yang umumnya digunakan untuk mengklasifikasikan data, SVR bertujuan membentuk fungsi regresi dengan meminimalkan kesalahan prediksi melalui penggunaan batas toleransi kesalahan atau epsilon (ε). Dalam penerapannya, SVR dapat menggunakan beberapa fungsi kernel, seperti kernel linear, polynomial, sigmoid, dan Radial Basis Function (RBF), untuk menyesuaikan pola hubungan antara variabel prediktor dan variabel respons (Ruliana et al., 2024).

Penerapan metode SVM dan SVR telah digunakan dalam berbagai bidang, seperti pengenalan pola, analisis data, serta peramalan kondisi ekonomi. Penggunaan SVR dalam penelitian peramalan inflasi di Kota Makassar menunjukkan bahwa metode ini dapat digunakan untuk memodelkan pola data dan menghasilkan prediksi dengan tingkat kesalahan yang relatif kecil (Ruliana et al., 2024). Selain itu, penerapan SVR dalam peramalan harga saham juga menunjukkan bahwa pemilihan fungsi kernel dan optimasi parameter berperan penting dalam memperoleh model terbaik (Artini et al., 2024). Oleh karena itu, praktikum ini dilakukan untuk memahami konsep dasar, prinsip kerja, serta penerapan metode SVM dan SVR dalam membangun model klasifikasi dan regresi, sekaligus mengevaluasi kemampuan model berdasarkan hasil pengolahan data.

1.2 Rumusan Masalah

  1. Bagaimana konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR)?
  2. Apa itu hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR?
  3. Bagaimana mengimplementasikan SVM untuk klasifikasi dan SVR untuk regresi menggunakan R?
  4. Bagaimana cara melakukan tuning parameter cost, gamma, dan epsilon serta mengevaluasi performa model menggunakan ukuran yang sesuai?

1.3 Tujuan Penelitian

  1. Mahasiswa dapat memahami konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR).
  2. Mahasiswa dapat menjelaskan hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR.
  3. Mahasiswa dapat mengimplementasikan SVM untuk klasifikasi dan SVR untuk regresi menggunakan R.
  4. Mahasiswa dapat melakukan tuning parameter cost, gamma, dan epsilon serta mengevaluasi performa model menggunakan ukuran yang sesuai.

1.4 Batasan Masalah

Lakukan analisis SVM/SVR secara lengkap mulai dari persiapan data, pembagian data training dan testing, pembentukan model, tuning parameter, prediksi, evaluasi, visualisasi, dan interpretasi. Gunakan set.seed(234) agar hasil pembagian data dapat direproduksi. NPM Ganjil – SVM Klasifikasi Lakukan klasifikasi menggunakan Support Vector Machine (SVM) pada data SynthDiabetes2 dari package mlbench, dengan variabel diabetes sebagai respons. Lakukan penanganan missing value sebagaimana pada sintaks praktikum sebelum membentuk model. Clue: Gunakan e1071::svm() dan bandingkan kernel linear dan radial. Untuk kernel radial, lakukan tuning kombinasi cost = 0.1, 1, 10, 100 dan gamma = 0.001, 0.01, 0.1, 1. Gunakan model terbaik untuk memprediksi data testing. Evaluasi model berdasarkan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC, dengan kelas pos sebagai kelas positif. Jelaskan pengaruh parameter cost dan gamma terhadap fleksibilitas model dan batas keputusan, kemudian tentukan kernel yang memberikan performa terbaik.

1.5 Manfaat Penelitian

Adapun manfaat dari pratikum kali ini adalah:

  1. Bagi penulis:
    1. Memberikan informasi serta pengetahuan mengenai konsep dasar SVM/SVR.
    2. Mengembangkan dan menerapkan wawasan ilmu yang telah diperoleh dalam bidang statistika khususnya tentang pengetahuan SVM/SVR.
  2. Bagi pembaca:
    1. Menambah pengetahuan tentang SVM/SVR di program RStudio.
    2. Menjadi rujukan untuk penelitian selanjutnya.

BAB II TINJAUAN PUSTAKA

2.1 Support Vector Machine (SVM)

Support Vector Machine (SVM) merupakan metode supervised learning yang digunakan untuk menyelesaikan permasalahan klasifikasi dengan menentukan batas pemisah optimal (optimal hyperplane) di antara kelas-kelas data. Prinsip utama SVM adalah mencari bidang pemisah yang mampu memaksimalkan jarak antara hyperplane dan observasi terdekat dari masing-masing kelas. Observasi yang terletak paling dekat dengan bidang pemisah tersebut disebut support vectors karena menentukan posisi dan orientasi hyperplane yang terbentuk (Wang et al., 2024). Prinsip kerja SVM dimulai dengan menggunakan data pelatihan yang terdiri atas sejumlah observasi dengan variabel prediktor dan label kelas. Selanjutnya, SVM mencari hyperplane yang dapat memisahkan observasi berdasarkan kelasnya. Dalam klasifikasi linear, persamaan hyperplane dapat dituliskan sebagai berikut (Fransiska, 2026): \[ w^Tx+b=0 \] Pada permasalahan klasifikasi non-linear, SVM menggunakan fungsi kernel untuk memetakan data ke dalam ruang fitur berdimensi lebih tinggi sehingga pola pemisahan kelas dapat ditemukan. Du et al. (2024) menjelaskan bahwa fungsi kernel memungkinkan metode pembelajaran linear dikembangkan untuk menangani hubungan non-linear tanpa harus melakukan transformasi dimensi secara eksplisit. Beberapa jenis fungsi kernel yang umum digunakan dalam SVM adalah sebagai berikut (Du et al.,, 2024): 1. Linear Kernel Linear kernel digunakan apabila data memiliki pola hubungan yang dapat dipisahkan secara linear. \[ K(x_i,x_j)=x_i^T x_j \] 2. Polynomial Kernel Polynomial kernel digunakan untuk menangani hubungan non-linear dengan mempertimbangkan interaksi antarvariabel dalam bentuk polinomial. \[ K(x_i,x_j)=(\gamma x_i^T x_j+r)^d \] 3. Radial Basis Function (RBF) Kernel RBF merupakan fungsi kernel yang banyak digunakan untuk menangani pola hubungan non-linear. Fungsi ini mengukur kemiripan berdasarkan jarak antara dua observasi. \[ K(x_i,x_j)= \exp(-\gamma\|x_i-x_j\|^2) \] 4. Sigmoid Kernel Sigmoid kernel menggunakan fungsi hiperbolik tangen untuk memetakan hubungan antarobservasi. \[ K(x_i,x_j)= \tanh(\gamma x_i^Tx_j+r) \]

2.2 Support Vector Regression (SVR)

   Support Vector Regression (SVR) merupakan pengembangan dari metode Support Vector Machine yang digunakan untuk menyelesaikan permasalahan regresi. Berbeda dengan SVM klasifikasi yang bertujuan memisahkan data ke dalam kelas tertentu, SVR bertujuan membentuk fungsi regresi yang dapat memperkirakan nilai variabel respons berdasarkan variabel prediktor. Menurut Rodríguez-Pérez dan Bajorath (2022), pendekatan SVM dapat diterapkan tidak hanya untuk klasifikasi, tetapi juga untuk pemodelan regresi. Pengembangan tersebut memungkinkan SVM digunakan untuk memprediksi nilai suatu variabel yang bersifat numerik.
   Wu dan Wang (2023) menjelaskan bahwa SVR merupakan metode yang memiliki parameter toleransi ketidaksensitifan (insensitivity parameter) yang berperan dalam menentukan observasi yang menjadi support vectors. Parameter tersebut berpengaruh terhadap kemampuan generalisasi dan hasil prediksi model. Dengan demikian, SVR dapat digunakan untuk memodelkan hubungan antara variabel independen dan variabel dependen yang memiliki nilai kontinu, termasuk ketika hubungan antarvariabel menunjukkan pola non-linear.
   Menurut Wu dan Wang (2023), terdapat tiga parameter penting dalam SVR yang memengaruhi kemampuan generalisasi model, yaitu parameter $C$, $gamma$, dan $varepsilon$.
   1. Parameter Cost (C)
      Parameter $C$ merupakan parameter regularisasi yang mengatur besarnya penalti terhadap kesalahan prediksi di luar batas toleransi. Nilai $C$ yang besar memberikan penalti lebih tinggi terhadap kesalahan, sedangkan nilai $C$ yang kecil memberikan toleransi lebih besar terhadap kesalahan prediksi.
   2. Parameter Gamma 
      Parameter gamma digunakan pada fungsi kernel tertentu, terutama RBF, untuk mengatur jangkauan pengaruh setiap observasi. Nilai gamma memengaruhi tingkat kelengkungan fungsi regresi yang dihasilkan.
   3. Parameter Epsilon 
      Parameter epsilon merupakan batas toleransi kesalahan prediksi. Kesalahan yang berada dalam rentang $-varepsilon$ hingga $+varepsilon$ tidak dikenakan penalti. Nilai epsilon juga berpengaruh terhadap jumlah support vectors yang digunakan dalam pembentukan model.
      

2.3 Evaluasi Model Support Vector Regression dan Evaluasi Model Support Vector Machine Evaluasi dilakukan pada data testing yang tidak digunakan dalam pembentukan model.

Untuk SVM klasifikasi, ukuran evaluasi yang digunakan sama dengan metode klasifikasi pada pertemuan sebelumnya, yaitu confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC. Untuk SVR, ukuran evaluasi yang digunakan adalah MSE, RMSE, MAE, dan R². Rumus ukuran evaluasi tidak diulang karena telah dibahas pada pertemuan sebelumnya (Fransiska, 2026).

BAB III METODE PENELITIAN

3.1 Jenis dan Sumber Data

Jenis data yang digunakan dalam praktikum ini adalah data kuantitatif, yaitu data yang berbentuk angka dan dapat diukur atau dihitung secara numerik. Data yang digunakan merupakan data sekunder, yaitu data yang telah tersedia dan dikumpulkan oleh pihak lain. Dataset yang digunakan adalah SynthDiabetes2 yang tersedia dalam paket mlbench pada software R. Dataset ini berisi informasi mengenai karakteristik pasien yang digunakan untuk melakukan klasifikasi diabetes berdasarkan beberapa variabel prediktor.

3.2 Variabel Penelitian

Variabel merupakan karakteristik atau atribut yang diamati dan digunakan dalam suatu penelitian. Pada praktikum ini, variabel respons yang digunakan adalah diabetes, yang terdiri atas dua kategori, yaitu negatif (neg) dan positif (pos). Sementara itu, variabel prediktor terdiri atas enam variabel, yaitu pregnant (jumlah kehamilan), glucose (kadar glukosa), pressure (tekanan darah), mass (indeks massa tubuh), pedigree (riwayat keturunan diabetes), dan age (usia). Variabel triceps dan insulin tidak digunakan dalam pemodelan karena memiliki jumlah missing value yang cukup tinggi. Data yang masih memiliki nilai hilang pada variabel yang digunakan kemudian dihapus sebelum proses pemodelan dilakukan.

3.3 Analisis Data

Langkah-langkah yang digunakan dalam praktikum ini untuk melakukan klasifikasi menggunakan metode Support Vector Machine (SVM) adalah sebagai berikut: 1. Memuat dataset SynthDiabetes2 dan paket yang diperlukan pada software R. 2. Melakukan eksplorasi data untuk mengetahui karakteristik, distribusi kelas, dan missing value. 3. Melakukan preprocessing dengan menghapus variabel triceps dan insulin serta observasi yang mengandung missing value. 4. Membagi data menjadi 70% data latih (training) dan 30% data uji (testing). 5. Membentuk model awal SVM menggunakan kernel radial. 6. Melakukan tuning parameter pada kernel radial (cost dan gamma) serta kernel linear (cost) menggunakan metode 5-fold cross-validation. 7. Membentuk model SVM radial dan linear berdasarkan kombinasi parameter terbaik. 8. Mengevaluasi dan membandingkan kinerja model menggunakan Confusion Matrix, Accuracy, Precision, Recall, Specificity, F1-Score, dan AUC. 9. Memvisualisasikan hasil analisis melalui heatmap, kurva ROC, dan decision boundary untuk melihat hasil optimasi dan kemampuan klasifikasi model.

BAB IV HASIL DAN PEMBAHASAN

4.1 Library dan Import Data

library(e1071)
library(mlbench)
library(caret)
## Loading required package: ggplot2
## 
## Attaching package: 'ggplot2'
## The following object is masked from 'package:e1071':
## 
##     element
## Loading required package: lattice
library(pROC)
## Type 'citation("pROC")' for a citation.
## 
## Attaching package: 'pROC'
## The following objects are masked from 'package:stats':
## 
##     cov, smooth, var
library(ggplot2)

# Memuat dataset
data("SynthDiabetes2", package = "mlbench")
pima <- SynthDiabetes2

# Menampilkan struktur dan ringkasan data
str(pima)
## 'data.frame':    768 obs. of  9 variables:
##  $ pregnant: num  0 8 2 6 4 10 3 1 4 7 ...
##  $ glucose : num  194 129 132 184 108 117 100 88 73 126 ...
##  $ pressure: num  50 84 72 62 58 80 80 75 82 92 ...
##  $ triceps : num  45 NA 42 NA 32 13 41 30 38 NA ...
##  $ insulin : num  NA NA NA NA NA NA 65 49 NA NA ...
##  $ mass    : num  28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
##  $ pedigree: num  0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
##  $ age     : num  28 44 26 39 22 58 33 22 33 46 ...
##  $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
summary(pima)
##     pregnant         glucose         pressure         triceps     
##  Min.   : 0.000   Min.   : 57.0   Min.   : 24.00   Min.   : 7.00  
##  1st Qu.: 1.000   1st Qu.:101.0   1st Qu.: 64.00   1st Qu.:22.00  
##  Median : 3.000   Median :119.0   Median : 72.00   Median :30.00  
##  Mean   : 4.585   Mean   :125.3   Mean   : 72.59   Mean   :29.46  
##  3rd Qu.: 7.000   3rd Qu.:144.5   3rd Qu.: 80.00   3rd Qu.:36.00  
##  Max.   :13.000   Max.   :199.0   Max.   :108.00   Max.   :63.00  
##                   NAs    :5       NAs    :35       NAs    :251    
##     insulin         mass          pedigree           age        diabetes 
##  Min.   : 14   Min.   :18.20   Min.   :0.0780   Min.   :21.00   neg:488  
##  1st Qu.: 76   1st Qu.:27.80   1st Qu.:0.2430   1st Qu.:24.00   pos:280  
##  Median :125   Median :32.80   Median :0.3670   Median :28.00            
##  Mean   :159   Mean   :32.87   Mean   :0.4792   Mean   :33.05            
##  3rd Qu.:194   3rd Qu.:36.95   3rd Qu.:0.6450   3rd Qu.:41.00            
##  Max.   :846   Max.   :59.40   Max.   :2.4200   Max.   :81.00            
##  NAs    :405   NAs    :13

Intepretasi Hasil 4.1

Berdasarkan sintaks yang dijalankan, dataset SynthDiabetes2 dari package mlbench dimuat ke dalam R untuk digunakan dalam analisis klasifikasi menggunakan metode Support Vector Machine (SVM). Perintah str() digunakan untuk mengetahui struktur dataset, termasuk jumlah observasi, variabel, dan tipe data. Hasilnya menunjukkan bahwa dataset terdiri atas 768 observasi dan 9 variabel, yaitu pregnant, glucose, pressure, triceps, insulin, mass, pedigree, age, dan diabetes. Variabel diabetes merupakan variabel respons yang memiliki dua kategori, yaitu neg (negatif) sebanyak 488 data dan pos (positif) sebanyak 280 data. Selanjutnya, fungsi summary() digunakan untuk mengetahui ringkasan statistik setiap variabel, seperti nilai minimum, maksimum, median, dan rata-rata. Tahap ini dilakukan untuk memperoleh gambaran awal mengenai karakteristik data sebelum dilakukan pengolahan lebih lanjut.

4.2 Mengidentifikasi dan Menangani Missing Value

# Memeriksa jumlah missing value
colSums(is.na(pima))
## pregnant  glucose pressure  triceps  insulin     mass pedigree      age 
##        0        5       35      251      405       13        0        0 
## diabetes 
##        0
# Menghapus variabel dengan missing value yang banyak
pima <- pima[, !names(pima) %in% c("triceps", "insulin")]

# Menghapus observasi yang masih memiliki missing value
pima <- na.omit(pima)

# Memastikan variabel respons berbentuk factor
pima$diabetes <- droplevels(as.factor(pima$diabetes))

# Menampilkan hasil preprocessing
dim(pima)
## [1] 727   7
table(pima$diabetes)
## 
## neg pos 
## 462 265
round(prop.table(table(pima$diabetes)), 4)
## 
##    neg    pos 
## 0.6355 0.3645

Intepretasi Hasil 4.2

Pada tahap ini dilakukan preprocessing untuk menangani nilai kosong (missing value) yang terdapat pada dataset. Berdasarkan hasil pemeriksaan menggunakan fungsi colSums(is.na()), diketahui bahwa variabel glucose memiliki 5 nilai kosong, pressure sebanyak 35, triceps sebanyak 251, insulin sebanyak 405, dan mass sebanyak 13. Variabel triceps dan insulin dihapus karena memiliki jumlah missing value yang cukup banyak dibandingkan variabel lainnya. Selanjutnya, fungsi na.omit() digunakan untuk menghapus observasi yang masih memiliki nilai kosong pada variabel yang dipertahankan. Setelah proses tersebut, diperoleh 727 observasi dengan 7 variabel, yaitu 6 variabel prediktor dan 1 variabel respons. Distribusi kelas diabetes terdiri atas 462 data kategori neg (63,55%) dan 265 data kategori pos (36,45%). Dengan demikian, data yang digunakan pada tahap selanjutnya sudah tidak mengandung missing value.

4.3 Membagi Data Menjadi 70% Data Latih (Training) dan 30% Data Uji (Testing)

set.seed(234)

# Membagi data secara stratified
idx.cls <- createDataPartition(
  pima$diabetes,
  p = 0.70,
  list = FALSE
)

pima.train <- pima[idx.cls, ]
pima.test  <- pima[-idx.cls, ]

# Menampilkan dimensi data
dim(pima.train)
## [1] 510   7
dim(pima.test)
## [1] 217   7
# Memeriksa distribusi kelas
round(prop.table(table(pima.train$diabetes)), 4)
## 
##    neg    pos 
## 0.6353 0.3647
round(prop.table(table(pima.test$diabetes)), 4)
## 
##    neg    pos 
## 0.6359 0.3641

Intepretasi Hasil 4.3

Pembagian data dilakukan dengan menggunakan proporsi 70% untuk data training dan 30% untuk data testing. Proses pembagian menggunakan fungsi createDataPartition() dari package caret agar proporsi masing-masing kelas pada data training dan testing tetap relatif sama. Berdasarkan hasil yang diperoleh, data training terdiri atas 510 observasi dan 7 variabel, sedangkan data testing terdiri atas 217 observasi dan 7 variabel. Distribusi kelas pada data training terdiri atas 63,53% kategori neg dan 36,47% kategori pos. Sementara itu, data testing memiliki 63,59% kategori neg dan 36,41% kategori pos. Proporsi tersebut menunjukkan bahwa pembagian data menghasilkan distribusi kelas yang relatif seimbang antara kedua kelompok. Data training digunakan untuk membentuk model SVM, sedangkan data testing digunakan untuk mengevaluasi kemampuan model dalam mengklasifikasikan data yang belum digunakan selama proses pelatihan.

4.4 Membentuk Model Awal dan Melakukan Tuning Parameter SVM

# Model awal menggunakan kernel radial
set.seed(234)
svm.radial.init <- svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "radial",
  cost = 1,
  gamma = 1 / (ncol(pima.train) - 1),
  scale = TRUE,
  probability = TRUE
)

# Tuning parameter kernel radial
set.seed(234)
tune.radial <- tune.svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "radial",
  cost = c(0.1, 1, 10, 100),
  gamma = c(0.001, 0.01, 0.1, 1),
  scale = TRUE,
  probability = TRUE,
  tunecontrol = tune.control(cross = 5)
)

svm.radial.best <- tune.radial$best.model

# Tuning parameter kernel linear
set.seed(234)
tune.linear <- tune.svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "linear",
  cost = c(0.1, 1, 10, 100),
  scale = TRUE,
  probability = TRUE,
  tunecontrol = tune.control(cross = 5)
)

svm.linear.best <- tune.linear$best.model

# Menampilkan parameter terbaik
tune.radial$best.parameters
##    gamma cost
## 14  0.01  100
tune.linear$best.parameters
##   cost
## 4  100

Intepretasi Hasil 4.4

Pada tahap ini dilakukan pembentukan model awal SVM menggunakan kernel radial dengan parameter cost sebesar 1 dan gamma sebesar 1/6. Selanjutnya, dilakukan proses tuning parameter untuk memperoleh kombinasi parameter terbaik pada kernel radial dan linear. Pengujian kernel radial menggunakan empat variasi cost, yaitu 0,1; 1; 10; dan 100, serta empat variasi gamma, yaitu 0,001; 0,01; 0,1; dan 1. Sementara itu, kernel linear hanya menggunakan variasi parameter cost yang sama. Proses pencarian parameter terbaik dilakukan menggunakan metode 5-fold cross-validation. Berdasarkan hasil pengujian, kernel radial memperoleh parameter terbaik berupa gamma sebesar 0,01 dan cost sebesar 100. Adapun kernel linear memperoleh parameter cost terbaik sebesar 100. Parameter terbaik tersebut kemudian digunakan untuk membentuk model SVM yang akan dievaluasi menggunakan data testing.

4.5 Melakukan Evaluasi Model Menggunakan Confusion Matrix

library(e1071)
library(caret)

# 1. Membuat fungsi evaluasi SVM
evaluasi_svm_cls <- function(model, data, pos_class = "pos") {
  pred <- predict(model, newdata = data)
  aktual <- data$diabetes

  cm <- confusionMatrix(
    data = factor(pred, levels = levels(aktual)),
    reference = aktual,
    positive = pos_class
  )

  hasil <- data.frame(
    Accuracy = unname(cm$overall["Accuracy"]),
    Precision = unname(cm$byClass["Precision"]),
    Recall = unname(cm$byClass["Sensitivity"]),
    Specificity = unname(cm$byClass["Specificity"]),
    F1_Score = unname(cm$byClass["F1"])
  )

  return(list(
    cm = cm$table,
    evaluasi = hasil
  ))
}

# 2. Evaluasi model radial terbaik
res.radial <- evaluasi_svm_cls(
  svm.radial.best,
  pima.test,
  pos_class = "pos"
)

# 3. Evaluasi model linear terbaik
res.linear <- evaluasi_svm_cls(
  svm.linear.best,
  pima.test,
  pos_class = "pos"
)

# 4. Menampilkan confusion matrix
res.radial$cm
##           Reference
## Prediction neg pos
##        neg 120  28
##        pos  18  51
res.linear$cm
##           Reference
## Prediction neg pos
##        neg 115  28
##        pos  23  51
# 5. Menampilkan hasil evaluasi
res.radial$evaluasi
##    Accuracy Precision    Recall Specificity  F1_Score
## 1 0.7880184 0.7391304 0.6455696   0.8695652 0.6891892
res.linear$evaluasi
##   Accuracy Precision    Recall Specificity  F1_Score
## 1 0.764977 0.6891892 0.6455696   0.8333333 0.6666667

Intepretasi Hasil 4.5

Evaluasi model dilakukan menggunakan confusion matrix untuk mengetahui kemampuan model dalam mengklasifikasikan data ke dalam kategori neg dan pos. Berdasarkan hasil evaluasi kernel radial terbaik, diperoleh 120 data negatif yang diklasifikasikan dengan benar sebagai neg (True Negative), 51 data positif yang diklasifikasikan dengan benar sebagai pos (True Positive), 18 data negatif yang salah diklasifikasikan sebagai pos (False Positive), dan 28 data positif yang salah diklasifikasikan sebagai neg (False Negative). Model radial menghasilkan akurasi sebesar 78,80%, sensitivitas sebesar 64,56%, dan spesifisitas sebesar 86,96%. Sementara itu, hasil evaluasi kernel linear menunjukkan bahwa terdapat 115 data negatif yang diklasifikasikan dengan benar, 51 data positif yang diklasifikasikan dengan benar, 23 data negatif yang salah diklasifikasikan sebagai positif, dan 28 data positif yang salah diklasifikasikan sebagai negatif. Model linear menghasilkan akurasi sebesar 76,50%, sensitivitas sebesar 64,56%, dan spesifisitas sebesar 83,33%. Berdasarkan hasil tersebut, kernel radial memiliki kemampuan klasifikasi yang lebih baik dibandingkan kernel linear berdasarkan nilai akurasi dan spesifisitas. Namun, kedua kernel menghasilkan nilai sensitivitas yang sama.

4.6 Membandingkan Hasil Evaluasi Model SVM

# 1. Evaluasi model Radial Awal (Baseline)
res.init <- evaluasi_svm_cls(
  svm.radial.init,
  pima.test,
  pos_class = "pos"
)

# 2. Evaluasi model Radial (Tuned)
res.radial <- evaluasi_svm_cls(
  svm.radial.best,
  pima.test,
  pos_class = "pos"
)

# 3. Evaluasi model Linear (Tuned)
res.linear <- evaluasi_svm_cls(
  svm.linear.best,
  pima.test,
  pos_class = "pos"
)

# 4. Menampilkan hasil evaluasi
res.init$evaluasi
##    Accuracy Precision    Recall Specificity  F1_Score
## 1 0.7788018 0.7246377 0.6329114   0.8623188 0.6756757
res.radial$evaluasi
##    Accuracy Precision    Recall Specificity  F1_Score
## 1 0.7880184 0.7391304 0.6455696   0.8695652 0.6891892
res.linear$evaluasi
##   Accuracy Precision    Recall Specificity  F1_Score
## 1 0.764977 0.6891892 0.6455696   0.8333333 0.6666667
# 5. Membandingkan hasil evaluasi ketiga model
tabel.perbandingan <- rbind(
  cbind(Model = "Radial Awal (Baseline)", res.init$evaluasi),
  cbind(Model = "Radial (Tuned)", res.radial$evaluasi),
  cbind(Model = "Linear (Tuned)", res.linear$evaluasi)
)

# 6. Menampilkan tabel perbandingan
print(tabel.perbandingan, row.names = FALSE)
##                   Model  Accuracy Precision    Recall Specificity  F1_Score
##  Radial Awal (Baseline) 0.7788018 0.7246377 0.6329114   0.8623188 0.6756757
##          Radial (Tuned) 0.7880184 0.7391304 0.6455696   0.8695652 0.6891892
##          Linear (Tuned) 0.7649770 0.6891892 0.6455696   0.8333333 0.6666667

Intepretasi Hasil 4.6

Berdasarkan hasil perbandingan ketiga model, yaitu radial awal (baseline), radial setelah tuning, dan linear setelah tuning, diperoleh beberapa nilai evaluasi yang berbeda. Model radial awal menghasilkan akurasi sebesar 77,88%, precision 72,46%, recall 63,29%, specificity 86,23%, F1-Score 67,57%, dan AUC 81,80%. Setelah dilakukan tuning, model radial mengalami peningkatan dengan akurasi sebesar 78,80%, precision 73,91%, recall 64,56%, specificity 86,96%, F1-Score 68,92%, dan AUC 82,42%. Sementara itu, model linear menghasilkan akurasi sebesar 76,50%, precision 68,92%, recall 64,56%, specificity 83,33%, F1-Score 66,67%, dan AUC 83,17%. Hasil tersebut menunjukkan bahwa model radial setelah tuning memiliki nilai akurasi, precision, specificity, dan F1-Score yang lebih tinggi dibandingkan kedua model lainnya. Namun, model linear menghasilkan nilai AUC tertinggi sebesar 83,17%. Berdasarkan proses pemilihan kernel yang mengutamakan nilai AUC, kemudian F1-Score dan accuracy sebagai kriteria berikutnya, diperoleh kernel linear sebagai model terbaik. Hal ini menunjukkan bahwa pemilihan model terbaik tidak hanya didasarkan pada akurasi, tetapi juga mempertimbangkan kemampuan model dalam membedakan kedua kategori kelas berdasarkan nilai AUC.

4.7 Visualisasi Hasil Tuning Parameter Kernel Radial

# Membuat heatmap hasil tuning
p_heatmap <- ggplot(
  tune.radial$performances,
  aes(
    x = factor(gamma),
    y = factor(cost),
    fill = error
  )
) +
  geom_tile(color = "white") +
  geom_text(
    aes(label = round(error, 3)),
    size = 3.5
  ) +
  labs(
    title = "5-Fold CV Error: Tuning Cost vs Gamma",
    x = "Gamma",
    y = "Cost",
    fill = "CV Error"
  ) +
  theme_minimal()

print(p_heatmap)

Intepretasi Hasil 4.7

Visualisasi heatmap digunakan untuk memperlihatkan perbandingan nilai kesalahan (cross-validation error) dari berbagai kombinasi parameter cost dan gamma pada kernel radial. Setiap kotak pada heatmap menunjukkan nilai kesalahan yang diperoleh dari kombinasi kedua parameter tersebut. Perbedaan warna menggambarkan besar kecilnya nilai kesalahan, sedangkan angka di dalam setiap kotak menunjukkan nilai error secara langsung. Kombinasi parameter dengan nilai error paling rendah menunjukkan konfigurasi yang memberikan hasil validasi terbaik. Berdasarkan hasil tuning sebelumnya, kombinasi parameter terbaik diperoleh pada cost sebesar 100 dan gamma sebesar 0,01. Kombinasi tersebut kemudian digunakan untuk membentuk model radial terbaik dalam proses klasifikasi data diabetes.

4.8 Visualisasi Kurva ROC

library(e1071)
library(caret)
library(pROC)
library(ggplot2)

# 1. Fungsi evaluasi SVM
evaluasi_svm_cls <- function(model, data, pos_class = "pos") {
  pred <- predict(model, newdata = data)
  aktual <- data$diabetes

  cm <- confusionMatrix(
    data = factor(pred, levels = levels(aktual)),
    reference = aktual,
    positive = pos_class
  )

  # Mengambil probabilitas kelas positif
  pred.prob <- predict(model, newdata = data, probability = TRUE)
  prob <- attr(pred.prob, "probabilities")[, pos_class]

  # Menghitung ROC dan AUC
  roc.obj <- roc(
    response = aktual,
    predictor = prob,
    levels = c(setdiff(levels(aktual), pos_class), pos_class),
    direction = "<",
    quiet = TRUE
  )

  hasil <- data.frame(
    Accuracy = unname(cm$overall["Accuracy"]),
    Precision = unname(cm$byClass["Precision"]),
    Recall = unname(cm$byClass["Sensitivity"]),
    Specificity = unname(cm$byClass["Specificity"]),
    F1_Score = unname(cm$byClass["F1"]),
    AUC = as.numeric(auc(roc.obj))
  )

  return(list(
    cm = cm$table,
    evaluasi = hasil,
    roc = roc.obj
  ))
}

# 2. Evaluasi ulang ketiga model
res.init <- evaluasi_svm_cls(svm.radial.init, pima.test, "pos")
res.radial <- evaluasi_svm_cls(svm.radial.best, pima.test, "pos")
res.linear <- evaluasi_svm_cls(svm.linear.best, pima.test, "pos")

# 3. Menampilkan perbandingan evaluasi
tabel.perbandingan <- rbind(
  cbind(Model = "Radial Awal (Baseline)", res.init$evaluasi),
  cbind(Model = "Radial (Tuned)", res.radial$evaluasi),
  cbind(Model = "Linear (Tuned)", res.linear$evaluasi)
)

print(tabel.perbandingan, row.names = FALSE)
##                   Model  Accuracy Precision    Recall Specificity  F1_Score
##  Radial Awal (Baseline) 0.7788018 0.7246377 0.6329114   0.8623188 0.6756757
##          Radial (Tuned) 0.7880184 0.7391304 0.6455696   0.8695652 0.6891892
##          Linear (Tuned) 0.7649770 0.6891892 0.6455696   0.8333333 0.6666667
##        AUC
##  0.8180150
##  0.8241607
##  0.8316823
# 4. Menampilkan kurva ROC ketiga model
plot(
  res.init$roc,
  legacy.axes = TRUE,
  col = "black",
  lwd = 2,
  main = "Perbandingan Kurva ROC pada Data Testing"
)

plot(res.radial$roc, add = TRUE, col = "#1b7837", lwd = 2)
plot(res.linear$roc, add = TRUE, col = "#2166ac", lwd = 2)

legend(
  "bottomright",
  legend = c(
    paste("Radial Awal (AUC =", round(res.init$evaluasi$AUC, 3), ")"),
    paste("Radial Tuned (AUC =", round(res.radial$evaluasi$AUC, 3), ")"),
    paste("Linear Tuned (AUC =", round(res.linear$evaluasi$AUC, 3), ")")
  ),
  col = c("black", "#1b7837", "#2166ac"),
  lwd = 2
)

Intepretasi Hasil 4.8

Kurva ROC digunakan untuk membandingkan kemampuan model radial dan linear dalam membedakan kelas negatif dan positif berdasarkan berbagai nilai ambang klasifikasi. Grafik ini memperlihatkan hubungan antara True Positive Rate (sensitivitas) dan False Positive Rate (1-spesifisitas). Berdasarkan hasil evaluasi, model radial memiliki nilai AUC sebesar 0,8242, sedangkan model linear memperoleh nilai AUC sebesar 0,8317. Kedua model memiliki nilai AUC di atas 0,80 yang menunjukkan kemampuan diskriminasi yang baik. Meskipun demikian, model linear memiliki nilai AUC sedikit lebih tinggi dibandingkan model radial. Hal ini menunjukkan bahwa model linear memiliki kemampuan yang lebih baik dalam membedakan kelas diabetes negatif dan positif secara keseluruhan berdasarkan kurva ROC.

4.9 Visualisasi Batas Keputusan (Decision Boundary)

# Membentuk grid berdasarkan dua prediktor utama
grid_2d <- expand.grid(
  glucose = seq(
    min(pima.train$glucose),
    max(pima.train$glucose),
    length.out = 100
  ),
  mass = seq(
    min(pima.train$mass),
    max(pima.train$mass),
    length.out = 100
  )
)

# Mengisi prediktor lainnya menggunakan nilai median
for (nm in setdiff(
  names(pima.train),
  c("diabetes", "glucose", "mass")
)) {
  grid_2d[[nm]] <- median(pima.train[[nm]])
}

# Melakukan prediksi menggunakan model radial terbaik
grid_2d$pred_radial <- predict(
  svm.radial.best,
  newdata = grid_2d
)

# Membuat visualisasi decision boundary
p_boundary <- ggplot() +
  geom_tile(
    data = grid_2d,
    aes(
      x = glucose,
      y = mass,
      fill = pred_radial
    ),
    alpha = 0.35
  ) +
  geom_point(
    data = pima.test,
    aes(
      x = glucose,
      y = mass,
      color = diabetes
    ),
    size = 2
  ) +
  labs(
    title = "Batas Keputusan SVM Radial Terbaik",
    subtitle = "Prediktor lain diikat pada nilai median data training",
    fill = "Prediksi",
    color = "Aktual Test"
  ) +
  theme_minimal()

print(p_boundary)

Intepretasi Hasil 4.9

Visualisasi decision boundary digunakan untuk menggambarkan batas keputusan yang dibentuk oleh model SVM radial terbaik dalam memisahkan kategori diabetes negatif dan positif. Grafik menggunakan variabel glucose sebagai sumbu horizontal dan mass sebagai sumbu vertikal. Area berwarna menunjukkan hasil prediksi kelas berdasarkan model SVM, sedangkan titik-titik pada grafik menggambarkan data aktual dari kelompok testing. Dalam proses visualisasi, variabel prediktor lainnya ditetapkan menggunakan nilai median dari data training sehingga pengamatan dapat ditampilkan dalam dua dimensi. Batas antararea warna menunjukkan pemisahan wilayah prediksi untuk masing-masing kategori. Visualisasi ini membantu memperlihatkan bagaimana model SVM radial membentuk pola pemisahan kelas berdasarkan kombinasi nilai glucose dan mass.

BAB V KESIMPULAN DAN SARAN

5.1 Kesimpulan

Support Vector Machine (SVM) merupakan metode machine learning yang digunakan untuk menyelesaikan masalah klasifikasi dengan mencari batas pemisah terbaik antara dua kelas atau lebih. SVM bekerja dengan menentukan hyperplane yang memiliki jarak atau margin terbesar terhadap data dari masing-masing kelas sehingga dapat menghasilkan klasifikasi yang optimal. Sementara itu, Support Vector Regression (SVR) merupakan pengembangan SVM yang digunakan untuk masalah regresi, yaitu memprediksi nilai numerik berdasarkan hubungan antara variabel prediktor dan variabel respons.

Pada SVM, hyperplane merupakan garis atau bidang yang memisahkan data ke dalam kelas tertentu, sedangkan margin adalah jarak antara hyperplane dengan titik data terdekat dari masing-masing kelas. Titik data yang berada paling dekat dengan hyperplane disebut support vector karena berperan dalam menentukan posisi batas pemisah. Soft margin memungkinkan beberapa data mengalami kesalahan klasifikasi agar model lebih fleksibel terhadap data yang tidak dapat dipisahkan secara sempurna. Sementara itu, fungsi kernel digunakan untuk memetakan data ke ruang berdimensi lebih tinggi agar pola yang tidak linear dapat dipisahkan. Pada SVR, epsilon-insensitive loss merupakan fungsi kerugian yang tidak memberikan penalti terhadap kesalahan prediksi selama masih berada dalam batas epsilon. Batas tersebut membentuk epsilon-tube, yaitu daerah di sekitar garis regresi tempat kesalahan prediksi masih ditoleransi.

Implementasi SVM dan SVR menggunakan R dapat dilakukan dengan bantuan paket e1071, khususnya fungsi svm(). Untuk klasifikasi, variabel respons harus berbentuk kategori atau faktor, kemudian model dibangun menggunakan type = “C-classification” dengan menentukan kernel yang digunakan, seperti linear atau radial. Sementara itu, untuk regresi, variabel respons berbentuk numerik dan model dibangun menggunakan type = “eps-regression”. Setelah model terbentuk, data pengujian digunakan untuk menghasilkan prediksi dan mengetahui kemampuan model dalam mengklasifikasikan kategori atau memprediksi nilai numerik.

Tuning parameter dilakukan untuk memperoleh kombinasi parameter terbaik agar performa model lebih optimal. Parameter cost mengatur besarnya penalti terhadap kesalahan prediksi, gamma mengatur pengaruh setiap titik data pada kernel radial, sedangkan epsilon menentukan batas toleransi kesalahan pada SVR. Proses tuning dapat dilakukan menggunakan fungsi tune.svm() dengan mencoba beberapa kombinasi nilai parameter dan menerapkan cross-validation. Evaluasi model klasifikasi dapat menggunakan ukuran akurasi, presisi, sensitivitas, spesifisitas, F1-Score, dan AUC. Sementara itu, evaluasi SVR dapat menggunakan RMSE, MAE, dan \(R^2\) untuk mengukur besarnya kesalahan serta kemampuan model dalam menjelaskan variasi data.

Berdasarkan hasil praktikum yang telah dilakukan, dapat disimpulkan bahwa metode Support Vector Machine (SVM) mampu digunakan untuk mengklasifikasikan data diabetes ke dalam dua kategori, yaitu negatif dan positif. Proses analisis meliputi preprocessing data, pembagian data training dan testing, serta pembentukan model menggunakan kernel radial dan linear dengan optimasi parameter melalui 5-fold cross-validation. Hasil evaluasi menunjukkan bahwa model kernel radial setelah tuning menghasilkan akurasi tertinggi sebesar 78,80%, sedangkan kernel linear memperoleh nilai AUC tertinggi sebesar 83,17%. Model radial juga menghasilkan nilai precision 73,91%, sensitivity 64,56%, specificity 86,96%, dan F1-Score 68,92%. Sementara itu, model linear menghasilkan akurasi 76,50% dengan nilai AUC 83,17%. Dengan demikian, kernel radial lebih unggul dalam ketepatan klasifikasi berdasarkan akurasi, sedangkan kernel linear memiliki kemampuan diskriminasi kelas yang sedikit lebih baik berdasarkan AUC. Hasil ini menunjukkan bahwa pemilihan kernel dan optimasi parameter berpengaruh terhadap kinerja model SVM dalam melakukan klasifikasi data diabetes.

5.2 Saran

Dalam membuat laporan praktikum ini penulis menyarankan untuk selalu memperhatikan sintaks pada program R yang digunakan. Selain itu, perlu untuk memperhatikan tata cara penulisan yang sesuai dengan KBBI dan penulisan yang bercetak tebal. Sehingga dapat menghasilkan laporan yang baik

DAFTAR PUSTAKA

Fransiska, H. (2026). Modul Praktikum Machine Learning. Universitas Bengkulu.

Artini, N. P. S. Y., Sumarjaya, I. W., & Nilakusmawati, D. P. E. (2024). Penerapan metode Support Vector Regression (SVR) dengan algoritma Grid Search dalam peramalan harga saham. E-Jurnal Matematika, 13(2), 94–104.

Primartha, R. (2021). Algoritma machine learning. Informatika Bandung.

Ruliana, R., Rais, Z., Marni, M., & Ahmar, A. S. (2024). Implementation of the Support Vector Regression (SVR) method in inflation prediction in Makassar City. ARRUS Journal of Mathematics and Applied Science, 4(1), 28–35.

Suyanto. (2022). Machine learning: Tingkat dasar dan lanjut (Edisi ke-2). Informatika Bandung.