BAB I PENDAHULUAN

1.1 Latar Belakang

Perkembangan teknologi informasi mendorong pemanfaatan metode Machine Learning dalam pengolahan dan analisis data untuk memperoleh informasi serta menghasilkan prediksi yang lebih akurat. Salah satu metode yang banyak digunakan adalah Support Vector Machine (SVM), yaitu metode pembelajaran mesin yang bekerja dengan mencari hyperplane optimal untuk memisahkan data ke dalam kelompok atau kelas tertentu. SVM memiliki kemampuan dalam menangani data dengan dimensi yang tinggi serta dapat menggunakan fungsi kernel untuk menyelesaikan permasalahan klasifikasi yang memiliki pola hubungan kompleks. Metode ini menjadi salah satu pendekatan yang dapat digunakan dalam proses klasifikasi maupun analisis data berbasis prediksi (Primartha, 2021).

Seiring dengan perkembangannya, SVM memiliki pengembangan yang disebut Support Vector Regression (SVR) yang digunakan untuk menyelesaikan permasalahan regresi atau memprediksi nilai yang bersifat kontinu. Berbeda dengan SVM yang umumnya digunakan untuk mengklasifikasikan data, SVR bertujuan membentuk fungsi regresi dengan meminimalkan kesalahan prediksi melalui penggunaan batas toleransi kesalahan atau epsilon (ε). Dalam penerapannya, SVR dapat menggunakan beberapa fungsi kernel, seperti kernel linear, polynomial, sigmoid, dan Radial Basis Function (RBF), untuk menyesuaikan pola hubungan antara variabel prediktor dan variabel respon (Ruliana et al., 2024).

Penerapan metode SVM dan SVR telah digunakan dalam berbagai bidang, seperti pengenalan pola, analisis data, serta peramalan kondisi ekonomi. Penggunaan SVR dalam penelitian peramalan inflasi di Kota Makassar menunjukkan bahwa metode ini dapat digunakan untuk memodelkan pola data dan menghasilkan prediksi dengan tingkat kesalahan yang relatif kecil (Ruliana et al., 2024). Selain itu, penerapan SVR dalam peramalan harga saham juga menunjukkan bahwa pemilihan fungsi kernel dan optimasi parameter berperan penting dalam memperoleh model terbaik (Artini et al., 2024). Oleh karena itu, praktikum ini dilakukan untuk memahami konsep dasar, prinsip kerja, serta penerapan metode SVM dan SVR dalam membangun model klasifikasi dan regresi, sekaligus mengevaluasi kemampuan model berdasarkan hasil pengolahan data.

1.2 Rumusan Masalah

  1. Bagaimana konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR)?
  2. Apa itu hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR?
  3. Bagaimana mengimplementasikan SVM untuk klasifikasi dan SVR untuk regresi menggunakan R?
  4. Bagaimana cara melakukan tuning parameter cost, gamma, dan epsilon serta mengevaluasi performa model menggunakan ukuran yang sesuai?

1.3 Tujuan Penelitian

  1. Mahasiswa dapat memahami konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR).
  2. Mahasiswa dapat menjelaskan hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR.
  3. Mahasiswa dapat mengimplementasikan SVM untuk klasifikasi dan SVR untuk regresi menggunakan R.
  4. Mahasiswa dapat melakukan tuning parameter cost, gamma, dan epsilon serta mengevaluasi performa model menggunakan ukuran yang sesuai.

1.4 Batasan Masalah

Lakukan analisis SVM/SVR secara lengkap mulai dari persiapan data, pembagian data training dan testing, pembentukan model, tuning parameter, prediksi, evaluasi, visualisasi, dan interpretasi. Gunakan set.seed(234) agar hasil pembagian data dapat direproduksi. NPM Ganjil – SVM Klasifikasi Lakukan klasifikasi menggunakan Support Vector Machine (SVM) pada data SynthDiabetes2 dari package mlbench, dengan variabel diabetes sebagai respon. Lakukan penanganan missing value sebagaimana pada sintaks praktikum sebelum membentuk model. Clue: Gunakan e1071::svm() dan bandingkan kernel linear dan radial. Untuk kernel radial, lakukan tuning kombinasi cost = 0.1, 1, 10, 100 dan gamma = 0.001, 0.01, 0.1, 1. Gunakan model terbaik untuk memprediksi data testing. Evaluasi model berdasarkan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC, dengan kelas pos sebagai kelas positif. Jelaskan pengaruh parameter cost dan gamma terhadap fleksibilitas model dan batas keputusan, kemudian tentukan kernel yang memberikan performa terbaik.

1.5 Manfaat Penelitian

Adapun manfaat dari pratikum kali ini adalah:

  1. Bagi penulis:
    1. Memberikan informasi serta pengetahuan mengenai konsep dasar SVM/SVR.
    2. Mengembangkan dan menerapkan wawasan ilmu yang telah diperoleh dalam bidang statistika khususnya tentang pengetahuan SVM/SVR.
  2. Bagi pembaca:
    1. Menambah pengetahuan tentang SVM/SVR di program RStudio.
    2. Menjadi rujukan untuk penelitian selanjutnya.

1.6 Sistematika Penulisan

Adapun sistematika penulisan dari praktikum ini adalah sebagai berikut:

BAB I PENDAHULUAN

Bab ini merupakan bab yang memuat latar belakang penelitian, rumusan masalah, tujuan dan manfaat penelitian, batasan masalah penelitian, dan sistematika penelitian.

BAB II TINJAUAN PUSTAKA

Bab ini merupakan bab yang memuat pengertian dari teori yang diperlukan untuk rancangan penelitian pada bab-bab berikutnya.

BAB III METODE PENELITIAN

Bab ini merupakan bab yang memuat uraian mengenai jenis dan sumber penelitian, variabel penelitian, dan analisis data.

BAB IV HASIL DAN PEMBAHASAN

Bab ini merupakan bab yang memuat hasil analisis, pembahasan dari hasil yang telah diperoleh, dan interpretasi.

BAB V KESIMPULAN DAN SARAN

Bab ini merupakan bab yang memuat rangkuman dari hasil keseluruhan dan saran yang diberikan oleh penulis terhadap hasil maupun analisis yang telah dilakukan.

DAFTAR PUSTAKA

BAB II TINJAUAN PUSTAKA

2.1 Support Vector Machine (SVM)

Support Vector Machine (SVM) merupakan metode supervised learning yang digunakan untuk menyelesaikan permasalahan klasifikasi dengan menentukan batas pemisah optimal (optimal hyperplane) di antara kelas-kelas data. Prinsip utama SVM adalah mencari bidang pemisah yang mampu memaksimalkan jarak antara hyperplane dan observasi terdekat dari masing-masing kelas. Observasi yang terletak paling dekat dengan bidang pemisah tersebut disebut support vectors karena menentukan posisi dan orientasi hyperplane yang terbentuk (Wang et al., 2024). Prinsip kerja SVM dimulai dengan menggunakan data pelatihan yang terdiri atas sejumlah observasi dengan variabel prediktor dan label kelas. Selanjutnya, SVM mencari hyperplane yang dapat memisahkan observasi berdasarkan kelasnya. Dalam klasifikasi linear, persamaan hyperplane dapat dituliskan sebagai berikut (Fransiska, 2026): \[ w^Tx+b=0 \] Pada permasalahan klasifikasi non-linear, SVM menggunakan fungsi kernel untuk memetakan data ke dalam ruang fitur berdimensi lebih tinggi sehingga pola pemisahan kelas dapat ditemukan. Du et al. (2024) menjelaskan bahwa fungsi kernel memungkinkan metode pembelajaran linear dikembangkan untuk menangani hubungan non-linear tanpa harus melakukan transformasi dimensi secara eksplisit. Beberapa jenis fungsi kernel yang umum digunakan dalam SVM adalah sebagai berikut (Du et al.,, 2024): 1. Linear Kernel Linear kernel digunakan apabila data memiliki pola hubungan yang dapat dipisahkan secara linear. \[ K(x_i,x_j)=x_i^T x_j \] 2. Polynomial Kernel Polynomial kernel digunakan untuk menangani hubungan non-linear dengan mempertimbangkan interaksi antarvariabel dalam bentuk polinomial. \[ K(x_i,x_j)=(\gamma x_i^T x_j+r)^d \] 3. Radial Basis Function (RBF) Kernel RBF merupakan fungsi kernel yang banyak digunakan untuk menangani pola hubungan non-linear. Fungsi ini mengukur kemiripan berdasarkan jarak antara dua observasi. \[ K(x_i,x_j)= \exp(-\gamma\|x_i-x_j\|^2) \] 4. Sigmoid Kernel Sigmoid kernel menggunakan fungsi hiperbolik tangen untuk memetakan hubungan antarobservasi. \[ K(x_i,x_j)= \tanh(\gamma x_i^Tx_j+r) \]

2.2 Support Vector Regression (SVR)

Support Vector Regression (SVR) merupakan pengembangan dari metode Support Vector Machine yang digunakan untuk menyelesaikan permasalahan regresi. Berbeda dengan SVM klasifikasi yang bertujuan memisahkan data ke dalam kelas tertentu, SVR bertujuan membentuk fungsi regresi yang dapat memperkirakan nilai variabel respons berdasarkan variabel prediktor. Menurut Rodríguez-Pérez dan Bajorath (2022), pendekatan SVM dapat diterapkan tidak hanya untuk klasifikasi, tetapi juga untuk pemodelan regresi. Pengembangan tersebut memungkinkan SVM digunakan untuk memprediksi nilai suatu variabel yang bersifat numerik.

Wu dan Wang (2023) menjelaskan bahwa SVR merupakan metode yang memiliki parameter toleransi ketidaksensitifan (insensitivity parameter) yang berperan dalam menentukan observasi yang menjadi support vectors. Parameter tersebut berpengaruh terhadap kemampuan generalisasi dan hasil prediksi model. Dengan demikian, SVR dapat digunakan untuk memodelkan hubungan antara variabel independen dan variabel dependen yang memiliki nilai kontinu, termasuk ketika hubungan antarvariabel menunjukkan pola non-linear.Menurut Wu dan Wang (2023), terdapat tiga parameter penting dalam SVR yang memengaruhi kemampuan generalisasi model, yaitu parameter \(C\), \(gamma\), dan \(varepsilon\).

  1. Parameter Cost (C) Parameter \(C\) merupakan parameter regularisasi yang mengatur besarnya penalti terhadap kesalahan prediksi di luar batas toleransi. Nilai \(C\) yang besar memberikan penalti lebih tinggi terhadap kesalahan, sedangkan nilai \(C\) yang kecil memberikan toleransi lebih besar terhadap kesalahan prediksi.

  2. Parameter Gamma Parameter gamma digunakan pada fungsi kernel tertentu, terutama RBF, untuk mengatur jangkauan pengaruh setiap observasi. Nilai gamma memengaruhi tingkat kelengkungan fungsi regresi yang dihasilkan.

  3. Parameter Epsilon Parameter epsilon merupakan batas toleransi kesalahan prediksi. Kesalahan yang berada dalam rentang \(-varepsilon\) hingga \(+varepsilon\) tidak dikenakan penalti. Nilai epsilon juga berpengaruh terhadap jumlah support vectors yang digunakan dalam pembentukan model.

2.3 Evaluasi Model SVR dan Evaluasi Model SVM

Evaluasi dilakukan pada data testing yang tidak digunakan dalam pembentukan model. Untuk SVM klasifikasi, ukuran evaluasi yang digunakan sama dengan metode klasifikasi pada pertemuan sebelumnya, yaitu confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC. Untuk SVR, ukuran evaluasi yang digunakan adalahMSE, RMSE, MAE, dan R². Rumus ukuran evaluasi tidak diulang karena telah dibahas pada pertemuan sebelumnya (Fransiska, 2026).

BAB III METODE PENELITIAN

3.1 Jenis dan Sumber Data

Jenis data yang digunakan dalam praktikum ini adalah data kuantitatif, yaitu data yang berbentuk angka dan dapat diukur atau dihitung secara numerik. Data yang digunakan merupakan data sekunder, yaitu data yang telah tersedia dan dikumpulkan oleh pihak lain. Dataset yang digunakan adalah SynthDiabetes2 yang tersedia dalam paket mlbench pada software R. Dataset ini berisi informasi mengenai karakteristik pasien yang digunakan untuk melakukan klasifikasi diabetes berdasarkan beberapa variabel prediktor.

3.2 Variabel Penelitian

Variabel merupakan karakteristik atau atribut yang diamati dan digunakan dalam suatu penelitian. Pada praktikum ini, variabel respon yang digunakan adalah diabetes, yang terdiri atas dua kategori, yaitu negatif (neg) dan positif (pos). Sementara itu, variabel prediktor terdiri atas enam variabel, yaitu pregnant (jumlah kehamilan), glucose (kadar glukosa), pressure (tekanan darah), mass (indeks massa tubuh), pedigree (riwayat keturunan diabetes), dan age (usia). Variabel triceps dan insulin tidak digunakan dalam pemodelan karena memiliki jumlah missing value yang cukup tinggi. Data yang masih memiliki nilai hilang pada variabel yang digunakan kemudian dihapus sebelum proses pemodelan dilakukan.

3.3 Analisis Data

Langkah-langkah yang digunakan dalam praktikum ini untuk melakukan klasifikasi menggunakan metode Support Vector Machine (SVM) adalah sebagai berikut:

  1. Memuat dataset SynthDiabetes2 dan paket yang diperlukan pada software R.
  2. Melakukan eksplorasi data untuk mengetahui karakteristik, distribusi kelas, dan missing value.
  3. Melakukan preprocessing dengan menghapus variabel triceps dan insulin serta observasi yang mengandung missing value.
  4. Membagi data menjadi 70% data latih (training) dan 30% data uji (testing).
  5. Membentuk model awal SVM menggunakan kernel radial.
  6. Melakukan tuning parameter pada kernel radial (cost dan gamma) serta kernel linear (cost) menggunakan metode 5-fold cross-validation.
  7. Membentuk model SVM radial dan linear berdasarkan kombinasi parameter terbaik.
  8. Mengevaluasi dan membandingkan kinerja model menggunakan Confusion Matrix, Accuracy, Precision, Recall, Specificity, F1-Score, dan AUC.
  9. Memvisualisasikan hasil analisis melalui heatmap, kurva ROC, dan decision boundary untuk melihat hasil optimasi dan kemampuan klasifikasi model.

BAB IV HASIL DAN PEMBAHASAN

4.1 Library dan Import Data

library(e1071)
library(mlbench)
library(caret)
## Loading required package: ggplot2
## Warning: package 'ggplot2' was built under R version 4.6.2
## 
## Attaching package: 'ggplot2'
## The following object is masked from 'package:e1071':
## 
##     element
## Loading required package: lattice
library(pROC)
## Type 'citation("pROC")' for a citation.
## 
## Attaching package: 'pROC'
## The following objects are masked from 'package:stats':
## 
##     cov, smooth, var
library(ggplot2)
pima <- tryCatch({
  data("SynthDiabetes2", package = "mlbench")
  SynthDiabetes2
}, error = function(e) {
  message("SynthDiabetes2 tidak ditemukan, memakai PimaIndiansDiabetes2")
  data("PimaIndiansDiabetes2", package = "mlbench")
  PimaIndiansDiabetes2
}, warning = function(w) {
  message("SynthDiabetes2 tidak ditemukan, memakai PimaIndiansDiabetes2")
  data("PimaIndiansDiabetes2", package = "mlbench")
  PimaIndiansDiabetes2
})

str(pima)
## 'data.frame':    768 obs. of  9 variables:
##  $ pregnant: num  0 8 2 6 4 10 3 1 4 7 ...
##  $ glucose : num  194 129 132 184 108 117 100 88 73 126 ...
##  $ pressure: num  50 84 72 62 58 80 80 75 82 92 ...
##  $ triceps : num  45 NA 42 NA 32 13 41 30 38 NA ...
##  $ insulin : num  NA NA NA NA NA NA 65 49 NA NA ...
##  $ mass    : num  28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
##  $ pedigree: num  0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
##  $ age     : num  28 44 26 39 22 58 33 22 33 46 ...
##  $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
summary(pima)
##     pregnant         glucose         pressure         triceps     
##  Min.   : 0.000   Min.   : 57.0   Min.   : 24.00   Min.   : 7.00  
##  1st Qu.: 1.000   1st Qu.:101.0   1st Qu.: 64.00   1st Qu.:22.00  
##  Median : 3.000   Median :119.0   Median : 72.00   Median :30.00  
##  Mean   : 4.585   Mean   :125.3   Mean   : 72.59   Mean   :29.46  
##  3rd Qu.: 7.000   3rd Qu.:144.5   3rd Qu.: 80.00   3rd Qu.:36.00  
##  Max.   :13.000   Max.   :199.0   Max.   :108.00   Max.   :63.00  
##                   NAs    :5       NAs    :35       NAs    :251    
##     insulin         mass          pedigree           age        diabetes 
##  Min.   : 14   Min.   :18.20   Min.   :0.0780   Min.   :21.00   neg:488  
##  1st Qu.: 76   1st Qu.:27.80   1st Qu.:0.2430   1st Qu.:24.00   pos:280  
##  Median :125   Median :32.80   Median :0.3670   Median :28.00            
##  Mean   :159   Mean   :32.87   Mean   :0.4792   Mean   :33.05            
##  3rd Qu.:194   3rd Qu.:36.95   3rd Qu.:0.6450   3rd Qu.:41.00            
##  Max.   :846   Max.   :59.40   Max.   :2.4200   Max.   :81.00            
##  NAs    :405   NAs    :13

Intepretasi Hasil 4.1

Berdasarkan sintaks yang dijalankan, dataset SynthDiabetes2 dari package mlbench dimuat ke dalam R untuk digunakan dalam analisis klasifikasi menggunakan metode Support Vector Machine (SVM). Perintah str() digunakan untuk mengetahui struktur dataset, termasuk jumlah observasi, variabel, dan tipe data. Hasilnya menunjukkan bahwa dataset terdiri atas 768 observasi dan 9 variabel, yaitu pregnant, glucose, pressure, triceps, insulin, mass, pedigree, age, dan diabetes. Variabel diabetes merupakan variabel respons yang memiliki dua kategori, yaitu neg (negatif) sebanyak 488 data dan pos (positif) sebanyak 280 data. Selanjutnya, fungsi summary() digunakan untuk mengetahui ringkasan statistik setiap variabel, seperti nilai minimum, maksimum, median, dan rata-rata. Tahap ini dilakukan untuk memperoleh gambaran awal mengenai karakteristik data sebelum dilakukan pengolahan lebih lanjut.

4.2 Mengidentifikasi dan Menangani Missing Value

# Jumlah missing value per variabel
colSums(is.na(pima))
## pregnant  glucose pressure  triceps  insulin     mass pedigree      age 
##        0        5       35      251      405       13        0        0 
## diabetes 
##        0
# Menghapus dua prediktor dengan banyak missing value (sesuai praktikum)
pima <- pima[, !names(pima) %in% c("triceps", "insulin")]

# Menghapus sisa observasi yang masih mengandung missing value
pima <- na.omit(pima)

# Memastikan respons berupa factor
pima$diabetes <- droplevels(as.factor(pima$diabetes))

str(pima)
## 'data.frame':    727 obs. of  7 variables:
##  $ pregnant: num  0 8 2 6 4 10 3 1 4 7 ...
##  $ glucose : num  194 129 132 184 108 117 100 88 73 126 ...
##  $ pressure: num  50 84 72 62 58 80 80 75 82 92 ...
##  $ mass    : num  28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
##  $ pedigree: num  0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
##  $ age     : num  28 44 26 39 22 58 33 22 33 46 ...
##  $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
##  - attr(*, "na.action")= 'omit' Named int [1:41] 42 57 59 60 77 96 108 109 119 158 ...
##   ..- attr(*, "names")= chr [1:41] "42" "57" "59" "60" ...
summary(pima)
##     pregnant        glucose         pressure           mass      
##  Min.   : 0.00   Min.   : 57.0   Min.   : 24.00   Min.   :18.20  
##  1st Qu.: 1.00   1st Qu.:101.0   1st Qu.: 64.00   1st Qu.:27.80  
##  Median : 3.00   Median :119.0   Median : 72.00   Median :32.80  
##  Mean   : 4.67   Mean   :125.4   Mean   : 72.58   Mean   :32.96  
##  3rd Qu.: 7.00   3rd Qu.:144.0   3rd Qu.: 80.00   3rd Qu.:37.15  
##  Max.   :13.00   Max.   :196.0   Max.   :108.00   Max.   :59.40  
##     pedigree           age        diabetes 
##  Min.   :0.0780   Min.   :21.00   neg:462  
##  1st Qu.:0.2450   1st Qu.:24.00   pos:265  
##  Median :0.3650   Median :28.00            
##  Mean   :0.4790   Mean   :33.29            
##  3rd Qu.:0.6425   3rd Qu.:41.00            
##  Max.   :2.4200   Max.   :81.00
dim(pima)
## [1] 727   7
colSums(is.na(pima))
## pregnant  glucose pressure     mass pedigree      age diabetes 
##        0        0        0        0        0        0        0
# Distribusi kelas
table(pima$diabetes)
## 
## neg pos 
## 462 265
prop.table(table(pima$diabetes))
## 
##       neg       pos 
## 0.6354883 0.3645117

Intepretasi Hasil 4.2

Pada tahap ini dilakukan preprocessing untuk menangani nilai kosong (missing value) yang terdapat pada dataset. Berdasarkan hasil pemeriksaan menggunakan fungsi colSums(is.na()), diketahui bahwa variabel glucose memiliki 5 nilai kosong, pressure sebanyak 35, triceps sebanyak 251, insulin sebanyak 405, dan mass sebanyak 13. Variabel triceps dan insulin dihapus karena memiliki jumlah missing value yang cukup banyak dibandingkan variabel lainnya. Selanjutnya, fungsi na.omit() digunakan untuk menghapus observasi yang masih memiliki nilai kosong pada variabel yang dipertahankan. Setelah proses tersebut, diperoleh 727 observasi dengan 7 variabel, yaitu 6 variabel prediktor dan 1 variabel respons. Distribusi kelas diabetes terdiri atas 462 data kategori neg (63,55%) dan 265 data kategori pos (36,45%). Dengan demikian, data yang digunakan pada tahap selanjutnya sudah tidak mengandung missing value.

4.3 Membagi Data Menjadi 70% Data Latih (Training) dan 30% Data Uji (Testing)

set.seed(234)
idx.cls <- createDataPartition(pima$diabetes, p = 0.70, list = FALSE)

pima.train <- pima[idx.cls, ]
pima.test  <- pima[-idx.cls, ]

dim(pima.train)
## [1] 510   7
dim(pima.test)
## [1] 217   7
table(pima.train$diabetes)
## 
## neg pos 
## 324 186
table(pima.test$diabetes)
## 
## neg pos 
## 138  79
prop.table(table(pima.train$diabetes))
## 
##       neg       pos 
## 0.6352941 0.3647059
prop.table(table(pima.test$diabetes))
## 
##       neg       pos 
## 0.6359447 0.3640553
# ---------------------------------------------------------------------
# FUNGSI BANTU EVALUASI (dipakai untuk semua model)
# ---------------------------------------------------------------------
evaluasi.model <- function(model, data, nama) {
  p    <- predict(model, newdata = data, probability = TRUE)
  prob <- attr(p, "probabilities")[, "pos"]
  pred <- factor(as.character(p), levels = levels(data$diabetes))
  
  cm  <- confusionMatrix(pred, data$diabetes, positive = "pos")
  tab <- table(Aktual = data$diabetes, Prediksi = pred)
  
  TN <- tab["neg", "neg"]; FP <- tab["neg", "pos"]
  FN <- tab["pos", "neg"]; TP <- tab["pos", "pos"]
  
  Accuracy    <- (TP + TN) / (TP + TN + FP + FN)
  Precision   <- TP / (TP + FP)
  Recall      <- TP / (TP + FN)
  Specificity <- TN / (TN + FP)
  F1          <- 2 * Precision * Recall / (Precision + Recall)
  
  roc.obj <- roc(response = data$diabetes, predictor = prob,
                 levels = c("neg", "pos"), direction = "<", quiet = TRUE)
  AUC <- as.numeric(auc(roc.obj))
  
  list(
    nama = nama, pred = pred, prob = prob, cm = cm, tabel = tab,
    roc = roc.obj,
    metrik = data.frame(Model = nama, Accuracy, Precision, Recall,
                        Specificity, F1_Score = F1, AUC = AUC)
  )
}

Intepretasi Hasil 4.3

Berdasarkan hasil pembagian data, diperoleh sebanyak 510 data training dan 217 data testing, dengan masing-masing memiliki 7 variabel. Pada data training, kelas negatif (neg) berjumlah 324 observasi (63,53%), sedangkan kelas positif (pos) berjumlah 186 observasi (36,47%). Sementara itu, pada data testing, kelas negatif berjumlah 138 observasi (63,59%) dan kelas positif berjumlah 79 observasi (36,41%). Hasil tersebut menunjukkan bahwa proporsi kelas negatif dan positif pada data training dan testing relatif seimbang atau konsisten, sehingga pembagian data telah mempertahankan distribusi kelas dari keseluruhan data.

4.4 Model SVM Radial awal (cost = 1, gamma = 1/p)

set.seed(234)
svm.cls <- svm(
  diabetes ~ ., data = pima.train,
  type = "C-classification", kernel = "radial",
  cost = 1, gamma = 1 / (ncol(pima.train) - 1),
  scale = TRUE, probability = TRUE
)
svm.cls
## 
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification", 
##     kernel = "radial", cost = 1, gamma = 1/(ncol(pima.train) - 1), 
##     probability = TRUE, scale = TRUE)
## 
## 
## Parameters:
##    SVM-Type:  C-classification 
##  SVM-Kernel:  radial 
##        cost:  1 
## 
## Number of Support Vectors:  307
cat("Jumlah support vector (radial awal):", svm.cls$tot.nSV, "\n")
## Jumlah support vector (radial awal): 307

Intepretasi Hasil 4.4

Model awal SVM menggunakan kernel Radial dengan tipe klasifikasi C-classification, nilai cost sebesar 1, dan gamma sebesar \((1/(p-1))\). Hasil pemodelan menunjukkan terdapat 307 support vector yang berperan dalam membentuk batas keputusan untuk memisahkan kelas neg dan pos pada variabel diabetes. Kernel Radial digunakan karena mampu menangani hubungan nonlinier antara variabel prediktor dan variabel respons. Namun, banyaknya support vector belum menunjukkan tingkat ketepatan model sehingga diperlukan evaluasi lebih lanjut menggunakan data testing.

4.5 Tuning Kernel radial: cost x gamma (5-fold CV)

set.seed(234)
tune.radial <- tune.svm(
  diabetes ~ ., data = pima.train,
  type = "C-classification", kernel = "radial",
  cost  = c(0.1, 1, 10, 100),
  gamma = c(0.001, 0.01, 0.1, 1),
  scale = TRUE, probability = TRUE,
  tunecontrol = tune.control(cross = 5)
)
tune.radial
## 
## Parameter tuning of 'svm':
## 
## - sampling method: 5-fold cross validation 
## 
## - best parameters:
##  gamma cost
##   0.01  100
## 
## - best performance: 0.2568627
tune.radial$best.parameters
##    gamma cost
## 14  0.01  100
# Tabel error CV seluruh kombinasi
hasil.tuning <- tune.radial$performances
hasil.tuning$Akurasi.CV <- 1 - hasil.tuning$error
hasil.tuning[order(hasil.tuning$error), ]
##    gamma  cost     error dispersion Akurasi.CV
## 14 0.010 100.0 0.2568627 0.01278275  0.7431373
## 7  0.100   1.0 0.2588235 0.02824482  0.7411765
## 11 0.100  10.0 0.2607843 0.02032984  0.7392157
## 10 0.010  10.0 0.2627451 0.01885822  0.7372549
## 9  0.001  10.0 0.2647059 0.01834146  0.7352941
## 13 0.001 100.0 0.2647059 0.01550136  0.7352941
## 6  0.010   1.0 0.2666667 0.02973677  0.7333333
## 3  0.100   0.1 0.2882353 0.05571871  0.7117647
## 8  1.000   1.0 0.2921569 0.02235638  0.7078431
## 15 0.100 100.0 0.3000000 0.04471276  0.7000000
## 12 1.000  10.0 0.3196078 0.02556550  0.6803922
## 16 1.000 100.0 0.3313725 0.04566986  0.6686275
## 1  0.001   0.1 0.3647059 0.08066668  0.6352941
## 2  0.010   0.1 0.3647059 0.08066668  0.6352941
## 4  1.000   0.1 0.3647059 0.08066668  0.6352941
## 5  0.001   1.0 0.3647059 0.08066668  0.6352941
svm.radial.best <- tune.radial$best.model
svm.radial.best
## 
## Call:
## best.svm(x = diabetes ~ ., data = pima.train, gamma = c(0.001, 0.01, 
##     0.1, 1), cost = c(0.1, 1, 10, 100), type = "C-classification", 
##     kernel = "radial", scale = TRUE, probability = TRUE, tunecontrol = tune.control(cross = 5))
## 
## 
## Parameters:
##    SVM-Type:  C-classification 
##  SVM-Kernel:  radial 
##        cost:  100 
## 
## Number of Support Vectors:  286
# Visualisasi heatmap error CV (cost vs gamma)
ggplot(hasil.tuning,
       aes(x = factor(gamma), y = factor(cost), fill = error)) +
  geom_tile(colour = "white") +
  geom_text(aes(label = round(error, 3)), size = 3.5) +
  scale_fill_gradient(low = "#A7C7E7", high = "#E76F51") +
  labs(title = "Error Cross-Validation SVM Radial",
       subtitle = "Kombinasi cost dan gamma (5-fold CV)",
       x = "Gamma", y = "Cost", fill = "Error CV") +
  theme_bw()

## Intepretasi Hasil 4.5 Berdasarkan hasil parameter tuning menggunakan metode 5-fold cross validation pada model SVM kernel radial, diperoleh kombinasi parameter terbaik, yaitu gamma sebesar 0,01 dan cost sebesar 100, dengan nilai error sebesar 0,2568627 atau 25,69% dan akurasi cross-validation sebesar 74,31%. Hasil tersebut menunjukkan bahwa kombinasi parameter ini menghasilkan tingkat kesalahan prediksi paling rendah dibandingkan kombinasi parameter lainnya. Hal ini juga terlihat pada grafik heatmap, di mana kombinasi gamma = 0,01 dan cost = 100 memiliki nilai error paling rendah. Model terbaik tersebut menghasilkan 286 Support Vectors, yang merupakan observasi yang berperan dalam membentuk batas keputusan klasifikasi. Dengan demikian, kombinasi parameter gamma = 0,01 dan cost = 100 dipilih sebagai parameter optimal untuk model SVM kernel radial dan selanjutnya digunakan dalam proses klasifikasi data testing.

4.6 Tuning Kernel Linear: cost (5-fold CV)

set.seed(234)
tune.linear <- tune.svm(
  diabetes ~ ., data = pima.train,
  type = "C-classification", kernel = "linear",
  cost = c(0.1, 1, 10, 100),
  scale = TRUE, probability = TRUE,
  tunecontrol = tune.control(cross = 5)
)
tune.linear
## 
## Parameter tuning of 'svm':
## 
## - sampling method: 5-fold cross validation 
## 
## - best parameters:
##  cost
##   100
## 
## - best performance: 0.2588235
tune.linear$best.parameters
##   cost
## 4  100
svm.linear.best <- tune.linear$best.model

Intepretasi Hasil 4.6

Hasil parameter tuning pada model SVM dilakukan menggunakan metode 5-fold cross-validationPREDIKSI DATA TESTING + CONFUSION MATRIX, yaitu membagi data training menjadi lima bagian untuk memperoleh kombinasi parameter terbaik. Berdasarkan hasil pengujian, diperoleh nilai cost terbaik sebesar 100 dengan nilai best performance sebesar 0,2588235. Nilai best performance tersebut menunjukkan tingkat kesalahan klasifikasi rata-rata selama proses validasi, sehingga semakin kecil nilainya maka semakin baik kinerja model. Dengan demikian, nilai cost sebesar 100 dipilih sebagai parameter terbaik berdasarkan hasil pengujian tersebut.

4.7 Prediksi data testing dan confusion matrix

ev.awal   <- evaluasi.model(svm.cls,         pima.test, "Radial Awal")
ev.radial <- evaluasi.model(svm.radial.best, pima.test, "Radial Tuning")
ev.linear <- evaluasi.model(svm.linear.best, pima.test, "Linear Tuning")

# Contoh hasil prediksi model radial terbaik
head(data.frame(Aktual = pima.test$diabetes,
                Prediksi = ev.radial$pred), 10)
##    Aktual Prediksi
## 1     neg      neg
## 2     neg      neg
## 3     neg      neg
## 4     neg      neg
## 5     pos      pos
## 6     neg      neg
## 7     neg      pos
## 8     pos      pos
## 9     pos      pos
## 10    neg      pos
# Confusion matrix lengkap (positive = "pos")
ev.radial$cm
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 123  29
##        pos  15  50
##                                           
##                Accuracy : 0.7972          
##                  95% CI : (0.7375, 0.8486)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 1.881e-07       
##                                           
##                   Kappa : 0.5449          
##                                           
##  Mcnemar's Test P-Value : 0.05002         
##                                           
##             Sensitivity : 0.6329          
##             Specificity : 0.8913          
##          Pos Pred Value : 0.7692          
##          Neg Pred Value : 0.8092          
##              Prevalence : 0.3641          
##          Detection Rate : 0.2304          
##    Detection Prevalence : 0.2995          
##       Balanced Accuracy : 0.7621          
##                                           
##        'Positive' Class : pos             
## 
ev.linear$cm
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 119  28
##        pos  19  51
##                                           
##                Accuracy : 0.7834          
##                  95% CI : (0.7226, 0.8363)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 1.973e-06       
##                                           
##                   Kappa : 0.5206          
##                                           
##  Mcnemar's Test P-Value : 0.2432          
##                                           
##             Sensitivity : 0.6456          
##             Specificity : 0.8623          
##          Pos Pred Value : 0.7286          
##          Neg Pred Value : 0.8095          
##              Prevalence : 0.3641          
##          Detection Rate : 0.2350          
##    Detection Prevalence : 0.3226          
##       Balanced Accuracy : 0.7539          
##                                           
##        'Positive' Class : pos             
## 
ev.awal$cm
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 122  36
##        pos  16  43
##                                           
##                Accuracy : 0.7604          
##                  95% CI : (0.6979, 0.8156)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 5.909e-05       
##                                           
##                   Kappa : 0.4529          
##                                           
##  Mcnemar's Test P-Value : 0.008418        
##                                           
##             Sensitivity : 0.5443          
##             Specificity : 0.8841          
##          Pos Pred Value : 0.7288          
##          Neg Pred Value : 0.7722          
##              Prevalence : 0.3641          
##          Detection Rate : 0.1982          
##    Detection Prevalence : 0.2719          
##       Balanced Accuracy : 0.7142          
##                                           
##        'Positive' Class : pos             
## 

Intepretasi Hasil 4.7

Berdasarkan hasil evaluasi model SVM kernel radial menggunakan confusion matrix, diperoleh nilai accuracy sebesar 76,04%, yang menunjukkan bahwa model mampu mengklasifikasikan data dengan benar sebesar 76,04%. Nilai sensitivity sebesar 54,43% menunjukkan kemampuan model dalam mendeteksi pasien positif diabetes, sedangkan specificity sebesar 88,41% menunjukkan kemampuan model dalam mengidentifikasi pasien negatif diabetes dengan benar. Nilai precision sebesar 72,88% menunjukkan ketepatan prediksi pada kelas positif, sementara balanced accuracy sebesar 71,42% menunjukkan rata-rata kemampuan model dalam mengklasifikasikan kedua kelas. Nilai Kappa sebesar 0,4529 menunjukkan tingkat kesesuaian prediksi pada kategori sedang. Selain itu, nilai P-Value [Acc > NIR] sebesar 0,00005909 menunjukkan bahwa akurasi model secara signifikan lebih tinggi dibandingkan No Information Rate sebesar 63,59%. Secara keseluruhan, model SVM kernel radial lebih baik dalam mengidentifikasi pasien negatif diabetes dibandingkan pasien positif diabetes.

4.8 Ukuran Evaluasi: Accuracy, Precision, Recall, Specificity, F1, AUC

perbandingan.model <- rbind(ev.awal$metrik, ev.radial$metrik, ev.linear$metrik)
rownames(perbandingan.model) <- NULL
round(perbandingan.model[, -1], 4) -> tmp
perbandingan.model[, -1] <- tmp
perbandingan.model
##           Model Accuracy Precision Recall Specificity F1_Score    AUC
## 1   Radial Awal   0.7604    0.7288 0.5443      0.8841   0.6232 0.8180
## 2 Radial Tuning   0.7972    0.7692 0.6329      0.8913   0.6944 0.8242
## 3 Linear Tuning   0.7834    0.7286 0.6456      0.8623   0.6846 0.8317

Intepretasi Hasil 4.8

Berdasarkan hasil evaluasi, model SVM Radial Tuning menghasilkan kinerja terbaik dengan nilai accuracy sebesar 0,7972 (79,72%), precision sebesar 0,7692 (76,92%), recall sebesar 0,6329 (63,29%), specificity sebesar 0,8913 (89,13%), F1-Score sebesar 0,6944, dan AUC sebesar 0,8242. Sementara itu, model Radial Awal memperoleh accuracy sebesar 76,04% dan model Linear Tuning sebesar 78,34%. Hasil tersebut menunjukkan bahwa proses tuning berhasil meningkatkan kinerja model Radial dibandingkan model Radial Awal. Selain itu, model Radial Tuning memiliki nilai accuracy, specificity, F1-Score, dan AUC yang lebih tinggi dibandingkan kedua model lainnya. Dengan demikian, SVM Radial Tuning merupakan model terbaik berdasarkan hasil evaluasi tersebut.

4.9 Kurva ROC & AUC

plot(ev.radial$roc, legacy.axes = TRUE, col = "#E41A1C", lwd = 2,
     main = "Kurva ROC SVM: Linear vs Radial (Data Testing)")
plot(ev.linear$roc, legacy.axes = TRUE, col = "#377EB8", lwd = 2, add = TRUE)
legend("bottomright", lwd = 2, col = c("#E41A1C", "#377EB8"),
       legend = c(
         paste0("Radial Tuning (AUC = ", round(auc(ev.radial$roc), 3), ")"),
         paste0("Linear Tuning (AUC = ", round(auc(ev.linear$roc), 3), ")")
       ))

Intepretasi Hasil 4.9

Berdasarkan kurva ROC, model SVM Radial Tuning memperoleh nilai AUC sebesar 0,824, sedangkan model SVM Linear Tuning memperoleh nilai AUC sebesar 0,832. Kedua model memiliki kemampuan klasifikasi yang tergolong baik karena nilai AUC berada di atas 0,8. Kurva ROC menunjukkan hubungan antara Sensitivity dan 1-Specificity, dengan semakin mendekati sudut kiri atas maka kemampuan model dalam membedakan kelas semakin baik. Meskipun kedua model memiliki performa yang hampir sama, SVM Linear Tuning memiliki nilai AUC sedikit lebih tinggi dibandingkan SVM Radial Tuning. Dengan demikian, berdasarkan nilai AUC, model SVM Linear Tuning memiliki kemampuan diskriminasi yang sedikit lebih baik dalam membedakan kelas diabetes positif (pos) dan negatif (neg).

4.10 Visualisasi Decision Boundary (glucose vs mass)

d2 <- pima.train[, c("glucose", "mass", "diabetes")]

grid2 <- expand.grid(
  glucose = seq(min(d2$glucose), max(d2$glucose), length.out = 200),
  mass    = seq(min(d2$mass),    max(d2$mass),    length.out = 200)
)

kombinasi <- expand.grid(cost = c(1, 100), gamma = c(0.01, 1))

grid.all <- do.call(rbind, lapply(seq_len(nrow(kombinasi)), function(i) {
  m <- svm(diabetes ~ glucose + mass, data = d2,
           type = "C-classification", kernel = "radial",
           cost = kombinasi$cost[i], gamma = kombinasi$gamma[i], scale = TRUE)
  pr <- predict(m, newdata = grid2, decision.values = TRUE)
  g <- grid2
  g$Prediksi <- pr
  g$margin   <- as.numeric(attr(pr, "decision.values")[, 1])
  g$Panel    <- paste0("Cost = ", kombinasi$cost[i],
                       " | Gamma = ", kombinasi$gamma[i])
  g
}))

ggplot() +
  geom_raster(data = grid.all,
              aes(x = glucose, y = mass, fill = Prediksi), alpha = 0.25) +
  geom_contour(data = grid.all,
               aes(x = glucose, y = mass, z = margin),
               breaks = 0, colour = "black", linewidth = 0.8) +
  geom_point(data = d2, aes(x = glucose, y = mass, color = diabetes),
             size = 1.3, alpha = 0.7) +
  facet_wrap(~ Panel) +
  scale_color_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
  scale_fill_manual(values  = c(neg = "#377EB8", pos = "#E41A1C")) +
  labs(title = "Pengaruh Cost dan Gamma terhadap Decision Boundary SVM Radial",
       x = "Glucose", y = "BMI (mass)",
       color = "Kelas Aktual", fill = "Kelas Prediksi") +
  theme_bw()

# Decision boundary model radial terbaik (parameter hasil tuning)
bp <- tune.radial$best.parameters
m.best2 <- svm(diabetes ~ glucose + mass, data = d2,
               type = "C-classification", kernel = "radial",
               cost = bp$cost, gamma = bp$gamma, scale = TRUE)
pr.b <- predict(m.best2, newdata = grid2, decision.values = TRUE)
grid2$Prediksi <- pr.b
grid2$margin   <- as.numeric(attr(pr.b, "decision.values")[, 1])

ggplot() +
  geom_raster(data = grid2, aes(x = glucose, y = mass, fill = Prediksi),
              alpha = 0.25) +
  geom_contour(data = grid2, aes(x = glucose, y = mass, z = margin),
               breaks = 0, colour = "red", linewidth = 1) +
  geom_point(data = d2, aes(x = glucose, y = mass, color = diabetes),
             size = 2, alpha = 0.8) +
  scale_color_manual(values = c(neg = "#377EB8", pos = "#E41A1C")) +
  scale_fill_manual(values  = c(neg = "#377EB8", pos = "#E41A1C")) +
  labs(title = "SVM Radial Terbaik: Decision Boundary Klasifikasi Diabetes",
       subtitle = paste0("Cost = ", bp$cost, ", Gamma = ", bp$gamma),
       x = "Glucose", y = "BMI (mass)",
       color = "Kelas Aktual", fill = "Kelas Prediksi") +
  theme_bw()

Intepretasi Hasil 4. 10

Berdasarkan grafik decision boundary SVM dengan kernel Radial, terlihat bahwa parameter cost dan gamma memengaruhi bentuk batas keputusan dalam mengklasifikasikan kelas diabetes. Pada cost = 1 dan gamma = 0,01, batas keputusan cenderung sederhana dan lebih halus, sedangkan ketika gamma meningkat menjadi 1, batas keputusan menjadi lebih melengkung dan kompleks. Peningkatan cost dari 1 menjadi 100 juga menyebabkan perubahan pada batas keputusan karena model memberikan penalti lebih besar terhadap kesalahan klasifikasi. Kombinasi cost = 100 dan gamma = 1 menghasilkan batas keputusan yang paling kompleks dibandingkan kombinasi lainnya. Hal ini menunjukkan bahwa semakin besar nilai cost dan gamma, model cenderung semakin menyesuaikan batas keputusan terhadap pola data training. Namun, batas keputusan yang terlalu kompleks berpotensi menyebabkan overfitting, sehingga pemilihan parameter terbaik perlu mempertimbangkan hasil evaluasi model pada data testing.

4.11 Pemilihan Kernel Terbaik

kernel.terbaik <- perbandingan.model[
  perbandingan.model$Model %in% c("Linear Tuning", "Radial Tuning"), ]
kernel.terbaik
##           Model Accuracy Precision Recall Specificity F1_Score    AUC
## 2 Radial Tuning   0.7972    0.7692 0.6329      0.8913   0.6944 0.8242
## 3 Linear Tuning   0.7834    0.7286 0.6456      0.8623   0.6846 0.8317
cat("\nKernel dengan AUC tertinggi :",
    kernel.terbaik$Model[which.max(kernel.terbaik$AUC)], "\n")
## 
## Kernel dengan AUC tertinggi : Linear Tuning
cat("Kernel dengan Accuracy tertinggi:",
    kernel.terbaik$Model[which.max(kernel.terbaik$Accuracy)], "\n")
## Kernel dengan Accuracy tertinggi: Radial Tuning

4.11 Intepretasi Hasil 4.11

Berdasarkan hasil perbandingan, model SVM Radial Tuning memperoleh nilai Accuracy tertinggi sebesar 0,7972 (79,72%), sedangkan model SVM Linear Tuning memperoleh nilai AUC tertinggi sebesar 0,8317. Hal ini menunjukkan bahwa model Radial Tuning memiliki kemampuan ketepatan klasifikasi keseluruhan yang lebih baik, sementara model Linear Tuning memiliki kemampuan yang sedikit lebih baik dalam membedakan kelas diabetes positif (pos) dan negatif (neg). Dengan demikian, pemilihan model terbaik bergantung pada kriteria evaluasi yang digunakan. Jika didasarkan pada Accuracy, model terbaik adalah Radial Tuning, sedangkan jika didasarkan pada AUC, model terbaik adalah Linear Tuning.

BAB V KESIMPULAN DAN SARAN

5.1 Kesimpulan

Support Vector Machine (SVM) merupakan metode machine learning yang digunakan untuk menyelesaikan masalah klasifikasi dengan mencari batas pemisah terbaik antara dua kelas atau lebih. SVM bekerja dengan menentukan hyperplane yang memiliki jarak atau margin terbesar terhadap data dari masing-masing kelas sehingga dapat menghasilkan klasifikasi yang optimal. Sementara itu, Support Vector Regression (SVR) merupakan pengembangan SVM yang digunakan untuk masalah regresi, yaitu memprediksi nilai numerik berdasarkan hubungan antara variabel prediktor dan variabel respons.

Pada SVM, hyperplane merupakan garis atau bidang yang memisahkan data ke dalam kelas tertentu, sedangkan margin adalah jarak antara hyperplane dengan titik data terdekat dari masing-masing kelas. Titik data yang berada paling dekat dengan hyperplane disebut support vector karena berperan dalam menentukan posisi batas pemisah. Soft margin memungkinkan beberapa data mengalami kesalahan klasifikasi agar model lebih fleksibel terhadap data yang tidak dapat dipisahkan secara sempurna. Sementara itu, fungsi kernel digunakan untuk memetakan data ke ruang berdimensi lebih tinggi agar pola yang tidak linear dapat dipisahkan. Pada SVR, epsilon-insensitive loss merupakan fungsi kerugian yang tidak memberikan penalti terhadap kesalahan prediksi selama masih berada dalam batas epsilon. Batas tersebut membentuk epsilon-tube, yaitu daerah di sekitar garis regresi tempat kesalahan prediksi masih ditoleransi.

Implementasi SVM dan SVR menggunakan R dapat dilakukan dengan bantuan paket e1071, khususnya fungsi svm(). Untuk klasifikasi, variabel respons harus berbentuk kategori atau faktor, kemudian model dibangun menggunakan type = “C-classification” dengan menentukan kernel yang digunakan, seperti linear atau radial. Sementara itu, untuk regresi, variabel respons berbentuk numerik dan model dibangun menggunakan type = “eps-regression”. Setelah model terbentuk, data pengujian digunakan untuk menghasilkan prediksi dan mengetahui kemampuan model dalam mengklasifikasikan kategori atau memprediksi nilai numerik.

Tuning parameter dilakukan untuk memperoleh kombinasi parameter terbaik agar performa model lebih optimal. Parameter cost mengatur besarnya penalti terhadap kesalahan prediksi, gamma mengatur pengaruh setiap titik data pada kernel radial, sedangkan epsilon menentukan batas toleransi kesalahan pada SVR. Proses tuning dapat dilakukan menggunakan fungsi tune.svm() dengan mencoba beberapa kombinasi nilai parameter dan menerapkan cross-validation. Evaluasi model klasifikasi dapat menggunakan ukuran akurasi, presisi, sensitivitas, spesifisitas, F1-Score, dan AUC. Sementara itu, evaluasi SVR dapat menggunakan RMSE, MAE, dan \(R^2\) untuk mengukur besarnya kesalahan serta kemampuan model dalam menjelaskan variasi data.

Berdasarkan seluruh tahapan analisis, dapat disimpulkan bahwa metode Support Vector Machine (SVM) mampu digunakan untuk mengklasifikasikan data diabetes ke dalam kelas positif (pos) dan negatif (neg). Hasil pengujian menunjukkan bahwa model SVM dengan kernel Radial Tuning memperoleh nilai Accuracy tertinggi sebesar 79,72%, sedangkan model SVM dengan kernel Linear Tuning memperoleh nilai AUC tertinggi sebesar 0,8317. Proses tuning parameter pada kernel Radial juga meningkatkan nilai Accuracy dibandingkan model Radial Awal, yaitu dari 76,04% menjadi 79,72%. Selain itu, visualisasi decision boundary menunjukkan bahwa parameter cost dan gamma memengaruhi kompleksitas batas keputusan dalam proses klasifikasi. Dengan demikian, model Radial Tuning dapat dipilih sebagai model terbaik berdasarkan nilai Accuracy, sedangkan Linear Tuning unggul berdasarkan nilai AUC.

5.2 Saran

Penulis menyarankan agar ketepatan sintaks program R selalu diperhatikan untuk menghindari kesalahan dalam proses analisis. Penggunaan bahasa perlu disesuaikan dengan kaidah KBBI. Aturan penulisan huruf tebal juga perlu diperhatikan agar laporan tersusun secara sistematis, rapi, dan sesuai dengan kaidah penulisan ilmiah.

DAFTAR PUSTAKA

Fransiska, H. (2026). Modul Praktikum Machine Learning. Universitas Bengkulu.

Artini, N. P. S. Y., Sumarjaya, I. W., & Nilakusmawati, D. P. E. (2024). Penerapan metode Support Vector Regression (SVR) dengan algoritma Grid Search dalam peramalan harga saham. E-Jurnal Matematika, 13(2), 94–104.

Primartha, R. (2021). Algoritma machine learning. Informatika Bandung.

Ruliana, R., Rais, Z., Marni, M., & Ahmar, A. S. (2024). Implementation of the Support Vector Regression (SVR) method in inflation prediction in Makassar City. ARRUS Journal of Mathematics and Applied Science, 4(1), 28–35.

Rodríguez-Pérez, R., & Bajorath, J. (2022). Evolution of support vector machine and regression modeling in chemoinformatics and drug discovery. Journal of Computer-Aided Molecular Design, 36, 355–362. https://doi.org/10.1007/s10822-022-00442-9

Suyanto. (2022). Machine learning: Tingkat dasar dan lanjut (Edisi ke-2). Informatika Bandung.
Du, K.-L., Jiang, B., Lu, J., Hua, J., & Swamy, M. N. S. (2024). Exploring kernel machines and support vector machines: Principles, techniques, and future directions. Mathematics, 12(24), Article 3935. https://doi.org/10.3390/math12243935

Wang, Y., Liao, W., Shen, H., Jiang, Z., & Zhou, J. (2024). Some notes on the basic concepts of support vector machines. Journal of Computational Science, 82, Article 102390. https://doi.org/10.1016/j.jocs.2024.102390

Wu, J., & Wang, Y.-G. (2023). A working likelihood approach to support vector regression with a data-driven insensitivity parameter. International Journal of Machine Learning and Cybernetics, 14, 929–945. https://doi.org/10.1007/s13042-022-01672-x