Mata KuliahMachine Learning and Modern Prediction
PertemuanVIII — SVM/SVR
NPMF1F023025 NPM Ganjil
KasusSVM Klasifikasi — data SynthDiabetes2 (respons: diabetes)
Visualisasix1 = glucose dan x2 = pressure
InstansiUniversitas Bengkulu

BAB I PENDAHULUAN

1.1 Latar Belakang Masalah

Machine learning adalah cabang kecerdasan buatan yang memungkinkan komputer belajar dari data untuk membuat prediksi atau keputusan tanpa harus diprogram dengan aturan eksplisit. Pada pembelajaran terawasi (supervised learning), model dilatih menggunakan data yang responsnya sudah diketahui. Bila respons berupa kategori maka persoalannya disebut klasifikasi, dan bila respons berupa nilai numerik maka persoalannya disebut regresi (James dkk., 2021; Fransiska, 2026).

Support Vector Machine (SVM) adalah salah satu metode supervised learning yang paling banyak dipakai untuk klasifikasi. SVM mencari batas keputusan (hyperplane) yang memisahkan dua kelas dengan jarak (margin) selebar mungkin, sehingga batas yang terbentuk diharapkan lebih stabil ketika menghadapi pengamatan baru (Cortes & Vapnik, 1995). Ketika hubungan antarkelas tidak dapat dipisahkan oleh garis lurus, SVM memanfaatkan fungsi kernel untuk membentuk batas keputusan yang nonlinier (Vapnik, 1998; Chang & Lin, 2011). Prinsip yang sama dikembangkan menjadi Support Vector Regression (SVR) untuk memodelkan respons numerik dengan batas toleransi galat \(\varepsilon\) (Smola & Schölkopf, 2004).

Kinerja SVM sangat bergantung pada pilihan kernel dan hyperparameter seperti cost dan gamma. Oleh sebab itu, parameter perlu dioptimalkan melalui cross-validation pada data training, lalu kinerja akhir dilaporkan pada data testing yang tidak ikut dalam pembentukan model (Fransiska, 2026). Laporan ini menerapkan SVM untuk mengklasifikasikan status diabetes (neg atau pos) pada data SynthDiabetes2, membandingkan kernel linear dan radial, serta menelaah pengaruh cost dan gamma terhadap fleksibilitas batas keputusan.

1.2 Rumusan Masalah

  1. Bagaimana konsep dasar Support Vector Machine (SVM) dan Support Vector Regression (SVR), beserta peran hyperplane, margin, support vector, soft margin, dan fungsi kernel?
  2. Bagaimana mengimplementasikan SVM klasifikasi pada data SynthDiabetes2 menggunakan R, termasuk penanganan missing value dan pembagian data training dan testing?
  3. Bagaimana pengaruh tuning parameter cost dan gamma terhadap fleksibilitas model dan batas keputusan?
  4. Kernel mana, linear atau radial, yang memberikan performa terbaik berdasarkan confusion matrix, Accuracy, Precision, Recall, Specificity, F1-Score, dan ROC-AUC?

1.3 Tujuan Praktikum

  1. Memahami konsep dasar SVM dan SVR.
  2. Menjelaskan hyperplane, margin, support vector, soft margin, dan fungsi kernel pada SVM serta konsep epsilon-insensitive loss dan epsilon-tube pada SVR.
  3. Mengimplementasikan SVM untuk klasifikasi menggunakan R.
  4. Melakukan tuning parameter cost dan gamma serta mengevaluasi performa model dengan ukuran yang sesuai.

1.4 Batasan Masalah

Analisis dibatasi pada kasus NPM ganjil, yaitu klasifikasi menggunakan SVM pada data SynthDiabetes2 dari package mlbench dengan variabel diabetes sebagai respons. Penanganan missing value mengikuti sintaks praktikum. Fungsi yang dipakai adalah e1071::svm() dengan perbandingan kernel linear dan radial. Tuning kernel radial dilakukan pada cost = 0,1; 1; 10; 100 dan gamma = 0,001; 0,01; 0,1; 1 dengan validasi silang 5 lipatan. Model terbaik digunakan untuk memprediksi data testing dan dievaluasi dengan confusion matrix, Accuracy, Precision, Recall/Sensitivity, Specificity, F1-Score, dan ROC-AUC dengan kelas pos sebagai kelas positif. Pembagian data memakai set.seed(234). Visualisasi batas keputusan menggunakan dua variabel, yaitu \(x_1\) = glucose dan \(x_2\) = pressure.

BAB II TINJAUAN PUSTAKA

2.1 Support Vector Machine (SVM)

SVM adalah metode supervised learning yang terutama digunakan untuk klasifikasi. Gagasan intinya adalah memilih hyperplane yang memisahkan kelas dengan margin terlebar. Pengamatan yang berada paling dekat dengan batas keputusan disebut support vector, dan letak hyperplane optimal ditentukan oleh titik-titik tersebut, bukan oleh seluruh data (Cortes & Vapnik, 1995; James dkk., 2021). Margin yang lebar diharapkan menghasilkan batas yang lebih stabil terhadap pengamatan baru, selama kompleksitas model tetap terkendali (Fransiska, 2026).

Gambar 1. Ilustrasi konsep hyperplane, margin, dan support vector pada SVM (data simulasi)

Gambar 1. Ilustrasi konsep hyperplane, margin, dan support vector pada SVM (data simulasi)

2.2 Hyperplane, Margin, dan Support Vector

Untuk dua kelas, hyperplane linear dinyatakan sebagai:

\[ w^\top x + b = 0 \]

dengan \(w\) vektor bobot, \(x\) vektor prediktor, dan \(b\) bias (intersep). Aturan klasifikasinya adalah \(f(x) = \text{sign}(w^\top x + b)\). Pada formulasi kanonik, kedua bidang pembatas margin adalah \(w^\top x + b = 1\) dan \(w^\top x + b = -1\), sehingga jarak antarbidang adalah:

\[ Margin = \frac{2}{\lVert w \rVert} \]

Karena margin berbanding terbalik dengan \(\lVert w \rVert\), memaksimalkan margin sama artinya dengan meminimalkan \(\lVert w \rVert\) (Fransiska, 2026).

2.3 Hard Margin dan Soft Margin

Hard margin dipakai ketika data benar-benar terpisah secara linear tanpa kesalahan, dengan persoalan optimasi \(\min_{w,b} \frac{1}{2}\lVert w \rVert^2\) terhadap kendala \(y_i(w^\top x_i + b) \ge 1\) untuk \(i = 1, 2, \dots, n\). Pada data nyata, kelas biasanya saling tumpang tindih atau memuat pencilan sehingga pemisahan sempurna tidak realistis. Soft margin menambahkan slack variable \(\xi_i\) yang memberi toleransi terhadap pelanggaran margin (Cortes & Vapnik, 1995):

\[ \min_{w, b, \xi} \; \frac{1}{2}\lVert w \rVert^2 + C\sum_{i=1}^{n}\xi_i, \qquad y_i(w^\top x_i + b) \ge 1 - \xi_i, \; \xi_i \ge 0 \]

Parameter \(C\) (cost) mengatur kompromi antara margin yang lebar dan penalti kesalahan. cost besar membuat model lebih ketat mengikuti data training, sedangkan cost kecil lebih toleran terhadap pelanggaran dan memberi regularisasi yang lebih kuat (Fransiska, 2026).

2.4 Kernel Trick

Jika kelas tidak dapat dipisahkan secara linear pada ruang input, SVM memakai kernel trick: kernel menghitung inner product pada ruang fitur berdimensi lebih tinggi tanpa membentuk transformasi fitur tersebut secara eksplisit, sehingga batas keputusan nonlinier dapat diperoleh dengan kerangka optimasi yang sama (Vapnik, 1998; Chang & Lin, 2011).

Tabel 1. Fungsi Kernel pada SVM/SVR

Kernel Fungsi Nama pada e1071
Linear \(K(u, v) = u^\top v\) linear
Polynomial \(K(u, v) = (\gamma u^\top v + c_0)^d\) polynomial
Radial Basis Function (RBF) \(K(u, v) = \exp(-\gamma \lVert u - v \rVert^2)\) radial
Sigmoid \(K(u, v) = \tanh(\gamma u^\top v + c_0)\) sigmoid

Kernel linear cocok bila hubungan antarkelas relatif linear, sedangkan kernel radial (RBF) menjadi pilihan umum bila batas keputusan nonlinier. Parameter gamma mengatur jangkauan pengaruh satu pengamatan: gamma besar membuat pengaruh bersifat lokal dan batas keputusan lebih fleksibel, sementara gamma kecil menghasilkan batas yang lebih halus (Fransiska, 2026).

2.5 Parameter Penting dan Penskalaan pada SVM

Tabel 2. Parameter Utama SVM

Parameter Peran Dampak Umum
cost (C) Penalti terhadap pelanggaran margin C besar: penalti lebih kuat; C kecil: regularisasi lebih kuat
gamma Lebar/jangkauan kernel nonlinier Gamma besar: batas lebih lokal; gamma kecil: batas lebih halus
degree Derajat kernel polynomial Derajat lebih tinggi menambah fleksibilitas fungsi
kernel Bentuk fungsi kesamaan Dipilih sesuai pola hubungan data

SVM sensitif terhadap skala prediktor, sehingga standardisasi penting ketika prediktor memiliki satuan atau rentang berbeda. Pada svm(), hal ini ditangani otomatis melalui argumen scale = TRUE.

2.6 Support Vector Regression (SVR)

SVR memperluas prinsip SVM ke masalah regresi. Alih-alih memisahkan kelas, SVR mencari fungsi regresi yang cukup datar dengan galat prediksi di dalam batas toleransi \(\varepsilon\) (Smola & Schölkopf, 2004). Untuk kasus linear, \(f(x) = w^\top x + b\). SVR memakai epsilon-insensitive loss, yaitu galat yang masih berada dalam jarak \(\varepsilon\) dari fungsi regresi tidak dikenai penalti:

\[ L_\varepsilon(y, f(x)) = \max\{0, \lvert y - f(x) \rvert - \varepsilon\} \]

Pengamatan di dalam epsilon-tube memiliki loss nol. Epsilon yang lebih besar memperlebar daerah toleransi dan umumnya mengurangi jumlah support vector, sedangkan epsilon yang lebih kecil membuat model lebih peka terhadap penyimpangan kecil. Fungsi objektif SVR dengan dua slack variable \(\xi_i\) dan \(\xi_i^*\) adalah:

\[ \min \; \frac{1}{2}\lVert w \rVert^2 + C\sum_{i}(\xi_i + \xi_i^*) \]

dengan kendala \(y_i - f(x_i) \le \varepsilon + \xi_i\), \(f(x_i) - y_i \le \varepsilon + \xi_i^*\), dan \(\xi_i, \xi_i^* \ge 0\).

Gambar 2. Ilustrasi epsilon-insensitive tube pada SVR (data simulasi)

Gambar 2. Ilustrasi epsilon-insensitive tube pada SVR (data simulasi)

Tabel 3. Perbandingan SVM dan SVR

Aspek SVM SVR
Jenis masalah Klasifikasi Regresi
Respons Kategorik Numerik/kontinu
Tujuan utama Mencari hyperplane dengan margin yang baik Mencari fungsi regresi dengan toleransi galat \(\varepsilon\)
Output Label kelas / skor keputusan Nilai kontinu
Parameter utama kernel, cost, gamma kernel, cost, gamma, epsilon
Evaluasi Accuracy, Precision, Recall, Specificity, F1, ROC-AUC MSE, RMSE, MAE, \(R^2\)

2.7 Tuning Parameter dan Evaluasi Model

Pemilihan model tidak boleh hanya bertumpu pada performa training. Parameter SVM sebaiknya ditentukan lewat cross-validation pada data training, kemudian performa akhir dilaporkan pada data testing yang sama untuk semua model yang dibandingkan (Fransiska, 2026). Grid search mencoba seluruh kombinasi parameter yang ditentukan. Misalnya, 16 kombinasi cost dan gamma dengan validasi silang 5 lipatan berarti \(16 \times 5 = 80\) kali pelatihan model.

Dengan kelas positif pos, ukuran evaluasi klasifikasi dihitung dari confusion matrix sebagai berikut:

\[ Accuracy = \frac{TP + TN}{TP + TN + FP + FN}, \quad Precision = \frac{TP}{TP + FP}, \quad Recall = \frac{TP}{TP + FN} \]

\[ Specificity = \frac{TN}{TN + FP}, \qquad F1\text{-}Score = 2 \times \frac{Precision \times Recall}{Precision + Recall} \]

ROC-AUC mengukur kemampuan model membedakan kedua kelas pada berbagai ambang probabilitas. Nilai AUC yang makin mendekati 1 menunjukkan kemampuan diskriminasi yang makin baik, sedangkan 0,5 setara dengan tebakan acak.

BAB III METODE PENELITIAN

3.1 Jenis dan Sumber Data

Data yang digunakan bersifat kuantitatif, bersumber dari SynthDiabetes2 pada package mlbench di R, sesuai arahan modul praktikum (Fransiska, 2026). Dataset ini adalah data sintetis yang meniru data diabetes Pima dan mempertahankan pola missing value pada data aslinya. Variabel respons diabetes terdiri atas dua kelas, yaitu neg dan pos, dan kelas pos ditetapkan sebagai kelas positif.

3.2 Variabel Penelitian

Tabel 4. Variabel Penelitian

No Variabel Keterangan Tipe Data Peran
1 pregnant Jumlah kehamilan Numerik Prediktor
2 glucose Konsentrasi glukosa plasma Numerik Prediktor (\(x_1\) pada visualisasi)
3 pressure Tekanan darah diastolik (mm Hg) Numerik Prediktor (\(x_2\) pada visualisasi)
4 triceps Ketebalan lipatan kulit trisep (mm) Numerik Dihapus (banyak missing value)
5 insulin Kadar insulin serum 2 jam Numerik Dihapus (banyak missing value)
6 mass Indeks massa tubuh (BMI) Numerik Prediktor
7 pedigree Fungsi riwayat keluarga diabetes Numerik Prediktor
8 age Usia (tahun) Numerik Prediktor
9 diabetes Status diabetes: neg atau pos Kategorik Respons

3.3 Langkah-langkah Analisis

  1. Memanggil package e1071, mlbench, caret, pROC, ggplot2, dan knitr.
  2. Memuat data SynthDiabetes2, memeriksa struktur dan missing value, menghapus prediktor triceps dan insulin, lalu menghapus sisa pengamatan yang masih memuat missing value.
  3. Membagi data 70% training dan 30% testing dengan createDataPartition() dan set.seed(234).
  4. Membentuk SVM radial awal (cost = 1, gamma = 1/jumlah prediktor) dan memvisualisasikan batas keputusan pada glucose dan pressure.
  5. Memprediksi data testing, menyusun confusion matrix, serta menghitung Accuracy, Precision, Recall, Specificity, F1-Score, dan ROC-AUC.
  6. Tuning cost dan gamma pada kernel radial dengan validasi silang 5 lipatan, lalu mengevaluasi model terbaik pada data testing.
  7. Tuning cost pada kernel linear dan mengevaluasinya pada data testing.
  8. Membandingkan kernel linear dan radial, kemudian menentukan kernel terbaik.
  9. Menjelaskan pengaruh cost dan gamma terhadap fleksibilitas model dan batas keputusan, lalu menarik kesimpulan.

3.4 Diagram Alir Penelitian

BAB IV HASIL DAN PEMBAHASAN

4.1 Persiapan Data

Tahap awal adalah memanggil package yang dibutuhkan, memuat data SynthDiabetes2, kemudian memeriksa struktur, ringkasan, dan jumlah missing value pada setiap variabel.

library(e1071)    # svm(), tune.svm()
library(mlbench)  # dataset SynthDiabetes2
library(caret)    # createDataPartition(), confusionMatrix()
library(pROC)     # roc(), auc()
library(knitr)    # kable()
library(ggplot2)  # visualisasi
# A1. MEMUAT DAN MENYIAPKAN DATA
data("SynthDiabetes2", package = "mlbench")

pima <- SynthDiabetes2

# Melihat struktur awal
str(pima)
## 'data.frame':    768 obs. of  9 variables:
##  $ pregnant: num  0 8 2 6 4 10 3 1 4 7 ...
##  $ glucose : num  194 129 132 184 108 117 100 88 73 126 ...
##  $ pressure: num  50 84 72 62 58 80 80 75 82 92 ...
##  $ triceps : num  45 NA 42 NA 32 13 41 30 38 NA ...
##  $ insulin : num  NA NA NA NA NA NA 65 49 NA NA ...
##  $ mass    : num  28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
##  $ pedigree: num  0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
##  $ age     : num  28 44 26 39 22 58 33 22 33 46 ...
##  $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
summary(pima)
##     pregnant         glucose         pressure         triceps     
##  Min.   : 0.000   Min.   : 57.0   Min.   : 24.00   Min.   : 7.00  
##  1st Qu.: 1.000   1st Qu.:101.0   1st Qu.: 64.00   1st Qu.:22.00  
##  Median : 3.000   Median :119.0   Median : 72.00   Median :30.00  
##  Mean   : 4.585   Mean   :125.3   Mean   : 72.59   Mean   :29.46  
##  3rd Qu.: 7.000   3rd Qu.:144.5   3rd Qu.: 80.00   3rd Qu.:36.00  
##  Max.   :13.000   Max.   :199.0   Max.   :108.00   Max.   :63.00  
##                   NA's   :5       NA's   :35       NA's   :251    
##     insulin         mass          pedigree           age        diabetes 
##  Min.   : 14   Min.   :18.20   Min.   :0.0780   Min.   :21.00   neg:488  
##  1st Qu.: 76   1st Qu.:27.80   1st Qu.:0.2430   1st Qu.:24.00   pos:280  
##  Median :125   Median :32.80   Median :0.3670   Median :28.00            
##  Mean   :159   Mean   :32.87   Mean   :0.4792   Mean   :33.05            
##  3rd Qu.:194   3rd Qu.:36.95   3rd Qu.:0.6450   3rd Qu.:41.00            
##  Max.   :846   Max.   :59.40   Max.   :2.4200   Max.   :81.00            
##  NA's   :405   NA's   :13
# Melihat jumlah missing value
colSums(is.na(pima))
## pregnant  glucose pressure  triceps  insulin     mass pedigree      age 
##        0        5       35      251      405       13        0        0 
## diabetes 
##        0
Tabel 5. Jumlah Missing Value pada Setiap Variabel
Variabel Jumlah_Missing Persen Tindakan
pregnant 0 0,00 -
glucose 5 0,65 Pengamatan dihapus
pressure 35 4,56 Pengamatan dihapus
triceps 251 32,68 Variabel dihapus
insulin 405 52,73 Variabel dihapus
mass 13 1,69 Pengamatan dihapus
pedigree 0 0,00 -
age 0 0,00 -
diabetes 0 0,00 -

Interpretasi:

Data SynthDiabetes2 terdiri atas 768 pengamatan dan 9 variabel, yaitu delapan prediktor numerik dan satu respons kategorik (diabetes). Respons terdiri atas 488 pengamatan neg dan 280 pengamatan pos. Berdasarkan Tabel 5, insulin memiliki missing value terbanyak (405 pengamatan atau 52,7%), disusul triceps (251 pengamatan atau 32,7%). Sementara itu, glucose memiliki 5 nilai hilang, pressure 35, dan mass 13. Karena insulin dan triceps kehilangan data dalam jumlah besar, kedua prediktor tersebut dihapus, bukan dilakukan penghapusan baris, agar tidak terlalu banyak pengamatan terbuang. SVM tidak dapat memproses nilai hilang, sehingga sisa baris yang masih memuat missing value pada prediktor lain dihapus.

4.2 Penanganan Missing Value dan Pra-pemrosesan

Penanganan dilakukan sesuai sintaks praktikum: menghapus dua prediktor dengan banyak missing value (triceps dan insulin), menghapus sisa pengamatan bermasalah dengan na.omit(), dan memastikan respons berupa factor.

# Menghapus dua prediktor dengan banyak missing value
pima <- pima[
  ,
  !names(pima) %in% c(
    "triceps",
    "insulin"
  )
]

# Menghapus sisa observasi yang masih mengandung missing value
pima <- na.omit(pima)

# Memastikan respons berupa factor
pima$diabetes <- droplevels(
  as.factor(pima$diabetes)
)

# Memeriksa data setelah preprocessing
str(pima)
## 'data.frame':    727 obs. of  7 variables:
##  $ pregnant: num  0 8 2 6 4 10 3 1 4 7 ...
##  $ glucose : num  194 129 132 184 108 117 100 88 73 126 ...
##  $ pressure: num  50 84 72 62 58 80 80 75 82 92 ...
##  $ mass    : num  28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
##  $ pedigree: num  0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
##  $ age     : num  28 44 26 39 22 58 33 22 33 46 ...
##  $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
##  - attr(*, "na.action")= 'omit' Named int [1:41] 42 57 59 60 77 96 108 109 119 158 ...
##   ..- attr(*, "names")= chr [1:41] "42" "57" "59" "60" ...
summary(pima)
##     pregnant        glucose         pressure           mass      
##  Min.   : 0.00   Min.   : 57.0   Min.   : 24.00   Min.   :18.20  
##  1st Qu.: 1.00   1st Qu.:101.0   1st Qu.: 64.00   1st Qu.:27.80  
##  Median : 3.00   Median :119.0   Median : 72.00   Median :32.80  
##  Mean   : 4.67   Mean   :125.4   Mean   : 72.58   Mean   :32.96  
##  3rd Qu.: 7.00   3rd Qu.:144.0   3rd Qu.: 80.00   3rd Qu.:37.15  
##  Max.   :13.00   Max.   :196.0   Max.   :108.00   Max.   :59.40  
##     pedigree           age        diabetes 
##  Min.   :0.0780   Min.   :21.00   neg:462  
##  1st Qu.:0.2450   1st Qu.:24.00   pos:265  
##  Median :0.3650   Median :28.00            
##  Mean   :0.4790   Mean   :33.29            
##  3rd Qu.:0.6425   3rd Qu.:41.00            
##  Max.   :2.4200   Max.   :81.00
dim(pima)
## [1] 727   7
# Distribusi kelas
table(pima$diabetes)
## 
## neg pos 
## 462 265
prop.table(
  table(pima$diabetes)
)
## 
##       neg       pos 
## 0.6354883 0.3645117

Interpretasi:

Setelah pra-pemrosesan, tersisa 727 pengamatan dengan 6 prediktor (41 pengamatan atau 5,34% dari data awal dihapus). Distribusi kelas pada data bersih adalah neg sebanyak 462 (63,55%) dan pos sebanyak 265 (36,45%). Kelas neg lebih banyak daripada kelas pos, sehingga distribusi kelas tidak seimbang. Akibatnya, Accuracy saja kurang memadai untuk menilai model, dan perlu dilengkapi dengan Recall, Specificity, F1-Score, serta AUC.

4.2.1 Eksplorasi Singkat Prediktor Utama

Sebelum pemodelan, sebaran glucose dan pressure menurut kelas diperiksa untuk melihat apakah kedua variabel berpotensi membedakan neg dan pos.

par(mfrow = c(1, 2), mar = c(4.5, 4.5, 3, 1))

boxplot(glucose ~ diabetes, data = pima,
        col = c("#B7DDDA", "#F4B6A6"), border = "#48434a",
        main = "Glucose menurut Status Diabetes",
        xlab = "Status diabetes", ylab = "Glucose")

boxplot(pressure ~ diabetes, data = pima,
        col = c("#B7DDDA", "#F4B6A6"), border = "#48434a",
        main = "Pressure menurut Status Diabetes",
        xlab = "Status diabetes", ylab = "Pressure (mm Hg)")
Gambar 3. Sebaran glucose dan pressure menurut status diabetes

Gambar 3. Sebaran glucose dan pressure menurut status diabetes

par(mfrow = c(1, 1))

Interpretasi:

Median glucose pada kelas pos adalah 146,0, lebih tinggi dibandingkan kelas neg yang bernilai 111,0 (selisih 35,0). Median pressure kelas pos adalah 74,0 mm Hg dan kelas neg 72,0 mm Hg (selisih 2,0). Perbedaan antarkelas pada glucose terlihat lebih besar dibandingkan pada pressure, sedangkan kotak kedua kelas masih saling tumpang tindih pada kedua variabel. Hal ini mengisyaratkan bahwa kedua kelas tidak akan terpisah sempurna, sehingga pendekatan soft margin dengan parameter cost diperlukan.

4.3 Pembagian Data Training dan Testing

Data dibagi 70% training dan 30% testing memakai createDataPartition() dengan set.seed(234). Pembagian ini berstrata menurut respons sehingga proporsi kelas pada kedua bagian relatif terjaga.

# A2. MEMBAGI DATA TRAINING DAN TESTING 70:30
set.seed(234)

idx.cls <- createDataPartition(
  pima$diabetes,
  p = 0.70,
  list = FALSE
)

pima.train <- pima[
  idx.cls,
]

pima.test <- pima[
  -idx.cls,
]

# Ukuran data
dim(pima.train)
## [1] 510   7
dim(pima.test)
## [1] 217   7
# Distribusi kelas
table(pima.train$diabetes)
## 
## neg pos 
## 324 186
table(pima.test$diabetes)
## 
## neg pos 
## 138  79
prop.table(
  table(pima.train$diabetes)
)
## 
##       neg       pos 
## 0.6352941 0.3647059
prop.table(
  table(pima.test$diabetes)
)
## 
##       neg       pos 
## 0.6359447 0.3640553
Tabel 6. Sebaran Kelas pada Data Training dan Data Testing
Kelas Training Testing Persen_Training Persen_Testing
neg 324 138 63,53 63,59
pos 186 79 36,47 36,41

Interpretasi:

Dari 727 pengamatan, diperoleh 510 data training (70%) dan 217 data testing (30%). Pada Tabel 6, proporsi kelas pos adalah 36,47% pada data training dan 36,41% pada data testing, sedangkan kelas neg masing-masing 63,53% dan 63,59%. Proporsi yang hampir sama menunjukkan bahwa pembagian berstrata berhasil menjaga distribusi kelas. Data training dipakai untuk membentuk model dan tuning melalui validasi silang, sedangkan data testing hanya dipakai untuk evaluasi akhir.

4.4 Model SVM Radial Awal

Model awal dibentuk dengan kernel radial, cost = 1, dan gamma = 1/(jumlah prediktor). Argumen scale = TRUE menstandardisasi prediktor karena SVM sensitif terhadap skala, sedangkan probability = TRUE diaktifkan agar probabilitas kelas tersedia untuk ROC-AUC.

# A3. MEMBENTUK MODEL SVM RADIAL AWAL
set.seed(234)
svm.cls <- svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "radial",
  cost = 1,
  gamma = 1 / (ncol(pima.train) - 1),
  scale = TRUE,
  probability = TRUE
)

svm.cls
## 
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification", 
##     kernel = "radial", cost = 1, gamma = 1/(ncol(pima.train) - 1), 
##     probability = TRUE, scale = TRUE)
## 
## 
## Parameters:
##    SVM-Type:  C-classification 
##  SVM-Kernel:  radial 
##        cost:  1 
## 
## Number of Support Vectors:  307

Interpretasi:

Model SVM radial awal menggunakan cost = 1 dan gamma = 0,1667 (yaitu \(1/6\) karena terdapat enam prediktor). Model menghasilkan 307 support vector dari 510 data training (60,20%), dengan rincian 156 pada kelas neg dan 151 pada kelas pos. Artinya, 60,20% pengamatan berperan langsung menentukan batas keputusan. Proporsi support vector yang besar mengindikasikan banyak pengamatan berada dekat atau melewati batas margin, sejalan dengan tumpang tindih antarkelas yang tampak pada eksplorasi data.

4.4.1 Visualisasi Decision Boundary SVM Radial

Batas keputusan divisualisasikan pada \(x_1\) = glucose dan \(x_2\) = pressure. Prediksi dibuat pada grid 200 × 200 titik, sedangkan prediktor lain (pregnant, mass, pedigree, dan age) ditetapkan pada median data training. Latar warna menunjukkan kelas prediksi, garis hitam adalah batas keputusan (nilai keputusan = 0), dan titik adalah data training aktual.

# A3.1 VISUALISASI DECISION BOUNDARY SVM RADIAL
# NPM ganjil: x1 = glucose, x2 = pressure
x1 <- "glucose"
x2 <- "pressure"

# Grid prediksi 200 x 200
grid_vals <- expand.grid(
  glucose  = seq(min(pima.train$glucose),  max(pima.train$glucose),  length.out = 200),
  pressure = seq(min(pima.train$pressure), max(pima.train$pressure), length.out = 200)
)

# Prediktor lain ditetapkan pada median data training
prediktor <- setdiff(names(pima.train), c("diabetes", x1, x2))
for (v in prediktor) {
  grid_vals[[v]] <- median(pima.train[[v]])
}

# Fungsi: prediksi grid + nilai keputusan untuk sebuah model
prediksi.grid <- function(model) {
  g <- grid_vals
  p <- predict(model, newdata = g, decision.values = TRUE)
  g$Prediksi <- p
  g$margin   <- as.numeric(attr(p, "decision.values")[, 1])
  g
}

# Fungsi: gambar decision boundary
plot.boundary <- function(g, judul, subjudul) {
  ggplot() +
    geom_raster(data = g, aes(x = glucose, y = pressure, fill = Prediksi), alpha = 0.28) +
    geom_contour(data = g, aes(x = glucose, y = pressure, z = margin),
                 breaks = 0, colour = "black", linewidth = 1) +
    geom_point(data = pima.train, aes(x = glucose, y = pressure, color = diabetes),
               size = 2, alpha = 0.75) +
    scale_color_manual(values = c("neg" = warna.neg, "pos" = warna.pos)) +
    scale_fill_manual(values  = c("neg" = warna.neg, "pos" = warna.pos)) +
    labs(title = judul, subtitle = subjudul,
         x = "Glucose", y = "Pressure (tekanan darah diastolik, mm Hg)",
         color = "Kelas aktual", fill = "Kelas prediksi") +
    tema.levia
}

g.awal <- prediksi.grid(svm.cls)

plot.boundary(
  g.awal,
  "SVM Nonlinier dengan Kernel RBF",
  paste0("Model awal: cost = ", svm.cls$cost, ", gamma = ", round(svm.cls$gamma, 4))
)
Gambar 4. Decision boundary SVM radial awal pada glucose dan pressure

Gambar 4. Decision boundary SVM radial awal pada glucose dan pressure

Interpretasi:

Pada Gambar 4, wilayah prediksi kelas pos (jingga) mulai muncul ketika glucose melewati sekitar 149 pada tekanan darah di median (74 mm Hg), sedangkan wilayah neg (hijau-biru) berada pada sisi lainnya. Garis hitam yang melengkung memperlihatkan bahwa kernel radial mampu membentuk batas pemisah nonlinier, bukan sekadar garis lurus. Titik-titik kedua kelas pada rentang tengah masih saling bercampur, sehingga ada pengamatan yang secara alami sulit dipisahkan dan akan salah diklasifikasikan. Perlu dicatat bahwa gambar ini hanya menampilkan dua dari enam prediktor, sementara empat prediktor lain dipatok pada median.

4.5 Prediksi Data Testing

Model awal dipakai untuk memprediksi kelas pada data testing, kemudian dibandingkan dengan kelas aktual.

# A4. PREDIKSI DATA TESTING
pred.svm.cls <- predict(
  svm.cls,
  newdata = pima.test,
  probability = TRUE
)

pred.svm.cls <- factor(
  pred.svm.cls,
  levels = levels(
    pima.test$diabetes
  )
)

hasil.svm.cls <- data.frame(
  Aktual = pima.test$diabetes,
  Prediksi = pred.svm.cls
)

head(
  hasil.svm.cls,
  10
)
##    Aktual Prediksi
## 8     neg      neg
## 9     neg      neg
## 12    neg      neg
## 15    neg      neg
## 19    pos      pos
## 24    neg      neg
## 30    neg      pos
## 32    pos      pos
## 37    pos      neg
## 38    neg      pos
Tabel 7. Sepuluh Hasil Prediksi Pertama pada Data Testing (SVM Radial Awal)
Aktual Prediksi Status
8 neg neg Benar
9 neg neg Benar
12 neg neg Benar
15 neg neg Benar
19 pos pos Benar
24 neg neg Benar
30 neg pos Salah
32 pos pos Benar
37 pos neg Salah
38 neg pos Salah

Interpretasi:

Dari 10 pengamatan testing pertama pada Tabel 7, 7 diprediksi dengan benar dan 3 diprediksi salah. Hasil ini hanya cuplikan kecil, sehingga kinerja model yang sesungguhnya harus dinilai lewat confusion matrix dan ukuran evaluasi pada seluruh 217 data testing.

4.6 Confusion Matrix

Confusion matrix disusun dengan confusionMatrix() dari paket caret dengan kelas positif pos, sehingga sensitivity mengukur kemampuan model mendeteksi pasien diabetes.

# A5. CONFUSION MATRIX
cm.svm <- confusionMatrix(
  data = pred.svm.cls,
  reference = pima.test$diabetes,
  positive = "pos"
)

cm.svm
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 122  36
##        pos  16  43
##                                           
##                Accuracy : 0.7604          
##                  95% CI : (0.6979, 0.8156)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 5.909e-05       
##                                           
##                   Kappa : 0.4529          
##                                           
##  Mcnemar's Test P-Value : 0.008418        
##                                           
##             Sensitivity : 0.5443          
##             Specificity : 0.8841          
##          Pos Pred Value : 0.7288          
##          Neg Pred Value : 0.7722          
##              Prevalence : 0.3641          
##          Detection Rate : 0.1982          
##    Detection Prevalence : 0.2719          
##       Balanced Accuracy : 0.7142          
##                                           
##        'Positive' Class : pos             
## 

Interpretasi:

Model SVM radial awal mengklasifikasikan dengan benar 122 data neg (true negative) dan 43 data pos (true positive). Terdapat 16 data neg yang diprediksi pos (false positive) dan 36 data pos yang diprediksi neg (false negative). Accuracy sebesar 76,04% berarti model benar pada 76,04% data testing. Sensitivity sebesar 54,43% menunjukkan kemampuan mendeteksi pasien diabetes, sedangkan specificity 88,41% menunjukkan kemampuan mengenali yang bukan diabetes. Kappa sebesar 0,4529 dan balanced accuracy sebesar 71,42%. Karena specificity lebih tinggi daripada sensitivity, model lebih andal mengenali kelas neg dibandingkan kelas pos, sehingga masih ada pasien diabetes yang belum terdeteksi.

4.7 Ukuran Evaluasi Klasifikasi

Ukuran evaluasi dihitung manual dari confusion matrix dengan kelas positif pos.

# A6. UKURAN EVALUASI KLASIFIKASI
tab.svm <- table(
  Aktual = pima.test$diabetes,
  Prediksi = pred.svm.cls
)

tab.svm
##       Prediksi
## Aktual neg pos
##    neg 122  16
##    pos  36  43
# Kelas positif = pos
TN <- tab.svm["neg", "neg"]
FP <- tab.svm["neg", "pos"]
FN <- tab.svm["pos", "neg"]
TP <- tab.svm["pos", "pos"]

# Accuracy
Accuracy <- (TP + TN) / (TP + TN + FP + FN)

# Precision
Precision <- TP / (TP + FP)

# Recall / Sensitivity
Recall <- TP / (TP + FN)

# Specificity
Specificity <- TN / (TN + FP)

# F1-Score
F1 <- 2 * (Precision * Recall) / (Precision + Recall)

evaluasi.svm <- data.frame(
  Accuracy = Accuracy,
  Precision = Precision,
  Recall = Recall,
  Specificity = Specificity,
  F1_Score = F1
)

kable(round(evaluasi.svm, 4), align = "c",
      format.args = list(decimal.mark = ","),
      caption = "Tabel 8. Ukuran Evaluasi SVM Radial Awal pada Data Testing")
Tabel 8. Ukuran Evaluasi SVM Radial Awal pada Data Testing
Accuracy Precision Recall Specificity F1_Score
0,7604 0,7288 0,5443 0,8841 0,6232

Interpretasi:

SVM radial awal memperoleh Accuracy 76,04%, Precision 72,88%, Recall 54,43%, Specificity 88,41%, dan F1-Score 62,32%. Precision berarti dari semua pengamatan yang diprediksi pos, sebanyak 72,88% benar-benar pos. Recall berarti model berhasil menangkap 54,43% dari seluruh pasien pos yang sebenarnya. F1-Score meringkas keseimbangan keduanya. Pada kasus diabetes, Recall biasanya lebih penting karena false negative berarti pasien yang sakit tidak terdeteksi.

4.8 ROC dan AUC

Kurva ROC dibuat dari probabilitas kelas pos hasil model dengan probability = TRUE. Kurva menggambarkan sensitivity terhadap 1 − specificity pada berbagai ambang probabilitas, dan AUC adalah luas di bawah kurva tersebut.

# A7. ROC DAN AUC
prob.svm <- attr(
  predict(
    svm.cls,
    newdata = pima.test,
    probability = TRUE
  ),
  "probabilities"
)[, "pos"]

roc.svm <- roc(
  response = pima.test$diabetes,
  predictor = prob.svm,
  levels = c("neg", "pos"),
  direction = "<",
  quiet = TRUE
)

AUC.svm <- as.numeric(auc(roc.svm))
AUC.svm
## [1] 0.818015
# Plot ROC
plot(
  roc.svm,
  legacy.axes = TRUE,
  col = warna.utama, lwd = 3,
  auc.polygon = TRUE, auc.polygon.col = "#D5EDEB",
  main = paste0("ROC SVM Radial Awal (AUC = ", round(AUC.svm, 3), ")")
)
Gambar 5. Kurva ROC SVM radial awal

Gambar 5. Kurva ROC SVM radial awal

Interpretasi:

Nilai AUC model radial awal adalah 0,8180, yang tergolong baik. Artinya, bila satu pasien pos dan satu pasien neg dipilih acak, model memberi probabilitas pos yang lebih tinggi kepada pasien pos dengan peluang sekitar 81,8%. Kurva berada di atas garis diagonal (klasifikasi acak), sehingga model memiliki kemampuan diskriminasi yang bermakna.

4.9 Tuning cost dan gamma pada Kernel Radial

Tuning dilakukan dengan tune.svm() pada cost = 0,1; 1; 10; 100 dan gamma = 0,001; 0,01; 0,1; 1 menggunakan validasi silang 5 lipatan pada data training. Terdapat 16 kombinasi sehingga total 80 kali pelatihan model. Kombinasi terbaik adalah yang memiliki error validasi silang terkecil.

# A8. TUNING COST DAN GAMMA
set.seed(234)

tune.svm.cls <- tune.svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "radial",
  cost = c(0.1, 1, 10, 100),
  gamma = c(0.001, 0.01, 0.1, 1),
  scale = TRUE,
  tunecontrol = tune.control(
    cross = 5
  )
)

tune.svm.cls
## 
## Parameter tuning of 'svm':
## 
## - sampling method: 5-fold cross validation 
## 
## - best parameters:
##  gamma cost
##   0.01  100
## 
## - best performance: 0.2568627
# Model terbaik
svm.best <- tune.svm.cls$best.model

svm.best
## 
## Call:
## best.svm(x = diabetes ~ ., data = pima.train, gamma = c(0.001, 0.01, 
##     0.1, 1), cost = c(0.1, 1, 10, 100), type = "C-classification", 
##     kernel = "radial", scale = TRUE, tunecontrol = tune.control(cross = 5))
## 
## 
## Parameters:
##    SVM-Type:  C-classification 
##  SVM-Kernel:  radial 
##        cost:  100 
## 
## Number of Support Vectors:  286
# Parameter terbaik
tune.svm.cls$best.parameters
##    gamma cost
## 14  0.01  100

Interpretasi:

Hasil validasi silang 5 lipatan menunjukkan kombinasi terbaik pada cost = 100 dan gamma = 0,01 dengan error validasi silang 0,2569 (25,69%), artinya kombinasi inilah yang paling jarang salah klasifikasi pada data training di luar lipatan. Model terbaik memiliki 286 support vector. Kombinasi ini kemudian dipakai untuk evaluasi pada data testing.

4.9.1 Ringkasan Hasil Tuning

Untuk melihat pengaruh cost dan gamma secara menyeluruh, error validasi silang seluruh kombinasi disajikan dalam tabel dan heatmap.

# A8.1 RINGKASAN HASIL TUNING (ERROR VALIDASI SILANG)
kable(head(hasil.tuning[order(hasil.tuning$error), ], 5),
      digits = 4, align = "c", row.names = FALSE,
      format.args = list(decimal.mark = ","),
      caption = "Tabel 9. Lima Kombinasi cost dan gamma dengan Error Validasi Silang Terkecil")
Tabel 9. Lima Kombinasi cost dan gamma dengan Error Validasi Silang Terkecil
gamma cost error dispersion
0,010 100 0,2569 0,0128
0,100 1 0,2588 0,0282
0,100 10 0,2608 0,0203
0,010 10 0,2627 0,0189
0,001 10 0,2647 0,0183
# Heatmap error validasi silang
ggplot(hasil.tuning, aes(x = factor(gamma), y = factor(cost), fill = error)) +
  geom_tile(color = "white", linewidth = 1) +
  geom_tile(data = hasil.tuning[abs(hasil.tuning$error - min(hasil.tuning$error)) < 1e-9, ],
            fill = NA, color = "black", linewidth = 1.4) +
  geom_text(aes(label = round(error, 3)), size = 3.6) +
  scale_fill_gradient(low = "#B7DDDA", high = "#F4A582") +
  labs(title = "Error Validasi Silang SVM Radial",
       x = "Gamma", y = "Cost", fill = "Error CV") +
  tema.levia
Gambar 6. Heatmap error validasi silang SVM radial (kotak hitam = kombinasi terbaik)

Gambar 6. Heatmap error validasi silang SVM radial (kotak hitam = kombinasi terbaik)

Interpretasi:

Pada Tabel 9 dan Gambar 6, error validasi silang berkisar dari 0,2569 hingga 0,3647. Kombinasi terbaik adalah cost = 100 dan gamma = 0,01 (0,2569), diikuti cost = 1 dan gamma = 0,1 (0,2588). Error tertinggi (0,3647) muncul pada 4 kombinasi. Pola warna menunjukkan bahwa hasil sangat dipengaruhi oleh keserasian cost dan gamma: pasangan yang terlalu “kaku” (keduanya kecil) cenderung underfitting, sedangkan pasangan yang terlalu fleksibel dapat memburuk karena mengikuti derau data training.

4.10 Evaluasi Model Hasil Tuning

Model radial terbaik hasil tuning dipakai untuk memprediksi data testing, lalu dievaluasi dengan confusion matrix dan Accuracy.

# A9. EVALUASI MODEL HASIL TUNING
pred.svm.best <- predict(
  svm.best,
  newdata = pima.test
)

pred.svm.best <- factor(
  pred.svm.best,
  levels = levels(
    pima.test$diabetes
  )
)

cm.svm.best <- confusionMatrix(
  data = pred.svm.best,
  reference = pima.test$diabetes,
  positive = "pos"
)

cm.svm.best
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 120  28
##        pos  18  51
##                                           
##                Accuracy : 0.788           
##                  95% CI : (0.7276, 0.8404)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 9.258e-07       
##                                           
##                   Kappa : 0.5295          
##                                           
##  Mcnemar's Test P-Value : 0.1845          
##                                           
##             Sensitivity : 0.6456          
##             Specificity : 0.8696          
##          Pos Pred Value : 0.7391          
##          Neg Pred Value : 0.8108          
##              Prevalence : 0.3641          
##          Detection Rate : 0.2350          
##    Detection Prevalence : 0.3180          
##       Balanced Accuracy : 0.7576          
##                                           
##        'Positive' Class : pos             
## 
# Accuracy model radial hasil tuning
acc.radial <- mean(
  pred.svm.best ==
    pima.test$diabetes
)

acc.radial
## [1] 0.7880184

4.10.1 Ukuran Evaluasi Lengkap, Confusion Matrix, Decision Boundary, dan ROC-AUC Model Tuning

Agar seluruh ukuran pada instruksi Teladan tersedia untuk model terbaik, dihitung ukuran evaluasi lengkap, divisualisasikan confusion matrix dan batas keputusan model hasil tuning pada \(x_1\) = glucose dan \(x_2\) = pressure, serta ROC-AUC. Probabilitas untuk ROC-AUC diperoleh dengan membentuk ulang model radial memakai parameter terbaik dan probability = TRUE.

# A9.1 UKURAN EVALUASI LENGKAP (kelas positif = pos)
hitung.eval <- function(pred, aktual) {
  tab <- table(Aktual = aktual, Prediksi = pred)
  TN <- tab["neg", "neg"]; FP <- tab["neg", "pos"]
  FN <- tab["pos", "neg"]; TP <- tab["pos", "pos"]
  Accuracy    <- (TP + TN) / (TP + TN + FP + FN)
  Precision   <- TP / (TP + FP)
  Recall      <- TP / (TP + FN)
  Specificity <- TN / (TN + FP)
  F1_Score    <- 2 * (Precision * Recall) / (Precision + Recall)
  c(Accuracy = Accuracy, Precision = Precision, Recall = Recall,
    Specificity = Specificity, F1_Score = F1_Score)
}

evaluasi.awal   <- hitung.eval(pred.svm.cls,  pima.test$diabetes)
evaluasi.radial <- hitung.eval(pred.svm.best, pima.test$diabetes)

kable(t(round(evaluasi.radial, 4)), align = "c",
      format.args = list(decimal.mark = ","),
      caption = "Tabel 10. Ukuran Evaluasi SVM Radial Hasil Tuning pada Data Testing")
Tabel 10. Ukuran Evaluasi SVM Radial Hasil Tuning pada Data Testing
Accuracy Precision Recall Specificity F1_Score
0,788 0,7391 0,6456 0,8696 0,6892
cm.df <- as.data.frame(cm.svm.best$table)

ggplot(cm.df, aes(x = Reference, y = Prediction, fill = Freq)) +
  geom_tile(color = "white", linewidth = 1.5) +
  geom_text(aes(label = Freq), size = 8, fontface = "bold", color = "#205A5B") +
  scale_fill_gradient(low = "#F2FAF9", high = "#7FC4BF") +
  labs(title = "Confusion Matrix Model Radial Hasil Tuning",
       x = "Kelas aktual", y = "Kelas prediksi", fill = "Jumlah") +
  tema.levia
Gambar 7. Confusion matrix SVM radial hasil tuning (data testing)

Gambar 7. Confusion matrix SVM radial hasil tuning (data testing)

# A9.2 DECISION BOUNDARY MODEL RADIAL HASIL TUNING (x1 = glucose, x2 = pressure)
g.best <- prediksi.grid(svm.best)

plot.boundary(
  g.best,
  "SVM Radial Hasil Tuning",
  paste0("cost = ", fp(svm.best$cost), ", gamma = ", fp(svm.best$gamma))
)
Gambar 8. Decision boundary SVM radial hasil tuning pada glucose dan pressure

Gambar 8. Decision boundary SVM radial hasil tuning pada glucose dan pressure

# A9.3 ROC DAN AUC MODEL RADIAL HASIL TUNING
set.seed(234)
svm.best.prob <- svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "radial",
  cost = svm.best$cost,
  gamma = svm.best$gamma,
  scale = TRUE,
  probability = TRUE
)

prob.best <- attr(
  predict(svm.best.prob, newdata = pima.test, probability = TRUE),
  "probabilities"
)[, "pos"]

roc.best <- roc(
  response = pima.test$diabetes,
  predictor = prob.best,
  levels = c("neg", "pos"),
  direction = "<",
  quiet = TRUE
)

AUC.best <- as.numeric(auc(roc.best))
AUC.best
## [1] 0.8241607
plot(
  roc.best,
  legacy.axes = TRUE,
  col = warna.utama, lwd = 3,
  auc.polygon = TRUE, auc.polygon.col = "#D5EDEB",
  main = paste0("ROC SVM Radial Hasil Tuning (AUC = ", round(AUC.best, 3), ")")
)
Gambar 9. Kurva ROC SVM radial hasil tuning

Gambar 9. Kurva ROC SVM radial hasil tuning

Interpretasi:

Model radial hasil tuning (cost = 100, gamma = 0,01) memperoleh Accuracy 0,7880, Precision 0,7391, Recall 0,6456, Specificity 0,8696, F1-Score 0,6892, dan AUC 0,8242 (baik). Pada Gambar 7, model menghasilkan 120 true negative, 51 true positive, 18 false positive, dan 28 false negative. Dibandingkan model awal, Accuracy naik sebesar 2,76 poin persentase dan Recall naik sebesar 10,13 poin persentase. Gambar 8 memperlihatkan batas keputusan nonlinier hasil tuning yang memisahkan kelas neg dan pos berdasarkan glucose dan pressure, walau masih ada titik yang bertumpang tindih. Sementara itu, Gambar 9 menunjukkan kemampuan diskriminasi yang baik.

4.11 Tuning Kernel Linear

Sebagai pembanding, dilakukan tuning pada kernel linear. Kernel ini hanya memiliki parameter cost (tanpa gamma), sehingga tuning dilakukan pada cost = 0,1; 1; 10; 100 dengan validasi silang 5 lipatan.

# A10. TUNING KERNEL LINEAR
set.seed(234)

tune.linear <- tune.svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "linear",
  cost = c(0.1, 1, 10, 100),
  scale = TRUE,
  tunecontrol = tune.control(
    cross = 5
  )
)

tune.linear
## 
## Parameter tuning of 'svm':
## 
## - sampling method: 5-fold cross validation 
## 
## - best parameters:
##  cost
##   100
## 
## - best performance: 0.2588235
# Parameter terbaik linear
tune.linear$best.parameters
##   cost
## 4  100
# Prediksi model linear
pred.linear <- predict(
  tune.linear$best.model,
  newdata = pima.test
)

pred.linear <- factor(
  pred.linear,
  levels = levels(
    pima.test$diabetes
  )
)

# Accuracy kernel linear
acc.linear <- mean(
  pred.linear ==
    pima.test$diabetes
)

acc.linear
## [1] 0.764977
# A10.1 EVALUASI LENGKAP DAN ROC-AUC KERNEL LINEAR
cm.linear <- confusionMatrix(
  data = pred.linear,
  reference = pima.test$diabetes,
  positive = "pos"
)
cm.linear
## Confusion Matrix and Statistics
## 
##           Reference
## Prediction neg pos
##        neg 115  28
##        pos  23  51
##                                           
##                Accuracy : 0.765           
##                  95% CI : (0.7028, 0.8197)
##     No Information Rate : 0.6359          
##     P-Value [Acc > NIR] : 3.147e-05       
##                                           
##                   Kappa : 0.4855          
##                                           
##  Mcnemar's Test P-Value : 0.5754          
##                                           
##             Sensitivity : 0.6456          
##             Specificity : 0.8333          
##          Pos Pred Value : 0.6892          
##          Neg Pred Value : 0.8042          
##              Prevalence : 0.3641          
##          Detection Rate : 0.2350          
##    Detection Prevalence : 0.3410          
##       Balanced Accuracy : 0.7395          
##                                           
##        'Positive' Class : pos             
## 
evaluasi.linear <- hitung.eval(pred.linear, pima.test$diabetes)

set.seed(234)
svm.linear.prob <- svm(
  diabetes ~ .,
  data = pima.train,
  type = "C-classification",
  kernel = "linear",
  cost = tune.linear$best.parameters$cost,
  scale = TRUE,
  probability = TRUE
)

prob.linear <- attr(
  predict(svm.linear.prob, newdata = pima.test, probability = TRUE),
  "probabilities"
)[, "pos"]

roc.linear <- roc(
  response = pima.test$diabetes,
  predictor = prob.linear,
  levels = c("neg", "pos"),
  direction = "<",
  quiet = TRUE
)

AUC.linear <- as.numeric(auc(roc.linear))
AUC.linear
## [1] 0.8316823

Interpretasi:

Kernel linear memperoleh cost terbaik 100 dengan error validasi silang 0,2588. Pada data testing, model ini menghasilkan Accuracy 0,7650, Precision 0,6892, Recall 0,6456, Specificity 0,8333, F1-Score 0,6667, dan AUC 0,8317, dengan 28 false negative dan 23 false positive.

4.12 Perbandingan Kernel Linear dan Radial

Kedua kernel dibandingkan menggunakan model terbaik hasil tuning pada data testing yang sama, sesuai prinsip bahwa performa akhir dilaporkan pada data testing yang sama untuk setiap model yang dibandingkan (Fransiska, 2026).

# A11. PERBANDINGAN KERNEL LINEAR DAN RADIAL
perbandingan.kernel.cls <- data.frame(
  Kernel = c("Linear", "Radial"),
  Accuracy = c(acc.linear, acc.radial)
)

perbandingan.kernel.cls
##   Kernel  Accuracy
## 1 Linear 0.7649770
## 2 Radial 0.7880184
# A11.1 PERBANDINGAN LENGKAP
tabel.banding <- data.frame(
  Model = c("Radial awal", "Radial hasil tuning", "Linear hasil tuning"),
  rbind(
    c(evaluasi.awal,   AUC = AUC.svm),
    c(evaluasi.radial, AUC = AUC.best),
    c(evaluasi.linear, AUC = AUC.linear)
  ),
  row.names = NULL
)

kable(tabel.banding, digits = 4, align = "c",
      format.args = list(decimal.mark = ","),
      caption = "Tabel 11. Perbandingan Kinerja Model pada Data Testing")
Tabel 11. Perbandingan Kinerja Model pada Data Testing
Model Accuracy Precision Recall Specificity F1_Score AUC
Radial awal 0,7604 0,7288 0,5443 0,8841 0,6232 0,8180
Radial hasil tuning 0,7880 0,7391 0,6456 0,8696 0,6892 0,8242
Linear hasil tuning 0,7650 0,6892 0,6456 0,8333 0,6667 0,8317
# Ringkasan parameter dan jumlah support vector
ringkas.model <- data.frame(
  Model  = c("Radial awal", "Radial hasil tuning", "Linear hasil tuning"),
  Kernel = c("radial", "radial", "linear"),
  Cost   = c(svm.cls$cost, svm.best$cost, tune.linear$best.model$cost),
  Gamma  = c(svm.cls$gamma, svm.best$gamma, NA),
  Jumlah_Support_Vector = c(svm.cls$tot.nSV, svm.best$tot.nSV,
                            tune.linear$best.model$tot.nSV)
)

kable(ringkas.model, digits = 4, align = "c",
      format.args = list(decimal.mark = ",", scientific = FALSE),
      caption = "Tabel 12. Ringkasan Parameter dan Jumlah Support Vector Setiap Model")
Tabel 12. Ringkasan Parameter dan Jumlah Support Vector Setiap Model
Model Kernel Cost Gamma Jumlah_Support_Vector
Radial awal radial 1 0,1667 307
Radial hasil tuning radial 100 0,0100 286
Linear hasil tuning linear 100 - 295
# Perbandingan kurva ROC
plot(roc.linear, legacy.axes = TRUE, col = warna.pos, lwd = 3,
     main = "Perbandingan Kurva ROC: Linear vs Radial")
plot(roc.best, legacy.axes = TRUE, col = warna.utama, lwd = 3, add = TRUE)
legend("bottomright",
       legend = c(paste0("Linear (AUC = ", round(AUC.linear, 3), ")"),
                  paste0("Radial (AUC = ", round(AUC.best, 3), ")")),
       col = c(warna.pos, warna.utama), lwd = 3, cex = 0.95, bty = "n")
Gambar 10. Perbandingan kurva ROC kernel linear dan radial hasil tuning

Gambar 10. Perbandingan kurva ROC kernel linear dan radial hasil tuning

metrik <- c("Accuracy", "Precision", "Recall", "Specificity", "F1_Score", "AUC")
m.mat  <- as.matrix(tabel.banding[, metrik])

metrik.long <- data.frame(
  Model  = factor(rep(tabel.banding$Model, times = length(metrik)),
                  levels = tabel.banding$Model),
  Metrik = factor(rep(metrik, each = nrow(tabel.banding)), levels = metrik),
  Nilai  = as.vector(m.mat)
)

ggplot(metrik.long, aes(x = Metrik, y = Nilai, fill = Model)) +
  geom_col(position = position_dodge(width = 0.8), width = 0.72) +
  geom_text(aes(label = round(Nilai, 2)),
            position = position_dodge(width = 0.8), vjust = -0.4, size = 3) +
  scale_fill_manual(values = c("Radial awal" = "#B7DDDA",
                               "Radial hasil tuning" = warna.utama,
                               "Linear hasil tuning" = warna.pos)) +
  scale_y_continuous(limits = c(0, 1.05), expand = c(0, 0)) +
  labs(title = "Perbandingan Ukuran Evaluasi", x = NULL, y = "Nilai", fill = NULL) +
  tema.levia
Gambar 11. Perbandingan ukuran evaluasi antarmodel pada data testing

Gambar 11. Perbandingan ukuran evaluasi antarmodel pada data testing

Interpretasi:

Berdasarkan Tabel 11, kernel linear mencapai Accuracy 0,7650 dan AUC 0,8317, sedangkan kernel radial mencapai Accuracy 0,7880 dan AUC 0,8242. Berdasarkan Accuracy, kernel yang unggul adalah radial dengan selisih 2,30 poin persentase. Berdasarkan F1-Score, yang unggul adalah kernel radial, dan berdasarkan AUC, yang unggul adalah kernel linear. Pada Gambar 10, kedua kurva ROC hampir berimpit (selisih AUC 0,0075), sehingga kemampuan diskriminasi keduanya relatif sama.

Perlu diingat bahwa data testing hanya berisi 217 pengamatan. Satu kesalahan klasifikasi setara dengan 0,46 poin Accuracy, sehingga selisih Accuracy di atas setara dengan 5 pengamatan. Selisih sekecil ini belum tentu bermakna secara praktis dan bisa berubah bila pembagian data berbeda.

4.13 Pengaruh Cost dan Gamma terhadap Fleksibilitas Model dan Batas Keputusan

Untuk melihat langsung pengaruh cost dan gamma, dibentuk sembilan model SVM radial pada dua variabel saja (glucose dan pressure) dengan kombinasi cost = 0,1; 1; 100 dan gamma = 0,01; 0,1; 1. Dengan hanya dua prediktor, batas keputusan yang terbentuk bisa dilihat utuh pada bidang dua dimensi tanpa perlu memetakan prediktor lain ke nilai median.

# A12. PENGARUH COST DAN GAMMA PADA DECISION BOUNDARY
kombinasi <- expand.grid(cost = c(0.1, 1, 100), gamma = c(0.01, 0.1, 1))

grid2 <- expand.grid(
  glucose  = seq(min(pima.train$glucose),  max(pima.train$glucose),  length.out = 100),
  pressure = seq(min(pima.train$pressure), max(pima.train$pressure), length.out = 100)
)

lv.cost  <- paste0("cost = ",  c(0.1, 1, 100))
lv.gamma <- paste0("gamma = ", c(0.01, 0.1, 1))

hasil.efek <- lapply(seq_len(nrow(kombinasi)), function(i) {
  m <- svm(diabetes ~ glucose + pressure, data = pima.train,
           type = "C-classification", kernel = "radial",
           cost = kombinasi$cost[i], gamma = kombinasi$gamma[i], scale = TRUE)
  g <- grid2
  g$Prediksi <- predict(m, newdata = g)
  g$Cost  <- factor(paste0("cost = ",  kombinasi$cost[i]),  levels = lv.cost)
  g$Gamma <- factor(paste0("gamma = ", kombinasi$gamma[i]), levels = lv.gamma)
  list(
    grid = g,
    ringkas = data.frame(
      Cost = kombinasi$cost[i],
      Gamma = kombinasi$gamma[i],
      Support_Vector = m$tot.nSV,
      Acc_Training = mean(predict(m, pima.train) == pima.train$diabetes),
      Acc_Testing  = mean(predict(m, pima.test)  == pima.test$diabetes)
    )
  )
})

grid.efek  <- do.call(rbind, lapply(hasil.efek, `[[`, "grid"))
tabel.efek <- do.call(rbind, lapply(hasil.efek, `[[`, "ringkas"))

ggplot() +
  geom_raster(data = grid.efek, aes(x = glucose, y = pressure, fill = Prediksi), alpha = 0.35) +
  geom_point(data = pima.train, aes(x = glucose, y = pressure, color = diabetes),
             size = 0.7, alpha = 0.55) +
  facet_grid(Gamma ~ Cost) +
  scale_color_manual(values = c("neg" = warna.neg, "pos" = warna.pos)) +
  scale_fill_manual(values  = c("neg" = warna.neg, "pos" = warna.pos)) +
  labs(title = "Pengaruh Cost dan Gamma pada Batas Keputusan SVM Radial",
       subtitle = "Kolom: cost meningkat ke kanan; baris: gamma meningkat ke bawah",
       x = "Glucose", y = "Pressure (mm Hg)",
       color = "Kelas aktual", fill = "Kelas prediksi") +
  tema.levia +
  theme(strip.background = element_rect(fill = "#D5EDEB", color = "#B7DDDA"),
        strip.text = element_text(face = "bold", color = "#205A5B"))
Gambar 12. Pengaruh cost dan gamma terhadap bentuk batas keputusan SVM radial (glucose dan pressure)

Gambar 12. Pengaruh cost dan gamma terhadap bentuk batas keputusan SVM radial (glucose dan pressure)

Tabel 13. Jumlah Support Vector dan Accuracy untuk Berbagai Kombinasi Cost dan Gamma (model dua variabel)
Cost Gamma Support_Vector Acc_Training Acc_Testing
0,1 0,01 372 0,6353 0,6359
1,0 0,01 341 0,7333 0,7834
100,0 0,01 303 0,7353 0,7972
0,1 0,10 355 0,7392 0,7926
1,0 0,10 306 0,7392 0,7926
100,0 0,10 302 0,7412 0,7834
0,1 1,00 357 0,7431 0,7880
1,0 1,00 313 0,7392 0,7650
100,0 1,00 311 0,7569 0,7281

Interpretasi:

Gambar 12 memperlihatkan bahwa gamma terutama mengubah kelengkungan batas keputusan: pada gamma = 0,01 batas cenderung halus dan lebar, sedangkan pada gamma = 1 batas menjadi lokal dan berliku karena setiap titik hanya memengaruhi wilayah di sekitarnya. Parameter cost mengatur seberapa keras model menghukum titik yang salah sisi: cost kecil menghasilkan batas yang lebih sederhana dan toleran, sedangkan cost besar memaksa model menyesuaikan diri dengan titik-titik yang sulit.

Pada Tabel 13, jumlah support vector paling banyak terdapat pada cost = 0,1 dan gamma = 0,01 (372 titik), dan paling sedikit pada cost = 100 dan gamma = 0,1 (302 titik). Accuracy training tertinggi (75,69%) diperoleh pada cost = 100 dan gamma = 1, sedangkan Accuracy testing tertinggi (79,72%) diperoleh pada cost = 100 dan gamma = 0,01. Pada kombinasi paling fleksibel (cost = 100, gamma = 1), selisih Accuracy training terhadap testing adalah 2,88 poin persentase, yang belum menunjukkan overfitting yang berarti pada data ini.

Secara umum, cost besar dan gamma besar membuat model lebih fleksibel dan rawan overfitting, sedangkan cost kecil dan gamma kecil membuat model lebih halus dan rawan underfitting. Karena itu kombinasi terbaik dicari lewat validasi silang, bukan dari Accuracy training (Fransiska, 2026).

4.14 Penentuan Kernel dengan Performa Terbaik

Interpretasi:

Kernel terbaik ditetapkan berdasarkan Accuracy pada data testing, dengan F1-Score dan AUC sebagai pendukung. Hasilnya, kernel radial dipilih sebagai yang terbaik, dengan Accuracy 0,7880 pada data testing. Model radial hasil tuning menggunakan cost = 100 dan gamma = 0,01, sementara model linear menggunakan cost = 100. Catatan: AUC lebih tinggi pada kernel linear, sehingga dari sisi kemampuan membedakan kelas pada berbagai ambang, perbedaan kedua kernel sangat tipis. Dari sisi kasus diabetes, Recall model terbaik sebesar 0,6456 (radial) dan 0,6456 (linear), sehingga peningkatan deteksi pasien pos tetap menjadi hal yang perlu diperhatikan.

BAB V PENUTUP

5.1 Kesimpulan

  1. Support Vector Machine mencari hyperplane dengan margin maksimum, dengan support vector sebagai titik penentu batas keputusan. Soft margin dan parameter cost memungkinkan toleransi terhadap pelanggaran margin, sedangkan fungsi kernel memungkinkan batas keputusan nonlinier. SVR menerapkan prinsip serupa pada regresi dengan epsilon-insensitive loss dan epsilon-tube.
  2. Pada data SynthDiabetes2, setelah triceps dan insulin dihapus dan missing value ditangani, tersisa 727 pengamatan yang dibagi menjadi 510 data training dan 217 data testing dengan set.seed(234).
  3. Model radial awal (cost = 1, gamma = 0,1667) memperoleh Accuracy 76,04% dan AUC 0,8180. Tuning dengan validasi silang 5 lipatan memilih cost = 100 dan gamma = 0,01 dengan error validasi silang 0,2569. Model hasil tuning mencapai Accuracy 0,7880, Precision 0,7391, Recall 0,6456, Specificity 0,8696, F1-Score 0,6892, dan AUC 0,8242.
  4. Kernel linear dengan cost = 100 mencapai Accuracy 0,7650 dan AUC 0,8317. Berdasarkan Accuracy pada data testing, kernel terbaik adalah radial, dengan catatan selisih antarmodel setara 5 pengamatan dari 217 data testing.
  5. cost dan gamma yang besar membuat batas keputusan lebih fleksibel dan lebih mudah overfitting, sedangkan nilai yang kecil membuat batas lebih halus dan lebih mudah underfitting. Karena itu, pemilihan parameter harus melalui validasi silang.

5.2 Saran

  1. Karena distribusi kelas tidak seimbang dan Recall kelas pos masih menjadi titik lemah, penelitian selanjutnya dapat mencoba pembobotan kelas (class.weights), penyesuaian ambang probabilitas, atau teknik penyeimbangan data.
  2. Grid tuning dapat diperhalus di sekitar kombinasi terbaik, dan kernel lain seperti polynomial dapat dibandingkan.
  3. Untuk memperoleh perbandingan yang lebih stabil, evaluasi dapat diulang dengan beberapa pembagian data atau validasi silang berulang, mengingat jumlah data testing yang relatif kecil.
  4. Praktikan disarankan teliti dalam penulisan sintaks, pemilihan parameter, dan interpretasi hasil agar kesimpulan yang ditarik tepat.

DAFTAR PUSTAKA

Chang, C.-C., & Lin, C.-J. (2011). LIBSVM: A library for support vector machines. ACM Transactions on Intelligent Systems and Technology, 2(3), 27:1–27:27.

Cortes, C., & Vapnik, V. (1995). Support-vector networks. Machine Learning, 20(3), 273–297.

Fransiska, H. (2026). Modul Praktikum Machine Learning: Pertemuan VIII SVM/SVR. Universitas Bengkulu.

James, G., Witten, D., Hastie, T., & Tibshirani, R. (2021). An Introduction to Statistical Learning with Applications in R (2nd ed.). Springer.

Smola, A. J., & Schölkopf, B. (2004). A tutorial on support vector regression. Statistics and Computing, 14(3), 199–222.

Vapnik, V. N. (1998). Statistical Learning Theory. Wiley.