| Mata Kuliah | Machine Learning and Modern Prediction |
| Pertemuan | VIII — SVM/SVR |
| NPM | F1F023025 NPM Ganjil |
| Kasus | SVM Klasifikasi — data SynthDiabetes2 (respons: diabetes) |
| Visualisasi | x1 = glucose dan x2 = pressure |
| Instansi | Universitas Bengkulu |
Machine learning adalah cabang kecerdasan buatan yang memungkinkan komputer belajar dari data untuk membuat prediksi atau keputusan tanpa harus diprogram dengan aturan eksplisit. Pada pembelajaran terawasi (supervised learning), model dilatih menggunakan data yang responsnya sudah diketahui. Bila respons berupa kategori maka persoalannya disebut klasifikasi, dan bila respons berupa nilai numerik maka persoalannya disebut regresi (James dkk., 2021; Fransiska, 2026).
Support Vector Machine (SVM) adalah salah satu metode supervised learning yang paling banyak dipakai untuk klasifikasi. SVM mencari batas keputusan (hyperplane) yang memisahkan dua kelas dengan jarak (margin) selebar mungkin, sehingga batas yang terbentuk diharapkan lebih stabil ketika menghadapi pengamatan baru (Cortes & Vapnik, 1995). Ketika hubungan antarkelas tidak dapat dipisahkan oleh garis lurus, SVM memanfaatkan fungsi kernel untuk membentuk batas keputusan yang nonlinier (Vapnik, 1998; Chang & Lin, 2011). Prinsip yang sama dikembangkan menjadi Support Vector Regression (SVR) untuk memodelkan respons numerik dengan batas toleransi galat \(\varepsilon\) (Smola & Schölkopf, 2004).
Kinerja SVM sangat bergantung pada pilihan kernel dan
hyperparameter seperti cost dan
gamma. Oleh sebab itu, parameter perlu dioptimalkan melalui
cross-validation pada data training, lalu kinerja
akhir dilaporkan pada data testing yang tidak ikut dalam
pembentukan model (Fransiska, 2026). Laporan ini menerapkan SVM untuk
mengklasifikasikan status diabetes (neg atau
pos) pada data SynthDiabetes2, membandingkan
kernel linear dan radial, serta menelaah pengaruh
cost dan gamma terhadap fleksibilitas batas
keputusan.
SynthDiabetes2 menggunakan R, termasuk penanganan
missing value dan pembagian data training dan
testing?cost dan
gamma terhadap fleksibilitas model dan batas
keputusan?cost dan
gamma serta mengevaluasi performa model dengan ukuran yang
sesuai.Analisis dibatasi pada kasus NPM ganjil, yaitu
klasifikasi menggunakan SVM pada data SynthDiabetes2 dari
package mlbench dengan variabel
diabetes sebagai respons. Penanganan missing value
mengikuti sintaks praktikum. Fungsi yang dipakai adalah
e1071::svm() dengan perbandingan kernel linear dan
radial. Tuning kernel radial dilakukan pada
cost = 0,1; 1; 10; 100 dan gamma = 0,001;
0,01; 0,1; 1 dengan validasi silang 5 lipatan. Model terbaik digunakan
untuk memprediksi data testing dan dievaluasi dengan
confusion matrix, Accuracy, Precision,
Recall/Sensitivity, Specificity, F1-Score,
dan ROC-AUC dengan kelas pos sebagai kelas positif.
Pembagian data memakai set.seed(234). Visualisasi batas
keputusan menggunakan dua variabel, yaitu \(x_1\) = glucose dan \(x_2\) = pressure.
SVM adalah metode supervised learning yang terutama digunakan untuk klasifikasi. Gagasan intinya adalah memilih hyperplane yang memisahkan kelas dengan margin terlebar. Pengamatan yang berada paling dekat dengan batas keputusan disebut support vector, dan letak hyperplane optimal ditentukan oleh titik-titik tersebut, bukan oleh seluruh data (Cortes & Vapnik, 1995; James dkk., 2021). Margin yang lebar diharapkan menghasilkan batas yang lebih stabil terhadap pengamatan baru, selama kompleksitas model tetap terkendali (Fransiska, 2026).
Gambar 1. Ilustrasi konsep hyperplane, margin, dan support vector pada SVM (data simulasi)
Untuk dua kelas, hyperplane linear dinyatakan sebagai:
\[ w^\top x + b = 0 \]
dengan \(w\) vektor bobot, \(x\) vektor prediktor, dan \(b\) bias (intersep). Aturan klasifikasinya adalah \(f(x) = \text{sign}(w^\top x + b)\). Pada formulasi kanonik, kedua bidang pembatas margin adalah \(w^\top x + b = 1\) dan \(w^\top x + b = -1\), sehingga jarak antarbidang adalah:
\[ Margin = \frac{2}{\lVert w \rVert} \]
Karena margin berbanding terbalik dengan \(\lVert w \rVert\), memaksimalkan margin sama artinya dengan meminimalkan \(\lVert w \rVert\) (Fransiska, 2026).
Hard margin dipakai ketika data benar-benar terpisah secara linear tanpa kesalahan, dengan persoalan optimasi \(\min_{w,b} \frac{1}{2}\lVert w \rVert^2\) terhadap kendala \(y_i(w^\top x_i + b) \ge 1\) untuk \(i = 1, 2, \dots, n\). Pada data nyata, kelas biasanya saling tumpang tindih atau memuat pencilan sehingga pemisahan sempurna tidak realistis. Soft margin menambahkan slack variable \(\xi_i\) yang memberi toleransi terhadap pelanggaran margin (Cortes & Vapnik, 1995):
\[ \min_{w, b, \xi} \; \frac{1}{2}\lVert w \rVert^2 + C\sum_{i=1}^{n}\xi_i, \qquad y_i(w^\top x_i + b) \ge 1 - \xi_i, \; \xi_i \ge 0 \]
Parameter \(C\) (cost)
mengatur kompromi antara margin yang lebar dan penalti kesalahan.
cost besar membuat model lebih ketat mengikuti data
training, sedangkan cost kecil lebih toleran
terhadap pelanggaran dan memberi regularisasi yang lebih kuat
(Fransiska, 2026).
Jika kelas tidak dapat dipisahkan secara linear pada ruang input, SVM memakai kernel trick: kernel menghitung inner product pada ruang fitur berdimensi lebih tinggi tanpa membentuk transformasi fitur tersebut secara eksplisit, sehingga batas keputusan nonlinier dapat diperoleh dengan kerangka optimasi yang sama (Vapnik, 1998; Chang & Lin, 2011).
Tabel 1. Fungsi Kernel pada SVM/SVR
| Kernel | Fungsi | Nama pada e1071 |
|---|---|---|
| Linear | \(K(u, v) = u^\top v\) | linear |
| Polynomial | \(K(u, v) = (\gamma u^\top v + c_0)^d\) | polynomial |
| Radial Basis Function (RBF) | \(K(u, v) = \exp(-\gamma \lVert u - v \rVert^2)\) | radial |
| Sigmoid | \(K(u, v) = \tanh(\gamma u^\top v + c_0)\) | sigmoid |
Kernel linear cocok bila hubungan antarkelas relatif linear,
sedangkan kernel radial (RBF) menjadi pilihan umum bila batas
keputusan nonlinier. Parameter gamma mengatur jangkauan
pengaruh satu pengamatan: gamma besar membuat pengaruh
bersifat lokal dan batas keputusan lebih fleksibel, sementara
gamma kecil menghasilkan batas yang lebih halus (Fransiska,
2026).
Tabel 2. Parameter Utama SVM
| Parameter | Peran | Dampak Umum |
|---|---|---|
cost (C) |
Penalti terhadap pelanggaran margin | C besar: penalti lebih kuat; C kecil: regularisasi lebih kuat |
gamma |
Lebar/jangkauan kernel nonlinier | Gamma besar: batas lebih lokal; gamma kecil: batas lebih halus |
degree |
Derajat kernel polynomial | Derajat lebih tinggi menambah fleksibilitas fungsi |
kernel |
Bentuk fungsi kesamaan | Dipilih sesuai pola hubungan data |
SVM sensitif terhadap skala prediktor, sehingga standardisasi penting
ketika prediktor memiliki satuan atau rentang berbeda. Pada
svm(), hal ini ditangani otomatis melalui argumen
scale = TRUE.
SVR memperluas prinsip SVM ke masalah regresi. Alih-alih memisahkan kelas, SVR mencari fungsi regresi yang cukup datar dengan galat prediksi di dalam batas toleransi \(\varepsilon\) (Smola & Schölkopf, 2004). Untuk kasus linear, \(f(x) = w^\top x + b\). SVR memakai epsilon-insensitive loss, yaitu galat yang masih berada dalam jarak \(\varepsilon\) dari fungsi regresi tidak dikenai penalti:
\[ L_\varepsilon(y, f(x)) = \max\{0, \lvert y - f(x) \rvert - \varepsilon\} \]
Pengamatan di dalam epsilon-tube memiliki loss nol. Epsilon yang lebih besar memperlebar daerah toleransi dan umumnya mengurangi jumlah support vector, sedangkan epsilon yang lebih kecil membuat model lebih peka terhadap penyimpangan kecil. Fungsi objektif SVR dengan dua slack variable \(\xi_i\) dan \(\xi_i^*\) adalah:
\[ \min \; \frac{1}{2}\lVert w \rVert^2 + C\sum_{i}(\xi_i + \xi_i^*) \]
dengan kendala \(y_i - f(x_i) \le \varepsilon + \xi_i\), \(f(x_i) - y_i \le \varepsilon + \xi_i^*\), dan \(\xi_i, \xi_i^* \ge 0\).
Gambar 2. Ilustrasi epsilon-insensitive tube pada SVR (data simulasi)
Tabel 3. Perbandingan SVM dan SVR
| Aspek | SVM | SVR |
|---|---|---|
| Jenis masalah | Klasifikasi | Regresi |
| Respons | Kategorik | Numerik/kontinu |
| Tujuan utama | Mencari hyperplane dengan margin yang baik | Mencari fungsi regresi dengan toleransi galat \(\varepsilon\) |
| Output | Label kelas / skor keputusan | Nilai kontinu |
| Parameter utama | kernel, cost,
gamma |
kernel, cost,
gamma, epsilon |
| Evaluasi | Accuracy, Precision, Recall, Specificity, F1, ROC-AUC | MSE, RMSE, MAE, \(R^2\) |
Pemilihan model tidak boleh hanya bertumpu pada performa
training. Parameter SVM sebaiknya ditentukan lewat
cross-validation pada data training, kemudian performa
akhir dilaporkan pada data testing yang sama untuk semua model
yang dibandingkan (Fransiska, 2026). Grid search mencoba
seluruh kombinasi parameter yang ditentukan. Misalnya, 16 kombinasi
cost dan gamma dengan validasi silang 5
lipatan berarti \(16 \times 5 = 80\)
kali pelatihan model.
Dengan kelas positif pos, ukuran evaluasi klasifikasi
dihitung dari confusion matrix sebagai berikut:
\[ Accuracy = \frac{TP + TN}{TP + TN + FP + FN}, \quad Precision = \frac{TP}{TP + FP}, \quad Recall = \frac{TP}{TP + FN} \]
\[ Specificity = \frac{TN}{TN + FP}, \qquad F1\text{-}Score = 2 \times \frac{Precision \times Recall}{Precision + Recall} \]
ROC-AUC mengukur kemampuan model membedakan kedua kelas pada berbagai ambang probabilitas. Nilai AUC yang makin mendekati 1 menunjukkan kemampuan diskriminasi yang makin baik, sedangkan 0,5 setara dengan tebakan acak.
Data yang digunakan bersifat kuantitatif, bersumber dari
SynthDiabetes2 pada package mlbench
di R, sesuai arahan modul praktikum (Fransiska, 2026). Dataset ini
adalah data sintetis yang meniru data diabetes Pima dan mempertahankan
pola missing value pada data aslinya. Variabel respons
diabetes terdiri atas dua kelas, yaitu neg dan
pos, dan kelas pos ditetapkan sebagai kelas
positif.
Tabel 4. Variabel Penelitian
| No | Variabel | Keterangan | Tipe Data | Peran |
|---|---|---|---|---|
| 1 | pregnant |
Jumlah kehamilan | Numerik | Prediktor |
| 2 | glucose |
Konsentrasi glukosa plasma | Numerik | Prediktor (\(x_1\) pada visualisasi) |
| 3 | pressure |
Tekanan darah diastolik (mm Hg) | Numerik | Prediktor (\(x_2\) pada visualisasi) |
| 4 | triceps |
Ketebalan lipatan kulit trisep (mm) | Numerik | Dihapus (banyak missing value) |
| 5 | insulin |
Kadar insulin serum 2 jam | Numerik | Dihapus (banyak missing value) |
| 6 | mass |
Indeks massa tubuh (BMI) | Numerik | Prediktor |
| 7 | pedigree |
Fungsi riwayat keluarga diabetes | Numerik | Prediktor |
| 8 | age |
Usia (tahun) | Numerik | Prediktor |
| 9 | diabetes |
Status diabetes: neg atau
pos |
Kategorik | Respons |
e1071, mlbench,
caret, pROC, ggplot2, dan
knitr.SynthDiabetes2, memeriksa struktur dan
missing value, menghapus prediktor triceps dan
insulin, lalu menghapus sisa pengamatan yang masih memuat
missing value.createDataPartition() dan set.seed(234).cost = 1, gamma
= 1/jumlah prediktor) dan memvisualisasikan batas keputusan pada
glucose dan pressure.cost dan gamma pada
kernel radial dengan validasi silang 5 lipatan, lalu
mengevaluasi model terbaik pada data testing.cost pada kernel linear dan
mengevaluasinya pada data testing.cost dan gamma
terhadap fleksibilitas model dan batas keputusan, lalu menarik
kesimpulan.Tahap awal adalah memanggil package yang dibutuhkan, memuat
data SynthDiabetes2, kemudian memeriksa struktur,
ringkasan, dan jumlah missing value pada setiap variabel.
library(e1071) # svm(), tune.svm()
library(mlbench) # dataset SynthDiabetes2
library(caret) # createDataPartition(), confusionMatrix()
library(pROC) # roc(), auc()
library(knitr) # kable()
library(ggplot2) # visualisasi# A1. MEMUAT DAN MENYIAPKAN DATA
data("SynthDiabetes2", package = "mlbench")
pima <- SynthDiabetes2
# Melihat struktur awal
str(pima)## 'data.frame': 768 obs. of 9 variables:
## $ pregnant: num 0 8 2 6 4 10 3 1 4 7 ...
## $ glucose : num 194 129 132 184 108 117 100 88 73 126 ...
## $ pressure: num 50 84 72 62 58 80 80 75 82 92 ...
## $ triceps : num 45 NA 42 NA 32 13 41 30 38 NA ...
## $ insulin : num NA NA NA NA NA NA 65 49 NA NA ...
## $ mass : num 28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
## $ pedigree: num 0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
## $ age : num 28 44 26 39 22 58 33 22 33 46 ...
## $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
## pregnant glucose pressure triceps
## Min. : 0.000 Min. : 57.0 Min. : 24.00 Min. : 7.00
## 1st Qu.: 1.000 1st Qu.:101.0 1st Qu.: 64.00 1st Qu.:22.00
## Median : 3.000 Median :119.0 Median : 72.00 Median :30.00
## Mean : 4.585 Mean :125.3 Mean : 72.59 Mean :29.46
## 3rd Qu.: 7.000 3rd Qu.:144.5 3rd Qu.: 80.00 3rd Qu.:36.00
## Max. :13.000 Max. :199.0 Max. :108.00 Max. :63.00
## NA's :5 NA's :35 NA's :251
## insulin mass pedigree age diabetes
## Min. : 14 Min. :18.20 Min. :0.0780 Min. :21.00 neg:488
## 1st Qu.: 76 1st Qu.:27.80 1st Qu.:0.2430 1st Qu.:24.00 pos:280
## Median :125 Median :32.80 Median :0.3670 Median :28.00
## Mean :159 Mean :32.87 Mean :0.4792 Mean :33.05
## 3rd Qu.:194 3rd Qu.:36.95 3rd Qu.:0.6450 3rd Qu.:41.00
## Max. :846 Max. :59.40 Max. :2.4200 Max. :81.00
## NA's :405 NA's :13
## pregnant glucose pressure triceps insulin mass pedigree age
## 0 5 35 251 405 13 0 0
## diabetes
## 0
| Variabel | Jumlah_Missing | Persen | Tindakan |
|---|---|---|---|
| pregnant | 0 | 0,00 | - |
| glucose | 5 | 0,65 | Pengamatan dihapus |
| pressure | 35 | 4,56 | Pengamatan dihapus |
| triceps | 251 | 32,68 | Variabel dihapus |
| insulin | 405 | 52,73 | Variabel dihapus |
| mass | 13 | 1,69 | Pengamatan dihapus |
| pedigree | 0 | 0,00 | - |
| age | 0 | 0,00 | - |
| diabetes | 0 | 0,00 | - |
Interpretasi:
Data SynthDiabetes2 terdiri atas 768 pengamatan dan 9
variabel, yaitu delapan prediktor numerik dan satu respons kategorik
(diabetes). Respons terdiri atas 488 pengamatan
neg dan 280 pengamatan pos. Berdasarkan Tabel
5, insulin memiliki missing value terbanyak (405
pengamatan atau 52,7%), disusul triceps (251 pengamatan
atau 32,7%). Sementara itu, glucose memiliki 5 nilai
hilang, pressure 35, dan mass 13. Karena
insulin dan triceps kehilangan data dalam
jumlah besar, kedua prediktor tersebut dihapus, bukan dilakukan
penghapusan baris, agar tidak terlalu banyak pengamatan terbuang. SVM
tidak dapat memproses nilai hilang, sehingga sisa baris yang masih
memuat missing value pada prediktor lain dihapus.
Penanganan dilakukan sesuai sintaks praktikum: menghapus dua
prediktor dengan banyak missing value (triceps dan
insulin), menghapus sisa pengamatan bermasalah dengan
na.omit(), dan memastikan respons berupa
factor.
# Menghapus dua prediktor dengan banyak missing value
pima <- pima[
,
!names(pima) %in% c(
"triceps",
"insulin"
)
]
# Menghapus sisa observasi yang masih mengandung missing value
pima <- na.omit(pima)
# Memastikan respons berupa factor
pima$diabetes <- droplevels(
as.factor(pima$diabetes)
)
# Memeriksa data setelah preprocessing
str(pima)## 'data.frame': 727 obs. of 7 variables:
## $ pregnant: num 0 8 2 6 4 10 3 1 4 7 ...
## $ glucose : num 194 129 132 184 108 117 100 88 73 126 ...
## $ pressure: num 50 84 72 62 58 80 80 75 82 92 ...
## $ mass : num 28.5 27.6 38.2 24.7 31.6 30.1 46.3 32.4 44.2 37.3 ...
## $ pedigree: num 0.24 0.828 0.696 0.192 0.178 0.383 2.42 0.447 0.56 0.66 ...
## $ age : num 28 44 26 39 22 58 33 22 33 46 ...
## $ diabetes: Factor w/ 2 levels "neg","pos": 1 2 1 1 1 2 2 1 1 2 ...
## - attr(*, "na.action")= 'omit' Named int [1:41] 42 57 59 60 77 96 108 109 119 158 ...
## ..- attr(*, "names")= chr [1:41] "42" "57" "59" "60" ...
## pregnant glucose pressure mass
## Min. : 0.00 Min. : 57.0 Min. : 24.00 Min. :18.20
## 1st Qu.: 1.00 1st Qu.:101.0 1st Qu.: 64.00 1st Qu.:27.80
## Median : 3.00 Median :119.0 Median : 72.00 Median :32.80
## Mean : 4.67 Mean :125.4 Mean : 72.58 Mean :32.96
## 3rd Qu.: 7.00 3rd Qu.:144.0 3rd Qu.: 80.00 3rd Qu.:37.15
## Max. :13.00 Max. :196.0 Max. :108.00 Max. :59.40
## pedigree age diabetes
## Min. :0.0780 Min. :21.00 neg:462
## 1st Qu.:0.2450 1st Qu.:24.00 pos:265
## Median :0.3650 Median :28.00
## Mean :0.4790 Mean :33.29
## 3rd Qu.:0.6425 3rd Qu.:41.00
## Max. :2.4200 Max. :81.00
## [1] 727 7
##
## neg pos
## 462 265
##
## neg pos
## 0.6354883 0.3645117
Interpretasi:
Setelah pra-pemrosesan, tersisa 727 pengamatan dengan 6 prediktor (41
pengamatan atau 5,34% dari data awal dihapus). Distribusi kelas pada
data bersih adalah neg sebanyak 462 (63,55%) dan
pos sebanyak 265 (36,45%). Kelas neg lebih
banyak daripada kelas pos, sehingga distribusi kelas tidak
seimbang. Akibatnya, Accuracy saja kurang memadai untuk menilai
model, dan perlu dilengkapi dengan Recall,
Specificity, F1-Score, serta AUC.
Sebelum pemodelan, sebaran glucose dan
pressure menurut kelas diperiksa untuk melihat apakah kedua
variabel berpotensi membedakan neg dan
pos.
par(mfrow = c(1, 2), mar = c(4.5, 4.5, 3, 1))
boxplot(glucose ~ diabetes, data = pima,
col = c("#B7DDDA", "#F4B6A6"), border = "#48434a",
main = "Glucose menurut Status Diabetes",
xlab = "Status diabetes", ylab = "Glucose")
boxplot(pressure ~ diabetes, data = pima,
col = c("#B7DDDA", "#F4B6A6"), border = "#48434a",
main = "Pressure menurut Status Diabetes",
xlab = "Status diabetes", ylab = "Pressure (mm Hg)")Gambar 3. Sebaran glucose dan pressure menurut status diabetes
Interpretasi:
Median glucose pada kelas pos adalah 146,0,
lebih tinggi dibandingkan kelas neg yang bernilai 111,0
(selisih 35,0). Median pressure kelas pos
adalah 74,0 mm Hg dan kelas neg 72,0 mm Hg (selisih 2,0).
Perbedaan antarkelas pada glucose terlihat lebih besar
dibandingkan pada pressure, sedangkan kotak kedua kelas
masih saling tumpang tindih pada kedua variabel. Hal ini mengisyaratkan
bahwa kedua kelas tidak akan terpisah sempurna, sehingga pendekatan
soft margin dengan parameter cost diperlukan.
Data dibagi 70% training dan 30% testing memakai
createDataPartition() dengan set.seed(234).
Pembagian ini berstrata menurut respons sehingga proporsi kelas pada
kedua bagian relatif terjaga.
# A2. MEMBAGI DATA TRAINING DAN TESTING 70:30
set.seed(234)
idx.cls <- createDataPartition(
pima$diabetes,
p = 0.70,
list = FALSE
)
pima.train <- pima[
idx.cls,
]
pima.test <- pima[
-idx.cls,
]
# Ukuran data
dim(pima.train)## [1] 510 7
## [1] 217 7
##
## neg pos
## 324 186
##
## neg pos
## 138 79
##
## neg pos
## 0.6352941 0.3647059
##
## neg pos
## 0.6359447 0.3640553
| Kelas | Training | Testing | Persen_Training | Persen_Testing |
|---|---|---|---|---|
| neg | 324 | 138 | 63,53 | 63,59 |
| pos | 186 | 79 | 36,47 | 36,41 |
Interpretasi:
Dari 727 pengamatan, diperoleh 510 data training (70%) dan
217 data testing (30%). Pada Tabel 6, proporsi kelas
pos adalah 36,47% pada data training dan 36,41%
pada data testing, sedangkan kelas neg
masing-masing 63,53% dan 63,59%. Proporsi yang hampir sama menunjukkan
bahwa pembagian berstrata berhasil menjaga distribusi kelas. Data
training dipakai untuk membentuk model dan tuning
melalui validasi silang, sedangkan data testing hanya dipakai
untuk evaluasi akhir.
Model awal dibentuk dengan kernel radial, cost
= 1, dan gamma = 1/(jumlah prediktor). Argumen
scale = TRUE menstandardisasi prediktor karena SVM sensitif
terhadap skala, sedangkan probability = TRUE diaktifkan
agar probabilitas kelas tersedia untuk ROC-AUC.
# A3. MEMBENTUK MODEL SVM RADIAL AWAL
set.seed(234)
svm.cls <- svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "radial",
cost = 1,
gamma = 1 / (ncol(pima.train) - 1),
scale = TRUE,
probability = TRUE
)
svm.cls##
## Call:
## svm(formula = diabetes ~ ., data = pima.train, type = "C-classification",
## kernel = "radial", cost = 1, gamma = 1/(ncol(pima.train) - 1),
## probability = TRUE, scale = TRUE)
##
##
## Parameters:
## SVM-Type: C-classification
## SVM-Kernel: radial
## cost: 1
##
## Number of Support Vectors: 307
Interpretasi:
Model SVM radial awal menggunakan cost = 1 dan
gamma = 0,1667 (yaitu \(1/6\) karena terdapat enam prediktor).
Model menghasilkan 307 support vector dari 510 data
training (60,20%), dengan rincian 156 pada kelas
neg dan 151 pada kelas pos. Artinya, 60,20%
pengamatan berperan langsung menentukan batas keputusan. Proporsi
support vector yang besar mengindikasikan banyak pengamatan
berada dekat atau melewati batas margin, sejalan dengan tumpang tindih
antarkelas yang tampak pada eksplorasi data.
Batas keputusan divisualisasikan pada \(x_1\) = glucose dan \(x_2\) = pressure. Prediksi
dibuat pada grid 200 × 200 titik, sedangkan prediktor lain
(pregnant, mass, pedigree, dan
age) ditetapkan pada median data training. Latar
warna menunjukkan kelas prediksi, garis hitam adalah batas keputusan
(nilai keputusan = 0), dan titik adalah data training
aktual.
# A3.1 VISUALISASI DECISION BOUNDARY SVM RADIAL
# NPM ganjil: x1 = glucose, x2 = pressure
x1 <- "glucose"
x2 <- "pressure"
# Grid prediksi 200 x 200
grid_vals <- expand.grid(
glucose = seq(min(pima.train$glucose), max(pima.train$glucose), length.out = 200),
pressure = seq(min(pima.train$pressure), max(pima.train$pressure), length.out = 200)
)
# Prediktor lain ditetapkan pada median data training
prediktor <- setdiff(names(pima.train), c("diabetes", x1, x2))
for (v in prediktor) {
grid_vals[[v]] <- median(pima.train[[v]])
}
# Fungsi: prediksi grid + nilai keputusan untuk sebuah model
prediksi.grid <- function(model) {
g <- grid_vals
p <- predict(model, newdata = g, decision.values = TRUE)
g$Prediksi <- p
g$margin <- as.numeric(attr(p, "decision.values")[, 1])
g
}
# Fungsi: gambar decision boundary
plot.boundary <- function(g, judul, subjudul) {
ggplot() +
geom_raster(data = g, aes(x = glucose, y = pressure, fill = Prediksi), alpha = 0.28) +
geom_contour(data = g, aes(x = glucose, y = pressure, z = margin),
breaks = 0, colour = "black", linewidth = 1) +
geom_point(data = pima.train, aes(x = glucose, y = pressure, color = diabetes),
size = 2, alpha = 0.75) +
scale_color_manual(values = c("neg" = warna.neg, "pos" = warna.pos)) +
scale_fill_manual(values = c("neg" = warna.neg, "pos" = warna.pos)) +
labs(title = judul, subtitle = subjudul,
x = "Glucose", y = "Pressure (tekanan darah diastolik, mm Hg)",
color = "Kelas aktual", fill = "Kelas prediksi") +
tema.levia
}
g.awal <- prediksi.grid(svm.cls)
plot.boundary(
g.awal,
"SVM Nonlinier dengan Kernel RBF",
paste0("Model awal: cost = ", svm.cls$cost, ", gamma = ", round(svm.cls$gamma, 4))
)Gambar 4. Decision boundary SVM radial awal pada glucose dan pressure
Interpretasi:
Pada Gambar 4, wilayah prediksi kelas pos (jingga) mulai
muncul ketika glucose melewati sekitar 149 pada tekanan darah di median
(74 mm Hg), sedangkan wilayah neg (hijau-biru) berada pada
sisi lainnya. Garis hitam yang melengkung memperlihatkan bahwa
kernel radial mampu membentuk batas pemisah nonlinier, bukan
sekadar garis lurus. Titik-titik kedua kelas pada rentang tengah masih
saling bercampur, sehingga ada pengamatan yang secara alami sulit
dipisahkan dan akan salah diklasifikasikan. Perlu dicatat bahwa gambar
ini hanya menampilkan dua dari enam prediktor, sementara empat prediktor
lain dipatok pada median.
Model awal dipakai untuk memprediksi kelas pada data testing, kemudian dibandingkan dengan kelas aktual.
# A4. PREDIKSI DATA TESTING
pred.svm.cls <- predict(
svm.cls,
newdata = pima.test,
probability = TRUE
)
pred.svm.cls <- factor(
pred.svm.cls,
levels = levels(
pima.test$diabetes
)
)
hasil.svm.cls <- data.frame(
Aktual = pima.test$diabetes,
Prediksi = pred.svm.cls
)
head(
hasil.svm.cls,
10
)## Aktual Prediksi
## 8 neg neg
## 9 neg neg
## 12 neg neg
## 15 neg neg
## 19 pos pos
## 24 neg neg
## 30 neg pos
## 32 pos pos
## 37 pos neg
## 38 neg pos
| Aktual | Prediksi | Status | |
|---|---|---|---|
| 8 | neg | neg | Benar |
| 9 | neg | neg | Benar |
| 12 | neg | neg | Benar |
| 15 | neg | neg | Benar |
| 19 | pos | pos | Benar |
| 24 | neg | neg | Benar |
| 30 | neg | pos | Salah |
| 32 | pos | pos | Benar |
| 37 | pos | neg | Salah |
| 38 | neg | pos | Salah |
Interpretasi:
Dari 10 pengamatan testing pertama pada Tabel 7, 7 diprediksi dengan benar dan 3 diprediksi salah. Hasil ini hanya cuplikan kecil, sehingga kinerja model yang sesungguhnya harus dinilai lewat confusion matrix dan ukuran evaluasi pada seluruh 217 data testing.
Confusion matrix disusun dengan
confusionMatrix() dari paket caret dengan
kelas positif pos, sehingga sensitivity mengukur
kemampuan model mendeteksi pasien diabetes.
# A5. CONFUSION MATRIX
cm.svm <- confusionMatrix(
data = pred.svm.cls,
reference = pima.test$diabetes,
positive = "pos"
)
cm.svm## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 122 36
## pos 16 43
##
## Accuracy : 0.7604
## 95% CI : (0.6979, 0.8156)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 5.909e-05
##
## Kappa : 0.4529
##
## Mcnemar's Test P-Value : 0.008418
##
## Sensitivity : 0.5443
## Specificity : 0.8841
## Pos Pred Value : 0.7288
## Neg Pred Value : 0.7722
## Prevalence : 0.3641
## Detection Rate : 0.1982
## Detection Prevalence : 0.2719
## Balanced Accuracy : 0.7142
##
## 'Positive' Class : pos
##
Interpretasi:
Model SVM radial awal mengklasifikasikan dengan benar 122 data
neg (true negative) dan 43 data pos
(true positive). Terdapat 16 data neg yang
diprediksi pos (false positive) dan 36 data
pos yang diprediksi neg (false
negative). Accuracy sebesar 76,04% berarti model benar
pada 76,04% data testing. Sensitivity sebesar 54,43%
menunjukkan kemampuan mendeteksi pasien diabetes, sedangkan
specificity 88,41% menunjukkan kemampuan mengenali yang bukan
diabetes. Kappa sebesar 0,4529 dan balanced accuracy
sebesar 71,42%. Karena specificity lebih tinggi daripada sensitivity,
model lebih andal mengenali kelas neg dibandingkan kelas pos, sehingga
masih ada pasien diabetes yang belum terdeteksi.
Ukuran evaluasi dihitung manual dari confusion matrix dengan
kelas positif pos.
# A6. UKURAN EVALUASI KLASIFIKASI
tab.svm <- table(
Aktual = pima.test$diabetes,
Prediksi = pred.svm.cls
)
tab.svm## Prediksi
## Aktual neg pos
## neg 122 16
## pos 36 43
# Kelas positif = pos
TN <- tab.svm["neg", "neg"]
FP <- tab.svm["neg", "pos"]
FN <- tab.svm["pos", "neg"]
TP <- tab.svm["pos", "pos"]
# Accuracy
Accuracy <- (TP + TN) / (TP + TN + FP + FN)
# Precision
Precision <- TP / (TP + FP)
# Recall / Sensitivity
Recall <- TP / (TP + FN)
# Specificity
Specificity <- TN / (TN + FP)
# F1-Score
F1 <- 2 * (Precision * Recall) / (Precision + Recall)
evaluasi.svm <- data.frame(
Accuracy = Accuracy,
Precision = Precision,
Recall = Recall,
Specificity = Specificity,
F1_Score = F1
)
kable(round(evaluasi.svm, 4), align = "c",
format.args = list(decimal.mark = ","),
caption = "Tabel 8. Ukuran Evaluasi SVM Radial Awal pada Data Testing")| Accuracy | Precision | Recall | Specificity | F1_Score |
|---|---|---|---|---|
| 0,7604 | 0,7288 | 0,5443 | 0,8841 | 0,6232 |
Interpretasi:
SVM radial awal memperoleh Accuracy 76,04%,
Precision 72,88%, Recall 54,43%, Specificity
88,41%, dan F1-Score 62,32%. Precision berarti dari
semua pengamatan yang diprediksi pos, sebanyak 72,88%
benar-benar pos. Recall berarti model berhasil
menangkap 54,43% dari seluruh pasien pos yang sebenarnya.
F1-Score meringkas keseimbangan keduanya. Pada kasus diabetes,
Recall biasanya lebih penting karena false negative
berarti pasien yang sakit tidak terdeteksi.
Kurva ROC dibuat dari probabilitas kelas pos hasil model
dengan probability = TRUE. Kurva menggambarkan
sensitivity terhadap 1 − specificity pada berbagai
ambang probabilitas, dan AUC adalah luas di bawah kurva tersebut.
# A7. ROC DAN AUC
prob.svm <- attr(
predict(
svm.cls,
newdata = pima.test,
probability = TRUE
),
"probabilities"
)[, "pos"]
roc.svm <- roc(
response = pima.test$diabetes,
predictor = prob.svm,
levels = c("neg", "pos"),
direction = "<",
quiet = TRUE
)
AUC.svm <- as.numeric(auc(roc.svm))
AUC.svm## [1] 0.818015
# Plot ROC
plot(
roc.svm,
legacy.axes = TRUE,
col = warna.utama, lwd = 3,
auc.polygon = TRUE, auc.polygon.col = "#D5EDEB",
main = paste0("ROC SVM Radial Awal (AUC = ", round(AUC.svm, 3), ")")
)Gambar 5. Kurva ROC SVM radial awal
Interpretasi:
Nilai AUC model radial awal adalah 0,8180, yang tergolong
baik. Artinya, bila satu pasien pos dan
satu pasien neg dipilih acak, model memberi probabilitas
pos yang lebih tinggi kepada pasien pos dengan
peluang sekitar 81,8%. Kurva berada di atas garis diagonal (klasifikasi
acak), sehingga model memiliki kemampuan diskriminasi yang bermakna.
cost dan gamma pada
Kernel RadialTuning dilakukan dengan tune.svm() pada
cost = 0,1; 1; 10; 100 dan gamma = 0,001;
0,01; 0,1; 1 menggunakan validasi silang 5 lipatan pada data
training. Terdapat 16 kombinasi sehingga total 80 kali
pelatihan model. Kombinasi terbaik adalah yang memiliki error
validasi silang terkecil.
# A8. TUNING COST DAN GAMMA
set.seed(234)
tune.svm.cls <- tune.svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "radial",
cost = c(0.1, 1, 10, 100),
gamma = c(0.001, 0.01, 0.1, 1),
scale = TRUE,
tunecontrol = tune.control(
cross = 5
)
)
tune.svm.cls##
## Parameter tuning of 'svm':
##
## - sampling method: 5-fold cross validation
##
## - best parameters:
## gamma cost
## 0.01 100
##
## - best performance: 0.2568627
##
## Call:
## best.svm(x = diabetes ~ ., data = pima.train, gamma = c(0.001, 0.01,
## 0.1, 1), cost = c(0.1, 1, 10, 100), type = "C-classification",
## kernel = "radial", scale = TRUE, tunecontrol = tune.control(cross = 5))
##
##
## Parameters:
## SVM-Type: C-classification
## SVM-Kernel: radial
## cost: 100
##
## Number of Support Vectors: 286
## gamma cost
## 14 0.01 100
Interpretasi:
Hasil validasi silang 5 lipatan menunjukkan kombinasi terbaik pada
cost = 100 dan gamma = 0,01 dengan
error validasi silang 0,2569 (25,69%), artinya kombinasi inilah
yang paling jarang salah klasifikasi pada data training di luar
lipatan. Model terbaik memiliki 286 support vector. Kombinasi
ini kemudian dipakai untuk evaluasi pada data testing.
Untuk melihat pengaruh cost dan gamma
secara menyeluruh, error validasi silang seluruh kombinasi
disajikan dalam tabel dan heatmap.
# A8.1 RINGKASAN HASIL TUNING (ERROR VALIDASI SILANG)
kable(head(hasil.tuning[order(hasil.tuning$error), ], 5),
digits = 4, align = "c", row.names = FALSE,
format.args = list(decimal.mark = ","),
caption = "Tabel 9. Lima Kombinasi cost dan gamma dengan Error Validasi Silang Terkecil")| gamma | cost | error | dispersion |
|---|---|---|---|
| 0,010 | 100 | 0,2569 | 0,0128 |
| 0,100 | 1 | 0,2588 | 0,0282 |
| 0,100 | 10 | 0,2608 | 0,0203 |
| 0,010 | 10 | 0,2627 | 0,0189 |
| 0,001 | 10 | 0,2647 | 0,0183 |
# Heatmap error validasi silang
ggplot(hasil.tuning, aes(x = factor(gamma), y = factor(cost), fill = error)) +
geom_tile(color = "white", linewidth = 1) +
geom_tile(data = hasil.tuning[abs(hasil.tuning$error - min(hasil.tuning$error)) < 1e-9, ],
fill = NA, color = "black", linewidth = 1.4) +
geom_text(aes(label = round(error, 3)), size = 3.6) +
scale_fill_gradient(low = "#B7DDDA", high = "#F4A582") +
labs(title = "Error Validasi Silang SVM Radial",
x = "Gamma", y = "Cost", fill = "Error CV") +
tema.leviaGambar 6. Heatmap error validasi silang SVM radial (kotak hitam = kombinasi terbaik)
Interpretasi:
Pada Tabel 9 dan Gambar 6, error validasi silang berkisar
dari 0,2569 hingga 0,3647. Kombinasi terbaik adalah cost =
100 dan gamma = 0,01 (0,2569), diikuti cost =
1 dan gamma = 0,1 (0,2588). Error tertinggi
(0,3647) muncul pada 4 kombinasi. Pola warna menunjukkan bahwa hasil
sangat dipengaruhi oleh keserasian cost dan
gamma: pasangan yang terlalu “kaku” (keduanya kecil)
cenderung underfitting, sedangkan pasangan yang terlalu
fleksibel dapat memburuk karena mengikuti derau data
training.
Model radial terbaik hasil tuning dipakai untuk memprediksi data testing, lalu dievaluasi dengan confusion matrix dan Accuracy.
# A9. EVALUASI MODEL HASIL TUNING
pred.svm.best <- predict(
svm.best,
newdata = pima.test
)
pred.svm.best <- factor(
pred.svm.best,
levels = levels(
pima.test$diabetes
)
)
cm.svm.best <- confusionMatrix(
data = pred.svm.best,
reference = pima.test$diabetes,
positive = "pos"
)
cm.svm.best## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 120 28
## pos 18 51
##
## Accuracy : 0.788
## 95% CI : (0.7276, 0.8404)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 9.258e-07
##
## Kappa : 0.5295
##
## Mcnemar's Test P-Value : 0.1845
##
## Sensitivity : 0.6456
## Specificity : 0.8696
## Pos Pred Value : 0.7391
## Neg Pred Value : 0.8108
## Prevalence : 0.3641
## Detection Rate : 0.2350
## Detection Prevalence : 0.3180
## Balanced Accuracy : 0.7576
##
## 'Positive' Class : pos
##
# Accuracy model radial hasil tuning
acc.radial <- mean(
pred.svm.best ==
pima.test$diabetes
)
acc.radial## [1] 0.7880184
Agar seluruh ukuran pada instruksi Teladan tersedia untuk model
terbaik, dihitung ukuran evaluasi lengkap, divisualisasikan
confusion matrix dan batas keputusan model hasil
tuning pada \(x_1\) =
glucose dan \(x_2\) =
pressure, serta ROC-AUC. Probabilitas untuk ROC-AUC
diperoleh dengan membentuk ulang model radial memakai parameter terbaik
dan probability = TRUE.
# A9.1 UKURAN EVALUASI LENGKAP (kelas positif = pos)
hitung.eval <- function(pred, aktual) {
tab <- table(Aktual = aktual, Prediksi = pred)
TN <- tab["neg", "neg"]; FP <- tab["neg", "pos"]
FN <- tab["pos", "neg"]; TP <- tab["pos", "pos"]
Accuracy <- (TP + TN) / (TP + TN + FP + FN)
Precision <- TP / (TP + FP)
Recall <- TP / (TP + FN)
Specificity <- TN / (TN + FP)
F1_Score <- 2 * (Precision * Recall) / (Precision + Recall)
c(Accuracy = Accuracy, Precision = Precision, Recall = Recall,
Specificity = Specificity, F1_Score = F1_Score)
}
evaluasi.awal <- hitung.eval(pred.svm.cls, pima.test$diabetes)
evaluasi.radial <- hitung.eval(pred.svm.best, pima.test$diabetes)
kable(t(round(evaluasi.radial, 4)), align = "c",
format.args = list(decimal.mark = ","),
caption = "Tabel 10. Ukuran Evaluasi SVM Radial Hasil Tuning pada Data Testing")| Accuracy | Precision | Recall | Specificity | F1_Score |
|---|---|---|---|---|
| 0,788 | 0,7391 | 0,6456 | 0,8696 | 0,6892 |
cm.df <- as.data.frame(cm.svm.best$table)
ggplot(cm.df, aes(x = Reference, y = Prediction, fill = Freq)) +
geom_tile(color = "white", linewidth = 1.5) +
geom_text(aes(label = Freq), size = 8, fontface = "bold", color = "#205A5B") +
scale_fill_gradient(low = "#F2FAF9", high = "#7FC4BF") +
labs(title = "Confusion Matrix Model Radial Hasil Tuning",
x = "Kelas aktual", y = "Kelas prediksi", fill = "Jumlah") +
tema.leviaGambar 7. Confusion matrix SVM radial hasil tuning (data testing)
# A9.2 DECISION BOUNDARY MODEL RADIAL HASIL TUNING (x1 = glucose, x2 = pressure)
g.best <- prediksi.grid(svm.best)
plot.boundary(
g.best,
"SVM Radial Hasil Tuning",
paste0("cost = ", fp(svm.best$cost), ", gamma = ", fp(svm.best$gamma))
)Gambar 8. Decision boundary SVM radial hasil tuning pada glucose dan pressure
# A9.3 ROC DAN AUC MODEL RADIAL HASIL TUNING
set.seed(234)
svm.best.prob <- svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "radial",
cost = svm.best$cost,
gamma = svm.best$gamma,
scale = TRUE,
probability = TRUE
)
prob.best <- attr(
predict(svm.best.prob, newdata = pima.test, probability = TRUE),
"probabilities"
)[, "pos"]
roc.best <- roc(
response = pima.test$diabetes,
predictor = prob.best,
levels = c("neg", "pos"),
direction = "<",
quiet = TRUE
)
AUC.best <- as.numeric(auc(roc.best))
AUC.best## [1] 0.8241607
plot(
roc.best,
legacy.axes = TRUE,
col = warna.utama, lwd = 3,
auc.polygon = TRUE, auc.polygon.col = "#D5EDEB",
main = paste0("ROC SVM Radial Hasil Tuning (AUC = ", round(AUC.best, 3), ")")
)Gambar 9. Kurva ROC SVM radial hasil tuning
Interpretasi:
Model radial hasil tuning (cost = 100,
gamma = 0,01) memperoleh Accuracy 0,7880,
Precision 0,7391, Recall 0,6456, Specificity
0,8696, F1-Score 0,6892, dan AUC 0,8242 (baik). Pada Gambar 7,
model menghasilkan 120 true negative, 51 true
positive, 18 false positive, dan 28 false
negative. Dibandingkan model awal, Accuracy naik sebesar
2,76 poin persentase dan Recall naik sebesar 10,13 poin
persentase. Gambar 8 memperlihatkan batas keputusan nonlinier hasil
tuning yang memisahkan kelas neg dan
pos berdasarkan glucose dan
pressure, walau masih ada titik yang bertumpang tindih.
Sementara itu, Gambar 9 menunjukkan kemampuan diskriminasi yang
baik.
Sebagai pembanding, dilakukan tuning pada kernel
linear. Kernel ini hanya memiliki parameter cost
(tanpa gamma), sehingga tuning dilakukan pada
cost = 0,1; 1; 10; 100 dengan validasi silang 5
lipatan.
# A10. TUNING KERNEL LINEAR
set.seed(234)
tune.linear <- tune.svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "linear",
cost = c(0.1, 1, 10, 100),
scale = TRUE,
tunecontrol = tune.control(
cross = 5
)
)
tune.linear##
## Parameter tuning of 'svm':
##
## - sampling method: 5-fold cross validation
##
## - best parameters:
## cost
## 100
##
## - best performance: 0.2588235
## cost
## 4 100
# Prediksi model linear
pred.linear <- predict(
tune.linear$best.model,
newdata = pima.test
)
pred.linear <- factor(
pred.linear,
levels = levels(
pima.test$diabetes
)
)
# Accuracy kernel linear
acc.linear <- mean(
pred.linear ==
pima.test$diabetes
)
acc.linear## [1] 0.764977
# A10.1 EVALUASI LENGKAP DAN ROC-AUC KERNEL LINEAR
cm.linear <- confusionMatrix(
data = pred.linear,
reference = pima.test$diabetes,
positive = "pos"
)
cm.linear## Confusion Matrix and Statistics
##
## Reference
## Prediction neg pos
## neg 115 28
## pos 23 51
##
## Accuracy : 0.765
## 95% CI : (0.7028, 0.8197)
## No Information Rate : 0.6359
## P-Value [Acc > NIR] : 3.147e-05
##
## Kappa : 0.4855
##
## Mcnemar's Test P-Value : 0.5754
##
## Sensitivity : 0.6456
## Specificity : 0.8333
## Pos Pred Value : 0.6892
## Neg Pred Value : 0.8042
## Prevalence : 0.3641
## Detection Rate : 0.2350
## Detection Prevalence : 0.3410
## Balanced Accuracy : 0.7395
##
## 'Positive' Class : pos
##
evaluasi.linear <- hitung.eval(pred.linear, pima.test$diabetes)
set.seed(234)
svm.linear.prob <- svm(
diabetes ~ .,
data = pima.train,
type = "C-classification",
kernel = "linear",
cost = tune.linear$best.parameters$cost,
scale = TRUE,
probability = TRUE
)
prob.linear <- attr(
predict(svm.linear.prob, newdata = pima.test, probability = TRUE),
"probabilities"
)[, "pos"]
roc.linear <- roc(
response = pima.test$diabetes,
predictor = prob.linear,
levels = c("neg", "pos"),
direction = "<",
quiet = TRUE
)
AUC.linear <- as.numeric(auc(roc.linear))
AUC.linear## [1] 0.8316823
Interpretasi:
Kernel linear memperoleh cost terbaik 100
dengan error validasi silang 0,2588. Pada data
testing, model ini menghasilkan Accuracy 0,7650,
Precision 0,6892, Recall 0,6456, Specificity
0,8333, F1-Score 0,6667, dan AUC 0,8317, dengan 28 false
negative dan 23 false positive.
Kedua kernel dibandingkan menggunakan model terbaik hasil tuning pada data testing yang sama, sesuai prinsip bahwa performa akhir dilaporkan pada data testing yang sama untuk setiap model yang dibandingkan (Fransiska, 2026).
# A11. PERBANDINGAN KERNEL LINEAR DAN RADIAL
perbandingan.kernel.cls <- data.frame(
Kernel = c("Linear", "Radial"),
Accuracy = c(acc.linear, acc.radial)
)
perbandingan.kernel.cls## Kernel Accuracy
## 1 Linear 0.7649770
## 2 Radial 0.7880184
# A11.1 PERBANDINGAN LENGKAP
tabel.banding <- data.frame(
Model = c("Radial awal", "Radial hasil tuning", "Linear hasil tuning"),
rbind(
c(evaluasi.awal, AUC = AUC.svm),
c(evaluasi.radial, AUC = AUC.best),
c(evaluasi.linear, AUC = AUC.linear)
),
row.names = NULL
)
kable(tabel.banding, digits = 4, align = "c",
format.args = list(decimal.mark = ","),
caption = "Tabel 11. Perbandingan Kinerja Model pada Data Testing")| Model | Accuracy | Precision | Recall | Specificity | F1_Score | AUC |
|---|---|---|---|---|---|---|
| Radial awal | 0,7604 | 0,7288 | 0,5443 | 0,8841 | 0,6232 | 0,8180 |
| Radial hasil tuning | 0,7880 | 0,7391 | 0,6456 | 0,8696 | 0,6892 | 0,8242 |
| Linear hasil tuning | 0,7650 | 0,6892 | 0,6456 | 0,8333 | 0,6667 | 0,8317 |
# Ringkasan parameter dan jumlah support vector
ringkas.model <- data.frame(
Model = c("Radial awal", "Radial hasil tuning", "Linear hasil tuning"),
Kernel = c("radial", "radial", "linear"),
Cost = c(svm.cls$cost, svm.best$cost, tune.linear$best.model$cost),
Gamma = c(svm.cls$gamma, svm.best$gamma, NA),
Jumlah_Support_Vector = c(svm.cls$tot.nSV, svm.best$tot.nSV,
tune.linear$best.model$tot.nSV)
)
kable(ringkas.model, digits = 4, align = "c",
format.args = list(decimal.mark = ",", scientific = FALSE),
caption = "Tabel 12. Ringkasan Parameter dan Jumlah Support Vector Setiap Model")| Model | Kernel | Cost | Gamma | Jumlah_Support_Vector |
|---|---|---|---|---|
| Radial awal | radial | 1 | 0,1667 | 307 |
| Radial hasil tuning | radial | 100 | 0,0100 | 286 |
| Linear hasil tuning | linear | 100 | - | 295 |
# Perbandingan kurva ROC
plot(roc.linear, legacy.axes = TRUE, col = warna.pos, lwd = 3,
main = "Perbandingan Kurva ROC: Linear vs Radial")
plot(roc.best, legacy.axes = TRUE, col = warna.utama, lwd = 3, add = TRUE)
legend("bottomright",
legend = c(paste0("Linear (AUC = ", round(AUC.linear, 3), ")"),
paste0("Radial (AUC = ", round(AUC.best, 3), ")")),
col = c(warna.pos, warna.utama), lwd = 3, cex = 0.95, bty = "n")Gambar 10. Perbandingan kurva ROC kernel linear dan radial hasil tuning
metrik <- c("Accuracy", "Precision", "Recall", "Specificity", "F1_Score", "AUC")
m.mat <- as.matrix(tabel.banding[, metrik])
metrik.long <- data.frame(
Model = factor(rep(tabel.banding$Model, times = length(metrik)),
levels = tabel.banding$Model),
Metrik = factor(rep(metrik, each = nrow(tabel.banding)), levels = metrik),
Nilai = as.vector(m.mat)
)
ggplot(metrik.long, aes(x = Metrik, y = Nilai, fill = Model)) +
geom_col(position = position_dodge(width = 0.8), width = 0.72) +
geom_text(aes(label = round(Nilai, 2)),
position = position_dodge(width = 0.8), vjust = -0.4, size = 3) +
scale_fill_manual(values = c("Radial awal" = "#B7DDDA",
"Radial hasil tuning" = warna.utama,
"Linear hasil tuning" = warna.pos)) +
scale_y_continuous(limits = c(0, 1.05), expand = c(0, 0)) +
labs(title = "Perbandingan Ukuran Evaluasi", x = NULL, y = "Nilai", fill = NULL) +
tema.leviaGambar 11. Perbandingan ukuran evaluasi antarmodel pada data testing
Interpretasi:
Berdasarkan Tabel 11, kernel linear mencapai Accuracy 0,7650 dan AUC 0,8317, sedangkan kernel radial mencapai Accuracy 0,7880 dan AUC 0,8242. Berdasarkan Accuracy, kernel yang unggul adalah radial dengan selisih 2,30 poin persentase. Berdasarkan F1-Score, yang unggul adalah kernel radial, dan berdasarkan AUC, yang unggul adalah kernel linear. Pada Gambar 10, kedua kurva ROC hampir berimpit (selisih AUC 0,0075), sehingga kemampuan diskriminasi keduanya relatif sama.
Perlu diingat bahwa data testing hanya berisi 217 pengamatan. Satu kesalahan klasifikasi setara dengan 0,46 poin Accuracy, sehingga selisih Accuracy di atas setara dengan 5 pengamatan. Selisih sekecil ini belum tentu bermakna secara praktis dan bisa berubah bila pembagian data berbeda.
Untuk melihat langsung pengaruh cost dan
gamma, dibentuk sembilan model SVM radial pada dua variabel
saja (glucose dan pressure) dengan kombinasi
cost = 0,1; 1; 100 dan gamma = 0,01; 0,1; 1.
Dengan hanya dua prediktor, batas keputusan yang terbentuk bisa dilihat
utuh pada bidang dua dimensi tanpa perlu memetakan prediktor lain ke
nilai median.
# A12. PENGARUH COST DAN GAMMA PADA DECISION BOUNDARY
kombinasi <- expand.grid(cost = c(0.1, 1, 100), gamma = c(0.01, 0.1, 1))
grid2 <- expand.grid(
glucose = seq(min(pima.train$glucose), max(pima.train$glucose), length.out = 100),
pressure = seq(min(pima.train$pressure), max(pima.train$pressure), length.out = 100)
)
lv.cost <- paste0("cost = ", c(0.1, 1, 100))
lv.gamma <- paste0("gamma = ", c(0.01, 0.1, 1))
hasil.efek <- lapply(seq_len(nrow(kombinasi)), function(i) {
m <- svm(diabetes ~ glucose + pressure, data = pima.train,
type = "C-classification", kernel = "radial",
cost = kombinasi$cost[i], gamma = kombinasi$gamma[i], scale = TRUE)
g <- grid2
g$Prediksi <- predict(m, newdata = g)
g$Cost <- factor(paste0("cost = ", kombinasi$cost[i]), levels = lv.cost)
g$Gamma <- factor(paste0("gamma = ", kombinasi$gamma[i]), levels = lv.gamma)
list(
grid = g,
ringkas = data.frame(
Cost = kombinasi$cost[i],
Gamma = kombinasi$gamma[i],
Support_Vector = m$tot.nSV,
Acc_Training = mean(predict(m, pima.train) == pima.train$diabetes),
Acc_Testing = mean(predict(m, pima.test) == pima.test$diabetes)
)
)
})
grid.efek <- do.call(rbind, lapply(hasil.efek, `[[`, "grid"))
tabel.efek <- do.call(rbind, lapply(hasil.efek, `[[`, "ringkas"))
ggplot() +
geom_raster(data = grid.efek, aes(x = glucose, y = pressure, fill = Prediksi), alpha = 0.35) +
geom_point(data = pima.train, aes(x = glucose, y = pressure, color = diabetes),
size = 0.7, alpha = 0.55) +
facet_grid(Gamma ~ Cost) +
scale_color_manual(values = c("neg" = warna.neg, "pos" = warna.pos)) +
scale_fill_manual(values = c("neg" = warna.neg, "pos" = warna.pos)) +
labs(title = "Pengaruh Cost dan Gamma pada Batas Keputusan SVM Radial",
subtitle = "Kolom: cost meningkat ke kanan; baris: gamma meningkat ke bawah",
x = "Glucose", y = "Pressure (mm Hg)",
color = "Kelas aktual", fill = "Kelas prediksi") +
tema.levia +
theme(strip.background = element_rect(fill = "#D5EDEB", color = "#B7DDDA"),
strip.text = element_text(face = "bold", color = "#205A5B"))Gambar 12. Pengaruh cost dan gamma terhadap bentuk batas keputusan SVM radial (glucose dan pressure)
| Cost | Gamma | Support_Vector | Acc_Training | Acc_Testing |
|---|---|---|---|---|
| 0,1 | 0,01 | 372 | 0,6353 | 0,6359 |
| 1,0 | 0,01 | 341 | 0,7333 | 0,7834 |
| 100,0 | 0,01 | 303 | 0,7353 | 0,7972 |
| 0,1 | 0,10 | 355 | 0,7392 | 0,7926 |
| 1,0 | 0,10 | 306 | 0,7392 | 0,7926 |
| 100,0 | 0,10 | 302 | 0,7412 | 0,7834 |
| 0,1 | 1,00 | 357 | 0,7431 | 0,7880 |
| 1,0 | 1,00 | 313 | 0,7392 | 0,7650 |
| 100,0 | 1,00 | 311 | 0,7569 | 0,7281 |
Interpretasi:
Gambar 12 memperlihatkan bahwa gamma terutama mengubah
kelengkungan batas keputusan: pada gamma =
0,01 batas cenderung halus dan lebar, sedangkan pada gamma
= 1 batas menjadi lokal dan berliku karena setiap titik hanya
memengaruhi wilayah di sekitarnya. Parameter cost mengatur
seberapa keras model menghukum titik yang salah sisi: cost
kecil menghasilkan batas yang lebih sederhana dan toleran, sedangkan
cost besar memaksa model menyesuaikan diri dengan
titik-titik yang sulit.
Pada Tabel 13, jumlah support vector paling banyak terdapat
pada cost = 0,1 dan gamma = 0,01 (372 titik),
dan paling sedikit pada cost = 100 dan gamma =
0,1 (302 titik). Accuracy training tertinggi (75,69%)
diperoleh pada cost = 100 dan gamma = 1,
sedangkan Accuracy testing tertinggi (79,72%)
diperoleh pada cost = 100 dan gamma = 0,01.
Pada kombinasi paling fleksibel (cost = 100,
gamma = 1), selisih Accuracy training
terhadap testing adalah 2,88 poin persentase, yang belum
menunjukkan overfitting yang berarti pada data ini.
Secara umum, cost besar dan gamma besar
membuat model lebih fleksibel dan rawan overfitting, sedangkan
cost kecil dan gamma kecil membuat model lebih
halus dan rawan underfitting. Karena itu kombinasi terbaik
dicari lewat validasi silang, bukan dari Accuracy
training (Fransiska, 2026).
Interpretasi:
Kernel terbaik ditetapkan berdasarkan Accuracy pada data testing,
dengan F1-Score dan AUC sebagai pendukung. Hasilnya, kernel
radial dipilih sebagai yang terbaik, dengan
Accuracy 0,7880 pada data testing. Model radial hasil
tuning menggunakan cost = 100 dan
gamma = 0,01, sementara model linear menggunakan
cost = 100. Catatan: AUC lebih tinggi pada kernel linear,
sehingga dari sisi kemampuan membedakan kelas pada berbagai ambang,
perbedaan kedua kernel sangat tipis. Dari sisi kasus diabetes,
Recall model terbaik sebesar 0,6456 (radial) dan 0,6456
(linear), sehingga peningkatan deteksi pasien pos tetap
menjadi hal yang perlu diperhatikan.
cost
memungkinkan toleransi terhadap pelanggaran margin, sedangkan fungsi
kernel memungkinkan batas keputusan nonlinier. SVR menerapkan
prinsip serupa pada regresi dengan epsilon-insensitive loss dan
epsilon-tube.SynthDiabetes2, setelah triceps
dan insulin dihapus dan missing value ditangani,
tersisa 727 pengamatan yang dibagi menjadi 510 data training
dan 217 data testing dengan set.seed(234).cost = 1, gamma =
0,1667) memperoleh Accuracy 76,04% dan AUC 0,8180.
Tuning dengan validasi silang 5 lipatan memilih
cost = 100 dan gamma = 0,01 dengan
error validasi silang 0,2569. Model hasil tuning
mencapai Accuracy 0,7880, Precision 0,7391,
Recall 0,6456, Specificity 0,8696, F1-Score
0,6892, dan AUC 0,8242.cost = 100 mencapai
Accuracy 0,7650 dan AUC 0,8317. Berdasarkan Accuracy
pada data testing, kernel terbaik adalah
radial, dengan catatan selisih antarmodel setara 5
pengamatan dari 217 data testing.cost dan gamma yang besar membuat batas
keputusan lebih fleksibel dan lebih mudah overfitting,
sedangkan nilai yang kecil membuat batas lebih halus dan lebih mudah
underfitting. Karena itu, pemilihan parameter harus melalui
validasi silang.pos masih menjadi titik lemah, penelitian selanjutnya dapat
mencoba pembobotan kelas (class.weights), penyesuaian
ambang probabilitas, atau teknik penyeimbangan data.Chang, C.-C., & Lin, C.-J. (2011). LIBSVM: A library for support vector machines. ACM Transactions on Intelligent Systems and Technology, 2(3), 27:1–27:27.
Cortes, C., & Vapnik, V. (1995). Support-vector networks. Machine Learning, 20(3), 273–297.
Fransiska, H. (2026). Modul Praktikum Machine Learning: Pertemuan VIII SVM/SVR. Universitas Bengkulu.
James, G., Witten, D., Hastie, T., & Tibshirani, R. (2021). An Introduction to Statistical Learning with Applications in R (2nd ed.). Springer.
Smola, A. J., & Schölkopf, B. (2004). A tutorial on support vector regression. Statistics and Computing, 14(3), 199–222.
Vapnik, V. N. (1998). Statistical Learning Theory. Wiley.