BAB I PENDAHULUAN

1.1 Latar Belakang

Diabetes merupakan kondisi kesehatan yang berkaitan dengan kadar glukosa darah dan berbagai karakteristik klinis. Klasifikasi berbasis data dapat digunakan untuk mempelajari pola hubungan antara karakteristik prediktor dan status diabetes. Salah satu metode yang dapat digunakan adalah Support Vector Machine (SVM).

SVM membentuk batas keputusan (decision boundary) yang memisahkan kelas dengan margin tertentu. Fungsi kernel memungkinkan SVM membentuk batas keputusan linear maupun nonlinier. Kernel linear digunakan untuk pola yang mendekati linear, sedangkan kernel radial atau Radial Basis Function (RBF) dapat menangkap pola nonlinier.

Pada praktikum ini klasifikasi dilakukan menggunakan dataset SynthDiabetes2 dari paket mlbench, dengan variabel diabetes sebagai respons. Kernel linear dibandingkan dengan kernel radial. Parameter cost dan gamma pada kernel radial ditentukan melalui 5-fold cross-validation pada data training.

1.2 Rumusan Masalah

  1. Bagaimana karakteristik data SynthDiabetes2 dan missing value yang terdapat di dalamnya?
  2. Bagaimana penerapan SVM kernel linear dan radial untuk klasifikasi diabetes?
  3. Bagaimana pengaruh parameter cost dan gamma terhadap fleksibilitas model?
  4. Kernel manakah yang memberikan performa terbaik berdasarkan confusion matrix dan metrik klasifikasi?

1.3 Tujuan

  1. Menerapkan SVM pada dataset SynthDiabetes2.
  2. Menangani missing value sebelum pembentukan model.
  3. Membandingkan kernel linear dan radial.
  4. Melakukan tuning cost dan gamma pada kernel radial.
  5. Mengevaluasi model menggunakan accuracy, precision, sensitivity, specificity, F1-score, dan ROC-AUC.
  6. Menentukan kernel terbaik berdasarkan hasil pengujian.

1.4 Manfaat

Praktikum ini diharapkan memberikan pemahaman mengenai konsep SVM, fungsi kernel, tuning parameter, penanganan missing value, serta evaluasi klasifikasi biner dengan memperhatikan kelas positif.

1.5 Batasan Masalah

  1. Dataset menggunakan SynthDiabetes2 dari paket mlbench.
  2. Variabel respons adalah diabetes, dengan kelas neg dan pos.
  3. Kelas pos ditetapkan sebagai kelas positif.
  4. Missing value pada prediktor diimputasi menggunakan median data training.
  5. Data dibagi menjadi 70% training dan 30% testing secara terstratifikasi.
  6. Seed yang digunakan adalah 12305, sesuai digit akhir NPM F1F023005.
  7. Kernel yang dibandingkan adalah linear dan radial.
  8. Tuning radial menggunakan cost 0,1; 1; 10; 100 dan gamma 0,001; 0,01; 0,1; 1.
  9. Tuning dilakukan pada data training menggunakan 5-fold cross-validation.
  10. Model terbaik radial dipilih berdasarkan error cross-validation dan dievaluasi pada data testing.

1.6 Sistematika Penulisan

Laporan terdiri atas pendahuluan, tinjauan pustaka, metode penelitian, hasil dan pembahasan, kesimpulan dan saran, daftar pustaka, serta lampiran kode program.

BAB II TINJAUAN PUSTAKA

2.1 Support Vector Machine

Support Vector Machine merupakan metode supervised learning yang membentuk hyperplane untuk memisahkan kelas. SVM berusaha memperoleh margin maksimum antara hyperplane dan pengamatan terdekat dari setiap kelas. Pengamatan yang menentukan posisi batas keputusan disebut support vectors.

2.2 Hyperplane dan Margin

Hyperplane linear dapat dituliskan sebagai:

\[ f(x)=w^Tx+b \]

dengan \(w\) merupakan vektor bobot, \(x\) vektor prediktor, dan \(b\) konstanta bias. SVM mencari batas keputusan dengan margin yang besar. Pada data yang tidak dapat dipisahkan secara sempurna, parameter cost mengatur penalti terhadap kesalahan klasifikasi.

2.3 Kernel Linear dan Radial

Kernel linear menggunakan hasil kali dalam antarobservasi. Kernel radial basis function (RBF) dirumuskan sebagai:

\[ K(x_i,x_j)=\exp(-\gamma\|x_i-x_j\|^2) \]

Kernel radial memungkinkan pembentukan batas keputusan nonlinier. Parameter gamma mengatur jangkauan pengaruh suatu pengamatan terhadap pengamatan lainnya.

2.4 Parameter Cost dan Gamma

Parameter cost (\(C\)) mengendalikan penalti terhadap kesalahan klasifikasi pada data training. Cost besar memberikan penalti lebih kuat terhadap kesalahan training, sedangkan cost kecil memberikan toleransi kesalahan lebih besar.

Parameter gamma (\(\gamma\)) mengatur jangkauan pengaruh setiap pengamatan pada kernel radial. Gamma kecil menghasilkan pengaruh yang lebih luas dan batas keputusan yang cenderung halus. Gamma besar menghasilkan pengaruh lebih lokal sehingga batas keputusan dapat menjadi lebih kompleks. Kombinasi keduanya perlu dipilih melalui validasi silang.

2.5 Penanganan Missing Value dan Standardisasi

Missing value pada prediktor ditangani menggunakan median yang dihitung dari data training. Selanjutnya, prediktor distandardisasi menggunakan rata-rata dan simpangan baku training. Parameter yang sama diterapkan pada data testing agar informasi testing tidak masuk ke proses pra-pemrosesan model.

2.6 Confusion Matrix dan Metrik Evaluasi

Kelas pos ditetapkan sebagai kelas positif. Metrik evaluasi yang digunakan meliputi:

\[ Accuracy=\frac{TP+TN}{TP+TN+FP+FN} \]

\[ Precision=\frac{TP}{TP+FP} \qquad Sensitivity=\frac{TP}{TP+FN} \]

\[ Specificity=\frac{TN}{TN+FP} \qquad F1=2\frac{Precision\times Sensitivity}{Precision+Sensitivity} \]

ROC-AUC mengukur kemampuan model membedakan kelas positif dan negatif pada berbagai nilai threshold. Nilai AUC yang lebih tinggi menunjukkan kemampuan pemisahan kelas yang lebih baik.

BAB III METODE PENELITIAN

3.1 Jenis dan Sumber Data

Data yang digunakan adalah SynthDiabetes2 dari paket mlbench. Dataset ini merupakan data sintetis untuk studi kasus klasifikasi diabetes, bukan data pasien nyata. Dataset terdiri atas 768 pengamatan dan 9 variabel, yaitu delapan prediktor dan satu variabel respons. Variabel respons adalah diabetes, sedangkan variabel lainnya digunakan sebagai prediktor.

3.2 Variabel Penelitian

# Menggunakan dataset yang telah dimuat pada bagian setup
data_diabetes <- get("SynthDiabetes2", envir = .GlobalEnv)

nama_prediktor <- setdiff(
  names(data_diabetes),
  "diabetes"
)

variabel_tab <- data.frame(
  Variabel = c(nama_prediktor, "diabetes"),
  Peran = c(
    rep("Prediktor", length(nama_prediktor)),
    "Respons"
  ),
  Keterangan = c(
    "Jumlah kehamilan",
    "Konsentrasi glukosa plasma",
    "Tekanan darah diastolik",
    "Ketebalan lipatan kulit triceps",
    "Kadar insulin",
    "Indeks massa tubuh",
    "Diabetes pedigree function",
    "Usia",
    "Kelas diabetes: neg atau pos"
  )
)

knitr::kable(
  variabel_tab,
  caption = "Tabel 3.1 Variabel penelitian"
)
Tabel 3.1 Variabel penelitian
Variabel Peran Keterangan
pregnant Prediktor Jumlah kehamilan
glucose Prediktor Konsentrasi glukosa plasma
pressure Prediktor Tekanan darah diastolik
triceps Prediktor Ketebalan lipatan kulit triceps
insulin Prediktor Kadar insulin
mass Prediktor Indeks massa tubuh
pedigree Prediktor Diabetes pedigree function
age Prediktor Usia
diabetes Respons Kelas diabetes: neg atau pos

3.3 Tahapan Analisis

Tahapan analisis meliputi pemanggilan data, pemeriksaan struktur dan missing value, pembagian data, imputasi dan standardisasi, pembentukan SVM linear, tuning SVM radial menggunakan 5-fold cross-validation, prediksi data testing, evaluasi metrik, dan penentuan kernel terbaik.

3.4 Diagram Alir Penelitian

Gambar 3.1. Diagram alir penerapan SVM untuk klasifikasi diabetes.

BAB IV HASIL DAN PEMBAHASAN

4.1 Pembuatan dan Pemeriksaan Data

# Menggunakan dataset yang sudah dimuat pada setup
data_diabetes <- get("SynthDiabetes2", envir = .GlobalEnv)

# Memastikan kelas respons benar
data_diabetes$diabetes <- factor(
  as.character(data_diabetes$diabetes),
  levels = c("neg","pos")
)

cat("Jumlah pengamatan:", nrow(data_diabetes), "\n")
## Jumlah pengamatan: 768
cat("Jumlah variabel:", ncol(data_diabetes), "\n")
## Jumlah variabel: 9
cat("Jumlah prediktor:", ncol(data_diabetes)-1, "\n")
## Jumlah prediktor: 8
cat("Jumlah missing value:", sum(is.na(data_diabetes)), "\n")
## Jumlah missing value: 709
ringkasan <- data.frame(
  Keterangan = c(
    "Jumlah pengamatan",
    "Jumlah prediktor",
    "Jumlah respons",
    "Jumlah missing value"
  ),
  Jumlah = c(
    nrow(data_diabetes),
    ncol(data_diabetes)-1,
    1,
    sum(is.na(data_diabetes))
  )
)

knitr::kable(
  ringkasan,
  caption = "Tabel 4.1 Ringkasan dataset SynthDiabetes2"
)
Tabel 4.1 Ringkasan dataset SynthDiabetes2
Keterangan Jumlah
Jumlah pengamatan 768
Jumlah prediktor 8
Jumlah respons 1
Jumlah missing value 709

4.2 Pemeriksaan Missing Value dan Distribusi Kelas

missing_tab <- data.frame(
  Variabel = names(data_diabetes),
  Jumlah_NA = sapply(
    data_diabetes,
    function(x) sum(is.na(x))
  ),
  Persentase_NA = round(
    100*sapply(data_diabetes,function(x) mean(is.na(x))),
    2
  )
)

knitr::kable(
  missing_tab,
  digits=2,
  caption="Tabel 4.2 Jumlah dan persentase missing value"
)
Tabel 4.2 Jumlah dan persentase missing value
Variabel Jumlah_NA Persentase_NA
pregnant pregnant 0 0.00
glucose glucose 5 0.65
pressure pressure 35 4.56
triceps triceps 251 32.68
insulin insulin 405 52.73
mass mass 13 1.69
pedigree pedigree 0 0.00
age age 0 0.00
diabetes diabetes 0 0.00
distribusi <- as.data.frame(
  table(data_diabetes$diabetes)
)

names(distribusi) <- c("Kelas","Jumlah")

knitr::kable(
  distribusi,
  caption="Tabel 4.3 Distribusi kelas diabetes"
)
Tabel 4.3 Distribusi kelas diabetes
Kelas Jumlah
neg 488
pos 280

Dataset memiliki dua kelas, yaitu neg dan pos. Kelas pos diperlakukan sebagai kelas positif pada seluruh perhitungan evaluasi.

4.3 Pembagian Data Training dan Testing

set.seed(12305)

indeks_train <- caret::createDataPartition(
  data_diabetes$diabetes,
  p=.70,
  list=FALSE
)

train_raw <- data_diabetes[indeks_train,,drop=FALSE]
test_raw <- data_diabetes[-indeks_train,,drop=FALSE]

pembagian <- data.frame(
  Data=c("Training","Testing","Total"),
  Jumlah=c(
    nrow(train_raw),
    nrow(test_raw),
    nrow(data_diabetes)
  ),
  Persentase=round(
    100*c(
      nrow(train_raw),
      nrow(test_raw),
      nrow(data_diabetes)
    )/nrow(data_diabetes),
    2
  )
)

knitr::kable(
  pembagian,
  caption="Tabel 4.4 Pembagian data"
)
Tabel 4.4 Pembagian data
Data Jumlah Persentase
Training 538 70.05
Testing 230 29.95
Total 768 100.00

Pembagian dilakukan secara terstratifikasi agar proporsi kelas relatif terjaga. Data testing disimpan untuk evaluasi akhir dan tidak digunakan dalam proses tuning parameter.

4.4 Imputasi Missing Value dan Standardisasi

prediktor <- setdiff(
  names(train_raw),
  "diabetes"
)

# Menghitung median dari data training
median_train <- sapply(
  train_raw[,prediktor,drop=FALSE],
  median,
  na.rm=TRUE
)

# Fungsi imputasi
imputasi <- function(data,variabel,median_ref) {
  hasil <- data

  for (v in variabel) {
    hasil[[v]][is.na(hasil[[v]])] <- median_ref[v]
  }

  hasil
}

# Melakukan imputasi
train_imp <- imputasi(
  train_raw,
  prediktor,
  median_train
)

test_imp <- imputasi(
  test_raw,
  prediktor,
  median_train
)

# Menghitung parameter standardisasi dari training
rata_train <- sapply(
  train_imp[,prediktor,drop=FALSE],
  mean
)

sd_train <- sapply(
  train_imp[,prediktor,drop=FALSE],
  sd
)

sd_train[is.na(sd_train)|sd_train==0] <- 1

# Standardisasi data training dan testing
x_train <- as.data.frame(
  scale(
    train_imp[,prediktor,drop=FALSE],
    center=rata_train,
    scale=sd_train
  )
)

x_test <- as.data.frame(
  scale(
    test_imp[,prediktor,drop=FALSE],
    center=rata_train,
    scale=sd_train
  )
)

y_train <- train_imp$diabetes
y_test <- test_imp$diabetes

cat("NA training setelah imputasi:",sum(is.na(x_train)),"\n")
## NA training setelah imputasi: 0
cat("NA testing setelah imputasi:",sum(is.na(x_test)),"\n")
## NA testing setelah imputasi: 0

4.5 Pemodelan SVM Kernel Linear

model_linear <- e1071::svm(
  x=x_train,
  y=y_train,
  kernel="linear",
  cost=1,
  scale=FALSE,
  probability=TRUE
)

pred_linear <- predict(
  model_linear,
  x_test,
  probability=TRUE
)

prob_linear <- attr(
  pred_linear,
  "probabilities"
)

prob_pos_linear <- prob_linear[,"pos"]

Model linear dibentuk menggunakan cost sebesar 1. Parameter scale=FALSE digunakan karena prediktor telah distandardisasi secara manual menggunakan parameter data training.

4.6 Tuning SVM Kernel Radial

grid_radial <- expand.grid(
  cost=c(.1,1,10,100),
  gamma=c(.001,.01,.1,1)
)

set.seed(12305)

tuning_radial <- e1071::tune(
  e1071::svm,
  train.x=x_train,
  train.y=y_train,
  kernel="radial",
  ranges=grid_radial,
  tunecontrol=e1071::tune.control(
    sampling="cross",
    cross=5
  ),
  scale=FALSE
)

tabel_tuning <- tuning_radial$performances

tabel_tuning <- tabel_tuning[
  order(
    tabel_tuning$error,
    tabel_tuning$cost,
    tabel_tuning$gamma
  ),
]

knitr::kable(
  tabel_tuning,
  digits=5,
  caption="Tabel 4.5 Hasil tuning SVM kernel radial"
)
Tabel 4.5 Hasil tuning SVM kernel radial
cost gamma error dispersion
4 100.0 0.001 0.22298 0.04948
8 100.0 0.001 0.22298 0.04948
12 100.0 0.001 0.22298 0.04948
16 100.0 0.001 0.22298 0.04948
20 100.0 0.001 0.22298 0.04948
24 100.0 0.001 0.22298 0.04948
28 100.0 0.001 0.22298 0.04948
32 100.0 0.001 0.22298 0.04948
36 100.0 0.001 0.22298 0.04948
40 100.0 0.001 0.22298 0.04948
44 100.0 0.001 0.22298 0.04948
48 100.0 0.001 0.22298 0.04948
52 100.0 0.001 0.22298 0.04948
56 100.0 0.001 0.22298 0.04948
60 100.0 0.001 0.22298 0.04948
64 100.0 0.001 0.22298 0.04948
67 10.0 0.010 0.22852 0.06168
71 10.0 0.010 0.22852 0.06168
75 10.0 0.010 0.22852 0.06168
79 10.0 0.010 0.22852 0.06168
83 10.0 0.010 0.22852 0.06168
87 10.0 0.010 0.22852 0.06168
91 10.0 0.010 0.22852 0.06168
95 10.0 0.010 0.22852 0.06168
99 10.0 0.010 0.22852 0.06168
103 10.0 0.010 0.22852 0.06168
107 10.0 0.010 0.22852 0.06168
111 10.0 0.010 0.22852 0.06168
115 10.0 0.010 0.22852 0.06168
119 10.0 0.010 0.22852 0.06168
123 10.0 0.010 0.22852 0.06168
127 10.0 0.010 0.22852 0.06168
66 1.0 0.010 0.23041 0.04142
70 1.0 0.010 0.23041 0.04142
74 1.0 0.010 0.23041 0.04142
78 1.0 0.010 0.23041 0.04142
82 1.0 0.010 0.23041 0.04142
86 1.0 0.010 0.23041 0.04142
90 1.0 0.010 0.23041 0.04142
94 1.0 0.010 0.23041 0.04142
98 1.0 0.010 0.23041 0.04142
102 1.0 0.010 0.23041 0.04142
106 1.0 0.010 0.23041 0.04142
110 1.0 0.010 0.23041 0.04142
114 1.0 0.010 0.23041 0.04142
118 1.0 0.010 0.23041 0.04142
122 1.0 0.010 0.23041 0.04142
126 1.0 0.010 0.23041 0.04142
3 10.0 0.001 0.23602 0.03494
7 10.0 0.001 0.23602 0.03494
11 10.0 0.001 0.23602 0.03494
15 10.0 0.001 0.23602 0.03494
19 10.0 0.001 0.23602 0.03494
23 10.0 0.001 0.23602 0.03494
27 10.0 0.001 0.23602 0.03494
31 10.0 0.001 0.23602 0.03494
35 10.0 0.001 0.23602 0.03494
39 10.0 0.001 0.23602 0.03494
43 10.0 0.001 0.23602 0.03494
47 10.0 0.001 0.23602 0.03494
51 10.0 0.001 0.23602 0.03494
55 10.0 0.001 0.23602 0.03494
59 10.0 0.001 0.23602 0.03494
63 10.0 0.001 0.23602 0.03494
130 1.0 0.100 0.24342 0.04349
134 1.0 0.100 0.24342 0.04349
138 1.0 0.100 0.24342 0.04349
142 1.0 0.100 0.24342 0.04349
146 1.0 0.100 0.24342 0.04349
150 1.0 0.100 0.24342 0.04349
154 1.0 0.100 0.24342 0.04349
158 1.0 0.100 0.24342 0.04349
162 1.0 0.100 0.24342 0.04349
166 1.0 0.100 0.24342 0.04349
170 1.0 0.100 0.24342 0.04349
174 1.0 0.100 0.24342 0.04349
178 1.0 0.100 0.24342 0.04349
182 1.0 0.100 0.24342 0.04349
186 1.0 0.100 0.24342 0.04349
190 1.0 0.100 0.24342 0.04349
129 0.1 0.100 0.24348 0.03742
133 0.1 0.100 0.24348 0.03742
137 0.1 0.100 0.24348 0.03742
141 0.1 0.100 0.24348 0.03742
145 0.1 0.100 0.24348 0.03742
149 0.1 0.100 0.24348 0.03742
153 0.1 0.100 0.24348 0.03742
157 0.1 0.100 0.24348 0.03742
161 0.1 0.100 0.24348 0.03742
165 0.1 0.100 0.24348 0.03742
169 0.1 0.100 0.24348 0.03742
173 0.1 0.100 0.24348 0.03742
177 0.1 0.100 0.24348 0.03742
181 0.1 0.100 0.24348 0.03742
185 0.1 0.100 0.24348 0.03742
189 0.1 0.100 0.24348 0.03742
68 100.0 0.010 0.24713 0.05254
72 100.0 0.010 0.24713 0.05254
76 100.0 0.010 0.24713 0.05254
80 100.0 0.010 0.24713 0.05254
84 100.0 0.010 0.24713 0.05254
88 100.0 0.010 0.24713 0.05254
92 100.0 0.010 0.24713 0.05254
96 100.0 0.010 0.24713 0.05254
100 100.0 0.010 0.24713 0.05254
104 100.0 0.010 0.24713 0.05254
108 100.0 0.010 0.24713 0.05254
112 100.0 0.010 0.24713 0.05254
116 100.0 0.010 0.24713 0.05254
120 100.0 0.010 0.24713 0.05254
124 100.0 0.010 0.24713 0.05254
128 100.0 0.010 0.24713 0.05254
131 10.0 0.100 0.26018 0.03626
135 10.0 0.100 0.26018 0.03626
139 10.0 0.100 0.26018 0.03626
143 10.0 0.100 0.26018 0.03626
147 10.0 0.100 0.26018 0.03626
151 10.0 0.100 0.26018 0.03626
155 10.0 0.100 0.26018 0.03626
159 10.0 0.100 0.26018 0.03626
163 10.0 0.100 0.26018 0.03626
167 10.0 0.100 0.26018 0.03626
171 10.0 0.100 0.26018 0.03626
175 10.0 0.100 0.26018 0.03626
179 10.0 0.100 0.26018 0.03626
183 10.0 0.100 0.26018 0.03626
187 10.0 0.100 0.26018 0.03626
191 10.0 0.100 0.26018 0.03626
194 1.0 1.000 0.26947 0.02477
198 1.0 1.000 0.26947 0.02477
202 1.0 1.000 0.26947 0.02477
206 1.0 1.000 0.26947 0.02477
210 1.0 1.000 0.26947 0.02477
214 1.0 1.000 0.26947 0.02477
218 1.0 1.000 0.26947 0.02477
222 1.0 1.000 0.26947 0.02477
226 1.0 1.000 0.26947 0.02477
230 1.0 1.000 0.26947 0.02477
234 1.0 1.000 0.26947 0.02477
238 1.0 1.000 0.26947 0.02477
242 1.0 1.000 0.26947 0.02477
246 1.0 1.000 0.26947 0.02477
250 1.0 1.000 0.26947 0.02477
254 1.0 1.000 0.26947 0.02477
132 100.0 0.100 0.28070 0.02262
136 100.0 0.100 0.28070 0.02262
140 100.0 0.100 0.28070 0.02262
144 100.0 0.100 0.28070 0.02262
148 100.0 0.100 0.28070 0.02262
152 100.0 0.100 0.28070 0.02262
156 100.0 0.100 0.28070 0.02262
160 100.0 0.100 0.28070 0.02262
164 100.0 0.100 0.28070 0.02262
168 100.0 0.100 0.28070 0.02262
172 100.0 0.100 0.28070 0.02262
176 100.0 0.100 0.28070 0.02262
180 100.0 0.100 0.28070 0.02262
184 100.0 0.100 0.28070 0.02262
188 100.0 0.100 0.28070 0.02262
192 100.0 0.100 0.28070 0.02262
195 10.0 1.000 0.31779 0.02657
199 10.0 1.000 0.31779 0.02657
203 10.0 1.000 0.31779 0.02657
207 10.0 1.000 0.31779 0.02657
211 10.0 1.000 0.31779 0.02657
215 10.0 1.000 0.31779 0.02657
219 10.0 1.000 0.31779 0.02657
223 10.0 1.000 0.31779 0.02657
227 10.0 1.000 0.31779 0.02657
231 10.0 1.000 0.31779 0.02657
235 10.0 1.000 0.31779 0.02657
239 10.0 1.000 0.31779 0.02657
243 10.0 1.000 0.31779 0.02657
247 10.0 1.000 0.31779 0.02657
251 10.0 1.000 0.31779 0.02657
255 10.0 1.000 0.31779 0.02657
196 100.0 1.000 0.32150 0.03030
200 100.0 1.000 0.32150 0.03030
204 100.0 1.000 0.32150 0.03030
208 100.0 1.000 0.32150 0.03030
212 100.0 1.000 0.32150 0.03030
216 100.0 1.000 0.32150 0.03030
220 100.0 1.000 0.32150 0.03030
224 100.0 1.000 0.32150 0.03030
228 100.0 1.000 0.32150 0.03030
232 100.0 1.000 0.32150 0.03030
236 100.0 1.000 0.32150 0.03030
240 100.0 1.000 0.32150 0.03030
244 100.0 1.000 0.32150 0.03030
248 100.0 1.000 0.32150 0.03030
252 100.0 1.000 0.32150 0.03030
256 100.0 1.000 0.32150 0.03030
2 1.0 0.001 0.35691 0.02286
6 1.0 0.001 0.35691 0.02286
10 1.0 0.001 0.35691 0.02286
14 1.0 0.001 0.35691 0.02286
18 1.0 0.001 0.35691 0.02286
22 1.0 0.001 0.35691 0.02286
26 1.0 0.001 0.35691 0.02286
30 1.0 0.001 0.35691 0.02286
34 1.0 0.001 0.35691 0.02286
38 1.0 0.001 0.35691 0.02286
42 1.0 0.001 0.35691 0.02286
46 1.0 0.001 0.35691 0.02286
50 1.0 0.001 0.35691 0.02286
54 1.0 0.001 0.35691 0.02286
58 1.0 0.001 0.35691 0.02286
62 1.0 0.001 0.35691 0.02286
1 0.1 0.001 0.36433 0.02434
5 0.1 0.001 0.36433 0.02434
9 0.1 0.001 0.36433 0.02434
13 0.1 0.001 0.36433 0.02434
17 0.1 0.001 0.36433 0.02434
21 0.1 0.001 0.36433 0.02434
25 0.1 0.001 0.36433 0.02434
29 0.1 0.001 0.36433 0.02434
33 0.1 0.001 0.36433 0.02434
37 0.1 0.001 0.36433 0.02434
41 0.1 0.001 0.36433 0.02434
45 0.1 0.001 0.36433 0.02434
49 0.1 0.001 0.36433 0.02434
53 0.1 0.001 0.36433 0.02434
57 0.1 0.001 0.36433 0.02434
61 0.1 0.001 0.36433 0.02434
65 0.1 0.010 0.36433 0.02434
69 0.1 0.010 0.36433 0.02434
73 0.1 0.010 0.36433 0.02434
77 0.1 0.010 0.36433 0.02434
81 0.1 0.010 0.36433 0.02434
85 0.1 0.010 0.36433 0.02434
89 0.1 0.010 0.36433 0.02434
93 0.1 0.010 0.36433 0.02434
97 0.1 0.010 0.36433 0.02434
101 0.1 0.010 0.36433 0.02434
105 0.1 0.010 0.36433 0.02434
109 0.1 0.010 0.36433 0.02434
113 0.1 0.010 0.36433 0.02434
117 0.1 0.010 0.36433 0.02434
121 0.1 0.010 0.36433 0.02434
125 0.1 0.010 0.36433 0.02434
193 0.1 1.000 0.36433 0.02434
197 0.1 1.000 0.36433 0.02434
201 0.1 1.000 0.36433 0.02434
205 0.1 1.000 0.36433 0.02434
209 0.1 1.000 0.36433 0.02434
213 0.1 1.000 0.36433 0.02434
217 0.1 1.000 0.36433 0.02434
221 0.1 1.000 0.36433 0.02434
225 0.1 1.000 0.36433 0.02434
229 0.1 1.000 0.36433 0.02434
233 0.1 1.000 0.36433 0.02434
237 0.1 1.000 0.36433 0.02434
241 0.1 1.000 0.36433 0.02434
245 0.1 1.000 0.36433 0.02434
249 0.1 1.000 0.36433 0.02434
253 0.1 1.000 0.36433 0.02434
parameter_terbaik <- tuning_radial$best.parameters

cat("Parameter radial terbaik:\n")
## Parameter radial terbaik:
print(parameter_terbaik)
##   cost gamma
## 4  100 0.001

Tuning dilakukan pada data training dengan 5-fold cross-validation. Kombinasi parameter terbaik dipilih berdasarkan error validasi silang terkecil. Data testing tidak digunakan dalam pemilihan parameter.

4.7 Pemodelan SVM Radial Terbaik

model_radial <- e1071::svm(
  x=x_train,
  y=y_train,
  kernel="radial",
  cost=parameter_terbaik$cost,
  gamma=parameter_terbaik$gamma,
  scale=FALSE,
  probability=TRUE
)

pred_radial <- predict(
  model_radial,
  x_test,
  probability=TRUE
)

prob_radial <- attr(
  pred_radial,
  "probabilities"
)

prob_pos_radial <- prob_radial[,"pos"]

4.8 Evaluasi Model

evaluasi_svm <- function(aktual,prediksi,prob_pos,nama) {

  aktual <- factor(
    aktual,
    levels=c("neg","pos")
  )

  prediksi <- factor(
    prediksi,
    levels=c("neg","pos")
  )

  cm <- table(
    Aktual=aktual,
    Prediksi=prediksi
  )

  TN <- as.numeric(cm["neg","neg"])
  FP <- as.numeric(cm["neg","pos"])
  FN <- as.numeric(cm["pos","neg"])
  TP <- as.numeric(cm["pos","pos"])

  accuracy <- (TP+TN)/sum(cm)

  precision <- ifelse(
    TP+FP==0,
    NA,
    TP/(TP+FP)
  )

  sensitivity <- ifelse(
    TP+FN==0,
    NA,
    TP/(TP+FN)
  )

  specificity <- ifelse(
    TN+FP==0,
    NA,
    TN/(TN+FP)
  )

  f1 <- ifelse(
    is.na(precision) ||
      is.na(sensitivity) ||
      precision+sensitivity==0,
    NA,
    2*precision*sensitivity/(precision+sensitivity)
  )

  roc_obj <- pROC::roc(
    response=aktual,
    predictor=as.numeric(prob_pos),
    levels=c("neg","pos"),
    direction="<",
    quiet=TRUE
  )

  auc <- as.numeric(
    pROC::auc(roc_obj)
  )

  list(
    confusion=cm,
    roc=roc_obj,
    metrics=data.frame(
      Model=nama,
      Accuracy=accuracy,
      Precision=precision,
      Sensitivity=sensitivity,
      Specificity=specificity,
      F1_Score=f1,
      ROC_AUC=auc,
      TP=TP,
      TN=TN,
      FP=FP,
      FN=FN
    )
  )
}

hasil_linear <- evaluasi_svm(
  y_test,
  pred_linear,
  prob_pos_linear,
  "SVM Linear"
)

hasil_radial <- evaluasi_svm(
  y_test,
  pred_radial,
  prob_pos_radial,
  "SVM Radial"
)

knitr::kable(
  hasil_linear$confusion,
  caption="Tabel 4.6 Confusion matrix SVM linear"
)
Tabel 4.6 Confusion matrix SVM linear
neg pos
neg 124 22
pos 37 47
knitr::kable(
  hasil_radial$confusion,
  caption="Tabel 4.7 Confusion matrix SVM radial"
)
Tabel 4.7 Confusion matrix SVM radial
neg pos
neg 125 21
pos 35 49
tabel_evaluasi <- rbind(
  hasil_linear$metrics,
  hasil_radial$metrics
)

knitr::kable(
  tabel_evaluasi,
  digits=4,
  caption="Tabel 4.8 Perbandingan metrik SVM"
)
Tabel 4.8 Perbandingan metrik SVM
Model Accuracy Precision Sensitivity Specificity F1_Score ROC_AUC TP TN FP FN
SVM Linear 0.7435 0.6812 0.5595 0.8493 0.6144 0.7803 47 124 22 37
SVM Radial 0.7565 0.7000 0.5833 0.8562 0.6364 0.7845 49 125 21 35

4.9 Kurva ROC

plot(
  hasil_linear$roc,
  col="#1F77B4",
  lwd=2,
  main="Kurva ROC SVM Linear dan Radial"
)

plot(
  hasil_radial$roc,
  col="#D62728",
  lwd=2,
  add=TRUE
)

legend(
  "bottomright",
  legend=c(
    paste0(
      "Linear AUC = ",
      round(hasil_linear$metrics$ROC_AUC,4)
    ),
    paste0(
      "Radial AUC = ",
      round(hasil_radial$metrics$ROC_AUC,4)
    )
  ),
  col=c("#1F77B4","#D62728"),
  lwd=2,
  bty="n"
)

Kurva ROC memperlihatkan hubungan antara True Positive Rate dan False Positive Rate pada berbagai threshold. AUC yang lebih besar menunjukkan kemampuan pemisahan kelas yang lebih baik secara keseluruhan.

4.10 Grafik Perbandingan Metrik

grafik_metrik <- tidyr::pivot_longer(
  tabel_evaluasi,
  cols=c(
    Accuracy,
    Precision,
    Sensitivity,
    Specificity,
    F1_Score,
    ROC_AUC
  ),
  names_to="Metrik",
  values_to="Nilai"
)

ggplot(
  grafik_metrik,
  aes(x=Model,y=Nilai,fill=Model)
) +
  geom_col(
    width=.65,
    show.legend=FALSE
  ) +
  facet_wrap(
    ~Metrik,
    ncol=3
  ) +
  coord_cartesian(ylim=c(0,1)) +
  scale_fill_brewer(palette="Set2") +
  labs(
    title="Perbandingan Kinerja SVM",
    x=NULL,
    y="Nilai metrik"
  ) +
  theme_minimal() +
  theme(
    plot.title=element_text(
      hjust=.5,
      face="bold"
    ),
    axis.text.x=element_text(
      angle=15,
      hjust=1
    )
  )

4.11 Pengaruh Cost dan Gamma

Cost mengatur penalti terhadap kesalahan klasifikasi pada data training. Cost besar mendorong model mengurangi kesalahan training, tetapi dapat meningkatkan kompleksitas dan risiko overfitting. Cost kecil memberikan toleransi kesalahan yang lebih besar.

Gamma mengatur jangkauan pengaruh setiap titik pada kernel radial. Gamma kecil membuat pengaruh titik lebih luas sehingga batas keputusan cenderung halus. Gamma besar membuat pengaruh lebih lokal sehingga batas keputusan dapat lebih kompleks. Dampak keduanya saling berkaitan sehingga kombinasi cost dan gamma dipilih melalui cross-validation.

4.12 Penentuan Kernel Terbaik dan Interpretasi Otomatis

peringkat_svm <- tabel_evaluasi[
  order(
    -tabel_evaluasi$ROC_AUC,
    -tabel_evaluasi$F1_Score,
    -tabel_evaluasi$Sensitivity,
    -tabel_evaluasi$Accuracy
  ),
]

rownames(peringkat_svm) <- NULL

knitr::kable(
  peringkat_svm,
  digits=4,
  caption="Tabel 4.9 Peringkat model SVM"
)
Tabel 4.9 Peringkat model SVM
Model Accuracy Precision Sensitivity Specificity F1_Score ROC_AUC TP TN FP FN
SVM Radial 0.7565 0.7000 0.5833 0.8562 0.6364 0.7845 49 125 21 35
SVM Linear 0.7435 0.6812 0.5595 0.8493 0.6144 0.7803 47 124 22 37
kernel_terbaik <- peringkat_svm$Model[1]

cat(
  "Kernel terbaik berdasarkan ROC-AUC:",
  kernel_terbaik,
  "\n"
)
## Kernel terbaik berdasarkan ROC-AUC: SVM Radial
cat("Parameter radial terbaik:\n")
## Parameter radial terbaik:
print(parameter_terbaik)
##   cost gamma
## 4  100 0.001
for (i in seq_len(nrow(tabel_evaluasi))) {

  z <- tabel_evaluasi[i,]

  cat(
    "**",z$Model,"** menghasilkan accuracy ",
    round(100*z$Accuracy,2),"%, precision ",
    round(100*z$Precision,2),"%, sensitivity ",
    round(100*z$Sensitivity,2),"%, specificity ",
    round(100*z$Specificity,2),"%, F1-score ",
    round(z$F1_Score,4)," dan ROC-AUC ",
    round(z$ROC_AUC,4),
    ". Jumlah False Negative adalah ",
    z$FN,
    ".\n\n",
    sep=""
  )
}

SVM Linear menghasilkan accuracy 74.35%, precision 68.12%, sensitivity 55.95%, specificity 84.93%, F1-score 0.6144 dan ROC-AUC 0.7803. Jumlah False Negative adalah 37.

SVM Radial menghasilkan accuracy 75.65%, precision 70%, sensitivity 58.33%, specificity 85.62%, F1-score 0.6364 dan ROC-AUC 0.7845. Jumlah False Negative adalah 35.

cat(
  "Berdasarkan kriteria pemeringkatan, model terbaik adalah **",
  kernel_terbaik,
  "**. Pemilihan didasarkan pada ROC-AUC tertinggi, ",
  "kemudian F1-score, sensitivity, dan accuracy sebagai pembanding.\n",
  sep=""
)

Berdasarkan kriteria pemeringkatan, model terbaik adalah SVM Radial. Pemilihan didasarkan pada ROC-AUC tertinggi, kemudian F1-score, sensitivity, dan accuracy sebagai pembanding.

Model terbaik ditentukan berdasarkan ROC-AUC tertinggi, kemudian F1-score, sensitivity, dan accuracy. Perbandingan dilakukan pada data testing yang sama. Hasil ini merupakan evaluasi model pada dataset sintetis dan tidak dapat langsung dianggap sebagai kesimpulan klinis pada pasien nyata.

BAB V KESIMPULAN DAN SARAN

5.1 Kesimpulan

Klasifikasi SVM dilakukan pada dataset SynthDiabetes2 dengan variabel respons diabetes dan kelas pos sebagai kelas positif. Missing value ditangani menggunakan median data training, sedangkan prediktor distandardisasi berdasarkan rata-rata dan simpangan baku training.

Kernel linear dibandingkan dengan kernel radial. Kernel radial dituning menggunakan kombinasi cost 0,1; 1; 10; 100 dan gamma 0,001; 0,01; 0,1; 1 melalui 5-fold cross-validation. Evaluasi dilakukan pada data testing menggunakan confusion matrix, accuracy, precision, sensitivity, specificity, F1-score, dan ROC-AUC. Kernel terbaik ditentukan berdasarkan ROC-AUC tertinggi dengan metrik lainnya sebagai pembanding. Nilai akhir mengikuti hasil eksekusi kode.

5.2 Saran

Analisis selanjutnya dapat menggunakan validasi silang berulang, mencoba rentang parameter cost dan gamma yang lebih luas, serta membandingkan SVM dengan metode klasifikasi lainnya. Evaluasi juga dapat memperhatikan biaya kesalahan klasifikasi yang berbeda. Karena dataset bersifat sintetis, hasil praktikum tidak dapat langsung digeneralisasi sebagai kesimpulan klinis.

DAFTAR PUSTAKA

Cortes, C., & Vapnik, V. (1995). Support-vector networks. Machine Learning, 20, 273–297.

Dua, D., & Graff, C. (2019). UCI machine learning repository. University of California, Irvine.

Meyer, D., Dimitriadou, E., Hornik, K., Weingessel, A., & Leisch, F. (2024). e1071: Misc Functions of the Department of Statistics, Probability Theory Group. R package.

R Core Team. (2026). R: A language and environment for statistical computing. R Foundation for Statistical Computing.

LAMPIRAN

Seluruh kode program disertakan pada setiap bagian laporan. Buka berkas .Rmd di RStudio, pastikan koneksi internet tersedia saat paket perlu dipasang, kemudian klik Knit untuk menghasilkan laporan HTML yang memuat tabel tuning, diagram alir, confusion matrix, metrik klasifikasi, kurva ROC, grafik perbandingan, dan interpretasi otomatis.