Diabetes merupakan kondisi kesehatan yang berkaitan dengan kadar glukosa darah dan berbagai karakteristik klinis. Klasifikasi berbasis data dapat digunakan untuk mempelajari pola hubungan antara karakteristik prediktor dan status diabetes. Salah satu metode yang dapat digunakan adalah Support Vector Machine (SVM).
SVM membentuk batas keputusan (decision boundary) yang memisahkan kelas dengan margin tertentu. Fungsi kernel memungkinkan SVM membentuk batas keputusan linear maupun nonlinier. Kernel linear digunakan untuk pola yang mendekati linear, sedangkan kernel radial atau Radial Basis Function (RBF) dapat menangkap pola nonlinier.
Pada praktikum ini klasifikasi dilakukan menggunakan dataset
SynthDiabetes2 dari paket mlbench, dengan
variabel diabetes sebagai respons. Kernel linear
dibandingkan dengan kernel radial. Parameter cost dan gamma pada kernel
radial ditentukan melalui 5-fold cross-validation pada data
training.
Praktikum ini diharapkan memberikan pemahaman mengenai konsep SVM, fungsi kernel, tuning parameter, penanganan missing value, serta evaluasi klasifikasi biner dengan memperhatikan kelas positif.
SynthDiabetes2 dari paket
mlbench.diabetes, dengan kelas
neg dan pos.pos ditetapkan sebagai kelas positif.12305, sesuai digit akhir
NPM F1F023005.Laporan terdiri atas pendahuluan, tinjauan pustaka, metode penelitian, hasil dan pembahasan, kesimpulan dan saran, daftar pustaka, serta lampiran kode program.
Support Vector Machine merupakan metode supervised learning yang membentuk hyperplane untuk memisahkan kelas. SVM berusaha memperoleh margin maksimum antara hyperplane dan pengamatan terdekat dari setiap kelas. Pengamatan yang menentukan posisi batas keputusan disebut support vectors.
Hyperplane linear dapat dituliskan sebagai:
\[ f(x)=w^Tx+b \]
dengan \(w\) merupakan vektor bobot, \(x\) vektor prediktor, dan \(b\) konstanta bias. SVM mencari batas keputusan dengan margin yang besar. Pada data yang tidak dapat dipisahkan secara sempurna, parameter cost mengatur penalti terhadap kesalahan klasifikasi.
Kernel linear menggunakan hasil kali dalam antarobservasi. Kernel radial basis function (RBF) dirumuskan sebagai:
\[ K(x_i,x_j)=\exp(-\gamma\|x_i-x_j\|^2) \]
Kernel radial memungkinkan pembentukan batas keputusan nonlinier. Parameter gamma mengatur jangkauan pengaruh suatu pengamatan terhadap pengamatan lainnya.
Parameter cost (\(C\)) mengendalikan penalti terhadap kesalahan klasifikasi pada data training. Cost besar memberikan penalti lebih kuat terhadap kesalahan training, sedangkan cost kecil memberikan toleransi kesalahan lebih besar.
Parameter gamma (\(\gamma\)) mengatur jangkauan pengaruh setiap pengamatan pada kernel radial. Gamma kecil menghasilkan pengaruh yang lebih luas dan batas keputusan yang cenderung halus. Gamma besar menghasilkan pengaruh lebih lokal sehingga batas keputusan dapat menjadi lebih kompleks. Kombinasi keduanya perlu dipilih melalui validasi silang.
Missing value pada prediktor ditangani menggunakan median yang dihitung dari data training. Selanjutnya, prediktor distandardisasi menggunakan rata-rata dan simpangan baku training. Parameter yang sama diterapkan pada data testing agar informasi testing tidak masuk ke proses pra-pemrosesan model.
Kelas pos ditetapkan sebagai kelas positif. Metrik
evaluasi yang digunakan meliputi:
\[ Accuracy=\frac{TP+TN}{TP+TN+FP+FN} \]
\[ Precision=\frac{TP}{TP+FP} \qquad Sensitivity=\frac{TP}{TP+FN} \]
\[ Specificity=\frac{TN}{TN+FP} \qquad F1=2\frac{Precision\times Sensitivity}{Precision+Sensitivity} \]
ROC-AUC mengukur kemampuan model membedakan kelas positif dan negatif pada berbagai nilai threshold. Nilai AUC yang lebih tinggi menunjukkan kemampuan pemisahan kelas yang lebih baik.
Data yang digunakan adalah SynthDiabetes2 dari paket
mlbench. Dataset ini merupakan data sintetis untuk studi
kasus klasifikasi diabetes, bukan data pasien nyata. Dataset terdiri
atas 768 pengamatan dan 9 variabel, yaitu delapan prediktor dan satu
variabel respons. Variabel respons adalah diabetes,
sedangkan variabel lainnya digunakan sebagai prediktor.
# Menggunakan dataset yang telah dimuat pada bagian setup
data_diabetes <- get("SynthDiabetes2", envir = .GlobalEnv)
nama_prediktor <- setdiff(
names(data_diabetes),
"diabetes"
)
variabel_tab <- data.frame(
Variabel = c(nama_prediktor, "diabetes"),
Peran = c(
rep("Prediktor", length(nama_prediktor)),
"Respons"
),
Keterangan = c(
"Jumlah kehamilan",
"Konsentrasi glukosa plasma",
"Tekanan darah diastolik",
"Ketebalan lipatan kulit triceps",
"Kadar insulin",
"Indeks massa tubuh",
"Diabetes pedigree function",
"Usia",
"Kelas diabetes: neg atau pos"
)
)
knitr::kable(
variabel_tab,
caption = "Tabel 3.1 Variabel penelitian"
)
| Variabel | Peran | Keterangan |
|---|---|---|
| pregnant | Prediktor | Jumlah kehamilan |
| glucose | Prediktor | Konsentrasi glukosa plasma |
| pressure | Prediktor | Tekanan darah diastolik |
| triceps | Prediktor | Ketebalan lipatan kulit triceps |
| insulin | Prediktor | Kadar insulin |
| mass | Prediktor | Indeks massa tubuh |
| pedigree | Prediktor | Diabetes pedigree function |
| age | Prediktor | Usia |
| diabetes | Respons | Kelas diabetes: neg atau pos |
Tahapan analisis meliputi pemanggilan data, pemeriksaan struktur dan missing value, pembagian data, imputasi dan standardisasi, pembentukan SVM linear, tuning SVM radial menggunakan 5-fold cross-validation, prediksi data testing, evaluasi metrik, dan penentuan kernel terbaik.
Gambar 3.1. Diagram alir penerapan SVM untuk klasifikasi diabetes.
# Menggunakan dataset yang sudah dimuat pada setup
data_diabetes <- get("SynthDiabetes2", envir = .GlobalEnv)
# Memastikan kelas respons benar
data_diabetes$diabetes <- factor(
as.character(data_diabetes$diabetes),
levels = c("neg","pos")
)
cat("Jumlah pengamatan:", nrow(data_diabetes), "\n")
## Jumlah pengamatan: 768
cat("Jumlah variabel:", ncol(data_diabetes), "\n")
## Jumlah variabel: 9
cat("Jumlah prediktor:", ncol(data_diabetes)-1, "\n")
## Jumlah prediktor: 8
cat("Jumlah missing value:", sum(is.na(data_diabetes)), "\n")
## Jumlah missing value: 709
ringkasan <- data.frame(
Keterangan = c(
"Jumlah pengamatan",
"Jumlah prediktor",
"Jumlah respons",
"Jumlah missing value"
),
Jumlah = c(
nrow(data_diabetes),
ncol(data_diabetes)-1,
1,
sum(is.na(data_diabetes))
)
)
knitr::kable(
ringkasan,
caption = "Tabel 4.1 Ringkasan dataset SynthDiabetes2"
)
| Keterangan | Jumlah |
|---|---|
| Jumlah pengamatan | 768 |
| Jumlah prediktor | 8 |
| Jumlah respons | 1 |
| Jumlah missing value | 709 |
missing_tab <- data.frame(
Variabel = names(data_diabetes),
Jumlah_NA = sapply(
data_diabetes,
function(x) sum(is.na(x))
),
Persentase_NA = round(
100*sapply(data_diabetes,function(x) mean(is.na(x))),
2
)
)
knitr::kable(
missing_tab,
digits=2,
caption="Tabel 4.2 Jumlah dan persentase missing value"
)
| Variabel | Jumlah_NA | Persentase_NA | |
|---|---|---|---|
| pregnant | pregnant | 0 | 0.00 |
| glucose | glucose | 5 | 0.65 |
| pressure | pressure | 35 | 4.56 |
| triceps | triceps | 251 | 32.68 |
| insulin | insulin | 405 | 52.73 |
| mass | mass | 13 | 1.69 |
| pedigree | pedigree | 0 | 0.00 |
| age | age | 0 | 0.00 |
| diabetes | diabetes | 0 | 0.00 |
distribusi <- as.data.frame(
table(data_diabetes$diabetes)
)
names(distribusi) <- c("Kelas","Jumlah")
knitr::kable(
distribusi,
caption="Tabel 4.3 Distribusi kelas diabetes"
)
| Kelas | Jumlah |
|---|---|
| neg | 488 |
| pos | 280 |
Dataset memiliki dua kelas, yaitu neg dan
pos. Kelas pos diperlakukan sebagai kelas
positif pada seluruh perhitungan evaluasi.
set.seed(12305)
indeks_train <- caret::createDataPartition(
data_diabetes$diabetes,
p=.70,
list=FALSE
)
train_raw <- data_diabetes[indeks_train,,drop=FALSE]
test_raw <- data_diabetes[-indeks_train,,drop=FALSE]
pembagian <- data.frame(
Data=c("Training","Testing","Total"),
Jumlah=c(
nrow(train_raw),
nrow(test_raw),
nrow(data_diabetes)
),
Persentase=round(
100*c(
nrow(train_raw),
nrow(test_raw),
nrow(data_diabetes)
)/nrow(data_diabetes),
2
)
)
knitr::kable(
pembagian,
caption="Tabel 4.4 Pembagian data"
)
| Data | Jumlah | Persentase |
|---|---|---|
| Training | 538 | 70.05 |
| Testing | 230 | 29.95 |
| Total | 768 | 100.00 |
Pembagian dilakukan secara terstratifikasi agar proporsi kelas relatif terjaga. Data testing disimpan untuk evaluasi akhir dan tidak digunakan dalam proses tuning parameter.
prediktor <- setdiff(
names(train_raw),
"diabetes"
)
# Menghitung median dari data training
median_train <- sapply(
train_raw[,prediktor,drop=FALSE],
median,
na.rm=TRUE
)
# Fungsi imputasi
imputasi <- function(data,variabel,median_ref) {
hasil <- data
for (v in variabel) {
hasil[[v]][is.na(hasil[[v]])] <- median_ref[v]
}
hasil
}
# Melakukan imputasi
train_imp <- imputasi(
train_raw,
prediktor,
median_train
)
test_imp <- imputasi(
test_raw,
prediktor,
median_train
)
# Menghitung parameter standardisasi dari training
rata_train <- sapply(
train_imp[,prediktor,drop=FALSE],
mean
)
sd_train <- sapply(
train_imp[,prediktor,drop=FALSE],
sd
)
sd_train[is.na(sd_train)|sd_train==0] <- 1
# Standardisasi data training dan testing
x_train <- as.data.frame(
scale(
train_imp[,prediktor,drop=FALSE],
center=rata_train,
scale=sd_train
)
)
x_test <- as.data.frame(
scale(
test_imp[,prediktor,drop=FALSE],
center=rata_train,
scale=sd_train
)
)
y_train <- train_imp$diabetes
y_test <- test_imp$diabetes
cat("NA training setelah imputasi:",sum(is.na(x_train)),"\n")
## NA training setelah imputasi: 0
cat("NA testing setelah imputasi:",sum(is.na(x_test)),"\n")
## NA testing setelah imputasi: 0
model_linear <- e1071::svm(
x=x_train,
y=y_train,
kernel="linear",
cost=1,
scale=FALSE,
probability=TRUE
)
pred_linear <- predict(
model_linear,
x_test,
probability=TRUE
)
prob_linear <- attr(
pred_linear,
"probabilities"
)
prob_pos_linear <- prob_linear[,"pos"]
Model linear dibentuk menggunakan cost sebesar 1. Parameter
scale=FALSE digunakan karena prediktor telah
distandardisasi secara manual menggunakan parameter data training.
grid_radial <- expand.grid(
cost=c(.1,1,10,100),
gamma=c(.001,.01,.1,1)
)
set.seed(12305)
tuning_radial <- e1071::tune(
e1071::svm,
train.x=x_train,
train.y=y_train,
kernel="radial",
ranges=grid_radial,
tunecontrol=e1071::tune.control(
sampling="cross",
cross=5
),
scale=FALSE
)
tabel_tuning <- tuning_radial$performances
tabel_tuning <- tabel_tuning[
order(
tabel_tuning$error,
tabel_tuning$cost,
tabel_tuning$gamma
),
]
knitr::kable(
tabel_tuning,
digits=5,
caption="Tabel 4.5 Hasil tuning SVM kernel radial"
)
| cost | gamma | error | dispersion | |
|---|---|---|---|---|
| 4 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 8 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 12 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 16 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 20 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 24 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 28 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 32 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 36 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 40 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 44 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 48 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 52 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 56 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 60 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 64 | 100.0 | 0.001 | 0.22298 | 0.04948 |
| 67 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 71 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 75 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 79 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 83 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 87 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 91 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 95 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 99 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 103 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 107 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 111 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 115 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 119 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 123 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 127 | 10.0 | 0.010 | 0.22852 | 0.06168 |
| 66 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 70 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 74 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 78 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 82 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 86 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 90 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 94 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 98 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 102 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 106 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 110 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 114 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 118 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 122 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 126 | 1.0 | 0.010 | 0.23041 | 0.04142 |
| 3 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 7 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 11 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 15 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 19 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 23 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 27 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 31 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 35 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 39 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 43 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 47 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 51 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 55 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 59 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 63 | 10.0 | 0.001 | 0.23602 | 0.03494 |
| 130 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 134 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 138 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 142 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 146 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 150 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 154 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 158 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 162 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 166 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 170 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 174 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 178 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 182 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 186 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 190 | 1.0 | 0.100 | 0.24342 | 0.04349 |
| 129 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 133 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 137 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 141 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 145 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 149 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 153 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 157 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 161 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 165 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 169 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 173 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 177 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 181 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 185 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 189 | 0.1 | 0.100 | 0.24348 | 0.03742 |
| 68 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 72 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 76 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 80 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 84 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 88 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 92 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 96 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 100 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 104 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 108 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 112 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 116 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 120 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 124 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 128 | 100.0 | 0.010 | 0.24713 | 0.05254 |
| 131 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 135 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 139 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 143 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 147 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 151 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 155 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 159 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 163 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 167 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 171 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 175 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 179 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 183 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 187 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 191 | 10.0 | 0.100 | 0.26018 | 0.03626 |
| 194 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 198 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 202 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 206 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 210 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 214 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 218 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 222 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 226 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 230 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 234 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 238 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 242 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 246 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 250 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 254 | 1.0 | 1.000 | 0.26947 | 0.02477 |
| 132 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 136 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 140 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 144 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 148 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 152 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 156 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 160 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 164 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 168 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 172 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 176 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 180 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 184 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 188 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 192 | 100.0 | 0.100 | 0.28070 | 0.02262 |
| 195 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 199 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 203 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 207 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 211 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 215 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 219 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 223 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 227 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 231 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 235 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 239 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 243 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 247 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 251 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 255 | 10.0 | 1.000 | 0.31779 | 0.02657 |
| 196 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 200 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 204 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 208 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 212 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 216 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 220 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 224 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 228 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 232 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 236 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 240 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 244 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 248 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 252 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 256 | 100.0 | 1.000 | 0.32150 | 0.03030 |
| 2 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 6 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 10 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 14 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 18 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 22 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 26 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 30 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 34 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 38 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 42 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 46 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 50 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 54 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 58 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 62 | 1.0 | 0.001 | 0.35691 | 0.02286 |
| 1 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 5 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 9 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 13 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 17 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 21 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 25 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 29 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 33 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 37 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 41 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 45 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 49 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 53 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 57 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 61 | 0.1 | 0.001 | 0.36433 | 0.02434 |
| 65 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 69 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 73 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 77 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 81 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 85 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 89 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 93 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 97 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 101 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 105 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 109 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 113 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 117 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 121 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 125 | 0.1 | 0.010 | 0.36433 | 0.02434 |
| 193 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 197 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 201 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 205 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 209 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 213 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 217 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 221 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 225 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 229 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 233 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 237 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 241 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 245 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 249 | 0.1 | 1.000 | 0.36433 | 0.02434 |
| 253 | 0.1 | 1.000 | 0.36433 | 0.02434 |
parameter_terbaik <- tuning_radial$best.parameters
cat("Parameter radial terbaik:\n")
## Parameter radial terbaik:
print(parameter_terbaik)
## cost gamma
## 4 100 0.001
Tuning dilakukan pada data training dengan 5-fold cross-validation. Kombinasi parameter terbaik dipilih berdasarkan error validasi silang terkecil. Data testing tidak digunakan dalam pemilihan parameter.
model_radial <- e1071::svm(
x=x_train,
y=y_train,
kernel="radial",
cost=parameter_terbaik$cost,
gamma=parameter_terbaik$gamma,
scale=FALSE,
probability=TRUE
)
pred_radial <- predict(
model_radial,
x_test,
probability=TRUE
)
prob_radial <- attr(
pred_radial,
"probabilities"
)
prob_pos_radial <- prob_radial[,"pos"]
evaluasi_svm <- function(aktual,prediksi,prob_pos,nama) {
aktual <- factor(
aktual,
levels=c("neg","pos")
)
prediksi <- factor(
prediksi,
levels=c("neg","pos")
)
cm <- table(
Aktual=aktual,
Prediksi=prediksi
)
TN <- as.numeric(cm["neg","neg"])
FP <- as.numeric(cm["neg","pos"])
FN <- as.numeric(cm["pos","neg"])
TP <- as.numeric(cm["pos","pos"])
accuracy <- (TP+TN)/sum(cm)
precision <- ifelse(
TP+FP==0,
NA,
TP/(TP+FP)
)
sensitivity <- ifelse(
TP+FN==0,
NA,
TP/(TP+FN)
)
specificity <- ifelse(
TN+FP==0,
NA,
TN/(TN+FP)
)
f1 <- ifelse(
is.na(precision) ||
is.na(sensitivity) ||
precision+sensitivity==0,
NA,
2*precision*sensitivity/(precision+sensitivity)
)
roc_obj <- pROC::roc(
response=aktual,
predictor=as.numeric(prob_pos),
levels=c("neg","pos"),
direction="<",
quiet=TRUE
)
auc <- as.numeric(
pROC::auc(roc_obj)
)
list(
confusion=cm,
roc=roc_obj,
metrics=data.frame(
Model=nama,
Accuracy=accuracy,
Precision=precision,
Sensitivity=sensitivity,
Specificity=specificity,
F1_Score=f1,
ROC_AUC=auc,
TP=TP,
TN=TN,
FP=FP,
FN=FN
)
)
}
hasil_linear <- evaluasi_svm(
y_test,
pred_linear,
prob_pos_linear,
"SVM Linear"
)
hasil_radial <- evaluasi_svm(
y_test,
pred_radial,
prob_pos_radial,
"SVM Radial"
)
knitr::kable(
hasil_linear$confusion,
caption="Tabel 4.6 Confusion matrix SVM linear"
)
| neg | pos | |
|---|---|---|
| neg | 124 | 22 |
| pos | 37 | 47 |
knitr::kable(
hasil_radial$confusion,
caption="Tabel 4.7 Confusion matrix SVM radial"
)
| neg | pos | |
|---|---|---|
| neg | 125 | 21 |
| pos | 35 | 49 |
tabel_evaluasi <- rbind(
hasil_linear$metrics,
hasil_radial$metrics
)
knitr::kable(
tabel_evaluasi,
digits=4,
caption="Tabel 4.8 Perbandingan metrik SVM"
)
| Model | Accuracy | Precision | Sensitivity | Specificity | F1_Score | ROC_AUC | TP | TN | FP | FN |
|---|---|---|---|---|---|---|---|---|---|---|
| SVM Linear | 0.7435 | 0.6812 | 0.5595 | 0.8493 | 0.6144 | 0.7803 | 47 | 124 | 22 | 37 |
| SVM Radial | 0.7565 | 0.7000 | 0.5833 | 0.8562 | 0.6364 | 0.7845 | 49 | 125 | 21 | 35 |
plot(
hasil_linear$roc,
col="#1F77B4",
lwd=2,
main="Kurva ROC SVM Linear dan Radial"
)
plot(
hasil_radial$roc,
col="#D62728",
lwd=2,
add=TRUE
)
legend(
"bottomright",
legend=c(
paste0(
"Linear AUC = ",
round(hasil_linear$metrics$ROC_AUC,4)
),
paste0(
"Radial AUC = ",
round(hasil_radial$metrics$ROC_AUC,4)
)
),
col=c("#1F77B4","#D62728"),
lwd=2,
bty="n"
)
Kurva ROC memperlihatkan hubungan antara True Positive Rate dan False Positive Rate pada berbagai threshold. AUC yang lebih besar menunjukkan kemampuan pemisahan kelas yang lebih baik secara keseluruhan.
grafik_metrik <- tidyr::pivot_longer(
tabel_evaluasi,
cols=c(
Accuracy,
Precision,
Sensitivity,
Specificity,
F1_Score,
ROC_AUC
),
names_to="Metrik",
values_to="Nilai"
)
ggplot(
grafik_metrik,
aes(x=Model,y=Nilai,fill=Model)
) +
geom_col(
width=.65,
show.legend=FALSE
) +
facet_wrap(
~Metrik,
ncol=3
) +
coord_cartesian(ylim=c(0,1)) +
scale_fill_brewer(palette="Set2") +
labs(
title="Perbandingan Kinerja SVM",
x=NULL,
y="Nilai metrik"
) +
theme_minimal() +
theme(
plot.title=element_text(
hjust=.5,
face="bold"
),
axis.text.x=element_text(
angle=15,
hjust=1
)
)
Cost mengatur penalti terhadap kesalahan klasifikasi pada data training. Cost besar mendorong model mengurangi kesalahan training, tetapi dapat meningkatkan kompleksitas dan risiko overfitting. Cost kecil memberikan toleransi kesalahan yang lebih besar.
Gamma mengatur jangkauan pengaruh setiap titik pada kernel radial. Gamma kecil membuat pengaruh titik lebih luas sehingga batas keputusan cenderung halus. Gamma besar membuat pengaruh lebih lokal sehingga batas keputusan dapat lebih kompleks. Dampak keduanya saling berkaitan sehingga kombinasi cost dan gamma dipilih melalui cross-validation.
peringkat_svm <- tabel_evaluasi[
order(
-tabel_evaluasi$ROC_AUC,
-tabel_evaluasi$F1_Score,
-tabel_evaluasi$Sensitivity,
-tabel_evaluasi$Accuracy
),
]
rownames(peringkat_svm) <- NULL
knitr::kable(
peringkat_svm,
digits=4,
caption="Tabel 4.9 Peringkat model SVM"
)
| Model | Accuracy | Precision | Sensitivity | Specificity | F1_Score | ROC_AUC | TP | TN | FP | FN |
|---|---|---|---|---|---|---|---|---|---|---|
| SVM Radial | 0.7565 | 0.7000 | 0.5833 | 0.8562 | 0.6364 | 0.7845 | 49 | 125 | 21 | 35 |
| SVM Linear | 0.7435 | 0.6812 | 0.5595 | 0.8493 | 0.6144 | 0.7803 | 47 | 124 | 22 | 37 |
kernel_terbaik <- peringkat_svm$Model[1]
cat(
"Kernel terbaik berdasarkan ROC-AUC:",
kernel_terbaik,
"\n"
)
## Kernel terbaik berdasarkan ROC-AUC: SVM Radial
cat("Parameter radial terbaik:\n")
## Parameter radial terbaik:
print(parameter_terbaik)
## cost gamma
## 4 100 0.001
for (i in seq_len(nrow(tabel_evaluasi))) {
z <- tabel_evaluasi[i,]
cat(
"**",z$Model,"** menghasilkan accuracy ",
round(100*z$Accuracy,2),"%, precision ",
round(100*z$Precision,2),"%, sensitivity ",
round(100*z$Sensitivity,2),"%, specificity ",
round(100*z$Specificity,2),"%, F1-score ",
round(z$F1_Score,4)," dan ROC-AUC ",
round(z$ROC_AUC,4),
". Jumlah False Negative adalah ",
z$FN,
".\n\n",
sep=""
)
}
SVM Linear menghasilkan accuracy 74.35%, precision 68.12%, sensitivity 55.95%, specificity 84.93%, F1-score 0.6144 dan ROC-AUC 0.7803. Jumlah False Negative adalah 37.
SVM Radial menghasilkan accuracy 75.65%, precision 70%, sensitivity 58.33%, specificity 85.62%, F1-score 0.6364 dan ROC-AUC 0.7845. Jumlah False Negative adalah 35.
cat(
"Berdasarkan kriteria pemeringkatan, model terbaik adalah **",
kernel_terbaik,
"**. Pemilihan didasarkan pada ROC-AUC tertinggi, ",
"kemudian F1-score, sensitivity, dan accuracy sebagai pembanding.\n",
sep=""
)
Berdasarkan kriteria pemeringkatan, model terbaik adalah SVM Radial. Pemilihan didasarkan pada ROC-AUC tertinggi, kemudian F1-score, sensitivity, dan accuracy sebagai pembanding.
Model terbaik ditentukan berdasarkan ROC-AUC tertinggi, kemudian F1-score, sensitivity, dan accuracy. Perbandingan dilakukan pada data testing yang sama. Hasil ini merupakan evaluasi model pada dataset sintetis dan tidak dapat langsung dianggap sebagai kesimpulan klinis pada pasien nyata.
Klasifikasi SVM dilakukan pada dataset SynthDiabetes2 dengan variabel
respons diabetes dan kelas pos sebagai kelas
positif. Missing value ditangani menggunakan median data training,
sedangkan prediktor distandardisasi berdasarkan rata-rata dan simpangan
baku training.
Kernel linear dibandingkan dengan kernel radial. Kernel radial dituning menggunakan kombinasi cost 0,1; 1; 10; 100 dan gamma 0,001; 0,01; 0,1; 1 melalui 5-fold cross-validation. Evaluasi dilakukan pada data testing menggunakan confusion matrix, accuracy, precision, sensitivity, specificity, F1-score, dan ROC-AUC. Kernel terbaik ditentukan berdasarkan ROC-AUC tertinggi dengan metrik lainnya sebagai pembanding. Nilai akhir mengikuti hasil eksekusi kode.
Analisis selanjutnya dapat menggunakan validasi silang berulang, mencoba rentang parameter cost dan gamma yang lebih luas, serta membandingkan SVM dengan metode klasifikasi lainnya. Evaluasi juga dapat memperhatikan biaya kesalahan klasifikasi yang berbeda. Karena dataset bersifat sintetis, hasil praktikum tidak dapat langsung digeneralisasi sebagai kesimpulan klinis.
Cortes, C., & Vapnik, V. (1995). Support-vector networks. Machine Learning, 20, 273–297.
Dua, D., & Graff, C. (2019). UCI machine learning repository. University of California, Irvine.
Meyer, D., Dimitriadou, E., Hornik, K., Weingessel, A., & Leisch, F. (2024). e1071: Misc Functions of the Department of Statistics, Probability Theory Group. R package.
R Core Team. (2026). R: A language and environment for statistical computing. R Foundation for Statistical Computing.
Seluruh kode program disertakan pada setiap bagian laporan. Buka
berkas .Rmd di RStudio, pastikan koneksi internet tersedia
saat paket perlu dipasang, kemudian klik Knit untuk
menghasilkan laporan HTML yang memuat tabel tuning, diagram alir,
confusion matrix, metrik klasifikasi, kurva ROC, grafik perbandingan,
dan interpretasi otomatis.