K-Nearest Neighbors (k-NN) merupakan algoritma pembelajaran mesin supervised learning non-parametrik yang mengklasifikasikan observasi baru berdasarkan mayoritas kelas dari k tetangga terdekat di ruang fitur. Algoritma ini sederhana, mudah diimplementasikan, dan efektif pada data berdimensi sedang (Syriopoulos dkk., 2023). Karena keputusan klasifikasi sepenuhnya bergantung pada jarak antar observasi, k-NN sangat sensitif terhadap skala fitur. Fitur dengan rentang nilai yang jauh lebih besar dapat mendominasi perhitungan jarak sehingga fitur lain hampir tidak berpengaruh (Pagan dkk., 2023; Syriopoulos dkk., 2023).
Pada tugas klasifikasi medis, pemilihan nilai k dan metrik evaluasi yang tepat menjadi penting. Kesalahan false negative (tumor ganas diprediksi jinak) memiliki konsekuensi klinis yang lebih serius dibanding false positive. Oleh karena itu, selain akurasi, metrik sensitivitas (kemampuan mendeteksi kelas ganas) perlu mendapat perhatian khusus (Tharwat, 2021; Alomair dkk., 2026).
Pada praktikum ini, algoritma k-NN diterapkan untuk
klasifikasi data Wisconsin Breast Cancer dari paket
mlbench. Model dibentuk untuk nilai k ∈ {3, 5, 7,
9, 11} dengan pembagian data training 70% dan testing 30%. Performa
dievaluasi menggunakan confusion matrix, akurasi, sensitivitas,
spesifisitas, dan positive predictive value (PPV). Hasilnya
dibandingkan untuk menentukan nilai k yang paling optimal
dengan mempertimbangkan minimisasi false negative.
class dan caret?ggplot2?class dan caret.ggplot2.K-Nearest Neighbors (k-NN) merupakan metode instance-based atau lazy learning yang tidak membangun model parametrik eksplisit pada tahap pelatihan. Seluruh proses pembelajaran terjadi saat prediksi, yaitu dengan mencari k observasi training yang paling dekat dengan observasi baru berdasarkan suatu metrik jarak, kemudian mengambil mayoritas kelas di antara tetangga tersebut (Syriopoulos dkk., 2023). Karena sifat non-parametriknya, k-NN tidak mengasumsikan bentuk distribusi data tertentu dan dapat menangkap batas keputusan yang kompleks selama data training mencukupi.
Jarak yang paling sering digunakan adalah jarak Euclidean. Untuk dua vektor \(x\) dan \(x_i\) di ruang \(p\) dimensi, jarak Euclidean didefinisikan sebagai:
\[ d(x, x_i) = \sqrt{\sum_{j=1}^{p}(x_j - x_{ij})^2} \]
Setelah k tetangga terdekat diperoleh, kelas prediksi \(\hat{y}\) ditentukan melalui voting mayoritas:
\[ \hat{y} = \arg\max_{c} \sum_{i \in N_k(x)} \mathbb{I}(y_i = c) \]
dengan \(N_k(x)\) menyatakan himpunan k tetangga terdekat dari \(x\) dan \(\mathbb{I}\) adalah fungsi indikator (Syriopoulos dkk., 2023). Nilai k yang kecil menghasilkan model yang sangat lokal dan sensitif terhadap noise maupun outlier, sedangkan nilai k yang besar menghasilkan keputusan yang lebih halus tetapi berisiko mengabaikan pola lokal yang penting (Alomair dkk., 2026; Syriopoulos dkk., 2023).
Karena k-NN sepenuhnya bergantung pada perhitungan jarak, perbedaan skala antar fitur sangat memengaruhi hasil klasifikasi. Fitur dengan rentang nilai yang jauh lebih besar akan mendominasi perhitungan jarak Euclidean, sehingga kontribusi fitur lain menjadi hampir tidak berarti (Pagan dkk., 2023; Syriopoulos dkk., 2023). Akibatnya, tetangga yang dipilih tidak lagi mencerminkan kesamaan sejati antar observasi.
Pagan dkk. (2023) menunjukkan bahwa teknik penskalaan data secara signifikan memengaruhi performa k-NN pada berbagai dataset. Dua pendekatan yang paling umum digunakan adalah min-max normalization yang memetakan setiap fitur ke interval \([0,1]\), dan standardization (z-score) yang mengubah setiap fitur menjadi mean nol dan standar deviasi satu. Penskalaan harus dihitung hanya dari data training dan kemudian diterapkan ke data testing agar tidak terjadi data leakage (Alomair dkk., 2026).
Evaluasi model klasifikasi diawali dengan confusion matrix yang membandingkan kelas aktual dan kelas prediksi (Tharwat, 2021). Untuk klasifikasi dua kelas dengan malignant sebagai kelas positif, matriks konfusi memuat empat nilai: true positive (TP), false positive (FP), false negative (FN), dan true negative (TN).
Dari matriks tersebut dapat dihitung beberapa metrik penting. Akurasi menyatakan proporsi prediksi yang benar dari seluruh observasi. Sensitivitas (recall) mengukur kemampuan model dalam mendeteksi kelas positif (kasus ganas yang terdeteksi). Spesifisitas mengukur kemampuan model dalam mengenali kelas negatif (kasus jinak yang dikenali sebagai jinak). Positive Predictive Value (PPV atau precision) menyatakan proporsi prediksi positif yang benar-benar positif (Tharwat, 2021).
Pada konteks diagnosis kanker payudara, minimisasi false negative lebih diutamakan karena kasus ganas yang terlewat dapat berakibat fatal bagi pasien. Oleh karena itu, sensitivitas menjadi metrik yang sangat relevan dan sering diprioritaskan bersama dengan akurasi (Alomair dkk., 2026; Tharwat, 2021).
Pemilihan nilai k merupakan langkah krusial dalam penerapan k-NN. Nilai k yang terlalu kecil cenderung menghasilkan overfitting karena model terlalu sensitif terhadap noise lokal, sedangkan nilai k yang terlalu besar cenderung menghasilkan underfitting karena batas keputusan menjadi terlalu halus (Syriopoulos dkk., 2023). Praktik yang umum dilakukan adalah menguji beberapa nilai k ganjil (untuk menghindari kemungkinan tie pada klasifikasi dua kelas) dan membandingkan performa pada data testing (Alomair dkk., 2026).
Alomair dkk. (2026) menunjukkan bahwa optimasi sistematis terhadap nilai k melalui grid search atau validasi silang dapat meningkatkan akurasi klasifikasi kanker payudara secara signifikan dibanding penggunaan nilai default. Visualisasi kurva performa terhadap nilai k membantu mengidentifikasi titik optimal yang menyeimbangkan bias dan varians model.
Beberapa penelitian terbaru menerapkan k-NN pada data Wisconsin Breast Cancer dan memperoleh hasil yang kompetitif. Alomair dkk. (2026) mengembangkan kerangka k-NN yang dioptimasi dan mencapai akurasi di atas 98% pada data diagnostik kanker payudara. Temuan tersebut menegaskan bahwa k-NN tetap relevan untuk tugas klasifikasi medis selama tahap pra-pemrosesan, khususnya penskalaan fitur, dan pemilihan hiperparameter dilakukan dengan tepat.
Jenis data yang digunakan dalam praktikum ini adalah data kuantitatif dan kategorik. Data kuantitatif merupakan data yang dinyatakan dalam bentuk angka, sedangkan data kategorik merupakan data yang dikelompokkan berdasarkan kategori tertentu. Data yang digunakan mencakup variabel prediktor numerik dan variabel respons kategorik yang sesuai untuk analisis klasifikasi. Variabel prediktor berupa skor karakteristik sel pada skala 1 sampai 10 yang diperlakukan sebagai data numerik, sedangkan variabel respons berupa kategori tumor.
Data yang digunakan dalam praktikum ini adalah data Breast
Cancer Wisconsin yang diperoleh dari paket mlbench
dalam program R (Leisch & Dimitriadou, 2026). Data tersebut terdiri
atas 699 observasi dan 11 variabel, yaitu variabel identitas
(Id), sembilan variabel prediktor, dan satu variabel
respons (Class). Variabel Id tidak digunakan
dalam pemodelan, dan 16 nilai hilang pada data menyebabkan observasi
yang tidak lengkap dikeluarkan sehingga jumlah observasi yang dianalisis
menjadi 683. Data tersebut digunakan untuk membentuk model K-Nearest
Neighbors (k-NN) dengan nilai k sebesar 3, 5, 7,
9, dan 11 serta proporsi pembagian data training dan testing sebesar
70%:30%. Data training digunakan untuk membentuk model klasifikasi,
sedangkan data testing digunakan untuk mengevaluasi kemampuan model
dalam mengklasifikasikan data.
Variabel penelitian yang digunakan dalam praktikum ini terdiri dari
sepuluh variabel, yaitu sembilan variabel prediktor dan satu variabel
respons. Variabel prediktor merupakan karakteristik sel yang digunakan
sebagai dasar dalam proses klasifikasi, sedangkan variabel respons
merupakan kelas yang menjadi sasaran prediksi. Sembilan variabel
prediktor meliputi ketebalan gumpalan sel (Cl.thickness),
ukuran sel (Cell.size), bentuk sel
(Cell.shape), perlekatan tepi sel
(Marg.adhesion), ukuran sel epitel
(Epith.c.size), inti sel kosong (Bare.nuclei),
kromatin (Bl.cromatin), jumlah nukleolus normal
(Normal.nucleoli), dan jumlah pembelahan sel
(Mitoses). Sementara itu, variabel respons adalah
Class yang menunjukkan kategori jinak (benign)
atau ganas (malignant). Hubungan antara variabel prediktor dan
variabel respons dipelajari melalui pemodelan k-NN untuk
menghasilkan klasifikasi berdasarkan karakteristik yang dimiliki setiap
observasi.
mlbench, class, caret,
dplyr, ggplot2, knitr,
tidyr).Id, dan mengeluarkan observasi yang memiliki nilai
hilang.set.seed(12313).knn() dari paket
class.confusionMatrix() dari paket caret
dengan kelas malignant sebagai kelas positif.Paket mlbench digunakan untuk memuat data,
class untuk membentuk model k-NN,
caret untuk evaluasi dengan confusion matrix,
sedangkan dplyr, tidyr, ggplot2,
dan knitr digunakan untuk pengolahan data, visualisasi, dan
penyajian hasil.
# Instal paket jika belum tersedia:
# install.packages(c("mlbench", "class", "caret", "dplyr", "tidyr", "ggplot2", "knitr"))
library(mlbench)
library(class)
library(caret)
library(dplyr)
library(tidyr)
library(ggplot2)
library(knitr)
data(BreastCancer)
str(BreastCancer)## 'data.frame': 699 obs. of 11 variables:
## $ Id : chr "1000025" "1002945" "1015425" "1016277" ...
## $ Cl.thickness : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 5 5 3 6 4 8 1 2 2 4 ...
## $ Cell.size : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 1 1 2 ...
## $ Cell.shape : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 2 1 1 ...
## $ Marg.adhesion : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 5 1 1 3 8 1 1 1 1 ...
## $ Epith.c.size : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 2 7 2 3 2 7 2 2 2 2 ...
## $ Bare.nuclei : Factor w/ 10 levels "1","2","3","4",..: 1 10 2 4 1 10 10 1 1 1 ...
## $ Bl.cromatin : Factor w/ 10 levels "1","2","3","4",..: 3 3 3 3 3 9 3 3 1 2 ...
## $ Normal.nucleoli: Factor w/ 10 levels "1","2","3","4",..: 1 2 1 7 1 7 1 1 1 1 ...
## $ Mitoses : Factor w/ 9 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 5 1 ...
## $ Class : Factor w/ 2 levels "benign","malignant": 1 1 1 1 1 2 1 1 1 1 ...
Variabel Id tidak digunakan sebagai prediktor sehingga
dihapus. Observasi yang memiliki nilai hilang dikeluarkan, kemudian
seluruh prediktor diubah menjadi numerik.
n_awal <- nrow(BreastCancer)
n_na <- sum(!complete.cases(BreastCancer))
data_bc <- BreastCancer %>%
select(-Id) %>%
na.omit()
fitur <- setdiff(names(data_bc), "Class")
data_bc[fitur] <- lapply(data_bc[fitur], function(x) as.numeric(as.character(x)))
data_bc$Class <- factor(as.character(data_bc$Class),
levels = c("benign", "malignant"))
cat("Jumlah observasi awal :", n_awal, "\n")## Jumlah observasi awal : 699
## Observasi dengan nilai NA : 16
## Jumlah observasi dianalisis: 683
##
## benign malignant
## 444 239
Dari 699 observasi awal, terdapat 16 observasi yang memuat nilai hilang sehingga data yang dianalisis berjumlah 683 observasi. Kelas benign berjumlah 444 observasi (65.01%) dan kelas malignant berjumlah 239 observasi (34.99%). Proporsi kelas ganas sekitar sepertiga dari total data, sehingga akurasi masih dapat digunakan sebagai ukuran utama, namun sensitivitas tetap perlu diperhatikan untuk menilai kemampuan model dalam mendeteksi kasus ganas.
Distribusi kelas diamati untuk mengetahui apakah proporsi kedua kelas seimbang.
ggplot(data_bc, aes(x = Class)) +
geom_bar(fill = c("#4E79A7", "#E15759")) +
geom_text(stat = "count", aes(label = after_stat(count)), vjust = -0.4) +
labs(title = "Distribusi Kelas", x = "Kelas", y = "Frekuensi") +
theme_minimal()Gambar 1. Distribusi kelas pada data Breast Cancer
Gambar 1 menunjukkan bahwa kelas benign lebih banyak daripada kelas malignant, dengan proporsi kelas ganas sebesar 34.99%. Proporsi ini tidak terlalu timpang, namun dalam konteks diagnosis kanker, kesalahan pada kelas ganas (false negative) tetap harus diminimalkan karena dampak klinisnya lebih serius. Oleh karena itu, analisis selanjutnya tidak hanya mengandalkan akurasi, tetapi juga memperhatikan sensitivitas dan jumlah false negative.
Data dibagi menjadi 70% training dan 30% testing dengan inisialisasi
set.seed(12313) sesuai instruksi untuk NPM ganjil.
Penskalaan dilakukan dengan metode standardization (z-score)
yang dihitung hanya dari data training agar informasi data testing tidak
bocor ke tahap pelatihan.
set.seed(12313)
n <- nrow(data_bc)
id_train <- sample(seq_len(n), size = floor(0.7 * n))
train <- data_bc[id_train, ]
test <- data_bc[-id_train, ]
# Standardization berdasarkan data training
preProc <- preProcess(train[fitur], method = c("center", "scale"))
train_s <- predict(preProc, train)
test_s <- predict(preProc, test)
cat("Jumlah observasi training :", nrow(train), "\n")## Jumlah observasi training : 478
## Jumlah observasi testing : 205
## Proporsi kelas pada training:
##
## benign malignant
## 0.6861925 0.3138075
##
## Proporsi kelas pada testing:
##
## benign malignant
## 0.5658537 0.4341463
Setelah pembagian data, diperoleh 478 observasi untuk training dan 205 observasi untuk testing. Proporsi kelas pada kedua himpunan data relatif seimbang dan mendekati proporsi keseluruhan, sehingga evaluasi pada data testing dapat dianggap mewakili performa model secara umum. Penskalaan standardization memastikan setiap fitur memiliki mean mendekati nol dan standar deviasi mendekati satu pada data training, sehingga tidak ada fitur tunggal yang mendominasi perhitungan jarak Euclidean.
Model k-NN dibentuk untuk nilai k = 3, 5, 7, 9, dan
11 menggunakan fungsi knn() dari paket class.
Evaluasi dilakukan dengan confusionMatrix() dari paket
caret dengan kelas positif ditetapkan sebagai
"malignant".
nilai_k <- c(3, 5, 7, 9, 11)
hasil_list <- list()
for (k in nilai_k) {
set.seed(12313 + k)
pred <- knn(train = train_s[fitur],
test = test_s[fitur],
cl = train_s$Class,
k = k)
cm <- confusionMatrix(pred, test_s$Class, positive = "malignant")
hasil_list[[as.character(k)]] <- data.frame(
k = k,
Akurasi = as.numeric(cm$overall["Accuracy"]),
Sensitivitas = as.numeric(cm$byClass["Sensitivity"]),
Spesifisitas = as.numeric(cm$byClass["Specificity"]),
PPV = as.numeric(cm$byClass["Pos Pred Value"]),
TP = cm$table["malignant", "malignant"],
FP = cm$table["malignant", "benign"],
FN = cm$table["benign", "malignant"],
TN = cm$table["benign", "benign"]
)
}
hasil_knn <- bind_rows(hasil_list)
rownames(hasil_knn) <- NULLkable(hasil_knn %>% select(k, Akurasi, Sensitivitas, Spesifisitas, PPV, TP, FP, FN, TN),
digits = 4,
caption = "Hasil k-NN pada Data Testing (kelas positif = malignant)")| k | Akurasi | Sensitivitas | Spesifisitas | PPV | TP | FP | FN | TN |
|---|---|---|---|---|---|---|---|---|
| 3 | 0.9415 | 0.9213 | 0.9569 | 0.9425 | 82 | 5 | 7 | 111 |
| 5 | 0.9512 | 0.9438 | 0.9569 | 0.9438 | 84 | 5 | 5 | 111 |
| 7 | 0.9512 | 0.9326 | 0.9655 | 0.9540 | 83 | 4 | 6 | 112 |
| 9 | 0.9463 | 0.9213 | 0.9655 | 0.9535 | 82 | 4 | 7 | 112 |
| 11 | 0.9415 | 0.9101 | 0.9655 | 0.9529 | 81 | 4 | 8 | 112 |
Tabel di atas memuat hasil evaluasi seluruh model k-NN pada data testing yang berjumlah 205 observasi. Kelas malignant ditetapkan sebagai kelas positif sehingga sensitivitas mencerminkan kemampuan model dalam mendeteksi tumor ganas, sedangkan false negative (FN) menyatakan jumlah kasus ganas yang terlewat oleh model.
Pada model dengan k = 3, akurasi yang dicapai sebesar 94.15%. Sensitivitas model mencapai 92.13%, yang berarti dari seluruh kasus ganas aktual, 92.13% berhasil terdeteksi dengan benar. Spesifisitas sebesar 95.69% menunjukkan kemampuan model dalam mengenali kasus jinak. Positive predictive value (PPV) sebesar 94.25% menyatakan bahwa dari seluruh prediksi ganas yang dikeluarkan model, 94.25% di antaranya benar-benar ganas. Dari sisi kesalahan, model menghasilkan 5 false positive (kasus jinak yang diprediksi ganas) dan 7 false negative (kasus ganas yang diprediksi jinak). Jumlah false negative ini menjadi perhatian utama karena dalam konteks diagnosis kanker, kegagalan mendeteksi tumor ganas memiliki konsekuensi yang lebih serius.
Pada model dengan k = 5, akurasi yang dicapai sebesar 95.12%. Sensitivitas model mencapai 94.38%, yang berarti dari seluruh kasus ganas aktual, 94.38% berhasil terdeteksi dengan benar. Spesifisitas sebesar 95.69% menunjukkan kemampuan model dalam mengenali kasus jinak. Positive predictive value (PPV) sebesar 94.38% menyatakan bahwa dari seluruh prediksi ganas yang dikeluarkan model, 94.38% di antaranya benar-benar ganas. Dari sisi kesalahan, model menghasilkan 5 false positive (kasus jinak yang diprediksi ganas) dan 5 false negative (kasus ganas yang diprediksi jinak). Jumlah false negative ini menjadi perhatian utama karena dalam konteks diagnosis kanker, kegagalan mendeteksi tumor ganas memiliki konsekuensi yang lebih serius.
Pada model dengan k = 7, akurasi yang dicapai sebesar 95.12%. Sensitivitas model mencapai 93.26%, yang berarti dari seluruh kasus ganas aktual, 93.26% berhasil terdeteksi dengan benar. Spesifisitas sebesar 96.55% menunjukkan kemampuan model dalam mengenali kasus jinak. Positive predictive value (PPV) sebesar 95.40% menyatakan bahwa dari seluruh prediksi ganas yang dikeluarkan model, 95.40% di antaranya benar-benar ganas. Dari sisi kesalahan, model menghasilkan 4 false positive (kasus jinak yang diprediksi ganas) dan 6 false negative (kasus ganas yang diprediksi jinak). Jumlah false negative ini menjadi perhatian utama karena dalam konteks diagnosis kanker, kegagalan mendeteksi tumor ganas memiliki konsekuensi yang lebih serius.
Pada model dengan k = 9, akurasi yang dicapai sebesar 94.63%. Sensitivitas model mencapai 92.13%, yang berarti dari seluruh kasus ganas aktual, 92.13% berhasil terdeteksi dengan benar. Spesifisitas sebesar 96.55% menunjukkan kemampuan model dalam mengenali kasus jinak. Positive predictive value (PPV) sebesar 95.35% menyatakan bahwa dari seluruh prediksi ganas yang dikeluarkan model, 95.35% di antaranya benar-benar ganas. Dari sisi kesalahan, model menghasilkan 4 false positive (kasus jinak yang diprediksi ganas) dan 7 false negative (kasus ganas yang diprediksi jinak). Jumlah false negative ini menjadi perhatian utama karena dalam konteks diagnosis kanker, kegagalan mendeteksi tumor ganas memiliki konsekuensi yang lebih serius.
Pada model dengan k = 11, akurasi yang dicapai sebesar 94.15%. Sensitivitas model mencapai 91.01%, yang berarti dari seluruh kasus ganas aktual, 91.01% berhasil terdeteksi dengan benar. Spesifisitas sebesar 96.55% menunjukkan kemampuan model dalam mengenali kasus jinak. Positive predictive value (PPV) sebesar 95.29% menyatakan bahwa dari seluruh prediksi ganas yang dikeluarkan model, 95.29% di antaranya benar-benar ganas. Dari sisi kesalahan, model menghasilkan 4 false positive (kasus jinak yang diprediksi ganas) dan 8 false negative (kasus ganas yang diprediksi jinak). Jumlah false negative ini menjadi perhatian utama karena dalam konteks diagnosis kanker, kegagalan mendeteksi tumor ganas memiliki konsekuensi yang lebih serius.
hasil_long <- hasil_knn %>%
select(k, Akurasi, Sensitivitas, Spesifisitas, PPV) %>%
pivot_longer(cols = -k, names_to = "Metrik", values_to = "Nilai")
ggplot(hasil_long, aes(x = factor(k), y = Nilai, color = Metrik, group = Metrik)) +
geom_line(linewidth = 1) +
geom_point(size = 3) +
geom_text(aes(label = sprintf("%.3f", Nilai)), vjust = -0.8, size = 3, show.guides = FALSE) +
scale_y_continuous(limits = c(0.85, 1.02), breaks = seq(0.85, 1, 0.05)) +
labs(
title = "Performa k-NN terhadap Nilai k",
x = "Nilai k",
y = "Nilai Metrik",
color = "Metrik"
) +
theme_minimal() +
theme(legend.position = "bottom")## Warning in geom_text(aes(label = sprintf("%.3f", Nilai)), vjust = -0.8, :
## Ignoring unknown parameters: `show.guides`
Gambar 2. Kurva performa k-NN terhadap nilai k pada data testing
Gambar 2 memperlihatkan perubahan keempat metrik evaluasi seiring dengan perubahan nilai k. Secara umum, performa model relatif stabil pada rentang k yang diuji. Fluktuasi yang muncul tidak ekstrem, namun perbedaan kecil pada jumlah false negative tetap memiliki makna praktis dalam konteks diagnosis medis. Kurva ini membantu mengidentifikasi nilai k yang memberikan keseimbangan terbaik antara kemampuan mendeteksi kasus ganas (sensitivitas) dan ketepatan prediksi secara keseluruhan (akurasi dan PPV).
Kriteria pemilihan model terbaik disusun dengan mempertimbangkan konteks diagnosis kanker. Prioritas utama diberikan pada minimisasi jumlah false negative. Apabila terdapat lebih dari satu model dengan jumlah FN yang sama, dipilih model dengan sensitivitas tertinggi. Jika masih sama, dipilih model dengan akurasi tertinggi. Apabila masih terdapat kesamaan, dipilih nilai k yang lebih kecil dengan alasan model yang lebih sederhana.
urut_model <- hasil_knn %>%
arrange(FN, desc(Sensitivitas), desc(Akurasi), k)
model_terbaik <- urut_model %>% slice(1)
kable(model_terbaik %>% select(k, Akurasi, Sensitivitas, Spesifisitas, PPV, TP, FP, FN, TN),
digits = 4,
caption = "Model k-NN Terbaik berdasarkan kriteria minimisasi False Negative")| k | Akurasi | Sensitivitas | Spesifisitas | PPV | TP | FP | FN | TN |
|---|---|---|---|---|---|---|---|---|
| 5 | 0.9512 | 0.9438 | 0.9569 | 0.9438 | 84 | 5 | 5 | 111 |
Berdasarkan kriteria yang telah ditetapkan, model terbaik adalah model dengan k = 5. Model ini menghasilkan akurasi sebesar 95.12%, sensitivitas sebesar 94.38%, spesifisitas sebesar 95.69%, dan positive predictive value sebesar 94.38%. Dari 89 kasus ganas aktual pada data testing, model berhasil mendeteksi 84 kasus dengan benar dan hanya melewatkan 5 kasus (false negative). Jumlah false positive yang dihasilkan adalah 5. Pemilihan model ini sejalan dengan tujuan praktikum yang menekankan pentingnya meminimalkan kesalahan diagnosis sel kanker ganas.
kable(hasil_knn %>%
select(k, Akurasi, Sensitivitas, Spesifisitas, PPV, FN) %>%
mutate(across(where(is.numeric), ~round(., 4))),
caption = "Ringkasan Perbandingan Seluruh Model k-NN")| k | Akurasi | Sensitivitas | Spesifisitas | PPV | FN |
|---|---|---|---|---|---|
| 3 | 0.9415 | 0.9213 | 0.9569 | 0.9425 | 7 |
| 5 | 0.9512 | 0.9438 | 0.9569 | 0.9438 | 5 |
| 7 | 0.9512 | 0.9326 | 0.9655 | 0.9540 | 6 |
| 9 | 0.9463 | 0.9213 | 0.9655 | 0.9535 | 7 |
| 11 | 0.9415 | 0.9101 | 0.9655 | 0.9529 | 8 |
Secara keseluruhan, seluruh model k-NN yang diuji memberikan performa yang baik pada data Breast Cancer dengan akurasi testing di atas 90%. Perbedaan antar nilai k relatif kecil, yang menunjukkan bahwa data ini memiliki struktur yang cukup jelas sehingga k-NN mampu menangkap pola klasifikasi dengan baik pada rentang k yang diuji. Meskipun demikian, model dengan k = 5 dipilih sebagai model terbaik karena paling berhasil menekan jumlah false negative, sesuai dengan prioritas klinis dalam diagnosis kanker payudara. Hasil ini juga menegaskan pentingnya penskalaan fitur. Tanpa standardization, fitur dengan rentang nilai lebih besar akan mendominasi perhitungan jarak dan berpotensi menurunkan kualitas tetangga yang dipilih. Dengan penskalaan yang tepat dan pemilihan k yang mempertimbangkan minimisasi false negative, k-NN menunjukkan kemampuan klasifikasi yang andal pada data medis ini.
Berdasarkan praktikum klasifikasi k-Nearest Neighbors pada data Wisconsin Breast Cancer (683 observasi setelah penghapusan nilai hilang), model dibentuk untuk nilai k ∈ {3, 5, 7, 9, 11} dengan pembagian data training 70% dan testing 30% serta standardization fitur berdasarkan data training. Performa model dievaluasi menggunakan confusion matrix, akurasi, sensitivitas, spesifisitas, dan positive predictive value, dengan penekanan pada minimisasi false negative.
Seluruh model menghasilkan akurasi testing di atas 90%. Model terbaik berdasarkan kriteria minimisasi false negative adalah model dengan k = 5, yang mencapai akurasi 95.12%, sensitivitas 94.38%, spesifisitas 95.69%, dan PPV 94.38% dengan jumlah false negative sebanyak 5.
Praktikum ini berhasil mengimplementasikan konsep fundamental k-NN, pentingnya feature scaling, evaluasi menggunakan confusion matrix dan metrik terkait, serta eksplorasi hiperparameter k dengan visualisasi kurva performa. Hasil menunjukkan bahwa k-NN merupakan metode yang kompetitif untuk klasifikasi data Breast Cancer apabila penskalaan dan pemilihan k dilakukan dengan tepat, khususnya dengan mempertimbangkan prioritas klinis untuk meminimalkan kesalahan diagnosis tumor ganas.
Alomair, O. A., Zakaria, O. M., Alabdullatif, M., & Khurshid, Z. (2026). Optimized KNN with domain-informed features and LIME explainability for improved breast cancer classification. BMC Medical Informatics and Decision Making, 26, 138. https://doi.org/10.1186/s12911-026-03427-y
Leisch, F., & Dimitriadou, E. (2026). mlbench: Machine learning benchmark problems (R package version 2.1-11). https://CRAN.R-project.org/package=mlbench
Pagan, M., Zarlis, M., & Candra, A. (2023). Investigating the impact of data scaling on the k-nearest neighbor algorithm. Computer Science and Information Technologies, 4(2), 135–142. https://doi.org/10.11591/csit.v4i2.p135-142
Syriopoulos, P. K., Kalampalikis, N. G., Kotsiantis, S. B., & Vrahatis, M. N. (2023). kNN Classification: a review. Annals of Mathematics and Artificial Intelligence, 93, 43–75. https://doi.org/10.1007/s10472-023-09882-x
Tharwat, A. (2021). Classification assessment methods. Applied Computing and Informatics, 17(1), 168–192. https://doi.org/10.1016/j.aci.2018.08.003