Kanker payudara merupakan salah satu permasalahan kesehatan yang memerlukan deteksi dan penanganan secara tepat. Karakteristik sel dapat digunakan untuk membedakan tumor jinak (benign) dan ganas (malignant). Metode machine learning dapat membantu mempelajari pola dari sejumlah karakteristik tersebut.
K-Nearest Neighbors (K-NN) merupakan metode klasifikasi yang menentukan kelas suatu pengamatan berdasarkan mayoritas kelas dari sejumlah tetangga terdekat. Banyaknya tetangga ditentukan oleh parameter \(k\). Nilai \(k\) yang berbeda dapat menghasilkan keputusan klasifikasi yang berbeda sehingga perlu dilakukan perbandingan.
Pada praktikum ini K-NN diterapkan pada Wisconsin Breast Cancer
Database dari paket mlbench. Nilai \(k\) yang dibandingkan adalah 3, 5, 7, 9,
dan 11. Evaluasi tidak hanya memperhatikan accuracy, tetapi juga
sensitivity kelas malignant karena kesalahan menggolongkan
tumor ganas sebagai jinak merupakan hal yang perlu diminimalkan.
Praktikum ini diharapkan memberikan pemahaman mengenai klasifikasi berbasis tetangga terdekat, pentingnya pra-pemrosesan, pengaruh parameter \(k\), serta penggunaan metrik evaluasi yang sesuai dengan tujuan klasifikasi.
BreastCancer dari paket
mlbench.Class, dengan kelas
benign dan malignant.Id tidak digunakan sebagai prediktor.12305, sesuai digit akhir
NPM F1F023005.Laporan terdiri atas pendahuluan, tinjauan pustaka, metode penelitian, hasil dan pembahasan, kesimpulan dan saran, daftar pustaka, serta lampiran kode program.
K-Nearest Neighbors merupakan metode supervised learning nonparametrik yang menentukan kelas suatu pengamatan baru berdasarkan kelas mayoritas dari \(k\) pengamatan terdekat pada data training. Metode ini tidak membentuk persamaan parametrik, melainkan menggunakan data training sebagai acuan ketika melakukan prediksi.
Jarak Euclidean digunakan untuk mengukur kedekatan antara dua pengamatan. Untuk dua pengamatan \(x\) dan \(y\) dengan \(p\) variabel, jarak Euclidean dirumuskan sebagai:
\[ d(x,y)=\sqrt{\sum_{j=1}^{p}(x_j-y_j)^2} \]
Standardisasi diperlukan agar variabel dengan rentang nilai besar tidak mendominasi perhitungan jarak.
Nilai \(k\) menunjukkan jumlah tetangga yang digunakan untuk menentukan kelas. Nilai \(k\) kecil lebih peka terhadap pola lokal, tetapi dapat terpengaruh noise. Nilai \(k\) besar menghasilkan keputusan yang lebih halus, tetapi berpotensi mengaburkan pola lokal. Oleh karena itu, beberapa nilai \(k\) dibandingkan menggunakan data uji yang sama.
Pra-pemrosesan meliputi penghapusan variabel identitas, konversi prediktor menjadi numerik, imputasi missing value, pembagian data, dan standardisasi. Median, rata-rata, serta simpangan baku dihitung hanya dari data training, kemudian diterapkan pada data testing untuk menghindari data leakage.
Dalam praktikum ini, malignant merupakan kelas positif. Komponen confusion matrix terdiri atas True Positive (TP), True Negative (TN), False Positive (FP), dan False Negative (FN).
\[ Accuracy=\frac{TP+TN}{TP+TN+FP+FN} \]
\[ Sensitivity=\frac{TP}{TP+FN} \qquad Specificity=\frac{TN}{TN+FP} \]
Sensitivity menunjukkan kemampuan model mengenali tumor ganas. FN menunjukkan jumlah tumor ganas yang salah diprediksi sebagai jinak.
Data yang digunakan adalah Wisconsin Breast Cancer Database yang
tersedia pada paket mlbench melalui dataset
BreastCancer. Dataset berisi karakteristik sel yang
digunakan untuk mengklasifikasikan tumor ke dalam kelas benign
dan malignant.
variabel_tab <- data.frame(
Variabel = c(
"Id", "Cl.thickness", "Cell.size", "Cell.shape",
"Marg.adhesion", "Epith.c.size", "Bare.nuclei",
"Bl.cromatin", "Normal.nucleoli", "Mitoses", "Class"
),
Peran = c(
"Identitas", rep("Prediktor", 9), "Respons"
),
Keterangan = c(
"Nomor identitas pengamatan (tidak digunakan dalam model)",
rep("Karakteristik sel tumor", 9),
"Kelas tumor: benign atau malignant"
)
)
knitr::kable(
variabel_tab,
caption = "Tabel 3.1 Variabel penelitian"
)
| Variabel | Peran | Keterangan |
|---|---|---|
| Id | Identitas | Nomor identitas pengamatan (tidak digunakan dalam model) |
| Cl.thickness | Prediktor | Karakteristik sel tumor |
| Cell.size | Prediktor | Karakteristik sel tumor |
| Cell.shape | Prediktor | Karakteristik sel tumor |
| Marg.adhesion | Prediktor | Karakteristik sel tumor |
| Epith.c.size | Prediktor | Karakteristik sel tumor |
| Bare.nuclei | Prediktor | Karakteristik sel tumor |
| Bl.cromatin | Prediktor | Karakteristik sel tumor |
| Normal.nucleoli | Prediktor | Karakteristik sel tumor |
| Mitoses | Prediktor | Karakteristik sel tumor |
| Class | Respons | Kelas tumor: benign atau malignant |
Tahapan analisis dimulai dari pemanggilan data, pemeriksaan struktur dan missing value, penghapusan variabel identitas, konversi prediktor menjadi numerik, pembagian data, imputasi dan standardisasi, pembentukan model untuk lima nilai \(k\), evaluasi, serta pemilihan model terbaik.
Gambar 3.1. Diagram alir penerapan K-NN pada data kanker payudara.
# Memanggil dataset dengan data(), bukan mlbench::BreastCancer
data(
"BreastCancer",
package = "mlbench",
envir = environment()
)
data_bc <- BreastCancer
cat("Jumlah pengamatan awal:", nrow(data_bc), "\n")
## Jumlah pengamatan awal: 699
cat("Jumlah variabel awal:", ncol(data_bc), "\n")
## Jumlah variabel awal: 11
cat("Jumlah missing value awal:", sum(is.na(data_bc)), "\n")
## Jumlah missing value awal: 16
knitr::kable(
data.frame(
Keterangan = c(
"Jumlah pengamatan",
"Jumlah variabel",
"Jumlah prediktor setelah Id dihapus",
"Jumlah missing value"
),
Jumlah = c(
nrow(data_bc),
ncol(data_bc),
ncol(data_bc)-2,
sum(is.na(data_bc))
)
),
caption = "Tabel 4.1 Ringkasan data BreastCancer"
)
| Keterangan | Jumlah |
|---|---|
| Jumlah pengamatan | 699 |
| Jumlah variabel | 11 |
| Jumlah prediktor setelah Id dihapus | 9 |
| Jumlah missing value | 16 |
Dataset memiliki dua kelas, yaitu benign dan
malignant. Variabel Id hanya merupakan identitas
pengamatan sehingga tidak digunakan sebagai prediktor.
# Menghapus variabel Id
data_bc$Id <- NULL
# Mengubah variabel respons menjadi faktor
data_bc$Class <- factor(
as.character(data_bc$Class),
levels = c("benign","malignant")
)
# Mengubah seluruh prediktor menjadi numerik
prediktor <- setdiff(names(data_bc), "Class")
for (v in prediktor) {
data_bc[[v]] <- as.numeric(
as.character(data_bc[[v]])
)
}
# Memeriksa missing value
missing_tab <- data.frame(
Variabel = names(data_bc),
Jumlah_NA = sapply(
data_bc,
function(x) sum(is.na(x))
)
)
knitr::kable(
missing_tab,
caption = "Tabel 4.2 Missing value sebelum imputasi"
)
| Variabel | Jumlah_NA | |
|---|---|---|
| Cl.thickness | Cl.thickness | 0 |
| Cell.size | Cell.size | 0 |
| Cell.shape | Cell.shape | 0 |
| Marg.adhesion | Marg.adhesion | 0 |
| Epith.c.size | Epith.c.size | 0 |
| Bare.nuclei | Bare.nuclei | 16 |
| Bl.cromatin | Bl.cromatin | 0 |
| Normal.nucleoli | Normal.nucleoli | 0 |
| Mitoses | Mitoses | 0 |
| Class | Class | 0 |
# Membagi data training dan testing
set.seed(12305)
indeks_train <- caret::createDataPartition(
data_bc$Class,
p = .70,
list = FALSE
)
train_raw <- data_bc[indeks_train,,drop=FALSE]
test_raw <- data_bc[-indeks_train,,drop=FALSE]
# Tabel pembagian data
pembagian <- data.frame(
Data = c("Training","Testing","Total"),
Jumlah = c(
nrow(train_raw),
nrow(test_raw),
nrow(data_bc)
),
Persentase = round(
100*c(
nrow(train_raw),
nrow(test_raw),
nrow(data_bc)
)/nrow(data_bc),
2
)
)
knitr::kable(
pembagian,
caption = "Tabel 4.3 Pembagian data"
)
| Data | Jumlah | Persentase |
|---|---|---|
| Training | 490 | 70.1 |
| Testing | 209 | 29.9 |
| Total | 699 | 100.0 |
Data dibagi secara terstratifikasi agar proporsi kelas pada training dan testing relatif terjaga. Data testing tidak digunakan untuk menghitung parameter imputasi maupun standardisasi.
# Menghitung median dari data training
median_train <- sapply(
train_raw[,prediktor,drop=FALSE],
median,
na.rm=TRUE
)
# Fungsi imputasi menggunakan median training
imputasi <- function(data, variabel, median_ref) {
hasil <- data
for (v in variabel) {
hasil[[v]][is.na(hasil[[v]])] <- median_ref[v]
}
hasil
}
# Melakukan imputasi
train_imp <- imputasi(
train_raw,
prediktor,
median_train
)
test_imp <- imputasi(
test_raw,
prediktor,
median_train
)
# Menghitung rata-rata dan standar deviasi training
rata_train <- sapply(
train_imp[,prediktor,drop=FALSE],
mean
)
sd_train <- sapply(
train_imp[,prediktor,drop=FALSE],
sd
)
# Menghindari pembagian dengan nol
sd_train[is.na(sd_train) | sd_train == 0] <- 1
# Standardisasi menggunakan parameter training
x_train <- as.data.frame(
scale(
train_imp[,prediktor,drop=FALSE],
center=rata_train,
scale=sd_train
)
)
x_test <- as.data.frame(
scale(
test_imp[,prediktor,drop=FALSE],
center=rata_train,
scale=sd_train
)
)
# Menentukan variabel respons
y_train <- train_imp$Class
y_test <- test_imp$Class
cat(
"Missing value training setelah imputasi:",
sum(is.na(x_train)),
"\n"
)
## Missing value training setelah imputasi: 0
cat(
"Missing value testing setelah imputasi:",
sum(is.na(x_test)),
"\n"
)
## Missing value testing setelah imputasi: 0
Median, rata-rata, dan simpangan baku dihitung dari data training. Parameter yang sama diterapkan pada testing agar tidak terjadi kebocoran informasi dari data uji.
distribusi <- as.data.frame(
table(data_bc$Class)
)
names(distribusi) <- c("Kelas","Jumlah")
knitr::kable(
distribusi,
caption = "Tabel 4.4 Distribusi kelas"
)
| Kelas | Jumlah |
|---|---|
| benign | 458 |
| malignant | 241 |
ggplot(
distribusi,
aes(x=Kelas,y=Jumlah,fill=Kelas)
) +
geom_col(width=.65,show.legend=FALSE) +
geom_text(
aes(label=Jumlah),
vjust=-.4,
size=4
) +
scale_fill_brewer(palette="Set2") +
labs(
title="Distribusi Kelas Tumor",
x="Kelas",
y="Jumlah pengamatan"
) +
theme_minimal() +
theme(
plot.title=element_text(
hjust=.5,
face="bold"
)
)
# Nilai k yang diuji
nilai_k <- c(3,5,7,9,11)
hasil_model <- list()
prediksi_list <- list()
confusion_list <- list()
# Fungsi menghitung metrik evaluasi
hitung_metrik <- function(aktual,prediksi) {
aktual <- factor(
aktual,
levels=c("benign","malignant")
)
prediksi <- factor(
prediksi,
levels=c("benign","malignant")
)
cm <- table(
Aktual=aktual,
Prediksi=prediksi
)
TN <- as.numeric(cm["benign","benign"])
FP <- as.numeric(cm["benign","malignant"])
FN <- as.numeric(cm["malignant","benign"])
TP <- as.numeric(cm["malignant","malignant"])
c(
Accuracy=(TP+TN)/sum(cm),
Sensitivity=ifelse(TP+FN==0,NA,TP/(TP+FN)),
Specificity=ifelse(TN+FP==0,NA,TN/(TN+FP)),
TP=TP,
TN=TN,
FP=FP,
FN=FN
)
}
# Pemodelan untuk setiap nilai k
for (k in nilai_k) {
set.seed(12305)
prediksi <- class::knn(
train=as.matrix(x_train),
test=as.matrix(x_test),
cl=y_train,
k=k
)
nama <- paste0("K-NN k=",k)
prediksi_list[[nama]] <- prediksi
cm <- table(
Aktual=factor(
y_test,
levels=c("benign","malignant")
),
Prediksi=factor(
prediksi,
levels=c("benign","malignant")
)
)
confusion_list[[nama]] <- cm
met <- hitung_metrik(
y_test,
prediksi
)
hasil_model[[nama]] <- data.frame(
Model=nama,
k=k,
Accuracy=unname(met["Accuracy"]),
Sensitivity=unname(met["Sensitivity"]),
Specificity=unname(met["Specificity"]),
TP=unname(met["TP"]),
TN=unname(met["TN"]),
FP=unname(met["FP"]),
FN=unname(met["FN"])
)
}
# Menggabungkan hasil semua model
tabel_knn <- do.call(
rbind,
hasil_model
)
rownames(tabel_knn) <- NULL
knitr::kable(
tabel_knn,
digits=4,
caption="Tabel 4.5 Perbandingan kinerja K-NN pada data uji"
)
| Model | k | Accuracy | Sensitivity | Specificity | TP | TN | FP | FN |
|---|---|---|---|---|---|---|---|---|
| K-NN k=3 | 3 | 0.9713 | 0.9444 | 0.9854 | 68 | 135 | 2 | 4 |
| K-NN k=5 | 5 | 0.9952 | 1.0000 | 0.9927 | 72 | 136 | 1 | 0 |
| K-NN k=7 | 7 | 0.9856 | 0.9722 | 0.9927 | 70 | 136 | 1 | 2 |
| K-NN k=9 | 9 | 0.9856 | 0.9722 | 0.9927 | 70 | 136 | 1 | 2 |
| K-NN k=11 | 11 | 0.9856 | 0.9722 | 0.9927 | 70 | 136 | 1 | 2 |
Setiap model menggunakan data training dan testing yang sama. Perbedaan hasil evaluasi menggambarkan pengaruh banyaknya tetangga yang digunakan dalam klasifikasi.
for (nm in names(confusion_list)) {
cat("\n\n### ",nm,"\n\n",sep="")
print(
knitr::kable(
confusion_list[[nm]],
caption=paste("Confusion matrix",nm)
)
)
}
| benign | malignant | |
|---|---|---|
| benign | 135 | 2 |
| malignant | 4 | 68 |
| benign | malignant | |
|---|---|---|
| benign | 136 | 1 |
| malignant | 0 | 72 |
| benign | malignant | |
|---|---|---|
| benign | 136 | 1 |
| malignant | 2 | 70 |
| benign | malignant | |
|---|---|---|
| benign | 136 | 1 |
| malignant | 2 | 70 |
| benign | malignant | |
|---|---|---|
| benign | 136 | 1 |
| malignant | 2 | 70 |
Baris pada confusion matrix menunjukkan kelas aktual, sedangkan kolom menunjukkan kelas prediksi. FN merupakan kasus malignant yang diprediksi sebagai benign. Semakin kecil FN, semakin sedikit kasus ganas yang terlewat pada data uji.
grafik_knn <- tidyr::pivot_longer(
tabel_knn[
,
c("Model","Accuracy","Sensitivity","Specificity")
],
cols=c("Accuracy","Sensitivity","Specificity"),
names_to="Metrik",
values_to="Nilai"
)
ggplot(
grafik_knn,
aes(x=Model,y=Nilai,fill=Metrik)
) +
geom_col(
position=position_dodge(width=.8),
width=.7
) +
scale_fill_brewer(palette="Set2") +
coord_cartesian(ylim=c(0,1)) +
labs(
title="Perbandingan Metrik K-NN",
x="Model",
y="Nilai metrik",
fill="Metrik"
) +
theme_minimal() +
theme(
plot.title=element_text(
hjust=.5,
face="bold"
),
axis.text.x=element_text(
angle=15,
hjust=1
),
legend.position="bottom"
)
Grafik membandingkan accuracy, sensitivity, dan specificity pada lima nilai \(k\). Sensitivity menjadi perhatian utama karena kelas positif yang digunakan adalah malignant.
# Mengurutkan model berdasarkan kriteria yang ditentukan
peringkat <- tabel_knn[
order(
-tabel_knn$Sensitivity,
tabel_knn$FN,
-tabel_knn$Specificity,
-tabel_knn$Accuracy
),
]
rownames(peringkat) <- NULL
knitr::kable(
peringkat,
digits=4,
caption="Tabel 4.6 Peringkat model berdasarkan prioritas deteksi malignant"
)
| Model | k | Accuracy | Sensitivity | Specificity | TP | TN | FP | FN |
|---|---|---|---|---|---|---|---|---|
| K-NN k=5 | 5 | 0.9952 | 1.0000 | 0.9927 | 72 | 136 | 1 | 0 |
| K-NN k=7 | 7 | 0.9856 | 0.9722 | 0.9927 | 70 | 136 | 1 | 2 |
| K-NN k=9 | 9 | 0.9856 | 0.9722 | 0.9927 | 70 | 136 | 1 | 2 |
| K-NN k=11 | 11 | 0.9856 | 0.9722 | 0.9927 | 70 | 136 | 1 | 2 |
| K-NN k=3 | 3 | 0.9713 | 0.9444 | 0.9854 | 68 | 135 | 2 | 4 |
# Mengambil model terbaik
model_terbaik <- peringkat[1,]
cat(
"Model terbaik:",
model_terbaik$Model,
"\n"
)
## Model terbaik: K-NN k=5
cat(
"Accuracy:",
round(model_terbaik$Accuracy,4),
"\n"
)
## Accuracy: 0.9952
cat(
"Sensitivity:",
round(model_terbaik$Sensitivity,4),
"\n"
)
## Sensitivity: 1
cat(
"Specificity:",
round(model_terbaik$Specificity,4),
"\n"
)
## Specificity: 0.9927
cat(
"False Negative:",
model_terbaik$FN,
"\n"
)
## False Negative: 0
Model terbaik dipilih dengan mengutamakan sensitivity tertinggi. Jika terdapat nilai sensitivity yang sama, model dengan FN lebih rendah diprioritaskan, kemudian specificity dan accuracy. Kriteria ini disesuaikan dengan tujuan praktikum, yaitu mengurangi kasus tumor ganas yang salah diklasifikasikan sebagai jinak.
cat(
"Model terbaik adalah **",
model_terbaik$Model,
"**. Model menghasilkan accuracy **",
round(100*model_terbaik$Accuracy,2),
"%**, sensitivity **",
round(100*model_terbaik$Sensitivity,2),
"%**, dan specificity **",
round(100*model_terbaik$Specificity,2),
"%**. Jumlah False Negative adalah **",
model_terbaik$FN,
"**.\n\n",
sep=""
)
Model terbaik adalah K-NN k=5. Model menghasilkan accuracy 99.52%, sensitivity 100%, dan specificity 99.27%. Jumlah False Negative adalah 0.
cat(
"Sensitivity menunjukkan proporsi tumor ganas yang berhasil dikenali. ",
"False Negative menunjukkan tumor ganas yang diprediksi sebagai jinak. ",
"Oleh karena itu, hasil model perlu ditinjau berdasarkan sensitivity dan FN, ",
"tidak hanya accuracy.\n",
sep=""
)
Sensitivity menunjukkan proporsi tumor ganas yang berhasil dikenali. False Negative menunjukkan tumor ganas yang diprediksi sebagai jinak. Oleh karena itu, hasil model perlu ditinjau berdasarkan sensitivity dan FN, tidak hanya accuracy.
Hasil tersebut merupakan performa pada satu pembagian data dengan seed yang telah ditentukan. Model ini merupakan latihan klasifikasi statistik dan tidak menggantikan diagnosis tenaga medis.
Metode K-NN diterapkan pada Wisconsin Breast Cancer Database untuk mengklasifikasikan tumor ke dalam kelas benign dan malignant. Pra-pemrosesan dilakukan melalui penghapusan variabel identitas, konversi prediktor menjadi numerik, imputasi missing value menggunakan median training, serta standardisasi berdasarkan parameter training.
Lima nilai \(k\), yaitu 3, 5, 7, 9, dan 11, dibandingkan menggunakan data testing yang sama. Evaluasi dilakukan dengan accuracy, sensitivity, specificity, dan confusion matrix. Model terbaik dipilih dengan memprioritaskan sensitivity kelas malignant, kemudian FN, specificity, dan accuracy. Nilai numerik akhir mengikuti output ketika dokumen dijalankan.
Analisis selanjutnya dapat menggunakan validasi silang berulang, mencoba nilai \(k\) yang lebih beragam, serta membandingkan K-NN dengan metode klasifikasi lainnya. Untuk penggunaan medis, model perlu diuji pada data eksternal dan divalidasi oleh tenaga profesional.
Cover, T. M., & Hart, P. E. (1967). Nearest neighbor pattern classification. IEEE Transactions on Information Theory, 13(1), 21–27.
Dua, D., & Graff, C. (2019). UCI machine learning repository. University of California, Irvine.
Kuhn, M. (2008). Building predictive models in R using the caret package. Journal of Statistical Software, 28(5), 1–26.
Leisch, F., & Dimitriadou, E. (2024). mlbench: Machine Learning Benchmark Problems. R package.
R Core Team. (2026). R: A language and environment for statistical computing. R Foundation for Statistical Computing.
Seluruh kode analisis disertakan pada setiap bagian laporan. Buka
berkas .Rmd di RStudio, pastikan koneksi internet tersedia
saat paket perlu dipasang, kemudian klik Knit untuk
menghasilkan laporan HTML yang memuat tabel, diagram alir, confusion
matrix, grafik, dan interpretasi berdasarkan hasil aktual.