Perkembangan teknologi informasi mendorong meningkatnya pemanfaatan machine learning dalam pengolahan dan analisis data untuk menghasilkan informasi yang bermanfaat. Salah satu teknik dalam machine learning adalah supervised learning, yaitu metode pembelajaran mesin yang menggunakan data berlabel untuk membangun model prediksi atau klasifikasi. Salah satu algoritma yang banyak digunakan dalam klasifikasi adalah K-Nearest Neighbors (k-NN). Algoritma k-NN merupakan metode nonparametrik yang bekerja dengan mengklasifikasikan suatu data berdasarkan mayoritas kelas dari sejumlah tetangga terdekat berdasarkan perhitungan jarak. Keunggulan algoritma ini terletak pada konsep yang sederhana, mudah diimplementasikan, serta tidak memerlukan proses pembentukan model yang kompleks (Rukmana et al., 2022).
Dalam penerapannya, algoritma k-NN memiliki beberapa aspek penting yang perlu diperhatikan, salah satunya adalah feature scaling atau penskalaan fitur. Hal ini dikarenakan k-NN menggunakan perhitungan jarak untuk menentukan kedekatan antarobservasi sehingga perbedaan skala antarvariabel dapat memengaruhi hasil klasifikasi. Normalisasi data diperlukan agar setiap fitur memiliki rentang nilai yang sebanding sehingga perhitungan jarak menjadi lebih proporsional. Penelitian menunjukkan bahwa penerapan normalisasi dan seleksi fitur dapat meningkatkan performa klasifikasi k-NN dibandingkan penggunaan data tanpa perlakuan tersebut (Hadi et al., 2024). Selain itu, pemilihan nilai parameter (k) juga berpengaruh terhadap hasil klasifikasi sehingga diperlukan pengujian beberapa nilai (k) untuk memperoleh performa model yang optimal (Danestiara, 2023; Allorerung et al., 2024).
Berdasarkan hal tersebut, diperlukan pemahaman mengenai konsep
fundamental, formulasi matematis, serta prinsip kerja algoritma k-NN
agar proses klasifikasi dapat dilakukan secara tepat. Implementasi
menggunakan bahasa pemrograman R dengan bantuan library
class dan caret dapat mempermudah tahapan
pengolahan data, pembentukan model, serta evaluasi hasil klasifikasi.
Evaluasi performa model dilakukan menggunakan confusion matrix
dengan beberapa ukuran, yaitu accuracy, sensitivity,
specificity, dan positive predictive value. Selain
itu, optimasi hyperparameter melalui pengujian variasi nilai
(k) dan visualisasi menggunakan package ggplot2
diperlukan untuk mengetahui nilai parameter yang memberikan performa
terbaik. Dengan demikian, kegiatan ini diharapkan dapat memberikan
pemahaman secara teoritis dan praktis mengenai penerapan algoritma k-NN
dalam permasalahan klasifikasi.
Berdasarkan latar belakang di atas, adapun rumusan masalah yang dapat disimpulkan sebagai berikut:
class dan caret?ggplot2?Adapun tujuan penelitian ini yaitu:
class dan caret.ggplot2.Adapun manfaat penelitian ini yaitu sebagai berikut:
Adapun batasan masalah pada penelitian ini yaitu lakukan pemodelan
klasifikasi terhadap data medis riil Wisconsin Breast Cancer Database
yang dimuat melalui package mlbench. Tujuan
pemodelan adalah mendeteksi secara akurat apakah tumor payudara
tergolong jinak (benign) atau ganas (malignant).
Machine learning merupakan salah satu cabang kecerdasan buatan yang memungkinkan komputer mempelajari pola dari sekumpulan data untuk menghasilkan prediksi atau keputusan tanpa harus diprogram secara eksplisit untuk setiap permasalahan. Salah satu pendekatan dalam machine learning adalah supervised learning, yaitu metode pembelajaran yang menggunakan data latih (training data) yang telah memiliki label atau kelas sebagai dasar pembentukan model. Tujuan dari pendekatan ini adalah mempelajari hubungan antara variabel prediktor dan variabel target sehingga model mampu memprediksi kelas pada data baru. Dalam penerapannya, supervised learning dapat digunakan untuk menyelesaikan permasalahan regresi maupun klasifikasi (Setiawan et al., 2024).
K-Nearest Neighbors (k-NN) merupakan algoritma klasifikasi nonparametrik dalam pendekatan supervised learning yang menentukan kelas suatu data berdasarkan sejumlah (k) tetangga terdekat. Prinsip kerja algoritma ini adalah menghitung jarak antara data yang akan diklasifikasikan dengan seluruh data latih, kemudian mengurutkan jarak tersebut dari yang terkecil hingga terbesar. Selanjutnya, dipilih sebanyak (k) data dengan jarak terdekat dan kelas ditentukan berdasarkan mayoritas kelas dari tetangga tersebut. Salah satu ukuran jarak yang umum digunakan adalah Euclidean Distance (Gunawan et al., 2025).
k-NN juga termasuk dalam kelompok instance-based learning atau lazy learning, di mana model tidak membentuk fungsi perantara pada tahap pelatihan, melainkan menyimpan seluruh data pelatihan dan menunda komputasi hingga terdapat data baru yang hendak diprediksi. Sifat lazy learning ini menjadikan k-NN tidak memerlukan proses pelatihan yang berat, tetapi konsekuensinya seluruh data pelatihan harus tersimpan dalam memori (Fransiska, 2026).
Secara formal, estimasi probabilitas posterior bahwa suatu data testing \(x_0\) tergolong ke dalam kelas \(j\) diformulasikan sebagai proporsi kelas \(j\) di antara tetangga terdekatnya (Fransiska, 2026):
\[ \hat{P}(Y = j \mid X = x_0) = \frac{1}{k} \sum_{i \in N_k(x_0)} I(y_i = j) \tag{2.2} \]
dengan \(N_k(x_0)\) merupakan himpunan yang memuat \(k\) buah tetangga terdekat dari \(x_0\), \(y_i\) adalah label kelas dari data ke-\(i\), dan \(I(\cdot)\) merupakan fungsi indikator yang bernilai 1 jika \(y_i = j\) dan bernilai 0 jika \(y_i \neq j\). Keputusan klasifikasi final \(\hat{G}(x_0)\) diambil berdasarkan prinsip majority voting sebagai berikut:
\[ \hat{G}(x_0) = \underset{j \in \{1, 2, \ldots, C\}}{\arg\max} \; \hat{P}(Y = j \mid X = x_0) \tag{2.3} \]
dengan \(C\) adalah jumlah kelas yang ada dalam klasifikasi. Pada implementasi \(k\)-NN untuk klasifikasi biner, nilai \(k\) umumnya dipilih dalam bilangan ganjil untuk menghindari hasil voting yang seimbang (Yusran et al., 2025).
Feature scaling merupakan tahapan prapemrosesan data yang bertujuan menyamakan rentang nilai antarvariabel agar tidak terdapat fitur dengan skala yang mendominasi perhitungan jarak. Tahapan ini penting dalam algoritma k-NN karena proses klasifikasi sangat bergantung pada ukuran jarak antarobservasi. Salah satu metode yang dapat digunakan adalah normalisasi Min-Max, yaitu mengubah nilai data ke dalam rentang tertentu, umumnya antara 0 dan 1 (Allorerung et al., 2024).
Normalisasi Min-Max merupakan metode normalisasi dengan melakukan transformasi linier terhadap data asli sehingga menghasilkan keseimbangan perbandingan nilai antara data sebelum dan sesudah proses. Metode ini mentransformasikan nilai variabel ke dalam interval \([0, 1]\). Formula normalisasi Min-Max adalah (Fransiska, 2026):
\[ x_{scaled} = \frac{x - x_{min}}{x_{max} - x_{min}} \tag{2.9} \]
dengan \(x\) merupakan nilai asli variabel, \(x_{min}\) adalah nilai minimum variabel dalam dataset, dan \(x_{max}\) adalah nilai maksimum variabel dalam dataset.
Nilai (k) merupakan parameter utama dalam algoritma k-NN yang menunjukkan jumlah tetangga terdekat yang digunakan dalam menentukan kelas suatu data. Pemilihan nilai (k) berpengaruh terhadap hasil klasifikasi. Nilai (k) yang terlalu kecil dapat menyebabkan model sensitif terhadap gangguan atau noise, sedangkan nilai (k) yang terlalu besar dapat menyebabkan batas antarkelas menjadi kurang jelas. Oleh karena itu, diperlukan pengujian terhadap beberapa variasi nilai (k) untuk memperoleh parameter yang memberikan performa klasifikasi terbaik. Pengujian dapat dilakukan dengan membandingkan nilai akurasi dari setiap variasi parameter yang digunakan (Hadi et al., 2024; Kelilauw et al., 2025).
Program R tersebut memanfaatkan beberapa library dan fungsi
umum untuk mendukung alur kerja machine learning \(k\)-NN. Library class
menyediakan fungsi inti knn() untuk klasifikasi,
caret menyediakan confusionMatrix() untuk
evaluasi performa, ggplot2 digunakan untuk visualisasi
grafik, dan mlbench untuk memuat dataset. Fungsi
umum bawaan R seperti str(), head(), dan
table() digunakan untuk eksplorasi data,
lapply() untuk menerapkan normalisasi pada beberapa kolom
sekaligus, sample() untuk pembagian data acak, serta
data.frame() dan seq_len() untuk menyusun dan
mengindeks data (Fransiska, 2026).
Jenis data yang digunakan dalam penelitian ini adalah data kategorik, yaitu data yang menunjukkan pengelompokan objek berdasarkan kategori tertentu. Data yang digunakan berasal dari hasil pemeriksaan klinis sel kanker payudara yang disajikan dalam bentuk kategori.
Sumber data yang digunakan dalam penelitian ini adalah data sekunder.
Data sekunder merupakan data yang telah dikumpulkan oleh pihak lain dan
dapat dimanfaatkan kembali untuk keperluan penelitian. Dataset
BreastCancer diperoleh dari package
mlbench pada perangkat lunak R. Dataset tersebut
terdiri atas 699 observasi.
Variabel merupakan karakteristik atau atribut yang dapat diukur
maupun diamati dalam suatu penelitian. Penelitian ini menggunakan
sepuluh variabel, yaitu Cl.thickness,
Cell.size, Cell.shape,
Marg.adhesion, Epith.c.size,
Bare.nuclei, Bl.cromatin,
Normal.nucleoli, Mitoses, dan
Class. Variabel Class berperan sebagai
variabel respons yang bertipe kategorik dengan dua kelas, yaitu
benign (jinak) dan malignant (ganas). Sembilan
variabel lainnya berperan sebagai variabel prediktor yang bertipe
kategorik dengan skala 1 sampai 10.
Berikut merupakan algoritma penelitian pada batasan masalah:
Pada batasan masalah diminta untuk melakukan pemodelan klasifikasi \(k\)-NN pada data Wisconsin Breast Cancer Database dengan pembagian data 80% data training dan 20% data testing. Bab ini memuat sintaks, output, dan pembahasan pada setiap tahapan analisis.
# Memanggil library
library(class)
library(caret)
library(ggplot2)
library(mlbench)
# Memuat dataset Wisconsin Breast Cancer
data(BreastCancer, package = "mlbench")
# Menampilkan struktur variabel
str(BreastCancer)
## 'data.frame': 699 obs. of 11 variables:
## $ Id : chr "1000025" "1002945" "1015425" "1016277" ...
## $ Cl.thickness : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 5 5 3 6 4 8 1 2 2 4 ...
## $ Cell.size : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 1 1 2 ...
## $ Cell.shape : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 2 1 1 ...
## $ Marg.adhesion : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 5 1 1 3 8 1 1 1 1 ...
## $ Epith.c.size : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 2 7 2 3 2 7 2 2 2 2 ...
## $ Bare.nuclei : Factor w/ 10 levels "1","2","3","4",..: 1 10 2 4 1 10 10 1 1 1 ...
## $ Bl.cromatin : Factor w/ 10 levels "1","2","3","4",..: 3 3 3 3 3 9 3 3 1 2 ...
## $ Normal.nucleoli: Factor w/ 10 levels "1","2","3","4",..: 1 2 1 7 1 7 1 1 1 1 ...
## $ Mitoses : Factor w/ 9 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 5 1 ...
## $ Class : Factor w/ 2 levels "benign","malignant": 1 1 1 1 1 2 1 1 1 1 ...
# Menampilkan 6 observasi teratas
head(BreastCancer)
## Id Cl.thickness Cell.size Cell.shape Marg.adhesion Epith.c.size
## 1 1000025 5 1 1 1 2
## 2 1002945 5 4 4 5 7
## 3 1015425 3 1 1 1 2
## 4 1016277 6 8 8 1 3
## 5 1017023 4 1 1 3 2
## 6 1017122 8 10 10 8 7
## Bare.nuclei Bl.cromatin Normal.nucleoli Mitoses Class
## 1 1 3 1 1 benign
## 2 10 3 2 1 benign
## 3 2 3 1 1 benign
## 4 4 3 7 1 benign
## 5 1 3 1 1 benign
## 6 10 9 7 1 malignant
# Memeriksa persebaran frekuensi kelas
table(BreastCancer$Class)
##
## benign malignant
## 458 241
Pada tahap pembatasan masalah, analisis ini menggunakan
dataset Wisconsin Breast Cancer Database yang tersedia pada
package mlbench dan dipanggil melalui perintah
data(BreastCancer, package = "mlbench"). Selanjutnya,
package class dimanfaatkan untuk menerapkan
algoritma \(k\)-NN, caret
digunakan untuk mengevaluasi hasil klasifikasi melalui confusion
matrix, ggplot2 digunakan untuk membuat visualisasi
data, sedangkan mlbench berfungsi menyediakan
dataset yang diperlukan. Pemanggilan seluruh library
pada awal program bertujuan agar semua fungsi yang dibutuhkan dapat
digunakan selama proses analisis berlangsung.
Berdasarkan hasil pemeriksaan struktur data menggunakan fungsi
str, diketahui bahwa dataset terdiri atas 699
observasi dan 11 variabel, yang meliputi satu variabel identitas pasien
(Id), sembilan variabel prediktor yang menggambarkan
karakteristik sel, serta satu variabel respons (Class).
Kesembilan variabel prediktor memiliki rentang nilai 1 sampai 10, tetapi
masih tersimpan dalam bentuk factor, sementara variabel
Id bertipe karakter. Oleh karena itu, diperlukan
penyesuaian tipe data agar variabel prediktor dapat digunakan dalam
perhitungan jarak pada algoritma \(k\)-NN. Hasil pengamatan enam data pertama
melalui fungsi head memperlihatkan bahwa sebagian besar
observasi memiliki nilai prediktor relatif rendah dan termasuk kelas
benign, sedangkan observasi keenam menunjukkan nilai yang lebih
tinggi pada hampir seluruh variabel prediktor dan tergolong kelas
malignant.
Berdasarkan distribusi kelas pada Tabel 4.1, diketahui bahwa dataset memiliki 458 observasi kelas benign atau sebesar 65,52% dan 241 observasi kelas malignant atau sebesar 34,48%. Hasil tersebut menunjukkan bahwa kelas benign memiliki jumlah observasi lebih banyak dibandingkan kelas malignant, sehingga terdapat ketidakseimbangan distribusi kelas dalam dataset. Meskipun demikian, perbedaan proporsi tersebut belum terlalu ekstrem. Oleh karena itu, pemodelan dapat dilanjutkan tanpa melakukan penyeimbangan kelas, dengan tetap memperhatikan kemampuan model dalam mengenali kelas malignant. Evaluasi tidak hanya berfokus pada nilai accuracy, tetapi juga mempertimbangkan nilai sensitivity agar kemampuan model dalam mengidentifikasi kelas malignant dapat diketahui secara lebih menyeluruh.
# Memeriksa jumlah missing value pada tiap variabel
colSums(is.na(BreastCancer))
## Id Cl.thickness Cell.size Cell.shape Marg.adhesion
## 0 0 0 0 0
## Epith.c.size Bare.nuclei Bl.cromatin Normal.nucleoli Mitoses
## 0 16 0 0 0
## Class
## 0
# Menghapus variabel Id karena hanya berupa identitas pasien
bc <- BreastCancer[, -1]
# Mengubah variabel prediktor (kolom 1 sampai 9) dari factor ke numerik
bc[, 1:9] <- lapply(bc[, 1:9], function(x) as.numeric(as.character(x)))
# Menghapus observasi yang memiliki missing value
bc <- na.omit(bc)
# Memastikan variabel kelas bertipe factor dengan level yang jelas
bc$Class <- factor(bc$Class, levels = c("benign", "malignant"))
# Memeriksa dimensi dan persebaran kelas setelah pembersihan
cat("Dimensi data setelah pembersihan:", nrow(bc), "baris,", ncol(bc), "kolom\n")
## Dimensi data setelah pembersihan: 683 baris, 10 kolom
table(bc$Class)
##
## benign malignant
## 444 239
Tahap pra-pemrosesan data dilakukan sebelum pembentukan model untuk
memastikan bahwa data yang digunakan telah memenuhi kebutuhan algoritma
\(k\)-NN. Tahapan ini penting karena
\(k\)-NN menentukan hasil klasifikasi
berdasarkan perhitungan jarak antarobservasi, sehingga data harus
memiliki nilai yang lengkap, bertipe numerik, serta tidak mengandung
variabel yang tidak relevan. Berdasarkan hasil pemeriksaan missing
value, ditemukan sebanyak 16 data kosong yang seluruhnya terdapat
pada variabel Bare.nuclei.
Langkah selanjutnya adalah menghapus variabel Id karena
hanya berperan sebagai identitas pasien dan tidak memberikan informasi
yang relevan dalam proses klasifikasi tumor jinak maupun ganas. Sembilan
variabel prediktor kemudian dikonversi dari tipe factor menjadi
numerik menggunakan fungsi as.numeric(as.character(x)) agar
nilai pengamatan pada rentang 1 sampai 10 tetap dipertahankan.
Penggunaan fungsi as.character() sebelum
as.numeric() bertujuan menghindari perubahan nilai menjadi
kode kategori atau nomor urutan level. Sementara itu, variabel
Class diatur kembali menjadi tipe factor dengan
urutan kategori benign dan malignant untuk menjaga
konsistensi dalam proses pemodelan dan evaluasi.
Selanjutnya, observasi yang mengandung missing value
dihilangkan menggunakan fungsi na.omit. Proses tersebut
mengakibatkan sebanyak 16 observasi atau 2,29% dari keseluruhan data
awal terhapus, sehingga jumlah data yang tersisa menjadi 683 observasi.
Berdasarkan Tabel 4.2, data yang dihilangkan terdiri atas 14 observasi
kelas benign dan 2 observasi kelas malignant. Setelah
proses pembersihan dilakukan, distribusi kelas menunjukkan proporsi
sebesar 65,01% untuk kelas benign dan 34,99% untuk kelas
malignant. Hasil ini memperlihatkan bahwa perubahan distribusi
kelas relatif kecil, sehingga data yang telah melalui tahap
pra-pemrosesan dapat digunakan untuk proses analisis dan pembentukan
model \(k\)-NN.
# Mendefinisikan fungsi normalisasi Min-Max
min_max_norm <- function(x) {
return((x - min(x)) / (max(x) - min(x)))
}
# Menerapkan normalisasi pada 9 variabel prediktor (kolom 1 sampai 9)
bc_norm <- as.data.frame(lapply(bc[, 1:9], min_max_norm))
# Menggabungkan kembali label kelas
bc_norm$Class <- bc$Class
Tahapan selanjutnya dalam pra-pemrosesan data adalah melakukan penskalaan fitur (feature scaling) menggunakan metode normalisasi Min-Max. Metode ini bertujuan mengubah nilai setiap variabel prediktor ke dalam rentang 0 sampai 1. Normalisasi diperlukan karena algoritma \(k\)-NN menggunakan perhitungan jarak Euclidean yang sensitif terhadap perbedaan skala antarvariabel. Tanpa proses normalisasi, variabel dengan rentang nilai lebih besar berpotensi memberikan pengaruh lebih dominan dalam menentukan jarak antarobservasi dibandingkan variabel lainnya.
Implementasi normalisasi dilakukan dengan mendefinisikan fungsi
min_max_norm terlebih dahulu, kemudian menerapkannya pada
sembilan variabel prediktor menggunakan fungsi lapply.
Sementara itu, variabel Class tidak disertakan dalam proses
normalisasi karena merupakan variabel kategorik yang berfungsi sebagai
label kelas. Setelah seluruh prediktor berhasil dinormalisasi, variabel
Class digabungkan kembali dengan data hasil transformasi.
Proses normalisasi Min-Max merupakan transformasi linear yang
mempertahankan urutan nilai setiap observasi, tetapi mengubah skala
jaraknya ke rentang yang telah ditentukan. Dengan demikian, seluruh
variabel prediktor memiliki skala yang seragam sehingga dapat digunakan
dalam perhitungan jarak pada algoritma \(k\)-NN.
# Menampilkan ringkasan statistik setelah normalisasi
summary(bc_norm)
## Cl.thickness Cell.size Cell.shape Marg.adhesion
## Min. :0.0000 Min. :0.0000 Min. :0.0000 Min. :0.0000
## 1st Qu.:0.1111 1st Qu.:0.0000 1st Qu.:0.0000 1st Qu.:0.0000
## Median :0.3333 Median :0.0000 Median :0.0000 Median :0.0000
## Mean :0.3825 Mean :0.2390 Mean :0.2461 Mean :0.2034
## 3rd Qu.:0.5556 3rd Qu.:0.4444 3rd Qu.:0.4444 3rd Qu.:0.3333
## Max. :1.0000 Max. :1.0000 Max. :1.0000 Max. :1.0000
## Epith.c.size Bare.nuclei Bl.cromatin Normal.nucleoli
## Min. :0.0000 Min. :0.0000 Min. :0.0000 Min. :0.0000
## 1st Qu.:0.1111 1st Qu.:0.0000 1st Qu.:0.1111 1st Qu.:0.0000
## Median :0.1111 Median :0.0000 Median :0.2222 Median :0.0000
## Mean :0.2483 Mean :0.2827 Mean :0.2717 Mean :0.2077
## 3rd Qu.:0.3333 3rd Qu.:0.5556 3rd Qu.:0.4444 3rd Qu.:0.3333
## Max. :1.0000 Max. :1.0000 Max. :1.0000 Max. :1.0000
## Mitoses Class
## Min. :0.00000 benign :444
## 1st Qu.:0.00000 malignant:239
## Median :0.00000
## Mean :0.06702
## 3rd Qu.:0.00000
## Max. :1.00000
Setelah proses normalisasi dilakukan, tahap berikutnya adalah
menyajikan statistik deskriptif untuk mengetahui karakteristik data
hasil pra-pemrosesan. Statistik deskriptif merupakan ringkasan numerik
yang digunakan untuk menggambarkan pola dan distribusi data melalui
beberapa ukuran, meliputi nilai minimum, kuartil pertama, median,
rata-rata, kuartil ketiga, dan maksimum. Khusus untuk variabel kategorik
seperti Class, karakteristik data disajikan berdasarkan
jumlah frekuensi masing-masing kategori. Penyajian statistik deskriptif
ini bertujuan untuk memastikan hasil normalisasi serta memberikan
gambaran mengenai pola penyebaran setiap variabel sebelum memasuki tahap
pemodelan.
Berdasarkan hasil, seluruh variabel prediktor memiliki nilai minimum
0 dan maksimum 1. Hasil tersebut menunjukkan bahwa proses normalisasi
Min-Max telah berhasil mengubah skala seluruh prediktor sesuai
dengan rentang yang ditentukan. Selain itu, nilai rata-rata yang lebih
besar dibandingkan median pada kesembilan variabel menunjukkan bahwa
distribusi data cenderung menceng ke kanan (right-skewed).
Beberapa variabel, yaitu Cell.size,
Cell.shape, Marg.adhesion,
Bare.nuclei, dan Normal.nucleoli, memiliki
nilai median sebesar 0. Hal ini menunjukkan bahwa setidaknya separuh
observasi pada variabel tersebut berada pada nilai minimum.
Jika ditinjau berdasarkan nilai rata-ratanya, variabel
Mitoses memiliki rata-rata paling rendah, yaitu 0,0670,
dengan nilai median dan kuartil ketiga sebesar 0. Kondisi ini
menunjukkan bahwa sebagian besar observasi pada variabel tersebut
terkonsentrasi pada nilai minimum. Sebaliknya, variabel
Cl.thickness mempunyai rata-rata tertinggi sebesar 0,3825
dengan median 0,3333, yang menunjukkan tingkat nilai relatif lebih
tinggi dibandingkan variabel prediktor lainnya. Sementara itu,
distribusi variabel respons Class terdiri atas 444
observasi kelas benign dan 239 observasi kelas
malignant. Hasil statistik deskriptif ini memberikan gambaran
mengenai karakteristik data yang telah dinormalisasi dan siap digunakan
dalam proses pembentukan model klasifikasi \(k\)-NN.
# Menetapkan seed sesuai NPM genap
set.seed(12346)
# Mengambil indeks sampel acak sebesar 80% dari total data
train_indices <- sample(
seq_len(nrow(bc_norm)),
size = 0.80 * nrow(bc_norm)
)
# Memisahkan matriks fitur prediktor
train_x <- bc_norm[train_indices, 1:9]
test_x <- bc_norm[-train_indices, 1:9]
# Memisahkan vektor label kelas
train_y <- bc_norm[train_indices, 10]
test_y <- bc_norm[-train_indices, 10]
cat("Dimensi Data Training:", nrow(train_x), "baris,", ncol(train_x), "fitur\n")
## Dimensi Data Training: 546 baris, 9 fitur
cat("Dimensi Data Testing :", nrow(test_x), "baris,", ncol(test_x), "fitur\n")
## Dimensi Data Testing : 137 baris, 9 fitur
Tahap berikutnya adalah membagi data menjadi dua bagian, yaitu 80%
sebagai data training dan 20% sebagai data testing,
dengan menggunakan inisialisasi set.seed(123XY) sesuai
ketentuan NPM genap. Karena NPM praktikan berakhiran 46, maka nilai
seed yang diterapkan adalah 12346. Penggunaan
fungsi set.seed() bertujuan untuk menjaga konsistensi
proses pengambilan sampel secara acak (random sampling),
sehingga hasil pembagian data tetap sama ketika program dijalankan
kembali.
Berdasarkan hasil pembagian tersebut, diperoleh sebanyak 546
observasi sebagai data training dan 137 observasi sebagai data
testing, dengan masing-masing memiliki sembilan fitur
prediktor. Data training digunakan sebagai dasar pembelajaran
model dalam menentukan tetangga terdekat berdasarkan perhitungan jarak,
sedangkan data testing dimanfaatkan untuk mengukur kemampuan
model dalam mengklasifikasikan observasi yang belum pernah digunakan
selama proses pelatihan. Selanjutnya, variabel prediktor dan label kelas
dipisahkan ke dalam objek yang berbeda karena fungsi knn()
pada package class memerlukan data fitur dan kelas
secara terpisah sebagai masukan dalam proses klasifikasi.
# Menyiapkan nilai k yang diuji
k_values <- c(3, 5, 7, 9, 11)
# Menyiapkan wadah untuk menyimpan hasil evaluasi
hasil_evaluasi <- data.frame(
k = k_values,
Accuracy = numeric(length(k_values)),
Sensitivity = numeric(length(k_values)),
Specificity = numeric(length(k_values)),
False_Negative = numeric(length(k_values))
)
# Pengujian iteratif untuk setiap nilai k
# Kelas positif ditetapkan "malignant" agar Sensitivity mengukur
# kemampuan model mendeteksi tumor ganas
for (i in seq_along(k_values)) {
k_val <- k_values[i]
pred_uji <- knn(
train = train_x,
test = test_x,
cl = train_y,
k = k_val
)
cm <- confusionMatrix(
data = pred_uji,
reference = test_y,
positive = "malignant"
)
hasil_evaluasi$Accuracy[i] <- cm$overall["Accuracy"]
hasil_evaluasi$Sensitivity[i] <- cm$byClass["Sensitivity"]
hasil_evaluasi$Specificity[i] <- cm$byClass["Specificity"]
# False Negative: prediksi benign, kenyataannya malignant
hasil_evaluasi$False_Negative[i] <- cm$table["benign", "malignant"]
}
# Menampilkan tabel perbandingan metrik evaluasi
print(hasil_evaluasi)
## k Accuracy Sensitivity Specificity False_Negative
## 1 3 0.9854015 0.9807692 0.9882353 1
## 2 5 0.9854015 0.9807692 0.9882353 1
## 3 7 0.9854015 0.9807692 0.9882353 1
## 4 9 0.9854015 0.9807692 0.9882353 1
## 5 11 0.9854015 0.9807692 0.9882353 1
# Menampilkan tabel dengan pembulatan 4 desimal
tabel_perbandingan <- hasil_evaluasi
tabel_perbandingan[, 2:4] <- round(tabel_perbandingan[, 2:4], 4)
print(tabel_perbandingan)
## k Accuracy Sensitivity Specificity False_Negative
## 1 3 0.9854 0.9808 0.9882 1
## 2 5 0.9854 0.9808 0.9882 1
## 3 7 0.9854 0.9808 0.9882 1
## 4 9 0.9854 0.9808 0.9882 1
## 5 11 0.9854 0.9808 0.9882 1
Pemodelan klasifikasi dilakukan menggunakan algoritma \(k\)-NN dengan menguji lima variasi nilai
parameter (k), yaitu (k {3,5,7,9,11}). Setiap variasi nilai (k)
diimplementasikan menggunakan fungsi knn() dari
package class. Hasil klasifikasi kemudian
dibandingkan dengan label kelas aktual pada data testing
menggunakan fungsi confusionMatrix() dari package
caret. Dalam proses evaluasi, kelas malignant
ditetapkan sebagai kelas positif (positive class), sehingga
nilai sensitivity digunakan untuk mengukur kemampuan model
dalam mengenali observasi tumor ganas. Sementara itu, false
negative menunjukkan jumlah observasi tumor ganas yang salah
diklasifikasikan sebagai tumor jinak.
Berdasarkan hasil pengujian pada hasil, diketahui bahwa kelima variasi nilai (k) menghasilkan performa klasifikasi yang identik, yaitu accuracy sebesar 98,54%, sensitivity sebesar 98,08%, dan specificity sebesar 98,82%, dengan jumlah false negative sebanyak satu observasi. Kesamaan hasil tersebut menunjukkan bahwa perubahan jumlah tetangga dari (k=3) hingga (k=11) tidak menyebabkan perubahan hasil prediksi kelas pada data testing. Kondisi ini mengindikasikan bahwa hasil klasifikasi relatif stabil terhadap variasi nilai (k) yang diuji pada dataset tersebut.
Selain itu, jumlah observasi pada data testing yang hanya mencapai 137 data menyebabkan setiap satu kesalahan klasifikasi memberikan pengaruh sekitar 0,73% terhadap nilai accuracy. Pada seluruh variasi nilai (k), ditemukan dua observasi yang salah diklasifikasikan dari total 137 observasi. Dengan demikian, perbedaan performa antarparameter (k) belum terlihat pada hasil pengujian ini. Meskipun demikian, hasil tersebut menunjukkan bahwa algoritma \(k\)-NN mampu memberikan tingkat ketepatan klasifikasi yang tinggi dan relatif konsisten pada kelima variasi parameter yang digunakan.
# Prioritas: Sensitivity tertinggi (False Negative minimum),
# kemudian Accuracy tertinggi, kemudian Specificity tertinggi
urutan <- order(
-hasil_evaluasi$Sensitivity,
hasil_evaluasi$False_Negative,
-hasil_evaluasi$Accuracy,
-hasil_evaluasi$Specificity
)
k_optimal <- hasil_evaluasi$k[urutan[1]]
cat("Nilai k paling optimal:", k_optimal, "\n")
## Nilai k paling optimal: 3
# Menampilkan matriks konfusi lengkap untuk k optimal
pred_optimal <- knn(
train = train_x,
test = test_x,
cl = train_y,
k = k_optimal
)
evaluasi_optimal <- confusionMatrix(
data = pred_optimal,
reference = test_y,
positive = "malignant"
)
print(evaluasi_optimal)
## Confusion Matrix and Statistics
##
## Reference
## Prediction benign malignant
## benign 84 1
## malignant 1 51
##
## Accuracy : 0.9854
## 95% CI : (0.9483, 0.9982)
## No Information Rate : 0.6204
## P-Value [Acc > NIR] : <2e-16
##
## Kappa : 0.969
##
## Mcnemar's Test P-Value : 1
##
## Sensitivity : 0.9808
## Specificity : 0.9882
## Pos Pred Value : 0.9808
## Neg Pred Value : 0.9882
## Prevalence : 0.3796
## Detection Rate : 0.3723
## Detection Prevalence : 0.3796
## Balanced Accuracy : 0.9845
##
## 'Positive' Class : malignant
##
Penentuan nilai (k) yang paling optimal dilakukan dengan mempertimbangkan kemampuan model dalam meminimalkan kesalahan klasifikasi, khususnya false negative pada kelas malignant. Kriteria pemilihan parameter ditetapkan secara bertahap, dimulai dari nilai sensitivity tertinggi atau jumlah false negative terendah, kemudian accuracy tertinggi, dan terakhir specificity tertinggi. Berdasarkan hasil pengujian, seluruh variasi nilai (k) menunjukkan performa yang sama pada ketiga kriteria tersebut. Oleh karena itu, nilai (k=3) ditetapkan sebagai parameter optimal karena merupakan nilai terkecil di antara seluruh kandidat dengan performa setara, sehingga pemilihan parameter menjadi lebih sederhana.
Hasil confusion matrix pada hasil menunjukkan bahwa sebanyak 84 observasi kelas benign dan 51 observasi kelas malignant berhasil diklasifikasikan dengan benar. Sementara itu, terdapat masing-masing satu observasi yang mengalami kesalahan klasifikasi pada kedua kelas. Nilai sensitivity sebesar 98,08% menunjukkan bahwa model berhasil mengenali 51 dari 52 observasi tumor ganas, sedangkan specificity sebesar 98,82% menunjukkan bahwa 84 dari 85 observasi tumor jinak berhasil diidentifikasi dengan tepat. Selain itu, diperoleh positive predictive value sebesar 98,08% dan negative predictive value sebesar 98,82%. Model juga menghasilkan accuracy sebesar 98,54% dengan selang kepercayaan 95% antara 94,83% hingga 99,82%. Nilai tersebut lebih tinggi dibandingkan No Information Rate sebesar 62,04% dengan p-value kurang dari 2e-16.
Berdasarkan hasil evaluasi tersebut, terdapat satu observasi tumor ganas yang salah diklasifikasikan sebagai tumor jinak (false negative). Kesalahan ini perlu mendapat perhatian khusus karena dalam konteks klasifikasi medis dapat menyebabkan keterlambatan pemeriksaan dan penanganan lebih lanjut. Nilai Kappa sebesar 0,969 menunjukkan tingkat kesesuaian yang sangat tinggi antara hasil prediksi dan kelas aktual. Sementara itu, balanced accuracy sebesar 98,45% memperlihatkan bahwa model memiliki kemampuan klasifikasi yang relatif seimbang pada kedua kategori. Meskipun demikian, jumlah data testing yang relatif terbatas menjadi salah satu pertimbangan dalam menginterpretasikan hasil evaluasi. Oleh karena itu, penggunaan metode cross-validation dapat dipertimbangkan untuk memperoleh penilaian performa model yang lebih stabil dan mengurangi ketergantungan terhadap satu pembagian data.
# Mengubah tabel ke format panjang untuk visualisasi
data_plot <- rbind(
data.frame(k = hasil_evaluasi$k, Metrik = "Accuracy",
Nilai = hasil_evaluasi$Accuracy),
data.frame(k = hasil_evaluasi$k, Metrik = "Sensitivity",
Nilai = hasil_evaluasi$Sensitivity),
data.frame(k = hasil_evaluasi$k, Metrik = "Specificity",
Nilai = hasil_evaluasi$Specificity)
)
ggplot(data_plot, aes(x = k, y = Nilai, color = Metrik)) +
geom_line(linewidth = 1.1) +
geom_point(size = 2.8) +
scale_x_continuous(breaks = k_values) +
scale_y_continuous(
labels = scales::percent_format(accuracy = 0.1)
) +
labs(
title = "Perbandingan Metrik Evaluasi k-NN pada Berbagai Nilai k",
subtitle = paste("Evaluasi pada Data Testing Breast Cancer (Ukuran Sampel Testing =",
nrow(test_x), ")"),
x = "Jumlah Tetangga Terdekat (k)",
y = "Nilai Metrik",
color = "Metrik"
) +
theme_minimal(base_size = 11) +
theme(
plot.title = element_text(face = "bold", hjust = 0.5),
plot.subtitle = element_text(hjust = 0.5),
panel.grid.minor = element_blank()
)
Gambar 4.1 Kurva perbandingan accuracy, sensitivity, dan specificity \(k\)-NN pada \(k\) = 3, 5, 7, 9, dan 11
Perbandingan hasil evaluasi model antarnilai (k) disajikan dalam bentuk tabel dan visualisasi kurva pada Gambar 4.1. Grafik tersebut menggunakan jumlah tetangga terdekat sebagai sumbu horizontal, sedangkan sumbu vertikal menunjukkan nilai metrik evaluasi dalam bentuk persentase. Tiga indikator yang divisualisasikan secara bersamaan meliputi accuracy, sensitivity, dan specificity, sehingga perubahan performa model pada setiap variasi nilai (k) dapat diamati dan dibandingkan dengan lebih mudah.
Berdasarkan Gambar 4.1, ketiga kurva membentuk garis horizontal tanpa perubahan pada seluruh variasi nilai (k) yang diuji. Nilai accuracy tetap sebesar 98,54%, sensitivity sebesar 98,08%, dan specificity sebesar 98,82%. Kurva specificity menempati posisi tertinggi, sedangkan kurva sensitivity berada pada posisi terendah, dengan selisih sebesar 0,74 poin persentase. Kesamaan nilai pada seluruh kurva menunjukkan bahwa perubahan jumlah tetangga terdekat dari (k=3) hingga (k=11) tidak memberikan perbedaan terhadap hasil klasifikasi. Dengan demikian, performa algoritma \(k\)-NN pada dataset yang digunakan cenderung stabil terhadap variasi parameter (k) dalam rentang pengujian tersebut.
Algoritma K-Nearest Neighbors (\(k\)-NN) merupakan salah satu metode
klasifikasi dalam pendekatan supervised learning yang bekerja
berdasarkan kedekatan jarak antarobservasi. Penerapan algoritma ini
memerlukan tahapan pengolahan data, khususnya penskalaan fitur
(feature scaling), agar setiap variabel memiliki skala yang
sebanding dalam perhitungan jarak. Selain itu, pemilihan nilai parameter
(k) menjadi aspek penting untuk memperoleh model klasifikasi yang
optimal. Implementasi menggunakan bahasa pemrograman R dengan
package class, caret, dan
ggplot2 dapat membantu proses pemodelan, evaluasi
menggunakan confusion matrix, serta visualisasi performa model.
Dengan demikian, pemahaman terhadap konsep, tahapan implementasi, dan
evaluasi algoritma \(k\)-NN diperlukan
agar penerapan metode klasifikasi dapat dilakukan secara sistematis dan
tepat.
Berdasarkan hasil analisis, algoritma K-Nearest Neighbors
(\(k\)-NN) berhasil diterapkan untuk
mengklasifikasikan Wisconsin Breast Cancer Database menggunakan
bahasa pemrograman R dengan package class,
caret, ggplot2, dan mlbench.
Dataset yang semula terdiri atas 699 observasi setelah melalui tahap
pra-pemrosesan menjadi 683 observasi, kemudian dinormalisasi menggunakan
metode Min-Max dan dibagi menjadi 546 data training
serta 137 data testing. Pengujian dilakukan terhadap lima
variasi nilai (k), yaitu 3, 5, 7, 9, dan 11, yang seluruhnya
menghasilkan performa identik dengan accuracy sebesar 98,54%,
sensitivity sebesar 98,08%, dan specificity sebesar
98,82%. Berdasarkan kriteria pemilihan yang mengutamakan nilai
sensitivity tertinggi dan jumlah false negative
terendah, nilai (k=3) dipilih sebagai parameter optimal karena memiliki
performa setara dengan nilai (k) lainnya. Hasil confusion
matrix menunjukkan bahwa model mampu mengklasifikasikan 135 dari
137 observasi dengan benar, dengan masing-masing satu kesalahan
klasifikasi pada kelas benign dan malignant. Selain
itu, visualisasi kurva menunjukkan bahwa performa model tetap stabil
pada seluruh variasi nilai (k). Dengan demikian, algoritma \(k\)-NN memberikan hasil klasifikasi yang
sangat baik pada dataset yang digunakan, meskipun pengujian lebih lanjut
menggunakan cross-validation diperlukan untuk memperoleh
evaluasi yang lebih menyeluruh.
Laporan praktikum ini melakukan pemograman R. Dalam hal ini perlu memahami sintak yang diperlukan dalam hal pengerjaannya ini agar tidak terjadi error pada programnya. Dan juga sangat perlu memahami tentang metode Algoritma K-Nearest Neighbors (\(k\)-NN).
Allorerung, P. P., Erna, A., Bagussahrir, M., & Alam, S. (2024). Analisis performa normalisasi data untuk klasifikasi K-Nearest Neighbor pada dataset penyakit. JISKA (Jurnal Informatika Sunan Kalijaga), 9(3), 178–191. https://doi.org/10.14421/jiska.2024.9.3.178-191
Danestiara, V. R. (2023). Algoritma k-Nearest Neighbor Classifier untuk prediksi curah hujan di Kabupaten Bandung. SISINFO: Jurnal Sistem Informasi dan Informatika, 5(1), 7–15. https://doi.org/10.37278/sisinfo.v5i01.566
Fransiska, H. (2026). Modul praktikum machine learning and modern prediction. Laboratorium Matematika, Fakultas Matematika dan Ilmu Pengetahuan Alam, Universitas Bengkulu.
Gunawan, H., Chusyairi, A., & Saputra, M. I. (2025). Penerapan K-Nearest Neighbor dengan metode Euclidean Distance untuk klasifikasi tingkat ketebalan cat di PT XYZ. Jurnal Teknologi Informasi dan Ilmu Komputer, 1(2), 59–72. https://doi.org/10.65258/jutekom.v1.i2.12
Hadi, R., Suwirmayanti, N. L. G. P., Kusuma, I. G. N. A., Saryanti, I. G. A. D., & Novayanti, P. D. (2024). Implementasi metode normalisasi dan seleksi fitur dalam optimasi algoritma K-Nearest Neighbor (KNN) untuk klasifikasi data bank. Jurnal Nasional Komputasi dan Teknologi Informasi, 7(5), 1064–1071. https://doi.org/10.32672/jnkti.v7i5.7989
Kelilauw, S. R., Purnawansyah, Manga’, A. R., & Puspitasari, R. (2025). K-Nearest Neighbor dengan jarak Euclidean, Manhattan, dan Minkowski pada klasifikasi sampah. LINIER: Literatur Informatika dan Komputer, 2(3), 294–301. https://doi.org/10.33096/linier.v2i3.3141
Rukmana, S. Z. H., Aziz, A., & Harianto, W. (2022). Optimasi algoritma K-Nearest Neighbor (KNN) dengan normalisasi dan seleksi fitur untuk klasifikasi penyakit liver. JATI (Jurnal Mahasiswa Teknik Informatika), 6(2). https://doi.org/10.36040/jati.v6i2.4722
Setiawan, D., Muhammad, A., & Firizkiansah, A. (2024). Pengklasifikasian dokumen teks Bahasa Indonesia berbasis Vektor Space Model dengan menggunakan metode k-Nearest Neighbor (k-NN) dan Euclidean Distance. JIKOMTI: Jurnal Ilmiah Ilmu Komputer dan Teknologi Informasi, 1(1), 30–37. https://ojs.sains.ac.id/index.php/Jikomti/article/view/37
Yusran, M., Sadik, K., Soleh, A. M., & Suhaeni, C. (2025). Effect of feature normalization and distance metrics on K-nearest neighbors performance for diabetes disease classification. Journal of Mathematics, Computations and Statistics, 8(2), 341–354. https://doi.org/10.35580/jmathcos.v8i2.8012