Klasifikasi merupakan salah satu teknik dalam machine learning yang digunakan untuk mengelompokkan objek ke dalam kategori tertentu berdasarkan karakteristik yang dimilikinya (Farahdinna & Shofy, 2025). Salah satu algoritma yang sering digunakan adalah K-Nearest Neighbors (k-NN), yaitu algoritma terbimbing yang menentukan kelas suatu data berdasarkan mayoritas kelas dari k tetangga terdekatnya dalam ruang fitur (Perkasa dkk., 2026). Algoritma ini termasuk metode non-parametrik dan instance-based learning (lazy learning) karena tidak membentuk model eksplisit pada tahap pelatihan, melainkan menyimpan seluruh data pelatihan dan menunda komputasi hingga terdapat data baru yang akan diprediksi (Fransiska, 2026).
Kinerja k-NN sangat dipengaruhi oleh dua hal, yaitu skala fitur dan pemilihan nilai k. Karena perhitungan jarak dilakukan langsung terhadap selisih nilai antar variabel, variabel dengan rentang nilai yang besar dapat mendominasi jarak sehingga diperlukan normalisasi agar setiap fitur memiliki kontribusi yang seimbang (Perkasa dkk., 2026). Selain itu, nilai k yang terlalu kecil membuat model sensitif terhadap noise dan berpotensi mengalami overfitting, sedangkan nilai k yang terlalu besar dapat menyebabkan underfitting (Farahdinna & Shofy, 2025).
Konsep dan formulasi k-NN, pentingnya penskalaan fitur,
implementasi menggunakan pustaka class dan
caret pada R, evaluasi menggunakan Confusion
Matrix, akurasi, sensitivitas, spesifisitas, dan Positive
Predictive Value, serta optimasi hiperparameter k dengan
visualisasi kurva akurasi menggunakan ggplot2 (Fransiska,
2026). Data yang digunakan adalah data Iris yang terdiri atas tiga
spesies bunga. Melalui praktikum ini, mahasiswa diharapkan mampu
membangun, mengevaluasi, dan mengoptimalkan model k-NN secara
mandiri.
Rumusan masalah pada praktikum ini adalah sebagai berikut:
class dan caret?ggplot2?Tujuan dari praktikum ini adalah sebagai berikut:
class dan caret.ggplot2.Batasan masalah pada praktikum ini adalah penerapan algoritma
k-NN untuk klasifikasi diagnosis tumor payudara ke dalam kelas
jinak (benign) atau ganas (malignant) menggunakan data
medis Wisconsin Breast Cancer Database
(BreastCancer) dari paket mlbench. Tahap
pra-pemrosesan data meliputi penghapusan variabel identitas
(Id), penanganan missing value, konversi variabel
prediktor menjadi numerik, dan penskalaan fitur Min-Max. Pembagian data
mengikuti ketentuan NPM, yaitu 70% data latih dan 30% data uji untuk NPM
ganjil, atau 80% data latih dan 20% data uji untuk NPM genap, dengan
inisialisasi set.seed(123XY) dengan XY adalah dua digit
terakhir NPM. Pemodelan k-NN dilakukan untuk nilai k ∈
{3, 5, 7, 9, 11}. Evaluasi model dilakukan menggunakan akurasi,
sensitivitas, dan spesifisitas dengan kelas malignant sebagai
kelas positif, kemudian nilai k paling optimal dipilih dengan
mempertimbangkan pentingnya meminimalkan kesalahan diagnosis sel kanker
ganas (False Negative).
Algoritma K-Nearest Neighbors (k-NN) merupakan metode klasifikasi non-parametrik. Berbeda dengan algoritma parametrik seperti Linear Discriminant Analysis atau regresi logistik yang mengasumsikan bentuk distribusi data tertentu, k-NN termasuk kelompok instance-based learning atau lazy learning. Model ini tidak membentuk fungsi perantara pada tahap pelatihan, melainkan menyimpan seluruh data pelatihan dan menunda komputasi hingga terdapat data baru (query point) yang hendak diprediksi (Fransiska, 2026; Farahdinna & Shofy, 2025).
Diberikan himpunan data latih yang terdiri atas \(n\) observasi berpasangan sebagai berikut.
\[ D = \{(x_1, y_1), (x_2, y_2), \ldots, (x_n, y_n)\} \]
Pada himpunan tersebut, \(x_i \in \mathbb{R}^p\) merupakan vektor fitur berdimensi \(p\) dan \(y_i \in \{1, 2, \ldots, C\}\) adalah label kelas diskret. Untuk suatu data uji baru dengan vektor fitur \(x_0 \in \mathbb{R}^p\), algoritma mengidentifikasi himpunan \(N_k(x_0)\) yang memuat \(k\) tetangga terdekat dari \(x_0\) berdasarkan ukuran kedekatan jarak tertentu. Estimasi probabilitas posterior bahwa \(x_0\) tergolong ke dalam kelas \(j\) diformulasikan sebagai proporsi kelas \(j\) di antara tetangga terdekatnya.
\[ \hat{P}(Y = j \mid X = x_0) = \frac{1}{k}\sum_{i \in N_k(x_0)} I(y_i = j) \]
Fungsi \(I(\cdot)\) merupakan fungsi indikator yang bernilai 1 jika \(y_i = j\) dan bernilai 0 jika \(y_i \neq j\). Keputusan klasifikasi final \(\hat{G}(x_0)\) diambil berdasarkan prinsip suara terbanyak (majority voting), yaitu kelas dengan probabilitas posterior terbesar.
\[ \hat{G}(x_0) = \arg\max_{j \in \{1, 2, \ldots, C\}} \hat{P}(Y = j \mid X = x_0) \]
Menurut modul praktikum, ketika ukuran sampel data latih mendekati tak hingga (\(n \to \infty\)), probabilitas kesalahan klasifikasi dari tetangga terdekat tunggal (\(k = 1\)), yang dinotasikan dengan \(R\), dibatasi oleh probabilitas kesalahan pengklasifikasi Bayes optimal (\(R^*\)) melalui batas berikut (Fransiska, 2026).
\[ R^* \le R \le R^*\left(2 - \frac{C}{C-1}R^*\right) \le 2R^* \]
Teorema ini memberikan jaminan matematis bahwa performa aturan tetangga terdekat secara asimtotik memiliki tingkat kesalahan paling buruk tidak lebih dari dua kali lipat kesalahan pengklasifikasi optimal teoritis (pengklasifikasi Bayes). Dengan demikian, meskipun sederhana, k-NN memiliki landasan teoretis yang kuat dalam hal konvergensi kesalahan. Jaminan ini berlaku pada kondisi data latih yang sangat besar sehingga pada data berukuran kecil kinerja nyata model tetap perlu dievaluasi secara empiris.
Pemilihan nilai hiperparameter \(k\) memegang peranan krusial dalam mengendalikan keseimbangan antara bias dan varians. Pada nilai \(k\) kecil (misalnya \(k = 1\)), model memiliki fleksibilitas tinggi dan batas keputusan (decision boundary) yang sangat rumit sehingga menghasilkan bias yang sangat rendah namun varians yang sangat tinggi. Akibatnya, model menjadi sangat sensitif terhadap derau (noise) dan rentan mengalami overfitting (Fransiska, 2026; Farahdinna & Shofy, 2025).
Pada nilai \(k\) besar (misalnya \(k \to n\)), batas keputusan menjadi sangat halus (oversmoothing) sehingga menghasilkan varians yang rendah namun bias yang tinggi. Jika \(k\) terlalu besar, model berpotensi mengalami underfitting karena keputusan lokal terdistorsi oleh prevalensi kelas mayoritas secara global. Oleh karena itu, nilai \(k\) yang optimal perlu dicari melalui eksplorasi berbagai nilai \(k\) (hyperparameter tuning) (Fransiska, 2026).
Jarak antara dua titik observasi \(x = (x_1, x_2, \ldots, x_p)^\top\) dan \(y = (y_1, y_2, \ldots, y_p)^\top\) dalam ruang fitur dihitung menggunakan berbagai formulasi metrik jarak (Fransiska, 2026). Pemilihan metrik bergantung pada tipe variabel dan karakteristik data. Beberapa metrik jarak yang umum digunakan dijelaskan sebagai berikut.
1. Jarak Euclidean (\(L_2\) norm) adalah metrik geometris paling umum untuk variabel bertipe numerik kontinu. Metrik ini menghitung akar dari jumlah kuadrat selisih setiap variabel. Jarak Euclidean juga merupakan metrik yang umum digunakan pada penerapan k-NN (Perkasa dkk., 2026).
\[ d(x, y) = \sqrt{\sum_{i=1}^{p}(x_i - y_i)^2} \]
2. Jarak Manhattan (\(L_1\) norm atau city block distance) adalah metrik berbasis jumlah selisih mutlak. Metrik ini lebih tangguh terhadap keberadaan pencilan (outliers). Perhitungannya lebih sederhana karena tidak melibatkan kuadrat dan akar.
\[ d(x, y) = \sum_{i=1}^{p}|x_i - y_i| \]
3. Jarak Minkowski (\(L_m\) norm) adalah generalisasi keluarga metrik \(L_m\). Parameter \(m = 1\) menghasilkan jarak Manhattan, sedangkan \(m = 2\) menghasilkan jarak Euclidean. Dengan demikian, kedua metrik sebelumnya merupakan kasus khusus dari jarak Minkowski.
\[ d(x, y) = \left(\sum_{i=1}^{p}|x_i - y_i|^m\right)^{1/m}, \quad m \ge 1 \]
4. Jarak Mahalanobis adalah metrik yang menginkorporasikan matriks kovarians \(\Sigma\). Dengan demikian, metrik ini mengoreksi korelasi antar variabel serta mengatasi perbedaan skala. Metrik ini lebih kompleks karena memerlukan estimasi invers matriks kovarians.
\[ d(x, y) = \sqrt{(x - y)^\top \Sigma^{-1}(x - y)} \]
5. Jarak Hamming adalah ukuran ketidaksamaan yang dikhususkan untuk data bertipe biner atau kategorik kualitatif. Metrik ini menghitung proporsi variabel yang nilainya berbeda antara dua observasi. Jarak ini tidak sesuai untuk variabel numerik kontinu seperti pada data Iris.
\[ d(x, y) = \frac{1}{p}\sum_{i=1}^{p} I(x_i \neq y_i) \]
Karena metrik jarak Euclidean dan Manhattan menghitung selisih numerik secara langsung, variabel dengan rentang nilai yang besar akan mendominasi perhitungan jarak. Oleh karena itu, tahap pra-pemrosesan data perlu menyertakan penskalaan fitur agar setiap fitur memiliki kontribusi yang seimbang (Fransiska, 2026; Perkasa dkk., 2026). Dua metode penskalaan yang dibahas pada modul adalah normalisasi Min-Max dan standarisasi Z-Score.
Normalisasi Min-Max mentransformasikan nilai variabel ke dalam interval \([0, 1]\).
\[ x_{scaled} = \frac{x - x_{min}}{x_{max} - x_{min}} \]
Standarisasi Z-Score mentransformasikan data agar memiliki rata-rata \(\mu = 0\) dan standar deviasi \(\sigma = 1\).
\[ z = \frac{x - \mu}{\sigma} \]
Kedua metode menyamakan skala antar variabel sehingga selisih pada satu variabel tidak mendominasi jarak total. Normalisasi Min-Max menghasilkan rentang yang tetap, yaitu antara 0 dan 1, sedangkan Z-Score menghasilkan nilai yang berpusat di nol. Pemilihan keduanya bergantung pada karakteristik data, misalnya keberadaan pencilan.
Evaluasi model klasifikasi dilakukan dengan membandingkan kelas aktual dan kelas hasil prediksi yang disajikan dalam Confusion Matrix. Pada kasus dua kelas, Confusion Matrix disusun sebagai berikut.
| Predicted Positive | Predicted Negative | |
|---|---|---|
| Actual Positive | True Positive (TP) | False Negative (FN) |
| Actual Negative | False Positive (FP) | True Negative (TN) |
Berdasarkan Confusion Matrix, ukuran evaluasi yang digunakan pada praktikum ini adalah akurasi, sensitivitas, spesifisitas, dan Positive Predictive Value (PPV) (Fransiska, 2026; Perkasa dkk., 2026).
\[ Accuracy = \frac{TP+TN}{TP+TN+FP+FN}, \qquad Sensitivity = \frac{TP}{TP+FN} \]
\[ Specificity = \frac{TN}{TN+FP}, \qquad PPV = \frac{TP}{TP+FP} \]
Akurasi menyatakan proporsi seluruh prediksi yang benar. Sensitivitas menyatakan kemampuan model mendeteksi data yang benar-benar termasuk suatu kelas, spesifisitas menyatakan kemampuan model mengenali data yang bukan termasuk kelas tersebut, dan PPV menyatakan ketepatan prediksi pada kelas tersebut. Pada klasifikasi multikelas seperti data Iris, sensitivitas, spesifisitas, dan PPV dihitung untuk setiap kelas dengan pendekatan satu kelas terhadap kelas lainnya (one-vs-rest), sedangkan akurasi dihitung dari seluruh amatan.
Implementasi k-NN pada R dilakukan menggunakan fungsi
knn() dari pustaka class, yang memerlukan
matriks fitur data latih (train), matriks fitur data uji
(test), vektor label kelas data latih (cl),
dan jumlah tetangga (k). Evaluasi model dilakukan
menggunakan fungsi confusionMatrix() dari pustaka
caret yang menghasilkan Confusion Matrix beserta
statistik evaluasi seperti akurasi, sensitivitas, spesifisitas, dan
Positive Predictive Value. Visualisasi kurva performa terhadap
nilai k dibuat menggunakan pustaka ggplot2
(Fransiska, 2026).
Jenis data yang digunakan merupakan data kuantitatif, yaitu data
berbentuk angka yang dapat dianalisis menggunakan metode statistik.
Sumber data adalah data medis riil Wisconsin Breast Cancer
Database yang dimuat melalui paket mlbench dengan
perintah data(BreastCancer, package = "mlbench"). Data ini
terdiri atas 699 amatan hasil pemeriksaan sel tumor payudara, dengan
label diagnosis jinak (benign) atau ganas (malignant).
Data tersebut digunakan untuk membentuk model k-NN,
mengevaluasi hasil klasifikasi, dan menentukan nilai k yang
paling optimal.
Variabel respons (Y) adalah Class yang bertipe kategorik
dengan dua kelas, yaitu benign (jinak) dan malignant
(ganas). Variabel prediktor (X) terdiri atas sembilan karakteristik sel
yang dinilai dengan skala 1 sampai 10, yaitu Cl.thickness,
Cell.size, Cell.shape,
Marg.adhesion, Epith.c.size,
Bare.nuclei, Bl.cromatin,
Normal.nucleoli, dan Mitoses. Variabel
Id merupakan nomor identitas sampel sehingga tidak
digunakan sebagai prediktor. Pada data asli, variabel prediktor bertipe
factor berurutan (ordered) sehingga perlu dikonversi
menjadi numerik agar dapat digunakan pada perhitungan jarak
Euclidean.
Tahapan analisis data pada praktikum ini adalah sebagai berikut.
class,
caret, dan ggplot2, memuat data
BreastCancer, serta memeriksa struktur data, enam observasi
teratas, sebaran frekuensi kelas, dan missing value.Id, menghapus amatan yang memiliki missing value,
mengonversi sembilan variabel prediktor menjadi numerik, kemudian
menormalisasi prediktor menggunakan Min-Max ke interval [0, 1].set.seed(123XY) dengan
XY adalah dua digit terakhir NPM, yaitu 70% : 30% untuk NPM ganjil dan
80% : 20% untuk NPM genap, kemudian dipisahkan menjadi matriks fitur dan
vektor label.knn() untuk nilai \(k \in \{3, 5, 7, 9, 11\}\) dan digunakan
untuk memprediksi kelas pada data uji.confusionMatrix() dengan
kelas malignant sebagai kelas positif, kemudian disusun tabel
perbandingan akurasi, sensitivitas, dan spesifisitas.ggplot2, kemudian setiap output
diinterpretasikan.Diagram alir berikut merupakan langkah-langkah yang dilakukan untuk menjawab rumusan masalah.
Tahap pertama adalah mengatur parameter pembagian data berdasarkan
NPM, memuat pustaka yang diperlukan, dan menyiapkan data
BreastCancer. Nilai XY pada kode berikut diisi
dengan dua digit terakhir NPM praktikan.
# ==== ISI DENGAN DUA DIGIT TERAKHIR NPM ====
XY <- 45
# ===========================================
npm_ganjil <- (XY %% 2) == 1 # NPM ganjil jika digit terakhir ganjil
prop_latih <- if (npm_ganjil) 0.70 else 0.80 # Ganjil 70:30, Genap 80:20
seed_nilai <- as.integer(paste0("123", sprintf("%02d", XY))) # set.seed(123XY)
cat("Dua digit terakhir NPM (XY) :", sprintf("%02d", XY), "\n")## Dua digit terakhir NPM (XY) : 45
## Jenis NPM : Ganjil
## Proporsi data latih : uji : 70 : 30
## Nilai set.seed : 12345
## Loading required package: ggplot2
## Loading required package: lattice
library(ggplot2)
library(knitr)
data(BreastCancer, package = "mlbench") # Memuat dataset BreastCancer
str(BreastCancer) # Menampilkan struktur variabel## 'data.frame': 699 obs. of 11 variables:
## $ Id : chr "1000025" "1002945" "1015425" "1016277" ...
## $ Cl.thickness : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 5 5 3 6 4 8 1 2 2 4 ...
## $ Cell.size : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 1 1 2 ...
## $ Cell.shape : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 2 1 1 ...
## $ Marg.adhesion : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 5 1 1 3 8 1 1 1 1 ...
## $ Epith.c.size : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 2 7 2 3 2 7 2 2 2 2 ...
## $ Bare.nuclei : Factor w/ 10 levels "1","2","3","4",..: 1 10 2 4 1 10 10 1 1 1 ...
## $ Bl.cromatin : Factor w/ 10 levels "1","2","3","4",..: 3 3 3 3 3 9 3 3 1 2 ...
## $ Normal.nucleoli: Factor w/ 10 levels "1","2","3","4",..: 1 2 1 7 1 7 1 1 1 1 ...
## $ Mitoses : Factor w/ 9 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 5 1 ...
## $ Class : Factor w/ 2 levels "benign","malignant": 1 1 1 1 1 2 1 1 1 1 ...
## Id Cl.thickness Cell.size Cell.shape Marg.adhesion Epith.c.size
## 1 1000025 5 1 1 1 2
## 2 1002945 5 4 4 5 7
## 3 1015425 3 1 1 1 2
## 4 1016277 6 8 8 1 3
## 5 1017023 4 1 1 3 2
## 6 1017122 8 10 10 8 7
## Bare.nuclei Bl.cromatin Normal.nucleoli Mitoses Class
## 1 1 3 1 1 benign
## 2 10 3 2 1 benign
## 3 2 3 1 1 benign
## 4 4 3 7 1 benign
## 5 1 3 1 1 benign
## 6 10 9 7 1 malignant
##
## benign malignant
## 458 241
## Id Cl.thickness Cell.size Cell.shape Marg.adhesion
## 0 0 0 0 0
## Epith.c.size Bare.nuclei Bl.cromatin Normal.nucleoli Mitoses
## 0 16 0 0 0
## Class
## 0
## [1] 16
Interpretasi. Data BreastCancer terdiri
atas 699 amatan dan 11 variabel, yaitu
variabel identitas (Id), sembilan variabel prediktor, dan
satu variabel respons kategorik (Class). Persebaran kelas
menunjukkan 458 amatan jinak (benign) dan
241 amatan ganas (malignant), sehingga kelas
tidak seimbang dengan kelas jinak sebagai mayoritas. Terdapat
16 missing value, yang seluruhnya berada pada
variabel Bare.nuclei. Ketidakseimbangan kelas ini menjadi
alasan akurasi saja tidak cukup untuk menilai model, sehingga
sensitivitas dan spesifisitas turut diperhatikan.
Pra-pemrosesan dilakukan dalam empat langkah, yaitu menghapus
variabel Id, menghapus amatan yang memiliki missing
value, mengonversi prediktor yang bertipe factor menjadi
numerik, dan menormalisasi prediktor menggunakan Min-Max. Label kelas
Class tidak dinormalisasi.
bc <- BreastCancer[, -1] # 1. Menghapus variabel Id (bukan prediktor)
bc <- na.omit(bc) # 2. Menghapus amatan dengan missing value
# 3. Mengonversi 9 prediktor (factor) menjadi numerik
bc[, 1:9] <- lapply(bc[, 1:9], function(x) as.numeric(as.character(x)))
# 4. Normalisasi Min-Max pada 9 prediktor
min_max_norm <- function(x) {
return((x - min(x)) / (max(x) - min(x)))
}
bc_norm <- as.data.frame(lapply(bc[, 1:9], min_max_norm))
bc_norm$Class <- bc$Class # Menggabungkan kembali label kelas
str(bc_norm)## 'data.frame': 683 obs. of 10 variables:
## $ Cl.thickness : num 0.444 0.444 0.222 0.556 0.333 ...
## $ Cell.size : num 0 0.333 0 0.778 0 ...
## $ Cell.shape : num 0 0.333 0 0.778 0 ...
## $ Marg.adhesion : num 0 0.444 0 0 0.222 ...
## $ Epith.c.size : num 0.111 0.667 0.111 0.222 0.111 ...
## $ Bare.nuclei : num 0 1 0.111 0.333 0 ...
## $ Bl.cromatin : num 0.222 0.222 0.222 0.222 0.222 ...
## $ Normal.nucleoli: num 0 0.111 0 0.667 0 ...
## $ Mitoses : num 0 0 0 0 0 ...
## $ Class : Factor w/ 2 levels "benign","malignant": 1 1 1 1 1 2 1 1 1 1 ...
## Cl.thickness Cell.size Cell.shape Marg.adhesion
## Min. :0.0000 Min. :0.0000 Min. :0.0000 Min. :0.0000
## 1st Qu.:0.1111 1st Qu.:0.0000 1st Qu.:0.0000 1st Qu.:0.0000
## Median :0.3333 Median :0.0000 Median :0.0000 Median :0.0000
## Mean :0.3825 Mean :0.2390 Mean :0.2461 Mean :0.2034
## 3rd Qu.:0.5556 3rd Qu.:0.4444 3rd Qu.:0.4444 3rd Qu.:0.3333
## Max. :1.0000 Max. :1.0000 Max. :1.0000 Max. :1.0000
## Epith.c.size Bare.nuclei Bl.cromatin Normal.nucleoli
## Min. :0.0000 Min. :0.0000 Min. :0.0000 Min. :0.0000
## 1st Qu.:0.1111 1st Qu.:0.0000 1st Qu.:0.1111 1st Qu.:0.0000
## Median :0.1111 Median :0.0000 Median :0.2222 Median :0.0000
## Mean :0.2483 Mean :0.2827 Mean :0.2717 Mean :0.2077
## 3rd Qu.:0.3333 3rd Qu.:0.5556 3rd Qu.:0.4444 3rd Qu.:0.3333
## Max. :1.0000 Max. :1.0000 Max. :1.0000 Max. :1.0000
## Mitoses Class
## Min. :0.00000 benign :444
## 1st Qu.:0.00000 malignant:239
## Median :0.00000
## Mean :0.06702
## 3rd Qu.:0.00000
## Max. :1.00000
rentang <- data.frame(
Variabel = names(bc)[1:9],
Min_Asli = sapply(bc[1:9], min),
Maks_Asli = sapply(bc[1:9], max),
Min_Norm = sapply(bc_norm[1:9], min),
Maks_Norm = sapply(bc_norm[1:9], max),
row.names = NULL
)
kable(rentang, digits = 3,
caption = "Rentang variabel prediktor sebelum dan sesudah normalisasi Min-Max")| Variabel | Min_Asli | Maks_Asli | Min_Norm | Maks_Norm |
|---|---|---|---|---|
| Cl.thickness | 1 | 10 | 0 | 1 |
| Cell.size | 1 | 10 | 0 | 1 |
| Cell.shape | 1 | 10 | 0 | 1 |
| Marg.adhesion | 1 | 10 | 0 | 1 |
| Epith.c.size | 1 | 10 | 0 | 1 |
| Bare.nuclei | 1 | 10 | 0 | 1 |
| Bl.cromatin | 1 | 10 | 0 | 1 |
| Normal.nucleoli | 1 | 10 | 0 | 1 |
| Mitoses | 1 | 10 | 0 | 1 |
Interpretasi. Setelah variabel Id
dihapus dan 16 amatan yang memuat missing
value dibuang, tersisa 683 amatan yang lengkap
dengan 444 amatan jinak dan 239 amatan
ganas. Seluruh prediktor telah dikonversi menjadi numerik dengan rentang
asli 1 sampai 10. Setelah normalisasi
Min-Max, seluruh prediktor berada pada interval [0, 1]. Dengan demikian,
setiap variabel memiliki skala yang sebanding sehingga tidak ada
variabel yang mendominasi perhitungan jarak Euclidean pada
k-NN.
Data dibagi secara acak sesuai ketentuan NPM, yaitu 70% : 30% untuk
NPM ganjil dan 80% : 20% untuk NPM genap. Fungsi
set.seed(123XY) digunakan agar hasil pengambilan sampel
dapat direproduksi.
set.seed(seed_nilai)
# Mengambil indeks sampel acak sesuai proporsi data latih
train_indices <- sample(seq_len(nrow(bc_norm)), size = floor(prop_latih * nrow(bc_norm)))
# Memisahkan matriks fitur prediktor
train_x <- bc_norm[train_indices, 1:9]
test_x <- bc_norm[-train_indices, 1:9]
# Memisahkan vektor label kelas
train_y <- bc_norm[train_indices, 10]
test_y <- bc_norm[-train_indices, 10]
cat("Dimensi Data Latih (Train):", nrow(train_x), "baris,", ncol(train_x), "fitur\n")## Dimensi Data Latih (Train): 478 baris, 9 fitur
## Dimensi Data Uji (Test) : 205 baris, 9 fitur
# Sebaran kelas pada data latih dan data uji
kable(rbind(Latih = table(train_y), Uji = table(test_y)),
caption = "Sebaran kelas pada data latih dan data uji")| benign | malignant | |
|---|---|---|
| Latih | 305 | 173 |
| Uji | 139 | 66 |
Interpretasi. Data latih berjumlah 478 amatan (70%) dan data uji berjumlah 205 amatan (30%), masing-masing dengan 9 fitur prediktor. Pengambilan sampel yang acak membuat proporsi kelas ganas pada data uji (66 dari 205 amatan) tidak persis sama dengan proporsi pada seluruh data, tetapi kedua kelas tetap terwakili pada kedua data. Karena k-NN tidak membentuk model pada tahap pelatihan, data latih berfungsi sebagai himpunan referensi untuk mencari tetangga terdekat bagi setiap data uji.
Pemodelan k-NN dilakukan untuk \(k \in \{3, 5, 7, 9, 11\}\). Pada evaluasi, kelas malignant ditetapkan sebagai kelas positif sehingga sensitivitas mengukur kemampuan model mendeteksi tumor ganas, sedangkan spesifisitas mengukur kemampuan model mengenali tumor jinak.
k_values <- c(3, 5, 7, 9, 11)
hasil_list <- list()
cm_list <- list()
for (k_val in k_values) {
set.seed(seed_nilai) # menjaga hasil tetap reproduktif bila terjadi seri suara
pred <- knn(train = train_x, test = test_x, cl = train_y, k = k_val)
cm <- confusionMatrix(data = pred, reference = test_y, positive = "malignant")
cm_list[[as.character(k_val)]] <- cm
hasil_list[[as.character(k_val)]] <- data.frame(
k = k_val,
Accuracy = unname(cm$overall["Accuracy"]),
Sensitivity = unname(cm$byClass["Sensitivity"]),
Specificity = unname(cm$byClass["Specificity"]),
FN = cm$table["benign", "malignant"], # ganas diprediksi jinak
FP = cm$table["malignant", "benign"] # jinak diprediksi ganas
)
}
tabel_k <- do.call(rbind, hasil_list)
rownames(tabel_k) <- NULLTabel perbandingan metrik evaluasi untuk setiap nilai k disajikan sebagai berikut.
kable(tabel_k, digits = 4,
col.names = c("k", "Accuracy", "Sensitivity", "Specificity",
"False Negative", "False Positive"),
caption = "Perbandingan metrik evaluasi k-NN pada data uji (kelas positif: malignant)")| k | Accuracy | Sensitivity | Specificity | False Negative | False Positive |
|---|---|---|---|---|---|
| 3 | 0.9707 | 0.9697 | 0.9712 | 2 | 4 |
| 5 | 0.9707 | 0.9545 | 0.9784 | 3 | 3 |
| 7 | 0.9756 | 0.9697 | 0.9784 | 2 | 3 |
| 9 | 0.9707 | 0.9545 | 0.9784 | 3 | 3 |
| 11 | 0.9707 | 0.9545 | 0.9784 | 3 | 3 |
Interpretasi. Dari 205 data uji, akurasi model berkisar antara 97.07% sampai 97.56%. Akurasi tertinggi diperoleh pada k = 7, sensitivitas tertinggi (96.97%) pada k = 3, 7, dan spesifisitas tertinggi (97.84%) pada k = 5, 7, 9, 11. Jumlah False Negative, yaitu tumor ganas yang salah didiagnosis sebagai jinak, berkisar antara 2 sampai 3 amatan, sedangkan jumlah False Positive berkisar antara 3 sampai 4 amatan. Karena data uji hanya berjumlah 205 amatan, satu amatan yang berubah prediksinya mengubah akurasi sebesar 0.49 poin persentase, sehingga selisih antar nilai k yang kecil sebaiknya ditafsirkan dengan hati-hati.
Visualisasi perbandingan ketiga metrik terhadap nilai k disajikan sebagai berikut.
data_plot <- rbind(
data.frame(k = tabel_k$k, Metrik = "Accuracy", Nilai = tabel_k$Accuracy),
data.frame(k = tabel_k$k, Metrik = "Sensitivity", Nilai = tabel_k$Sensitivity),
data.frame(k = tabel_k$k, Metrik = "Specificity", Nilai = tabel_k$Specificity)
)
ggplot(data_plot, aes(x = k, y = Nilai, color = Metrik)) +
geom_line(linewidth = 1.1) +
geom_point(size = 2.8) +
scale_x_continuous(breaks = k_values) +
scale_y_continuous(labels = scales::percent_format(accuracy = 0.1)) +
labs(
title = "Perbandingan Metrik Evaluasi k-NN terhadap Nilai k",
subtitle = paste0("Data Uji BreastCancer (Ukuran Sampel Uji = ", nrow(test_x), ")"),
x = "Jumlah Tetangga Terdekat (k)",
y = "Nilai Metrik",
color = "Metrik"
) +
theme_minimal(base_size = 11) +
theme(
plot.title = element_text(face = "bold", hjust = 0.5),
plot.subtitle = element_text(hjust = 0.5),
panel.grid.minor = element_blank()
)Dalam diagnosis kanker, False Negative (tumor ganas yang diprediksi jinak) lebih berbahaya daripada False Positive karena pasien yang sebenarnya sakit tidak mendapat penanganan lanjutan. Oleh karena itu, nilai k optimal dipilih berdasarkan jumlah False Negative paling sedikit, kemudian False Positive paling sedikit, dan terakhir nilai k terkecil.
urut <- order(tabel_k$FN, tabel_k$FP, tabel_k$k)
k_opt <- tabel_k$k[urut[1]]
baris_opt <- tabel_k[tabel_k$k == k_opt, ]
cat("Nilai k paling optimal:", k_opt, "\n")## Nilai k paling optimal: 7
## Confusion Matrix and Statistics
##
## Reference
## Prediction benign malignant
## benign 136 2
## malignant 3 64
##
## Accuracy : 0.9756
## 95% CI : (0.944, 0.992)
## No Information Rate : 0.678
## P-Value [Acc > NIR] : <2e-16
##
## Kappa : 0.9444
##
## Mcnemar's Test P-Value : 1
##
## Sensitivity : 0.9697
## Specificity : 0.9784
## Pos Pred Value : 0.9552
## Neg Pred Value : 0.9855
## Prevalence : 0.3220
## Detection Rate : 0.3122
## Detection Prevalence : 0.3268
## Balanced Accuracy : 0.9741
##
## 'Positive' Class : malignant
##
kable(as.matrix(cm_opt$table),
caption = paste0("Confusion matrix k = ", k_opt,
" (baris: prediksi; kolom: kelas aktual)"))| benign | malignant | |
|---|---|---|
| benign | 136 | 2 |
| malignant | 3 | 64 |
Interpretasi. Nilai k paling optimal adalah k = 7, dengan jumlah False Negative sebanyak 2 amatan, sensitivitas 96.97%, spesifisitas 97.84%, dan akurasi 97.56%. Pada Confusion Matrix tersebut, 64 tumor ganas terdeteksi dengan benar, 136 tumor jinak terdeteksi dengan benar, 2 tumor ganas salah didiagnosis sebagai jinak, dan 3 tumor jinak salah didiagnosis sebagai ganas. Jumlah False Negative yang sama (2 amatan) juga dicapai pada k = 3, 7, sehingga k = 7 dipilih karena memiliki False Positive paling sedikit dan, apabila masih sama, nilai k yang terkecil. Masih terdapat 2 tumor ganas yang terlewat sehingga model ini sebaiknya digunakan sebagai alat bantu dan bukan pengganti pemeriksaan medis. Perlu dicatat bahwa pemilihan ini hanya didasarkan pada satu pembagian data dengan 205 data uji, sehingga selisih False Negative yang kecil antar nilai k belum tentu bersifat stabil pada data lain.
Berdasarkan hasil praktikum, model k-NN pada data Wisconsin Breast Cancer dengan pembagian data 70% : 30% menghasilkan akurasi data uji antara 97.07% hingga 97.56% untuk \(k \in \{3, 5, 7, 9, 11\}\). Kinerja yang tinggi ini wajar karena karakteristik sel tumor seperti ukuran, bentuk, dan kekompakan inti sel berbeda cukup jelas antara tumor jinak dan ganas. Penskalaan fitur melalui normalisasi Min-Max tetap diperlukan sebagai praktik baku karena k-NN sepenuhnya bergantung pada perhitungan jarak antar amatan. Pada konteks diagnosis medis, akurasi tertinggi tidak selalu menjadi satu-satunya patokan. Kesalahan False Negative berakibat lebih serius daripada False Positive, sehingga nilai k = 7 dipilih karena paling meminimalkan tumor ganas yang tidak terdeteksi.
Algoritma k-NN merupakan metode non-parametrik supervised learning berbasis instance (lazy learning) yang tidak membentuk model eksplisit pada tahap pelatihan, melainkan menyimpan seluruh data latih. Prinsip kerjanya adalah menentukan k tetangga terdekat dari data uji berdasarkan metrik jarak, kemudian menetapkan kelas melalui suara terbanyak (majority voting). Nilai k mengatur kompromi antara bias dan varians sehingga perlu dieksplorasi untuk memperoleh kinerja yang optimal.
Karena k-NN menghitung jarak secara langsung dari selisih
nilai variabel, penskalaan fitur diperlukan agar setiap variabel
memberikan kontribusi yang seimbang. Pada data BreastCancer,
pra-pemrosesan dilakukan dengan menghapus variabel Id,
membuang 16 amatan yang memuat missing value sehingga tersisa
683 amatan, mengonversi sembilan prediktor menjadi numerik, dan
menormalisasi seluruh prediktor ke interval [0, 1] menggunakan Min-Max.
Normalisasi ini membuat seluruh variabel memiliki skala yang sama
sehingga tidak ada variabel yang mendominasi perhitungan jarak
Euclidean.
Implementasi k-NN pada R dilakukan secara terstruktur
melalui persiapan data, pra-pemrosesan, pembagian data latih dan data
uji dengan proporsi 70:30 menggunakan set.seed(12345),
serta klasifikasi menggunakan fungsi knn() dari pustaka
class untuk \(k \in \{3, 5, 7, 9,
11\}\). Pembagian data menghasilkan 478 data latih dan 205 data
uji dengan sembilan fitur prediktor. Evaluasi dilakukan menggunakan
fungsi confusionMatrix() dari pustaka caret
dengan kelas malignant sebagai kelas positif.
Hasil evaluasi menunjukkan bahwa akurasi data uji berkisar antara 97.07% hingga 97.56%, sensitivitas berkisar antara 95.45% hingga 96.97%, dan spesifisitas berkisar antara 97.12% hingga 97.84% untuk kelima nilai k. Jumlah False Negative berkisar antara 2 hingga 3 amatan dari 66 tumor ganas pada data uji. Dengan demikian, perbandingan antar nilai k diperlukan untuk memilih model yang paling sesuai dengan tujuan diagnosis.
Dengan mempertimbangkan pentingnya meminimalkan False Negative pada diagnosis kanker, nilai k paling optimal adalah k = 7, dengan 2 False Negative, sensitivitas 96.97%, spesifisitas 97.84%, dan akurasi 97.56%. Nilai k ini dipilih agar tumor ganas yang salah didiagnosis sebagai jinak sesedikit mungkin. Dengan demikian, model dengan nilai k tersebut paling sesuai dengan tujuan praktikum, yaitu mendeteksi tumor ganas secara akurat dengan risiko kesalahan diagnosis serendah mungkin.
Secara keseluruhan, model k-NN menunjukkan kinerja klasifikasi yang baik dalam membedakan tumor jinak dan ganas. Namun, karena data uji hanya berjumlah 205 amatan dan hasil bergantung pada satu pembagian data, pemilihan k perlu ditafsirkan dengan hati-hati dan model sebaiknya digunakan sebagai alat bantu, bukan pengganti diagnosis medis. Hasil ini juga menunjukkan bahwa sembilan karakteristik sel tumor cukup informatif untuk membedakan tumor jinak dan ganas.
Program R sangatlah bermanfaat bagi semua orang khususnya pada mahasiswa statistika, hal ini sangat memudahkan dalam mengolah suatu data di komputer. Tetapi pengguna harus lebih hati-hati dalam memasukan sintaks dan data karena apabila terjadi kesalahan dalam memasukan maupun mengolah data tersebut hasilnya akan sangat berpengaruh. Selain itu, hasil analisis sebaiknya selalu diperiksa kembali agar kesimpulan yang diambil sesuai dengan output yang dihasilkan.
Farahdinna, F., & Shofy, M. N. (2025). Implementasi K-Nearest Neighbor untuk klasifikasi bunga Iris. JATI (Jurnal Mahasiswa Teknik Informatika), 9(2), 3510–3514.
Fransiska, H. (2026). Modul Praktikum Machine Learning. Universitas Bengkulu.
Perkasa, A. A., Zendrato, E. S., Pratama, I., & Simamora, H. (2026). Klasifikasi laju pertumbuhan penduduk antar provinsi di Indonesia menggunakan metode K-Nearest Neighbor. MATHunesa: Jurnal Ilmiah Matematika, 14(2), 271–278.