BAB 1 PENDAHULUAN

1.1 Latar Belakang

Klasifikasi merupakan salah satu teknik dalam machine learning yang digunakan untuk mengelompokkan objek ke dalam kategori tertentu berdasarkan karakteristik yang dimilikinya (Farahdinna & Shofy, 2025). Salah satu algoritma yang sering digunakan adalah K-Nearest Neighbors (k-NN), yaitu algoritma terbimbing yang menentukan kelas suatu data berdasarkan mayoritas kelas dari k tetangga terdekatnya dalam ruang fitur (Perkasa dkk., 2026). Algoritma ini termasuk metode non-parametrik dan instance-based learning (lazy learning) karena tidak membentuk model eksplisit pada tahap pelatihan, melainkan menyimpan seluruh data pelatihan dan menunda komputasi hingga terdapat data baru yang akan diprediksi (Fransiska, 2026).

Kinerja k-NN sangat dipengaruhi oleh dua hal, yaitu skala fitur dan pemilihan nilai k. Karena perhitungan jarak dilakukan langsung terhadap selisih nilai antar variabel, variabel dengan rentang nilai yang besar dapat mendominasi jarak sehingga diperlukan normalisasi agar setiap fitur memiliki kontribusi yang seimbang (Perkasa dkk., 2026). Selain itu, nilai k yang terlalu kecil membuat model sensitif terhadap noise dan berpotensi mengalami overfitting, sedangkan nilai k yang terlalu besar dapat menyebabkan underfitting (Farahdinna & Shofy, 2025).

Konsep dan formulasi k-NN, pentingnya penskalaan fitur, implementasi menggunakan pustaka class dan caret pada R, evaluasi menggunakan Confusion Matrix, akurasi, sensitivitas, spesifisitas, dan Positive Predictive Value, serta optimasi hiperparameter k dengan visualisasi kurva akurasi menggunakan ggplot2 (Fransiska, 2026). Data yang digunakan adalah data Iris yang terdiri atas tiga spesies bunga. Melalui praktikum ini, mahasiswa diharapkan mampu membangun, mengevaluasi, dan mengoptimalkan model k-NN secara mandiri.

1.2 Rumusan Masalah

Rumusan masalah pada praktikum ini adalah sebagai berikut:

  1. Bagaimana memahami konsep fundamental, formulasi matematis, dan prinsip kerja algoritma K-Nearest Neighbors (k-NN) sebagai metode non-parametrik supervised learning?
  2. Bagaimana memahami pentingnya penskalaan fitur (feature scaling) dalam komputasi berbasis metrik jarak (distance metrics)?
  3. Bagaimana mengimplementasikan algoritma k-NN secara terstruktur dan mandiri menggunakan bahasa pemrograman R dengan pustaka class dan caret?
  4. Bagaimana mengevaluasi performa model klasifikasi menggunakan Confusion Matrix, Akurasi (Accuracy), Sensitivitas (Sensitivity), Spesifisitas (Specificity), dan Positive Predictive Value?
  5. Bagaimana melakukan eksplorasi optimasi hiperparameter nilai k (hyperparameter tuning) serta memvisualisasikan kurva performanya menggunakan paket ggplot2?

1.3 Tujuan Praktikum

Tujuan dari praktikum ini adalah sebagai berikut:

  1. Memahami konsep fundamental, formulasi matematis, dan prinsip kerja algoritma K-Nearest Neighbors (k-NN) sebagai metode non-parametrik supervised learning.
  2. Memahami pentingnya penskalaan fitur (feature scaling) dalam komputasi berbasis metrik jarak (distance metrics).
  3. Mengimplementasikan algoritma k-NN secara terstruktur dan mandiri menggunakan bahasa pemrograman R dengan pustaka class dan caret.
  4. Mengevaluasi performa model klasifikasi menggunakan Confusion Matrix, Akurasi (Accuracy), Sensitivitas (Sensitivity), Spesifisitas (Specificity), dan Positive Predictive Value.
  5. Melakukan eksplorasi optimasi hiperparameter nilai k (hyperparameter tuning) serta memvisualisasikan kurva performanya menggunakan paket ggplot2.

1.4 Batasan Masalah

Batasan masalah pada praktikum ini adalah penerapan algoritma k-NN untuk klasifikasi diagnosis tumor payudara ke dalam kelas jinak (benign) atau ganas (malignant) menggunakan data medis Wisconsin Breast Cancer Database (BreastCancer) dari paket mlbench. Tahap pra-pemrosesan data meliputi penghapusan variabel identitas (Id), penanganan missing value, konversi variabel prediktor menjadi numerik, dan penskalaan fitur Min-Max. Pembagian data mengikuti ketentuan NPM, yaitu 70% data latih dan 30% data uji untuk NPM ganjil, atau 80% data latih dan 20% data uji untuk NPM genap, dengan inisialisasi set.seed(123XY) dengan XY adalah dua digit terakhir NPM. Pemodelan k-NN dilakukan untuk nilai k ∈ {3, 5, 7, 9, 11}. Evaluasi model dilakukan menggunakan akurasi, sensitivitas, dan spesifisitas dengan kelas malignant sebagai kelas positif, kemudian nilai k paling optimal dipilih dengan mempertimbangkan pentingnya meminimalkan kesalahan diagnosis sel kanker ganas (False Negative).

BAB 2 TINJAUAN PUSTAKA

2.1 Konsep Dasar dan Karakteristik Asimtotik k-NN

Algoritma K-Nearest Neighbors (k-NN) merupakan metode klasifikasi non-parametrik. Berbeda dengan algoritma parametrik seperti Linear Discriminant Analysis atau regresi logistik yang mengasumsikan bentuk distribusi data tertentu, k-NN termasuk kelompok instance-based learning atau lazy learning. Model ini tidak membentuk fungsi perantara pada tahap pelatihan, melainkan menyimpan seluruh data pelatihan dan menunda komputasi hingga terdapat data baru (query point) yang hendak diprediksi (Fransiska, 2026; Farahdinna & Shofy, 2025).

Diberikan himpunan data latih yang terdiri atas \(n\) observasi berpasangan sebagai berikut.

\[ D = \{(x_1, y_1), (x_2, y_2), \ldots, (x_n, y_n)\} \]

Pada himpunan tersebut, \(x_i \in \mathbb{R}^p\) merupakan vektor fitur berdimensi \(p\) dan \(y_i \in \{1, 2, \ldots, C\}\) adalah label kelas diskret. Untuk suatu data uji baru dengan vektor fitur \(x_0 \in \mathbb{R}^p\), algoritma mengidentifikasi himpunan \(N_k(x_0)\) yang memuat \(k\) tetangga terdekat dari \(x_0\) berdasarkan ukuran kedekatan jarak tertentu. Estimasi probabilitas posterior bahwa \(x_0\) tergolong ke dalam kelas \(j\) diformulasikan sebagai proporsi kelas \(j\) di antara tetangga terdekatnya.

\[ \hat{P}(Y = j \mid X = x_0) = \frac{1}{k}\sum_{i \in N_k(x_0)} I(y_i = j) \]

Fungsi \(I(\cdot)\) merupakan fungsi indikator yang bernilai 1 jika \(y_i = j\) dan bernilai 0 jika \(y_i \neq j\). Keputusan klasifikasi final \(\hat{G}(x_0)\) diambil berdasarkan prinsip suara terbanyak (majority voting), yaitu kelas dengan probabilitas posterior terbesar.

\[ \hat{G}(x_0) = \arg\max_{j \in \{1, 2, \ldots, C\}} \hat{P}(Y = j \mid X = x_0) \]

2.1.1 Teorema Batas Kesalahan

Menurut modul praktikum, ketika ukuran sampel data latih mendekati tak hingga (\(n \to \infty\)), probabilitas kesalahan klasifikasi dari tetangga terdekat tunggal (\(k = 1\)), yang dinotasikan dengan \(R\), dibatasi oleh probabilitas kesalahan pengklasifikasi Bayes optimal (\(R^*\)) melalui batas berikut (Fransiska, 2026).

\[ R^* \le R \le R^*\left(2 - \frac{C}{C-1}R^*\right) \le 2R^* \]

Teorema ini memberikan jaminan matematis bahwa performa aturan tetangga terdekat secara asimtotik memiliki tingkat kesalahan paling buruk tidak lebih dari dua kali lipat kesalahan pengklasifikasi optimal teoritis (pengklasifikasi Bayes). Dengan demikian, meskipun sederhana, k-NN memiliki landasan teoretis yang kuat dalam hal konvergensi kesalahan. Jaminan ini berlaku pada kondisi data latih yang sangat besar sehingga pada data berukuran kecil kinerja nyata model tetap perlu dievaluasi secara empiris.

2.2 Kompromi Bias dan Varians (Bias-Variance Tradeoff)

Pemilihan nilai hiperparameter \(k\) memegang peranan krusial dalam mengendalikan keseimbangan antara bias dan varians. Pada nilai \(k\) kecil (misalnya \(k = 1\)), model memiliki fleksibilitas tinggi dan batas keputusan (decision boundary) yang sangat rumit sehingga menghasilkan bias yang sangat rendah namun varians yang sangat tinggi. Akibatnya, model menjadi sangat sensitif terhadap derau (noise) dan rentan mengalami overfitting (Fransiska, 2026; Farahdinna & Shofy, 2025).

Pada nilai \(k\) besar (misalnya \(k \to n\)), batas keputusan menjadi sangat halus (oversmoothing) sehingga menghasilkan varians yang rendah namun bias yang tinggi. Jika \(k\) terlalu besar, model berpotensi mengalami underfitting karena keputusan lokal terdistorsi oleh prevalensi kelas mayoritas secara global. Oleh karena itu, nilai \(k\) yang optimal perlu dicari melalui eksplorasi berbagai nilai \(k\) (hyperparameter tuning) (Fransiska, 2026).

2.3 Metrik Jarak (Distance Metrics)

Jarak antara dua titik observasi \(x = (x_1, x_2, \ldots, x_p)^\top\) dan \(y = (y_1, y_2, \ldots, y_p)^\top\) dalam ruang fitur dihitung menggunakan berbagai formulasi metrik jarak (Fransiska, 2026). Pemilihan metrik bergantung pada tipe variabel dan karakteristik data. Beberapa metrik jarak yang umum digunakan dijelaskan sebagai berikut.

1. Jarak Euclidean (\(L_2\) norm) adalah metrik geometris paling umum untuk variabel bertipe numerik kontinu. Metrik ini menghitung akar dari jumlah kuadrat selisih setiap variabel. Jarak Euclidean juga merupakan metrik yang umum digunakan pada penerapan k-NN (Perkasa dkk., 2026).

\[ d(x, y) = \sqrt{\sum_{i=1}^{p}(x_i - y_i)^2} \]

2. Jarak Manhattan (\(L_1\) norm atau city block distance) adalah metrik berbasis jumlah selisih mutlak. Metrik ini lebih tangguh terhadap keberadaan pencilan (outliers). Perhitungannya lebih sederhana karena tidak melibatkan kuadrat dan akar.

\[ d(x, y) = \sum_{i=1}^{p}|x_i - y_i| \]

3. Jarak Minkowski (\(L_m\) norm) adalah generalisasi keluarga metrik \(L_m\). Parameter \(m = 1\) menghasilkan jarak Manhattan, sedangkan \(m = 2\) menghasilkan jarak Euclidean. Dengan demikian, kedua metrik sebelumnya merupakan kasus khusus dari jarak Minkowski.

\[ d(x, y) = \left(\sum_{i=1}^{p}|x_i - y_i|^m\right)^{1/m}, \quad m \ge 1 \]

4. Jarak Mahalanobis adalah metrik yang menginkorporasikan matriks kovarians \(\Sigma\). Dengan demikian, metrik ini mengoreksi korelasi antar variabel serta mengatasi perbedaan skala. Metrik ini lebih kompleks karena memerlukan estimasi invers matriks kovarians.

\[ d(x, y) = \sqrt{(x - y)^\top \Sigma^{-1}(x - y)} \]

5. Jarak Hamming adalah ukuran ketidaksamaan yang dikhususkan untuk data bertipe biner atau kategorik kualitatif. Metrik ini menghitung proporsi variabel yang nilainya berbeda antara dua observasi. Jarak ini tidak sesuai untuk variabel numerik kontinu seperti pada data Iris.

\[ d(x, y) = \frac{1}{p}\sum_{i=1}^{p} I(x_i \neq y_i) \]

2.4 Urgensi Transformasi dan Penskalaan Fitur (Feature Scaling)

Karena metrik jarak Euclidean dan Manhattan menghitung selisih numerik secara langsung, variabel dengan rentang nilai yang besar akan mendominasi perhitungan jarak. Oleh karena itu, tahap pra-pemrosesan data perlu menyertakan penskalaan fitur agar setiap fitur memiliki kontribusi yang seimbang (Fransiska, 2026; Perkasa dkk., 2026). Dua metode penskalaan yang dibahas pada modul adalah normalisasi Min-Max dan standarisasi Z-Score.

Normalisasi Min-Max mentransformasikan nilai variabel ke dalam interval \([0, 1]\).

\[ x_{scaled} = \frac{x - x_{min}}{x_{max} - x_{min}} \]

Standarisasi Z-Score mentransformasikan data agar memiliki rata-rata \(\mu = 0\) dan standar deviasi \(\sigma = 1\).

\[ z = \frac{x - \mu}{\sigma} \]

Kedua metode menyamakan skala antar variabel sehingga selisih pada satu variabel tidak mendominasi jarak total. Normalisasi Min-Max menghasilkan rentang yang tetap, yaitu antara 0 dan 1, sedangkan Z-Score menghasilkan nilai yang berpusat di nol. Pemilihan keduanya bergantung pada karakteristik data, misalnya keberadaan pencilan.

2.5 Evaluasi Model Klasifikasi

Evaluasi model klasifikasi dilakukan dengan membandingkan kelas aktual dan kelas hasil prediksi yang disajikan dalam Confusion Matrix. Pada kasus dua kelas, Confusion Matrix disusun sebagai berikut.

Predicted Positive Predicted Negative
Actual Positive True Positive (TP) False Negative (FN)
Actual Negative False Positive (FP) True Negative (TN)

Berdasarkan Confusion Matrix, ukuran evaluasi yang digunakan pada praktikum ini adalah akurasi, sensitivitas, spesifisitas, dan Positive Predictive Value (PPV) (Fransiska, 2026; Perkasa dkk., 2026).

\[ Accuracy = \frac{TP+TN}{TP+TN+FP+FN}, \qquad Sensitivity = \frac{TP}{TP+FN} \]

\[ Specificity = \frac{TN}{TN+FP}, \qquad PPV = \frac{TP}{TP+FP} \]

Akurasi menyatakan proporsi seluruh prediksi yang benar. Sensitivitas menyatakan kemampuan model mendeteksi data yang benar-benar termasuk suatu kelas, spesifisitas menyatakan kemampuan model mengenali data yang bukan termasuk kelas tersebut, dan PPV menyatakan ketepatan prediksi pada kelas tersebut. Pada klasifikasi multikelas seperti data Iris, sensitivitas, spesifisitas, dan PPV dihitung untuk setiap kelas dengan pendekatan satu kelas terhadap kelas lainnya (one-vs-rest), sedangkan akurasi dihitung dari seluruh amatan.

2.6 Implementasi k-NN di R

Implementasi k-NN pada R dilakukan menggunakan fungsi knn() dari pustaka class, yang memerlukan matriks fitur data latih (train), matriks fitur data uji (test), vektor label kelas data latih (cl), dan jumlah tetangga (k). Evaluasi model dilakukan menggunakan fungsi confusionMatrix() dari pustaka caret yang menghasilkan Confusion Matrix beserta statistik evaluasi seperti akurasi, sensitivitas, spesifisitas, dan Positive Predictive Value. Visualisasi kurva performa terhadap nilai k dibuat menggunakan pustaka ggplot2 (Fransiska, 2026).

BAB 3 METODE PENELITIAN

3.1 Jenis dan Sumber Data

Jenis data yang digunakan merupakan data kuantitatif, yaitu data berbentuk angka yang dapat dianalisis menggunakan metode statistik. Sumber data adalah data medis riil Wisconsin Breast Cancer Database yang dimuat melalui paket mlbench dengan perintah data(BreastCancer, package = "mlbench"). Data ini terdiri atas 699 amatan hasil pemeriksaan sel tumor payudara, dengan label diagnosis jinak (benign) atau ganas (malignant). Data tersebut digunakan untuk membentuk model k-NN, mengevaluasi hasil klasifikasi, dan menentukan nilai k yang paling optimal.

3.2 Variabel Data

Variabel respons (Y) adalah Class yang bertipe kategorik dengan dua kelas, yaitu benign (jinak) dan malignant (ganas). Variabel prediktor (X) terdiri atas sembilan karakteristik sel yang dinilai dengan skala 1 sampai 10, yaitu Cl.thickness, Cell.size, Cell.shape, Marg.adhesion, Epith.c.size, Bare.nuclei, Bl.cromatin, Normal.nucleoli, dan Mitoses. Variabel Id merupakan nomor identitas sampel sehingga tidak digunakan sebagai prediktor. Pada data asli, variabel prediktor bertipe factor berurutan (ordered) sehingga perlu dikonversi menjadi numerik agar dapat digunakan pada perhitungan jarak Euclidean.

3.3 Analisis Data

Tahapan analisis data pada praktikum ini adalah sebagai berikut.

  1. Persiapan data. Memuat pustaka class, caret, dan ggplot2, memuat data BreastCancer, serta memeriksa struktur data, enam observasi teratas, sebaran frekuensi kelas, dan missing value.
  2. Pra-pemrosesan data. Menghapus variabel Id, menghapus amatan yang memiliki missing value, mengonversi sembilan variabel prediktor menjadi numerik, kemudian menormalisasi prediktor menggunakan Min-Max ke interval [0, 1].
  3. Pembagian data. Data dibagi secara acak menjadi data latih dan data uji menggunakan set.seed(123XY) dengan XY adalah dua digit terakhir NPM, yaitu 70% : 30% untuk NPM ganjil dan 80% : 20% untuk NPM genap, kemudian dipisahkan menjadi matriks fitur dan vektor label.
  4. Klasifikasi k-NN. Model dibentuk menggunakan fungsi knn() untuk nilai \(k \in \{3, 5, 7, 9, 11\}\) dan digunakan untuk memprediksi kelas pada data uji.
  5. Evaluasi model. Hasil prediksi pada setiap nilai k dievaluasi menggunakan confusionMatrix() dengan kelas malignant sebagai kelas positif, kemudian disusun tabel perbandingan akurasi, sensitivitas, dan spesifisitas.
  6. Pemilihan k optimal. Nilai k paling optimal dipilih dengan mempertimbangkan pentingnya meminimalkan False Negative, yaitu tumor ganas yang salah didiagnosis sebagai jinak. Nilai k dengan False Negative paling sedikit dipilih, dan apabila terdapat nilai yang sama, dipilih yang memiliki False Positive paling sedikit, kemudian k yang terkecil.
  7. Visualisasi dan interpretasi. Perbandingan metrik terhadap nilai k divisualisasikan menggunakan ggplot2, kemudian setiap output diinterpretasikan.

3.4 Diagram Alir

Diagram alir berikut merupakan langkah-langkah yang dilakukan untuk menjawab rumusan masalah.

BAB 4 HASIL DAN PEMBAHASAN

4.1 Persiapan Data BreastCancer

Tahap pertama adalah mengatur parameter pembagian data berdasarkan NPM, memuat pustaka yang diperlukan, dan menyiapkan data BreastCancer. Nilai XY pada kode berikut diisi dengan dua digit terakhir NPM praktikan.

# ==== ISI DENGAN DUA DIGIT TERAKHIR NPM ====
XY <- 45
# ===========================================

npm_ganjil  <- (XY %% 2) == 1                     # NPM ganjil jika digit terakhir ganjil
prop_latih  <- if (npm_ganjil) 0.70 else 0.80     # Ganjil 70:30, Genap 80:20
seed_nilai  <- as.integer(paste0("123", sprintf("%02d", XY)))  # set.seed(123XY)

cat("Dua digit terakhir NPM (XY) :", sprintf("%02d", XY), "\n")
## Dua digit terakhir NPM (XY) : 45
cat("Jenis NPM                   :", ifelse(npm_ganjil, "Ganjil", "Genap"), "\n")
## Jenis NPM                   : Ganjil
cat("Proporsi data latih : uji   :", prop_latih * 100, ":", (1 - prop_latih) * 100, "\n")
## Proporsi data latih : uji   : 70 : 30
cat("Nilai set.seed              :", seed_nilai, "\n")
## Nilai set.seed              : 12345
library(class)
library(caret)
## Loading required package: ggplot2
## Loading required package: lattice
library(ggplot2)
library(knitr)

data(BreastCancer, package = "mlbench") # Memuat dataset BreastCancer
str(BreastCancer) # Menampilkan struktur variabel
## 'data.frame':    699 obs. of  11 variables:
##  $ Id             : chr  "1000025" "1002945" "1015425" "1016277" ...
##  $ Cl.thickness   : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 5 5 3 6 4 8 1 2 2 4 ...
##  $ Cell.size      : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 1 1 2 ...
##  $ Cell.shape     : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 2 1 1 ...
##  $ Marg.adhesion  : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 5 1 1 3 8 1 1 1 1 ...
##  $ Epith.c.size   : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 2 7 2 3 2 7 2 2 2 2 ...
##  $ Bare.nuclei    : Factor w/ 10 levels "1","2","3","4",..: 1 10 2 4 1 10 10 1 1 1 ...
##  $ Bl.cromatin    : Factor w/ 10 levels "1","2","3","4",..: 3 3 3 3 3 9 3 3 1 2 ...
##  $ Normal.nucleoli: Factor w/ 10 levels "1","2","3","4",..: 1 2 1 7 1 7 1 1 1 1 ...
##  $ Mitoses        : Factor w/ 9 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 5 1 ...
##  $ Class          : Factor w/ 2 levels "benign","malignant": 1 1 1 1 1 2 1 1 1 1 ...
head(BreastCancer) # Menampilkan 6 observasi teratas
##        Id Cl.thickness Cell.size Cell.shape Marg.adhesion Epith.c.size
## 1 1000025            5         1          1             1            2
## 2 1002945            5         4          4             5            7
## 3 1015425            3         1          1             1            2
## 4 1016277            6         8          8             1            3
## 5 1017023            4         1          1             3            2
## 6 1017122            8        10         10             8            7
##   Bare.nuclei Bl.cromatin Normal.nucleoli Mitoses     Class
## 1           1           3               1       1    benign
## 2          10           3               2       1    benign
## 3           2           3               1       1    benign
## 4           4           3               7       1    benign
## 5           1           3               1       1    benign
## 6          10           9               7       1 malignant
table(BreastCancer$Class) # Memeriksa persebaran frekuensi kelas
## 
##    benign malignant 
##       458       241
# Memeriksa missing value pada setiap variabel
colSums(is.na(BreastCancer))
##              Id    Cl.thickness       Cell.size      Cell.shape   Marg.adhesion 
##               0               0               0               0               0 
##    Epith.c.size     Bare.nuclei     Bl.cromatin Normal.nucleoli         Mitoses 
##               0              16               0               0               0 
##           Class 
##               0
sum(is.na(BreastCancer))
## [1] 16

Interpretasi. Data BreastCancer terdiri atas 699 amatan dan 11 variabel, yaitu variabel identitas (Id), sembilan variabel prediktor, dan satu variabel respons kategorik (Class). Persebaran kelas menunjukkan 458 amatan jinak (benign) dan 241 amatan ganas (malignant), sehingga kelas tidak seimbang dengan kelas jinak sebagai mayoritas. Terdapat 16 missing value, yang seluruhnya berada pada variabel Bare.nuclei. Ketidakseimbangan kelas ini menjadi alasan akurasi saja tidak cukup untuk menilai model, sehingga sensitivitas dan spesifisitas turut diperhatikan.

4.2 Pra-pemrosesan Data

Pra-pemrosesan dilakukan dalam empat langkah, yaitu menghapus variabel Id, menghapus amatan yang memiliki missing value, mengonversi prediktor yang bertipe factor menjadi numerik, dan menormalisasi prediktor menggunakan Min-Max. Label kelas Class tidak dinormalisasi.

bc <- BreastCancer[, -1]        # 1. Menghapus variabel Id (bukan prediktor)
bc <- na.omit(bc)               # 2. Menghapus amatan dengan missing value

# 3. Mengonversi 9 prediktor (factor) menjadi numerik
bc[, 1:9] <- lapply(bc[, 1:9], function(x) as.numeric(as.character(x)))

# 4. Normalisasi Min-Max pada 9 prediktor
min_max_norm <- function(x) {
  return((x - min(x)) / (max(x) - min(x)))
}
bc_norm <- as.data.frame(lapply(bc[, 1:9], min_max_norm))
bc_norm$Class <- bc$Class       # Menggabungkan kembali label kelas

str(bc_norm)
## 'data.frame':    683 obs. of  10 variables:
##  $ Cl.thickness   : num  0.444 0.444 0.222 0.556 0.333 ...
##  $ Cell.size      : num  0 0.333 0 0.778 0 ...
##  $ Cell.shape     : num  0 0.333 0 0.778 0 ...
##  $ Marg.adhesion  : num  0 0.444 0 0 0.222 ...
##  $ Epith.c.size   : num  0.111 0.667 0.111 0.222 0.111 ...
##  $ Bare.nuclei    : num  0 1 0.111 0.333 0 ...
##  $ Bl.cromatin    : num  0.222 0.222 0.222 0.222 0.222 ...
##  $ Normal.nucleoli: num  0 0.111 0 0.667 0 ...
##  $ Mitoses        : num  0 0 0 0 0 ...
##  $ Class          : Factor w/ 2 levels "benign","malignant": 1 1 1 1 1 2 1 1 1 1 ...
summary(bc_norm)
##   Cl.thickness      Cell.size        Cell.shape     Marg.adhesion   
##  Min.   :0.0000   Min.   :0.0000   Min.   :0.0000   Min.   :0.0000  
##  1st Qu.:0.1111   1st Qu.:0.0000   1st Qu.:0.0000   1st Qu.:0.0000  
##  Median :0.3333   Median :0.0000   Median :0.0000   Median :0.0000  
##  Mean   :0.3825   Mean   :0.2390   Mean   :0.2461   Mean   :0.2034  
##  3rd Qu.:0.5556   3rd Qu.:0.4444   3rd Qu.:0.4444   3rd Qu.:0.3333  
##  Max.   :1.0000   Max.   :1.0000   Max.   :1.0000   Max.   :1.0000  
##   Epith.c.size     Bare.nuclei      Bl.cromatin     Normal.nucleoli 
##  Min.   :0.0000   Min.   :0.0000   Min.   :0.0000   Min.   :0.0000  
##  1st Qu.:0.1111   1st Qu.:0.0000   1st Qu.:0.1111   1st Qu.:0.0000  
##  Median :0.1111   Median :0.0000   Median :0.2222   Median :0.0000  
##  Mean   :0.2483   Mean   :0.2827   Mean   :0.2717   Mean   :0.2077  
##  3rd Qu.:0.3333   3rd Qu.:0.5556   3rd Qu.:0.4444   3rd Qu.:0.3333  
##  Max.   :1.0000   Max.   :1.0000   Max.   :1.0000   Max.   :1.0000  
##     Mitoses              Class    
##  Min.   :0.00000   benign   :444  
##  1st Qu.:0.00000   malignant:239  
##  Median :0.00000                  
##  Mean   :0.06702                  
##  3rd Qu.:0.00000                  
##  Max.   :1.00000
rentang <- data.frame(
  Variabel  = names(bc)[1:9],
  Min_Asli  = sapply(bc[1:9], min),
  Maks_Asli = sapply(bc[1:9], max),
  Min_Norm  = sapply(bc_norm[1:9], min),
  Maks_Norm = sapply(bc_norm[1:9], max),
  row.names = NULL
)
kable(rentang, digits = 3,
      caption = "Rentang variabel prediktor sebelum dan sesudah normalisasi Min-Max")
Rentang variabel prediktor sebelum dan sesudah normalisasi Min-Max
Variabel Min_Asli Maks_Asli Min_Norm Maks_Norm
Cl.thickness 1 10 0 1
Cell.size 1 10 0 1
Cell.shape 1 10 0 1
Marg.adhesion 1 10 0 1
Epith.c.size 1 10 0 1
Bare.nuclei 1 10 0 1
Bl.cromatin 1 10 0 1
Normal.nucleoli 1 10 0 1
Mitoses 1 10 0 1

Interpretasi. Setelah variabel Id dihapus dan 16 amatan yang memuat missing value dibuang, tersisa 683 amatan yang lengkap dengan 444 amatan jinak dan 239 amatan ganas. Seluruh prediktor telah dikonversi menjadi numerik dengan rentang asli 1 sampai 10. Setelah normalisasi Min-Max, seluruh prediktor berada pada interval [0, 1]. Dengan demikian, setiap variabel memiliki skala yang sebanding sehingga tidak ada variabel yang mendominasi perhitungan jarak Euclidean pada k-NN.

4.3 Pembagian Data Latih dan Data Uji

Data dibagi secara acak sesuai ketentuan NPM, yaitu 70% : 30% untuk NPM ganjil dan 80% : 20% untuk NPM genap. Fungsi set.seed(123XY) digunakan agar hasil pengambilan sampel dapat direproduksi.

set.seed(seed_nilai)
# Mengambil indeks sampel acak sesuai proporsi data latih
train_indices <- sample(seq_len(nrow(bc_norm)), size = floor(prop_latih * nrow(bc_norm)))

# Memisahkan matriks fitur prediktor
train_x <- bc_norm[train_indices, 1:9]
test_x  <- bc_norm[-train_indices, 1:9]

# Memisahkan vektor label kelas
train_y <- bc_norm[train_indices, 10]
test_y  <- bc_norm[-train_indices, 10]

cat("Dimensi Data Latih (Train):", nrow(train_x), "baris,", ncol(train_x), "fitur\n")
## Dimensi Data Latih (Train): 478 baris, 9 fitur
cat("Dimensi Data Uji (Test)   :", nrow(test_x), "baris,", ncol(test_x), "fitur\n")
## Dimensi Data Uji (Test)   : 205 baris, 9 fitur
# Sebaran kelas pada data latih dan data uji
kable(rbind(Latih = table(train_y), Uji = table(test_y)),
      caption = "Sebaran kelas pada data latih dan data uji")
Sebaran kelas pada data latih dan data uji
benign malignant
Latih 305 173
Uji 139 66

Interpretasi. Data latih berjumlah 478 amatan (70%) dan data uji berjumlah 205 amatan (30%), masing-masing dengan 9 fitur prediktor. Pengambilan sampel yang acak membuat proporsi kelas ganas pada data uji (66 dari 205 amatan) tidak persis sama dengan proporsi pada seluruh data, tetapi kedua kelas tetap terwakili pada kedua data. Karena k-NN tidak membentuk model pada tahap pelatihan, data latih berfungsi sebagai himpunan referensi untuk mencari tetangga terdekat bagi setiap data uji.

4.4 Pemodelan k-NN dan Evaluasi untuk Setiap Nilai k

Pemodelan k-NN dilakukan untuk \(k \in \{3, 5, 7, 9, 11\}\). Pada evaluasi, kelas malignant ditetapkan sebagai kelas positif sehingga sensitivitas mengukur kemampuan model mendeteksi tumor ganas, sedangkan spesifisitas mengukur kemampuan model mengenali tumor jinak.

k_values <- c(3, 5, 7, 9, 11)
hasil_list <- list()
cm_list    <- list()

for (k_val in k_values) {
  set.seed(seed_nilai)  # menjaga hasil tetap reproduktif bila terjadi seri suara
  pred <- knn(train = train_x, test = test_x, cl = train_y, k = k_val)
  cm   <- confusionMatrix(data = pred, reference = test_y, positive = "malignant")

  cm_list[[as.character(k_val)]] <- cm
  hasil_list[[as.character(k_val)]] <- data.frame(
    k           = k_val,
    Accuracy    = unname(cm$overall["Accuracy"]),
    Sensitivity = unname(cm$byClass["Sensitivity"]),
    Specificity = unname(cm$byClass["Specificity"]),
    FN          = cm$table["benign", "malignant"],   # ganas diprediksi jinak
    FP          = cm$table["malignant", "benign"]    # jinak diprediksi ganas
  )
}

tabel_k <- do.call(rbind, hasil_list)
rownames(tabel_k) <- NULL

Tabel perbandingan metrik evaluasi untuk setiap nilai k disajikan sebagai berikut.

kable(tabel_k, digits = 4,
      col.names = c("k", "Accuracy", "Sensitivity", "Specificity",
                    "False Negative", "False Positive"),
      caption = "Perbandingan metrik evaluasi k-NN pada data uji (kelas positif: malignant)")
Perbandingan metrik evaluasi k-NN pada data uji (kelas positif: malignant)
k Accuracy Sensitivity Specificity False Negative False Positive
3 0.9707 0.9697 0.9712 2 4
5 0.9707 0.9545 0.9784 3 3
7 0.9756 0.9697 0.9784 2 3
9 0.9707 0.9545 0.9784 3 3
11 0.9707 0.9545 0.9784 3 3

Interpretasi. Dari 205 data uji, akurasi model berkisar antara 97.07% sampai 97.56%. Akurasi tertinggi diperoleh pada k = 7, sensitivitas tertinggi (96.97%) pada k = 3, 7, dan spesifisitas tertinggi (97.84%) pada k = 5, 7, 9, 11. Jumlah False Negative, yaitu tumor ganas yang salah didiagnosis sebagai jinak, berkisar antara 2 sampai 3 amatan, sedangkan jumlah False Positive berkisar antara 3 sampai 4 amatan. Karena data uji hanya berjumlah 205 amatan, satu amatan yang berubah prediksinya mengubah akurasi sebesar 0.49 poin persentase, sehingga selisih antar nilai k yang kecil sebaiknya ditafsirkan dengan hati-hati.

Visualisasi perbandingan ketiga metrik terhadap nilai k disajikan sebagai berikut.

data_plot <- rbind(
  data.frame(k = tabel_k$k, Metrik = "Accuracy",    Nilai = tabel_k$Accuracy),
  data.frame(k = tabel_k$k, Metrik = "Sensitivity", Nilai = tabel_k$Sensitivity),
  data.frame(k = tabel_k$k, Metrik = "Specificity", Nilai = tabel_k$Specificity)
)

ggplot(data_plot, aes(x = k, y = Nilai, color = Metrik)) +
  geom_line(linewidth = 1.1) +
  geom_point(size = 2.8) +
  scale_x_continuous(breaks = k_values) +
  scale_y_continuous(labels = scales::percent_format(accuracy = 0.1)) +
  labs(
    title = "Perbandingan Metrik Evaluasi k-NN terhadap Nilai k",
    subtitle = paste0("Data Uji BreastCancer (Ukuran Sampel Uji = ", nrow(test_x), ")"),
    x = "Jumlah Tetangga Terdekat (k)",
    y = "Nilai Metrik",
    color = "Metrik"
  ) +
  theme_minimal(base_size = 11) +
  theme(
    plot.title = element_text(face = "bold", hjust = 0.5),
    plot.subtitle = element_text(hjust = 0.5),
    panel.grid.minor = element_blank()
  )

4.5 Penentuan Nilai k Paling Optimal

Dalam diagnosis kanker, False Negative (tumor ganas yang diprediksi jinak) lebih berbahaya daripada False Positive karena pasien yang sebenarnya sakit tidak mendapat penanganan lanjutan. Oleh karena itu, nilai k optimal dipilih berdasarkan jumlah False Negative paling sedikit, kemudian False Positive paling sedikit, dan terakhir nilai k terkecil.

urut  <- order(tabel_k$FN, tabel_k$FP, tabel_k$k)
k_opt <- tabel_k$k[urut[1]]
baris_opt <- tabel_k[tabel_k$k == k_opt, ]

cat("Nilai k paling optimal:", k_opt, "\n")
## Nilai k paling optimal: 7
cm_opt <- cm_list[[as.character(k_opt)]]
print(cm_opt)
## Confusion Matrix and Statistics
## 
##            Reference
## Prediction  benign malignant
##   benign       136         2
##   malignant      3        64
##                                         
##                Accuracy : 0.9756        
##                  95% CI : (0.944, 0.992)
##     No Information Rate : 0.678         
##     P-Value [Acc > NIR] : <2e-16        
##                                         
##                   Kappa : 0.9444        
##                                         
##  Mcnemar's Test P-Value : 1             
##                                         
##             Sensitivity : 0.9697        
##             Specificity : 0.9784        
##          Pos Pred Value : 0.9552        
##          Neg Pred Value : 0.9855        
##              Prevalence : 0.3220        
##          Detection Rate : 0.3122        
##    Detection Prevalence : 0.3268        
##       Balanced Accuracy : 0.9741        
##                                         
##        'Positive' Class : malignant     
## 
kable(as.matrix(cm_opt$table),
      caption = paste0("Confusion matrix k = ", k_opt,
                       " (baris: prediksi; kolom: kelas aktual)"))
Confusion matrix k = 7 (baris: prediksi; kolom: kelas aktual)
benign malignant
benign 136 2
malignant 3 64

Interpretasi. Nilai k paling optimal adalah k = 7, dengan jumlah False Negative sebanyak 2 amatan, sensitivitas 96.97%, spesifisitas 97.84%, dan akurasi 97.56%. Pada Confusion Matrix tersebut, 64 tumor ganas terdeteksi dengan benar, 136 tumor jinak terdeteksi dengan benar, 2 tumor ganas salah didiagnosis sebagai jinak, dan 3 tumor jinak salah didiagnosis sebagai ganas. Jumlah False Negative yang sama (2 amatan) juga dicapai pada k = 3, 7, sehingga k = 7 dipilih karena memiliki False Positive paling sedikit dan, apabila masih sama, nilai k yang terkecil. Masih terdapat 2 tumor ganas yang terlewat sehingga model ini sebaiknya digunakan sebagai alat bantu dan bukan pengganti pemeriksaan medis. Perlu dicatat bahwa pemilihan ini hanya didasarkan pada satu pembagian data dengan 205 data uji, sehingga selisih False Negative yang kecil antar nilai k belum tentu bersifat stabil pada data lain.

4.6 Pembahasan Umum

Berdasarkan hasil praktikum, model k-NN pada data Wisconsin Breast Cancer dengan pembagian data 70% : 30% menghasilkan akurasi data uji antara 97.07% hingga 97.56% untuk \(k \in \{3, 5, 7, 9, 11\}\). Kinerja yang tinggi ini wajar karena karakteristik sel tumor seperti ukuran, bentuk, dan kekompakan inti sel berbeda cukup jelas antara tumor jinak dan ganas. Penskalaan fitur melalui normalisasi Min-Max tetap diperlukan sebagai praktik baku karena k-NN sepenuhnya bergantung pada perhitungan jarak antar amatan. Pada konteks diagnosis medis, akurasi tertinggi tidak selalu menjadi satu-satunya patokan. Kesalahan False Negative berakibat lebih serius daripada False Positive, sehingga nilai k = 7 dipilih karena paling meminimalkan tumor ganas yang tidak terdeteksi.

BAB 5 KESIMPULAN DAN SARAN

5.1 Kesimpulan

Algoritma k-NN merupakan metode non-parametrik supervised learning berbasis instance (lazy learning) yang tidak membentuk model eksplisit pada tahap pelatihan, melainkan menyimpan seluruh data latih. Prinsip kerjanya adalah menentukan k tetangga terdekat dari data uji berdasarkan metrik jarak, kemudian menetapkan kelas melalui suara terbanyak (majority voting). Nilai k mengatur kompromi antara bias dan varians sehingga perlu dieksplorasi untuk memperoleh kinerja yang optimal.

Karena k-NN menghitung jarak secara langsung dari selisih nilai variabel, penskalaan fitur diperlukan agar setiap variabel memberikan kontribusi yang seimbang. Pada data BreastCancer, pra-pemrosesan dilakukan dengan menghapus variabel Id, membuang 16 amatan yang memuat missing value sehingga tersisa 683 amatan, mengonversi sembilan prediktor menjadi numerik, dan menormalisasi seluruh prediktor ke interval [0, 1] menggunakan Min-Max. Normalisasi ini membuat seluruh variabel memiliki skala yang sama sehingga tidak ada variabel yang mendominasi perhitungan jarak Euclidean.

Implementasi k-NN pada R dilakukan secara terstruktur melalui persiapan data, pra-pemrosesan, pembagian data latih dan data uji dengan proporsi 70:30 menggunakan set.seed(12345), serta klasifikasi menggunakan fungsi knn() dari pustaka class untuk \(k \in \{3, 5, 7, 9, 11\}\). Pembagian data menghasilkan 478 data latih dan 205 data uji dengan sembilan fitur prediktor. Evaluasi dilakukan menggunakan fungsi confusionMatrix() dari pustaka caret dengan kelas malignant sebagai kelas positif.

Hasil evaluasi menunjukkan bahwa akurasi data uji berkisar antara 97.07% hingga 97.56%, sensitivitas berkisar antara 95.45% hingga 96.97%, dan spesifisitas berkisar antara 97.12% hingga 97.84% untuk kelima nilai k. Jumlah False Negative berkisar antara 2 hingga 3 amatan dari 66 tumor ganas pada data uji. Dengan demikian, perbandingan antar nilai k diperlukan untuk memilih model yang paling sesuai dengan tujuan diagnosis.

Dengan mempertimbangkan pentingnya meminimalkan False Negative pada diagnosis kanker, nilai k paling optimal adalah k = 7, dengan 2 False Negative, sensitivitas 96.97%, spesifisitas 97.84%, dan akurasi 97.56%. Nilai k ini dipilih agar tumor ganas yang salah didiagnosis sebagai jinak sesedikit mungkin. Dengan demikian, model dengan nilai k tersebut paling sesuai dengan tujuan praktikum, yaitu mendeteksi tumor ganas secara akurat dengan risiko kesalahan diagnosis serendah mungkin.

Secara keseluruhan, model k-NN menunjukkan kinerja klasifikasi yang baik dalam membedakan tumor jinak dan ganas. Namun, karena data uji hanya berjumlah 205 amatan dan hasil bergantung pada satu pembagian data, pemilihan k perlu ditafsirkan dengan hati-hati dan model sebaiknya digunakan sebagai alat bantu, bukan pengganti diagnosis medis. Hasil ini juga menunjukkan bahwa sembilan karakteristik sel tumor cukup informatif untuk membedakan tumor jinak dan ganas.

5.2 Saran

Program R sangatlah bermanfaat bagi semua orang khususnya pada mahasiswa statistika, hal ini sangat memudahkan dalam mengolah suatu data di komputer. Tetapi pengguna harus lebih hati-hati dalam memasukan sintaks dan data karena apabila terjadi kesalahan dalam memasukan maupun mengolah data tersebut hasilnya akan sangat berpengaruh. Selain itu, hasil analisis sebaiknya selalu diperiksa kembali agar kesimpulan yang diambil sesuai dengan output yang dihasilkan.

DAFTAR PUSTAKA

Farahdinna, F., & Shofy, M. N. (2025). Implementasi K-Nearest Neighbor untuk klasifikasi bunga Iris. JATI (Jurnal Mahasiswa Teknik Informatika), 9(2), 3510–3514.

Fransiska, H. (2026). Modul Praktikum Machine Learning. Universitas Bengkulu.

Perkasa, A. A., Zendrato, E. S., Pratama, I., & Simamora, H. (2026). Klasifikasi laju pertumbuhan penduduk antar provinsi di Indonesia menggunakan metode K-Nearest Neighbor. MATHunesa: Jurnal Ilmiah Matematika, 14(2), 271–278.