BAB I PENDAHULUAN

1.1 Latar Belakang

Perkembangan teknologi informasi mendorong meningkatnya pemanfaatan machine learning dalam pengolahan dan analisis data untuk menghasilkan informasi yang bermanfaat. Salah satu teknik dalam machine learning adalah supervised learning, yaitu metode pembelajaran mesin yang menggunakan data berlabel untuk membangun model prediksi atau klasifikasi. Salah satu algoritma yang banyak digunakan dalam klasifikasi adalah K-Nearest Neighbors (k-NN). Algoritma k-NN merupakan metode nonparametrik yang bekerja dengan mengklasifikasikan suatu data berdasarkan mayoritas kelas dari sejumlah tetangga terdekat berdasarkan perhitungan jarak. Keunggulan algoritma ini terletak pada konsep yang sederhana, mudah diimplementasikan, serta tidak memerlukan proses pembentukan model yang kompleks (Rukmana et al., 2022).

Dalam penerapannya, algoritma k-NN memiliki beberapa aspek penting yang perlu diperhatikan, salah satunya adalah feature scaling atau penskalaan fitur. Hal ini dikarenakan k-NN menggunakan perhitungan jarak untuk menentukan kedekatan antarobservasi sehingga perbedaan skala antarvariabel dapat memengaruhi hasil klasifikasi. Normalisasi data diperlukan agar setiap fitur memiliki rentang nilai yang sebanding sehingga perhitungan jarak menjadi lebih proporsional. Penelitian menunjukkan bahwa penerapan normalisasi dan seleksi fitur dapat meningkatkan performa klasifikasi k-NN dibandingkan penggunaan data tanpa perlakuan tersebut (Hadi et al., 2024). Selain itu, pemilihan nilai parameter (k) juga berpengaruh terhadap hasil klasifikasi sehingga diperlukan pengujian beberapa nilai (k) untuk memperoleh performa model yang optimal (Danestiara, 2023; Allorerung et al., 2024).

Berdasarkan hal tersebut, diperlukan pemahaman mengenai konsep fundamental, formulasi matematis, serta prinsip kerja algoritma k-NN agar proses klasifikasi dapat dilakukan secara tepat. Implementasi menggunakan bahasa pemrograman R dengan bantuan library class dan caret dapat mempermudah tahapan pengolahan data, pembentukan model, serta evaluasi hasil klasifikasi. Evaluasi performa model dilakukan menggunakan confusion matrix dengan beberapa ukuran, yaitu accuracy, sensitivity, specificity, dan positive predictive value. Selain itu, optimasi hyperparameter melalui pengujian variasi nilai (k) dan visualisasi menggunakan package ggplot2 diperlukan untuk mengetahui nilai parameter yang memberikan performa terbaik. Dengan demikian, kegiatan ini diharapkan dapat memberikan pemahaman secara teoritis dan praktis mengenai penerapan algoritma k-NN dalam permasalahan klasifikasi.

1.2 Rumusan Masalah

Berdasarkan latar belakang di atas, adapun rumusan masalah yang dapat disimpulkan sebagai berikut:

  1. Bagaimana konsep fundamental, formulasi matematis, dan prinsip kerja algoritma \(k\)-Nearest Neighbors (\(k\)-NN) sebagai metode nonparametrik pada supervised learning?
  2. Mengapa penskalaan fitur (feature scaling) penting dalam komputasi berbasis metrik jarak (distance metrics) pada algoritma \(k\)-NN?
  3. Bagaimana tahapan implementasi algoritma \(k\)-NN secara terstruktur dan mandiri menggunakan bahasa pemrograman R dengan library class dan caret?
  4. Bagaimana performa model klasifikasi \(k\)-NN yang dievaluasi menggunakan confusion matrix, accuracy, sensitivity, specificity, dan positive predictive value?
  5. Bagaimana hasil eksplorasi optimasi hyperparameter nilai \(k\) (hyperparameter tuning) beserta visualisasi kurva performanya menggunakan package ggplot2?

1.3 Tujuan Penelitian

Adapun tujuan penelitian ini yaitu:

  1. Praktikan dapat memahami konsep fundamental, formulasi matematis, dan prinsip kerja algoritma \(k\)-Nearest Neighbors (\(k\)-NN) sebagai metode nonparametrik supervised learning.
  2. Praktikan dapat memahami pentingnya penskalaan fitur (feature scaling) dalam komputasi berbasis metrik jarak (distance metrics).
  3. Praktikan dapat memahami algoritma \(k\)-NN secara terstruktur dan mandiri menggunakan bahasa pemrograman R dengan library class dan caret.
  4. Praktikan dapat mengevaluasi performa model klasifikasi menggunakan confusion matrix, accuracy, sensitivity, specificity, dan positive predictive value.
  5. Praktikan dapat melakukan eksplorasi optimasi hyperparameter nilai \(k\) (hyperparameter tuning) serta memvisualisasikan kurva performanya menggunakan package ggplot2.

1.4 Manfaat Penelitian

Adapun manfaat penelitian ini yaitu sebagai berikut:

  1. Bagi penulis
    1. Penulis dapat memperdalam pemahaman mengenai cara kerja \(k\)-NN sebagai metode nonparametrik.
    2. Penulis dapat melatih keterampilan mengimplementasikan \(k\)-NN di R, mengevaluasi performa model, serta melakukan hyperparameter tuning pada nilai \(k\).
  2. Bagi pembaca
    1. Pembaca mendapat pemahaman mengenai konsep, formulasi matematis, dan prinsip kerja algoritma \(k\)-Nearest Neighbors (\(k\)-NN).
    2. Pembaca mendapat referensi dalam menerapkan dan mengevaluasi model \(k\)-NN menggunakan R, termasuk pemilihan nilai \(k\) yang optimal.

1.5 Batasan Masalah

Adapun batasan masalah pada penelitian ini yaitu lakukan pemodelan klasifikasi terhadap data medis riil Wisconsin Breast Cancer Database yang dimuat melalui package mlbench. Tujuan pemodelan adalah mendeteksi secara akurat apakah tumor payudara tergolong jinak (benign) atau ganas (malignant).

BAB II TINJAUAN PUSTAKA

2.1 Machine Learning dan Supervised Learning

Machine learning merupakan salah satu cabang kecerdasan buatan yang memungkinkan komputer mempelajari pola dari sekumpulan data untuk menghasilkan prediksi atau keputusan tanpa harus diprogram secara eksplisit untuk setiap permasalahan. Salah satu pendekatan dalam machine learning adalah supervised learning, yaitu metode pembelajaran yang menggunakan data latih (training data) yang telah memiliki label atau kelas sebagai dasar pembentukan model. Tujuan dari pendekatan ini adalah mempelajari hubungan antara variabel prediktor dan variabel target sehingga model mampu memprediksi kelas pada data baru. Dalam penerapannya, supervised learning dapat digunakan untuk menyelesaikan permasalahan regresi maupun klasifikasi (Setiawan et al., 2024).

2.2 \(k\)-Nearest Neighbor

K-Nearest Neighbors (k-NN) merupakan algoritma klasifikasi nonparametrik dalam pendekatan supervised learning yang menentukan kelas suatu data berdasarkan sejumlah (k) tetangga terdekat. Prinsip kerja algoritma ini adalah menghitung jarak antara data yang akan diklasifikasikan dengan seluruh data latih, kemudian mengurutkan jarak tersebut dari yang terkecil hingga terbesar. Selanjutnya, dipilih sebanyak (k) data dengan jarak terdekat dan kelas ditentukan berdasarkan mayoritas kelas dari tetangga tersebut. Salah satu ukuran jarak yang umum digunakan adalah Euclidean Distance (Gunawan et al., 2025).

k-NN juga termasuk dalam kelompok instance-based learning atau lazy learning, di mana model tidak membentuk fungsi perantara pada tahap pelatihan, melainkan menyimpan seluruh data pelatihan dan menunda komputasi hingga terdapat data baru yang hendak diprediksi. Sifat lazy learning ini menjadikan k-NN tidak memerlukan proses pelatihan yang berat, tetapi konsekuensinya seluruh data pelatihan harus tersimpan dalam memori (Fransiska, 2026).

Secara formal, estimasi probabilitas posterior bahwa suatu data testing \(x_0\) tergolong ke dalam kelas \(j\) diformulasikan sebagai proporsi kelas \(j\) di antara tetangga terdekatnya (Fransiska, 2026):

\[ \hat{P}(Y = j \mid X = x_0) = \frac{1}{k} \sum_{i \in N_k(x_0)} I(y_i = j) \tag{2.2} \]

dengan \(N_k(x_0)\) merupakan himpunan yang memuat \(k\) buah tetangga terdekat dari \(x_0\), \(y_i\) adalah label kelas dari data ke-\(i\), dan \(I(\cdot)\) merupakan fungsi indikator yang bernilai 1 jika \(y_i = j\) dan bernilai 0 jika \(y_i \neq j\). Keputusan klasifikasi final \(\hat{G}(x_0)\) diambil berdasarkan prinsip majority voting sebagai berikut:

\[ \hat{G}(x_0) = \underset{j \in \{1, 2, \ldots, C\}}{\arg\max} \; \hat{P}(Y = j \mid X = x_0) \tag{2.3} \]

dengan \(C\) adalah jumlah kelas yang ada dalam klasifikasi. Pada implementasi \(k\)-NN untuk klasifikasi biner, nilai \(k\) umumnya dipilih dalam bilangan ganjil untuk menghindari hasil voting yang seimbang (Yusran et al., 2025).

2.3 Feature Scaling

Feature scaling merupakan tahapan prapemrosesan data yang bertujuan menyamakan rentang nilai antarvariabel agar tidak terdapat fitur dengan skala yang mendominasi perhitungan jarak. Tahapan ini penting dalam algoritma k-NN karena proses klasifikasi sangat bergantung pada ukuran jarak antarobservasi. Salah satu metode yang dapat digunakan adalah normalisasi Min-Max, yaitu mengubah nilai data ke dalam rentang tertentu, umumnya antara 0 dan 1 (Allorerung et al., 2024).

Normalisasi Min-Max merupakan metode normalisasi dengan melakukan transformasi linier terhadap data asli sehingga menghasilkan keseimbangan perbandingan nilai antara data sebelum dan sesudah proses. Metode ini mentransformasikan nilai variabel ke dalam interval \([0, 1]\). Formula normalisasi Min-Max adalah (Fransiska, 2026):

\[ x_{scaled} = \frac{x - x_{min}}{x_{max} - x_{min}} \tag{2.9} \]

dengan \(x\) merupakan nilai asli variabel, \(x_{min}\) adalah nilai minimum variabel dalam dataset, dan \(x_{max}\) adalah nilai maksimum variabel dalam dataset.

2.4 Hyperparameter Tuning

Nilai (k) merupakan parameter utama dalam algoritma k-NN yang menunjukkan jumlah tetangga terdekat yang digunakan dalam menentukan kelas suatu data. Pemilihan nilai (k) berpengaruh terhadap hasil klasifikasi. Nilai (k) yang terlalu kecil dapat menyebabkan model sensitif terhadap gangguan atau noise, sedangkan nilai (k) yang terlalu besar dapat menyebabkan batas antarkelas menjadi kurang jelas. Oleh karena itu, diperlukan pengujian terhadap beberapa variasi nilai (k) untuk memperoleh parameter yang memberikan performa klasifikasi terbaik. Pengujian dapat dilakukan dengan membandingkan nilai akurasi dari setiap variasi parameter yang digunakan (Hadi et al., 2024; Kelilauw et al., 2025).

2.5 Program R

Program R tersebut memanfaatkan beberapa library dan fungsi umum untuk mendukung alur kerja machine learning \(k\)-NN. Library class menyediakan fungsi inti knn() untuk klasifikasi, caret menyediakan confusionMatrix() untuk evaluasi performa, ggplot2 digunakan untuk visualisasi grafik, dan mlbench untuk memuat dataset. Fungsi umum bawaan R seperti str(), head(), dan table() digunakan untuk eksplorasi data, lapply() untuk menerapkan normalisasi pada beberapa kolom sekaligus, sample() untuk pembagian data acak, serta data.frame() dan seq_len() untuk menyusun dan mengindeks data (Fransiska, 2026).

BAB III METODE PENELITIAN

3.1 Jenis dan Sumber Data

Jenis data yang digunakan dalam penelitian ini adalah data kategorik, yaitu data yang menunjukkan pengelompokan objek berdasarkan kategori tertentu. Data yang digunakan berasal dari hasil pemeriksaan klinis sel kanker payudara yang disajikan dalam bentuk kategori.

Sumber data yang digunakan dalam penelitian ini adalah data sekunder. Data sekunder merupakan data yang telah dikumpulkan oleh pihak lain dan dapat dimanfaatkan kembali untuk keperluan penelitian. Dataset BreastCancer diperoleh dari package mlbench pada perangkat lunak R. Dataset tersebut terdiri atas 699 observasi.

3.2 Variabel Penelitian

Variabel merupakan karakteristik atau atribut yang dapat diukur maupun diamati dalam suatu penelitian. Penelitian ini menggunakan sepuluh variabel, yaitu Cl.thickness, Cell.size, Cell.shape, Marg.adhesion, Epith.c.size, Bare.nuclei, Bl.cromatin, Normal.nucleoli, Mitoses, dan Class. Variabel Class berperan sebagai variabel respons yang bertipe kategorik dengan dua kelas, yaitu benign (jinak) dan malignant (ganas). Sembilan variabel lainnya berperan sebagai variabel prediktor yang bertipe kategorik dengan skala 1 sampai 10.

3.3 Analisis Data

Berikut merupakan algoritma penelitian pada batasan masalah:

  1. Input data.
  2. Preprocessing data.
  3. Normalisasi Min-Max.
  4. Statistik deskriptif.
  5. Pembagian data training dan data testing.
  6. Pemodelan \(k\)-NN.
  7. Evaluasi model.
  8. Penentuan nilai \(k\) optimal.
  9. Visualisasi kurva metrik evaluasi.
  10. Output.
  11. Interpretasi.

BAB IV HASIL DAN PEMBAHASAN

Pada batasan masalah diminta untuk melakukan pemodelan klasifikasi \(k\)-NN pada data Wisconsin Breast Cancer Database dengan pembagian data 80% data training dan 20% data testing. Bab ini memuat sintaks, output, dan pembahasan pada setiap tahapan analisis.

4.1 Library dan Input Data

# Memanggil library
library(class)
library(caret)
library(ggplot2)
library(mlbench)

# Memuat dataset Wisconsin Breast Cancer
data(BreastCancer, package = "mlbench")

# Menampilkan struktur variabel
str(BreastCancer)
## 'data.frame':    699 obs. of  11 variables:
##  $ Id             : chr  "1000025" "1002945" "1015425" "1016277" ...
##  $ Cl.thickness   : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 5 5 3 6 4 8 1 2 2 4 ...
##  $ Cell.size      : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 1 1 2 ...
##  $ Cell.shape     : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 2 1 1 ...
##  $ Marg.adhesion  : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 5 1 1 3 8 1 1 1 1 ...
##  $ Epith.c.size   : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 2 7 2 3 2 7 2 2 2 2 ...
##  $ Bare.nuclei    : Factor w/ 10 levels "1","2","3","4",..: 1 10 2 4 1 10 10 1 1 1 ...
##  $ Bl.cromatin    : Factor w/ 10 levels "1","2","3","4",..: 3 3 3 3 3 9 3 3 1 2 ...
##  $ Normal.nucleoli: Factor w/ 10 levels "1","2","3","4",..: 1 2 1 7 1 7 1 1 1 1 ...
##  $ Mitoses        : Factor w/ 9 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 5 1 ...
##  $ Class          : Factor w/ 2 levels "benign","malignant": 1 1 1 1 1 2 1 1 1 1 ...
# Menampilkan 6 observasi teratas
head(BreastCancer)
##        Id Cl.thickness Cell.size Cell.shape Marg.adhesion Epith.c.size
## 1 1000025            5         1          1             1            2
## 2 1002945            5         4          4             5            7
## 3 1015425            3         1          1             1            2
## 4 1016277            6         8          8             1            3
## 5 1017023            4         1          1             3            2
## 6 1017122            8        10         10             8            7
##   Bare.nuclei Bl.cromatin Normal.nucleoli Mitoses     Class
## 1           1           3               1       1    benign
## 2          10           3               2       1    benign
## 3           2           3               1       1    benign
## 4           4           3               7       1    benign
## 5           1           3               1       1    benign
## 6          10           9               7       1 malignant
# Memeriksa persebaran frekuensi kelas
table(BreastCancer$Class)
## 
##    benign malignant 
##       458       241

Pada tahap pembatasan masalah, analisis ini menggunakan dataset Wisconsin Breast Cancer Database yang tersedia pada package mlbench dan dipanggil melalui perintah data(BreastCancer, package = "mlbench"). Selanjutnya, package class dimanfaatkan untuk menerapkan algoritma \(k\)-NN, caret digunakan untuk mengevaluasi hasil klasifikasi melalui confusion matrix, ggplot2 digunakan untuk membuat visualisasi data, sedangkan mlbench berfungsi menyediakan dataset yang diperlukan. Pemanggilan seluruh library pada awal program bertujuan agar semua fungsi yang dibutuhkan dapat digunakan selama proses analisis berlangsung.

Berdasarkan hasil pemeriksaan struktur data menggunakan fungsi str, diketahui bahwa dataset terdiri atas 699 observasi dan 11 variabel, yang meliputi satu variabel identitas pasien (Id), sembilan variabel prediktor yang menggambarkan karakteristik sel, serta satu variabel respons (Class). Kesembilan variabel prediktor memiliki rentang nilai 1 sampai 10, tetapi masih tersimpan dalam bentuk factor, sementara variabel Id bertipe karakter. Oleh karena itu, diperlukan penyesuaian tipe data agar variabel prediktor dapat digunakan dalam perhitungan jarak pada algoritma \(k\)-NN. Hasil pengamatan enam data pertama melalui fungsi head memperlihatkan bahwa sebagian besar observasi memiliki nilai prediktor relatif rendah dan termasuk kelas benign, sedangkan observasi keenam menunjukkan nilai yang lebih tinggi pada hampir seluruh variabel prediktor dan tergolong kelas malignant.

Berdasarkan distribusi kelas pada Tabel 4.1, diketahui bahwa dataset memiliki 458 observasi kelas benign atau sebesar 65,52% dan 241 observasi kelas malignant atau sebesar 34,48%. Hasil tersebut menunjukkan bahwa kelas benign memiliki jumlah observasi lebih banyak dibandingkan kelas malignant, sehingga terdapat ketidakseimbangan distribusi kelas dalam dataset. Meskipun demikian, perbedaan proporsi tersebut belum terlalu ekstrem. Oleh karena itu, pemodelan dapat dilanjutkan tanpa melakukan penyeimbangan kelas, dengan tetap memperhatikan kemampuan model dalam mengenali kelas malignant. Evaluasi tidak hanya berfokus pada nilai accuracy, tetapi juga mempertimbangkan nilai sensitivity agar kemampuan model dalam mengidentifikasi kelas malignant dapat diketahui secara lebih menyeluruh.

4.2 Preprocessing Data

# Memeriksa jumlah missing value pada tiap variabel
colSums(is.na(BreastCancer))
##              Id    Cl.thickness       Cell.size      Cell.shape   Marg.adhesion 
##               0               0               0               0               0 
##    Epith.c.size     Bare.nuclei     Bl.cromatin Normal.nucleoli         Mitoses 
##               0              16               0               0               0 
##           Class 
##               0
# Menghapus variabel Id karena hanya berupa identitas pasien
bc <- BreastCancer[, -1]

# Mengubah variabel prediktor (kolom 1 sampai 9) dari factor ke numerik
bc[, 1:9] <- lapply(bc[, 1:9], function(x) as.numeric(as.character(x)))

# Menghapus observasi yang memiliki missing value
bc <- na.omit(bc)

# Memastikan variabel kelas bertipe factor dengan level yang jelas
bc$Class <- factor(bc$Class, levels = c("benign", "malignant"))

# Memeriksa dimensi dan persebaran kelas setelah pembersihan
cat("Dimensi data setelah pembersihan:", nrow(bc), "baris,", ncol(bc), "kolom\n")
## Dimensi data setelah pembersihan: 683 baris, 10 kolom
table(bc$Class)
## 
##    benign malignant 
##       444       239

Tahap pra-pemrosesan data dilakukan sebelum pembentukan model untuk memastikan bahwa data yang digunakan telah memenuhi kebutuhan algoritma \(k\)-NN. Tahapan ini penting karena \(k\)-NN menentukan hasil klasifikasi berdasarkan perhitungan jarak antarobservasi, sehingga data harus memiliki nilai yang lengkap, bertipe numerik, serta tidak mengandung variabel yang tidak relevan. Berdasarkan hasil pemeriksaan missing value, ditemukan sebanyak 16 data kosong yang seluruhnya terdapat pada variabel Bare.nuclei.

Langkah selanjutnya adalah menghapus variabel Id karena hanya berperan sebagai identitas pasien dan tidak memberikan informasi yang relevan dalam proses klasifikasi tumor jinak maupun ganas. Sembilan variabel prediktor kemudian dikonversi dari tipe factor menjadi numerik menggunakan fungsi as.numeric(as.character(x)) agar nilai pengamatan pada rentang 1 sampai 10 tetap dipertahankan. Penggunaan fungsi as.character() sebelum as.numeric() bertujuan menghindari perubahan nilai menjadi kode kategori atau nomor urutan level. Sementara itu, variabel Class diatur kembali menjadi tipe factor dengan urutan kategori benign dan malignant untuk menjaga konsistensi dalam proses pemodelan dan evaluasi.

Selanjutnya, observasi yang mengandung missing value dihilangkan menggunakan fungsi na.omit. Proses tersebut mengakibatkan sebanyak 16 observasi atau 2,29% dari keseluruhan data awal terhapus, sehingga jumlah data yang tersisa menjadi 683 observasi. Berdasarkan Tabel 4.2, data yang dihilangkan terdiri atas 14 observasi kelas benign dan 2 observasi kelas malignant. Setelah proses pembersihan dilakukan, distribusi kelas menunjukkan proporsi sebesar 65,01% untuk kelas benign dan 34,99% untuk kelas malignant. Hasil ini memperlihatkan bahwa perubahan distribusi kelas relatif kecil, sehingga data yang telah melalui tahap pra-pemrosesan dapat digunakan untuk proses analisis dan pembentukan model \(k\)-NN.

4.3 Normalisasi Min-Max

# Mendefinisikan fungsi normalisasi Min-Max
min_max_norm <- function(x) {
  return((x - min(x)) / (max(x) - min(x)))
}

# Menerapkan normalisasi pada 9 variabel prediktor (kolom 1 sampai 9)
bc_norm <- as.data.frame(lapply(bc[, 1:9], min_max_norm))

# Menggabungkan kembali label kelas
bc_norm$Class <- bc$Class

Tahapan selanjutnya dalam pra-pemrosesan data adalah melakukan penskalaan fitur (feature scaling) menggunakan metode normalisasi Min-Max. Metode ini bertujuan mengubah nilai setiap variabel prediktor ke dalam rentang 0 sampai 1. Normalisasi diperlukan karena algoritma \(k\)-NN menggunakan perhitungan jarak Euclidean yang sensitif terhadap perbedaan skala antarvariabel. Tanpa proses normalisasi, variabel dengan rentang nilai lebih besar berpotensi memberikan pengaruh lebih dominan dalam menentukan jarak antarobservasi dibandingkan variabel lainnya.

Implementasi normalisasi dilakukan dengan mendefinisikan fungsi min_max_norm terlebih dahulu, kemudian menerapkannya pada sembilan variabel prediktor menggunakan fungsi lapply. Sementara itu, variabel Class tidak disertakan dalam proses normalisasi karena merupakan variabel kategorik yang berfungsi sebagai label kelas. Setelah seluruh prediktor berhasil dinormalisasi, variabel Class digabungkan kembali dengan data hasil transformasi. Proses normalisasi Min-Max merupakan transformasi linear yang mempertahankan urutan nilai setiap observasi, tetapi mengubah skala jaraknya ke rentang yang telah ditentukan. Dengan demikian, seluruh variabel prediktor memiliki skala yang seragam sehingga dapat digunakan dalam perhitungan jarak pada algoritma \(k\)-NN.

4.4 Statistik Deskriptif

# Menampilkan ringkasan statistik setelah normalisasi
summary(bc_norm)
##   Cl.thickness      Cell.size        Cell.shape     Marg.adhesion   
##  Min.   :0.0000   Min.   :0.0000   Min.   :0.0000   Min.   :0.0000  
##  1st Qu.:0.1111   1st Qu.:0.0000   1st Qu.:0.0000   1st Qu.:0.0000  
##  Median :0.3333   Median :0.0000   Median :0.0000   Median :0.0000  
##  Mean   :0.3825   Mean   :0.2390   Mean   :0.2461   Mean   :0.2034  
##  3rd Qu.:0.5556   3rd Qu.:0.4444   3rd Qu.:0.4444   3rd Qu.:0.3333  
##  Max.   :1.0000   Max.   :1.0000   Max.   :1.0000   Max.   :1.0000  
##   Epith.c.size     Bare.nuclei      Bl.cromatin     Normal.nucleoli 
##  Min.   :0.0000   Min.   :0.0000   Min.   :0.0000   Min.   :0.0000  
##  1st Qu.:0.1111   1st Qu.:0.0000   1st Qu.:0.1111   1st Qu.:0.0000  
##  Median :0.1111   Median :0.0000   Median :0.2222   Median :0.0000  
##  Mean   :0.2483   Mean   :0.2827   Mean   :0.2717   Mean   :0.2077  
##  3rd Qu.:0.3333   3rd Qu.:0.5556   3rd Qu.:0.4444   3rd Qu.:0.3333  
##  Max.   :1.0000   Max.   :1.0000   Max.   :1.0000   Max.   :1.0000  
##     Mitoses              Class    
##  Min.   :0.00000   benign   :444  
##  1st Qu.:0.00000   malignant:239  
##  Median :0.00000                  
##  Mean   :0.06702                  
##  3rd Qu.:0.00000                  
##  Max.   :1.00000

Setelah proses normalisasi dilakukan, tahap berikutnya adalah menyajikan statistik deskriptif untuk mengetahui karakteristik data hasil pra-pemrosesan. Statistik deskriptif merupakan ringkasan numerik yang digunakan untuk menggambarkan pola dan distribusi data melalui beberapa ukuran, meliputi nilai minimum, kuartil pertama, median, rata-rata, kuartil ketiga, dan maksimum. Khusus untuk variabel kategorik seperti Class, karakteristik data disajikan berdasarkan jumlah frekuensi masing-masing kategori. Penyajian statistik deskriptif ini bertujuan untuk memastikan hasil normalisasi serta memberikan gambaran mengenai pola penyebaran setiap variabel sebelum memasuki tahap pemodelan.

Berdasarkan hasil, seluruh variabel prediktor memiliki nilai minimum 0 dan maksimum 1. Hasil tersebut menunjukkan bahwa proses normalisasi Min-Max telah berhasil mengubah skala seluruh prediktor sesuai dengan rentang yang ditentukan. Selain itu, nilai rata-rata yang lebih besar dibandingkan median pada kesembilan variabel menunjukkan bahwa distribusi data cenderung menceng ke kanan (right-skewed). Beberapa variabel, yaitu Cell.size, Cell.shape, Marg.adhesion, Bare.nuclei, dan Normal.nucleoli, memiliki nilai median sebesar 0. Hal ini menunjukkan bahwa setidaknya separuh observasi pada variabel tersebut berada pada nilai minimum.

Jika ditinjau berdasarkan nilai rata-ratanya, variabel Mitoses memiliki rata-rata paling rendah, yaitu 0,0670, dengan nilai median dan kuartil ketiga sebesar 0. Kondisi ini menunjukkan bahwa sebagian besar observasi pada variabel tersebut terkonsentrasi pada nilai minimum. Sebaliknya, variabel Cl.thickness mempunyai rata-rata tertinggi sebesar 0,3825 dengan median 0,3333, yang menunjukkan tingkat nilai relatif lebih tinggi dibandingkan variabel prediktor lainnya. Sementara itu, distribusi variabel respons Class terdiri atas 444 observasi kelas benign dan 239 observasi kelas malignant. Hasil statistik deskriptif ini memberikan gambaran mengenai karakteristik data yang telah dinormalisasi dan siap digunakan dalam proses pembentukan model klasifikasi \(k\)-NN.

4.5 Pembagian Data Training dan Data Testing

# Menetapkan seed sesuai NPM genap
set.seed(12346)

# Mengambil indeks sampel acak sebesar 80% dari total data
train_indices <- sample(
  seq_len(nrow(bc_norm)),
  size = 0.80 * nrow(bc_norm)
)

# Memisahkan matriks fitur prediktor
train_x <- bc_norm[train_indices, 1:9]
test_x <- bc_norm[-train_indices, 1:9]

# Memisahkan vektor label kelas
train_y <- bc_norm[train_indices, 10]
test_y <- bc_norm[-train_indices, 10]

cat("Dimensi Data Training:", nrow(train_x), "baris,", ncol(train_x), "fitur\n")
## Dimensi Data Training: 546 baris, 9 fitur
cat("Dimensi Data Testing :", nrow(test_x), "baris,", ncol(test_x), "fitur\n")
## Dimensi Data Testing : 137 baris, 9 fitur

Tahap berikutnya adalah membagi data menjadi dua bagian, yaitu 80% sebagai data training dan 20% sebagai data testing, dengan menggunakan inisialisasi set.seed(123XY) sesuai ketentuan NPM genap. Karena NPM praktikan berakhiran 46, maka nilai seed yang diterapkan adalah 12346. Penggunaan fungsi set.seed() bertujuan untuk menjaga konsistensi proses pengambilan sampel secara acak (random sampling), sehingga hasil pembagian data tetap sama ketika program dijalankan kembali.

Berdasarkan hasil pembagian tersebut, diperoleh sebanyak 546 observasi sebagai data training dan 137 observasi sebagai data testing, dengan masing-masing memiliki sembilan fitur prediktor. Data training digunakan sebagai dasar pembelajaran model dalam menentukan tetangga terdekat berdasarkan perhitungan jarak, sedangkan data testing dimanfaatkan untuk mengukur kemampuan model dalam mengklasifikasikan observasi yang belum pernah digunakan selama proses pelatihan. Selanjutnya, variabel prediktor dan label kelas dipisahkan ke dalam objek yang berbeda karena fungsi knn() pada package class memerlukan data fitur dan kelas secara terpisah sebagai masukan dalam proses klasifikasi.

4.6 Pemodelan \(k\)-NN dan Perbandingan Metrik Evaluasi

# Menyiapkan nilai k yang diuji
k_values <- c(3, 5, 7, 9, 11)

# Menyiapkan wadah untuk menyimpan hasil evaluasi
hasil_evaluasi <- data.frame(
  k = k_values,
  Accuracy = numeric(length(k_values)),
  Sensitivity = numeric(length(k_values)),
  Specificity = numeric(length(k_values)),
  False_Negative = numeric(length(k_values))
)

# Pengujian iteratif untuk setiap nilai k
# Kelas positif ditetapkan "malignant" agar Sensitivity mengukur
# kemampuan model mendeteksi tumor ganas
for (i in seq_along(k_values)) {
  k_val <- k_values[i]
  
  pred_uji <- knn(
    train = train_x,
    test = test_x,
    cl = train_y,
    k = k_val
  )
  
  cm <- confusionMatrix(
    data = pred_uji,
    reference = test_y,
    positive = "malignant"
  )
  
  hasil_evaluasi$Accuracy[i] <- cm$overall["Accuracy"]
  hasil_evaluasi$Sensitivity[i] <- cm$byClass["Sensitivity"]
  hasil_evaluasi$Specificity[i] <- cm$byClass["Specificity"]
  
  # False Negative: prediksi benign, kenyataannya malignant
  hasil_evaluasi$False_Negative[i] <- cm$table["benign", "malignant"]
}

# Menampilkan tabel perbandingan metrik evaluasi
print(hasil_evaluasi)
##    k  Accuracy Sensitivity Specificity False_Negative
## 1  3 0.9854015   0.9807692   0.9882353              1
## 2  5 0.9854015   0.9807692   0.9882353              1
## 3  7 0.9854015   0.9807692   0.9882353              1
## 4  9 0.9854015   0.9807692   0.9882353              1
## 5 11 0.9854015   0.9807692   0.9882353              1
# Menampilkan tabel dengan pembulatan 4 desimal
tabel_perbandingan <- hasil_evaluasi
tabel_perbandingan[, 2:4] <- round(tabel_perbandingan[, 2:4], 4)
print(tabel_perbandingan)
##    k Accuracy Sensitivity Specificity False_Negative
## 1  3   0.9854      0.9808      0.9882              1
## 2  5   0.9854      0.9808      0.9882              1
## 3  7   0.9854      0.9808      0.9882              1
## 4  9   0.9854      0.9808      0.9882              1
## 5 11   0.9854      0.9808      0.9882              1

Pemodelan klasifikasi dilakukan menggunakan algoritma \(k\)-NN dengan menguji lima variasi nilai parameter (k), yaitu (k {3,5,7,9,11}). Setiap variasi nilai (k) diimplementasikan menggunakan fungsi knn() dari package class. Hasil klasifikasi kemudian dibandingkan dengan label kelas aktual pada data testing menggunakan fungsi confusionMatrix() dari package caret. Dalam proses evaluasi, kelas malignant ditetapkan sebagai kelas positif (positive class), sehingga nilai sensitivity digunakan untuk mengukur kemampuan model dalam mengenali observasi tumor ganas. Sementara itu, false negative menunjukkan jumlah observasi tumor ganas yang salah diklasifikasikan sebagai tumor jinak.

Berdasarkan hasil pengujian pada hasil, diketahui bahwa kelima variasi nilai (k) menghasilkan performa klasifikasi yang identik, yaitu accuracy sebesar 98,54%, sensitivity sebesar 98,08%, dan specificity sebesar 98,82%, dengan jumlah false negative sebanyak satu observasi. Kesamaan hasil tersebut menunjukkan bahwa perubahan jumlah tetangga dari (k=3) hingga (k=11) tidak menyebabkan perubahan hasil prediksi kelas pada data testing. Kondisi ini mengindikasikan bahwa hasil klasifikasi relatif stabil terhadap variasi nilai (k) yang diuji pada dataset tersebut.

Selain itu, jumlah observasi pada data testing yang hanya mencapai 137 data menyebabkan setiap satu kesalahan klasifikasi memberikan pengaruh sekitar 0,73% terhadap nilai accuracy. Pada seluruh variasi nilai (k), ditemukan dua observasi yang salah diklasifikasikan dari total 137 observasi. Dengan demikian, perbedaan performa antarparameter (k) belum terlihat pada hasil pengujian ini. Meskipun demikian, hasil tersebut menunjukkan bahwa algoritma \(k\)-NN mampu memberikan tingkat ketepatan klasifikasi yang tinggi dan relatif konsisten pada kelima variasi parameter yang digunakan.

4.7 Penentuan Nilai \(k\) Optimal

# Prioritas: Sensitivity tertinggi (False Negative minimum),
# kemudian Accuracy tertinggi, kemudian Specificity tertinggi
urutan <- order(
  -hasil_evaluasi$Sensitivity,
  hasil_evaluasi$False_Negative,
  -hasil_evaluasi$Accuracy,
  -hasil_evaluasi$Specificity
)

k_optimal <- hasil_evaluasi$k[urutan[1]]
cat("Nilai k paling optimal:", k_optimal, "\n")
## Nilai k paling optimal: 3
# Menampilkan matriks konfusi lengkap untuk k optimal
pred_optimal <- knn(
  train = train_x,
  test = test_x,
  cl = train_y,
  k = k_optimal
)

evaluasi_optimal <- confusionMatrix(
  data = pred_optimal,
  reference = test_y,
  positive = "malignant"
)

print(evaluasi_optimal)
## Confusion Matrix and Statistics
## 
##            Reference
## Prediction  benign malignant
##   benign        84         1
##   malignant      1        51
##                                           
##                Accuracy : 0.9854          
##                  95% CI : (0.9483, 0.9982)
##     No Information Rate : 0.6204          
##     P-Value [Acc > NIR] : <2e-16          
##                                           
##                   Kappa : 0.969           
##                                           
##  Mcnemar's Test P-Value : 1               
##                                           
##             Sensitivity : 0.9808          
##             Specificity : 0.9882          
##          Pos Pred Value : 0.9808          
##          Neg Pred Value : 0.9882          
##              Prevalence : 0.3796          
##          Detection Rate : 0.3723          
##    Detection Prevalence : 0.3796          
##       Balanced Accuracy : 0.9845          
##                                           
##        'Positive' Class : malignant       
## 

Penentuan nilai (k) yang paling optimal dilakukan dengan mempertimbangkan kemampuan model dalam meminimalkan kesalahan klasifikasi, khususnya false negative pada kelas malignant. Kriteria pemilihan parameter ditetapkan secara bertahap, dimulai dari nilai sensitivity tertinggi atau jumlah false negative terendah, kemudian accuracy tertinggi, dan terakhir specificity tertinggi. Berdasarkan hasil pengujian, seluruh variasi nilai (k) menunjukkan performa yang sama pada ketiga kriteria tersebut. Oleh karena itu, nilai (k=3) ditetapkan sebagai parameter optimal karena merupakan nilai terkecil di antara seluruh kandidat dengan performa setara, sehingga pemilihan parameter menjadi lebih sederhana.

Hasil confusion matrix pada hasil menunjukkan bahwa sebanyak 84 observasi kelas benign dan 51 observasi kelas malignant berhasil diklasifikasikan dengan benar. Sementara itu, terdapat masing-masing satu observasi yang mengalami kesalahan klasifikasi pada kedua kelas. Nilai sensitivity sebesar 98,08% menunjukkan bahwa model berhasil mengenali 51 dari 52 observasi tumor ganas, sedangkan specificity sebesar 98,82% menunjukkan bahwa 84 dari 85 observasi tumor jinak berhasil diidentifikasi dengan tepat. Selain itu, diperoleh positive predictive value sebesar 98,08% dan negative predictive value sebesar 98,82%. Model juga menghasilkan accuracy sebesar 98,54% dengan selang kepercayaan 95% antara 94,83% hingga 99,82%. Nilai tersebut lebih tinggi dibandingkan No Information Rate sebesar 62,04% dengan p-value kurang dari 2e-16.

Berdasarkan hasil evaluasi tersebut, terdapat satu observasi tumor ganas yang salah diklasifikasikan sebagai tumor jinak (false negative). Kesalahan ini perlu mendapat perhatian khusus karena dalam konteks klasifikasi medis dapat menyebabkan keterlambatan pemeriksaan dan penanganan lebih lanjut. Nilai Kappa sebesar 0,969 menunjukkan tingkat kesesuaian yang sangat tinggi antara hasil prediksi dan kelas aktual. Sementara itu, balanced accuracy sebesar 98,45% memperlihatkan bahwa model memiliki kemampuan klasifikasi yang relatif seimbang pada kedua kategori. Meskipun demikian, jumlah data testing yang relatif terbatas menjadi salah satu pertimbangan dalam menginterpretasikan hasil evaluasi. Oleh karena itu, penggunaan metode cross-validation dapat dipertimbangkan untuk memperoleh penilaian performa model yang lebih stabil dan mengurangi ketergantungan terhadap satu pembagian data.

4.8 Visualisasi Kurva Metrik Evaluasi

# Mengubah tabel ke format panjang untuk visualisasi
data_plot <- rbind(
  data.frame(k = hasil_evaluasi$k, Metrik = "Accuracy",
             Nilai = hasil_evaluasi$Accuracy),
  data.frame(k = hasil_evaluasi$k, Metrik = "Sensitivity",
             Nilai = hasil_evaluasi$Sensitivity),
  data.frame(k = hasil_evaluasi$k, Metrik = "Specificity",
             Nilai = hasil_evaluasi$Specificity)
)

ggplot(data_plot, aes(x = k, y = Nilai, color = Metrik)) +
  geom_line(linewidth = 1.1) +
  geom_point(size = 2.8) +
  scale_x_continuous(breaks = k_values) +
  scale_y_continuous(
    labels = scales::percent_format(accuracy = 0.1)
  ) +
  labs(
    title = "Perbandingan Metrik Evaluasi k-NN pada Berbagai Nilai k",
    subtitle = paste("Evaluasi pada Data Testing Breast Cancer (Ukuran Sampel Testing =",
                     nrow(test_x), ")"),
    x = "Jumlah Tetangga Terdekat (k)",
    y = "Nilai Metrik",
    color = "Metrik"
  ) +
  theme_minimal(base_size = 11) +
  theme(
    plot.title = element_text(face = "bold", hjust = 0.5),
    plot.subtitle = element_text(hjust = 0.5),
    panel.grid.minor = element_blank()
  )
Gambar 4.1 Kurva perbandingan *accuracy*, *sensitivity*, dan *specificity* $k$-NN pada $k$ = 3, 5, 7, 9, dan 11

Gambar 4.1 Kurva perbandingan accuracy, sensitivity, dan specificity \(k\)-NN pada \(k\) = 3, 5, 7, 9, dan 11

Perbandingan hasil evaluasi model antarnilai (k) disajikan dalam bentuk tabel dan visualisasi kurva pada Gambar 4.1. Grafik tersebut menggunakan jumlah tetangga terdekat sebagai sumbu horizontal, sedangkan sumbu vertikal menunjukkan nilai metrik evaluasi dalam bentuk persentase. Tiga indikator yang divisualisasikan secara bersamaan meliputi accuracy, sensitivity, dan specificity, sehingga perubahan performa model pada setiap variasi nilai (k) dapat diamati dan dibandingkan dengan lebih mudah.

Berdasarkan Gambar 4.1, ketiga kurva membentuk garis horizontal tanpa perubahan pada seluruh variasi nilai (k) yang diuji. Nilai accuracy tetap sebesar 98,54%, sensitivity sebesar 98,08%, dan specificity sebesar 98,82%. Kurva specificity menempati posisi tertinggi, sedangkan kurva sensitivity berada pada posisi terendah, dengan selisih sebesar 0,74 poin persentase. Kesamaan nilai pada seluruh kurva menunjukkan bahwa perubahan jumlah tetangga terdekat dari (k=3) hingga (k=11) tidak memberikan perbedaan terhadap hasil klasifikasi. Dengan demikian, performa algoritma \(k\)-NN pada dataset yang digunakan cenderung stabil terhadap variasi parameter (k) dalam rentang pengujian tersebut.

BAB V PENUTUP

5.1 Kesimpulan

Algoritma K-Nearest Neighbors (\(k\)-NN) merupakan salah satu metode klasifikasi dalam pendekatan supervised learning yang bekerja berdasarkan kedekatan jarak antarobservasi. Penerapan algoritma ini memerlukan tahapan pengolahan data, khususnya penskalaan fitur (feature scaling), agar setiap variabel memiliki skala yang sebanding dalam perhitungan jarak. Selain itu, pemilihan nilai parameter (k) menjadi aspek penting untuk memperoleh model klasifikasi yang optimal. Implementasi menggunakan bahasa pemrograman R dengan package class, caret, dan ggplot2 dapat membantu proses pemodelan, evaluasi menggunakan confusion matrix, serta visualisasi performa model. Dengan demikian, pemahaman terhadap konsep, tahapan implementasi, dan evaluasi algoritma \(k\)-NN diperlukan agar penerapan metode klasifikasi dapat dilakukan secara sistematis dan tepat.

Berdasarkan hasil analisis, algoritma K-Nearest Neighbors (\(k\)-NN) berhasil diterapkan untuk mengklasifikasikan Wisconsin Breast Cancer Database menggunakan bahasa pemrograman R dengan package class, caret, ggplot2, dan mlbench. Dataset yang semula terdiri atas 699 observasi setelah melalui tahap pra-pemrosesan menjadi 683 observasi, kemudian dinormalisasi menggunakan metode Min-Max dan dibagi menjadi 546 data training serta 137 data testing. Pengujian dilakukan terhadap lima variasi nilai (k), yaitu 3, 5, 7, 9, dan 11, yang seluruhnya menghasilkan performa identik dengan accuracy sebesar 98,54%, sensitivity sebesar 98,08%, dan specificity sebesar 98,82%. Berdasarkan kriteria pemilihan yang mengutamakan nilai sensitivity tertinggi dan jumlah false negative terendah, nilai (k=3) dipilih sebagai parameter optimal karena memiliki performa setara dengan nilai (k) lainnya. Hasil confusion matrix menunjukkan bahwa model mampu mengklasifikasikan 135 dari 137 observasi dengan benar, dengan masing-masing satu kesalahan klasifikasi pada kelas benign dan malignant. Selain itu, visualisasi kurva menunjukkan bahwa performa model tetap stabil pada seluruh variasi nilai (k). Dengan demikian, algoritma \(k\)-NN memberikan hasil klasifikasi yang sangat baik pada dataset yang digunakan, meskipun pengujian lebih lanjut menggunakan cross-validation diperlukan untuk memperoleh evaluasi yang lebih menyeluruh.

5.2 Saran

Laporan praktikum ini melakukan pemograman R. Dalam hal ini perlu memahami sintak yang diperlukan dalam hal pengerjaannya ini agar tidak terjadi error pada programnya. Dan juga sangat perlu memahami tentang metode Algoritma K-Nearest Neighbors (\(k\)-NN).

DAFTAR PUSTAKA

Allorerung, P. P., Erna, A., Bagussahrir, M., & Alam, S. (2024). Analisis performa normalisasi data untuk klasifikasi K-Nearest Neighbor pada dataset penyakit. JISKA (Jurnal Informatika Sunan Kalijaga), 9(3), 178–191. https://doi.org/10.14421/jiska.2024.9.3.178-191

Danestiara, V. R. (2023). Algoritma k-Nearest Neighbor Classifier untuk prediksi curah hujan di Kabupaten Bandung. SISINFO: Jurnal Sistem Informasi dan Informatika, 5(1), 7–15. https://doi.org/10.37278/sisinfo.v5i01.566

Fransiska, H. (2026). Modul praktikum machine learning and modern prediction. Laboratorium Matematika, Fakultas Matematika dan Ilmu Pengetahuan Alam, Universitas Bengkulu.

Gunawan, H., Chusyairi, A., & Saputra, M. I. (2025). Penerapan K-Nearest Neighbor dengan metode Euclidean Distance untuk klasifikasi tingkat ketebalan cat di PT XYZ. Jurnal Teknologi Informasi dan Ilmu Komputer, 1(2), 59–72. https://doi.org/10.65258/jutekom.v1.i2.12

Hadi, R., Suwirmayanti, N. L. G. P., Kusuma, I. G. N. A., Saryanti, I. G. A. D., & Novayanti, P. D. (2024). Implementasi metode normalisasi dan seleksi fitur dalam optimasi algoritma K-Nearest Neighbor (KNN) untuk klasifikasi data bank. Jurnal Nasional Komputasi dan Teknologi Informasi, 7(5), 1064–1071. https://doi.org/10.32672/jnkti.v7i5.7989

Kelilauw, S. R., Purnawansyah, Manga’, A. R., & Puspitasari, R. (2025). K-Nearest Neighbor dengan jarak Euclidean, Manhattan, dan Minkowski pada klasifikasi sampah. LINIER: Literatur Informatika dan Komputer, 2(3), 294–301. https://doi.org/10.33096/linier.v2i3.3141

Rukmana, S. Z. H., Aziz, A., & Harianto, W. (2022). Optimasi algoritma K-Nearest Neighbor (KNN) dengan normalisasi dan seleksi fitur untuk klasifikasi penyakit liver. JATI (Jurnal Mahasiswa Teknik Informatika), 6(2). https://doi.org/10.36040/jati.v6i2.4722

Setiawan, D., Muhammad, A., & Firizkiansah, A. (2024). Pengklasifikasian dokumen teks Bahasa Indonesia berbasis Vektor Space Model dengan menggunakan metode k-Nearest Neighbor (k-NN) dan Euclidean Distance. JIKOMTI: Jurnal Ilmiah Ilmu Komputer dan Teknologi Informasi, 1(1), 30–37. https://ojs.sains.ac.id/index.php/Jikomti/article/view/37

Yusran, M., Sadik, K., Soleh, A. M., & Suhaeni, C. (2025). Effect of feature normalization and distance metrics on K-nearest neighbors performance for diabetes disease classification. Journal of Mathematics, Computations and Statistics, 8(2), 341–354. https://doi.org/10.35580/jmathcos.v8i2.8012