Perkembangan teknologi digital, citra satelit, perangkat sensor, drone, GPS, dan platform crowdsourcing telah menghasilkan data geospasial dalam jumlah besar. Data tersebut tidak hanya memuat informasi atribut, tetapi juga lokasi, jarak, pola pergerakan, serta hubungan antarwilayah. Zou et al. (2024) menjelaskan bahwa geospatial big data semakin banyak digunakan untuk mengamati perkembangan perkotaan, mobilitas manusia, perubahan lingkungan, dan berbagai fenomena sosial secara lebih cepat serta multidimensional. Perkembangan tersebut mendorong pemanfaatan metode statistik dan machine learning dalam analisis spasial. Salah satu metode yang banyak digunakan ialah K-Nearest Neighbors (K-NN) karena metode ini menentukan karakteristik suatu objek berdasarkan kemiripan atau kedekatannya dengan sejumlah objek lain di sekitarnya.
Pemanfaatan K-NN dalam analisis spasial relevan karena banyak fenomena geografis menunjukkan pola ketergantungan ruang. Artinya, objek yang berdekatan secara geografis cenderung memiliki karakteristik yang lebih mirip dibandingkan objek yang berjauhan. K-NN dapat digunakan untuk mengidentifikasi tetangga terdekat, melakukan klasifikasi, membuat prediksi, serta menyaring lokasi yang memiliki hubungan spasial kuat. Sebagai contoh, Zhuang dan Cao (2023) menggabungkan K-NN dengan model bidirectional long short-term memory untuk memprediksi arus lalu lintas jangka pendek. Model tersebut menggunakan K-NN untuk memilih titik pengamatan yang memiliki korelasi spasial tinggi dan menghasilkan peningkatan kinerja dibandingkan beberapa model pembanding, termasuk SVR, LSTM, GRU, KNN-LSTM, dan CNN-LSTM. Pada bidang lingkungan, Lin et al. (2023) menerapkan K-NN pada data penginderaan jauh untuk memprediksi konsentrasi dan luasan es laut Arktik selama 122 hari. Hasil penelitian tersebut menunjukkan bahwa modifikasi K-NN yang mempertimbangkan pola spasial mampu menghasilkan prediksi yang lebih baik daripada prediksi klimatologis dan anomaly persistence.
Meskipun memiliki keunggulan, penerapan K-NN pada data spasial menghadapi beberapa persoalan. Pemilihan nilai K, ukuran jarak, skala data, serta cara menentukan tetangga dapat memengaruhi hasil klasifikasi maupun prediksi. Nilai K yang terlalu kecil dapat membuat model sensitif terhadap pencilan, sedangkan nilai K yang terlalu besar dapat mengaburkan pola lokal. Selain itu, penggunaan jarak Euclidean secara langsung belum tentu mencerminkan hubungan geografis yang sebenarnya, terutama pada data yang memiliki batas wilayah, jaringan jalan, atau pola spasial yang tidak beraturan. Nikparvar dan Thill (2021) menyatakan bahwa data spasial memiliki karakteristik khusus, seperti ketergantungan spasial, heterogenitas spasial, dan perbedaan skala. Jika karakteristik tersebut tidak diperhitungkan, model dapat menghasilkan prediksi yang bias atau evaluasi kinerja yang terlalu optimistis.
Penelitian terdahulu juga menunjukkan bahwa kajian K-NN dalam analisis spasial masih memiliki beberapa keterbatasan. Dalam tinjauan terhadap 162 penelitian machine learning pada analisis spasial perkotaan, Casali et al. (2022) menemukan heterogenitas yang besar dalam pemilihan sumber data, algoritma, dan parameter. Tinjauan tersebut juga menunjukkan bahwa banyak penelitian belum melaporkan proses pemilihan parameter secara memadai sehingga hasil penelitian sulit direplikasi. Selain itu, bidang seperti keadilan sosial, perubahan iklim, ekonomi sirkular, dan wilayah Global South masih kurang diteliti. Research gap tersebut menunjukkan bahwa penelitian mengenai K-NN perlu memberikan perhatian yang lebih sistematis terhadap pemilihan nilai K, ukuran jarak, karakteristik data, serta metode validasi yang mempertimbangkan ketergantungan spasial.
Keterbatasan lain terletak pada kecenderungan penelitian sebelumnya yang menggunakan K-NN sebagai algoritma prediksi umum tanpa memasukkan informasi spasial secara eksplisit ke dalam proses pembelajaran. Chen et al. (2026) menunjukkan bahwa model Spatially Explicit K-NN (SE-KNN) yang menggabungkan jarak atribut dan ketergantungan spasial mampu menghasilkan kinerja yang lebih baik daripada K-NN standar, regresi linear, dan jaringan saraf tiruan dalam prediksi harga rumah. Pada studi tersebut, SE-KNN menghasilkan nilai MAE sebesar 32.571, sedangkan K-NN standar menghasilkan MAE sebesar 43.984. Selain itu, nilai Moran’s I pada residual SE-KNN hanya sebesar 0,025, lebih rendah daripada K-NN standar yang mencapai 0,255. Temuan ini memperlihatkan bahwa memasukkan informasi spasial ke dalam K-NN dapat mengurangi pola spasial yang belum dijelaskan oleh model dan meningkatkan ketepatan prediksi.
Pada bidang medis, K-NN juga banyak dimanfaatkan untuk klasifikasi penyakit berdasarkan kemiripan karakteristik pasien. Uddin et al. (2022) membandingkan K-NN dan beberapa variannya untuk prediksi penyakit dan menunjukkan bahwa kinerja model bergantung pada nilai \(K\) dan ukuran evaluasi yang digunakan. Dalam diagnosis kanker, jenis kesalahan klasifikasi memiliki konsekuensi yang tidak setara: tumor ganas yang salah diklasifikasikan sebagai jinak (False Negative) berpotensi menunda penanganan pasien, sehingga sensitivitas model menjadi ukuran yang sangat penting selain akurasi.
Berdasarkan uraian tersebut, praktikum ini menerapkan K-NN pada data medis Wisconsin Breast Cancer Database untuk mengklasifikasikan tumor payudara sebagai jinak (benign) atau ganas (malignant). Praktikum ini diharapkan memberikan pemahaman mengenai prinsip kerja K-NN, pentingnya penskalaan fitur, pemilihan nilai \(K\), serta evaluasi model yang mempertimbangkan risiko kesalahan diagnosis. Secara praktis, hasil praktikum menunjukkan bagaimana pemilihan parameter \(K\) dapat didasarkan pada tujuan klinis, yaitu meminimalkan False Negative, dan bukan semata-mata pada akurasi model.
Lakukan pemodelan klasifikasi terhadap data medis riil Wisconsin Breast Cancer Database yang dimuat melalui paket mlbench. Tujuan pemodelan adalah mendeteksi secara akurat apakah tumor payudara tergolong jinak (benign) atau ganas (malignant).
Instruksi pengerjaan:
data(BreastCancer, package = "mlbench").set.seed(123XY) untuk NPM ganjil, sedangkan
NPM genap membagi data menjadi 80% data latih dan 20% data uji dengan
inisialisasi set.seed(123XY). XY adalah dua digit terakhir
NPM praktikan. Pada laporan ini, XY = 47 (NPM ganjil), sehingga
digunakan set.seed(12347) dengan pembagian 70% data latih
dan 30% data uji.Adapun manfaat dari praktikum kali ini adalah:
K-Nearest Neighbors (K-NN) merupakan algoritma machine learning berbasis kedekatan. Algoritma ini menentukan kelas atau nilai suatu observasi berdasarkan sejumlah \(K\) observasi lain yang memiliki jarak paling dekat. K-NN termasuk metode nonparametrik karena tidak mengharuskan peneliti menetapkan bentuk distribusi tertentu pada data. Pada prosesnya, K-NN menyimpan observasi pada data latih, menghitung jarak antara observasi baru dan seluruh observasi pada data latih, kemudian menggunakan sejumlah tetangga terdekat untuk menghasilkan prediksi (Halder et al., 2024).
Menurut Halder et al. (2024), proses dasar K-NN terdiri atas beberapa tahap. Tahap pertama adalah menyiapkan data dan melakukan prapemrosesan. Tahap kedua adalah menentukan nilai \(K\). Tahap ketiga adalah menghitung jarak antara observasi yang akan diprediksi dan seluruh observasi pada data latih. Tahap keempat adalah memilih \(K\) observasi dengan jarak terkecil. Tahap terakhir adalah menentukan hasil prediksi berdasarkan mayoritas kelas tetangga untuk klasifikasi atau rata-rata nilai tetangga untuk regresi.
Secara umum, jarak Euclidean antara dua observasi dapat dirumuskan sebagai berikut:
\[ d(x_i,x_j)=\sqrt{\sum_{l=1}^{p}(x_{il}-x_{jl})^2} \]
Keterangan:
Semakin kecil nilai jarak antara dua observasi, semakin besar tingkat kemiripan keduanya berdasarkan variabel yang digunakan. Dalam penelitian spasial, perhitungan jarak dapat diterapkan pada ruang atribut, ruang geografis, atau gabungan keduanya. Oleh karena itu, peneliti perlu menjelaskan variabel dan ukuran jarak yang digunakan dalam pembentukan tetangga.
Pada masalah klasifikasi, K-NN menentukan kelas observasi baru berdasarkan kelas yang paling banyak muncul di antara \(K\) tetangga terdekat. Jika sebagian besar tetangga termasuk dalam kelas tertentu, observasi baru akan diklasifikasikan ke dalam kelas tersebut. Prediksi kelas K-NN dapat dituliskan sebagai berikut:
\[ \hat{y}(x)=\operatorname{mode}\{y_{(1)},y_{(2)},\ldots,y_{(K)}\} \]
Keterangan:
Sebagai ilustrasi, apabila tiga tetangga terdekat terdiri atas dua observasi dari kelas A dan satu observasi dari kelas B, maka observasi baru akan diklasifikasikan ke dalam kelas A. K-NN dapat digunakan untuk mengklasifikasikan wilayah berdasarkan kategori tertentu, seperti wilayah berisiko tinggi dan rendah, wilayah layak dan tidak layak, atau wilayah dengan tingkat aksesibilitas yang berbeda.
Keunggulan K-NN untuk klasifikasi terletak pada mekanismenya yang sederhana dan mudah dipahami. Algoritma ini tidak memerlukan proses estimasi parameter model yang kompleks. Namun, hasil klasifikasi dapat dipengaruhi oleh ketidakseimbangan kelas, pencilan, skala variabel, serta pemilihan nilai \(K\). Oleh sebab itu, proses prapemrosesan dan evaluasi model perlu dilakukan secara cermat.
Pada masalah regresi, K-NN memprediksi nilai numerik berdasarkan rata-rata nilai dari \(K\) tetangga terdekat. Bentuk sederhana prediksi K-NN untuk regresi adalah:
\[ \hat{y}(x)=\frac{1}{K}\sum_{i=1}^{K}y_{(i)} \]
Keterangan:
Selain menggunakan rata-rata sederhana, peneliti dapat menggunakan weighted K-NN. Pada metode ini, tetangga yang memiliki jarak lebih dekat memperoleh bobot yang lebih besar dibandingkan tetangga yang lebih jauh. Dengan demikian, observasi yang paling mirip dengan observasi target memberikan pengaruh lebih besar terhadap hasil prediksi. Halder et al. (2024) menjelaskan bahwa pembobotan berdasarkan jarak dapat meningkatkan ketepatan prediksi, terutama ketika kedekatan antarobservasi memiliki arti penting.
Salah satu bentuk pembobotan berdasarkan jarak dapat dirumuskan sebagai berikut:
\[ \hat{y}(x)=\frac{\sum_{i=1}^{K}w_i y_{(i)}}{\sum_{i=1}^{K}w_i} \]
dengan \(w_i\) merupakan bobot untuk tetangga ke-\(i\). Salah satu fungsi bobot yang dapat digunakan adalah:
\[ w_i=\frac{1}{d_i+\epsilon} \]
Keterangan:
Nilai \(K\) merupakan salah satu parameter penting dalam algoritma K-NN. Nilai \(K\) yang kecil membuat model lebih sensitif terhadap pola lokal, tetapi juga lebih mudah dipengaruhi oleh pencilan dan noise. Sebaliknya, nilai \(K\) yang besar membuat prediksi lebih stabil, tetapi dapat mengurangi kemampuan model dalam menangkap variasi lokal.
Nilai \(K\) yang terlalu kecil dapat menyebabkan overfitting. Dalam kondisi tersebut, model terlalu mengikuti karakteristik data latih dan kurang mampu melakukan generalisasi pada observasi baru. Sebaliknya, nilai \(K\) yang terlalu besar dapat menyebabkan underfitting karena model menggunakan terlalu banyak tetangga dan menghasilkan prediksi yang terlalu umum. Halder et al. (2024) menegaskan bahwa pemilihan nilai \(K\) yang tidak tepat dapat memengaruhi kinerja model dan meningkatkan risiko overfitting atau underfitting.
Pemilihan nilai \(K\) sebaiknya dilakukan melalui pengujian beberapa kandidat nilai. Peneliti dapat menggunakan cross-validation untuk membandingkan kinerja model pada beberapa nilai \(K\). Nilai \(K\) terbaik adalah nilai yang menghasilkan kinerja validasi paling baik berdasarkan ukuran evaluasi yang sesuai dengan tujuan penelitian. Pada data spasial, pemilihan tersebut sebaiknya menggunakan validasi silang spasial agar estimasi kinerja model tidak terlalu optimistis akibat kedekatan lokasi antara data latih dan data uji.
Uddin et al. (2022) membandingkan beberapa variasi K-NN dengan nilai \(K\) sebesar 1, 3, 5, 7, dan 9. Hasil penelitian tersebut menunjukkan bahwa kinerja K-NN dapat berubah bergantung pada nilai \(K\), varian algoritma, serta ukuran evaluasi yang digunakan. Temuan ini menunjukkan bahwa peneliti tidak sebaiknya menetapkan nilai \(K\) hanya berdasarkan aturan praktis, tetapi perlu mengujinya berdasarkan karakteristik data penelitian.
Ukuran jarak menentukan tingkat kedekatan antara suatu observasi dan observasi lainnya. Beberapa ukuran jarak yang umum digunakan dalam K-NN adalah jarak Euclidean, Manhattan, dan Minkowski. Jarak Euclidean mengukur jarak garis lurus antara dua observasi, sedangkan jarak Manhattan menghitung jumlah selisih absolut pada setiap variabel.
Jarak Manhattan dirumuskan sebagai berikut:
\[ d(x_i,x_j)=\sum_{l=1}^{p}|x_{il}-x_{jl}| \]
Sementara itu, jarak Minkowski merupakan bentuk umum yang dapat digunakan untuk memperoleh jarak Euclidean maupun Manhattan:
\[ d(x_i,x_j)=\left(\sum_{l=1}^{p}|x_{il}-x_{jl}|^q\right)^{1/q} \]
Nilai \(q=2\) menghasilkan jarak Euclidean, sedangkan \(q=1\) menghasilkan jarak Manhattan. Pemilihan ukuran jarak perlu disesuaikan dengan karakteristik data dan tujuan penelitian. Halder et al. (2024) menjelaskan bahwa pemilihan nilai \(K\), ukuran jarak, dan metode pembobotan dapat memengaruhi kinerja K-NN secara langsung.
Dalam data dengan skala variabel yang berbeda, peneliti perlu melakukan penskalaan sebelum menghitung jarak. Tanpa penskalaan, variabel dengan satuan atau rentang nilai yang besar dapat mendominasi perhitungan jarak. Penskalaan dapat dilakukan dengan standardisasi (z-score) atau normalisasi Min-Max. Standardisasi dirumuskan sebagai berikut:
\[ z_i=\frac{x_i-\bar{x}}{s} \]
Keterangan:
Adapun normalisasi Min-Max, yang digunakan pada praktikum ini, mengubah setiap variabel ke rentang 0 sampai 1:
\[ x'_i=\frac{x_i-x_{\min}}{x_{\max}-x_{\min}} \]
Dalam konteks analisis spasial, peneliti juga perlu membedakan jarak atribut dan jarak geografis. Jarak atribut dihitung berdasarkan kesamaan nilai variabel, sedangkan jarak geografis dihitung berdasarkan posisi atau koordinat. Dua lokasi dapat berdekatan secara geografis, tetapi memiliki karakteristik atribut yang berbeda. Sebaliknya, dua lokasi dapat memiliki atribut yang mirip, tetapi berada pada jarak geografis yang jauh. Karena itu, definisi tetangga perlu disesuaikan dengan tujuan analisis.
Kinerja model klasifikasi dievaluasi menggunakan Confusion Matrix, yaitu tabel yang membandingkan kelas prediksi dengan kelas aktual. Dengan kelas malignant sebagai kelas positif, tabel ini memuat empat komponen: True Positive (TP), yaitu tumor ganas yang diprediksi ganas; True Negative (TN), yaitu tumor jinak yang diprediksi jinak; False Positive (FP), yaitu tumor jinak yang diprediksi ganas; dan False Negative (FN), yaitu tumor ganas yang diprediksi jinak. Metrik evaluasi yang diturunkan dari komponen tersebut adalah:
\[ \text{Accuracy}=\frac{TP+TN}{TP+TN+FP+FN},\qquad \text{Sensitivity}=\frac{TP}{TP+FN}, \]
\[ \text{Specificity}=\frac{TN}{TN+FP},\qquad \text{PPV}=\frac{TP}{TP+FP} \]
Pada diagnosis kanker, Sensitivity menjadi metrik yang diprioritaskan karena nilai yang rendah berarti banyak pasien dengan tumor ganas tidak terdeteksi (FN tinggi).
K-NN memiliki beberapa kelebihan. Pertama, algoritma ini mudah dipahami dan diimplementasikan. Kedua, K-NN dapat digunakan untuk klasifikasi maupun regresi. Ketiga, K-NN tidak memerlukan asumsi distribusi tertentu sehingga dapat diterapkan pada berbagai bentuk data. Keempat, algoritma ini dapat menangkap pola nonlinier karena prediksi ditentukan berdasarkan kedekatan antarobservasi.
K-NN juga memiliki beberapa keterbatasan. Proses prediksi dapat membutuhkan waktu yang cukup besar karena algoritma harus menghitung jarak antara observasi baru dan data latih. Beban komputasi tersebut dapat meningkat pada dataset berukuran besar atau berdimensi tinggi. Halder et al. (2024) menyatakan bahwa K-NN klasik dapat mengalami peningkatan biaya komputasi dan penurunan kinerja ketika jumlah dimensi data bertambah. Selain itu, K-NN sensitif terhadap skala variabel, pencilan, pemilihan ukuran jarak, serta nilai \(K\).
Pada analisis spasial, keterbatasan lain muncul apabila model K-NN tidak mempertimbangkan ketergantungan spasial. Model yang hanya menggunakan jarak atribut dapat mengabaikan informasi geografis yang penting. Chen et al. (2026) menunjukkan bahwa pendekatan Spatially Explicit K-NN yang memasukkan struktur spasial dapat menghasilkan kinerja lebih baik daripada K-NN standar pada prediksi harga rumah. Oleh karena itu, penelitian yang menggunakan K-NN untuk data spasial perlu menjelaskan apakah informasi geografis digunakan dalam pembentukan tetangga atau hanya digunakan pada tahap interpretasi hasil.
Jenis data pada penelitian ini adalah data numerik. Data numerik adalah jenis data yang terdiri dari angka dan dapat diukur atau dihitung secara kuantitatif. Data ini digunakan untuk merepresentasikan nilai atau ukuran tertentu dalam berbagai konteks, seperti sains, ekonomi, statistik, dan matematika. Data numerik sering digunakan untuk melakukan perhitungan, analisis, dan visualisasi data. Dalam laporan ini sumber data yang digunakan adalah data sekunder, yaitu data yang telah dikumpulkan dan disusun oleh pihak lain di luar praktikan itu sendiri. Data pada praktikum ini yaitu dataset Breast Cancer (Wisconsin Breast Cancer Database) yang tersedia di R melalui paket mlbench.
Variabel adalah simbol, karakteristik, atau atribut yang dapat diukur atau diamati dalam sebuah penelitian atau eksperimen. Variabel respons dalam penelitian ini adalah Class, yang terdiri atas dua kategori, yaitu benign dan malignant. Variabel prediktor terdiri atas sembilan karakteristik sel, yaitu ketebalan gumpalan sel (Cl.thickness), keseragaman ukuran sel (Cell.size), keseragaman bentuk sel (Cell.shape), perlekatan marginal (Marg.adhesion), ukuran sel epitel tunggal (Epith.c.size), kondisi inti sel (Bare.nuclei), struktur kromatin (Bl.cromatin), bentuk nukleolus normal (Normal.nucleoli), dan mitosis (Mitoses). Variabel Id tidak digunakan dalam pemodelan karena hanya berfungsi sebagai identitas observasi. Observasi yang memiliki nilai hilang pada variabel Bare.nuclei dihapus sebelum digunakan dalam pembentukan model K-NN.
Langkah-langkah analisis data yang dilakukan pada penelitian ini adalah sebagai berikut:
set.seed(12347)
(NPM ganjil, XY = 47).library(class) # Menyediakan fungsi knn()
library(caret) # Menghitung confusion matrix
## Loading required package: ggplot2
## Loading required package: lattice
library(ggplot2) # Visualisasi
library(mlbench) # Menyediakan dataset
data(BreastCancer, package = "mlbench") # Memuat dataset BreastCancer
str(BreastCancer) # Menampilkan struktur variabel
## 'data.frame': 699 obs. of 11 variables:
## $ Id : chr "1000025" "1002945" "1015425" "1016277" ...
## $ Cl.thickness : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 5 5 3 6 4 8 1 2 2 4 ...
## $ Cell.size : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 1 1 2 ...
## $ Cell.shape : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 2 1 1 ...
## $ Marg.adhesion : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 5 1 1 3 8 1 1 1 1 ...
## $ Epith.c.size : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 2 7 2 3 2 7 2 2 2 2 ...
## $ Bare.nuclei : Factor w/ 10 levels "1","2","3","4",..: 1 10 2 4 1 10 10 1 1 1 ...
## $ Bl.cromatin : Factor w/ 10 levels "1","2","3","4",..: 3 3 3 3 3 9 3 3 1 2 ...
## $ Normal.nucleoli: Factor w/ 10 levels "1","2","3","4",..: 1 2 1 7 1 7 1 1 1 1 ...
## $ Mitoses : Factor w/ 9 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 5 1 ...
## $ Class : Factor w/ 2 levels "benign","malignant": 1 1 1 1 1 2 1 1 1 1 ...
head(BreastCancer) # Menampilkan 6 observasi teratas
## Id Cl.thickness Cell.size Cell.shape Marg.adhesion Epith.c.size
## 1 1000025 5 1 1 1 2
## 2 1002945 5 4 4 5 7
## 3 1015425 3 1 1 1 2
## 4 1016277 6 8 8 1 3
## 5 1017023 4 1 1 3 2
## 6 1017122 8 10 10 8 7
## Bare.nuclei Bl.cromatin Normal.nucleoli Mitoses Class
## 1 1 3 1 1 benign
## 2 10 3 2 1 benign
## 3 2 3 1 1 benign
## 4 4 3 7 1 benign
## 5 1 3 1 1 benign
## 6 10 9 7 1 malignant
table(BreastCancer$Class) # Memeriksa frekuensi kelas
##
## benign malignant
## 458 241
Dataset BreastCancer terdiri atas 699 observasi dengan 11
variabel, yaitu satu variabel identitas (Id), sembilan
variabel prediktor (Cl.thickness, Cell.size,
Cell.shape, Marg.adhesion,
Epith.c.size, Bare.nuclei,
Bl.cromatin, Normal.nucleoli, dan
Mitoses), serta satu variabel respons (Class).
Seluruh prediktor bernilai pada skala 1–10 namun masih bertipe
factor, sehingga perlu dikonversi menjadi numerik sebelum
dihitung jaraknya. Variabel Id hanya berfungsi sebagai
identitas observasi sehingga tidak digunakan dalam klasifikasi. Variabel
Class terdiri atas dua kategori, yaitu benign
(jinak) dan malignant (ganas). Terdapat nilai yang tidak terisi
pada variabel Bare.nuclei sehingga perlu dilakukan
penanganan missing value pada tahap berikutnya.
data_bc <- BreastCancer[, -1]
data_bc[, 1:9] <- lapply(data_bc[, 1:9], function(x) {
as.numeric(as.character(x))
})
# Memeriksa dan menghapus data yang memiliki missing value
cat("Jumlah observasi dengan missing value:", sum(!complete.cases(data_bc)), "\n")
## Jumlah observasi dengan missing value: 16
data_bc <- na.omit(data_bc)
dim(data_bc)
## [1] 683 10
table(data_bc$Class)
##
## benign malignant
## 444 239
Setelah variabel Id dihapus dan sembilan variabel
prediktor dikonversi menjadi numerik, ditemukan 16 observasi yang
memiliki missing value (seluruhnya pada variabel
Bare.nuclei). Observasi tersebut dihapus sehingga diperoleh
data bersih sebanyak 683 observasi dengan 10 variabel, yaitu sembilan
variabel prediktor numerik dan satu variabel respons
(Class). Distribusi kelas pada data bersih adalah 444
observasi benign (65,0%) dan 239 observasi malignant
(35,0%). Proporsi tersebut menunjukkan kelas benign lebih
banyak, tetapi ketidakseimbangannya masih tergolong wajar untuk
dianalisis.
# Mendefinisikan fungsi normalisasi Min-Max
min_max_norm <- function(x) {
(x - min(x)) / (max(x) - min(x))
}
data_norm <- as.data.frame(lapply(data_bc[, 1:9], min_max_norm))
data_norm$Class <- data_bc$Class # Menggabungkan kembali label kelas
summary(data_norm)
## Cl.thickness Cell.size Cell.shape Marg.adhesion
## Min. :0.0000 Min. :0.0000 Min. :0.0000 Min. :0.0000
## 1st Qu.:0.1111 1st Qu.:0.0000 1st Qu.:0.0000 1st Qu.:0.0000
## Median :0.3333 Median :0.0000 Median :0.0000 Median :0.0000
## Mean :0.3825 Mean :0.2390 Mean :0.2461 Mean :0.2034
## 3rd Qu.:0.5556 3rd Qu.:0.4444 3rd Qu.:0.4444 3rd Qu.:0.3333
## Max. :1.0000 Max. :1.0000 Max. :1.0000 Max. :1.0000
## Epith.c.size Bare.nuclei Bl.cromatin Normal.nucleoli
## Min. :0.0000 Min. :0.0000 Min. :0.0000 Min. :0.0000
## 1st Qu.:0.1111 1st Qu.:0.0000 1st Qu.:0.1111 1st Qu.:0.0000
## Median :0.1111 Median :0.0000 Median :0.2222 Median :0.0000
## Mean :0.2483 Mean :0.2827 Mean :0.2717 Mean :0.2077
## 3rd Qu.:0.3333 3rd Qu.:0.5556 3rd Qu.:0.4444 3rd Qu.:0.3333
## Max. :1.0000 Max. :1.0000 Max. :1.0000 Max. :1.0000
## Mitoses Class
## Min. :0.00000 benign :444
## 1st Qu.:0.00000 malignant:239
## Median :0.00000
## Mean :0.06702
## 3rd Qu.:0.00000
## Max. :1.00000
Setelah normalisasi Min-Max, seluruh sembilan variabel
prediktor memiliki nilai minimum 0 dan maksimum 1, sedangkan variabel
Class tetap terdiri atas 444 observasi benign dan
239 observasi malignant. Variabel Cl.thickness
memiliki rata-rata tertinggi (0,3825), sedangkan Mitoses
memiliki rata-rata terendah (0,0670). Penyeragaman skala ini penting
karena K-NN menghitung jarak Euclidean antarobservasi; tanpa
normalisasi, variabel dengan rentang nilai lebih besar dapat mendominasi
perhitungan jarak dan memengaruhi hasil klasifikasi.
set.seed(12347) # NPM ganjil, XY = 47
# Mengambil indeks sampel acak sebesar 70% dari total data
train_indices <- sample(seq_len(nrow(data_norm)),
size = round(0.70 * nrow(data_norm)))
# Memisahkan matriks fitur prediktor
train_x <- data_norm[train_indices, 1:9]
test_x <- data_norm[-train_indices, 1:9]
# Memisahkan vektor label kelas
train_y <- factor(data_norm$Class[train_indices],
levels = c("benign", "malignant"))
test_y <- factor(data_norm$Class[-train_indices],
levels = c("benign", "malignant"))
cat("Dimensi Data Latih (Train):", nrow(train_x), "baris,", ncol(train_x), "fitur\n")
## Dimensi Data Latih (Train): 478 baris, 9 fitur
cat("Dimensi Data Uji (Test):", nrow(test_x), "baris,", ncol(test_x), "fitur\n")
## Dimensi Data Uji (Test): 205 baris, 9 fitur
table(test_y)
## test_y
## benign malignant
## 137 68
Data bersih dibagi menjadi 478 observasi data latih (70%) dan 205
observasi data uji (30%), masing-masing dengan sembilan fitur prediktor,
menggunakan set.seed(12347). Pada data uji terdapat 137
observasi benign dan 68 observasi malignant. Data
latih digunakan untuk membangun model K-NN, sedangkan data uji digunakan
untuk mengukur kemampuan model mengklasifikasikan data yang belum pernah
dilihat sebelumnya sehingga evaluasi kinerja model bersifat
objektif.
k_values <- c(3, 5, 7, 9, 11)
# Menyiapkan penyimpanan hasil evaluasi
hasil_evaluasi <- data.frame()
# Pengujian iteratif untuk setiap nilai k
for (k_val in k_values) {
# Klasifikasi K-NN
pred_uji <- knn(train = train_x,
test = test_x,
cl = train_y,
k = k_val)
# Confusion matrix (kelas positif = malignant)
cm <- confusionMatrix(data = pred_uji,
reference = test_y,
positive = "malignant")
# Menyimpan hasil evaluasi
hasil_evaluasi <- rbind(
hasil_evaluasi,
data.frame(
k = k_val,
TP = cm$table["malignant", "malignant"],
TN = cm$table["benign", "benign"],
FP = cm$table["malignant", "benign"],
FN = cm$table["benign", "malignant"],
Accuracy = unname(cm$overall["Accuracy"]),
Sensitivity = unname(cm$byClass["Sensitivity"]),
Specificity = unname(cm$byClass["Specificity"]),
PPV = unname(cm$byClass["Pos Pred Value"])
)
)
}
# Menampilkan tabel perbandingan (dalam persen)
tabel_tampil <- hasil_evaluasi
tabel_tampil[, 6:9] <- round(tabel_tampil[, 6:9] * 100, 2)
knitr::kable(tabel_tampil,
col.names = c("k", "TP", "TN", "FP", "FN",
"Accuracy (%)", "Sensitivity (%)",
"Specificity (%)", "PPV (%)"),
caption = "Tabel Perbandingan Metrik Evaluasi K-NN pada Data Uji",
align = "c")
| k | TP | TN | FP | FN | Accuracy (%) | Sensitivity (%) | Specificity (%) | PPV (%) |
|---|---|---|---|---|---|---|---|---|
| 3 | 68 | 132 | 5 | 0 | 97.56 | 100.00 | 96.35 | 93.15 |
| 5 | 67 | 132 | 5 | 1 | 97.07 | 98.53 | 96.35 | 93.06 |
| 7 | 67 | 132 | 5 | 1 | 97.07 | 98.53 | 96.35 | 93.06 |
| 9 | 67 | 132 | 5 | 1 | 97.07 | 98.53 | 96.35 | 93.06 |
| 11 | 66 | 132 | 5 | 2 | 96.59 | 97.06 | 96.35 | 92.96 |
Pengujian K-NN dilakukan pada lima nilai \(k\), yaitu 3, 5, 7, 9, dan 11, dengan malignant sebagai kelas positif. Dengan demikian, False Negative (FN) adalah tumor ganas yang salah diprediksi sebagai jinak. Pada \(k=3\), diperoleh akurasi 97,56%, sensitivitas 100%, spesifisitas 96,35%, dan PPV 93,15%, dengan FN = 0 dan FP = 5. Pada \(k=5\), \(k=7\), dan \(k=9\), diperoleh hasil yang sama, yaitu akurasi 97,07%, sensitivitas 98,53%, spesifisitas 96,35%, dan PPV 93,06%, dengan FN = 1 dan FP = 5. Pada \(k=11\), akurasi turun menjadi 96,59%, sensitivitas 97,06%, spesifisitas 96,35%, dan PPV 92,96%, dengan FN = 2 dan FP = 5.
Spesifisitas bernilai sama pada seluruh nilai \(k\) (132 dari 137 kasus jinak terklasifikasi benar), sehingga perbedaan kinerja antarnilai \(k\) bersumber dari jumlah FN. Nilai \(k=3\) memberikan akurasi dan sensitivitas tertinggi serta tidak melewatkan satu pun kasus ganas. Kenaikan nilai \(k\) dari 3 ke 11 diikuti penurunan sensitivitas karena prediksi semakin umum dan kasus ganas yang berada di perbatasan kelas lebih mudah terklasifikasi sebagai jinak.
# Urutan prioritas: Sensitivity (meminimalkan FN), lalu Accuracy, lalu Specificity
hasil_urut <- hasil_evaluasi[
order(-hasil_evaluasi$Sensitivity,
-hasil_evaluasi$Accuracy,
-hasil_evaluasi$Specificity), ]
k_optimal <- hasil_urut$k[1]
cat("Nilai k paling optimal adalah:", k_optimal, "\n")
## Nilai k paling optimal adalah: 3
# Menyiapkan data untuk visualisasi
tabel_grafik <- data.frame(
k = rep(k_values, 3),
Nilai = c(
hasil_evaluasi$Accuracy,
hasil_evaluasi$Sensitivity,
hasil_evaluasi$Specificity
),
Metrik = rep(
c("Accuracy", "Sensitivity", "Specificity"),
each = length(k_values)
)
)
Pemilihan nilai \(k\) optimal mengutamakan Sensitivity tertinggi, kemudian Accuracy dan Specificity. Dalam diagnosis kanker, False Negative jauh lebih berbahaya daripada False Positive: FN berarti pasien dengan tumor ganas dinyatakan jinak sehingga penanganan terlambat, sedangkan FP umumnya hanya berujung pada pemeriksaan lanjutan. Berdasarkan kriteria tersebut, nilai \(k\) paling optimal adalah 3, dengan sensitivitas 100% (FN = 0), akurasi 97,56%, dan spesifisitas 96,35%. Nilai \(k=3\) juga memiliki akurasi tertinggi sehingga tidak terdapat trade-off antara sensitivitas dan akurasi.
ggplot(tabel_grafik, aes(x = k, y = Nilai, color = Metrik, group = Metrik)) +
geom_line(linewidth = 1.1) +
geom_point(size = 2.8) +
scale_x_continuous(breaks = k_values) +
scale_y_continuous(labels = scales::percent_format(accuracy = 0.1)) +
labs(
title = "Perbandingan Metrik Evaluasi Klasifikasi K-NN",
subtitle = "Evaluasi pada Dataset BreastCancer",
x = "Jumlah Tetangga Terdekat (k)",
y = "Nilai Evaluasi",
color = "Metrik Evaluasi"
) +
theme_minimal(base_size = 11) +
theme(
plot.title = element_text(face = "bold", hjust = 0.5),
plot.subtitle = element_text(hjust = 0.5),
panel.grid.minor = element_blank()
)
Perbandingan Accuracy, Sensitivity, dan Specificity K-NN untuk Setiap Nilai k
Grafik menunjukkan bahwa spesifisitas konstan pada 96,35% untuk seluruh nilai \(k\). Akurasi dan sensitivitas tertinggi dicapai pada \(k=3\) (97,56% dan 100%), menurun pada \(k=5\) hingga \(k=9\) (97,07% dan 98,53%), dan menurun kembali pada \(k=11\) (96,59% dan 97,06%). Pola ini menunjukkan bahwa pada data ini, semakin besar nilai \(k\), kemampuan model mendeteksi kasus ganas cenderung sedikit menurun karena batas keputusan menjadi lebih umum. Dengan demikian, \(k=3\) dipilih sebagai nilai optimal karena menghasilkan sensitivitas tertinggi dengan akurasi terbaik.
Perlu dicatat bahwa selisih kinerja antarnilai \(k\) hanya berkisar 1–2 observasi pada satu kali pembagian data uji, sehingga seluruh nilai \(k\) yang diuji sebenarnya menghasilkan kinerja yang sama-sama sangat baik (akurasi di atas 96%). Validasi silang (cross-validation) dapat digunakan untuk memperoleh estimasi yang lebih stabil.
Algoritma K-Nearest Neighbors (K-NN) merupakan metode supervised learning non-parametrik yang digunakan untuk klasifikasi maupun regresi. Algoritma ini menentukan sejumlah \(k\) tetangga terdekat berdasarkan jarak (misalnya jarak Euclidean) antara data baru dan data latih. Pada klasifikasi, kelas data baru ditentukan berdasarkan kelas yang paling banyak muncul di antara \(k\) tetangga terdekat (majority voting).
Penskalaan fitur bertujuan menyamakan rentang nilai antarvariabel prediktor. Tahap ini penting pada K-NN karena perhitungan jarak sangat dipengaruhi skala setiap fitur; variabel dengan rentang besar dapat mendominasi jarak sehingga memengaruhi hasil klasifikasi. Pada praktikum ini digunakan normalisasi Min-Max sehingga sembilan variabel prediktor berada pada rentang 0–1.
Implementasi K-NN dilakukan di R dengan pustaka class dan caret.
Fungsi knn() dari pustaka class digunakan untuk
klasifikasi, sedangkan fungsi confusionMatrix() dari
pustaka caret digunakan untuk evaluasi. Tahapannya meliputi memuat
dataset BreastCancer, menghapus variabel Id,
mengubah prediktor menjadi numerik, menghapus 16 observasi dengan
missing value sehingga tersisa 683 observasi (444
benign dan 239 malignant), melakukan normalisasi
Min-Max, dan membagi data menjadi 478 data latih (70%) dan 205
data uji (30%) dengan set.seed(12347).
Evaluasi model dilakukan menggunakan Confusion Matrix yang memuat True Positive, True Negative, False Positive, dan False Negative, dengan malignant sebagai kelas positif. Dari komponen tersebut dihitung Accuracy (proporsi seluruh prediksi yang benar), Sensitivity (kemampuan mendeteksi kasus ganas), Specificity (kemampuan mengenali kasus jinak), dan Positive Predictive Value (proporsi prediksi ganas yang benar-benar ganas).
Optimasi hiperparameter dilakukan dengan menguji \(k \in \{3,5,7,9,11\}\) dan memvisualisasikan metrik evaluasinya menggunakan ggplot2. Hasilnya, \(k=3\) menghasilkan akurasi 97,56%, sensitivitas 100%, spesifisitas 96,35%, dan PPV 93,15%; \(k=5\), \(7\), dan \(9\) menghasilkan akurasi 97,07% dan sensitivitas 98,53%; sedangkan \(k=11\) menghasilkan akurasi 96,59% dan sensitivitas 97,06%. Spesifisitas sama pada seluruh nilai \(k\) (96,35%).
Dengan mempertimbangkan pentingnya meminimalkan False Negative pada diagnosis kanker ganas, nilai \(k\) paling optimal adalah \(k=3\). Nilai ini menghasilkan sensitivitas 100% (FN = 0) sehingga tidak ada tumor ganas yang salah didiagnosis sebagai jinak, serta akurasi tertinggi di antara seluruh nilai \(k\) yang diuji. Dengan demikian, model K-NN dengan \(k=3\) mampu membedakan tumor payudara jinak dan ganas dengan sangat baik pada dataset BreastCancer.
Hasil praktikum ini berasal dari satu kali pembagian data dengan jumlah kasus ganas pada data uji yang relatif kecil (68 observasi), sehingga selisih kinerja antarnilai \(k\) hanya berkisar 1–2 observasi. Oleh karena itu, penelitian selanjutnya disarankan menggunakan validasi silang (k-fold cross-validation) melalui pustaka caret agar pemilihan nilai \(k\) lebih stabil, serta membandingkan ukuran jarak lain (seperti Manhattan) dan metode pembobotan jarak. Penulis juga menyarankan agar penulisan sintaks pada program R dan tata cara penulisan laporan diperhatikan sesuai kaidah KBBI sehingga laporan yang dihasilkan lebih baik.
Fransiska, H. (2026). Modul Praktikum Machine Learning. Universitas Bengkulu.
Casali, Y., Aydin Yonca, N., & Comes, T. (2022). Machine learning for spatial analyses in urban areas: A scoping review. Sustainable Cities and Society, 85, 104050. https://doi.org/10.1016/j.scs.2022.104050
Chen, M., Lee, C., & Chun, Y. (2026). A machine learning approach using spatially explicit K-nearest neighbors for house price predictions. ISPRS International Journal of Geo-Information, 15(1), 46. https://doi.org/10.3390/ijgi15010046
Halder, R. K., Uddin, M. N., Uddin, M. A., Aryal, S., & Khraisat, A. (2024). Enhancing K-nearest neighbor algorithm: A comprehensive review and performance analysis of modifications. Journal of Big Data, 11, 113. https://doi.org/10.1186/s40537-024-00973-y
Lin, Y., Yang, Q., Li, X., Yang, C.-Y., Wang, Y., Wang, J., Liu, J., Chen, S., & Liu, J. (2023). Optimization of the k-nearest-neighbors model for summer Arctic sea ice prediction. Frontiers in Marine Science, 10, 1260047. https://doi.org/10.3389/fmars.2023.1260047
Nikparvar, B., & Thill, J.-C. (2021). Machine learning of spatial data. ISPRS International Journal of Geo-Information, 10(9), 600. https://doi.org/10.3390/ijgi10090600
Uddin, S., Haque, I., Lu, H., Moni, M. A., & Gide, E. (2022). Comparative performance analysis of K-nearest neighbour (KNN) algorithm and its different variants for disease prediction. Scientific Reports, 12, 6256. https://doi.org/10.1038/s41598-022-10358-x
Zhuang, W., & Cao, Y. (2023). Short-term traffic flow prediction based on a K-nearest neighbor and bidirectional long short-term memory model. Applied Sciences, 13(4), 2681. https://doi.org/10.3390/app13042681
Zou, L., Song, Y., & Cervone, G. (2024). Geospatial big data: Theory, methods, and applications. Annals of GIS, 30(4), 411–415. https://doi.org/10.1080/19475683.2024.2419749