BAB I PENDAHULUAN

1.1 Latar Belakang Masalah

Machine learning bukanlah konsep yang baru. Sejak akhir tahun 1950-an, para peneliti telah berupaya mengembangkan algoritma yang memungkinkan mesin untuk belajar dari data. Salah satu pionirnya adalah Arthur Samuel, yang mengembangkan program bermain catur yang dapat “belajar” dari permainan sebelumnya untuk menjadi lebih baik. Seiring waktu, machine learning berkembang pesat dengan meningkatnya kemampuan komputasi dan ketersediaan data dalam jumlah besar. Di era digital saat ini, machine learning telah menjadi salah satu bidang yang paling cepat berkembang di dunia teknologi. Dari pengenalan pola sederhana hingga sistem pembelajaran mendalam (deep learning) yang kompleks, machine learning telah menjadi fondasi dari banyak inovasi teknologi modern, seperti pengenalan wajah, kendaraan otonom, asisten virtual, dan sistem rekomendasi (Bintoro dkk., 2024).

Machine Learning terbagi menjadi 2 macam konsep pembelajaran, yaitu pertama Supervised Learning yang merupakan teknik machine learning yang membuat suatu fungsi berdasarkan data latihan yang sudah ada, dalam hal ini dapat dikatakan untuk teknik ini sudah tersedia data latihan secara detail dan terklasifikasi dengan baik yang akan dijadikan sebuah model data saat dilakukan proses uji coba dengan data tes yang baru dan menghasilkan hasil keluaran yang sesuai diharapkan sebelumnya berdasarkan data latihan yang ada. Kedua adalah Unsupervised Learning yang merupakan teknik machine learning yang berusaha untuk melakukan representasi pola sebuah input yang berasal dari data latihan dan salah satu yang menjadi perbedaan dengan Supervised Learning adalah tidak adanya pengklasifikasian dari input data. Dalam Machine Learning teknik Unsupervised Learning menjadi esensial karena sistem kerja yang diberikan sama dengan cara kerja otak manusia dimana dalam proses pembelajaran tidak ada role model atau informasi dan contoh yang tersedia untuk dijadikan sebagai model dalam melakukan proses uji coba untuk penyelesaian sebuah masalah dengan data yang baru (Fathurohman, 2021).

Ensemble learning adalah Teknik dalam algoritma pembelajaran mesin (ML) dengan kombinasi dua algoritma atau lebih untuk mendapatkan solusi yang lebih baik dari model sebelumnya. Menurut Dong, ensemble learning adalah metode yang melibatkan beberapa algoritma ML dengan hasil rendah kemudian ditingkatkan untuk mendapatkan hasil yang lebih tinggi. Teknik ensemble learning terdiri dari bagging, boosting dan stacking. Menurut Qing-Fu Li, Teknik ensemble terdiri dari bagging dan boosting. Bagging merupakan proses yang menggunakan beberapa pelatihan base learner dengan melibatkan Teknik voting sebagai penentu hasil klasifikasi. Tujuan utama adalah menghapus base learner yang lemah untuk mendapatkan base learner yang kuat. Dari tujuan ini, base learner yang dihasilkan oleh model berbeda dengan base learner lainnya (Churniansyah dan Utomo, 2024).

1.2 Rumusan Masalah

Berdasarkan latar belakang tersebut, rumusan masalah yang dapat disimpulkan adalah:

1.Bagaimana konsep dasar dan prinsip kerja metode Bagging?

2.Bagaimana megimplementasikan metode Bagging dengan menggunakan R?

3.Bagaimana Mengevaluasi performa Bagging?

1.3 Tujuan Penelitian

Berdasarkan rumusan masalah tersebut, tujuan yang dapat disimpulkan adalah:

1.Mahasiswa dapat memahami konsep dasar dan prinsip kerja metode Bagging.

2.Mahasiswa dapat megimplementasikan metode Bagging dengan menggunakan R.

3.Mengevaluasi performa Bagging.

1.4 Manfaat Penelitian

Adapun manfaat pada penelitian ini yaitu:

1.Bagi Penulis

a.Memberikan informasi serta pengetahuan tentang konsep dasar dan prinsip kerja metode Bagging dalam Machine Learning.

b.Mengembangkan dan menerapkan wawasan ilmu yang telah diperoleh dalam bidang statistika, khususnya tentang konsep dasar dan prinsip kerja metode Bagging, dan mengevaluasi performa Bagging dengan R-Studio.

2.Bagi Pembaca

Menambah ilmu pengetahuan dan pemahaman yang berkaitan dengan konsep dasar dan prinsip kerja metode Bagging dan penerapannya dengan R-Studio.

1.5 Batasan Masalah

Adapun batasan masalah pada penelitian ini adalah gunakan data breast cancer kemudian lakukan bagging classification dengan bandingkan hasil dengan menggunakan nbagg = c(25,50,100). Kemudian hitung metrik evaluasinya!

1.6 Sistematika Penulisan

Adapun sistematika penulisan dari praktikum ini adalah sebagai berikut.

BAB IPENDAHULUAN

Bab ini terdiri dari latar belakang, rumusan masalah, tujuan penelitian, manfaat penelitian, batasan masalah, dan sistematika penulisan.

BAB IITINJAUAN PUSTAKA

Bab ini berisi kajian pustaka yang terdiri dari jurnal, buku, dan informasi pendukung mengenai Decision Tree, CART (Classification Tree), pruning dan complexity parameter, evaluasi model (confusion matrix, ROC, dan AUC), serta penanganan missing value dengan mice pada program RStudio.

BAB IIIMETODE PENELITIAN

Bab ini terdiri dari jenis dan sumber data, variabel penelitian, algoritma penelitian, dan diagram alir.

BAB IVHASIL DAN PEMBAHASAN

Bab ini berisi hasil yang diperoleh dari analisis data beserta penjelasannya pada bagian pembahasan.

BAB VKESIMPULAN

Bab ini merupakan bagian penutup laporan yang berisi kesimpulan dari hasil analisis serta saran dari penulis.

DAFTAR PUSTAKA LAMPIRAN

BAB II TINJAUAN PUSTAKA

2.1 Machine Learning and Modern Prediction

1.Supervised Learning

a.Logistic Regression: adalah strategi statistik yang dapat digunakan untuk memecahkan masalah dengan membuat prediksi variabel baru berdasarkan sejumlah variabel yang sudah ada dan yang ditentukan sebelumnya dan mencari korelasi antara variabel data input yang ditentukan sebelumnya dengan variabel prediksi baru.

b.K-Nearest Neighbors Algorithm (KNN): memerlukan pembentukan ruang fitur di mana item yang menjadi data pelatihan dan model data diberi nilai berbobot dan direpresentasikan dalam vektor n-dimensi untuk menyelesaikan masalah klasifikasi. Kesulitan tersebut kemudian diselesaikan dengan menentukan jarak dari item baru yang dapat ditentukan menggunakan model data dalam vektor n-dimensi, dan objek baru tersebut kemudian diberikan kategori.

2.Unsupervised Learning

a.Clustering: sebuah proses untuk membuat arketipe item yang digunakan dalam pembelajaran mesin untuk mengatasi tantangan seperti mengklasifikasikan atau mengkategorikan hal-hal ke dalam kelas atau kategori. Data yang digunakan sebagai model data belum membentuk kelompok data, sehingga tidak dapat mengidentifikasi klasifikasi suatu item. Akibatnya, pola dasar pertama-tama harus dibangun menggunakan sejumlah karakteristik yang diperlukan sebelum model data dan data pelatihan dapat digunakan. jika terjadi klasifikasi objek baru.

2.2 Bagging

Bagging pertama kali diusulkan oleh Leo Breiman pada tahun 1994 untuk meningkatkan hasil dari suatu masalah klasifikasi. Langkah-langkah dalam bagging secara garis besar dibagi menjadi empat bagian (Fransiska, 2026):

1.Membuat sampel dari data pelatihan (training data); jumlah sampel harus dalam jumlah yang sesuai (tidak terlalu banyak maupun terlalu sedikit).

2.Melatih model pada masing-masing sampel.

3.Membuat classifier dari setiap model dan menyimpan hasilnya.

4.Berdasarkan jenis ensemble yang digunakan baik itu voting tertimbang (weighted vote), voting mayoritas (majority vote), atau cara khusus lainnya, hasil tersebut digabungkan untuk memprediksi data uji (test data).

Perhatikan beberapa fitur penting dari bagging berikut ini:

1.Setiap model dikembangkan secara paralel dan independen satu sama lain.

2.Membantu mengurangi variance, tetapi tidak efektif dalam mengurangi bias.

3.Paling cocok digunakan untuk model dengan variance tinggi dan bias rendah (model yang kompleks).

4.Random Forest merupakan contoh yang baik (algoritma random Forest melakukan pemangkasan/pruning pada pohon untuk mengurangi korelasi)

Tabel 1. Perbedaan Bagging Classification dan Bagging Regression

Aspek	Bagging Classification Tree	Bagging Regression Tree
Variabel Respon	Variabel respon berupa kategorik	Variabel respon berupa numerik atau kontinu
Agregasi	Voting mayoritas atau rata-rata probabilitas	Rata-rata nilai prediksi
Metrik Evaluasi	Accuracy, Precision, Recall, F1, ROC-AUC	MSE, RMSE, MAE, R-Square

Ensemble learning adalah gabungan dari beberapa pembelajaran mesin untuk meningkatkan performa sistem secara keseluruhan. Studi empiris telah menunjukkan bahwa masalah klasifikasi dan regresi menggunakan ensemble learning seringkali menghasilkan performa model yang akurat daripada model base individual. Salah satu metode boosting yang sering digunakan adalah bagging. Teknik bagging, boosting dan random subspace method (RSM) di desain dan biasanya diaplikasikan pada Decision Tree (Rosyidi dan Rochmawati, 2023).

BAB III METODE PENELITIAN

3.1 Sumber Data

Penelitian ini menggunakan pendekatan kuantitatif dengan metode analisis klasifikasi. Data yang digunakan merupakan data sekunder berupa dataset BreastCancer yang tersedia pada package mlbench dalam perangkat lunak RStudio. Dataset tersebut memuat informasi karakteristik sel yang digunakan untuk mengklasifikasikan kanker payudara ke dalam dua kategori, yaitu benign (jinak) dan malignant (ganas). Dataset BreastCancer terdiri dari 699 observasi dan 11 variabel, termasuk variabel identitas. Dalam penelitian ini, variabel identitas Id tidak digunakan sebagai prediktor sehingga analisis dilakukan menggunakan satu variabel respons dan sembilan variabel prediktor. Sebelum pemodelan, dilakukan pemeriksaan tipe data dan nilai hilang untuk memastikan bahwa data dapat digunakan dalam proses klasifikasi.

3.2 Variabel Penelitian

Variabel penelitian terdiri dari satu variabel respons dan sembilan variabel prediktor. Variabel respons adalah Class, yang menunjukkan kategori kanker payudara, yaitu benign dan malignant. Sementara itu, variabel prediktor merupakan karakteristik sel yang digunakan untuk membedakan kedua kategori tersebut. Variabel prediktor yang digunakan meliputi Cl.thickness (ketebalan gumpalan), Cell.size (keseragaman ukuran sel), Cell.shape (keseragaman bentuk sel), Marg.adhesion (adhesi marginal), Epith.c.size (ukuran sel epitel), Bare.nuclei (inti sel telanjang), Bl.cromatin (kromatin lunak), Normal.nucleoli (nukleolus normal), dan Mitoses (mitosis). Kesembilan variabel tersebut digunakan secara bersama-sama sebagai variabel penjelas dalam pembentukan model Bagging Classification.

3.3 Langkah-langkah Analisis

Algoritma berdasarkan batasan masalah adalah:

1.Memasukkan dataset BreastCancer dari package mlbench ke dalam R-Studio.

2.Memeriksa struktur dan distribusi kelas pada dataset.

3.Mengidentifikasi variabel prediktor dan variabel respon pada dataset.

4.Menghapus variabel identitas (ID) yang tidak digunakan dalam pemodelan.

5.Mengidentifikasi dan menangani nilai yang hilang (missing value) pada dataset.

6.Membagi dataset menjadi data training sebesar 70% dan data testing sebesar 30%.

7.Membentuk model Bagging Classification dengan nbagg = 25.

8.Membentuk model Bagging Classification dengan nbagg = 50.

9.Membentuk model Bagging Classification dengan nbagg = 100.

10.Melakukan prediksi kelas pada data testing menggunakan ketiga model.

11.Membentuk confusion matrix untuk setiap model berdasarkan hasil prediksi dan kelas aktual.

12.Menghitung nilai accuracy, precision, recall, specificity, F1-score, dan AUC pada setiap model.

13.Membandingkan hasil metrik evaluasi dari ketiga model Bagging Classification.

14.Menentukan model dengan kinerja terbaik.

15.Kesimpulan

3.4 Diagram Alir Penelitian

Diagram Alir Penelitian

BAB IV HASIL DAN PEMBAHASAN

4.1 Library dan Import Data

Berikut ini library dan statistik deskriptif yang digunakan dalam meng-import data dari excel:

## Loading required package: lattice

## Type 'citation("pROC")' for a citation.

## 
## Attaching package: 'pROC'

## The following objects are masked from 'package:stats':
## 
##     cov, smooth, var

## 'data.frame':    699 obs. of  11 variables:
##  $ Id             : chr  "1000025" "1002945" "1015425" "1016277" ...
##  $ Cl.thickness   : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 5 5 3 6 4 8 1 2 2 4 ...
##  $ Cell.size      : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 1 1 2 ...
##  $ Cell.shape     : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 4 1 8 1 10 1 2 1 1 ...
##  $ Marg.adhesion  : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 1 5 1 1 3 8 1 1 1 1 ...
##  $ Epith.c.size   : Ord.factor w/ 10 levels "1"<"2"<"3"<"4"<..: 2 7 2 3 2 7 2 2 2 2 ...
##  $ Bare.nuclei    : Factor w/ 10 levels "1","2","3","4",..: 1 10 2 4 1 10 10 1 1 1 ...
##  $ Bl.cromatin    : Factor w/ 10 levels "1","2","3","4",..: 3 3 3 3 3 9 3 3 1 2 ...
##  $ Normal.nucleoli: Factor w/ 10 levels "1","2","3","4",..: 1 2 1 7 1 7 1 1 1 1 ...
##  $ Mitoses        : Factor w/ 9 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 5 1 ...
##  $ Class          : Factor w/ 2 levels "benign","malignant": 1 1 1 1 1 2 1 1 1 1 ...

## [1] 699  11

## 
##    benign malignant 
##       458       241

Berdasarkan hasil fungsi table(data_bc$Class), terdapat 458 observasi pada kelas benign dan 241 observasi pada kelas malignant. Dengan demikian, dataset memiliki jumlah observasi kelas benign yang lebih banyak dibandingkan kelas malignant. Selanjutnya, variabel identitas Id dihapus karena tidak digunakan dalam proses pembentukan model klasifikasi. Variabel respons Class juga diatur sebagai faktor dengan urutan level benign dan malignant agar dapat digunakan dalam pemodelan Bagging Classification.

4.2 Menanganai Missing Value

Berikut ini hasil dalam menangani missing value pada data:

##    Cl.thickness       Cell.size      Cell.shape   Marg.adhesion    Epith.c.size 
##               0               0               0               0               0 
##     Bare.nuclei     Bl.cromatin Normal.nucleoli         Mitoses           Class 
##               0               0               0               0               0

Berdasarkan hasil pemeriksaan menggunakan fungsi colSums(is.na(data_bc)), diketahui bahwa seluruh variabel dalam dataset Breast Cancer tidak memiliki nilai yang hilang (missing value). Hal ini ditunjukkan oleh nilai 0 pada setiap variabel, baik variabel prediktor maupun variabel respons Class. Oleh karena itu, berdasarkan hasil pemeriksaan tersebut, tidak terdapat nilai yang hilang yang perlu ditangani pada dataset. Pada sintaks yang digunakan, penanganan missing value dilakukan dengan metode imputasi modus, yaitu mengganti nilai yang hilang dengan kategori atau nilai yang paling sering muncul pada masing-masing variabel prediktor. Fungsi na.omit() digunakan untuk mengabaikan nilai yang hilang saat menentukan modus, sedangkan fungsi table() dan which.max() digunakan untuk memperoleh nilai yang memiliki frekuensi tertinggi. Namun, karena hasil pemeriksaan menunjukkan bahwa seluruh variabel memiliki nilai missing value sebanyak 0, proses imputasi tidak melakukan perubahan terhadap data. Dengan demikian, dataset dapat dilanjutkan ke tahap analisis berikutnya tanpa perlu melakukan pengisian nilai yang hilang.

4.3 Membagi Data Training dan Testing

Berikut ini hasil dari training dan testing pada data:

## [1] 490  10

## [1] 209  10

## 
##    benign malignant 
##       321       169

## 
##    benign malignant 
##       137        72

Pembagian dataset Breast Cancer dilakukan menggunakan fungsi createDataPartition() dari paket caret dengan proporsi 70% untuk data training dan 30% untuk data testing. Penggunaan set.seed(234) bertujuan agar pembagian data dapat direproduksi sehingga menghasilkan pembagian yang sama ketika sintaks dijalankan kembali dengan kondisi data dan perangkat lunak yang sama. Fungsi createDataPartition() juga mempertahankan proporsi kelas respons Class pada kedua kelompok data. Berdasarkan hasil output fungsi dim(), data training terdiri atas 490 observasi dan 10 variabel, sedangkan data testing terdiri atas 209 observasi dan 10 variabel. Dengan demikian, seluruh 699 observasi telah terbagi ke dalam dua kelompok data tanpa menghilangkan observasi. Hasil fungsi table() menunjukkan bahwa data training terdiri atas 321 observasi kelas benign dan 169 observasi kelas malignant. Sementara itu, data testing terdiri atas 137 observasi kelas benign dan 72 observasi kelas malignant. Data training selanjutnya digunakan untuk membentuk model Bagging Classification, sedangkan data testing digunakan untuk mengevaluasi kinerja model berdasarkan hasil prediksi terhadap kelas aktual.

4.4 Membentuk Model Bagging

Berikut ini hasil model Bagging pada data:

## 
## Bagging classification trees with 25 bootstrap replications 
## 
## Call: bagging.data.frame(formula = Class ~ ., data = data_train, nbagg = n, 
##     coob = TRUE)
## 
## Out-of-bag estimate of misclassification error:  0.049

## 
## Bagging classification trees with 50 bootstrap replications 
## 
## Call: bagging.data.frame(formula = Class ~ ., data = data_train, nbagg = n, 
##     coob = TRUE)
## 
## Out-of-bag estimate of misclassification error:  0.0469

## 
## Bagging classification trees with 100 bootstrap replications 
## 
## Call: bagging.data.frame(formula = Class ~ ., data = data_train, nbagg = n, 
##     coob = TRUE)
## 
## Out-of-bag estimate of misclassification error:  0.0367

Pemodelan Bagging Classification dilakukan dengan menggunakan data training yang terdiri atas 490 observasi dan 10 variabel. Pembentukan model dilakukan dengan membandingkan tiga variasi jumlah bootstrap replications, yaitu nbagg = 25, nbagg = 50, dan nbagg = 100. Proses pemodelan menggunakan fungsi bagging() dari paket ipred, dengan variabel respons Class dan seluruh variabel lainnya sebagai prediktor. Argumen coob = TRUE digunakan untuk menghitung estimasi kesalahan klasifikasi out-of-bag (OOB), yaitu perkiraan kesalahan prediksi berdasarkan pengamatan yang tidak digunakan dalam sampel bootstrap tertentu. Berdasarkan hasil output, model dengan nbagg = 25 menghasilkan estimasi kesalahan klasifikasi OOB sebesar 0,049 atau 4,90%. Model dengan nbagg = 50 menghasilkan estimasi kesalahan sebesar 0,0469 atau 4,69%, sedangkan model dengan nbagg = 100 menghasilkan estimasi kesalahan sebesar 0,0367 atau 3,67%. Hasil tersebut menunjukkan bahwa peningkatan jumlah replikasi bootstrap dari 25 menjadi 100 diikuti oleh penurunan estimasi kesalahan klasifikasi OOB. Dengan demikian, di antara ketiga model tersebut, model dengan nbagg = 100 memiliki estimasi kesalahan OOB paling rendah. Namun, penentuan model terbaik tetap perlu mempertimbangkan hasil evaluasi pada data testing menggunakan confusion matrix, accuracy, precision, recall, specificity, F1-score, dan AUC.

4.5 Prediksi dan Metrik Evaluasi

Berikut ini hasil prediksi dan metrik evaluasi dari data:

## [1] "nbagg = 25"
##            Reference
## Prediction  benign malignant
##   benign       127         1
##   malignant     10        71
## Confusion Matrix and Statistics
## 
##            Reference
## Prediction  benign malignant
##   benign       127         1
##   malignant     10        71
##                                           
##                Accuracy : 0.9474          
##                  95% CI : (0.9078, 0.9734)
##     No Information Rate : 0.6555          
##     P-Value [Acc > NIR] : < 2e-16         
##                                           
##                   Kappa : 0.8868          
##                                           
##  Mcnemar's Test P-Value : 0.01586         
##                                           
##             Sensitivity : 0.9861          
##             Specificity : 0.9270          
##          Pos Pred Value : 0.8765          
##          Neg Pred Value : 0.9922          
##              Prevalence : 0.3445          
##          Detection Rate : 0.3397          
##    Detection Prevalence : 0.3876          
##       Balanced Accuracy : 0.9566          
##                                           
##        'Positive' Class : malignant       
##                                           
## [1] "nbagg = 50"
##            Reference
## Prediction  benign malignant
##   benign       127         1
##   malignant     10        71
## Confusion Matrix and Statistics
## 
##            Reference
## Prediction  benign malignant
##   benign       127         1
##   malignant     10        71
##                                           
##                Accuracy : 0.9474          
##                  95% CI : (0.9078, 0.9734)
##     No Information Rate : 0.6555          
##     P-Value [Acc > NIR] : < 2e-16         
##                                           
##                   Kappa : 0.8868          
##                                           
##  Mcnemar's Test P-Value : 0.01586         
##                                           
##             Sensitivity : 0.9861          
##             Specificity : 0.9270          
##          Pos Pred Value : 0.8765          
##          Neg Pred Value : 0.9922          
##              Prevalence : 0.3445          
##          Detection Rate : 0.3397          
##    Detection Prevalence : 0.3876          
##       Balanced Accuracy : 0.9566          
##                                           
##        'Positive' Class : malignant       
##                                           
## [1] "nbagg = 100"
##            Reference
## Prediction  benign malignant
##   benign       129         1
##   malignant      8        71
## Confusion Matrix and Statistics
## 
##            Reference
## Prediction  benign malignant
##   benign       129         1
##   malignant      8        71
##                                           
##                Accuracy : 0.9569          
##                  95% CI : (0.9198, 0.9801)
##     No Information Rate : 0.6555          
##     P-Value [Acc > NIR] : <2e-16          
##                                           
##                   Kappa : 0.9068          
##                                           
##  Mcnemar's Test P-Value : 0.0455          
##                                           
##             Sensitivity : 0.9861          
##             Specificity : 0.9416          
##          Pos Pred Value : 0.8987          
##          Neg Pred Value : 0.9923          
##              Prevalence : 0.3445          
##          Detection Rate : 0.3397          
##    Detection Prevalence : 0.3780          
##       Balanced Accuracy : 0.9639          
##                                           
##        'Positive' Class : malignant       
##

Evaluasi model Bagging Classification dilakukan dengan menggunakan data testing yang terdiri atas 209 observasi. Evaluasi dilakukan terhadap tiga model dengan jumlah bootstrap replications sebanyak 25, 50, dan 100. Setiap model digunakan untuk memprediksi kelas pada data testing melalui fungsi predict(), kemudian hasil prediksi dibandingkan dengan kelas aktual menggunakan confusion matrix melalui fungsi confusionMatrix(). Confusion matrix digunakan untuk mengetahui jumlah prediksi yang benar dan salah pada kelas benign dan malignant. Berdasarkan hasil tersebut, dihitung nilai accuracy, precision, recall, dan specificity. Selain itu, nilai F1-score dihitung untuk menggambarkan keseimbangan antara precision dan recall, sedangkan AUC dihitung berdasarkan kurva ROC dengan menggunakan probabilitas prediksi kelas malignant. Perhitungan ini dilakukan pada ketiga model agar kinerja masing-masing model dapat dibandingkan menggunakan ukuran evaluasi yang sama.

Berdasarkan hasil evaluasi pada data testing, model Bagging Classification dengan nbagg = 25 dan nbagg = 50 menghasilkan nilai metrik evaluasi yang sama. Sementara itu, model dengan nbagg = 100 menghasilkan nilai accuracy sebesar 95,69%, precision sebesar 89,87%, recall sebesar 98,61%, specificity sebesar 94,16%, Kappa sebesar 0,9068, dan balanced accuracy sebesar 96,39%. Hasil tersebut menunjukkan bahwa model dengan nbagg = 100 memberikan kinerja yang lebih baik pada sebagian besar metrik evaluasi dibandingkan kedua model lainnya, sedangkan kemampuan mengenali kelas malignant sama pada ketiga model berdasarkan nilai recall. Oleh karena itu, model dengan nbagg = 100 menjadi kandidat model terbaik berdasarkan hasil evaluasi tersebut, dengan tetap mempertimbangkan nilai F1-score dan AUC untuk melengkapi perbandingan.

4.6 Tabel Perbandingan Ketiga Model

Berikut ini hasil tabel perbandingan dari ketiga metode pada data:

##   nbagg  Accuracy Precision    Recall Specificity  F1_Score       AUC
## 1    25 0.9473684 0.8765432 0.9861111   0.9270073 0.9281046 0.9795215
## 2    50 0.9473684 0.8765432 0.9861111   0.9270073 0.9281046 0.9835260
## 3   100 0.9569378 0.8987342 0.9861111   0.9416058 0.9403974 0.9836780

Berdasarkan tabel perbandingan hasil evaluasi, model Bagging Classification dengan nbagg = 25 dan nbagg = 50 menghasilkan nilai metrik evaluasi yang sama. Kedua model memperoleh accuracy sebesar 0,9474, precision sebesar 0,8765, recall sebesar 0,9861, specificity sebesar 0,9270, F1-score sebesar 0,9281, dan AUC sebesar 0,9795. Sementara itu, model dengan nbagg = 100 menghasilkan accuracy sebesar 0,9569, precision sebesar 0,8987, recall sebesar 0,9861, specificity sebesar 0,9416, F1-score sebesar 0,9404, dan AUC sebesar 0,9837. Hasil tersebut menunjukkan bahwa model dengan nbagg = 100 memiliki nilai accuracy, precision, specificity, F1-score, dan AUC yang lebih tinggi dibandingkan kedua model lainnya. Adapun nilai recall ketiga model sama, yaitu 0,9861. Berdasarkan hasil perbandingan tersebut, model dengan nbagg = 100 memberikan kinerja terbaik di antara ketiga model yang diuji karena unggul pada lima dari enam metrik evaluasi, sedangkan kemampuan mengenali kelas malignant berdasarkan nilai recall tetap sama. Dengan demikian, peningkatan jumlah bootstrap replications dari 25 dan 50 menjadi 100 memberikan hasil evaluasi yang lebih baik pada sebagian besar metrik yang digunakan.

4.7 Visualisasi Perbandingan Accuracy

Berikut ini hasil visualisasi perbandingan accuracy pada data:

Berdasarkan grafik perbandingan accuracy model Bagging Classification, terlihat bahwa model dengan nbagg = 25 dan nbagg = 50 menghasilkan nilai accuracy yang sama, yaitu sebesar 0,9474 atau 94,74%. Sementara itu, model dengan nbagg = 100 menghasilkan nilai accuracy sebesar 0,9569 atau 95,69%. Hal ini menunjukkan bahwa peningkatan jumlah bootstrap replications dari 50 menjadi 100 diikuti oleh peningkatan nilai accuracy sebesar 0,95 poin persentase. Dengan demikian, model dengan nbagg = 100 memiliki nilai accuracy tertinggi dibandingkan kedua model lainnya, sehingga memberikan hasil klasifikasi yang lebih baik berdasarkan proporsi prediksi yang benar pada data testing.

4.8 Menentukan Model dengan Accuracy Tertinggi

Berikut ini model dengan accuracy tertinggi:

##   nbagg  Accuracy Precision    Recall Specificity  F1_Score      AUC
## 3   100 0.9569378 0.8987342 0.9861111   0.9416058 0.9403974 0.983678

Penentuan model terbaik dilakukan dengan menggunakan fungsi which.max() untuk mencari nilai accuracy tertinggi pada tabel hasil_evaluasi. Berdasarkan hasil output RStudio, diperoleh model dengan nbagg = 100 sebagai model yang memiliki nilai accuracy tertinggi, yaitu sebesar 0,9569 atau 95,69%. Model tersebut juga menghasilkan nilai precision sebesar 0,8987, recall sebesar 0,9861, specificity sebesar 0,9416, F1-score sebesar 0,9404, dan AUC sebesar 0,9837. Hasil ini menunjukkan bahwa model dengan 100 bootstrap replications memberikan kinerja terbaik di antara ketiga model yang dibandingkan berdasarkan nilai accuracy, serta memiliki nilai precision, specificity, F1-score, dan AUC tertinggi. Sementara itu, nilai recall ketiga model sama, yaitu sebesar 0,9861. Dengan demikian, model dengan nbagg = 100 dipilih sebagai model terbaik berdasarkan hasil evaluasi pada data testing.

BAB V KESIMPULAN

5.1 Kesimpulan

Machine Learning adalah studi tentang algoritma untuk mempelajari bagaimana melakukan tugas-tugas tertentu yang dilakukan secara otomatis oleh orang-orang. Di sini, belajar mengacu pada kemampuan untuk melakukan berbagai kegiatan yang sudah ada atau untuk mengekstrapolasi kesimpulan baru dengan benar dari berbagai pola yang diamati sebelumnya. Salah satu subbidang kecerdasan buatan, Machine Learning, dapat berdampak pada sejumlah bidang lain, termasuk statistik, matematika, dan banyak bidang teoretis ilmu komputer. Intinya, tujuan machine learning adalah untuk mengembangkan algoritma yang dapat mengeksekusi sistem pembelajaran otonom dengan sangat sedikit masukan dari orang-orang pada umumnya. Ensemble learning adalah Teknik dalam algoritma pembelajaran mesin (ML) dengan kombinasi dua algoritma atau lebih untuk mendapatkan solusi yang lebih baik dari model sebelumnya. Menurut Dong, ensemble learning adalah metode yang melibatkan beberapa algoritma ML dengan hasil rendah kemudian ditingkatkan untuk mendapatkan hasil yang lebih tinggi. Teknik ensemble learning terdiri dari bagging, boosting dan stacking. Menurut Qing-Fu Li, Teknik ensemble terdiri dari bagging dan boosting. Bagging merupakan proses yang menggunakan beberapa pelatihan base learner dengan melibatkan Teknik voting sebagai penentu hasil klasifikasi. Tujuan utama adalah menghapus base learner yang lemah untuk mendapatkan base learner yang kuat. Dari tujuan ini, base learner yang dihasilkan oleh model berbeda dengan base learner lainnya. Ensemble learning adalah gabungan dari beberapa pembelajaran mesin untuk meningkatkan performa sistem secara keseluruhan. Studi empiris telah menunjukkan bahwa masalah klasifikasi dan regresi menggunakan ensemble learning seringkali menghasilkan performa model yang akurat daripada model base individual. Salah satu metode boosting yang sering digunakan adalah bagging. Teknik bagging, boosting dan random subspace method (RSM) di desain dan biasanya diaplikasikan pada Decision Tree. Berdasarkan hasil yang didapatkan, dapat disimpulkan bahwa metode Bagging Classification berhasil diterapkan pada dataset Breast Cancer yang terdiri atas 699 observasi dengan dua kelas, yaitu benign dan malignant. Pemodelan dilakukan dengan membandingkan jumlah bootstrap replications (nbagg) sebesar 25, 50, dan 100. Berdasarkan hasil evaluasi pada data testing, model dengan nbagg = 25 dan nbagg = 50 menghasilkan accuracy sebesar 94,74%, sedangkan model dengan nbagg = 100 menghasilkan accuracy tertinggi sebesar 95,69%, dengan precision sebesar 89,87%, recall sebesar 98,61%, specificity sebesar 94,16%, F1-score sebesar 94,04%, dan AUC sebesar 98,37%. Model dengan nbagg = 100 juga memiliki estimasi kesalahan klasifikasi OOB terendah, yaitu 3,67%. Dengan demikian, model Bagging Classification dengan nbagg = 100 dipilih sebagai model terbaik di antara ketiga model yang diuji karena menghasilkan kinerja yang lebih baik pada sebagian besar metrik evaluasi serta memiliki kemampuan yang sangat baik dalam membedakan kelas benign dan malignant.

5.2 Saran

Ketika menggunakan program R, diperlukan ketelitian dalam penulisan, memasukkan, melakukan perhitungan, dan hal lainnya dikarenakan jika salah maka tidak akan mendapatkan hasil yang diharapkan. Oleh karena itu, harus mengikuti prosedur yang ada. Ketelitian dalam menginterprestasikan output-nya agar tidak terjadi kekeliruan. Harus cermat dalam menggunakan fungsi yang akan gunakan.

DAFTAR PUSTAKA

Bintoro, P., Ratnasari., Wihardjo, E., Putri, I, P., Asari, A. (2024). Pengantar Machine Learning.

Churniansyah, F., dan Utomo, D. W. (2024). Teknik Bagging pada Ensemble Learning untuk Kategorisasi Produk E-Commerce. Jurnal Nasional Teknologi dan Sistem Informasi, Vol. 10 No. 01 (2024) 092-099.

Fathurohman, A. (2021). Machine Learning Untuk Pendidikan: Mengapa Dan Bagaimana. JURNAL JITEK, Vol 1 No. 3 November (2021), Hal 57-62.

Fransiska, H. (2026). Modul Praktikum Machine Learning and Modern Prediction. Laboratorium Statistika, Universitas Bengkulu.

Rosyidi, M. I. U., dan Rochmawati, N. (2023). JINACS (Journal of Informatics and Computer Science), Volume 05 Nomor 02, 2023.

PRAKTIKUM PERTEMUAN 3

Nabila Nur Rahma (F1F023036)

2026-10-16