LAPORAN PRAKTIKUM MACHINE LEARNING AND MODERN PREDICTION PERTEMUAN III
Gita Sonia
2026-10-18
BAB I PENDAHULUAN
1.1 Latar Belakang
Perkembangan machine learning mendorong penggunaan berbagai metode untuk menghasilkan prediksi yang akurat berdasarkan data. Salah satu metode yang dapat digunakan adalah ensemble learning, yaitu pendekatan yang menggabungkan hasil dari beberapa model untuk menghasilkan prediksi akhir. Pendekatan ini dapat meningkatkan kemampuan prediksi dibandingkan penggunaan satu model saja pada kondisi tertentu (Sarker, 2021).
Metode Bootstrap Aggregating (Bagging) merupakan salah satu teknik ensemble learning yang membangun beberapa model menggunakan sampel hasil pengambilan ulang dari data pelatihan. Proses pengambilan sampel dilakukan secara acak dengan pengembalian (sampling with replacement). Hasil prediksi dari setiap model kemudian digabungkan melalui pemungutan suara mayoritas untuk klasifikasi atau perataan hasil untuk regresi. Penggabungan tersebut dapat mengurangi varians model dan meningkatkan kestabilan prediksi (Huang dkk., 2022).
Penerapan metode Bagging menggunakan bahasa pemrograman R dapat membantu memahami tahapan pembentukan model, penggabungan hasil prediksi, dan evaluasi kinerja model. Evaluasi dilakukan menggunakan ukuran kinerja yang sesuai dengan jenis permasalahan, seperti accuracy, precision, recall, dan F1-score pada klasifikasi. Penggunaan beberapa ukuran evaluasi dapat memberikan gambaran yang lebih menyeluruh mengenai kemampuan model dalam memprediksi setiap kelas, terutama ketika distribusi kelas tidak seimbang (Hancock dkk., 2023).
1.2 Rumusan Masalah
1. Bagaimana konsep dasar dan prinsip kerja metode *Bagging*?
2. Bagaimana cara megimplementasikan metode *Bagging* dengan menggunakan R?
3. Bagaimana cara mengevaluasi performa model?1.3 Tujuan
1. Mahasiswa mampu menjelaskan konsep konsep dasar dan prinsip kerja metode *Bagging*.
2. Mahasiswa mampu megimplementasikan metode *Bagging* dengan menggunakan R.
3. Mahasiswa mampu mengevaluasi performa *Bagging*.1.4 Batasan Masalah
Adapun batasan masalah pada penelitian ini yaitu gunakan data friedman kemudian lakukan *bagging regression* dengan membandingkan hasil dengan menggunakan *nbagg=c(25, 50, 100)* kemudian hitung metrik evaluasinya!BAB II TINJAUAN PUSTAKA
2.1 Bagging
Bagging (Bootstrap Aggregating) merupakan metode ensemble learning yang menggabungkan prediksi dari beberapa model untuk menghasilkan prediksi akhir. Metode ini menggunakan teknik bootstrap untuk membentuk beberapa sampel pelatihan dari data asli melalui pengambilan observasi secara acak dengan pengembalian. Setiap sampel digunakan untuk membangun model secara terpisah, kemudian hasil prediksi seluruh model digabungkan untuk meningkatkan kestabilan prediksi. Prinsip tersebut menjadi dasar penerapan Bagging pada berbagai metode klasifikasi dan regresi (Innassuraiya dkk., 2022).
Proses penerapan Bagging dimulai dengan menentukan data pelatihan dan membentuk sampel bootstrap dari data tersebut. Setiap sampel digunakan untuk melatih model dasar secara terpisah dengan algoritma yang sama. Model yang telah terbentuk kemudian menghasilkan prediksi terhadap observasi yang dianalisis. Seluruh hasil prediksi digabungkan menggunakan mekanisme agregasi yang sesuai dengan jenis permasalahan, yaitu pemungutan suara mayoritas untuk klasifikasi atau perataan nilai prediksi untuk regresi (Innassuraiya dkk., 2022).
Keunggulan Bagging terletak pada kemampuannya mengurangi ketidakstabilan prediksi yang dihasilkan oleh model dasar. Penggabungan beberapa model dapat menekan pengaruh kesalahan individual, terutama ketika model dasar memiliki varians tinggi dan menghasilkan prediksi yang tidak sepenuhnya berkorelasi. Kinerja Bagging juga dipengaruhi oleh jumlah model, variasi sampel bootstrap, karakteristik algoritma dasar, dan mekanisme penggabungan prediksi. Penambahan model tidak selalu meningkatkan kinerja secara signifikan sehingga evaluasi pada data pengujian tetap diperlukan (Pérez-Rodríguez dkk., 2023).
Langkah-langkah dalam bagging secara garis besar dibagi menjadi empat bagian (Fransiska, 2026): 1. Membuat sampel dari data pelatihan (training data); jumlah sampel harus dalam jumlah yang sesuai (tidak terlalu banyak maupun terlalu sedikit). 2. Melatih model pada masing-masing sampel. 3. Membuat classifier dari setiap model dan menyimpan hasilnya. 4. Berdasarkan jenis ensemble yang digunakan baik itu voting tertimbang (weighted vote), voting mayoritas (majority vote), atau cara khusus lainnya, hasil tersebut digabungkan untuk memprediksi data uji (test data). Beberapa fitur penting dari bagging adalah sebagai berikut (Fransiska, 2026): 1. Setiap model dikembangkan secara paralel dan independen satu sama lain. 2. Membantu mengurangi variance, tetapi tidak efektif dalam mengurangi bias. 3. Paling cocok digunakan untuk model dengan variance tinggi dan bias rendah (model yang kompleks). 4. Random Forest merupakan contoh yang baik (algoritma random Forest melakukan pemangkasan/pruning pada pohon untuk mengurangi korelasi).
2.2 Bagging Classification
Bagging Classification merupakan penerapan metode Bagging untuk memprediksi variabel respons yang berbentuk kategori. Metode ini membentuk sejumlah sampel bootstrap dari data pelatihan, kemudian menggunakan setiap sampel untuk membangun model klasifikasi. Setiap model mempelajari hubungan antara variabel prediktor dan kelas respons berdasarkan sampel yang digunakan. Hasil klasifikasi dari beberapa model tersebut digabungkan untuk menentukan kelas akhir suatu observasi (Putri dkk., 2021).
Penggabungan prediksi pada Bagging Classification umumnya menggunakan metode majority voting atau pemungutan suara mayoritas. Setiap model memberikan satu prediksi kelas untuk suatu observasi, kemudian kelas dengan jumlah suara terbanyak ditetapkan sebagai hasil klasifikasi akhir. Metode ini memungkinkan keputusan akhir ditentukan berdasarkan gabungan prediksi beberapa model sehingga pengaruh kesalahan dari satu model dapat dikurangi. Mekanisme tersebut dapat digunakan pada klasifikasi dengan dua kelas maupun lebih dari dua kelas (Wu dkk., 2023).
Evaluasi Bagging Classification dilakukan untuk mengetahui kemampuan model dalam mengelompokkan observasi ke dalam kelas yang tepat. Accuracy mengukur proporsi prediksi yang benar terhadap seluruh observasi, sedangkan precision mengukur ketepatan prediksi pada kelas tertentu. Recall mengukur kemampuan model mengenali observasi yang benar-benar termasuk dalam suatu kelas, sedangkan F1-score merupakan rata-rata harmonik antara precision dan recal. Matriks konfusi dapat digunakan untuk merangkum jumlah prediksi benar dan salah pada setiap kelas sehingga kinerja model dapat dinilai secara lebih menyeluruh (Wang dkk., 2021).
2.3 Bagging Regression
Bagging Regression merupakan penerapan metode Bagging untuk memprediksi variabel respons yang berbentuk numerik atau kontinu. Metode ini membentuk sejumlah sampel bootstrap dari data pelatihan, kemudian menggunakan setiap sampel untuk membangun model regresi. Setiap model menghasilkan nilai prediksi berdasarkan pola hubungan antara variabel prediktor dan variabel respons. Hasil prediksi dari seluruh model kemudian digabungkan untuk memperoleh estimasi akhir yang lebih stabil (Pérez-Rodríguez dkk., 2023).
Penggabungan prediksi pada Bagging Regression umumnya dilakukan dengan menghitung rata-rata prediksi dari seluruh model dasar. Setiap model menghasilkan estimasi numerik berdasarkan sampel bootstrap yang berbeda, kemudian seluruh estimasi dijumlahkan dan dibagi dengan jumlah model yang digunakan. Proses tersebut mengurangi pengaruh variasi prediksi dari model individual dan dapat meningkatkan kestabilan hasil estimasi. Pendekatan Bagging Regression dapat diterapkan pada pohon regresi maupun model regresi lain yang sesuai dengan karakteristik data (Zhang dkk., 2025).
Evaluasi Bagging Regression dilakukan dengan membandingkan nilai prediksi model dengan nilai aktual pada data pengujian. Mean Absolute Error (MAE) menghitung rata-rata nilai absolut selisih antara nilai aktual dan prediksi, sedangkan Mean Squared Error (MSE) menghitung rata-rata kuadrat selisih tersebut. Root Mean Squared Error (RMSE) merupakan akar kuadrat dari MSE sehingga memiliki satuan yang sama dengan variabel respons. Nilai MAE, MSE, dan RMSE yang lebih rendah menunjukkan kesalahan prediksi yang lebih kecil pada metrik masing-masing (Khan dkk., 2022).
BAB III METODE PENELITIAN
3.1 Jenis dan Sumber Data
Jenis data yang digunakan dalam penelitian ini adalah data kuantitatif, yaitu data berbentuk numerik yang dapat dianalisis menggunakan metode statistik. Sumber data yang digunakan merupakan data simulasi yang dibangkitkan menggunakan fungsi mlbench.friedman1() dari package mlbench pada perangkat lunak R. Dataset yang digunakan terdiri atas 200 observasi dengan satu variabel respons dan beberapa variabel prediktor. Data tersebut digunakan untuk membangun model prediksi menggunakan metode Bagging Regression dengan bantuan package ipred.
3.2 Variabel Penelitian
Variabel yang digunakan dalam penelitian ini terdiri atas satu variabel respons dan beberapa variabel prediktor. Variabel respons yang digunakan adalah Y, yaitu nilai numerik yang dihasilkan dari dataset simulasi Friedman1. Sementara itu, variabel prediktor terdiri atas X1, X2, X3, X4, X5, X6, X7, X8, X9 dan X10. Variabel-variabel tersebut digunakan untuk membentuk model Bagging Regression dalam memprediksi nilai Y.
3.3 Analisis Data
Berikut adalah algoritma untuk menyelesaiankan batasan masalah: 1. Mulai. 2. Memanggil package yang diperlukan , yaitu mlbench untuk membangkitkan dataset simulasi dan ipred untuk membangun model Bagging Regression 3. Menetapkan seed sebesar 123 untuk memastikan proses pembangkitan data dan pemodelan dapat direproduksi. 4. Membangkitkan dataset simulasi menggunakan fungsi mlbench.friedman1(200) dengan jumlah observasi sebanyak 200. 5. Mengubah dataset menjadi bentuk data frame agar dapat digunakan dalam proses analisis. 6. Membagi dataset menjadi data training sebesar 80% dan data testing sebesar 20%. 7. Menentukan jumlah agregasi pohon (number of bootstrap aggregations) yang akan dibandingkan, yaitu 25, 50, dan 100. 8. Membangun model Bagging Regression untuk setiap nilai jumlah pohon. 9. Menampilkan ringkasan masing-masing model yang telah dibentuk. 10. Melakukan prediksi terhadap data testing menggunakan fungsi predict(), kemudian membandingkan nilai aktual dan nilai prediksi. 11. menghitung nilai MSE, RMSE dan nilai koefisien determinan. 13. menyimpan hasil evaluasi. 14. Membandingkan kinerja model berdasarkan nilai MSE terkecil. 15. Membentuk kembali model Bagging Regression menggunakan jumlah pohon terbaik yang diperoleh dari tahap evaluasi. 16. Melakukan prediksi pada data testing menggunakan model terbaik. 17. Membuat grafik perbandingan antara nilai aktual dan nilai prediksi untuk mengamati kesesuaian hasil prediksi model terhadap data aktual. 18. Menarik kesimpulan berdasarkan hasil perbandingan nilai MSE, RMSE, dan (R^2), serta grafik nilai aktual dan prediksi. 19. Selesai
BAB IV HASIL DAN PEMBAHASAN
4.1 Library dan Data
# Regression
library(mlbench)
library(ipred)
set.seed(123)
learn <- as.data.frame(mlbench.friedman1(200))
learn## x.1 x.2 x.3 x.4 x.5 x.6
## 1 0.2875775201 0.238726027 0.9860542973 0.237229697 0.470681834 0.27362273
## 2 0.7883051354 0.962358936 0.1370674714 0.686490351 0.365845473 0.59386693
## 3 0.4089769218 0.601365726 0.9053095817 0.225818423 0.121272054 0.16018481
## 4 0.8830174040 0.515029727 0.5763018376 0.318494588 0.046993681 0.85343024
## 5 0.9404672843 0.402573342 0.3954488591 0.173983817 0.262796304 0.84773916
## 6 0.0455564994 0.880246541 0.4498024841 0.801429584 0.968641168 0.47788681
## 7 0.5281054880 0.364091865 0.7065019011 0.146282058 0.488495482 0.77369212
## 8 0.8924190444 0.288239281 0.0825027458 0.822717392 0.477822030 0.29540008
## 9 0.5514350145 0.170645235 0.3393125802 0.330997829 0.748792881 0.06562811
## 10 0.4566147353 0.172171746 0.6807875512 0.374169388 0.667640231 0.44053312
## 11 0.9568333453 0.482042606 0.3169492481 0.629745424 0.049415597 0.46209886
## 12 0.4533341562 0.252964929 0.8315685980 0.096633743 0.695105244 0.34093437
## 13 0.6775706355 0.216254790 0.2151720827 0.021993715 0.363261567 0.18514032
## 14 0.5726334020 0.674376388 0.4979489362 0.993044780 0.884133607 0.50699773
## 15 0.1029246827 0.047663627 0.2760496726 0.583938846 0.775297230 0.01919103
## 16 0.8998249704 0.700853087 0.1920233187 0.781823065 0.139203641 0.77368604
## 17 0.2460877344 0.351888638 0.9506212641 0.891896123 0.295009271 0.55966508
## 18 0.0420595335 0.408943998 0.3217255378 0.754865454 0.126082785 0.64146264
## 19 0.3279207193 0.820951324 0.4784563838 0.979203730 0.589901624 0.46843212
## 20 0.9545036491 0.918857348 0.0279925719 0.044147068 0.561675609 0.27922381
## 21 0.8895393161 0.282528330 0.5474594680 0.903400885 0.688721120 0.46121657
## 22 0.6928034062 0.961104794 0.6442402205 0.865500814 0.311270809 0.79273834
## 23 0.6405068138 0.728394428 0.5962635446 0.775407591 0.605586841 0.58556558
## 24 0.9942697766 0.686375082 0.3219373757 0.376816417 0.991034319 0.39475899
## 25 0.6557057991 0.052843943 0.8911143125 0.042108049 0.743204915 0.81123735
## 26 0.7085304682 0.395220135 0.6262569474 0.364411082 0.075857130 0.31856309
## 27 0.5440660247 0.477845380 0.3029049153 0.273751270 0.451168906 0.58144734
## 28 0.5941420204 0.560253264 0.3882046638 0.850467481 0.053536935 0.45548896
## 29 0.2891597373 0.698261595 0.1604750925 0.362401712 0.339555514 0.26880345
## 30 0.1471136473 0.915683538 0.8625518975 0.304477791 0.733952149 0.55517720
## 31 0.9630242325 0.618351227 0.9531012138 0.759135339 0.004106940 0.23123088
## 32 0.9022990451 0.428421509 0.5636446835 0.844834624 0.771909482 0.54323290
## 33 0.6907052784 0.542080367 0.3295474134 0.457921561 0.462975211 0.44757014
## 34 0.7954674177 0.058478489 0.9966172187 0.729631664 0.720840350 0.13028814
## 35 0.0246136845 0.260856857 0.2348196758 0.104078636 0.666505717 0.62172598
## 36 0.4777959711 0.397151953 0.6126719653 0.219983178 0.572073721 0.54799428
## 37 0.7584595375 0.197744737 0.1081785294 0.953951248 0.703812950 0.14924421
## 38 0.2164079358 0.831927563 0.4870325699 0.752037541 0.657221060 0.55954587
## 39 0.3181810076 0.152887223 0.0994458233 0.818955383 0.289352145 0.42688558
## 40 0.2316257854 0.803418542 0.1611657627 0.417777102 0.097239456 0.44773010
## 41 0.1428000224 0.546826157 0.2829928708 0.593838493 0.962421321 0.83329477
## 42 0.4145463358 0.662317642 0.5838723360 0.798823558 0.736334029 0.71958728
## 43 0.4137243263 0.171698494 0.7317076589 0.888408650 0.612723469 0.45688676
## 44 0.3688454509 0.633055360 0.1655209111 0.385191593 0.119928881 0.52126426
## 45 0.1524447477 0.311869747 0.8664677632 0.090322084 0.550259046 0.24245708
## 46 0.1388060634 0.724554346 0.7085741372 0.625743637 0.262756278 0.07586083
## 47 0.2330340995 0.398939825 0.7603995362 0.745636217 0.898360831 0.39129509
## 48 0.4659624503 0.969356411 0.1470841086 0.085378457 0.009179946 0.01310822
## 49 0.2659726404 0.967398371 0.3580569634 0.300517611 0.236234936 0.86749947
## 50 0.8578277153 0.726702539 0.6733324814 0.614562157 0.130044595 0.99261567
## 51 0.0458311667 0.257216746 0.5238226017 0.752932058 0.326233147 0.70885539
## 52 0.4422000742 0.221787935 0.3498017928 0.917057133 0.726398888 0.82671549
## 53 0.7989248456 0.593045652 0.2405307016 0.475750506 0.991745235 0.89189627
## 54 0.1218992600 0.267521432 0.0581917963 0.567119466 0.715133528 0.53941073
## 55 0.5609479838 0.531070399 0.2366197421 0.736620346 0.504439811 0.55531359
## 56 0.2065313896 0.785291671 0.8900779132 0.857447424 0.436047672 0.27643988
## 57 0.1275316502 0.168060811 0.8118274161 0.909146504 0.948825251 0.65919793
## 58 0.7533078643 0.404399181 0.7475163222 0.056382225 0.120181488 0.24343524
## 59 0.8950453592 0.471576278 0.1549117258 0.502908304 0.075145177 0.28826620
## 60 0.3744627759 0.868106807 0.1247420886 0.350544773 0.889021493 0.71578096
## 61 0.6651151946 0.925707956 0.9747258085 0.845556123 0.424452095 0.72753363
## 62 0.0948406609 0.881977559 0.4361299961 0.806435164 0.042360679 0.17304304
## 63 0.3839696378 0.674186843 0.4640166268 0.117331227 0.647442144 0.30631126
## 64 0.2743836446 0.950166979 0.1652980812 0.712686555 0.468619162 0.36990728
## 65 0.8146400389 0.516444894 0.5849365573 0.235268858 0.617926123 0.07772155
## 66 0.4485163414 0.576519021 0.2707780194 0.074956751 0.270815433 0.71315019
## 67 0.8100643530 0.336331206 0.2300969204 0.935646147 0.157295287 0.55092273
## 68 0.8123895095 0.347324631 0.6912078315 0.157167825 0.114254270 0.13586540
## 69 0.7943423211 0.020024301 0.2828523996 0.647057350 0.507682863 0.97416369
## 70 0.4398316876 0.502813046 0.8103980662 0.173517746 0.548032288 0.56196316
## 71 0.7544751586 0.871043414 0.0939166071 0.020074009 0.140646189 0.78840938
## 72 0.6292211316 0.006300784 0.8220300712 0.521313846 0.169769050 0.84891408
## 73 0.7101824014 0.072057124 0.4274282807 0.086277893 0.761985323 0.87804177
## 74 0.0006247733 0.164211225 0.7558872597 0.283002346 0.527394941 0.80047637
## 75 0.4753165741 0.770334074 0.6623855066 0.420434901 0.860989358 0.64014849
## 76 0.2201188852 0.735184306 0.4445273969 0.587278124 0.673554988 0.62892776
## 77 0.3798165377 0.971875636 0.6271461844 0.806694430 0.013041030 0.27140900
## 78 0.6127710033 0.466472377 0.0004653491 0.201995209 0.693198901 0.02993983
## 79 0.3517979092 0.074384513 0.2172435140 0.459424672 0.891713732 0.41986421
## 80 0.1111354243 0.648818124 0.7048722457 0.448143114 0.631850175 0.35543467
## 81 0.2436194727 0.758593170 0.2151664882 0.733747758 0.107294655 0.39233125
## 82 0.6680555874 0.137106081 0.8139337213 0.714754811 0.921065204 0.17193683
## 83 0.4176467797 0.396584595 0.3077638743 0.831221979 0.675362381 0.31964212
## 84 0.7881958340 0.224985329 0.6877426857 0.886566121 0.148593713 0.41355506
## 85 0.1028646443 0.057958561 0.9326810790 0.952644574 0.745341842 0.75933570
## 86 0.4348927415 0.395892688 0.1157796648 0.550616722 0.942598862 0.27189021
## 87 0.9849569800 0.064928300 0.1277056879 0.522335766 0.420783376 0.11558246
## 88 0.8930511144 0.225886433 0.6782238574 0.170698255 0.297723078 0.02933661
## 89 0.8864690608 0.054629109 0.4289485959 0.479271560 0.259426670 0.80685530
## 90 0.1750526503 0.670282040 0.8344009779 0.253820796 0.222881317 0.48012644
## 91 0.1306956916 0.297741783 0.9714380668 0.039780637 0.565654343 0.80624794
## 92 0.6531019250 0.100721582 0.0704889777 0.634800510 0.756650133 0.07900568
## 93 0.3435164723 0.071904097 0.4597851932 0.539560914 0.669603546 0.11533741
## 94 0.6567581280 0.880440569 0.7015851184 0.140103550 0.546522794 0.12941629
## 95 0.3203732425 0.754247402 0.0869401679 0.283711777 0.811463658 0.73874854
## 96 0.1876911193 0.816605888 0.9929440161 0.583030595 0.759166802 0.75709853
## 97 0.7822943013 0.982140374 0.2530989940 0.165025892 0.020068466 0.99245531
## 98 0.0935949867 0.103599645 0.0495384356 0.096301111 0.380903700 0.62455299
## 99 0.4667790416 0.099041829 0.6863249468 0.428613091 0.050880114 0.28869011
## 100 0.5115054599 0.798831611 0.7869273527 0.355761566 0.797902937 0.19991177
## 101 0.5999889593 0.784575267 0.3536060760 0.844933540 0.923699213 0.80091785
## 102 0.3328235403 0.009429905 0.3664414450 0.260132474 0.542598370 0.72776271
## 103 0.4886130337 0.779065883 0.2871001307 0.023144492 0.852364600 0.21704797
## 104 0.9544738275 0.729390652 0.0799729123 0.862399540 0.583562863 0.74423851
## 105 0.4829023972 0.630131853 0.3654542696 0.334587961 0.668323644 0.86665371
## 106 0.8903502221 0.480910830 0.1780138146 0.631788872 0.511314597 0.52940576
## 107 0.9144381869 0.156636851 0.5360537206 0.546426259 0.762750589 0.59863855
## 108 0.6087349823 0.008215520 0.5039487120 0.376444493 0.903362288 0.93763233
## 109 0.4106897765 0.452458394 0.9450351035 0.185873015 0.820474512 0.95072410
## 110 0.1470946909 0.492293329 0.3413212840 0.428940591 0.071431850 0.66053230
## 111 0.9352998033 0.389587112 0.4647137742 0.630773599 0.003896343 0.07228658
## 112 0.3012289000 0.464665942 0.0825311816 0.520842351 0.052198616 0.82633158
## 113 0.0607205715 0.713279001 0.8601068461 0.659621337 0.866560180 0.47954408
## 114 0.9477269400 0.055301926 0.3956606400 0.729360931 0.576245169 0.39122878
## 115 0.7205962734 0.354783098 0.7358993504 0.486822873 0.313842572 0.29912278
## 116 0.1422942956 0.802812273 0.1717434060 0.384456616 0.959465784 0.24430825
## 117 0.5492846561 0.835708837 0.4547616313 0.006833509 0.591193757 0.42181013
## 118 0.9540912386 0.237749405 0.7702047594 0.003684228 0.531409336 0.93777018
## 119 0.5854833531 0.353986103 0.0626499983 0.994936440 0.383936672 0.26448512
## 120 0.4045102817 0.856885420 0.8150814951 0.107886880 0.319553229 0.56856875
## 121 0.6478934793 0.853763374 0.3011425245 0.418669158 0.808386255 0.20218457
## 122 0.3198206171 0.295895455 0.3646710280 0.717884547 0.041919498 0.19280563
## 123 0.3077200109 0.147048325 0.3121127919 0.742539132 0.363742695 0.71861175
## 124 0.2197676313 0.703992061 0.0373699649 0.871998824 0.856596967 0.31351790
## 125 0.3694888658 0.103806688 0.5188049234 0.607867961 0.697946578 0.13839013
## 126 0.9842192035 0.033727773 0.6790134157 0.756203351 0.684486473 0.05803070
## 127 0.1542023008 0.999404528 0.9032335603 0.847241298 0.348015053 0.93109964
## 128 0.0910439999 0.034874804 0.0255266984 0.612779649 0.554681829 0.56833801
## 129 0.1419069078 0.338391284 0.9890782707 0.793224168 0.137243618 0.11777036
## 130 0.6900071015 0.915063762 0.3028876246 0.022854683 0.784931556 0.56479448
## 131 0.6192564834 0.617235270 0.9391384006 0.416914550 0.886862572 0.54025618
## 132 0.8913941171 0.286285349 0.6876075817 0.874882387 0.204095883 0.81968252
## 133 0.6729990926 0.737797403 0.4470369949 0.647347016 0.770622961 0.70297950
## 134 0.7370777379 0.834054309 0.8164781388 0.924478987 0.596362961 0.56774837
## 135 0.5211357258 0.314270780 0.0394991979 0.172225096 0.957669742 0.72130927
## 136 0.6598384497 0.492566548 0.7390316855 0.315812789 0.158688398 0.75244421
## 137 0.8218054601 0.697373766 0.3487194937 0.804256279 0.525974274 0.38142260
## 138 0.7862815517 0.641462354 0.8292508235 0.988963411 0.873151368 0.28801028
## 139 0.9798219174 0.643922915 0.5355413917 0.322385552 0.869706070 0.53168333
## 140 0.4394315362 0.977853405 0.2745453636 0.001191628 0.023688643 0.25964607
## 141 0.3117022021 0.414735334 0.8009482119 0.992170619 0.975889693 0.83179032
## 142 0.4094749526 0.119404780 0.0916446948 0.148352392 0.490224198 0.40536388
## 143 0.0104671118 0.526029660 0.8321077742 0.049364297 0.389170323 0.07263193
## 144 0.1838495240 0.225073351 0.2768550725 0.597353483 0.417554960 0.95375862
## 145 0.8427293189 0.486411764 0.7531100996 0.321328443 0.092925820 0.21718378
## 146 0.2311617821 0.370214798 0.9641525701 0.527929000 0.161809210 0.40562527
## 147 0.2390999557 0.983350181 0.0814665600 0.795422020 0.405416495 0.62566832
## 148 0.0766911653 0.388319115 0.8543647465 0.068932597 0.341814444 0.62840480
## 149 0.2457236780 0.229244840 0.8022382171 0.695020697 0.415257453 0.32823866
## 150 0.7321352055 0.623297546 0.3851736046 0.948631507 0.304052469 0.13890949
## 151 0.8474531651 0.136540197 0.3275973990 0.277769317 0.560280537 0.91465717
## 152 0.4975272671 0.967469494 0.2049387030 0.249406585 0.155874151 0.59911597
## 153 0.3879090298 0.515071808 0.5693826627 0.159435480 0.956579764 0.74960710
## 154 0.2464489941 0.163070329 0.8880551904 0.071630056 0.043966625 0.91895475
## 155 0.1110964613 0.621902295 0.5297140914 0.557437583 0.372157743 0.52876540
## 156 0.3899944352 0.985954165 0.5869586568 0.489837052 0.962615341 0.37197875
## 157 0.5719353140 0.668771517 0.6657351425 0.494292362 0.645427516 0.06580832
## 158 0.2168927628 0.418915897 0.5298924586 0.888371585 0.061262614 0.85436992
## 159 0.4447680020 0.323344993 0.5098428994 0.036704360 0.409945928 0.51041130
## 160 0.2179906687 0.835255320 0.0161604809 0.203743814 0.425905134 0.20999806
## 161 0.5022995633 0.143817044 0.0477099849 0.513781139 0.508158085 0.37584344
## 162 0.3539045718 0.192815947 0.9293506825 0.236339889 0.449599911 0.20736550
## 163 0.6499851588 0.896738683 0.7692855387 0.575435670 0.623261384 0.45924082
## 164 0.3747139566 0.308119554 0.2010806161 0.482257911 0.139977931 0.24150225
## 165 0.3554453808 0.363300544 0.6502615004 0.569352689 0.907946401 0.11869032
## 166 0.5336879455 0.783946479 0.6537666824 0.144152315 0.569443275 0.07246915
## 167 0.7403343604 0.193378680 0.3952537614 0.145708763 0.548280574 0.69098985
## 168 0.2211029378 0.017765812 0.8123048285 0.412283113 0.116827623 0.28695762
## 169 0.4127461186 0.406607866 0.5470234177 0.683010282 0.762028332 0.14941250
## 170 0.2656866868 0.483167669 0.8851326515 0.653427820 0.478369447 0.97243201
## 171 0.6299730535 0.421844950 0.5533139876 0.915986333 0.781968915 0.41051439
## 172 0.1838284908 0.342808802 0.9060481116 0.813113132 0.046026549 0.40181385
## 173 0.8636441114 0.866483315 0.5874613670 0.675890001 0.819844668 0.64855635
## 174 0.7465680041 0.455108051 0.4234636510 0.807499109 0.269408447 0.91630574
## 175 0.6682846497 0.533764874 0.9495853230 0.128064420 0.282850415 0.21666214
## 176 0.6180178733 0.963843332 0.7090379035 0.250778534 0.643221559 0.54799887
## 177 0.3722380602 0.774591542 0.4133054081 0.331546992 0.948118838 0.72005046
## 178 0.5298356859 0.208876349 0.0183640837 0.407269290 0.006998454 0.39724601
## 179 0.8746823429 0.308786833 0.5667340828 0.635367577 0.351617672 0.09400139
## 180 0.5817500998 0.971342450 0.4900634531 0.808612045 0.419045725 0.63489641
## 181 0.8397677648 0.584900093 0.8786740212 0.258801201 0.457876797 0.00247881
## 182 0.3124481649 0.760823625 0.8128526879 0.819467140 0.711692579 0.21052324
## 183 0.7082903222 0.372709394 0.8540999775 0.015477669 0.919848058 0.67902281
## 184 0.2650178061 0.769193911 0.3678959478 0.654400767 0.627110701 0.86618913
## 185 0.5943431940 0.537677183 0.8739499128 0.811719584 0.902181778 0.79969712
## 186 0.4812898005 0.913995450 0.1513381714 0.461368927 0.757329159 0.13499640
## 187 0.2650327315 0.185296442 0.2818116697 0.203417102 0.137858366 0.38749826
## 188 0.5645904348 0.282218417 0.6667051578 0.018768217 0.153254878 0.78847193
## 189 0.9131882230 0.094962413 0.9773835768 0.283132697 0.191312187 0.69291367
## 190 0.9018743895 0.210487079 0.5827397367 0.915272626 0.433185141 0.59427297
## 191 0.2741666215 0.977098996 0.5265900795 0.933696521 0.087219302 0.12385765
## 192 0.3214827564 0.296302175 0.0607822249 0.542531614 0.223780001 0.55507810
## 193 0.9856408844 0.725983027 0.9690388637 0.219422546 0.572148680 0.44941139
## 194 0.6199933102 0.785687834 0.1202371286 0.489427804 0.400169178 0.76616653
## 195 0.9373140892 0.105417746 0.0883633010 0.801148736 0.565465381 0.02609772
## 196 0.4665327023 0.239594629 0.8807641149 0.407630658 0.829623879 0.19517143
## 197 0.4068325933 0.270544872 0.5083706297 0.103711567 0.642113819 0.88123456
## 198 0.6592303242 0.101058494 0.3374949973 0.280565175 0.391498752 0.10980159
## 199 0.1523466168 0.117913841 0.8943346255 0.361466221 0.709579855 0.96855093
## 200 0.5728670582 0.991236556 0.0319716281 0.259244841 0.108824073 0.38519859
## x.7 x.8 x.9 x.10 y
## 1 0.858591407 0.23323974 0.639185811 0.155264136 10.594975
## 2 0.887384755 0.23065360 0.124822397 0.845851006 17.165302
## 3 0.489091499 0.06172627 0.255265784 0.214380426 13.112492
## 4 0.718091809 0.49711861 0.820574687 0.669873245 13.303440
## 5 0.486705573 0.24412509 0.803780393 0.617756451 10.004662
## 6 0.988708861 0.75818554 0.045834631 0.049999777 15.204950
## 7 0.064751130 0.54730268 0.875531722 0.949398776 10.687788
## 8 0.157662778 0.94806690 0.128009090 0.582552032 23.748416
## 9 0.785348618 0.08617219 0.608831404 0.860954337 11.168910
## 10 0.542188290 0.94788258 0.469566873 0.518467249 9.731385
## 11 0.416547345 0.72239887 0.557291086 0.266127483 19.938008
## 12 0.998882649 0.92200460 0.730392785 0.597377663 12.998118
## 13 0.255673117 0.61384094 0.469858689 0.795576084 6.882518
## 14 0.507875671 0.16096650 0.988610059 0.689286038 24.187606
## 15 0.078971178 0.18294069 0.984668385 0.480631645 10.661816
## 16 0.813668364 0.73018356 0.393284681 0.465929389 19.767771
## 17 0.382179160 0.58952565 0.608847138 0.618412335 17.369785
## 18 0.802182708 0.31248236 0.345483730 0.449270514 8.092895
## 19 0.197923637 0.77279440 0.437112562 0.602707533 20.521029
## 20 0.946399770 0.33629820 0.229131963 0.004608974 13.222093
## 21 0.345672474 0.85567669 0.006072248 0.994994513 19.458904
## 22 0.522050247 0.58052849 0.023876888 0.406462448 19.137490
## 23 0.111688006 0.41572265 0.058758428 0.117951637 22.310723
## 24 0.885974851 0.93257279 0.764575645 0.869539095 18.657782
## 25 0.954254973 0.46269884 0.469044005 0.540192957 6.634434
## 26 0.040380763 0.09934633 0.850831880 0.881597668 12.276413
## 27 0.493616189 0.46544936 0.581719391 0.037539839 14.713078
## 28 0.226063705 0.98408386 0.186888262 0.881433962 19.090567
## 29 0.858800339 0.92527287 0.609060979 0.722349670 13.973559
## 30 0.530935734 0.43539876 0.893341733 0.769810297 14.171462
## 31 0.004638151 0.86972072 0.794321166 0.863593709 20.074385
## 32 0.277560080 0.30035417 0.504092834 0.500742103 22.060737
## 33 0.325203143 0.79797263 0.423028274 0.925864024 15.752505
## 34 0.588706277 0.80051071 0.654381288 0.208074670 16.831275
## 35 0.249684701 0.38692570 0.887738514 0.027105594 6.917028
## 36 0.043117281 0.38158970 0.892016471 0.315793072 9.791741
## 37 0.110678788 0.64551561 0.178390538 0.660112250 20.935361
## 38 0.703753812 0.86166745 0.257502425 0.314691301 16.597391
## 39 0.939021239 0.65663267 0.113438505 0.944461388 14.422411
## 40 0.311169018 0.51632607 0.797158959 0.778970580 14.301211
## 41 0.078492930 0.14878158 0.109538489 0.339431246 13.098623
## 42 0.321744091 0.61276590 0.829071695 0.481646265 20.011830
## 43 0.624905537 0.04196682 0.771046297 0.415994799 15.145721
## 44 0.440241850 0.49835899 0.943689405 0.776333899 13.123440
## 45 0.801345301 0.73950822 0.466957594 0.485427006 8.292637
## 46 0.279283805 0.75389978 0.939855648 0.015299104 10.528152
## 47 0.570713193 0.06309374 0.785182942 0.642451295 14.870160
## 48 0.042128012 0.44248193 0.874607875 0.234829985 12.781216
## 49 0.190717455 0.50067170 0.394462653 0.747025883 13.572456
## 50 0.727086471 0.27024310 0.099699161 0.295607375 16.710578
## 51 0.826690050 0.59880215 0.276961420 0.906218192 9.873534
## 52 0.510721075 0.73583763 0.722222051 0.853324018 16.096496
## 53 0.567726166 0.71357781 0.356305179 0.461963777 21.499352
## 54 0.001155820 0.11649294 0.382711883 0.071348248 13.221776
## 55 0.143778103 0.57512062 0.031968651 0.577803724 20.484966
## 56 0.865967083 0.79813199 0.521445287 0.579579334 19.260274
## 57 0.082561061 0.23182380 0.121077910 0.993576777 15.646696
## 58 0.244570682 0.72485583 0.885184176 0.335274414 10.619506
## 59 0.981543157 0.83802320 0.074646299 0.666801774 18.204751
## 60 0.577581279 0.11883857 0.784227947 0.938556002 19.852267
## 61 0.248726364 0.95895040 0.854132303 0.574856835 25.913665
## 62 0.614953954 0.74776458 0.037178171 0.691711414 10.342473
## 63 0.031757321 0.81088948 0.275143509 0.089758587 12.817836
## 64 0.146423544 0.18991772 0.642069949 0.866459245 20.051960
## 65 0.703072974 0.02596878 0.785078360 0.501139397 15.115527
## 66 0.065560709 0.86378229 0.400062712 0.223256284 9.437609
## 67 0.621807062 0.91917987 0.935302330 0.412419242 18.062533
## 68 0.937327365 0.13762799 0.390516971 0.886306280 11.080212
## 69 0.087894615 0.47764862 0.423959307 0.495593437 10.380421
## 70 0.972803509 0.46296150 0.286421701 0.672753728 14.583491
## 71 0.026010711 0.70017861 0.611748409 0.282504438 13.542577
## 72 0.725227952 0.06557490 0.558812739 0.817058303 7.888654
## 73 0.453706392 0.73303999 0.039967135 0.246099455 5.353249
## 74 0.566182405 0.39593159 0.745281947 0.369646194 6.197385
## 75 0.872731046 0.46148784 0.206487421 0.235524395 18.508439
## 76 0.554563180 0.72529936 0.656495965 0.935756926 13.718946
## 77 0.737652207 0.47000265 0.522414671 0.415076828 18.136416
## 78 0.623129162 0.99952398 0.633436585 0.137449405 17.963097
## 79 0.311028406 0.84593579 0.617563134 0.914364723 11.367456
## 80 0.392196485 0.82820730 0.284895547 0.347641376 9.995599
## 81 0.202087455 0.76164434 0.223807222 0.852930876 16.886785
## 82 0.852780390 0.11210649 0.539019355 0.142635179 16.894563
## 83 0.606830151 0.83897702 0.996371977 0.359432871 17.630591
## 84 0.756098014 0.81385052 0.328916537 0.245505068 13.909038
## 85 0.562516809 0.99141219 0.323336088 0.045905947 17.844492
## 86 0.275899013 0.04831452 0.035323518 0.784547902 17.297041
## 87 0.735558404 0.74678791 0.525611853 0.199171735 11.203423
## 88 0.549279794 0.41931352 0.596806915 0.391850244 10.670902
## 89 0.346127044 0.58214390 0.742086659 0.323562245 7.253632
## 90 0.514965635 0.83073406 0.952837130 0.602105905 7.743986
## 91 0.815767948 0.01353063 0.489621238 0.541271680 10.660522
## 92 0.526272569 0.01152176 0.083287345 0.990823733 13.495350
## 93 0.203040050 0.99644571 0.259927999 0.253791049 10.123985
## 94 0.848107680 0.76568967 0.874846626 0.735269893 15.663091
## 95 0.370494215 0.31466261 0.852059136 0.977608161 16.558790
## 96 0.303325171 0.81201174 0.842904665 0.558046242 19.561491
## 97 0.770597047 0.99121922 0.946903675 0.392708160 10.061484
## 98 0.733448555 0.20075959 0.652681635 0.824689259 8.271040
## 99 0.838905998 0.64603722 0.488155565 0.112384461 7.166249
## 100 0.569048842 0.43755073 0.187756701 0.535777904 18.539426
## 101 0.026280838 0.93802826 0.713033061 0.443831585 24.370218
## 102 0.486127228 0.98800331 0.085069971 0.273957213 6.570294
## 103 0.542681033 0.45631956 0.461199406 0.157357536 13.768624
## 104 0.836660117 0.23061494 0.935907307 0.871838074 21.829525
## 105 0.728664538 0.69548927 0.845293668 0.562044856 15.378517
## 106 0.555113807 0.55663234 0.716186717 0.550689758 20.420530
## 107 0.073414397 0.58471009 0.123806348 0.592365286 12.667995
## 108 0.136502299 0.43363125 0.594827461 0.727812863 8.522606
## 109 0.684608696 0.42617505 0.989852801 0.638925285 14.113973
## 110 0.099621936 0.59685440 0.615408488 0.614450165 7.566743
## 111 0.203785905 0.45208558 0.273077667 0.052416851 14.833201
## 112 0.365980138 0.95660866 0.063706843 0.565157753 14.169148
## 113 0.846195758 0.84443035 0.072303276 0.587341380 17.303494
## 114 0.236872596 0.22276860 0.873511214 0.628567075 11.115704
## 115 0.704877851 0.42017018 0.362824997 0.621890645 15.803652
## 116 0.107608831 0.41998294 0.945622149 0.082270042 15.134367
## 117 0.779068869 0.02079085 0.558318940 0.077642612 12.912370
## 118 0.255105683 0.38044797 0.512661151 0.687094690 10.238654
## 119 0.548043326 0.42234843 0.947771664 0.830303592 23.330508
## 120 0.033901521 0.19142606 0.109801596 0.145909875 11.518045
## 121 0.806109476 0.70532928 0.818907551 0.783530072 18.237245
## 122 0.337752807 0.01352048 0.377342107 0.486450079 9.247274
## 123 0.916285858 0.73120311 0.556641048 0.989265105 12.762229
## 124 0.357106418 0.43272410 0.313871187 0.499104955 21.764175
## 125 0.975365013 0.73124009 0.082342880 0.562260535 10.252871
## 126 0.384378523 0.01394155 0.779937542 0.378257021 15.850405
## 127 0.488673535 0.04531331 0.193234728 0.518637197 18.068980
## 128 0.490776231 0.41841438 0.655585468 0.074283792 13.059703
## 129 0.012254624 0.64384000 0.435147053 0.538472344 15.205155
## 130 0.641473201 0.21979379 0.197148327 0.961061001 12.521830
## 131 0.512574972 0.83344265 0.994660422 0.527810140 22.273903
## 132 0.320352118 0.69476731 0.446742866 0.437159452 17.562555
## 133 0.581433158 0.89912449 0.031426664 0.032266997 20.850620
## 134 0.617344408 0.41424029 0.937016558 0.037734181 22.604473
## 135 0.438274538 0.41100470 0.870983954 0.047348294 14.650032
## 136 0.170368981 0.25001499 0.601246283 0.160959036 12.927515
## 137 0.715080497 0.37376704 0.299015456 0.469097393 20.099581
## 138 0.747786549 0.23189273 0.809346275 0.805923975 27.721621
## 139 0.843914708 0.93160316 0.952142385 0.280597516 18.342702
## 140 0.534759047 0.47634476 0.852053971 0.754783985 10.747168
## 141 0.302235262 0.04766500 0.127309736 0.521825815 20.204149
## 142 0.456518182 0.77353106 0.968882350 0.288947193 8.470681
## 143 0.384342534 0.33111733 0.557101009 0.017377201 4.887610
## 144 0.249046855 0.55287647 0.005364447 0.668349530 10.450408
## 145 0.654626745 0.67633053 0.135763920 0.066975965 14.851420
## 146 0.955323702 0.27733437 0.005847102 0.836386427 12.306696
## 147 0.291082957 0.05285568 0.816874062 0.135343156 19.370701
## 148 0.650189087 0.42575858 0.782163588 0.655878108 7.041186
## 149 0.536359931 0.61011848 0.931066286 0.837947729 12.065290
## 150 0.597451867 0.97604604 0.368689882 0.257647996 21.479397
## 151 0.024898269 0.96980012 0.974454874 0.135995285 9.672225
## 152 0.004841740 0.08848456 0.823743682 0.763488414 14.039637
## 153 0.131378254 0.49838004 0.787448863 0.211996233 12.937388
## 154 0.024817104 0.39568937 0.622825835 0.267969599 5.380183
## 155 0.092129452 0.39033193 0.967354929 0.531831195 11.006165
## 156 0.475558224 0.31849949 0.499918491 0.474116867 19.329205
## 157 0.196656761 0.68257505 0.893695600 0.373443665 17.714201
## 158 0.814673949 0.28461491 0.401043247 0.775349929 12.302036
## 159 0.244059228 0.39009471 0.447541610 0.558203970 5.599007
## 160 0.488807638 0.99016856 0.935779082 0.155236621 13.426353
## 161 0.648882480 0.79200573 0.683332197 0.989418448 14.530232
## 162 0.158716470 0.31240515 0.018163130 0.244446430 10.092509
## 163 0.836977911 0.81711773 0.165526718 0.130378512 19.918038
## 164 0.436596530 0.22090977 0.495834499 0.212681135 10.742469
## 165 0.233495525 0.50107382 0.426535228 0.380004248 13.980798
## 166 0.298855992 0.16697230 0.992053121 0.359621169 12.416006
## 167 0.159421337 0.11965919 0.888950124 0.302662049 9.114307
## 168 0.585567104 0.89760997 0.345755371 0.044399714 7.542696
## 169 0.148777977 0.09371488 0.705844125 0.934783353 14.427256
## 170 0.179059560 0.86505856 0.908724687 0.568717030 17.299537
## 171 0.339221505 0.27659146 0.676292887 0.220802745 20.923878
## 172 0.183901939 0.02728369 0.639100271 0.877961175 14.967268
## 173 0.405541522 0.78738496 0.149604527 0.467288806 17.161940
## 174 0.613559618 0.35866030 0.601125390 0.542349815 18.465541
## 175 0.685671334 0.02510297 0.272751236 0.784398174 15.641159
## 176 0.823525600 0.74609360 0.457853371 0.647870272 16.918035
## 177 0.373982114 0.02962558 0.222253093 0.144893147 15.499857
## 178 0.952841005 0.43386483 0.254921517 0.321637377 12.144231
## 179 0.018832159 0.25662683 0.653687727 0.951055583 13.925162
## 180 0.612374972 0.49801522 0.471993161 0.188198491 19.197430
## 181 0.463573764 0.65335523 0.160963036 0.750404248 17.866472
## 182 0.354729621 0.08365689 0.272080335 0.459158475 19.797383
## 183 0.882423029 0.18047246 0.712956093 0.141365049 14.593027
## 184 0.075802858 0.10446250 0.613353652 0.205193076 15.535939
## 185 0.883291192 0.81239298 0.132121966 0.675293500 24.467751
## 186 0.188221836 0.62750244 0.070007253 0.138030211 21.822389
## 187 0.215066747 0.63057249 0.966265013 0.415543701 4.389795
## 188 0.869532292 0.39088985 0.368270278 0.451247032 6.002029
## 189 0.060838056 0.43225357 0.677454085 0.622946570 12.476319
## 190 0.234899601 0.34863400 0.845951730 0.251174297 14.873137
## 191 0.993015513 0.79355776 0.241650385 0.464153464 16.924431
## 192 0.678197728 0.88693611 0.035150991 0.165509229 15.415256
## 193 0.435486801 0.65112709 0.595240237 0.857806453 19.441829
## 194 0.377309942 0.59286326 0.836191128 0.156551897 19.927932
## 195 0.461184024 0.32782209 0.362249210 0.088331634 16.418680
## 196 0.801851872 0.07568937 0.332188533 0.893417772 14.729412
## 197 0.662966975 0.59138724 0.644736331 0.300620508 6.985656
## 198 0.466003664 0.17833676 0.958615137 0.752086671 8.821828
## 199 0.053259437 0.74135012 0.596203628 0.401606648 10.030124
## 200 0.237197918 0.29387621 0.510280018 0.448558106 17.664192Intepretasi Hasil 4.1
Berdasarkan hasil pembangkitan data menggunakan fungsi mlbench.friedman1(200), diperoleh dataset yang terdiri atas 200 observasi dan 11 variabel, yaitu 10 variabel prediktor X1 sampai X10 dan 1 variabel respons y. Seluruh variabel prediktor memiliki tipe data numerik (double) dengan nilai yang umumnya berada pada rentang 0 hingga 1. Dataset ini merupakan data simulasi yang digunakan untuk membangun model Bagging Regression. Variabel respons y dibentuk berdasarkan hubungan nonlinier dari beberapa variabel prediktor, yaitu X1 sampai X5, serta komponen galat acak. Sementara itu, variabel X6 sampai X10 merupakan variabel tambahan yang tidak berpengaruh langsung terhadap pembentukan nilai y. Dataset ini selanjutnya digunakan untuk membagi data menjadi data training dan testing, membangun model Bagging Regression dengan variasi jumlah agregasi, serta mengevaluasi kinerja model berdasarkan nilai MSE, RMSE, dan R2.
4.2 Membagi data training dan testing
set.seed(123)
indeks <- sample(1:nrow(learn), 0.8 * nrow(learn))
train <- learn[indeks, ]
test <- learn[-indeks, ]
train## x.1 x.2 x.3 x.4 x.5 x.6
## 159 0.4447680020 0.323344993 0.5098428994 0.036704360 0.409945928 0.51041130
## 179 0.8746823429 0.308786833 0.5667340828 0.635367577 0.351617672 0.09400139
## 14 0.5726334020 0.674376388 0.4979489362 0.993044780 0.884133607 0.50699773
## 195 0.9373140892 0.105417746 0.0883633010 0.801148736 0.565465381 0.02609772
## 170 0.2656866868 0.483167669 0.8851326515 0.653427820 0.478369447 0.97243201
## 50 0.8578277153 0.726702539 0.6733324814 0.614562157 0.130044595 0.99261567
## 118 0.9540912386 0.237749405 0.7702047594 0.003684228 0.531409336 0.93777018
## 43 0.4137243263 0.171698494 0.7317076589 0.888408650 0.612723469 0.45688676
## 198 0.6592303242 0.101058494 0.3374949973 0.280565175 0.391498752 0.10980159
## 194 0.6199933102 0.785687834 0.1202371286 0.489427804 0.400169178 0.76616653
## 153 0.3879090298 0.515071808 0.5693826627 0.159435480 0.956579764 0.74960710
## 90 0.1750526503 0.670282040 0.8344009779 0.253820796 0.222881317 0.48012644
## 91 0.1306956916 0.297741783 0.9714380668 0.039780637 0.565654343 0.80624794
## 188 0.5645904348 0.282218417 0.6667051578 0.018768217 0.153254878 0.78847193
## 185 0.5943431940 0.537677183 0.8739499128 0.811719584 0.902181778 0.79969712
## 92 0.6531019250 0.100721582 0.0704889777 0.634800510 0.756650133 0.07900568
## 137 0.8218054601 0.697373766 0.3487194937 0.804256279 0.525974274 0.38142260
## 99 0.4667790416 0.099041829 0.6863249468 0.428613091 0.050880114 0.28869011
## 72 0.6292211316 0.006300784 0.8220300712 0.521313846 0.169769050 0.84891408
## 26 0.7085304682 0.395220135 0.6262569474 0.364411082 0.075857130 0.31856309
## 7 0.5281054880 0.364091865 0.7065019011 0.146282058 0.488495482 0.77369212
## 196 0.4665327023 0.239594629 0.8807641149 0.407630658 0.829623879 0.19517143
## 184 0.2650178061 0.769193911 0.3678959478 0.654400767 0.627110701 0.86618913
## 164 0.3747139566 0.308119554 0.2010806161 0.482257911 0.139977931 0.24150225
## 78 0.6127710033 0.466472377 0.0004653491 0.201995209 0.693198901 0.02993983
## 81 0.2436194727 0.758593170 0.2151664882 0.733747758 0.107294655 0.39233125
## 193 0.9856408844 0.725983027 0.9690388637 0.219422546 0.572148680 0.44941139
## 103 0.4886130337 0.779065883 0.2871001307 0.023144492 0.852364600 0.21704797
## 117 0.5492846561 0.835708837 0.4547616313 0.006833509 0.591193757 0.42181013
## 76 0.2201188852 0.735184306 0.4445273969 0.587278124 0.673554988 0.62892776
## 143 0.0104671118 0.526029660 0.8321077742 0.049364297 0.389170323 0.07263193
## 32 0.9022990451 0.428421509 0.5636446835 0.844834624 0.771909482 0.54323290
## 109 0.4106897765 0.452458394 0.9450351035 0.185873015 0.820474512 0.95072410
## 180 0.5817500998 0.971342450 0.4900634531 0.808612045 0.419045725 0.63489641
## 178 0.5298356859 0.208876349 0.0183640837 0.407269290 0.006998454 0.39724601
## 74 0.0006247733 0.164211225 0.7558872597 0.283002346 0.527394941 0.80047637
## 23 0.6405068138 0.728394428 0.5962635446 0.775407591 0.605586841 0.58556558
## 155 0.1110964613 0.621902295 0.5297140914 0.557437583 0.372157743 0.52876540
## 53 0.7989248456 0.593045652 0.2405307016 0.475750506 0.991745235 0.89189627
## 135 0.5211357258 0.314270780 0.0394991979 0.172225096 0.957669742 0.72130927
## 162 0.3539045718 0.192815947 0.9293506825 0.236339889 0.449599911 0.20736550
## 163 0.6499851588 0.896738683 0.7692855387 0.575435670 0.623261384 0.45924082
## 34 0.7954674177 0.058478489 0.9966172187 0.729631664 0.720840350 0.13028814
## 69 0.7943423211 0.020024301 0.2828523996 0.647057350 0.507682863 0.97416369
## 182 0.3124481649 0.760823625 0.8128526879 0.819467140 0.711692579 0.21052324
## 171 0.6299730535 0.421844950 0.5533139876 0.915986333 0.781968915 0.41051439
## 63 0.3839696378 0.674186843 0.4640166268 0.117331227 0.647442144 0.30631126
## 141 0.3117022021 0.414735334 0.8009482119 0.992170619 0.975889693 0.83179032
## 97 0.7822943013 0.982140374 0.2530989940 0.165025892 0.020068466 0.99245531
## 187 0.2650327315 0.185296442 0.2818116697 0.203417102 0.137858366 0.38749826
## 38 0.2164079358 0.831927563 0.4870325699 0.752037541 0.657221060 0.55954587
## 21 0.8895393161 0.282528330 0.5474594680 0.903400885 0.688721120 0.46121657
## 41 0.1428000224 0.546826157 0.2829928708 0.593838493 0.962421321 0.83329477
## 189 0.9131882230 0.094962413 0.9773835768 0.283132697 0.191312187 0.69291367
## 60 0.3744627759 0.868106807 0.1247420886 0.350544773 0.889021493 0.71578096
## 16 0.8998249704 0.700853087 0.1920233187 0.781823065 0.139203641 0.77368604
## 116 0.1422942956 0.802812273 0.1717434060 0.384456616 0.959465784 0.24430825
## 94 0.6567581280 0.880440569 0.7015851184 0.140103550 0.546522794 0.12941629
## 6 0.0455564994 0.880246541 0.4498024841 0.801429584 0.968641168 0.47788681
## 86 0.4348927415 0.395892688 0.1157796648 0.550616722 0.942598862 0.27189021
## 190 0.9018743895 0.210487079 0.5827397367 0.915272626 0.433185141 0.59427297
## 39 0.3181810076 0.152887223 0.0994458233 0.818955383 0.289352145 0.42688558
## 191 0.2741666215 0.977098996 0.5265900795 0.933696521 0.087219302 0.12385765
## 197 0.4068325933 0.270544872 0.5083706297 0.103711567 0.642113819 0.88123456
## 158 0.2168927628 0.418915897 0.5298924586 0.888371585 0.061262614 0.85436992
## 4 0.8830174040 0.515029727 0.5763018376 0.318494588 0.046993681 0.85343024
## 13 0.6775706355 0.216254790 0.2151720827 0.021993715 0.363261567 0.18514032
## 157 0.5719353140 0.668771517 0.6657351425 0.494292362 0.645427516 0.06580832
## 127 0.1542023008 0.999404528 0.9032335603 0.847241298 0.348015053 0.93109964
## 52 0.4422000742 0.221787935 0.3498017928 0.917057133 0.726398888 0.82671549
## 22 0.6928034062 0.961104794 0.6442402205 0.865500814 0.311270809 0.79273834
## 89 0.8864690608 0.054629109 0.4289485959 0.479271560 0.259426670 0.80685530
## 169 0.4127461186 0.406607866 0.5470234177 0.683010282 0.762028332 0.14941250
## 110 0.1470946909 0.492293329 0.3413212840 0.428940591 0.071431850 0.66053230
## 25 0.6557057991 0.052843943 0.8911143125 0.042108049 0.743204915 0.81123735
## 87 0.9849569800 0.064928300 0.1277056879 0.522335766 0.420783376 0.11558246
## 35 0.0246136845 0.260856857 0.2348196758 0.104078636 0.666505717 0.62172598
## 40 0.2316257854 0.803418542 0.1611657627 0.417777102 0.097239456 0.44773010
## 112 0.3012289000 0.464665942 0.0825311816 0.520842351 0.052198616 0.82633158
## 30 0.1471136473 0.915683538 0.8625518975 0.304477791 0.733952149 0.55517720
## 12 0.4533341562 0.252964929 0.8315685980 0.096633743 0.695105244 0.34093437
## 31 0.9630242325 0.618351227 0.9531012138 0.759135339 0.004106940 0.23123088
## 132 0.8913941171 0.286285349 0.6876075817 0.874882387 0.204095883 0.81968252
## 121 0.6478934793 0.853763374 0.3011425245 0.418669158 0.808386255 0.20218457
## 64 0.2743836446 0.950166979 0.1652980812 0.712686555 0.468619162 0.36990728
## 183 0.7082903222 0.372709394 0.8540999775 0.015477669 0.919848058 0.67902281
## 192 0.3214827564 0.296302175 0.0607822249 0.542531614 0.223780001 0.55507810
## 93 0.3435164723 0.071904097 0.4597851932 0.539560914 0.669603546 0.11533741
## 96 0.1876911193 0.816605888 0.9929440161 0.583030595 0.759166802 0.75709853
## 71 0.7544751586 0.871043414 0.0939166071 0.020074009 0.140646189 0.78840938
## 67 0.8100643530 0.336331206 0.2300969204 0.935646147 0.157295287 0.55092273
## 177 0.3722380602 0.774591542 0.4133054081 0.331546992 0.948118838 0.72005046
## 79 0.3517979092 0.074384513 0.2172435140 0.459424672 0.891713732 0.41986421
## 85 0.1028646443 0.057958561 0.9326810790 0.952644574 0.745341842 0.75933570
## 37 0.7584595375 0.197744737 0.1081785294 0.953951248 0.703812950 0.14924421
## 8 0.8924190444 0.288239281 0.0825027458 0.822717392 0.477822030 0.29540008
## 51 0.0458311667 0.257216746 0.5238226017 0.752932058 0.326233147 0.70885539
## 165 0.3554453808 0.363300544 0.6502615004 0.569352689 0.907946401 0.11869032
## 166 0.5336879455 0.783946479 0.6537666824 0.144152315 0.569443275 0.07246915
## 98 0.0935949867 0.103599645 0.0495384356 0.096301111 0.380903700 0.62455299
## 173 0.8636441114 0.866483315 0.5874613670 0.675890001 0.819844668 0.64855635
## 140 0.4394315362 0.977853405 0.2745453636 0.001191628 0.023688643 0.25964607
## 200 0.5728670582 0.991236556 0.0319716281 0.259244841 0.108824073 0.38519859
## 84 0.7881958340 0.224985329 0.6877426857 0.886566121 0.148593713 0.41355506
## 46 0.1388060634 0.724554346 0.7085741372 0.625743637 0.262756278 0.07586083
## 17 0.2460877344 0.351888638 0.9506212641 0.891896123 0.295009271 0.55966508
## 62 0.0948406609 0.881977559 0.4361299961 0.806435164 0.042360679 0.17304304
## 122 0.3198206171 0.295895455 0.3646710280 0.717884547 0.041919498 0.19280563
## 54 0.1218992600 0.267521432 0.0581917963 0.567119466 0.715133528 0.53941073
## 124 0.2197676313 0.703992061 0.0373699649 0.871998824 0.856596967 0.31351790
## 108 0.6087349823 0.008215520 0.5039487120 0.376444493 0.903362288 0.93763233
## 24 0.9942697766 0.686375082 0.3219373757 0.376816417 0.991034319 0.39475899
## 125 0.3694888658 0.103806688 0.5188049234 0.607867961 0.697946578 0.13839013
## 167 0.7403343604 0.193378680 0.3952537614 0.145708763 0.548280574 0.69098985
## 147 0.2390999557 0.983350181 0.0814665600 0.795422020 0.405416495 0.62566832
## 168 0.2211029378 0.017765812 0.8123048285 0.412283113 0.116827623 0.28695762
## 181 0.8397677648 0.584900093 0.8786740212 0.258801201 0.457876797 0.00247881
## 128 0.0910439999 0.034874804 0.0255266984 0.612779649 0.554681829 0.56833801
## 88 0.8930511144 0.225886433 0.6782238574 0.170698255 0.297723078 0.02933661
## 27 0.5440660247 0.477845380 0.3029049153 0.273751270 0.451168906 0.58144734
## 42 0.4145463358 0.662317642 0.5838723360 0.798823558 0.736334029 0.71958728
## 5 0.9404672843 0.402573342 0.3954488591 0.173983817 0.262796304 0.84773916
## 70 0.4398316876 0.502813046 0.8103980662 0.173517746 0.548032288 0.56196316
## 145 0.8427293189 0.486411764 0.7531100996 0.321328443 0.092925820 0.21718378
## 129 0.1419069078 0.338391284 0.9890782707 0.793224168 0.137243618 0.11777036
## 83 0.4176467797 0.396584595 0.3077638743 0.831221979 0.675362381 0.31964212
## 149 0.2457236780 0.229244840 0.8022382171 0.695020697 0.415257453 0.32823866
## 55 0.5609479838 0.531070399 0.2366197421 0.736620346 0.504439811 0.55531359
## 36 0.4777959711 0.397151953 0.6126719653 0.219983178 0.572073721 0.54799428
## 139 0.9798219174 0.643922915 0.5355413917 0.322385552 0.869706070 0.53168333
## 186 0.4812898005 0.913995450 0.1513381714 0.461368927 0.757329159 0.13499640
## 9 0.5514350145 0.170645235 0.3393125802 0.330997829 0.748792881 0.06562811
## 48 0.4659624503 0.969356411 0.1470841086 0.085378457 0.009179946 0.01310822
## 56 0.2065313896 0.785291671 0.8900779132 0.857447424 0.436047672 0.27643988
## 111 0.9352998033 0.389587112 0.4647137742 0.630773599 0.003896343 0.07228658
## 1 0.2875775201 0.238726027 0.9860542973 0.237229697 0.470681834 0.27362273
## 123 0.3077200109 0.147048325 0.3121127919 0.742539132 0.363742695 0.71861175
## 172 0.1838284908 0.342808802 0.9060481116 0.813113132 0.046026549 0.40181385
## 154 0.2464489941 0.163070329 0.8880551904 0.071630056 0.043966625 0.91895475
## 131 0.6192564834 0.617235270 0.9391384006 0.416914550 0.886862572 0.54025618
## 126 0.9842192035 0.033727773 0.6790134157 0.756203351 0.684486473 0.05803070
## 77 0.3798165377 0.971875636 0.6271461844 0.806694430 0.013041030 0.27140900
## 101 0.5999889593 0.784575267 0.3536060760 0.844933540 0.923699213 0.80091785
## 176 0.6180178733 0.963843332 0.7090379035 0.250778534 0.643221559 0.54799887
## 11 0.9568333453 0.482042606 0.3169492481 0.629745424 0.049415597 0.46209886
## 68 0.8123895095 0.347324631 0.6912078315 0.157167825 0.114254270 0.13586540
## 20 0.9545036491 0.918857348 0.0279925719 0.044147068 0.561675609 0.27922381
## 144 0.1838495240 0.225073351 0.2768550725 0.597353483 0.417554960 0.95375862
## 3 0.4089769218 0.601365726 0.9053095817 0.225818423 0.121272054 0.16018481
## 29 0.2891597373 0.698261595 0.1604750925 0.362401712 0.339555514 0.26880345
## 156 0.3899944352 0.985954165 0.5869586568 0.489837052 0.962615341 0.37197875
## 44 0.3688454509 0.633055360 0.1655209111 0.385191593 0.119928881 0.52126426
## 130 0.6900071015 0.915063762 0.3028876246 0.022854683 0.784931556 0.56479448
## 80 0.1111354243 0.648818124 0.7048722457 0.448143114 0.631850175 0.35543467
## 57 0.1275316502 0.168060811 0.8118274161 0.909146504 0.948825251 0.65919793
## 138 0.7862815517 0.641462354 0.8292508235 0.988963411 0.873151368 0.28801028
## 105 0.4829023972 0.630131853 0.3654542696 0.334587961 0.668323644 0.86665371
## 100 0.5115054599 0.798831611 0.7869273527 0.355761566 0.797902937 0.19991177
## 2 0.7883051354 0.962358936 0.1370674714 0.686490351 0.365845473 0.59386693
## 134 0.7370777379 0.834054309 0.8164781388 0.924478987 0.596362961 0.56774837
## x.7 x.8 x.9 x.10 y
## 159 0.244059228 0.39009471 0.447541610 0.558203970 5.599007
## 179 0.018832159 0.25662683 0.653687727 0.951055583 13.925162
## 14 0.507875671 0.16096650 0.988610059 0.689286038 24.187606
## 195 0.461184024 0.32782209 0.362249210 0.088331634 16.418680
## 170 0.179059560 0.86505856 0.908724687 0.568717030 17.299537
## 50 0.727086471 0.27024310 0.099699161 0.295607375 16.710578
## 118 0.255105683 0.38044797 0.512661151 0.687094690 10.238654
## 43 0.624905537 0.04196682 0.771046297 0.415994799 15.145721
## 198 0.466003664 0.17833676 0.958615137 0.752086671 8.821828
## 194 0.377309942 0.59286326 0.836191128 0.156551897 19.927932
## 153 0.131378254 0.49838004 0.787448863 0.211996233 12.937388
## 90 0.514965635 0.83073406 0.952837130 0.602105905 7.743986
## 91 0.815767948 0.01353063 0.489621238 0.541271680 10.660522
## 188 0.869532292 0.39088985 0.368270278 0.451247032 6.002029
## 185 0.883291192 0.81239298 0.132121966 0.675293500 24.467751
## 92 0.526272569 0.01152176 0.083287345 0.990823733 13.495350
## 137 0.715080497 0.37376704 0.299015456 0.469097393 20.099581
## 99 0.838905998 0.64603722 0.488155565 0.112384461 7.166249
## 72 0.725227952 0.06557490 0.558812739 0.817058303 7.888654
## 26 0.040380763 0.09934633 0.850831880 0.881597668 12.276413
## 7 0.064751130 0.54730268 0.875531722 0.949398776 10.687788
## 196 0.801851872 0.07568937 0.332188533 0.893417772 14.729412
## 184 0.075802858 0.10446250 0.613353652 0.205193076 15.535939
## 164 0.436596530 0.22090977 0.495834499 0.212681135 10.742469
## 78 0.623129162 0.99952398 0.633436585 0.137449405 17.963097
## 81 0.202087455 0.76164434 0.223807222 0.852930876 16.886785
## 193 0.435486801 0.65112709 0.595240237 0.857806453 19.441829
## 103 0.542681033 0.45631956 0.461199406 0.157357536 13.768624
## 117 0.779068869 0.02079085 0.558318940 0.077642612 12.912370
## 76 0.554563180 0.72529936 0.656495965 0.935756926 13.718946
## 143 0.384342534 0.33111733 0.557101009 0.017377201 4.887610
## 32 0.277560080 0.30035417 0.504092834 0.500742103 22.060737
## 109 0.684608696 0.42617505 0.989852801 0.638925285 14.113973
## 180 0.612374972 0.49801522 0.471993161 0.188198491 19.197430
## 178 0.952841005 0.43386483 0.254921517 0.321637377 12.144231
## 74 0.566182405 0.39593159 0.745281947 0.369646194 6.197385
## 23 0.111688006 0.41572265 0.058758428 0.117951637 22.310723
## 155 0.092129452 0.39033193 0.967354929 0.531831195 11.006165
## 53 0.567726166 0.71357781 0.356305179 0.461963777 21.499352
## 135 0.438274538 0.41100470 0.870983954 0.047348294 14.650032
## 162 0.158716470 0.31240515 0.018163130 0.244446430 10.092509
## 163 0.836977911 0.81711773 0.165526718 0.130378512 19.918038
## 34 0.588706277 0.80051071 0.654381288 0.208074670 16.831275
## 69 0.087894615 0.47764862 0.423959307 0.495593437 10.380421
## 182 0.354729621 0.08365689 0.272080335 0.459158475 19.797383
## 171 0.339221505 0.27659146 0.676292887 0.220802745 20.923878
## 63 0.031757321 0.81088948 0.275143509 0.089758587 12.817836
## 141 0.302235262 0.04766500 0.127309736 0.521825815 20.204149
## 97 0.770597047 0.99121922 0.946903675 0.392708160 10.061484
## 187 0.215066747 0.63057249 0.966265013 0.415543701 4.389795
## 38 0.703753812 0.86166745 0.257502425 0.314691301 16.597391
## 21 0.345672474 0.85567669 0.006072248 0.994994513 19.458904
## 41 0.078492930 0.14878158 0.109538489 0.339431246 13.098623
## 189 0.060838056 0.43225357 0.677454085 0.622946570 12.476319
## 60 0.577581279 0.11883857 0.784227947 0.938556002 19.852267
## 16 0.813668364 0.73018356 0.393284681 0.465929389 19.767771
## 116 0.107608831 0.41998294 0.945622149 0.082270042 15.134367
## 94 0.848107680 0.76568967 0.874846626 0.735269893 15.663091
## 6 0.988708861 0.75818554 0.045834631 0.049999777 15.204950
## 86 0.275899013 0.04831452 0.035323518 0.784547902 17.297041
## 190 0.234899601 0.34863400 0.845951730 0.251174297 14.873137
## 39 0.939021239 0.65663267 0.113438505 0.944461388 14.422411
## 191 0.993015513 0.79355776 0.241650385 0.464153464 16.924431
## 197 0.662966975 0.59138724 0.644736331 0.300620508 6.985656
## 158 0.814673949 0.28461491 0.401043247 0.775349929 12.302036
## 4 0.718091809 0.49711861 0.820574687 0.669873245 13.303440
## 13 0.255673117 0.61384094 0.469858689 0.795576084 6.882518
## 157 0.196656761 0.68257505 0.893695600 0.373443665 17.714201
## 127 0.488673535 0.04531331 0.193234728 0.518637197 18.068980
## 52 0.510721075 0.73583763 0.722222051 0.853324018 16.096496
## 22 0.522050247 0.58052849 0.023876888 0.406462448 19.137490
## 89 0.346127044 0.58214390 0.742086659 0.323562245 7.253632
## 169 0.148777977 0.09371488 0.705844125 0.934783353 14.427256
## 110 0.099621936 0.59685440 0.615408488 0.614450165 7.566743
## 25 0.954254973 0.46269884 0.469044005 0.540192957 6.634434
## 87 0.735558404 0.74678791 0.525611853 0.199171735 11.203423
## 35 0.249684701 0.38692570 0.887738514 0.027105594 6.917028
## 40 0.311169018 0.51632607 0.797158959 0.778970580 14.301211
## 112 0.365980138 0.95660866 0.063706843 0.565157753 14.169148
## 30 0.530935734 0.43539876 0.893341733 0.769810297 14.171462
## 12 0.998882649 0.92200460 0.730392785 0.597377663 12.998118
## 31 0.004638151 0.86972072 0.794321166 0.863593709 20.074385
## 132 0.320352118 0.69476731 0.446742866 0.437159452 17.562555
## 121 0.806109476 0.70532928 0.818907551 0.783530072 18.237245
## 64 0.146423544 0.18991772 0.642069949 0.866459245 20.051960
## 183 0.882423029 0.18047246 0.712956093 0.141365049 14.593027
## 192 0.678197728 0.88693611 0.035150991 0.165509229 15.415256
## 93 0.203040050 0.99644571 0.259927999 0.253791049 10.123985
## 96 0.303325171 0.81201174 0.842904665 0.558046242 19.561491
## 71 0.026010711 0.70017861 0.611748409 0.282504438 13.542577
## 67 0.621807062 0.91917987 0.935302330 0.412419242 18.062533
## 177 0.373982114 0.02962558 0.222253093 0.144893147 15.499857
## 79 0.311028406 0.84593579 0.617563134 0.914364723 11.367456
## 85 0.562516809 0.99141219 0.323336088 0.045905947 17.844492
## 37 0.110678788 0.64551561 0.178390538 0.660112250 20.935361
## 8 0.157662778 0.94806690 0.128009090 0.582552032 23.748416
## 51 0.826690050 0.59880215 0.276961420 0.906218192 9.873534
## 165 0.233495525 0.50107382 0.426535228 0.380004248 13.980798
## 166 0.298855992 0.16697230 0.992053121 0.359621169 12.416006
## 98 0.733448555 0.20075959 0.652681635 0.824689259 8.271040
## 173 0.405541522 0.78738496 0.149604527 0.467288806 17.161940
## 140 0.534759047 0.47634476 0.852053971 0.754783985 10.747168
## 200 0.237197918 0.29387621 0.510280018 0.448558106 17.664192
## 84 0.756098014 0.81385052 0.328916537 0.245505068 13.909038
## 46 0.279283805 0.75389978 0.939855648 0.015299104 10.528152
## 17 0.382179160 0.58952565 0.608847138 0.618412335 17.369785
## 62 0.614953954 0.74776458 0.037178171 0.691711414 10.342473
## 122 0.337752807 0.01352048 0.377342107 0.486450079 9.247274
## 54 0.001155820 0.11649294 0.382711883 0.071348248 13.221776
## 124 0.357106418 0.43272410 0.313871187 0.499104955 21.764175
## 108 0.136502299 0.43363125 0.594827461 0.727812863 8.522606
## 24 0.885974851 0.93257279 0.764575645 0.869539095 18.657782
## 125 0.975365013 0.73124009 0.082342880 0.562260535 10.252871
## 167 0.159421337 0.11965919 0.888950124 0.302662049 9.114307
## 147 0.291082957 0.05285568 0.816874062 0.135343156 19.370701
## 168 0.585567104 0.89760997 0.345755371 0.044399714 7.542696
## 181 0.463573764 0.65335523 0.160963036 0.750404248 17.866472
## 128 0.490776231 0.41841438 0.655585468 0.074283792 13.059703
## 88 0.549279794 0.41931352 0.596806915 0.391850244 10.670902
## 27 0.493616189 0.46544936 0.581719391 0.037539839 14.713078
## 42 0.321744091 0.61276590 0.829071695 0.481646265 20.011830
## 5 0.486705573 0.24412509 0.803780393 0.617756451 10.004662
## 70 0.972803509 0.46296150 0.286421701 0.672753728 14.583491
## 145 0.654626745 0.67633053 0.135763920 0.066975965 14.851420
## 129 0.012254624 0.64384000 0.435147053 0.538472344 15.205155
## 83 0.606830151 0.83897702 0.996371977 0.359432871 17.630591
## 149 0.536359931 0.61011848 0.931066286 0.837947729 12.065290
## 55 0.143778103 0.57512062 0.031968651 0.577803724 20.484966
## 36 0.043117281 0.38158970 0.892016471 0.315793072 9.791741
## 139 0.843914708 0.93160316 0.952142385 0.280597516 18.342702
## 186 0.188221836 0.62750244 0.070007253 0.138030211 21.822389
## 9 0.785348618 0.08617219 0.608831404 0.860954337 11.168910
## 48 0.042128012 0.44248193 0.874607875 0.234829985 12.781216
## 56 0.865967083 0.79813199 0.521445287 0.579579334 19.260274
## 111 0.203785905 0.45208558 0.273077667 0.052416851 14.833201
## 1 0.858591407 0.23323974 0.639185811 0.155264136 10.594975
## 123 0.916285858 0.73120311 0.556641048 0.989265105 12.762229
## 172 0.183901939 0.02728369 0.639100271 0.877961175 14.967268
## 154 0.024817104 0.39568937 0.622825835 0.267969599 5.380183
## 131 0.512574972 0.83344265 0.994660422 0.527810140 22.273903
## 126 0.384378523 0.01394155 0.779937542 0.378257021 15.850405
## 77 0.737652207 0.47000265 0.522414671 0.415076828 18.136416
## 101 0.026280838 0.93802826 0.713033061 0.443831585 24.370218
## 176 0.823525600 0.74609360 0.457853371 0.647870272 16.918035
## 11 0.416547345 0.72239887 0.557291086 0.266127483 19.938008
## 68 0.937327365 0.13762799 0.390516971 0.886306280 11.080212
## 20 0.946399770 0.33629820 0.229131963 0.004608974 13.222093
## 144 0.249046855 0.55287647 0.005364447 0.668349530 10.450408
## 3 0.489091499 0.06172627 0.255265784 0.214380426 13.112492
## 29 0.858800339 0.92527287 0.609060979 0.722349670 13.973559
## 156 0.475558224 0.31849949 0.499918491 0.474116867 19.329205
## 44 0.440241850 0.49835899 0.943689405 0.776333899 13.123440
## 130 0.641473201 0.21979379 0.197148327 0.961061001 12.521830
## 80 0.392196485 0.82820730 0.284895547 0.347641376 9.995599
## 57 0.082561061 0.23182380 0.121077910 0.993576777 15.646696
## 138 0.747786549 0.23189273 0.809346275 0.805923975 27.721621
## 105 0.728664538 0.69548927 0.845293668 0.562044856 15.378517
## 100 0.569048842 0.43755073 0.187756701 0.535777904 18.539426
## 2 0.887384755 0.23065360 0.124822397 0.845851006 17.165302
## 134 0.617344408 0.41424029 0.937016558 0.037734181 22.604473test## x.1 x.2 x.3 x.4 x.5 x.6
## 10 0.45661474 0.172171746 0.68078755 0.37416939 0.66764023 0.44053312
## 15 0.10292468 0.047663627 0.27604967 0.58393885 0.77529723 0.01919103
## 18 0.04205953 0.408943998 0.32172554 0.75486545 0.12608279 0.64146264
## 19 0.32792072 0.820951324 0.47845638 0.97920373 0.58990162 0.46843212
## 28 0.59414202 0.560253264 0.38820466 0.85046748 0.05353693 0.45548896
## 33 0.69070528 0.542080367 0.32954741 0.45792156 0.46297521 0.44757014
## 45 0.15244475 0.311869747 0.86646776 0.09032208 0.55025905 0.24245708
## 47 0.23303410 0.398939825 0.76039954 0.74563622 0.89836083 0.39129509
## 49 0.26597264 0.967398371 0.35805696 0.30051761 0.23623494 0.86749947
## 58 0.75330786 0.404399181 0.74751632 0.05638223 0.12018149 0.24343524
## 59 0.89504536 0.471576278 0.15491173 0.50290830 0.07514518 0.28826620
## 61 0.66511519 0.925707956 0.97472581 0.84555612 0.42445210 0.72753363
## 65 0.81464004 0.516444894 0.58493656 0.23526886 0.61792612 0.07772155
## 66 0.44851634 0.576519021 0.27077802 0.07495675 0.27081543 0.71315019
## 73 0.71018240 0.072057124 0.42742828 0.08627789 0.76198532 0.87804177
## 75 0.47531657 0.770334074 0.66238551 0.42043490 0.86098936 0.64014849
## 82 0.66805559 0.137106081 0.81393372 0.71475481 0.92106520 0.17193683
## 95 0.32037324 0.754247402 0.08694017 0.28371178 0.81146366 0.73874854
## 102 0.33282354 0.009429905 0.36644144 0.26013247 0.54259837 0.72776271
## 104 0.95447383 0.729390652 0.07997291 0.86239954 0.58356286 0.74423851
## 106 0.89035022 0.480910830 0.17801381 0.63178887 0.51131460 0.52940576
## 107 0.91443819 0.156636851 0.53605372 0.54642626 0.76275059 0.59863855
## 113 0.06072057 0.713279001 0.86010685 0.65962134 0.86656018 0.47954408
## 114 0.94772694 0.055301926 0.39566064 0.72936093 0.57624517 0.39122878
## 115 0.72059627 0.354783098 0.73589935 0.48682287 0.31384257 0.29912278
## 119 0.58548335 0.353986103 0.06265000 0.99493644 0.38393667 0.26448512
## 120 0.40451028 0.856885420 0.81508150 0.10788688 0.31955323 0.56856875
## 133 0.67299909 0.737797403 0.44703699 0.64734702 0.77062296 0.70297950
## 136 0.65983845 0.492566548 0.73903169 0.31581279 0.15868840 0.75244421
## 142 0.40947495 0.119404780 0.09164469 0.14835239 0.49022420 0.40536388
## 146 0.23116178 0.370214798 0.96415257 0.52792900 0.16180921 0.40562527
## 148 0.07669117 0.388319115 0.85436475 0.06893260 0.34181444 0.62840480
## 150 0.73213521 0.623297546 0.38517360 0.94863151 0.30405247 0.13890949
## 151 0.84745317 0.136540197 0.32759740 0.27776932 0.56028054 0.91465717
## 152 0.49752727 0.967469494 0.20493870 0.24940659 0.15587415 0.59911597
## 160 0.21799067 0.835255320 0.01616048 0.20374381 0.42590513 0.20999806
## 161 0.50229956 0.143817044 0.04770998 0.51378114 0.50815808 0.37584344
## 174 0.74656800 0.455108051 0.42346365 0.80749911 0.26940845 0.91630574
## 175 0.66828465 0.533764874 0.94958532 0.12806442 0.28285041 0.21666214
## 199 0.15234662 0.117913841 0.89433463 0.36146622 0.70957985 0.96855093
## x.7 x.8 x.9 x.10 y
## 10 0.54218829 0.94788258 0.469566873 0.5184672 9.731385
## 15 0.07897118 0.18294069 0.984668385 0.4806316 10.661816
## 18 0.80218271 0.31248236 0.345483730 0.4492705 8.092895
## 19 0.19792364 0.77279440 0.437112562 0.6027075 20.521029
## 28 0.22606370 0.98408386 0.186888262 0.8814340 19.090567
## 33 0.32520314 0.79797263 0.423028274 0.9258640 15.752505
## 45 0.80134530 0.73950822 0.466957594 0.4854270 8.292637
## 47 0.57071319 0.06309374 0.785182942 0.6424513 14.870160
## 49 0.19071746 0.50067170 0.394462653 0.7470259 13.572456
## 58 0.24457068 0.72485583 0.885184176 0.3352744 10.619506
## 59 0.98154316 0.83802320 0.074646299 0.6668018 18.204751
## 61 0.24872636 0.95895040 0.854132303 0.5748568 25.913665
## 65 0.70307297 0.02596878 0.785078360 0.5011394 15.115527
## 66 0.06556071 0.86378229 0.400062712 0.2232563 9.437609
## 73 0.45370639 0.73303999 0.039967135 0.2460995 5.353249
## 75 0.87273105 0.46148784 0.206487421 0.2355244 18.508439
## 82 0.85278039 0.11210649 0.539019355 0.1426352 16.894563
## 95 0.37049422 0.31466261 0.852059136 0.9776082 16.558790
## 102 0.48612723 0.98800331 0.085069971 0.2739572 6.570294
## 104 0.83666012 0.23061494 0.935907307 0.8718381 21.829525
## 106 0.55511381 0.55663234 0.716186717 0.5506898 20.420530
## 107 0.07341440 0.58471009 0.123806348 0.5923653 12.667995
## 113 0.84619576 0.84443035 0.072303276 0.5873414 17.303494
## 114 0.23687260 0.22276860 0.873511214 0.6285671 11.115704
## 115 0.70487785 0.42017018 0.362824997 0.6218906 15.803652
## 119 0.54804333 0.42234843 0.947771664 0.8303036 23.330508
## 120 0.03390152 0.19142606 0.109801596 0.1459099 11.518045
## 133 0.58143316 0.89912449 0.031426664 0.0322670 20.850620
## 136 0.17036898 0.25001499 0.601246283 0.1609590 12.927515
## 142 0.45651818 0.77353106 0.968882350 0.2889472 8.470681
## 146 0.95532370 0.27733437 0.005847102 0.8363864 12.306696
## 148 0.65018909 0.42575858 0.782163588 0.6558781 7.041186
## 150 0.59745187 0.97604604 0.368689882 0.2576480 21.479397
## 151 0.02489827 0.96980012 0.974454874 0.1359953 9.672225
## 152 0.00484174 0.08848456 0.823743682 0.7634884 14.039637
## 160 0.48880764 0.99016856 0.935779082 0.1552366 13.426353
## 161 0.64888248 0.79200573 0.683332197 0.9894184 14.530232
## 174 0.61355962 0.35866030 0.601125390 0.5423498 18.465541
## 175 0.68567133 0.02510297 0.272751236 0.7843982 15.641159
## 199 0.05325944 0.74135012 0.596203628 0.4016066 10.030124Intepretasi Hasil 4.2
Berdasarkan hasil pembagian data menggunakan fungsi
sample() dengan proporsi 80% untuk data
training dan 20% untuk data testing, diperoleh sebanyak
160 observasi pada data training dan 40 observasi pada data
testing dari total 200 observasi. Pembagian data dilakukan dengan
menetapkan set.seed(123) agar hasil pembagian dapat
direproduksi. Data training digunakan untuk membangun model
Bagging Regression, sedangkan data testing digunakan
untuk menguji dan mengevaluasi kemampuan model dalam memprediksi nilai y
berdasarkan variabel prediktor X1 sampai X10. Index baris yang terlihat
pada data training dan testing menunjukkan bahwa
observasi telah terbagi ke dalam kedua kelompok tersebut sesuai hasil
pengambilan sampel secara acak.
4.3 Membandingkan nbagg = 25, 50, 100 dan melihat hasil prediksi
# Membandingkan nbagg = 25, 50, 100
nbagg <- c(25, 50, 100)
hasil_evaluasi <- data.frame()
for (b in nbagg) {
set.seed(123)
# Membentuk model Bagging Regression
mod2 <- ipred::bagging(
y ~ ., data = train, nbagg = b
)
# Melihat ringkasan model
print(mod2)
# Melihat hasil prediksi
pred <- predict(mod2, newdata = test)
hasil <- data.frame(
Aktual = test$y,
Prediksi = as.numeric(pred)
)
print(hasil)
actual <- test$y
# Menghitung MSE
MSE <- mean((actual - pred)^2)
print(MSE)
# Menghitung RMSE
RMSE <- sqrt(MSE)
print(RMSE)
# Menghitung R-Square
R2 <- 1 - sum((actual - pred)^2) /
sum((actual - mean(actual))^2)
print(R2)
# Menyimpan hasil evaluasi
hasil_evaluasi <- rbind(
hasil_evaluasi,
data.frame(
NBAGG = b,
MSE = MSE,
RMSE = RMSE,
R2 = R2
)
)
}##
## Bagging regression trees with 25 bootstrap replications
##
## Call: bagging.data.frame(formula = y ~ ., data = train, nbagg = b)
##
##
## Aktual Prediksi
## 1 9.731385 10.580482
## 2 10.661816 11.763850
## 3 8.092895 14.531206
## 4 20.521029 18.848781
## 5 19.090567 19.382593
## 6 15.752505 16.725910
## 7 8.292637 9.300656
## 8 14.870160 16.232638
## 9 13.572456 14.111658
## 10 10.619506 11.456067
## 11 18.204751 17.091752
## 12 25.913665 20.332036
## 13 15.115527 14.559443
## 14 9.437609 12.963030
## 15 5.353249 8.415132
## 16 18.508439 18.030953
## 17 16.894563 14.812445
## 18 16.558790 16.768641
## 19 6.570294 8.643930
## 20 21.829525 20.304460
## 21 20.420530 17.984117
## 22 12.667995 12.493850
## 23 17.303494 14.797205
## 24 11.115704 14.448886
## 25 15.803652 12.937587
## 26 23.330508 17.835345
## 27 11.518045 12.518090
## 28 20.850620 19.275665
## 29 12.927515 14.799474
## 30 8.470681 9.250093
## 31 12.306696 11.335544
## 32 7.041186 9.571233
## 33 21.479397 18.941559
## 34 9.672225 8.820542
## 35 14.039637 14.883756
## 36 13.426353 12.864698
## 37 14.530232 11.278089
## 38 18.465541 18.700033
## 39 15.641159 12.510989
## 40 10.030124 9.594902
## [1] 5.558434
## [1] 2.357633
## [1] 0.7741194
##
## Bagging regression trees with 50 bootstrap replications
##
## Call: bagging.data.frame(formula = y ~ ., data = train, nbagg = b)
##
##
## Aktual Prediksi
## 1 9.731385 10.437903
## 2 10.661816 11.834634
## 3 8.092895 14.449191
## 4 20.521029 18.849977
## 5 19.090567 19.610836
## 6 15.752505 16.508421
## 7 8.292637 8.821660
## 8 14.870160 15.791210
## 9 13.572456 14.119974
## 10 10.619506 10.846466
## 11 18.204751 16.376429
## 12 25.913665 20.439911
## 13 15.115527 14.852838
## 14 9.437609 12.807682
## 15 5.353249 8.701812
## 16 18.508439 17.574451
## 17 16.894563 14.847033
## 18 16.558790 16.217951
## 19 6.570294 9.045339
## 20 21.829525 20.686979
## 21 20.420530 17.788263
## 22 12.667995 12.902027
## 23 17.303494 15.238551
## 24 11.115704 14.531736
## 25 15.803652 12.549960
## 26 23.330508 18.128768
## 27 11.518045 12.903391
## 28 20.850620 19.092636
## 29 12.927515 14.718361
## 30 8.470681 9.234802
## 31 12.306696 11.711569
## 32 7.041186 9.251509
## 33 21.479397 19.499239
## 34 9.672225 9.048748
## 35 14.039637 14.681453
## 36 13.426353 13.427186
## 37 14.530232 11.016036
## 38 18.465541 18.825266
## 39 15.641159 12.901138
## 40 10.030124 9.788887
## [1] 5.382894
## [1] 2.320106
## [1] 0.7812529
##
## Bagging regression trees with 100 bootstrap replications
##
## Call: bagging.data.frame(formula = y ~ ., data = train, nbagg = b)
##
##
## Aktual Prediksi
## 1 9.731385 10.333926
## 2 10.661816 11.605778
## 3 8.092895 14.130356
## 4 20.521029 18.987904
## 5 19.090567 19.213964
## 6 15.752505 16.992052
## 7 8.292637 9.236177
## 8 14.870160 16.383682
## 9 13.572456 14.069952
## 10 10.619506 11.162014
## 11 18.204751 15.966636
## 12 25.913665 20.142741
## 13 15.115527 14.987419
## 14 9.437609 12.231270
## 15 5.353249 8.882332
## 16 18.508439 17.481224
## 17 16.894563 14.429030
## 18 16.558790 15.777174
## 19 6.570294 9.149584
## 20 21.829525 20.428408
## 21 20.420530 17.660657
## 22 12.667995 12.460768
## 23 17.303494 15.009862
## 24 11.115704 14.652422
## 25 15.803652 12.961897
## 26 23.330508 18.097081
## 27 11.518045 12.713313
## 28 20.850620 18.924704
## 29 12.927515 14.434270
## 30 8.470681 9.291869
## 31 12.306696 12.208355
## 32 7.041186 9.407848
## 33 21.479397 19.449286
## 34 9.672225 9.251149
## 35 14.039637 14.692360
## 36 13.426353 13.735164
## 37 14.530232 10.761319
## 38 18.465541 18.710856
## 39 15.641159 12.749960
## 40 10.030124 9.556910
## [1] 5.563335
## [1] 2.358672
## [1] 0.7739202# Membandingkan hasil evaluasi
print(hasil_evaluasi)## NBAGG MSE RMSE R2
## 1 25 5.558434 2.357633 0.7741194
## 2 50 5.382894 2.320106 0.7812529
## 3 100 5.563335 2.358672 0.7739202# Memilih model dengan MSE terkecil
hasil_evaluasi <- hasil_evaluasi[
order(hasil_evaluasi$MSE), ]
print(hasil_evaluasi)## NBAGG MSE RMSE R2
## 2 50 5.382894 2.320106 0.7812529
## 1 25 5.558434 2.357633 0.7741194
## 3 100 5.563335 2.358672 0.7739202Intepretasi Hasil 4.3
Berdasarkan hasil pemodelan Bagging Regression dengan jumlah bootstrap replications sebanyak 25, 50, dan 100, diperoleh nilai evaluasi yang berbeda pada setiap model. Model dengan 25 bootstrap replications menghasilkan nilai MSE sebesar 5,558434, RMSE sebesar 2,357633, dan R² sebesar 0,7741194. Model dengan 50 bootstrap replications menghasilkan nilai MSE sebesar 5,382894, RMSE sebesar 2,320106, dan R² sebesar 0,7812529. Sementara itu, model dengan 100 bootstrap replications menghasilkan nilai MSE sebesar 5,563335, RMSE sebesar 2,358672, dan R² sebesar 0,7739202. Berdasarkan perbandingan tersebut, model dengan 50 bootstrap replications merupakan model terbaik di antara ketiga model yang diuji karena memiliki nilai MSE dan RMSE paling rendah serta nilai R² paling tinggi. Nilai R² sebesar 0,7812529 menunjukkan bahwa model mampu menjelaskan sekitar 78,13% variasi nilai aktual pada data testing, sedangkan sekitar 21,87% sisanya belum dapat dijelaskan oleh model. Hasil ini menunjukkan bahwa penambahan jumlah bootstrap replications tidak selalu meningkatkan kinerja model, karena model dengan 100 bootstrap replications justru menghasilkan kesalahan prediksi yang lebih besar dibandingkan model dengan 50 bootstrap replications.
4.4 Prediksi model terbaik
# Membuat model terbaik
nbagg_terbaik <- hasil_evaluasi$NBAGG[1]
set.seed(123)
mod2 <- ipred::bagging(
y ~ ., data = train, nbagg = nbagg_terbaik
)
# Prediksi model terbaik
pred <- predict(mod2, newdata = test)
actual <- test$y
pred## [1] 10.437903 11.834634 14.449191 18.849977 19.610836 16.508421 8.821660
## [8] 15.791210 14.119974 10.846466 16.376429 20.439911 14.852838 12.807682
## [15] 8.701812 17.574451 14.847033 16.217951 9.045339 20.686979 17.788263
## [22] 12.902027 15.238551 14.531736 12.549960 18.128768 12.903391 19.092636
## [29] 14.718361 9.234802 11.711569 9.251509 19.499239 9.048748 14.681453
## [36] 13.427186 11.016036 18.825266 12.901138 9.788887actual## [1] 9.731385 10.661816 8.092895 20.521029 19.090567 15.752505 8.292637
## [8] 14.870160 13.572456 10.619506 18.204751 25.913665 15.115527 9.437609
## [15] 5.353249 18.508439 16.894563 16.558790 6.570294 21.829525 20.420530
## [22] 12.667995 17.303494 11.115704 15.803652 23.330508 11.518045 20.850620
## [29] 12.927515 8.470681 12.306696 7.041186 21.479397 9.672225 14.039637
## [36] 13.426353 14.530232 18.465541 15.641159 10.030124Intepretasi Hasil 4.4
Berdasarkan hasil prediksi menggunakan model Bagging Regression terbaik, yaitu model dengan 50 bootstrap replications, diperoleh 40 nilai prediksi yang kemudian dibandingkan dengan 40 nilai aktual pada data testing. Hasil menunjukkan bahwa nilai prediksi mendekati nilai aktual pada sebagian besar observasi, meskipun terdapat beberapa perbedaan yang cukup besar, seperti pada observasi ke-3, dengan nilai aktual 8,092895 dan nilai prediksi 14,449191, serta observasi ke-12, dengan nilai aktual 25,913665 dan nilai prediksi 20,439911. Perbedaan tersebut menunjukkan bahwa model belum mampu memprediksi seluruh observasi secara tepat. Namun, berdasarkan hasil evaluasi sebelumnya, model ini memiliki nilai MSE sebesar 5,382894, RMSE sebesar 2,320106, dan R² sebesar 0,7812529. Dengan demikian, model Bagging Regression dengan 50 bootstrap replications dipilih sebagai model terbaik di antara tiga konfigurasi yang diuji karena menghasilkan kesalahan prediksi paling rendah dan kemampuan menjelaskan variasi nilai aktual sebesar 78,13% pada data testing.
4.5 Plot aktual dan prediksi
# Plot aktual dan prediksi
plot(actual, type = "l", lwd = 2,
xlab = "Observasi", ylab = "Nilai Y",
main = "Perbandingan Nilai Aktual dan Prediksi",
col = "red")
lines(pred, lwd = 2, lty = 2, col = "blue")
legend("topright",
legend = c("Aktual", "Prediksi"),
lty = c(1, 2), lwd = c(2, 2),
col = c("red", "blue"))
Intepretasi Hasil 4.5
Berdasarkan grafik perbandingan nilai aktual dan prediksi menggunakan model Bagging Regression terbaik dengan 50 bootstrap replications, terlihat bahwa garis prediksi berwarna biru putus-putus secara umum mengikuti pola perubahan garis aktual berwarna merah. Hal ini menunjukkan bahwa model mampu menangkap pola variasi nilai Y pada data testing dengan cukup baik. Namun, pada beberapa observasi masih terdapat selisih antara nilai aktual dan prediksi yang cukup besar, terutama pada observasi ke-12 dan ke-15. Perbedaan tersebut menunjukkan bahwa model belum sepenuhnya mampu memperkirakan nilai ekstrem secara akurat. Secara keseluruhan, grafik ini sejalan dengan hasil evaluasi model yang menghasilkan MSE sebesar 5,382894, RMSE sebesar 2,320106, dan R² sebesar 0,7812529. Dengan demikian, model Bagging Regression dengan 50 bootstrap replications menunjukkan kemampuan prediksi yang cukup baik, meskipun masih terdapat kesalahan prediksi pada beberapa observasi.
BAB V KESIMPULAN
5.1 Kesimpulan
Bagging (Bootstrap Aggregating) merupakan metode ensemble learning yang menggabungkan beberapa model untuk meningkatkan kestabilan dan kinerja prediksi. Prinsip kerjanya adalah mengambil sampel bootstrap dari data training melalui pengambilan sampel secara acak dengan pengembalian (sampling with replacement), membangun model pada setiap sampel, kemudian menggabungkan hasil prediksi seluruh model. Pada Bagging Regression, penggabungan dilakukan dengan menghitung rata-rata prediksi, sedangkan pada Bagging Classification dapat menggunakan suara mayoritas. Metode ini dapat mengurangi varians dan membantu meningkatkan kestabilan prediksi. Implementasi Bagging Regression dalam R dapat dilakukan menggunakan package mlbench dan ipred. Pertama, data simulasi dibangkitkan menggunakan fungsi mlbench.friedman1() dengan 200 observasi. Selanjutnya, data dibagi menjadi 80% data training dan 20% data testing. Model Bagging Regression dibentuk menggunakan fungsi ipred::bagging() dengan variabel respons y dan seluruh variabel prediktor. Pemodelan dilakukan dengan membandingkan jumlah bootstrap replications sebanyak 25, 50, dan 100. Setelah itu, prediksi dilakukan pada data testing untuk mengetahui kemampuan model dalam memprediksi data yang belum digunakan dalam pelatihan. Evaluasi performa model dilakukan menggunakan tiga metrik, yaitu Mean Squared Error (MSE), Root Mean Squared Error (RMSE), dan koefisien determinasi (R²). MSE mengukur rata-rata kuadrat kesalahan prediksi, sedangkan RMSE menunjukkan besarnya kesalahan prediksi dalam satuan yang sama dengan variabel respons. Sementara itu, R² mengukur proporsi variasi nilai aktual yang dapat dijelaskan oleh model. Model yang baik umumnya memiliki nilai MSE dan RMSE yang rendah serta nilai R² yang tinggi. Berdasarkan hasil analisis menggunakan metode Bagging Regression pada dataset simulasi Friedman1 dengan 200 observasi, dilakukan perbandingan jumlah bootstrap replications sebanyak 25, 50, dan 100. Hasil evaluasi menunjukkan bahwa model dengan 50 bootstrap replications merupakan model terbaik karena menghasilkan nilai MSE sebesar 5,382894, RMSE sebesar 2,320106, dan R² sebesar 0,7812529. Nilai R² tersebut menunjukkan bahwa model mampu menjelaskan sekitar 78,13% variasi nilai y pada data testing. Berdasarkan grafik perbandingan nilai aktual dan prediksi, model secara umum mampu mengikuti pola perubahan nilai aktual, meskipun masih terdapat perbedaan prediksi pada beberapa observasi. Dengan demikian, penggunaan 50 bootstrap replications memberikan kinerja terbaik di antara ketiga konfigurasi yang diuji, tetapi belum sepenuhnya menghasilkan prediksi yang akurat pada seluruh observasi..
5.2 Saran
Penulis menyarankan agar ketepatan sintaks program R selalu diperhatikan untuk menghindari kesalahan dalam proses analisis. Penggunaan bahasa perlu disesuaikan dengan kaidah KBBI. Aturan penulisan huruf tebal juga perlu diperhatikan agar laporan tersusun secara sistematis, rapi, dan sesuai dengan kaidah penulisan ilmiah.
DAFTAR PUSTAKA
Fransiska, H. (2026). Modul praktikum machine learning. Universitas Bengkulu.
Hancock, J. T., Khoshgoftaar, T. M., & Johnson, J. M. (2023). Evaluating classifier performance with highly imbalanced big data. Journal of Big Data, 10(1), Article 42.
Huang, H., Huang, L., Song, R., Jiao, F., & Ai, T. (2022). Bus single-trip time prediction based on ensemble learning. Computational Intelligence and Neuroscience, 2022, Article 6831167.
Imtiyaz, W., Satyahadewi, N., & Perdana, H. (2023). Application of Bagging CART in the classification of on-time graduation of students in the Statistics Study Program of Tanjungpura University. BAREKENG: Jurnal Ilmu Matematika dan Terapan, 17(4), 2243–2252.
Innassuraiya, S., Widiharih, T., & Utami, I. T. (2022). Analisis klasifikasi menggunakan metode regresi logistik biner dan Bootstrap Aggregating Classification and Regression Trees (Bagging CART). Jurnal Gaussian, 11(2), 183–194.
Khan, P. W., Park, S.-J., Lee, S.-J., & Byun, Y.-C. (2022). Electric kickboard demand prediction in spatiotemporal dimension using clustering-aided bagging regressor. Journal of Advanced Transportation, 2022, Article 8062932.
Mienye, I. D., & Sun, Y. (2022). A survey of ensemble learning: Concepts, algorithms, applications, and prospects. IEEE Access, 10, 99129–99149.
Mohammed, A., & Kora, R. (2023). A comprehensive review on ensemble deep learning: Opportunities and challenges. Journal of King Saud University – Computer and Information Sciences, 35(2), 757–774.
Pérez-Rodríguez, J., Fernández-Navarro, F., & Ashley, T. (2023). Estimating ensemble weights for bagging regressors based on the mean–variance portfolio framework. Expert Systems with Applications, 229, Article 120462.
Putri, D. L. W., Mariani, S., & Sunarmi. (2021). Peningkatan ketepatan klasifikasi model regresi logistik biner dengan metode Bagging (Bootstrap Aggregating). Indonesian Journal of Mathematics and Natural Sciences, 44(2), 61–72.
Shi, X., Nikolic, G., Epelde, G., Arrúe, M., Bidaurrazaga Van-Dierdonck, J., Bilbao, R., et al. (2021). An ensemble-based feature selection framework to select risk factors of childhood obesity for policy decision making. BMC Medical Informatics and Decision Making, 21(1), Article 222.
Wite, R. A. H., & Rosadi, D. (2024). Classification analysis using Bootstrap Aggregating Multivariate Adaptive Regression Spline (Bagging MARS). BAREKENG: Jurnal Ilmu Matematika dan Terapan, 18(3), 1381–1390.
Wu, S., Li, J., & Ding, W. (2023). A geometric framework for multiclass ensemble classifiers. Machine Learning, 112, 4929–4958.