Pertumbuhan besar dalam pengumpulan data dan analisis statistik telah membuka peluang baru dalam memahami hubungan antar variabel. Salah satu metode yang umum digunakan adalah Regresi Linear Berganda, yang memungkinkan permodelan hubungan antara variabel dependen dan beberapa variabel independen. Keberhasilan dalam menganalisis Regresi Linear Berganda sangat tergantung pada integritas dan kualitas data yang digunakan. Pada kenyataannya, data sering kali mencakup nilai-nilai yang ekstrem atau dikenal sebagai outlier. Outlier dapat merusak asumsi-asumsi dasar Regresi Linear dan menghasilkan model yang tidak akurat. Oleh karena itu, pendeteksian outlier menjadi langkah yang penting dalam analisis Regresi Linear Berganda untuk memastikan hasil yang valid (Effendi, 2020).
Pada Analisis Regresi terdapat pengujian yang dilakukan untuk mengidentifikasi outlier. Pencilan atau outlier dapat diartikan sebagai suatu data pada data pengamatan yang jauh atau ekstrem dari ukuran pemusatan data atau pengamatan yang tidak mengikuti sebagian besar pola dan terletak jauh dari pusat data. Pencilan atau outlier tidak dapat dibuang, karena ada kemungkinan pencilan dapat memberikan informasi penting (Ningrum dkk., 2023).
Data yang mengandung pencilan atau outlier bisa menyebabkan asumsi dari model regresi tidak terpenuhi atau mempengaruhi performansi dari model regresi. Untuk menguji outlier pada suatu data dapat menggunakan influence plot. Selain itu, dapat juga dengan melakukan uji Bonferroni untuk mengetahui apakah data tersebut benar-benar merupakan kasus outlier atau tidak (Azizah dkk., 2022).
Berdasarkan latar belakang di atas, rumusan masalah yang dapat disimpulkan adalah bagaimana cara mengidentifikasi outlier pada Regresi Linear Berganda?
Berdasarkan rumusan masalah di atas, tujuan yang dapat disimpulkan adalah praktikan dapat mengidentifikasi outlier pada Regresi Linear Berganda.
Adapun manfaat yang didapatkan dari penelitian ini adalah sebagai berikut:
Bagi penulis, yaitu:
Dapat mengidentifikasi outlier pada Analisis Regresi Linear Berganda.
Dapat mengembangkan penggunaan dan penerapan dalam hal pemrograman dengan memahami cara mengidentifikasi outlier pada Analisis Regresi Linear Berganda.
Bagi pembaca, yaitu:
Dapat menambah ilmu pengetahuan dan pemahaman tentang cara mengidentifikasi outlier pada Analisis Regresi Linear Berganda.
Dapat menjadi rujukan bagi peneliti selanjutnya.
Adapun batasan masalah pada penelitian ini, yaitu carilah data minimal 35 observasi dan minimal 3 variabel independen, kemudian lakukan deteksi outlier menggunakan plot dan uji outlier menggunakan uji Bonferroni pada data yang digunakan.
Adapun sistematika penulisan dari praktikum ini disusun menjadi lima bab. Bab I Pendahuluan berisi latar belakang, rumusan masalah, tujuan, manfaat, batasan masalah, dan sistematika penulisan. Bab II Tinjauan Pustaka yang memuat pengertian dan teori yang diperlukan untuk rancangan penelitian pada bab-bab berikutnya. Bab III Metode Penelitian menjelaskan jenis dan sumber data, variabel penelitian, teknik pengumpulan data, serta tahapan analisis. Bab IV Hasil dan Pembahasan berisi hasil pengolahan data dan interpretasi analisis menggunakan Program R. Bab V Kesimpulan dan Saran berisi rangkuman hasil praktikum serta saran yang berkaitan dengan pelaksanaan analisis, yang kemudian dilengkapi dengan daftar pustaka.
Regresi Linear Berganda merupakan model persamaan yang menjelaskan hubungan satu variabel tak bebas atau response (\(Y\)) dengan dua atau lebih variabel bebas atau prediktor (\(X_1, X_2, \dots, X_n\)). Tujuan dari uji Regresi Linear Berganda adalah untuk memprediksi nilai variabel tak bebas atau response (\(Y\)) apabila nilai-nilai variabel bebasnya atau prediktor (\(X_1, X_2, \dots, X_n\)) diketahui. Disamping itu juga untuk dapat mengetahui bagaimanakah arah hubungan variabel tak bebas dengan variabel-variabel bebasnya. Persamaan Regresi Linear Berganda secara matematik diekspresikan oleh (Yuliara, 2016):
\[Y = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \dots + \beta_n X_n + \varepsilon \tag{2.1}\] Keterangan:
\(Y =\) variabel tak bebas (nilai variabel yang akan diprediksi).
\(a =\) konstanta.
\(b_1, b_2, \dots, b_n =\) nilai koefisien Regresi.
\(X_1, X_2, \dots, X_n =\) variabel bebas.
Bila terdapat 2 variabel bebas, yaitu \(X_1\) dan \(X_2\), maka bentuk persamaan Regresinya adalah:
\[Y = a + b_1 X_1 + b_2 X_2 \tag{2.2}\]
Keadaan bila koefisien-koefisien Regresi, yaitu \(b_1\) dan \(b_2\) mempunyai nilai diantara jika nilai \(= 0\), dalam hal ini variabel \(Y\) tidak dipengaruhi oleh \(X_1\) dan \(X_2\). Jika nilainya negatif, maka terjadi hubungan dengan arah terbalik antara variabel tak bebas \(Y\) dengan variabel-variabel \(X_1\) dan \(X_2\). Dan jika nilainya positif maka terjadi hubungan yang searah antara variabel tak bebas \(Y\) dengan variabel bebas \(X_1\) dan \(X_2\). Koefisien-koefisien Regresi \(b_1\) dan \(b_2\) serta konstanta \(a\) dapat dihitung dengan menggunakan rumus sebagai berikut (Padilah & Adam, 2021):
\[a = \frac{(\sum Y) - (b_1 \sum x_1) - (b_2 \sum x_2)}{n} \tag{2.3}\]
\[b_1 = \frac{(\sum x_2^2 \cdot \sum x_1 y) - (\sum x_2 y \cdot \sum x_1 x_2)}{(\sum x_1^2 \cdot \sum x_2^2) - (\sum x_1 x_2)^2} \tag{2.4}\]
\[b_2 = \frac{(\sum x_1^2 \cdot \sum x_2 y) - (\sum x_1 y \cdot \sum x_1 x_2)}{(\sum x_1^2 \cdot \sum x_2^2) - (\sum x_1 x_2)^2} \tag{2.5}\]
Berikut adalah penjelasan untuk mengetahui lebih jelas tentang asumsi klasik pada Analisis Regresi Linear Berganda (Mardiatmoko, 2021):
Multikolinearitas merupakan keadaan di mana terjadi hubungan linear yang sempurna atau mendekati antar variabel independen dalam model Regresi. Suatu model Regresi dapat dikatakan mengalami multikolinearitas jika ada fungsi linear yang sempurna pada beberapa atau semua independen variabel dalam fungsi linear. Gejala adanya multikolinearitas antara lain dengan melihat adanya Variance Inflation Factor (VIF) dan tolerance-nya. Jika nilai \(VIF < 10\) dan tolerance \(> 0.1\) maka dinyatakan tidak terjadi multikolinearitas.
Heteroskedastisitas merupakan keadaan di mana terjadi ketidaksamaan varians dari residual untuk semua pengamatan pada model Regresi. Pengujian dilakukan dengan meRegresikan variabel bebas terhadap nilai absolut residual. Residual adalah selisih antara nilai variabel Y dengan nilai variabel Y yang diprediksi, dan absolut adalah nilai mutlaknya. Jika nilai signifikansi antara variabel independen dengan absolut residual \(> 0.05\) maka tidak terjadi heteroskedastisitas. Ada dua metode yang populer untuk uji heteroskedastisitas, yaitu uji Breusch-Pagan dan yang lebih umum, uji White. Uji Breusch-Pagan dan uji White dilakukan dengan menghitung nilai statistik sebagai berikut:
\[BP = \frac{\sum_{i}\hat{y}_{i}^{2}}{2} \tag{2.6}\]
\[W = nR^{2} \tag{2.7}\]
Autokorelasi merupakan keadaan di mana pada model Regresi ada korelasi antara residual pada periode t dengan residual pada periode sebelumnya \((t-1)\). Model Regresi yang baik adalah yang tidak adanya autokorelasi. Uji autokorelasi dapat dilakukan dengan pengujian Durbin-Watson (DW) dengan kriteria pengambilan keputusannya adalah \(1.65 < DW < 2.35\), artinya tidak terjadi autokorelasi. \(1.21 < DW < 1.65\) atau \(2.35 < DW < 2.79\) artinya terjadi autokorelasi.
Pengujian ini untuk mengetahui apakah nilai residual terdistribusi secara normal atau tidak. Model Regresi yang baik adalah yang memiliki nilai residual yang terdistribusi secara normal. Cara untuk mendeteksinya adalah dengan melihat penyebaran data pada sumber diagonal pada grafik normal QQ Plot of regression standardized sebagai dasar pengambilan keputusannya. Jika menyebar sekitar garis dan mengikuti garis diagonal maka model Regresi tersebut telah normal dan layak dipakai untuk memprediksi variabel bebas dan sebaliknya. Cara lainnya dapat dengan metode uji Kolmogorov-Smirnov, Shapiro-Wilk, dan lain sebagainya.
Uji simultan atau uji F digunakan untuk menguji apakah seluruh variabel independen secara bersama-sama memiliki hubungan linear dan berpengaruh signifikan terhadap variabel dependen. Hipotesis yang digunakan dalam pengujian ini adalah sebagai berikut (Rini, 2026):
\(H_{0}: \beta_{1} = \beta_{2} = \dots = \beta_{k} = 0\)
\(H_{1}: \text{Tidak semua } \beta_{i} = 0 \quad (i = 1, 2, \dots, k)\)
Penilaian uji simultan dilakukan melalui tabel ANOVA dengan membandingkan nilai F hitung dan F tabel atau dengan melihat nilai p-value: Tolak \(H_{0}\) jika \(F_{hitung} > F_{tabel}\) atau \(p_{value} \le \alpha\) (0.05), yang berarti seluruh variabel independen secara bersama-sama berpengaruh signifikan terhadap variabel dependen dan model regresi layak digunakan. Terima \(H_{0}\) jika \(F_{hitung} \le F_{tabel}\) atau \(p_{value} > \alpha\) (0.05), yang berarti variabel independen secara bersama-sama tidak berpengaruh signifikan terhadap variabel dependen.
Uji parsial atau uji t digunakan untuk menguji apakah suatu variabel bebas \(X\) secara individual benar-benar memberikan kontribusi dan berpengaruh signifikan terhadap variabel terikat \(Y\). Hipotesis yang digunakan dalam pengujian ini adalah sebagai berikut (Rini, 2026):
\(H_{0}: \beta_{j} = 0\)
\(H_{1}: \beta_{j} \neq 0 \quad (j = 1, 2, \dots, p)\)
Statistik uji t dihitung menggunakan rumus:
\[t = \frac{b_{i}}{SE(b_{i})} \tag{2.8}\] Keterangan:
\(b_{i} =\) Estimator untuk \(\beta_{i}\)
\(SE(b_{i}) =\) Standar error untuk \(b_{i}\)
Kriteria pengambilan keputusan dalam uji parsial dilakukan dengan membandingkan nilai \(t_{hitung}\) dengan \(t_{tabel}\) atau melihat nilai \(p_{value}\): Tolak \(H_{0}\) jika \(|t_{hitung}| > t_{\alpha/2, n-p}\) atau \(p_{value} \le \alpha\) (0.05), yang berarti variabel bebas secara individual berpengaruh signifikan terhadap variabel terikat. Terima \(H_{0}\) jika sebaliknya, yang berarti variabel bebas secara individual tidak berpengaruh signifikan terhadap variabel terikat.
Identifikasi dan pengujian outlier pada model regresi linear berganda dilakukan melalui dua tahapan utama, yaitu deteksi visual menggunakan influence plot dan pengujian statistik menggunakan uji Bonferroni.
Influence plot digunakan untuk mendeteksi pengamatan yang berpotensi menjadi outlier atau amatan berpengaruh dalam model regresi. Plot ini menyajikan tiga informasi penting secara simultan, yaitu (Kurniawan, 2018):
Studentized Residuals: Menunjukkan besarnya sisaan terstandarisasi untuk mengidentifikasi outlier pada variabel dependen (Y).
Hat-Values: Menunjukkan nilai leverage untuk mengidentifikasi outlier pada variabel independen (X).
Cook’s Distance: Mengukur pengaruh keseluruhan suatu pengamatan terhadap perubahan koefisien regresi.
Pengamatan yang letaknya menyimpang jauh dari kelompok data lainnya pada plot diindikasikan sebagai data outlier atau amatan yang berpengaruh.
Setelah amatan terindikasi melalui influence plot, dilakukan pengujian formal menggunakan uji Bonferroni untuk memastikan apakah amatan tersebut benar-benar merupakan outlier secara statistik. Langkah-langkah pengujiannya adalah sebagai berikut (Pratama & Hidayat, 2023):
Hipotesis pengujian:
\(H_{0}\): Kasus ke-i bukan merupakan outlier.
\(H_{1}\): Kasus ke-i merupakan outlier.
Taraf signifikansi: \(\alpha = 0.05\).
Statistik uji menggunakan nilai studentized residual yang disesuaikan dengan uji Bonferroni.
Kriteria keputusan: Tolak \(H_{0}\) jika nilai \(p_{value}\) (Bonferroni p) \(\le \alpha\) (0.05), yang menyimpulkan bahwa pengamatan tersebut secara statistik terbukti sebagai outlier dan memerlukan penanganan lebih lanjut.
Jenis data yang digunakan pada praktikum ini adalah data kuantitatif. Data kuantitatif adalah jenis data yang dapat diukur dan dihitung secara langsung, berupa informasi atau penjelasan yang dinyatakan dalam bentuk bilangan atau angka. Data kuantitatif digunakan untuk menggambarkan suatu karakteristik atau keadaan yang dapat diukur secara numerik sehingga dapat diolah dan dianalisis menggunakan metode statistika.
Sumber data yang digunakan adalah data sekunder. Data sekunder merupakan berbagai informasi yang telah ada sebelumnya dan dengan sengaja dikumpulkan oleh peneliti yang digunakan untuk melengkapi kebutuhan data penelitian. Data ini diperoleh pada laman website BPS (Badan Pusat Statistik).
Variabel penelitian adalah segala sesuatu yang akan menjadi objek penelitian. Pada penelitian ini menggunakan beberapa variabel sesuai pada sumber data yang digunakan. Variabel pada batasan masalah yang diberikan adalah Indeks Pembangunan Manusia sebagai variabel dependen (\(Y\)), Pengeluaran Per Kapita sebagai variabel independen pertama (\(X_{1}\)), Rata-Rata Lama Sekolah sebagai variabel independen kedua (\(X_{2}\)), dan Kepadatan Penduduk sebagai variabel independen ketiga (\(X_{3}\)).
Algoritma untuk melakukan Analisis Regresi Linear Berganda adalah:
Adapun diagram alir untuk menjelaskan batasan masalah pada penelitian adalah sebagai berikut:
Gambar 3.1 Diagram alir mendeteksi outlier pada
Regresi Linear Berganda
Berdasarkan batasan masalah, didapatkan hasil berupa nilai statistik deskriptif data sebagai berikut:
library(lmtest)
## Warning: package 'lmtest' was built under R version 4.5.3
## Loading required package: zoo
## Warning: package 'zoo' was built under R version 4.5.3
##
## Attaching package: 'zoo'
## The following objects are masked from 'package:base':
##
## as.Date, as.Date.numeric
library(car)
## Warning: package 'car' was built under R version 4.5.3
## Loading required package: carData
## Warning: package 'carData' was built under R version 4.5.3
data_dinaaa <- data.frame(
Y = c(70.99, 73.17, 69.54, 68.61, 70.79, 73.60, 68.69, 70.85, 74.97, 76.95,
77.94, 71.04, 76.58, 74.65, 70.97, 69.95, 71.00, 73.14, 75.89, 73.15,
73.36, 74.67, 70.77, 73.19, 69.45, 70.81, 67.19, 69.53, 67.03, 80.39,
83.08, 84.35, 84.08, 75.90, 76.15),
X1 = c(10904, 11905, 10277, 9776, 9282, 10671, 11108, 10011, 13250, 12522,
11841, 9780, 11798, 13052, 10610, 10067, 10937, 10948, 11609, 10913,
10698, 12448, 9773, 11999, 9972, 10707, 8994, 10020, 10514, 12816,
15463, 16351, 16047, 13158, 13455),
X2 = c(7.18, 7.78, 7.33, 6.84, 7.85, 8.32, 6.88, 7.81, 8.08, 9.09,
9.62, 7.42, 8.79, 7.79, 7.26, 7.01, 7.41, 7.79, 9.06, 8.09,
8.10, 8.05, 7.41, 7.71, 6.90, 7.46, 6.50, 7.25, 6.35, 10.94,
10.92, 10.95, 10.80, 9.20, 9.00),
X3 = c(930, 1360, 1311, 971, 1073, 752, 910, 1209, 1064, 1946,
1964, 580, 1227, 1048, 744, 495, 642, 898, 2014, 1188,
1363, 1128, 919, 1031, 1031, 1180, 1483, 1846, 1213, 6715,
11878, 3683, 4442, 6889, 8069)
)
summary(data_dinaaa)
## Y X1 X2 X3
## Min. :67.03 Min. : 8994 Min. : 6.350 Min. : 495.0
## 1st Qu.:70.78 1st Qu.:10172 1st Qu.: 7.295 1st Qu.: 950.5
## Median :73.15 Median :10937 Median : 7.790 Median : 1188.0
## Mean :73.50 Mean :11534 Mean : 8.141 Mean : 2148.5
## 3rd Qu.:75.89 3rd Qu.:12485 3rd Qu.: 8.895 3rd Qu.: 1896.0
## Max. :84.35 Max. :16351 Max. :10.950 Max. :11878.0
Berdasarkan output di atas, variabel \(Y\) memiliki rata-rata sebesar 73.50 yang mendekati nilai mediannya (73.15), sehingga sebaran datanya cenderung simetris. Variabel \(X_1\) dan \(X_2\) juga menunjukkan sebaran yang relatif stabil dengan rata-rata masing-masing sebesar 11534 dan 8.141. Sementara itu, variabel \(X_3\) memiliki rentang nilai yang sangat lebar (495.0 hingga 11878.0) dengan nilai rata-rata (2148.5) jauh lebih tinggi dibandingkan mediannya (1188.0), yang mengindikasikan adanya nilai ekstrem tinggi (outlier) atau sebaran data menceng ke kanan (right-skewed).
Analisis Regresi Linear Berganda diterapkan untuk menguji pengaruh
seluruh variabel independen (\(X_1, X_2,
X_3\)) terhadap variabel dependen (\(Y\)). Pemodelan pada R dilakukan dengan
perintah lm(), sementara rincian hasil estimasinya
ditampilkan menggunakan fungsi summary().
# Membentuk model regresi linear berganda
model_regresi <- lm(Y ~ ., data = data_dinaaa)
# Menampilkan hasil estimasi regresi
summary(model_regresi)
##
## Call:
## lm(formula = Y ~ ., data = data_dinaaa)
##
## Residuals:
## Min 1Q Median 3Q Max
## -1.27939 -0.31968 0.06292 0.39911 0.98305
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 4.175e+01 8.638e-01 48.329 < 2e-16 ***
## X1 8.563e-04 9.782e-05 8.754 6.96e-10 ***
## X2 2.752e+00 1.511e-01 18.212 < 2e-16 ***
## X3 -2.481e-04 5.654e-05 -4.388 0.000123 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.568 on 31 degrees of freedom
## Multiple R-squared: 0.9852, Adjusted R-squared: 0.9838
## F-statistic: 689.2 on 3 and 31 DF, p-value: < 2.2e-16
Berdasarkan output di atas, diperoleh nilai konstanta sebesar 41.75 dengan koefisien regresi \(X_1\) sebesar 0.0008563, \(X_2\) sebesar 2.752, dan \(X_3\) sebesar \(-0.0002481\). Nilai Multiple R-squared sebesar 0.9852 (dan Adjusted R-squared sebesar 0.9838) menunjukkan bahwa variabel \(X_1\), \(X_2\), dan \(X_3\) secara bersama-sama mampu menjelaskan 98.52% variasi pada variabel \(Y\), sedangkan 1.48% sisanya dipengaruhi oleh faktor lain di luar model.
Pengujian multikolinearitas dilakukan untuk mengetahui apakah terdapat hubungan linear yang kuat antarvariabel independen melalui matriks korelasi dan nilai Variance Inflation Factor (VIF).
# Menghitung matriks korelasi antar variabel independen
cor(data_dinaaa[, -1])
## X1 X2 X3
## X1 1.0000000 0.8310063 0.6583627
## X2 0.8310063 1.0000000 0.7177378
## X3 0.6583627 0.7177378 1.0000000
# Menghitung nilai VIF
vif(model_regresi)
## X1 X2 X3
## 3.316515 3.875405 2.116571
Berdasarkan output di atas, didapatkan hasil korelasi matriks maupun nilai Variance Inflation Factor (VIF) dengan perhitungan berikut:
\[VIF_1 = \frac{1}{1 - R_1^2} = 3.316515\]
\[VIF_2 = \frac{1}{1 - R_2^2} = 3.875405\]
\[VIF_3 = \frac{1}{1 - R_3^2} = 2.116571\]
Kriteria pengujian menyatakan bahwa jika nilai \(\text{VIF} < 10\), maka tidak terjadi permasalahan multikolinearitas. Karena seluruh nilai VIF pada variabel \(X_1\), \(X_2\), dan \(X_3\) kurang dari 10, dapat disimpulkan bahwa model regresi tidak mengalami masalah multikolinearitas antarvariabel independen.
# Melakukan Uji Breusch-Pagan
bptest(model_regresi, studentize = FALSE)
##
## Breusch-Pagan test
##
## data: model_regresi
## BP = 2.6518, df = 3, p-value = 0.4485
Berdasarkan output uji Breusch-Pagan di atas, dilakukan pengujian hipotesis untuk uji heteroskedastisitas sebagai berikut:
Hipotesis
\(H_0\): Variansi galat bersifat tetap atau konstan (homoskedastisitas).
\(H_1\): Variansi galat bersifat berubah-ubah (heteroskedastisitas).
Taraf signifikansi
\(\alpha = 5\% = 0.05\)
Statistik uji
\[BP = \frac{\sum_i \hat{y}_i^2}{2} = 2.6518\]
Kriteria penolakan
Tolak \(H_0\) jika \(p_{value} \le \alpha\)
Kesimpulan
Berdasarkan hasil uji heteroskedastisitas dengan Breusch-Pagan pada taraf signifikansi \(\alpha = 0.05\), diperoleh nilai \(p_{value} = 0.4485 > 0.05\) maka \(H_0\) diterima. Jadi, dapat disimpulkan bahwa pada taraf nyata pengujian 5% tidak terjadi masalah heteroskedastisitas atau varians dari residual bersifat tetap (homoskedastisitas).
# Menghitung residual model
residual_model <- resid(model_regresi)
# Membuat grafik Q-Q Plot
qqPlot(residual_model, dist = "norm", main = "Normal Q-Q Plot")
## [1] 7 31
# Melakukan Uji Shapiro-Wilk
shapiro.test(residual_model)
##
## Shapiro-Wilk normality test
##
## data: residual_model
## W = 0.97798, p-value = 0.6926
Berdasarkan output uji Shapiro-Wilk dan grafik Normal QQ Plot di atas, dilakukan pengujian hipotesis untuk uji normalitas data sebagai berikut:
Hipotesis
\(H_0\): Galat/residual berdistribusi normal.
\(H_1\): Galat/residual tidak berdistribusi normal.
Taraf signifikansi
\(\alpha = 5\% = 0.05\)
Statistik uji
\[T_3 = \frac{1}{D}\left[\sum_{i=1}^{k} a_i(X_{n-i+1}-X_i)\right] = 0.97798\]
Kriteria penolakan
Tolak \(H_0\) jika \(p_{value} \le \alpha\)
Kesimpulan
Berdasarkan hasil uji normalitas dengan Shapiro-Wilk pada taraf signifikansi \(\alpha = 0.05\), diperoleh nilai \(p_{value} = 0.6926 > 0.05\) maka \(H_0\) diterima. Hal ini juga didukung oleh sebaran titik pada Normal QQ Plot yang mengikuti garis diagonal biru, sehingga dapat disimpulkan bahwa pada taraf signifikan 5% galat (residual) berdistribusi normal.
# Melakukan Uji Durbin-Watson
dwtest(model_regresi)
##
## Durbin-Watson test
##
## data: model_regresi
## DW = 1.6758, p-value = 0.1263
## alternative hypothesis: true autocorrelation is greater than 0
Berdasarkan output uji Durbin-Watson di atas, dilakukan pengujian hipotesis untuk uji autokorelasi sebagai berikut:
Hipotesis
\(H_0\): Tidak ada autokorelasi.
\(H_1\): Ada autokorelasi.
Taraf signifikansi
\(\alpha = 5\% = 0.05\)
Statistik uji
\[DW = \frac{\sum_{t=2}^{n}(e_t - e_{t-1})^2}{\sum_{t=1}^{n}e_t^2} = 1.6758\]
Kriteria penolakan
Tolak \(H_0\) jika \(p_{value} \le \alpha\)
Kesimpulan
Berdasarkan hasil uji autokorelasi dengan Durbin-Watson pada taraf signifikansi \(\alpha = 0.05\), dihasilkan nilai \(p{value} = 0.1263 > 0.05\) maka \(H_0\) diterima. Jadi, dapat disimpulkan bahwa model di atas tidak terjadi masalah autokorelasi.
Berikut merupakan langkah-langkah pengujian signifikansi secara bersama-sama (simultan) untuk Analisis Regresi Linear Berganda:
Hipotesis
\(H_0: \beta_1 = \beta_2 = \beta_3 = 0\) (Tidak terdapat pengaruh signifikan antara variabel \(X_1\), \(X_2\), dan \(X_3\) secara bersama-sama terhadap variabel \(Y\)).
\(H_1:\) Tidak semua \(\beta_i = 0\) untuk \(i = 1, 2, 3\) (Terdapat pengaruh signifikan antara variabel \(X_1\), \(X_2\), dan \(X_3\) secara bersama-sama terhadap variabel \(Y\)).
Taraf signifikansi
\(\alpha = 5\% = 0.05\)
Statistik uji
\[F_{\text{hitung}} = \frac{KT_{\text{Regresi}}}{KT_{\text{Galat}}} = 689.2\]
Kriteria penolakan
Tolak \(H_0\) jika \(F_{\text{hitung}} > F_{\text{tabel}}\) atau \(p_{value} \le \alpha\).
Kesimpulan
Berdasarkan output program R, didapatkan bahwa \(F_{\text{hitung}} = 689.2\) dan \(p_{value} = 2.2 \times 10^{-16} \le \alpha = 0.05\) maka \(H_0\) ditolak, sehingga dapat disimpulkan pada taraf pengujian 5% bahwa terdapat pengaruh signifikan antara variabel \(X_1\), \(X_2\), dan \(X_3\) secara bersama-sama terhadap variabel \(Y\), sehingga model regresi yang diperoleh dapat digunakan.
Pengujian parsial dilakukan untuk mengetahui pengaruh masing-masing variabel independen (\(X_1\), \(X_2\), dan \(X_3\)) secara individu terhadap variabel dependen (\(Y\)) dengan taraf signifikansi \(\alpha = 5\% = 0.05\) dan kriteria penolakan tolak \(H_0\) jika \(p_{value} \le 0.05\).
Variabel Pengeluaran Per Kapita (\(X_1\))
Hipotesis: \(H_0: \beta_1 = 0\) (Tidak ada pengaruh); \(H_1: \beta_1 \ne 0\) (Ada pengaruh).
Statistik Uji: \(|t_{\text{hitung}}| = 8.754\) (\(p_{value} = 6.96 \times 10^{-10}\))
Kesimpulan: Karena \(p_{value} \le 0.05\), maka \(H_0\) ditolak. Variabel \(X_1\) berpengaruh secara signifikan terhadap \(Y\).
Variabel Rata-Rata Lama Sekolah (\(X_2\))
Hipotesis: \(H_0: \beta_2 = 0\) (Tidak ada pengaruh); \(H_1: \beta_2 \ne 0\) (Ada pengaruh).
Statistik Uji: \(|t_{\text{hitung}}| = 18.212\) (\(p_{value} = 2 \times 10^{-16}\))
Kesimpulan: Karena \(p_{value} \le 0.05\), maka \(H_0\) ditolak. Variabel \(X_2\) berpengaruh secara signifikan terhadap \(Y\).
Variabel Kepadatan Penduduk (\(X_3\))
Hipotesis: \(H_0: \beta_3 = 0\) (Tidak ada pengaruh); \(H_1: \beta_3 \ne 0\) (Ada pengaruh).
Statistik Uji: \(|t_{\text{hitung}}| = 4.388\) (\(p_{value} = 0.000123\))
Kesimpulan: Karena \(p_{value} \le 0.05\), maka \(H_0\) ditolak. Variabel \(X_3\) berpengaruh secara signifikan terhadap \(Y\).
Adapun hasil pendeteksian outlier pada data yang digunakan adalah sebagai berikut:
# Memanggil library
library(car)
library(readxl)
## Warning: package 'readxl' was built under R version 4.5.3
# Memasukkan data
Datadinaa <- read.delim("clipboard")
# Membentuk model regresi
regresi <- lm(Y ~ ., data = Datadinaa)
# Pendeteksian outlier dengan influence plot
influencePlot(regresi)
## StudRes Hat CookD
## 7 -2.567407 0.09148889 0.1405879
## 30 -1.688474 0.30555325 0.2959311
## 31 2.659235 0.49346832 1.4402150
## 32 -1.344521 0.31702556 0.2044531
# Pendeteksian outlier dengan uji Bonferroni
outlierTest(regresi)
## No Studentized residuals with Bonferroni p < 0.05
## Largest |rstudent|:
## rstudent unadjusted p-value Bonferroni p
## 31 2.659235 0.012444 0.43554
Berdasarkan hasil pendeteksian outlier pada influence plot, terdapat beberapa amatan yang teridentifikasi sebagai potensi outlier atau amatan berpengaruh, yaitu pada data ke-7, data ke-30, data ke-31, dan data ke-32. Terdapat tiga elemen penting yang diamati, yaitu StudRes (Studentized Residual), Hat (leverage), dan CookD (Cook’s Distance). Pada data ke-7, didapatkan hasil StudRes sebesar -2.567407 yang menandakan adanya deviasi residual negatif yang cukup besar dari prediksi model. Pada data ke-30, didapatkan nilai Hat sebesar 0.30555325 dengan CookD sebesar 0.2959311. Pada data ke-32, didapatkan nilai Hat sebesar 0.31702556 dengan CookD sebesar 0.2044531.
Adapun data ke-31 menjadi amatan paling berpengaruh karena memiliki nilai StudRes sebesar 2.659235, nilai Hat yang sangat tinggi yaitu 0.49346832, serta nilai Cook’s Distance paling ekstrem yaitu 1.4402150. Dapat dikatakan bahwa jika nilai residual dan nilai leverage sama-sama tinggi (seperti yang terlihat pada data ke-31), maka amatan tersebut akan menghasilkan nilai Cook’s Distance yang besar, sehingga menjadikannya amatan yang sangat berpengaruh (influential observation) terhadap model regresi.
Setelah melakukan pengidentifikasian dengan plot, selanjutnya menggunakan program R mendeteksi outlier menggunakan uji Bonferroni, didapatkan hasil pengujian sebagai berikut:
Hipotesis
\(H_0\): Kasus ke-31 bukan merupakan outlier.
\(H_1\): Kasus ke-31 merupakan outlier.
Taraf signifikansi
\(\alpha = 5\% = 0.05\)
Statistik uji
\[t_i = e_i \sqrt{\frac{n-p-1}{SSE(1-h_{ii})-e_i^2}} = 2.659235\]
Kriteria penolakan
Tolak \(H_0\) jika \(p_{value} \le \alpha\).
Kesimpulan
Berdasarkan hasil yang didapatkan, diperoleh \(p_{value} = 0.012444 \le \alpha = 0.05\) maka tolak \(H_0\) dan dapat disimpulkan bahwa pada taraf nyata pengujian 5% kasus ke-31 merupakan outlier sehingga kita harus mengidentifikasi lebih lanjut terhadap outlier ini.
Berdasarkan hasil analisis dan pembahasan yang telah dilakukan pada penelitian ini, dapat ditarik beberapa kesimpulan sebagai berikut:
Model Regresi Linear Berganda yang terbentuk untuk memprediksi Indeks Pembangunan Manusia (\(Y\)) berdasarkan Pengeluaran Per Kapita (\(X_1\)), Rata-Rata Lama Sekolah (\(X_2\)), dan Kepadatan Penduduk (\(X_3\)) adalah \(\hat{Y} = 41.75 + 0.0008563X_1 + 2.752X_2 - 0.0002481X_3\), dengan nilai Multiple R-squared sebesar 0.9852 yang menunjukkan bahwa 98.52% variasi variabel \(Y\) mampu dijelaskan oleh ketiga variabel independen dalam model.
Seluruh uji asumsi klasik pada model regresi telah terpenuhi, yaitu tidak terjadi multikolinearitas (\(\text{VIF} < 10\)), tidak terjadi heteroskedastisitas (\(p_{value} = 0.4485 > 0.05\)), residual berdistribusi normal (\(p_{value} = 0.6926 > 0.05\)), dan tidak terjadi autokorelasi (\(DW = 1.6758\) dengan \(p_{value} = 0.1263 > 0.05\)).
Hasil pengujian signifikansi secara simultan (Uji F) menunjukkan bahwa variabel \(X_1\), \(X_2\), dan \(X_3\) secara bersama-sama berpengaruh signifikan terhadap variabel \(Y\) (\(F_{\text{hitung}} = 689.2\), \(p_{value} = 2.2 \times 10^{-16} \le 0.05\)). Secara parsial (Uji t), masing-masing variabel \(X_1\) (\(p_{value} = 6.96 \times 10^{-10}\)), \(X_2\) (\(p_{value} = 2 \times 10^{-16}\)), dan \(X_3\) (\(p_{value} = 0.000123\)) juga terbukti berpengaruh secara signifikan terhadap \(Y\).
Identifikasi visual menggunakan influence plot mendeteksi adanya beberapa amatan berpengaruh, yaitu pengamatan ke-7, ke-30, ke-31, dan ke-32. Pengamatan ke-31 memiliki nilai sisaan dan leverage paling menonjol dengan StudRes sebesar 2.659235, nilai Hat sebesar 0.49346832, serta Cook’s Distance sebesar 1.4402150.
Berdasarkan pengujian formal menggunakan uji Bonferroni pada taraf signifikansi \(\alpha = 0.05\), diperoleh nilai \(p_{value} = 0.012444 \le 0.05\) sehingga \(H_0\) ditolak. Hal ini menegaskan bahwa secara statistik kasus ke-31 terbukti sebagai outlier yang signifikan dan memerlukan perhatian atau identifikasi lebih lanjut.
Diharapkan pembaca maupun peneliti selanjutnya mempelajari konsep dasar pendeteksian outlier pada Regresi Linear Berganda terlebih dahulu sebelum mengolah data menggunakan program R. Dalam penulisan sintaks serta proses knitting pada R Markdown diperlukan ketelitian agar tidak terjadi error saat program dijalankan, khususnya dalam memastikan pembacaan data dan pemanggilan objek variabel sudah sesuai. Selain itu, diperlukan kecermatan dalam menginterpretasikan setiap nilai statistik dan grafik output yang dihasilkan agar kesimpulan yang diambil akurat dan terhindar dari kekeliruan.
Azizah, R. J., & Wachidah, L. (2022). Regresi robust estimasi-M dengan pembobot Huber dan Tukey bisquare pada data tingkat pengangguran di Indonesia menurut provinsi tahun 2020. Jurnal Ilmiah Matematika dan Pendidikan Matematika, 14(1).
Effendi, A., Sugiyanto, D., & Wulandari, R. (2020). Analisis regresi. Malang: UB Press.
Kurniawan, D. (2018). Analisis regresi: Dasar dan penerapannya dengan R. Yogyakarta: Penerbit Graha Ilmu.
Mardiatmoko, G. (2021). Pentingnya Uji Asumsi Klasik pada Analisis Regresi Linear (Studi Kasus Penyusunan Persamaan Allometrik Kenari Muda). Jurnal Ilmu Matematika dan Terapan, 14(3), 333-342.
Ningrum, C. S., & Rahardjo, S. (2023). Kajian penaksiran parameter regresi robust untuk data outlier (pencilan) dengan estimasi-MM. Jurnal MIPA dan Pembelajarannya, 2(10).
Padilah, T. N., & Adam, R. I. (2021). Analisis Regresi Linear Berganda dalam Estimasi Produktivitas Tanaman Padi di Kabupaten Karawang. Jurnal Pendidikan Matematika dan Matematika, 5(2), 117-128.
Pratama, A., & Hidayat, T. (2023). Penanganan outlier pada analisis regresi menggunakan pendekatan studentized deleted residual dan uji Bonferroni. Jurnal Statistika dan Aplikasinya, 7(1), 45-54.
Rini, D. S. (2026). Modul Praktikum Analisis Regresi dan Korelasi. Bengkulu: Universitas Bengkulu.
Yuliara, I. M. (2016). Modul Regresi Linear Sederhana. Bali: Jurusan Fisika Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Udayana.