Analisis regresi merupakan salah satu metode statistika yang digunakan untuk mengetahui hubungan antara variabel dependen dan variabel independen. Metode ini bertujuan untuk membentuk suatu model matematis yang dapat menjelaskan hubungan antarvariabel serta mengetahui seberapa besar pengaruh variabel independen terhadap variabel dependen. Analisis regresi juga dapat digunakan untuk memperkirakan nilai variabel dependen berdasarkan informasi dari variabel independen yang digunakan dalam penelitian. Pelaksanaan analisis regresi diawali dengan pengumpulan dan pemilihan data sekunder yang sesuai dengan permasalahan penelitian. Data yang telah diperoleh selanjutnya dilakukan eksplorasi untuk mengetahui karakteristik dan pola hubungan antarvariabel. Analisis statistika deskriptif juga diperlukan untuk memberikan gambaran umum mengenai data melalui ukuran pemusatan, penyebaran, tabel, serta visualisasi grafik. Tahapan tersebut menjadi dasar sebelum dilakukan pembentukan model regresi.
Pembentukan model regresi dilakukan melalui estimasi parameter untuk memperoleh persamaan yang menggambarkan hubungan antara variabel dependen dan variabel independen. Model yang dihasilkan perlu memenuhi asumsi klasik agar estimasi parameter yang diperoleh dapat digunakan secara tepat. Pengujian asumsi klasik meliputi uji normalitas, multikolinearitas, heteroskedastisitas, dan autokorelasi sesuai dengan karakteristik model dan data yang dianalisis.
Selain pengujian asumsi klasik, pengujian hipotesis juga diperlukan untuk mengetahui kelayakan model regresi dan pengaruh variabel independen terhadap variabel dependen. Uji F digunakan untuk mengetahui pengaruh variabel independen secara simultan terhadap variabel dependen, sedangkan Uji t digunakan untuk mengetahui pengaruh masing-masing variabel independen secara parsial. Melalui kedua pengujian tersebut, dapat diketahui signifikansi model regresi yang telah dibentuk.
Evaluasi model regresi juga perlu memperhatikan keberadaan pencilan (outlier) yang dapat memengaruhi hasil estimasi parameter dan ketepatan model. Identifikasi pengamatan yang berpotensi menjadi pencilan dapat dilakukan menggunakan Influence Plot dengan memperhatikan nilai leverage, residual, dan Cook’s Distance. Selanjutnya, Uji Bonferroni digunakan untuk menguji keberadaan pencilan berdasarkan nilai residual yang telah disesuaikan. Dengan demikian, keberadaan pengamatan yang menyimpang dapat dievaluasi untuk mengetahui pengaruhnya terhadap model regresi.
Berdasarkan latar belakang yang telah diuraikan, rumusan masalah dalam praktikum ini adalah sebagai berikut.
Bagaimana karakteristik data sekunder yang digunakan berdasarkan hasil eksplorasi dan analisis statistika deskriptif?
Bagaimana pembentukan dan estimasi model regresi berdasarkan data yang digunakan?
Bagaimana hasil pengujian asumsi klasik pada model regresi yang terbentuk?
Bagaimana hasil pengujian hipotesis menggunakan Uji F dan Uji t untuk mengetahui signifikansi model dan pengaruh variabel independen terhadap variabel dependen?
Bagaimana hasil identifikasi dan pengujian outlier menggunakan Influence Plot dan Uji Bonferroni dalam mengevaluasi model regresi?
Tujuan praktikum ini adalah:
Membentuk dan mengestimasi model regresi berdasarkan data yang digunakan.
Mengetahui hasil pengujian asumsi klasik pada model regresi yang terbentuk.
Mengetahui signifikansi model regresi secara simultan melalui Uji F serta pengaruh masing-masing variabel independen secara parsial melalui Uji t.
Mengidentifikasi dan menguji keberadaan outlier menggunakan Influence Plot dan Uji Bonferroni dalam mengevaluasi model regresi.
Adapun manfaat pada penelitian ini yaitu:
Bagi penulis
Dapat memberikan informasi serta pengetahuan mengenai tahapan analisis regresi linier berganda pada program R, mulai dari eksplorasi data, uji asumsi klasik, pengujian hipotesis (Uji F dan Uji t), hingga evaluasi outlier menggunakan Influence Plot dan Uji Bonferroni.
Dapat mengembangkan kemampuan dalam mengolah data sekunder, menginterpretasikan model regresi, serta mendeteksi pengamatan pencilan atau berpengaruh secara sistematis.
Bagi pembaca
Dapat menambah pengetahuan dan pemahaman tentang penerapan pengujian asumsi klasik, signifikansi parameter, serta evaluasi diagnostik model regresi dengan menggunakan program R.
Menjadikan laporan ini sebagai sumber rujukan dan referensi untuk penelitian selanjutnya yang menggunakan analisis regresi linier berganda.
Adapun batasan masalah yang digunakan pada praktikum ini adalah model regresi, dan pengujian asumsi klasik untuk mengevaluasi kelayakan model yang terbentuk. Pengujian hipotesis dilakukan menggunakan Uji F untuk mengetahui signifikansi model secara simultan dan Uji t untuk mengetahui pengaruh masing-masing variabel independen secara parsial terhadap variabel dependen. Selain itu, analisis dibatasi pada identifikasi pengamatan yang berpotensi menjadi outlier menggunakan Influence Plot serta pengujian lebih lanjut menggunakan Uji Bonferroni. Dan disusun menggunakan program R di dalam R Markdown.
Adapun sistematika penulisan dari praktikum ini adalah:
BAB I PENDAHULUAN
Bab ini merupakan bab yang memuat latar belakang, rumusan masalah, tujuan penelitian, manfaat penelitian, batasan masalah dan sistematika penulisan.
BAB II TINJAUAN PUSTAKA
Bab ini merupakan bab yang memuat pengertian dan teori yang diperlukan untuk rancangan penelitian pada bab-bab berikutnya.
BAB III METODE PENELITIAN
Bab ini merupakan bab yang memuat jenis dan sumber data, variabel penelitian, analisis data, dan diagram alir yang diperlukan pada bab-bab berikutnya.
BAB IV HASIL DAN PEMBAHASAN
Bab ini merupakan bab yang memuat hasil dan pembahasan yang telah dibuat pada laman, kemudian diinterpretasikan untuk rancangan penelitian pada bab-bab berikutnya.
BAB V KESIMPULAN DAN SARAN
Bab ini merupakan bab yang memuat kesimpulan dan saran dari penelitian yang telah dilakukan.
DAFTAR PUSTAKA
LAMPIRAN
Analisis regresi linier berganda merupakan metode statistika yang digunakan untuk menganalisis hubungan antara satu variabel terikat atau response (\(Y\)) dengan dua atau lebih variabel bebas atau predictor (\(X_1, X_2, \dots, X_k\)). Metode ini bertujuan untuk mengetahui arah dan besarnya pengaruh masing-masing variabel bebas terhadap variabel terikat dengan tetap mempertimbangkan keberadaan variabel bebas lainnya dalam model, serta memprediksi nilai variabel terikat berdasarkan nilai variabel-variabel bebasnya.
Secara umum, model regresi linier berganda untuk \(n\) pengamatan dan \(k\) variabel bebas dituliskan sebagai berikut:
\[Y_i = \beta_0 + \beta_1 X_{i1} + \beta_2 X_{i2} + \dots + \beta_k X_{ik} + \varepsilon_i, \quad i = 1, 2, \dots, n\]
Keterangan:
Pendugaan parameter \(\beta_0, \beta_1, \dots, \beta_k\) umumnya dilakukan menggunakan metode Ordinary Least Squares (OLS), yaitu dengan meminimumkan jumlah kuadrat galat (\(\sum_{i=1}^{n} \varepsilon_i^2\)).
Uji asumsi klasik merupakan serangkaian pengujian yang dilakukan untuk mengetahui apakah model regresi linier berganda telah memenuhi asumsi-asumsi dasar dalam analisis regresi. Pengujian ini bertujuan agar model regresi yang diperoleh dapat menghasilkan estimasi yang baik, tidak bias, dan dapat digunakan untuk menjelaskan hubungan antara variabel independen dengan variabel dependen. Uji asumsi klasik umumnya meliputi uji normalitas, uji multikolinearitas, uji heteroskedastisitas, dan uji autokorelasi.
Asumsi normalitas menyatakan bahwa galat (\(\varepsilon_i\)) menyebar mengikuti distribusi normal dengan nilai harapan nol dan variansi konstan, yakni \(\varepsilon_i \sim N(0, \sigma^2)\). Pemeriksaan normalitas galat dapat dilakukan secara grafis melalui Normal Q-Q Plot (melihat kedekatan sebaran titik residual terhadap garis diagonal) maupun melalui pengujian formal seperti Uji Shapiro-Wilk dengan statistik uji:
\[W = \frac{\left(\sum_{i=1}^{n} a_i e_{(i)}\right)^2}{\sum_{i=1}^{n} (e_i - \bar{e})^2}\]
dengan \(e_{(i)}\) merupakan nilai residual terurut ke-\(i\) dan \(a_i\) adalah konstanta pembobot Shapiro-Wilk. Jika nilai \(p\text{-value} > \alpha\), maka asumsi normalitas galat terpenuhi.
Multikolinearitas adalah kondisi adanya korelasi linear yang kuat antarvariabel bebas di dalam model regresi. Keberadaan multikolinearitas dapat menyebabkan variansi penduga koefisien regresi membengkak sehingga estimasi menjadi tidak stabil dan sulit diinterpretasikan. Deteksi multikolinearitas dilakukan melalui matriks korelasi antarvariabel bebas serta nilai Variance Inflation Factor (\(\text{VIF}\)) dan Tolerance (\(\text{TOL}\)):
\[\text{VIF}_j = \frac{1}{1 - R_j^2} = \frac{1}{\text{TOL}_j}\]
di mana \(R_j^2\) merupakan koefisien determinasi dari regresi variabel bebas \(X_j\) terhadap variabel bebas lainnya. Apabila nilai \(\text{VIF}_j < 10\), maka model dinyatakan terbebas dari masalah multikolinearitas.
Asumsi homoskedastisitas mensyaratkan bahwa variansi galat bersifat konstan pada setiap pengamatan (\(\text{Var}(\varepsilon_i) = \sigma^2\)). Apabila variansi galat tidak konstan antarobservasi, maka terjadi gejala heteroskedastisitas yang mengakibatkan penduga OLS tidak lagi efisien (tidak memiliki variansi minimum). Pengujian formal dapat dilakukan menggunakan Uji Breusch-Pagan dengan statistik uji:
\[BP = n R_{\text{aux}}^2 \sim \chi^2_{(k)}\]
di mana \(R_{\text{aux}}^2\) adalah koefisien determinasi dari regresi kuadrat residual terstandarisasi terhadap variabel-variabel bebas. Apabila \(p\text{-value} > \alpha\), maka variansi galat bersifat homoskedastis.
Asumsi non-autokorelasi menyatakan bahwa galat pada satu pengamatan tidak berkorelasi dengan galat pada pengamatan lainnya (\(\text{Cov}(\varepsilon_i, \varepsilon_j) = 0\) untuk \(i \neq j\)). Pengujian autokorelasi umumnya dilakukan menggunakan Uji Durbin-Watson dengan statistik uji:
\[DW = \frac{\sum_{t=2}^{n} (e_t - e_{t-1})^2}{\sum_{t=1}^{n} e_t^2}\]
Nilai \(DW\) yang mendekati angka \(2\) (atau memiliki nilai \(p\text{-value} > \alpha\)) mengindikasikan bahwa tidak terdapat korelasi antar-residual dalam model.
Pengujian hipotesis dilakukan untuk mengevaluasi keberartian pengaruh variabel bebas terhadap variabel terikat, baik secara bersama-sama (simultan) maupun secara individu (parsial).
Uji F digunakan untuk menguji apakah seluruh variabel bebas dalam model secara simultan berpengaruh signifikan terhadap variabel terikat. Hipotesis yang diuji dirumuskan sebagai berikut:
Statistik uji F dihitung dengan rumus:
\[F_{\text{hitung}} = \frac{\text{SSR} / k}{\text{SSE} / (n - k - 1)} = \frac{R^2 / k}{(1 - R^2) / (n - k - 1)} \sim F_{(\alpha;\, k,\, n-k-1)}\]
Keputusan tolak \(H_0\) diambil apabila \(F_{\text{hitung}} > F_{(\alpha;\, k,\, n-k-1)}\) atau nilai \(p\text{-value} < \alpha\).
Uji t digunakan untuk mengetahui apakah masing-masing variabel bebas ke-\(j\) secara parsial berpengaruh signifikan terhadap variabel terikat dengan menganggap variabel bebas lainnya konstan. Hipotesis dua arah yang diuji adalah:
Statistik uji t dirumuskan sebagai berikut:
\[t_{\text{hitung}} = \frac{\hat{\beta}_j}{\text{SE}(\hat{\beta}_j)} \sim t_{(\alpha/2;\, n-k-1)}\]
di mana \(\hat{\beta}_j\) adalah nilai penduga koefisien regresi ke-\(j\) dan \(\text{SE}(\hat{\beta}_j)\) adalah galat baku (standard error) dari \(\hat{\beta}_j\). Keputusan tolak \(H_0\) diambil apabila \(|t_{\text{hitung}}| > t_{(\alpha/2;\, n-k-1)}\) atau nilai \(p\text{-value} < \alpha\).
Dalam analisis regresi, keberadaan satu atau beberapa pengamatan ekstrem dapat memengaruhi ketepatan estimasi garis regresi. Evaluasi diagnostik dilakukan melalui ukuran berikut:
Nilai Leverage (\(h_{ii}\)): Merupakan elemen diagonal ke-\(i\) dari matriks topi (hat matrix) \(H = X(X^TX)^{-1}X^T\) yang mengukur seberapa jauh nilai variabel bebas suatu observasi menyimpang dari rata-rata prediktor lainnya. Suatu amatan dikategorikan memiliki leverage tinggi apabila \(h_{ii} > \frac{2p}{n}\), dengan \(p = k + 1\) adalah banyaknya parameter dalam model.
Studentized Deleted Residuals (\(r_i\)): Merupakan residual yang telah dibakukan dengan simpangan baku yang dihitung tanpa menyertakan observasi ke-\(i\):
\[ r_i = \frac{e_i}{s_{(i)}\sqrt{1-h_{ii}}} \sim t_{(n-p-1)} \]
Observasi dengan nilai \(|r_i| > 2\) atau \(|r_i| > 3\) mengindikasikan potensi pencilan pada arah variabel respons (\(Y\)).
\[ D_i = \frac{e_i^2}{p \cdot MSE}\left[\frac{h_{ii}}{(1-h_{ii})^2}\right] \]
Observasi dengan nilai \(D_i > 1\) (atau \(D_i > \frac{4}{n}\)) dianggap sebagai amatan berpengaruh (influential observation).
Untuk menguji secara formal apakah suatu pengamatan dengan residual terstudentisasi terbesar merupakan pencilan (outlier) yang signifikan secara statistik tanpa meningkatkan peluang galat Tipe I akibat pengujian berganda pada \(n\) observasi, digunakan Uji Outlier Bonferroni.
Hipotesis pengujian dirumuskan sebagai berikut:
Nilai \(p\text{-value}\) terkoreksi Bonferroni dihitung dengan mengalikan \(p\text{-value}\) dua arah dari distribusi-\(t\) (\(df = n - p - 1\)) dengan banyaknya pengamatan \(n\):
\[p_{\text{Bonferroni}} = \min\left(n \times 2 P\left(T_{(n-p-1)} > |r_{\max}|\right),\; 1\right)\]
Jika \(p_{\text{Bonferroni}} < \alpha\), maka \(H_0\) ditolak dan observasi tersebut dinyatakan sebagai outlier yang signifikan secara statistik.
Jenis data yang digunakan adalah data kuantitatif karena seluruh variabel dinyatakan dalam bentuk angka. Variabel yang digunakan dalam analisis ini terdiri atas variabel dependen (Y), yaitu persentase penduduk miskin, serta variabel independen (X) yang meliputi tingkat pengangguran terbuka (X₁), rata-rata lama sekolah (X₂), dan variabel bebas lainnya sesuai dengan data penelitian. Seluruh variabel tersebut merupakan data kuantitatif yang diperoleh dari sumber data sekunder, yaitu Badan Pusat Statistik (BPS) tahun 2023, dengan jumlah 38 observasi yang mewakili provinsi-provinsi di Indonesia.
Variabel yang digunakan dalam praktikum ini terdiri atas satu variabel dependen dan tiga variabel independen.
| Variabel | Keterangan | Peran |
|---|---|---|
| Y | Persentase total penduduk miskin | Dependen |
| X1 | Tingkat pengangguran terbuka | Independen |
| X2 | Rata-rata lama sekolah | Independen |
| X3 | Pertumbuhan ekonomi | Independen |
Tahapan analisis yang dilakukan menggunakan program R adalah:
Memasukkan dan memeriksa data penelitian.
Melakukan eksplorasi data dan statistik deskriptif.
Membentuk model regresi linear berganda dan mengestimasi parameternya.
Melakukan pengujian asumsi klasik.
Melakukan Uji F dan Uji t.
Mengidentifikasi pengamatan yang berpotensi berpengaruh melalui Influence Plot.
Melakukan pengujian outlier menggunakan Uji Bonferroni.
Menginterpretasikan hasil analisis dan menarik kesimpulan.
Data yang digunakan dalam analisis ini merupakan data sekunder yang bersumber dari Badan Pusat Statistik (BPS) sebanyak \(n = 38\) observasi (provinsi di Indonesia). Variabel yang dianalisis terdiri atas satu variabel dependen, yaitu Persentase Penduduk Miskin (\(Y\)), serta tiga variabel independen, yaitu Tingkat Pengangguran Terbuka (\(X_1\)), Rata-Rata Lama Sekolah (\(X_2\)), dan Pertumbuhan Ekonomi (\(X_3\)).
# Memuat library yang diperlukan
library(car)
library(lmtest)
library(knitr)
# Input data penelitian (n = 38 observasi)
data_regresi <- data.frame(
Y = c(14.23, 7.99, 5.97, 6.67, 7.10, 10.97, 13.56, 10.69, 4.55, 5.37,
4.30, 7.46, 10.47, 10.83, 9.79, 5.84, 4.00, 12.91, 19.48, 6.32,
5.17, 4.11, 5.78, 6.32, 7.25, 11.77, 8.06, 11.21, 14.57, 11.21,
16.05, 6.32, 21.66, 18.13, 17.26, 17.44, 29.76, 32.97),
X1 = c(5.75, 5.60, 5.75, 3.70, 4.48, 3.86, 3.11, 4.19, 4.63, 6.39,
6.21, 6.75, 4.78, 3.48, 4.19, 6.68, 1.79, 2.73, 3.02, 4.86,
4.01, 4.20, 5.14, 3.90, 5.85, 2.94, 4.19, 3.09, 3.13, 2.68,
6.11, 4.03, 4.13, 6.48, 6.48, 4.05, 2.75, 1.32),
X2 = c(9.64, 9.93, 9.44, 9.43, 8.90, 8.57, 9.04, 8.36, 8.33, 10.50,
11.49, 8.87, 8.02, 9.92, 8.28, 9.23, 9.54, 7.87, 8.02, 7.78,
8.81, 8.62, 10.02, 9.35, 9.84, 9.04, 8.86, 9.42, 8.29, 8.15,
10.26, 9.37, 7.86, 8.39, 9.82, 8.38, 6.12, 4.21),
X3 = c(4.66, 5.03, 4.37, 3.52, 4.50, 5.03, 4.62, 4.57, 0.77, 5.02,
4.91, 4.95, 4.95, 5.03, 4.93, 4.79, 5.48, 5.30, 3.87, 4.90,
4.46, 5.06, 6.17, 4.73, 5.39, 9.89, 5.02, 5.40, 4.13, 4.76,
5.34, 13.92, 20.80, 3.60, 4.11, 5.09, 4.36, 4.75)
)
# Eksplorasi struktur dan kelengkapan data
str(data_regresi)
'data.frame': 38 obs. of 4 variables:
$ Y : num 14.23 7.99 5.97 6.67 7.1 ...
$ X1: num 5.75 5.6 5.75 3.7 4.48 3.86 3.11 4.19 4.63 6.39 ...
$ X2: num 9.64 9.93 9.44 9.43 8.9 8.57 9.04 8.36 8.33 10.5 ...
$ X3: num 4.66 5.03 4.37 3.52 4.5 5.03 4.62 4.57 0.77 5.02 ...
sum(is.na(data_regresi))
[1] 0
# Eksplorasi hubungan awal antarvariabel melalui matriks diagram pencar (Scatterplot Matrix)
pairs(data_regresi,
main = "Matriks Scatterplot Variabel Y, X1, X2, dan X3",
pch = 19, col = "steelblue")
Berdasarkan pemeriksaan struktur data, seluruh 38 observasi bertipe numerik dan tidak ditemukan nilai hilang (missing value). Melalui matriks scatterplot, terlihat bahwa variabel Rata-Rata Lama Sekolah (\(X_2\)) memiliki kecenderungan hubungan linear negatif yang cukup jelas terhadap Persentase Penduduk Miskin (\(Y\)), sedangkan pola hubungan \(X_1\) dan \(X_3\) terhadap \(Y\) tampak lebih menyebar.
Analisis statistik deskriptif dilakukan untuk memperoleh gambaran mengenai pemusatan dan penyebaran data pada masing-masing variabel penelitian.
# Menghitung statistik deskriptif
summary(data_regresi)
Y X1 X2 X3
Min. : 4.00 Min. :1.320 Min. : 4.210 Min. : 0.770
1st Qu.: 6.32 1st Qu.:3.217 1st Qu.: 8.300 1st Qu.: 4.518
Median :10.13 Median :4.190 Median : 8.885 Median : 4.920
Mean :11.15 Mean :4.380 Mean : 8.841 Mean : 5.478
3rd Qu.:14.06 3rd Qu.:5.713 3rd Qu.: 9.515 3rd Qu.: 5.082
Max. :32.97 Max. :6.750 Max. :11.490 Max. :20.800
| Statistik | Persentase Penduduk Miskin (\(Y\)) | Tingkat Pengangguran Terbuka (\(X_1\)) | Rata-Rata Lama Sekolah (\(X_2\)) | Pertumbuhan Ekonomi (\(X_3\)) |
|---|---|---|---|---|
| Minimum | 4,00 | 1,320 | 4,210 | 0,770 |
| Kuartil 1 (Q1) | 6,32 | 3,217 | 8,300 | 4,518 |
| Median | 10,13 | 4,190 | 8,885 | 4,920 |
| Mean | 11,15 | 4,380 | 8,841 | 5,478 |
| Kuartil 3 (Q3) | 14,06 | 5,713 | 9,515 | 5,082 |
| Maksimum | 32,97 | 6,750 | 11,490 | 20,800 |
Berdasarkan hasil statistik deskriptif di atas, dapat diinterpretasikan sebagai berikut:
Estimasi parameter model regresi linier berganda dilakukan
menggunakan metode Ordinary Least Squares (OLS) melalui fungsi
lm() pada perangkat lunak R.
# Pembentukan model regresi linier berganda
model_regresi <- lm(Y ~ X1 + X2 + X3, data = data_regresi)
summary(model_regresi)
Call:
lm(formula = Y ~ X1 + X2 + X3, data = data_regresi)
Residuals:
Min 1Q Median 3Q Max
-9.051 -3.439 -1.040 3.742 10.006
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 43.2451 6.2278 6.944 5.27e-08 ***
X1 0.3460 0.7101 0.487 0.629
X2 -3.9885 0.8145 -4.897 2.33e-05 ***
X3 0.3009 0.2604 1.156 0.256
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 5.005 on 34 degrees of freedom
Multiple R-squared: 0.4942, Adjusted R-squared: 0.4496
F-statistic: 11.07 on 3 and 34 DF, p-value: 3.189e-05
| Parameter / Variabel | Estimate | Std. Error | \(t_{\text{hitung}}\) | \(p\text{-value}\) |
|---|---|---|---|---|
| (Intercept) | 43,2451 | 6,2278 | 6,944 | \(5,27 \times 10^{-8}\) |
| \(X_1\) (TPT) | 0,3460 | 0,7101 | 0,487 | 0,629 |
| \(X_2\) (RLS) | -3,9885 | 0,8145 | -4,897 | \(2,33 \times 10^{-5}\) |
| \(X_3\) (Pertumbuhan Ekonomi) | 0,3009 | 0,2604 | 1,156 | 0,256 |
Berdasarkan hasil estimasi pada tabel di atas, diperoleh persamaan model regresi linier berganda sebagai berikut:
\[\hat{Y} = 43,2451 + 0,3460X_1 - 3,9885X_2 + 0,3009X_3\]
Interpretasi Model:
Agar estimator OLS bersifat Best Linear Unbiased Estimator (BLUE), model regresi harus memenuhi keempat asumsi klasik berikut:
# 1. Uji Normalitas Residual (Shapiro-Wilk & Q-Q Plot)
shapiro.test(residuals(model_regresi))
Shapiro-Wilk normality test
data: residuals(model_regresi)
W = 0.97442, p-value = 0.5238
qqPlot(model_regresi, main = "Normal Q-Q Plot Residual")
[1] 31 35
# 2. Uji Multikolinearitas (Korelasi & VIF)
cor(data_regresi[, c("X1", "X2", "X3")])
X1 X2 X3
X1 1.00000000 0.5670752 -0.09412602
X2 0.56707518 1.0000000 -0.01754150
X3 -0.09412602 -0.0175415 1.00000000
vif(model_regresi)
X1 X2 X3
1.489564 1.476821 1.010869
# 3. Uji Heteroskedastisitas (Breusch-Pagan Test)
bptest(model_regresi)
studentized Breusch-Pagan test
data: model_regresi
BP = 5.336, df = 3, p-value = 0.1488
# 4. Uji Autokorelasi (Durbin-Watson Test)
dwtest(model_regresi)
Durbin-Watson test
data: model_regresi
DW = 1.55, p-value = 0.05652
alternative hypothesis: true autocorrelation is greater than 0
Deteksi multikolinearitas dilakukan dengan memeriksa nilai Variance Inflation Factor (\(\text{VIF}\)) pada masing-masing variabel independen:
Karena seluruh variabel independen memiliki nilai \(\text{VIF} < 10\) (bahkan seluruhnya berada di bawah angka 2), maka dapat disimpulkan bahwa tidak terdapat gejala multikolinearitas antarvariabel independen dalam model.
# Ringkasan uji simultan (F) dan parsial (t)
anova(model_regresi)
Analysis of Variance Table
Response: Y
Df Sum Sq Mean Sq F value Pr(>F)
X1 1 209.18 209.18 8.3494 0.006672 **
X2 1 589.62 589.62 23.5347 2.676e-05 ***
X3 1 33.46 33.46 1.3355 0.255885
Residuals 34 851.82 25.05
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
summary(model_regresi)$coefficients
Estimate Std. Error t value Pr(>|t|)
(Intercept) 43.2451390 6.2277955 6.9438919 5.265963e-08
X1 0.3459816 0.7101405 0.4872017 6.292419e-01
X2 -3.9884667 0.8144506 -4.8971251 2.334228e-05
X3 0.3009327 0.2604035 1.1556397 2.558853e-01
Pengujian parsial dilakukan dengan taraf signifikansi \(\alpha = 0,05\) (\(df = n - k - 1 = 34\)) dengan kriteria tolak \(H_0: \beta_j = 0\) apabila \(p\text{-value} < \alpha\):
Evaluasi model lanjutan dilakukan untuk mendeteksi keberadaan amatan
pencilan (outlier), amatan berdaya ungkit tinggi (high
leverage), dan amatan berpengaruh (influential
observations) menggunakan Influence Plot serta Uji Outlier
Bonferroni melalui paket car.
# 1. Identifikasi visual menggunakan Influence Plot
influencePlot(model_regresi,
id = list(method = "noteworthy", n = 3),
main = "Influence Plot Model Regresi",
sub = "Ukuran lingkaran proporsional terhadap Cook's Distance")
StudRes Hat CookD
31 2.1920516 0.07532361 0.08800585
32 -1.1729820 0.22614516 0.09942040
33 0.7367512 0.68737218 0.30243051
35 2.1335951 0.08828019 0.09977209
37 1.9703268 0.16342098 0.17477511
38 1.2161892 0.41331604 0.25688761
# 2. Pengujian formal outlier menggunakan Uji Bonferroni
outlierTest(model_regresi)
No Studentized residuals with Bonferroni p < 0.05
Largest |rstudent|:
rstudent unadjusted p-value Bonferroni p
31 2.192052 0.035536 NA
# Menampilkan nilai diagnostik amatan yang terdeteksi mencolok
diagnostik <- data.frame(
Observasi = 1:nrow(data_regresi),
Studentized_Resid = rstudent(model_regresi),
Hat_Values = hatvalues(model_regresi),
Cooks_Distance = cooks.distance(model_regresi)
)
kable(diagnostik[c(31, 33, 35, 37, 38), ], digits = 4, row.names = FALSE,
caption = "Ringkasan Nilai Diagnostik Amatan Menonjol")
| Observasi | Studentized_Resid | Hat_Values | Cooks_Distance |
|---|---|---|---|
| 31 | 2.1921 | 0.0753 | 0.0880 |
| 33 | 0.7368 | 0.6874 | 0.3024 |
| 35 | 2.1336 | 0.0883 | 0.0998 |
| 37 | 1.9703 | 0.1634 | 0.1748 |
| 38 | 1.2162 | 0.4133 | 0.2569 |
Influence Plot memetakan Studentized Residuals pada sumbu vertikal, nilai Hat-Values (Leverage) pada sumbu horizontal, dan Cook’s Distance sebagai ukuran luas lingkaran pada setiap observasi:
Pengujian formal dilakukan menggunakan fungsi
outlierTest() berdasarkan distribusi-\(t\) dengan koreksi Bonferroni:
Berdasarkan praktikum yang telah dilakukan, dapat disimpulkan bahwa analisis regresi linear berganda merupakan metode statistika yang digunakan untuk mengetahui hubungan antara satu variabel dependen dengan beberapa variabel independen. Dalam praktikum ini, variabel dependen yang digunakan adalah persentase penduduk miskin (Y), sedangkan variabel independennya meliputi tingkat pengangguran terbuka (X1), rata-rata lama sekolah (X2), dan pertumbuhan ekonomi (X3). Analisis dilakukan melalui beberapa tahapan, yaitu eksplorasi data, analisis statistik deskriptif, pembentukan model regresi, pengujian asumsi klasik, serta pengujian hipotesis menggunakan Uji F dan Uji t. Selain itu, identifikasi pengamatan yang berpotensi menjadi pencilan (outlier) dilakukan menggunakan Influence Plot dan Uji Bonferroni. Melalui tahapan tersebut, dapat dipahami proses penerapan regresi linear berganda menggunakan program R serta pentingnya pemeriksaan asumsi dan keberadaan pencilan dalam mengevaluasi model regresi.
Dalam melakukan analisis regresi linear berganda, praktikan diharapkan lebih teliti dalam memasukkan data, menentukan variabel, serta menyusun sintaks pada program R agar proses pengolahan data dapat berjalan dengan baik. Selain itu, pemahaman terhadap setiap tahapan analisis perlu ditingkatkan, khususnya dalam melakukan pengujian asumsi klasik dan pengujian hipotesis agar hasil yang diperoleh dapat diinterpretasikan secara tepat. Identifikasi pencilan (outlier) juga perlu dilakukan secara cermat dengan mempertimbangkan hasil visualisasi dan pengujian statistik. Dengan demikian, praktikan dapat memperoleh pemahaman yang lebih baik mengenai penerapan metode regresi linear berganda dan mampu menarik kesimpulan berdasarkan hasil analisis yang diperoleh.
Loleh, L. P. S., Wungguli, D., Payu, M. R. F., & Nashar, L. O. (2025). Pemodelan regresi robust dengan estimasi Generalized-M untuk penanganan outlier pada kasus kusta di Indonesia. Griya Journal of Mathematics Education and Application, 5(3).
Marlina, N., & Hajarisman, N. (2024). Deteksi pencilan pada model regresi beta dalam kasus kemiskinan perdesaan di Indonesia tahun 2022. Bandung Conference Series: Statistics, 4(2).
Ningrum, C. S., & Rahardjo, S. (2022). Kajian penaksiran parameter regresi robust untuk data outlier (pencilan) dengan estimasi-MM. Jurnal MIPA dan Pembelajarannya, 2(10), 10.
Rini, D. S. (2026). Modul praktikum pengantar analisis regresi. Universitas Bengkulu.
Sihombing, P. R., Suryadiningrat, S., Sunarjo, D. A., & Yuda, Y. P. A. C. (2023). Identifikasi data outlier (pencilan) dan kenormalan data pada data univariat serta alternatif penyelesaiannya. Jurnal Ekonomi dan Statistik Indonesia, 2(3), 307–316.