Library:
> # install.packages("knitr")
> # install.packages("rmarkdown")
> # install.packages("prettydoc")
> # install.packages("equatiomatic")1 PENDAHULUAN
1.1 Latar Belakang
Regresi linier berganda adalah suatu metode statistik yang digunakan untuk memprediksi nilai variabel dependen berdasarkan nilai variabel independen yang lebih dari satu. Dalam analisis regresi linier berganda, kita berusaha untuk menemukan hubungan antara beberapa variabel independen dengan variabel dependen, sehingga kita dapat memprediksi nilai variabel dependen berdasarkan nilai variabel independen. # TINJAUAN PUSTAKA
1.2 Statistika Deskriptif
Statistika deskriptif adalah cabang ilmu statistik yang berfokus pada pengumpulan, pengorganisasian, penyajian, dan analisis data untuk memberikan gambaran yang jelas dan ringkas tentang suatu kumpulan data. Tujuan utama statistika deskriptif adalah untuk:
- Mendeskripsikan karakteristik data: Statistika deskriptif membantu memahami sifat dan ciri-ciri data, seperti rata-rata, median, modus, standar deviasi, dan sebagainya.
- Memudahkan interpretasi data: Data yang disajikan secara deskriptif, seperti dalam bentuk tabel, grafik, atau diagram, lebih mudah dipahami dan diinterpretasikan dibandingkan dengan data mentah.
- Membantu dalam pengambilan keputusan: Informasi yang diperoleh dari statistika deskriptif dapat membantu dalam pengambilan keputusan yang lebih tepat dan terarah.
1.3 Regresi Linier Berganda
Analisis regresi linier berganda adalah teknik statistik yang digunakan untuk memodelkan hubungan antara satu variabel dependen dengan dua atau lebih variabel independen. Teknik ini merupakan perluasan dari analisis regresi sederhana, yang hanya melibatkan satu variabel dependen dan satu variabel independen. Regresi linier berganda sangat berguna dalam berbagai bidang seperti ekonomi, sosiologi, psikologi, dan ilmu data untuk memahami dan memprediksi hubungan antara variabel. Dalam analisis regresi linier berganda, kita menggunakan model regresi linier berganda yang berbentuk sebagai berikut: \[ Y = \beta_0 + \beta_1X_1 + \beta_2X_2 + ... + \beta_kX_k + \epsilon \] Di mana:
- \(Y\) adalah variabel dependen.
- \(X_1, X_2, ..., X_k\) adalah variabel independen.
- \(\beta_0\) adalah intercept.
- \(\beta_1, \beta_2, ..., \beta_k\) adalah koefisien regresi.
- \(\epsilon\) adalah error term atau residual.
1.4 Uji Hipotesis
1.4.1 Uji Simultan
Uji F digunakan untuk menentukan apakah model regresi secara keseluruhan signifikan. Hipotesis nol (H0) menyatakan bahwa semua koefisien regresi sama dengan nol, yang berarti tidak ada hubungan linier antara variabel independen dan variabel dependen.
- H0: β1 = β2 = … = βk = 0
- H1: Setidaknya ada satu βi ≠ 0
Jika p-value lebih kecil dari tingkat signifikansi maka H0 ditolak, yang berarti model regresi signifikan secara keseluruhan.
1.4.2 Uji Parsial
Uji t dilakukan untuk menentukan apakah koefisien regresi dari setiap variabel independen secara signifikan berbeda dari nol. Hipotesis nol (H0) menyatakan bahwa koefisien regresi sama dengan nol, yang berarti variabel independen tidak memiliki pengaruh signifikan terhadap variabel dependen.
- H0: βi = 0
- H1: βi ≠ 0
Jika p-value lebih kecil dari tingkat signifikansi maka H0 ditolak, yang berarti koefisien regresi signifikan.
1.5 Koefisien Determinasi
Koefisien determinasi, sering disebut sebagai R-squared (R²), adalah ukuran statistik yang digunakan dalam analisis regresi untuk menilai seberapa baik model regresi memprediksi nilai variabel dependen. Koefisien determinasi memberikan informasi mengenai proporsi variabilitas dalam data yang dapat dijelaskan oleh variabel independen dalam model. Rumus untuk R² adalah: \[ R^2 = 1 - \frac{SSE}{SST} \] di mana:
- SSE adalah jumlah kuadrat residual (Sum of Squares for Error).
- SST adalah total jumlah kuadrat (Total Sum of Squares).
R² memiliki nilai antara 0 dan 1. Nilai yang mendekati 1 menunjukkan bahwa model regresi sangat baik dalam menjelaskan variabilitas data, sedangkan nilai yang mendekati 0 menunjukkan bahwa model kurang baik dalam menjelaskan variabilitas data.
1.6 Uji Asumsi Klasik
Dalam analisis regresi linier, terdapat empat asumsi klasik yang harus dipenuhi agar model regresi yang dihasilkan dapat dianggap valid .
1.6.1 Asumsi Normalitas
Asumsi normalitas dalam analisis regresi berganda menyatakan bahwa residual atau galat dalam model regresi harus berdistribusi normal. Uji normalitas digunakan untuk memastikan bahwa model regresi memiliki galat berdistribusi normal, karena jika tidak, hasil uji statistik akan menurun. Uji normalitas dapat dilakukan dengan menggunakan Uji One Sample Kolmogorov-Smirnov.
- H0: Galat berdistribusi normal
- H1: Galat tidak berdistribusi normal
Jika p-value lebih besar dari tingkat signifikansi maka H0 diterima, yang berarti asumsi normalitas terpenuhi.
1.6.2 Asumsi Homoskedastisitas
Asumsi homoskedastisitas dalam analisis regresi berganda adalah bahwa variansi residual harus sama untuk setiap level variabel independen. Uji homoskedastisitas dilakukan untuk memastikan bahwa model regresi memiliki variansi residual yang konstan. Uji homoskedastisitas dapat dilakukan dengan menggunakan Uji Breusch-Pagan.
- H0: Ragam konstan
- H1: Ragam tidak konstan
Jika p-value lebih besar dari tingkat signifikansi maka H0 diterima, yang berarti asumsi homoskedastisitas terpenuhi.
1.6.3 Asumsi Non Autokorelasi
Asumsi non autokorelasi dalam analisis regresi berganda menyatakan bahwa residual tidak memiliki korelasi dengan nilai sebelumnya. Uji autokorelasi dilakukan untuk memastikan bahwa model regresi memiliki residual yang random. Uji autokorelasi dapat dilakukan dengan menggunakan Uji Durbin-Watson.
- H0: Tidak terjadi autokorelasi
- H1: Terjadi autokorelasi
Jika p-value lebih besar dari tingkat signifikansi maka H0 diterima, yang berarti asumsi non autokorelasi terpenuhi.
1.6.4 Asumsi Non Multikolinearitas
Asumsi non multikolinearitas dalam analisis regresi berganda adalah bahwa tidak ada korelasi yang tinggi antar variabel independen. Uji multikolinearitas dilakukan untuk memastikan bahwa model regresi tidak memiliki korelasi tinggi antar variabel independen, karena hal ini dapat menyebabkan model regresi tidak akurat. Uji multikolinearitas dapat dilakukan dengan menggunakan Variance Inflation Factor (VIF). Jika VIF > 10 atau Tolerance < 0,1, maka ada indikasi multikolinearitas yang tinggi.
2 DATA
Data yang digunakan dalam analisis ini berasal dari dataset “Multiple Linear Regression Dataset” yang tersedia di Kaggle. Dataset ini mencakup informasi mengenai berbagai faktor yang mempengaruhi penghasilan individu, dengan fokus khusus pada variabel umur dan pengalaman kerja. Setiap entri dalam dataset memuat informasi demografis dan profesional, termasuk umur (age), jumlah tahun pengalaman kerja (years of experience), dan penghasilan tahunan (annual income).
3 SOURCE CODE
3.1 Library
3.2 Data
> # Input Data
> data <- read_csv("D:/data.csv")
> data
# A tibble: 20 × 3
X1 X2 Y
<dbl> <dbl> <dbl>
1 25 1 30450
2 30 3 35670
3 47 2 31580
4 32 5 40130
5 43 10 47830
6 51 7 41630
7 28 5 41340
8 33 4 37650
9 37 5 40250
10 39 8 45150
11 29 1 27840
12 47 9 46110
13 54 5 36720
14 51 4 34800
15 44 12 51300
16 41 6 38900
17 58 17 63600
18 23 1 30870
19 44 9 44190
20 37 10 487003.3 Statistika Deskriptif
3.4 Analisis Regresi Berganda
> # Analisis Regresi Berganda
> y <- data$Y
> x1 <- data$X1
> x2 <- data$X2
> regresi <- lm(y~x1+x2, data = data)
> summary(regresi)
Call:
lm(formula = y ~ x1 + x2, data = data)
Residuals:
Min 1Q Median 3Q Max
-2707.43 -584.21 25.85 925.75 2043.76
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 31261.69 1306.44 23.929 1.57e-14 ***
x1 -99.20 38.98 -2.545 0.0209 *
x2 2162.40 94.77 22.817 3.44e-14 ***
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 1343 on 17 degrees of freedom
Multiple R-squared: 0.9773, Adjusted R-squared: 0.9747
F-statistic: 366.5 on 2 and 17 DF, p-value: 1.048e-143.5 Uji Asumsi Klasik
> # (1) Asumsi Normalitas
> shapiro.test(regresi$residuals)
Shapiro-Wilk normality test
data: regresi$residuals
W = 0.97679, p-value = 0.8862
>
> # (2) Asumsi Homoskedastisitas
> bptest(regresi)
studentized Breusch-Pagan test
data: regresi
BP = 1.6658, df = 2, p-value = 0.4348
>
> #(3) Asumsi Non Autokorelasi
> dwtest(regresi)
Durbin-Watson test
data: regresi
DW = 1.6277, p-value = 0.1937
alternative hypothesis: true autocorrelation is greater than 0
>
> #(4) Asumsi Non Multikolinearitas
> vif(regresi)
x1 x2
1.608825 1.608825 4 HASIL DAN PEMBAHASAN
4.1 Statistika Deskriptif
> summary(data)
X1 X2 Y
Min. :23.00 Min. : 1.00 Min. :27840
1st Qu.:31.50 1st Qu.: 3.75 1st Qu.:35453
Median :40.00 Median : 5.00 Median :40190
Mean :39.65 Mean : 6.20 Mean :40736
3rd Qu.:47.00 3rd Qu.: 9.00 3rd Qu.:45390
Max. :58.00 Max. :17.00 Max. :63600 Berdasarkan Data yang digunakan, diperoleh nilai rataan sebesar:
\[ \mu_{X_1} = 39.65\\ \mu_{X_2} = 6.20\\ \mu_{Y} = 40736 \]
4.2 Model Regresi Berganda
> regresi
Call:
lm(formula = y ~ x1 + x2, data = data)
Coefficients:
(Intercept) x1 x2
31261.7 -99.2 2162.4 Berdasarkan hasil analisis regresi linier berganda dengan data tersebut didapatkan persamaan regresi sebagai berikut \[ Y=31261.69-99.2X_1+2162.4X_2 \]
4.3 Uji Hipotesis
> summary(regresi)
Call:
lm(formula = y ~ x1 + x2, data = data)
Residuals:
Min 1Q Median 3Q Max
-2707.43 -584.21 25.85 925.75 2043.76
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 31261.69 1306.44 23.929 1.57e-14 ***
x1 -99.20 38.98 -2.545 0.0209 *
x2 2162.40 94.77 22.817 3.44e-14 ***
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 1343 on 17 degrees of freedom
Multiple R-squared: 0.9773, Adjusted R-squared: 0.9747
F-statistic: 366.5 on 2 and 17 DF, p-value: 1.048e-14- Uji Simultan Berdasarkan output dari Rstudio di atas, didapatkan p-value dari uji F sebesar 1.048e-14 artinya p-value bernilai kurang dari taraf signifikansi(0.05). Dapat disimpulkan bahwa terdapat pengaruh yang signifikan keseluruhan diantara umur (X1) dan jumlah tahun pengalaman kerja (X2) terhadap penghasilan tahunan (Y).
- Uji Parsial Berdasarkan output dari Rstudio di atas, didapatkan p-value dari masing-masing variabel penelitian. P-value dari umur (X1) sebesar 0.0209 dan p-value dari jumlah tahun pengalaman kerja (X2) sebesar 3.44e-14. P-value untuk umur dan pengalaman kerja semuanya lebih kecil dari 0.05, yang berarti koefisien regresi masing-masing variabel signifikan pada tingkat signifikansi 5%.
4.4 Koefisien Determinasi
Nilai koefisien determinasi adalah sebesar 0.9773 menunjukkan bahwa 97.73% variasi dalam penghasilan tahunan dapat dijelaskan oleh variasi dalam umur dan pengalaman kerja.
4.5 Uji Asumsi Klasik
4.5.1 Uji Asumsi Normalitas
> shapiro.test(regresi$residuals)
Shapiro-Wilk normality test
data: regresi$residuals
W = 0.97679, p-value = 0.8862Berdasarkan hasil di atas, didapatkan nilai p-value (0.8862) lebih dari alpha (0.05) maka asumsi normalitas terpenuhi.
4.5.2 Uji Asumsi Homoskedastisitas
> bptest(regresi)
studentized Breusch-Pagan test
data: regresi
BP = 1.6658, df = 2, p-value = 0.4348Berdasarkan hasil di atas, didapatkan nilai p-value (0.4348) lebih dari alpha (0.05) maka asumsi homoskedastisitas terpenuhi.
4.5.3 Uji Asumsi Non Autokorelasi
> dwtest(regresi)
Durbin-Watson test
data: regresi
DW = 1.6277, p-value = 0.1937
alternative hypothesis: true autocorrelation is greater than 0Berdasarkan hasil di atas, didapatkan nilai p-value (0.1937) lebih dari alpha (0.05) maka asumsi non autokorelasi terpenuhi.
5 KESIMPULAN
Berdasarkan hasil penelitian, dapat disimpulkan bahwa:
- Model regresi linier berganda yang didapatkan adalah sebagai berikut. \[ Y=31261.69-99.2X_1+2162.4X_2 \]
- Dari hasil uji F (simultan) dan uji t (parsial), dapat disimpulkan bahwa variabel umur (X1) dan jumlah tahun pengalaman kerja (X2) berpengaruh secara signifikan terhadap penghasilan tahunan (Y) secara parsial maupun simultan.
- Model regresi linier sederhana yang dihasilkan telah sesuai dan memenuhi syarat asumsi klasik. Oleh karena itu, model ini dapat dianggap sebagai model yang baik untuk digunakan dalam memprediksi pengaruh umur dan jumlah tahun pengalaman kerja terhadap pendapatan tahunan.
6 DAFTAR PUSTAKA
Walpole, R. E. (1982). Pengantar Statistika. PT Gramedia Pustaka Utama.
Mardiatmoko, G. (2020). Pentingnya uji asumsi klasik pada analisis regresi linier berganda (studi kasus penyusunan persamaan allometrik kenari muda [canarium indicum l.]). BAREKENG: Jurnal Ilmu Matematika Dan Terapan, 14(3), 333-342.
Yuliara, I. M. (2016). Regresi linier berganda. Denpasar: Universitas Udayana.