Library:
> # install.packages("knitr")
> # install.packages("rmarkdown")
> # install.packages("prettydoc")
> # install.packages("equatiomatic")
Penggunaan ilmu statistika dalam pengolahan data penelitian mempengaruhi tingkat analisis hasil penelitian.Penelitian dalam berbagai bidang keilmuan yang menggunakan komputasi statistik dapat menghasilkan sebagian besar data yang akurat jika teknik analisis data yang digunakan diperhatikan dengan cermat.
Uji regresi dapat digunakan untuk memprediksi dan mengukur besarnya pengaruh satu atau lebih variabel independen terhadap variabel respons. Analisis regresi adalah studi tentang hubungan antara suatu variabel dengan satu variabel atau lebih. Analisis regresi sering digunakan untuk menghitung hasil akhir ketika menulis makalah penelitian. Hasil analisis regresi dapat menentukan berhasil atau tidaknya penelitian yang dilakukan.
Regresi linier adalah metode statistika yang digunakan untuk membentuk model hubungan antara variabel terikat (dependen) dengan satu atau lebih variabel bebas (independen). Apabila banyaknya variabel bebas hanya ada satu, disebut sebagai regresi linier sederhana, sedangkan apabila terdapat lebih dari 1 variabel bebas, disebut sebagai regresi linier berganda.
Regresi linier sederhana dalah regresi yang hanya mempertimbangkan satu variabel bebas. Regresi linier sederhana menjelaskan mengenai hubungan antar satu variabel dengan variabel lainnya yang biasanya dinyatakan dalam suatu garis regresi.
Model Regresi Linier Sederhana \[ Y_{i}=\beta_{0} + \beta_{1}x_{i} +\varepsilon_{i} \]
\(Y_i\) = Variabel dependen
\(\beta_i\) = Koefisien regresi
\(X_i\) = Variabel independen
\(\varepsilon_i\) = Sisaan
Regresi Linear Berganda adalah model regresi linear dengan melibatkan lebih dari satu variable bebas atau predictor. Dalam bahasa inggris, istilah ini disebut dengan multiple linear regression. Menurut Sugiyono (2012: 275), analisis regresi berganda digunakan oleh peneliti, bila peneliti bermaksud meramalkan keadaan (naik turunnya) variabel dependen , bila dua atau lebih variabel independen sebagai faktor prediktor dimanipulasi (naik turunnya). Dengan demikian, Regresi Linier Berganda dinyatakan dalam model persamaan matematika sebagai berikut :
Model Regresi Linier Berganda \[ Y_{i}=\beta_{0} + \beta_{1}x_{1} +\beta_{2}x_{2}+\beta_{3}x_{3}+...+\beta_{n}x_{n}+\varepsilon_{i} \]
\(Y_i\) = Variabel dependen
\(\beta_i\) = Koefisien regresi
\(X_i\) = Variabel independen
\(\varepsilon_i\) = Sisaan
Uji asumsi klasik regresi terdiri dari beberapa uji:
Uji linieritas dilakukan dilakukan dengan mencari persamaan garis regresi variabel bebas x terhadap variabel terikat y. Berdasarkan garis regresi yang telah dibuat, selanjutnya diuji keberartian koefisien garis regresi serta linieritasnya.
\(H_0\): Model regresi linier
\(H_1\): Model regresi tidak linier
Jika p-value ≤ \(\alpha\) maka \(H_0\) ditolak artinya Data tidak dapat dilakukan pemodelan regresi linier. Sebaliknya jika p-value > \(\alpha\) maka \(H_0\) diterima atau artinya data dapat dilakukan pemodelan regresi linier.
Adanya autokorelasi pada error mengindikasikan bahwa ada satu atau beberapa faktor (variabel) penting yang mempengaruhi variabel terikat Y yang tidak dimasukkan ke dalam model regresi.
Hipotesis dalam uji autokorelasi:
\(H_0\) : \(\rho\) = 0
\(H_1\) : \(\rho\) ≠0
Jika p-value ≤ \(\alpha\) maka \(H_0\) ditolak artinya Data di dalam grup atau antar grup tidak terdistribusi secara normal. Sebaliknya jika p-value > \(\alpha\) maka \(H_0\) diterima atau artinya tidak terdapat autokorelasi.
Uji ini digunakan untuk mengetahui normalitas dari error dengan rata-rata nol dan suatu ragam tertentu.
Hipotesis dalam uji normalitas adalah:
\(H_0\) : Residual menyebar normal
\(H_1\) : Residual tidak menyebar normal
Jika p-value ≤ \(\alpha\) maka \(H_0\) ditolak artinya Data di dalam grup atau antar grup tidak terdistribusi secara normal. Sebaliknya jika p-value > \(\alpha\) maka \(H_0\) diterima atau artinya Data di dalam grup atau antar grup terdistribusi secara normal.
Menguji ragam yang bersifat homogen atau memiliki nilai yang sama antara error ke-i dan error ke-j.
Hipotesis dalam uji homoskedastisitas
\(H_0\) : Ragam error bersifat homoskedastik
\(H_1\) : Ragam error bersifat heterokedastik
Jika p-value ≤ \(\alpha\) maka \(H_0\) ditolak artinya Data di dalam grup atau antar grup tidak terdistribusi secara normal. Sebaliknya jika p-value > \(\alpha\) maka \(H_0\) diterima atau artinya Ragam error bersifat homoskedastik.
Multikolinieritas dapat dideteksi dengan menghitung koefisien korelasi ganda dan membandingkannya dengan koefisien korelasi antar variabel bebas
> # Library
> # install.packages("readr")
> # install.packages("tseries")
> # install.packages("lmtest")
> # install.packages("car")
Berikut merupakan package yang harus diinstal untuk melakukan analisis regresi berganda
> library(readr)
> library(rmarkdown)
> insurance <- read_csv("D:/insurance.csv")
> paged_table(insurance)
Data yang digunakan merupakan data sekunder yang didapatkan dari https://bit.ly/DataLaprakBimanda
Berdasarkan Data yang digunakan, didapatkan pemodelan regresi linier berganda sebagai berikut:
> library(lmtest)
> regresi= lm(charges~age+bmi+children+as.factor(sex)+as.factor(smoker), data = insurance)
> summary(regresi)
Call:
lm(formula = charges ~ age + bmi + children + as.factor(sex) +
as.factor(smoker), data = insurance)
Residuals:
Min 1Q Median 3Q Max
-11837.2 -2916.7 -994.2 1375.3 29565.5
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) -12052.46 951.26 -12.670 < 2e-16 ***
age 257.73 11.90 21.651 < 2e-16 ***
bmi 322.36 27.42 11.757 < 2e-16 ***
children 474.41 137.86 3.441 0.000597 ***
as.factor(sex)male -128.64 333.36 -0.386 0.699641
as.factor(smoker)yes 23823.39 412.52 57.750 < 2e-16 ***
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 6070 on 1332 degrees of freedom
Multiple R-squared: 0.7497, Adjusted R-squared: 0.7488
F-statistic: 798 on 5 and 1332 DF, p-value: < 2.2e-16
Didapatkan model regresi seperti berikut:
\[ Y_i = -12052.46 + 257.73(age) + 322.36(bmi) + 474.41(children)-128.64(male)+23823.39(smoker) \] Didapatkan bahwa model menampilkan 74.97% kenyataan dari aslinya
> plot(regresi$fitted.values, regresi$residuals)
> abline(h = 0, col = "red")
Didapatkan hasil plot bahwasanya residual memiliki sifat linier
> dwtest(regresi)
Durbin-Watson test
data: regresi
DW = 2.0869, p-value = 0.944
alternative hypothesis: true autocorrelation is greater than 0
Didapatlan nilai p-value > dari \(\alpha\) sehingga didapatkan cukup bukti bahwa data regresi tidak terdapat auto korelasi
> qqnorm(regresi$residuals)
> qqline(regresi$residuals, col = "red")
>
> shapiro.test(regresi$residuals)
Shapiro-Wilk normality test
data: regresi$residuals
W = 0.8994, p-value < 2.2e-16
Pada plot didapatkan bahwa residual kurang menyebar sesuai dengan garis normalitas. Dan setelah dilakukan uji Shaphiro-Wilk didapatkan cukup bukti bahwa p-value < \(\alpha\) sehingga didapatkan residual tidak menyebar secara normal.
> plot(regresi$fitted.values, regresi$residuals)
> abline(h = 0, col = "red")
> bptest(regresi)
studentized Breusch-Pagan test
data: regresi
BP = 118.02, df = 5, p-value < 2.2e-16
Pada plot didapatkan bahwa data masih belum memenuhi asumsi homoskedastisitas. Dan didapatkan bukti p-value < \(\alpha\) sehingga dapat disimpulkan bahwa terjadi heteroskedastisitas.
> library(car)
> vif(regresi)
age bmi children as.factor(sex)
1.015129 1.014578 1.002242 1.008878
as.factor(smoker)
1.006457
Didapatkan kesimpulan bahwa setiap variabel tidak memiliki multikoliniearitas
Berdasarkan hasil analisis, didapatkan model regresi sebagai berikut: \[ Y_i = -12052.46 + 257.73(age) + 322.36(bmi) + 474.41(children)-128.64(male)+23823.39(smoker) \]
model diatas memiliki 74.97% kesesuaian dengan realitanya. Dengan data yang didapat asumsi yang terpenuhi, yaitu liniearitas, auto korelasi, dan non multikoliniearitas. Sedangkan asumsi yang tidak terpenuhi adalah normalitas dan homoskedastisitass.
Kurniawan, Deny. 2008. Regresi Linier. Forum Statistika.
Santiyasa, I Wayan. 2016. Analisis Ragam. Universitas Udayana.
Yuliara, I Made. 2016. Regresi Linier Sederhana. Universitas Udayana.
Montgomery, D. C., Peck, E. A., & Vining, G. G. (2012). Introduction to Linear Regression Analysis.
Faraway, J. J. (2004). Linear Models with R.
Kutner, M. H., Nachtsheim, C. J., & Neter, J. (2004). Applied Linear Regression Models.