Read Data

data <- read.csv("D:/Shabrina/College/Semester 4/Analisis Regresi/Pertemuan 2/data liver.csv", sep=";")

y<-data$Y
x1<-data$X1
x2<-data$X2
x3<-data$X3
x4<-data$X4 
x5<-data$X5
x6<-data$X6

data<-data.frame(cbind(y,x1,x2,x3,x4,x5,x6))
head(data)
n <- nrow(data)
n
## [1] 36
p <- ncol(data)
p
## [1] 7

Eksplorasi Data

plot(x4, y)

Berdasarkan scatter plot di atas, dapat dilihat bahwa data membentuk garis linear positif yang menandakan hubungan positif antara variabel x4 dan y. Selain itu, sebaran data dari kiri bawah menuju kanan atas semakin menyebar yang juga menunjukkan keragaman yang semakin besar. Adapun, korelasi antara variabel x4 dan y cenderung tidak terlalu erat.

summary(y)
##    Min. 1st Qu.  Median    Mean 3rd Qu.    Max. 
##   120.9   143.9   160.7   169.7   191.8   247.4
boxplot(y)

Berdasarkan boxplot peubah acak x di atas, dapat dilihat bahwa distribusi data menjulur ke kanan.

summary(x4)
##    Min. 1st Qu.  Median    Mean 3rd Qu.    Max. 
##   2.060   4.065   6.095   6.811   8.998  15.000

Pembentukan Model (Manual)

1) Parameter Regresi

b1 <- (sum(x4*y)-(sum(x4)*sum(y)/n))/(sum(x4^2)-((sum(x4)^2)/n))
b1
## [1] 5.812239
b0 <- mean(y)-b1*mean(x4)
b0
## [1] 130.1367

2) Koefisien Determinasi dan Penyesuaiannya

r <- (sum(x4*y)-sum(x4)*sum(y)/n)/sqrt((sum(x4^2)-(sum(x4)^2/n))*(sum(y^2)-(sum(y)^2/n)))
Koef_det <- r^2
Koef_det
## [1] 0.317748

Koefisien determinasi atau R-squared yang diperoleh sebesar 0.317748 yang menunjukkan korelasi yang cenderung lemah karena mendekati 0 dan menjauhi 1. Dalam model regresi linear sederhana ini, ragam dalam peubah acak y yang dapat dijelaskan oleh peubah tetap x4 sebesar 31.78%.

Adj_R2 <- 1-((1-Koef_det)*(n-1)/(n-1-1))
Adj_R2
## [1] 0.2976818

Adjusted R-squared memberikan indikasi bahwa sekitar 29.77% ragam dalam peubah acak Y dapat dijelaskan oleh model regresi yang telah diperoleh.

3) Standard Error

galat <- y-(b0+b1*x4)
ragam_galat <- sum(galat^2)/(n-2)

se_b1 <- sqrt(ragam_galat/sum((x4-mean(x4))^2))
se_b1
## [1] 1.460612

Dengan dugaan b1 sebesar 5.812, terdapat ketidakpastian sekitar 1.461.

se_b0 <- sqrt(ragam_galat*(1/n+mean(x4)^2/sum((x4-mean(x4))^2)))
se_b0
## [1] 10.95912

Dengan dugaan b0 sebesar 130.137, terdapat ketidakpastian sekitar 10.959.

4) Signifikansi Parameter (nilai-t)

t_b0 <- b0/se_b0
t_b0
## [1] 11.87473
t_b1 <- b1/se_b1
t_b1
## [1] 3.979316
2*pt(-abs(t_b0), df<-n-2)
## [1] 1.202686e-13
2*pt(-abs(t_b1), df<-n-2)
## [1] 0.0003435874

5) Ukuran Keragaman

galat <- y-(b0+b1*x4)

JKG <- sum((y-(b0+b1*x4))^2)
JKReg <- sum(((b0+b1*x4)-mean(y))^2)
JKT <- sum((y-mean(y))^2)
JKT <- JKReg+JKG

dbReg <- 1
dbg <- n-2
dbt <- n-1

Fhit <- (JKReg/dbReg)/(JKG/dbg)
Fhit
## [1] 15.83496
P.value<-1-pf(Fhit, dbReg, dbg, lower.tail=F)
P.value
## [1] 0.9996564

Pembentukan Model dengan Fungsi lm

model<-lm(y~x4,data<-data)
summary(model)
## 
## Call:
## lm(formula = y ~ x4, data = data <- data)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -44.630 -13.162  -4.809  15.601  63.697 
## 
## Coefficients:
##             Estimate Std. Error t value Pr(>|t|)    
## (Intercept)  130.137     10.959  11.875  1.2e-13 ***
## x4             5.812      1.461   3.979 0.000344 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 27.58 on 34 degrees of freedom
## Multiple R-squared:  0.3177, Adjusted R-squared:  0.2977 
## F-statistic: 15.83 on 1 and 34 DF,  p-value: 0.0003436

Interpretasi dan Penjelasan

Berdasarkan model regresi linear sederhana yang diperoleh melalui fungsi lm maupun manual didapatkan nilai yang sama, mulai dari b0, b1, R^2, Adjusted R^2, F-hitung, standard error, t-value, dan p-value. Hal tersebut membuktikan kedua cara valid untuk digunakan. Interpretasi parameter model regresi di atas yakni, nilai dugaan rataan y ketika x4 bernilai 0 (jika x4=0 berada dalam selang pengamatan) adalah 130.1367. Namun, karena x4=0 tidak berada dalam selang pengamatan, b0 tidak memiliki interpretasi. Ada kemungkinan b0 memiliki interpretasi/makna ketika konteks data yang digunakan diketahui lebih lanjut. Adapun, nilai dugaan rataan y akan meningkat sebesar 5.812239 ketika x4 berubah satu satuan.