Library:
> # install.packages("knitr")
> # install.packages("rmarkdown")
> # install.packages("prettydoc")
> # install.packages("equatiomatic")1 PENDAHULUAN
1.1 Latar Belakang
Regresi linier sederhana dapat digunakan ketika tujuan penelitian ingin menjelaskan model antara variabel independen dapat memengaruhi variabel dependen. Dalam metode regresi linear sederhana, penelitian digunakan untuk mengidentifikasi, mengukur, dan memprediksi perubahan dalam variabel independen akan mempengaruhi variabel dependen. Penelitian semacam ini penting dalam berbagai disiplin ilmu, termasuk ilmu sosial, ilmu alam, ekonomi, dan banyak lagi, karena memberikan dasar analisis yang kuat untuk memahami peristiwa yang kompleks dan membuat keputusan berdasarkan bukti empiris. Oleh karena itu, latar belakang penelitian yang menggunakan metode regresi linier sederhana memenuhi kebutuhan untuk mengukur, memodelkan, dan memahami korelasi antara variabel yang menjadi objek penelitian.
1.2 Regresi Linear Sederhana
Regresi linier sederhana merupakan metode statistika yang digunakan untuk memahami hubungan antara dua variabel yaitu variabel independen (variabel prediktor) dan variabel dependen (variabel respon). Tujuan metode regresi linier sederhana untuk memodelkan hubungan linier antara variabel independen dan variabel dependen.
1.3 Sumber Data
Data yang digunakan 100 sampel dan 500 sampel yang didapatkan dari fungsi rnorm() yang merupakan salah satu fungsi yang digunakan untuk menghasilkan data acak yang terdistribusi secara normal.
2 SOURCE CODE
2.1 Mengimport Data
> ##REGRESI LINEAR##
> library(readxl)
> data <- read_excel("C:/Users/ACER/Downloads/Data 100.xlsx")
> y <- data$y
> y
[1] 94 87 83 82 78 74 70 58 57 55 55 52 50 49 41 41 40 40 39 39 34 32 31 30 29
[26] 26 23 23 22 18 17 12 10 4 1 1 1 2 2 5 9 10 12 13 13 14 16 19 19 20
[51] 23 24 25 27 27 27 29 32 32 33 37 41 46 48 56 56 57 57 61 62 65 65 65 67 68
[76] 70 72 73 75 76 77 79 81 82 82 84 84 85 90 91 92 92 93 93 94 94 96 96 98 98
> x <- data$x
> x
[1] 1 2 3 6 9 9 12 15 15 16 17 17 17 17 18 19 20 22
[19] 23 23 24 25 25 26 27 27 27 29 29 33 35 35 36 38 39 39
[37] 41 41 42 42 44 47 50 51 52 52 52 54 55 55 55 55 58 58
[55] 58 59 60 63 64 66 67 67 68 72 72 73 73 73 74 75 77 78
[73] 79 79 79 79 79 79 80 80 81 81 82 83 83 85 85 87 87 87
[91] 90 90 91 93 96 96 97 98 99 1002.2 Perhitungan Manual Regresi Linear Sederhana
> # menghitung sxx
> n = length(x)
> Sxx <-sum(x^2)-((sum(x))^2/n)
> Sxx
[1] 78392.51
>
> # menghitung sxy
> Sxy <- sum(x*y)-((sum(x)*sum(y))/n)
> Sxy
[1] 37044.53
>
> # menghitung B1
> B1 <- Sxy/Sxx
> B1
[1] 0.4725519
>
> # menghitung B0
> B0 <- mean(y)-(B1*(mean(x)))
> B0
[1] 24.04155
>
> # menghitung taksiran sigma^2
> Syy = sum(y^2)-((sum(y))^2/n)
> SSe = Syy-(B1*Sxy)
> sigma_2 = SSe/(n-2)
> sigma_2
[1] 713.0319
>
> # menghitung statistik uji t
> X = sqrt(sigma_2/Sxx)
> t1 = B1/X
> t1
[1] 4.954871
>
> # mencari P-value
> pvalue = 2*pt(t1,n-2)
> pvalue
[1] 1.999997
>
> # perbandingan menggunakan fungsi lm
> reg <-summary(lm(y~x))
> reg
Call:
lm(formula = y ~ x)
Residuals:
Min 1Q Median 3Q Max
-42.416 -23.798 3.072 19.805 69.486
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 24.04155 5.75294 4.179 6.37e-05 ***
x 0.47255 0.09537 4.955 3.03e-06 ***
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 26.7 on 98 degrees of freedom
Multiple R-squared: 0.2003, Adjusted R-squared: 0.1922
F-statistic: 24.55 on 1 and 98 DF, p-value: 3.027e-062.3 Mengimport Data
> ##REGRESI BERGANDA##
> data <- read_excel("C:/Users/ACER/Downloads/Data 500.xlsx")
> y <- data$y
> y
[1] 3.38 3.31 3.68 3.34 3.35 3.79 3.50 3.41 3.36 3.86 3.30 3.34 3.40 3.50 3.55
[16] 3.57 3.55 3.47 3.97 3.37 3.35 3.47 3.58 3.57 3.68 3.42 3.55 3.72 3.54 3.70
[31] 3.68 3.77 3.74 3.48 3.74 3.55 3.76 3.69 3.37 3.78 3.56 3.53 3.34 3.36 3.91
[46] 3.39 3.60 3.75 3.80 3.39 3.59 3.67 3.52 3.42 3.56 3.38 3.37 3.57 3.32 3.67
[61] 3.35 3.36 3.49 3.31 3.45 3.49 3.83 3.94 4.00 3.49 3.48 4.00 4.00 4.00 3.40
[76] 3.57 3.69 3.70 3.69 3.40 3.43 3.41 3.35 3.51 3.56 3.32 3.80 3.33 3.46 3.37
[91] 3.57 3.36 3.64 3.43 3.47 3.41 3.87 3.42 3.31 3.56 3.42 3.64 3.86 4.00 3.56
[106] 4.00 3.80 4.00 3.86 4.00 4.00 4.00 3.64 3.34 3.45 3.45 3.90 3.80 3.47 3.74
[121] 3.59 3.67 3.52 3.52 3.58 3.44 3.69 3.67 3.64 3.82 3.57 3.78 3.54 3.66 4.00
[136] 4.00 4.00 3.46 3.44 4.00 4.00 3.53 3.86 3.88 3.88 3.52 3.33 3.35 3.91 3.33
[151] 3.93 3.66 3.77 3.82 3.82 3.81 3.86 4.00 3.71 3.38 4.00 4.00 4.00 3.68 4.00
[166] 3.32 4.00 4.00 4.00 4.00 3.98 3.67 3.57 3.45 3.67 3.41 4.00 3.75 3.35 4.00
[181] 4.00 3.62 3.46 3.69 3.77 4.00 4.00 3.61 3.53 3.47 3.68 3.55 3.42 3.70 3.45
[196] 4.00 4.00 4.00 3.70 4.00 3.57 4.00 4.00 3.47 3.53 4.00 4.00 3.56 3.90 3.59
[211] 3.98 3.41 3.68 3.47 3.32 4.00 4.00 3.61 4.00 3.39 3.91 3.55 3.61 3.97 4.00
[226] 4.00 4.00 3.61 3.32 3.89 3.56 3.53 3.65 3.95 3.79 3.80 3.68 3.47 3.66 3.67
[241] 4.00 4.00 3.67 3.47 3.54 3.78 3.52 3.51 3.56 3.39 3.98 3.87 4.00 4.00 4.00
[256] 3.67 4.00 4.00 3.67 3.83 4.00 4.00 4.00 4.00 3.41 3.33 3.33 3.42 3.37 3.95
[271] 3.37 4.00 4.00 3.37 3.36 4.00 3.93 3.79 3.66 3.87 3.75 3.60 3.72 3.66 3.72
[286] 4.00 4.00 4.00 3.87 3.71 3.55 3.35 3.87 3.56 4.00 3.73 4.00 4.00 4.00 3.45
[301] 3.54 3.48 3.36 3.56 3.48 3.44 4.00 3.52 3.75 4.00 4.00 3.55 3.48 3.75 4.00
[316] 3.49 3.57 4.00 3.85 4.00 3.65 4.00 3.82 4.00 3.69 3.73 4.00 3.96 3.51 3.63
[331] 3.74 3.98 3.58 3.85 3.64 3.48 3.45 3.64 4.00 4.00 4.00 4.00 4.00 4.00 4.00
[346] 3.71 3.57 3.51 3.61 3.88 3.95 3.62 3.45 3.66 3.71 3.45 3.36 4.00 4.00 4.00
[361] 3.84 3.91 3.52 3.76 3.85 3.45 3.44 3.53 3.53 4.00 4.00 3.90 3.37 3.34 3.89
[376] 4.00 3.88 4.00 4.00 4.00 3.32 4.00 4.00 4.00 4.00 4.00 4.00 3.88 3.96 3.65
[391] 3.69 3.51 4.00 4.00 4.00 3.90 3.32 3.95 3.52 3.39 3.36 3.32 3.56 3.71 3.43
[406] 3.66 3.91 3.69 3.69 3.95 4.00 3.55 3.43 3.98 3.95 3.72 3.85 4.00 4.00 3.48
[421] 4.00 4.00 3.73 4.00 4.00 4.00 3.36 3.78 3.46 3.75 4.00 3.98 4.00 3.49 4.00
[436] 4.00 4.00 4.00 3.85 4.00 3.51 4.00 4.00 4.00 3.86 4.00 3.57 4.00 3.96 3.70
[451] 3.62 3.53 3.77 3.73 3.72 3.46 3.55 3.52 3.42 3.54 3.36 4.00 4.00 3.59 3.37
[466] 3.57 4.00 3.63 4.00 3.34 3.71 4.00 3.61 3.55 3.78 3.56 3.35 4.00 3.65 4.00
[481] 4.00 3.58 3.57 3.43 3.73 3.65 3.99 4.00 4.00 4.00 4.00 4.00 3.56 3.98 4.00
[496] 3.56 3.86 3.38 4.00 3.41
> x1 <- data$x
> x0 <- data$x0
> X <- data.frame(x0,x1)
> X <- as.matrix(X)2.4 Perhitungan Matriks Regresi Linear Sederhana
> # menghitung koefisien regresi
> B<-solve(t(X)%*%X)%*%t(X)%*%y
> B
[,1]
x0 3.735154331
x1 -0.001163284
>
> # menghitung uji t (parsial)
> sigma_2<-(t(y-(X%*%B))%*%(y-(X%*%B)))/(nrow(data)-3)
> sb<-sqrt(sigma_2%*%diag(solve(t(X)%*%X)))
> T<-t(B)/sb
> T
x0 x1
[1,] 26.41577 -0.1853497
>
> # uji simultan (f)
> Syy<-sum((y-mean(y))^2)
> F=((Syy-sum((y-(X%*%B))^2))/2)/(sum((y-(X%*%B))^2)/497)
> F
[1] 0.01717725
>
> # menghitung P-value
> 2*pt(-abs(T),498)
x0 x1
[1,] 8.774408e-97 0.8530303
>
> # perbandingan menggunakan fungsi lm
> reg <-summary(lm(y~x1))
> reg
Call:
lm(formula = y ~ x1)
Residuals:
Min 1Q Median 3Q Max
-0.41189 -0.19956 -0.01898 0.28811 0.29393
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 3.735154 0.141257 26.442 <2e-16 ***
x1 -0.001163 0.006270 -0.186 0.853
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 0.237 on 498 degrees of freedom
Multiple R-squared: 6.912e-05, Adjusted R-squared: -0.001939
F-statistic: 0.03442 on 1 and 498 DF, p-value: 0.85293 HASIL DAN PEMBAHASAN
3.1 Regresi Linear Sederhana
Berdasarkan Data yang digunakan, data 100 sampel digunakan untuk penerapan regresi linear sederhana menggunakan rumus manual sedangkan data 500 sampel digunakan untuk penerapan regresi linear sederhana menggunakan matriks. Namun apapun pendekatan yang digunakan pada metode statistika regresi linear sederhana akan mempunyai output yang sama. Dapat disimpulkan bahwa hasil penerapan regresi linear sederhana menggunakan rumus manual mirip dengan hasil menggunakan fungsi lm() begitupun dengan hasil penerapan regresi linear sederhana menggunakan matriks.
4 DAFTAR PUSTAKA
Myers, R.H. (1990). Classical and Modern Regression with Applications. PWS-KENT, Boston, Massachusetts.