Universitas : UIN Maulana Malik Ibrahim Malang

Jurusan : Teknik Informatika

Membangun Regresi Linier Berganda

Regresi Linear Berganda adalah model regresi linear dengan melibatkan lebih dari satu variable bebas atau predictor. Dalam bahasa inggris, istilah ini disebut dengan multiple linear regression.

Mengambil Data dan Menampilkannya

Disini data diambil dari Excel. Excel adalah salah satu jenis file eksternal yang sering digunakan untuk menyimpan data. Kita dapat menggunakan package {readxl} dengan fungsi read_excel() untuk import data dari file Excel. Argumen path = adalah lokasi dan nama file Excel yang akan kita gunakan.

library(readxl)
## Warning: package 'readxl' was built under R version 4.1.2
dataAgustus <- read_excel(path = "data Agustus.xlsx")
dataAgustus
## # A tibble: 31 x 13
##    Nama_provinsi Tanggal             POSITIF Dirawat Sembuh Meninggal
##    <chr>         <dttm>                <dbl>   <dbl>  <dbl>     <dbl>
##  1 DKI Jakarta   2021-08-01 00:00:00  817354    6485 789261     12209
##  2 DKI Jakarta   2021-08-02 00:00:00  818764    5777 791422     12363
##  3 DKI Jakarta   2021-08-03 00:00:00  820365    5299 793928     12433
##  4 DKI Jakarta   2021-08-04 00:00:00  823346    4916 796381     12514
##  5 DKI Jakarta   2021-08-05 00:00:00  825657    4419 799151     12629
##  6 DKI Jakarta   2021-08-06 00:00:00  827842    3974 802373     12682
##  7 DKI Jakarta   2021-08-07 00:00:00  829850    3219 806924     12750
##  8 DKI Jakarta   2021-08-08 00:00:00  831499    3075 808087     12770
##  9 DKI Jakarta   2021-08-09 00:00:00  832226    2926 809087     12783
## 10 DKI Jakarta   2021-08-10 00:00:00  833651    3024 810308     12824
## # ... with 21 more rows, and 7 more variables: Self _isolation <dbl>,
## #   retail_and_recreation_percent_change_from_baseline <dbl>,
## #   grocery_and_pharmacy_percent_change_from_baseline <dbl>,
## #   parks_percent_change_from_baseline <dbl>,
## #   transit_stations_percent_change_from_baseline <dbl>,
## #   workplaces_percent_change_from_baseline <dbl>,
## #   residential_percent_change_from_baseline <dbl>

Data Covid Meninggal & Google Mobility Index

datacovid <- read_excel(path = "data Covid Meninggal Bulan Agustus.xlsx")
datacovid
## # A tibble: 31 x 8
##    Tanggal             Meninggal retail_and_recreation_p~ grocery_and_pharmacy_~
##    <dttm>                  <dbl>                    <dbl>                  <dbl>
##  1 2021-08-01 00:00:00     12209                      -42                     -5
##  2 2021-08-02 00:00:00     12363                      -32                      2
##  3 2021-08-03 00:00:00     12433                      -34                     -1
##  4 2021-08-04 00:00:00     12514                      -34                     -2
##  5 2021-08-05 00:00:00     12629                      -37                     -6
##  6 2021-08-06 00:00:00     12682                      -31                      2
##  7 2021-08-07 00:00:00     12750                      -36                      2
##  8 2021-08-08 00:00:00     12770                      -39                     -5
##  9 2021-08-09 00:00:00     12783                      -32                     -2
## 10 2021-08-10 00:00:00     12824                      -35                     -6
## # ... with 21 more rows, and 4 more variables:
## #   parks_percent_change_from_baseline <dbl>,
## #   transit_stations_percent_change_from_baseline <dbl>,
## #   workplaces_percent_change_from_baseline <dbl>,
## #   residential_percent_change_from_baseline <dbl>

Mengetahui summary() dari Data

summary() atau ringkasan data digunakan untuk mencari nilai statistik lima serangkai (minimum, Q1, Q2 atau median, Q3, maksimum).

summary(datacovid)
##     Tanggal                      Meninggal    
##  Min.   :2021-08-01 00:00:00   Min.   :12209  
##  1st Qu.:2021-08-08 12:00:00   1st Qu.:12776  
##  Median :2021-08-16 00:00:00   Median :13050  
##  Mean   :2021-08-16 00:00:00   Mean   :12956  
##  3rd Qu.:2021-08-23 12:00:00   3rd Qu.:13198  
##  Max.   :2021-08-31 00:00:00   Max.   :13290  
##  retail_and_recreation_percent_change_from_baseline
##  Min.   :-42.00                                    
##  1st Qu.:-34.00                                    
##  Median :-31.00                                    
##  Mean   :-31.16                                    
##  3rd Qu.:-28.00                                    
##  Max.   :-22.00                                    
##  grocery_and_pharmacy_percent_change_from_baseline
##  Min.   :-13.000                                  
##  1st Qu.: -5.500                                  
##  Median : -2.000                                  
##  Mean   : -2.161                                  
##  3rd Qu.:  0.000                                  
##  Max.   :  6.000                                  
##  parks_percent_change_from_baseline
##  Min.   :-67.0                     
##  1st Qu.:-54.0                     
##  Median :-50.0                     
##  Mean   :-50.9                     
##  3rd Qu.:-47.0                     
##  Max.   :-41.0                     
##  transit_stations_percent_change_from_baseline
##  Min.   :-61.00                               
##  1st Qu.:-51.00                               
##  Median :-47.00                               
##  Mean   :-47.84                               
##  3rd Qu.:-45.00                               
##  Max.   :-39.00                               
##  workplaces_percent_change_from_baseline
##  Min.   :-73.00                         
##  1st Qu.:-39.50                         
##  Median :-35.00                         
##  Mean   :-34.03                         
##  3rd Qu.:-23.50                         
##  Max.   :-14.00                         
##  residential_percent_change_from_baseline
##  Min.   : 7.00                           
##  1st Qu.:11.50                           
##  Median :14.00                           
##  Mean   :13.61                           
##  3rd Qu.:16.00                           
##  Max.   :22.00

Membuat Matriks dengan Fungsi pairs()

Untuk membuat matriks scatterplot kita hanya perlu memasukkan objek datacovid kedalam fungsi pairs(). Berikut adalah sintaks yang digunakan dan output yang dihasilkan

pairs(datacovid)

Kita juga dapat melakukan drop terhadap panel bawah grafik tersebut, yaitu dengan memasukkan argumen lower.panel=NULL.

pairs(datacovid, lower.panel=NULL)

Visualisasi Data Menggunakan Fungsi plot()

Fungsi plot() merupakan fungsi umum yang digunakan untuk membuat plot pada R.

plot(datacovid$Meninggal ~ datacovid$Tanggal, data = datacovid)

Memvisualisasikan Data dengan Self Isolation sebagai variabel Y dan Google Mobility Index sebagai variabel X

plot(datacovid$Meninggal ~ datacovid$
   retail_and_recreation_percent_change_from_baseline+datacovid$
   grocery_and_pharmacy_percent_change_from_baseline+datacovid$
   parks_percent_change_from_baseline+datacovid$
   transit_stations_percent_change_from_baseline+datacovid$
   workplaces_percent_change_from_baseline+datacovid$
   residential_percent_change_from_baseline, data = datacovid)

Membuat Korelasi Antar Variabel

Korelasi merupakan keterhubungan antar variabel. Untuk mengukur seberapa jauh hubungan antara satu variabel dengan variabel yang lain kita dapat menggunakan fungsi cor().

a. Korelasi variabel y dengan x1

cor(datacovid$Meninggal,
    datacovid$retail_and_recreation_percent_change_from_baseline)
## [1] 0.6932888

b. Korelasi variabel y dengan x2

cor(datacovid$Meninggal,
    datacovid$grocery_and_pharmacy_percent_change_from_baseline)
## [1] 0.1008771

c. Korelasi variabel y dengan x3

cor(datacovid$Meninggal,
    datacovid$parks_percent_change_from_baseline)
## [1] 0.5307141

d. Korelasi variabel y dengan x4

cor(datacovid$Meninggal,
    datacovid$transit_stations_percent_change_from_baseline)
## [1] 0.5199275

e. Korelasi variabel y dengan x5

cor(datacovid$Meninggal,
    datacovid$workplaces_percent_change_from_baseline)
## [1] 0.1635881

f. Korelasi variabel y dengan x6

cor(datacovid$Meninggal,
    datacovid$residential_percent_change_from_baseline)
## [1] -0.3301842

Dari hasil seluruh output di atas dapat disimpulkan bahwa untuk tingkat keterhubungan antara variabel y dengan x1, x2, x3, x4, dan x5 tidak memiliki hubungan sama sekali karena nilai yang dihasilkan berjumlah kurang dari 0. Sedangkan untuk tingkat keterhubungan antara variabel y dan x6 tidak sangat terhubung karena nilai yang dihasilkan di bawah 0,4.

Melakukan Permodelan

Berikut cara melakukan permodelan regresi linier berganda.

model <- lm(datacovid$Meninggal ~ datacovid$Tanggal, data = datacovid)

Selanjutnya dengan model yang telah dibuat di atas, kita akan menggunakan fungsi summary() untuk menjelaskan atau mereview hasil dari model tersebut. Dan dengan ringkasan summary(model) kita dapat melihat informasi terperinci tentang kinerja dan koefisian model.

summary(model)
## 
## Call:
## lm(formula = datacovid$Meninggal ~ datacovid$Tanggal, data = datacovid)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -288.67  -67.41   34.12   69.69  111.92 
## 
## Coefficients:
##                     Estimate Std. Error t value Pr(>|t|)    
## (Intercept)       -5.628e+05  3.690e+04  -15.25 2.19e-15 ***
## datacovid$Tanggal  3.534e-04  2.265e-05   15.60 1.21e-15 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 97.47 on 29 degrees of freedom
## Multiple R-squared:  0.8935, Adjusted R-squared:  0.8899 
## F-statistic: 243.4 on 1 and 29 DF,  p-value: 1.214e-15

Menjelaskan rincian Model dengan fungsi summary()

Di atas merupakan rincian dari model yang telah dibuat.

Di posisi paling atas terdapat lm formula adalah datacovid$Meninggal~ datacovid$Tanggal, data = datacovid.

Lalu di bawahnya terdapat 5 nilai residual, sebelumnya kita perlu tahu bahwa Residual adalah perbedaan antara nilai nyata dan nilai prediksi. Yang mana semakin kecil nilai residual maka semakin baik atau benar model yang kita buat. Berikut nilai-nilai residual yang dihasilkan :

Dari nilai-nilai tersebut dapat kita lihat bahwa dalam konteks ini berupa nilai minimum, maximum, median, quartil 1 dan quartil 3. Dapat kita simpulkan bahwa model yang telah kita buat belum bisa dikatakan baik atau benar karena nilai-nilai yang dihasilkan tidak mendekati nol.

Di bawah nilai residual terdapat koefisien, yang mana dalam koefisien tersebut terdapat nilai intersep, dan tanggal. Selain itu juga terdapat nilai-p dari koefisien

Selanjutnya terdapat dua R2 yaitu:

Menggunakan Fungsi anova()

ANOVA (analysis of variance) adalah pengujian yang dilakukan dengan membandingkan varians. Dengan membandingkan varians tersebut, dapat diketahui ada tidaknya perbedaan rata-rata dari tiga atau lebih kelompok. Asumsi normalitas pada ANOVA adalah pada residual yaitu selisih antara Y Prediksi dengan Y Aktual. Tepatnya residual dapat dihitung sebagai berikut: Y Aktual – Y Prediksi. Dimana Y Aktual adalah Y sesungguhnya atau kenyataan. Sedangkan Y prediksi adalah Y hasil persamaan ANOVA.

anova(model)
## Analysis of Variance Table
## 
## Response: datacovid$Meninggal
##                   Df  Sum Sq Mean Sq F value    Pr(>F)    
## datacovid$Tanggal  1 2312147 2312147  243.39 1.214e-15 ***
## Residuals         29  275490    9500                      
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Membuat plot() Model dari Data Real dan Data Prediksi

plot(datacovid$Meninggal ~ datacovid$Tanggal, 
     data = datacovid, col = "blue", pch = 20, cex = 1.5, 
     main = "Data Covid Meninggal di DKI Jakarta dan Google Mobility Index")
abline(model) #Add a regression line

Dari Plot di atas perlu kita ketahui bahwa titik-titik hijau yang ada pada grafik tersebut adalah data real dan garis hitam di dalam kotak adalah data prediksi.

plot(cooks.distance(model), pch = 16, col = "green") #Plot the Cooks Distances.

plot(model)

Penggunaan AIC dan BIC

AIC dan BIC banyak digunakan dalam kriteria pemilihan model. AIC berarti Kriteria Informasi Akaike dan BIC berarti Kriteria Informasi Bayesian. Meskipun kedua istilah ini membahas pemilihan model, keduanya tidak sama. Seseorang dapat menemukan perbedaan antara dua pendekatan pemilihan model.

AIC(model)
## [1] 375.8361
BIC(model)
## [1] 380.138

Memunculkan Nilai Predicted dan Memvisualisasikannya

head(predict(model), n = 11)
##        1        2        3        4        5        6        7        8 
## 12497.67 12528.20 12558.74 12589.27 12619.80 12650.34 12680.87 12711.41 
##        9       10       11 
## 12741.94 12772.47 12803.01
plot(head(predict(model), n = 10))

Memunculkan Nilai Residuals

head(resid(model), n = 11)
##           1           2           3           4           5           6 
## -288.669355 -165.203226 -125.737097  -75.270968    9.195161   31.661290 
##           7           8           9          10          11 
##   69.127419   58.593548   41.059677   51.525806   62.991935
coef(model)
##       (Intercept) datacovid$Tanggal 
##     -5.627605e+05      3.534013e-04

Membuat Tabel Untuk Menambah Data Residuals dan Data Predicted

Tabel di bawah merupakan semua proses yang telah dilakukan, sehingga terbuat tabel yang ada nilai residuals dan nilai protected.

datacovid$residuals <- model$residuals
datacovid$predicted <- model$fitted.values
datacovid
## # A tibble: 31 x 10
##    Tanggal             Meninggal retail_and_recreation_p~ grocery_and_pharmacy_~
##    <dttm>                  <dbl>                    <dbl>                  <dbl>
##  1 2021-08-01 00:00:00     12209                      -42                     -5
##  2 2021-08-02 00:00:00     12363                      -32                      2
##  3 2021-08-03 00:00:00     12433                      -34                     -1
##  4 2021-08-04 00:00:00     12514                      -34                     -2
##  5 2021-08-05 00:00:00     12629                      -37                     -6
##  6 2021-08-06 00:00:00     12682                      -31                      2
##  7 2021-08-07 00:00:00     12750                      -36                      2
##  8 2021-08-08 00:00:00     12770                      -39                     -5
##  9 2021-08-09 00:00:00     12783                      -32                     -2
## 10 2021-08-10 00:00:00     12824                      -35                     -6
## # ... with 21 more rows, and 6 more variables:
## #   parks_percent_change_from_baseline <dbl>,
## #   transit_stations_percent_change_from_baseline <dbl>,
## #   workplaces_percent_change_from_baseline <dbl>,
## #   residential_percent_change_from_baseline <dbl>, residuals <dbl>,
## #   predicted <dbl>

Visualisasi Data Menggunakan scatter.smooth, boxplot dan plot

scatter.smooth(x=datacovid$Tanggal, y=datacovid$Meninggal, main = "Tanggal ~ Meninggal")

boxplot(datacovid$Meninggal, main = "Meninggal", boxplot.stats(datacovid$Meninggal)$out)

plot(density(datacovid$Meninggal), main = "Google Mobility Index: Meninggal", ylab="Frequency")

coefs <- coef(model)
plot(Meninggal ~ Tanggal, data = datacovid)
abline(coefs)
text(x = 12, y = 10, paste('expression = ', round(coefs[1], 2), '+', round(coefs[2], 2), '*Meninggal'))

Melakukan Uji Korelasi Antar Variabel

Adanya korelasi antar variabel dapat dilakukan melalui visualisasi menggunakan scatterplot dan perhitungan matematis menggunakan metode Pearson untuk metode parametrik dan metode rangking Spearman dan Kendall untuk metode non-parametrik. Pada R uji korelasi dapat dilakukan dengan menggunakan fungsi cor.test(). Format fungsi tersebut adalah sebagai berikut :

a. uji korelasi variabel y dengan x1

cor.test(datacovid$retail_and_recreation_percent_change_from_baseline, 
         datacovid$Meninggal)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovid$retail_and_recreation_percent_change_from_baseline and datacovid$Meninggal
## t = 5.1806, df = 29, p-value = 1.535e-05
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  0.4493315 0.8410232
## sample estimates:
##       cor 
## 0.6932888

b. uji korelasi variabel y dengan x2

cor.test(datacovid$grocery_and_pharmacy_percent_change_from_baseline, 
         datacovid$Meninggal)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovid$grocery_and_pharmacy_percent_change_from_baseline and datacovid$Meninggal
## t = 0.54603, df = 29, p-value = 0.5892
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  -0.2628589  0.4395071
## sample estimates:
##       cor 
## 0.1008771

c. uji korelasi variabel y dengan x3

cor.test(datacovid$parks_percent_change_from_baseline, 
         datacovid$Meninggal)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovid$parks_percent_change_from_baseline and datacovid$Meninggal
## t = 3.372, df = 29, p-value = 0.00213
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  0.2172236 0.7449617
## sample estimates:
##       cor 
## 0.5307141

d. uji korelasi variabel y dengan x4

cor.test(datacovid$transit_stations_percent_change_from_baseline, 
         datacovid$Meninggal)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovid$transit_stations_percent_change_from_baseline and datacovid$Meninggal
## t = 3.2778, df = 29, p-value = 0.002718
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  0.2029833 0.7382576
## sample estimates:
##       cor 
## 0.5199275

e. uji korelasi variabel y dengan x5

cor.test(datacovid$workplaces_percent_change_from_baseline, 
         datacovid$Meninggal)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovid$workplaces_percent_change_from_baseline and datacovid$Meninggal
## t = 0.89298, df = 29, p-value = 0.3792
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  -0.2024895  0.4895510
## sample estimates:
##       cor 
## 0.1635881

f. uji korelasi variabel y dengan x6

cor.test(datacovid$residential_percent_change_from_baseline, 
         datacovid$Meninggal)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovid$residential_percent_change_from_baseline and datacovid$Meninggal
## t = -1.8837, df = 29, p-value = 0.06966
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  -0.61282530  0.02735654
## sample estimates:
##        cor 
## -0.3301842

Berdasarkan seluruh output yang dihasilkan, metode Pearson menghasilkan output berupa nilai t uji, derajat kebebasan, nilai p-value, rentang estimasi nilai korelasi berdasarkan tingkat kepercayaan, dan estimasi nilai korelasi.

Referensi

https://rpubs.com/suhartono-uinmaliki/877449