Prodi : Teknik Informatika

Lembaga : UIN Maulana Malik Ibrahim Malang

Membangun Regresi Linier Berganda

Regresi Linear Berganda adalah model regresi linear dengan melibatkan lebih dari satu variable bebas atau predictor. Dalam bahasa inggris, istilah ini disebut dengan multiple linear regression.

Mengambil Data dan Menampilkannya

Disini data diambil dari Excel. Excel adalah salah satu jenis file eksternal yang sering digunakan untuk menyimpan data. Kita dapat menggunakan package {readxl} dengan fungsi read_excel() untuk import data dari file Excel. Argumen path = adalah lokasi dan nama file Excel yang akan kita gunakan.

Data Covid dan Google Mobility Indeks

library(readxl)
## Warning: package 'readxl' was built under R version 4.1.2
datacovidmobility <- read_excel(path = "dataAgustus.xlsx")
datacovidmobility
## # A tibble: 31 x 13
##    Nama_provinsi Tanggal             POSITIF Dirawat Sembuh Meninggal
##    <chr>         <dttm>                <dbl>   <dbl>  <dbl>     <dbl>
##  1 DKI Jakarta   2021-08-01 00:00:00  817354    6485 789261     12209
##  2 DKI Jakarta   2021-08-02 00:00:00  818764    5777 791422     12363
##  3 DKI Jakarta   2021-08-03 00:00:00  820365    5299 793928     12433
##  4 DKI Jakarta   2021-08-04 00:00:00  823346    4916 796381     12514
##  5 DKI Jakarta   2021-08-05 00:00:00  825657    4419 799151     12629
##  6 DKI Jakarta   2021-08-06 00:00:00  827842    3974 802373     12682
##  7 DKI Jakarta   2021-08-07 00:00:00  829850    3219 806924     12750
##  8 DKI Jakarta   2021-08-08 00:00:00  831499    3075 808087     12770
##  9 DKI Jakarta   2021-08-09 00:00:00  832226    2926 809087     12783
## 10 DKI Jakarta   2021-08-10 00:00:00  833651    3024 810308     12824
## # ... with 21 more rows, and 7 more variables: SelfIsolation <dbl>,
## #   retail_and_recreation_percent_change_from_baseline <dbl>,
## #   grocery_and_pharmacy_percent_change_from_baseline <dbl>,
## #   parks_percent_change_from_baseline <dbl>,
## #   transit_stations_percent_change_from_baseline <dbl>,
## #   workplaces_percent_change_from_baseline <dbl>,
## #   residential_percent_change_from_baseline <dbl>

Data Covid Self Isolation dan Google Mobility Indeks

datacovidmobility <- read_excel(path = "dataSelfIsolationBulanAgustus21.xlsx")
datacovidmobility
## # A tibble: 31 x 8
##    Tanggal             SelfIsolation retail_and_recreation_per~ grocery_and_pha~
##    <dttm>                      <dbl>                      <dbl>            <dbl>
##  1 2021-08-01 00:00:00          9399                        -42               -5
##  2 2021-08-02 00:00:00          9202                        -32                2
##  3 2021-08-03 00:00:00          8705                        -34               -1
##  4 2021-08-04 00:00:00          9535                        -34               -2
##  5 2021-08-05 00:00:00          9458                        -37               -6
##  6 2021-08-06 00:00:00          8813                        -31                2
##  7 2021-08-07 00:00:00          6957                        -36                2
##  8 2021-08-08 00:00:00          7567                        -39               -5
##  9 2021-08-09 00:00:00          7430                        -32               -2
## 10 2021-08-10 00:00:00          7495                        -35               -6
## # ... with 21 more rows, and 4 more variables:
## #   parks_percent_change_from_baseline <dbl>,
## #   transit_stations_percent_change_from_baseline <dbl>,
## #   workplaces_percent_change_from_baseline <dbl>,
## #   residential_percent_change_from_baseline <dbl>

Mengetahui summary() dari Data

summary() atau ringkasan data digunakan untuk mencari nilai statistik lima serangkai (minimum, Q1, Q2 atau median, Q3, maksimum).

summary(datacovidmobility)
##     Tanggal                    SelfIsolation 
##  Min.   :2021-08-01 00:00:00   Min.   :4980  
##  1st Qu.:2021-08-08 12:00:00   1st Qu.:5531  
##  Median :2021-08-16 00:00:00   Median :6290  
##  Mean   :2021-08-16 00:00:00   Mean   :6728  
##  3rd Qu.:2021-08-23 12:00:00   3rd Qu.:7531  
##  Max.   :2021-08-31 00:00:00   Max.   :9535  
##  retail_and_recreation_percent_change_from_baseline
##  Min.   :-42.00                                    
##  1st Qu.:-34.00                                    
##  Median :-31.00                                    
##  Mean   :-31.16                                    
##  3rd Qu.:-28.00                                    
##  Max.   :-22.00                                    
##  grocery_and_pharmacy_percent_change_from_baseline
##  Min.   :-13.000                                  
##  1st Qu.: -5.500                                  
##  Median : -2.000                                  
##  Mean   : -2.161                                  
##  3rd Qu.:  0.000                                  
##  Max.   :  6.000                                  
##  parks_percent_change_from_baseline
##  Min.   :-67.0                     
##  1st Qu.:-54.0                     
##  Median :-50.0                     
##  Mean   :-50.9                     
##  3rd Qu.:-47.0                     
##  Max.   :-41.0                     
##  transit_stations_percent_change_from_baseline
##  Min.   :-61.00                               
##  1st Qu.:-51.00                               
##  Median :-47.00                               
##  Mean   :-47.84                               
##  3rd Qu.:-45.00                               
##  Max.   :-39.00                               
##  workplaces_percent_change_from_baseline
##  Min.   :-73.00                         
##  1st Qu.:-39.50                         
##  Median :-35.00                         
##  Mean   :-34.03                         
##  3rd Qu.:-23.50                         
##  Max.   :-14.00                         
##  residential_percent_change_from_baseline
##  Min.   : 7.00                           
##  1st Qu.:11.50                           
##  Median :14.00                           
##  Mean   :13.61                           
##  3rd Qu.:16.00                           
##  Max.   :22.00

Membuat Matriks dengan Fungsi pairs()

Untuk membuat matriks scatterplot kita hanya perlu memasukkan objek datacovidmobility kedalam fungsi pairs(). Berikut adalah sintaks yang digunakan dan output yang dihasilkan

pairs(datacovidmobility)

Kita juga dapat melakukan drop terhadap panel bawah grafik tersebut, yaitu dengan memasukkan argumen lower.panel=NULL.

pairs(datacovidmobility, lower.panel=NULL)

Visualisasi Data Menggunakan Fungsi plot()

Fungsi plot() merupakan fungsi umum yang digunakan untuk membuat plot pada R.

plot(datacovidmobility$SelfIsolation ~ datacovidmobility$Tanggal, data = datacovidmobility)

Memvisualisasikan Data dengan Self Isolation sebagai variabel Y dan Google Mobility Index sebagai variabel X
plot(datacovidmobility$SelfIsolation ~ datacovidmobility$
              retail_and_recreation_percent_change_from_baseline+datacovidmobility$
      grocery_and_pharmacy_percent_change_from_baseline+datacovidmobility$
      parks_percent_change_from_baseline+datacovidmobility$
      transit_stations_percent_change_from_baseline+datacovidmobility$
      workplaces_percent_change_from_baseline+datacovidmobility$
      residential_percent_change_from_baseline, data = datacovidmobility)

Membuat Korelasi Antar Variabel

Korelasi merupakan keterhubungan antar variabel. Untuk mengukur seberapa jauh hubungan antara satu variabel dengan variabel yang lain kita dapat menggunakan fungsi cor().

a. Korelasi variabel y dengan x1

cor(datacovidmobility$SelfIsolation,datacovidmobility$
      retail_and_recreation_percent_change_from_baseline)
## [1] -0.6641938

b. Korelasi variabel y dengan x2

cor(datacovidmobility$SelfIsolation,datacovidmobility$
      grocery_and_pharmacy_percent_change_from_baseline)
## [1] -0.11134

c. Korelasi variabel y dengan x3

cor(datacovidmobility$SelfIsolation,datacovidmobility$
      parks_percent_change_from_baseline)
## [1] -0.467805

d. Korelasi variabel y dengan x4

cor(datacovidmobility$SelfIsolation,datacovidmobility$
      transit_stations_percent_change_from_baseline)
## [1] -0.5454202

e. Korelasi variabel y dengan x5

cor(datacovidmobility$SelfIsolation,datacovidmobility$
      workplaces_percent_change_from_baseline)
## [1] -0.2105684

f. Korelasi variabel y dengan x6

cor(datacovidmobility$SelfIsolation,datacovidmobility$
      residential_percent_change_from_baseline)
## [1] 0.3890096

Dari hasil seluruh output di atas dapat disimpulkan bahwa untuk tingkat keterhubungan antara variabel y dengan x1, x2, x3, x4, dan x5 tidak memiliki hubungan sama sekali karena nilai yang dihasilkan berjumlah kurang dari 0. Sedangkan untuk tingkat keterhubungan antara variabel y dan x6 tidak sangat terhubung karena nilai yang dihasilkan di bawah 0,4.

Melakukan Permodelan

Berikut cara melakukan permodelan regresi linier berganda.

model <- lm(datacovidmobility$SelfIsolation ~ datacovidmobility$Tanggal, data = datacovidmobility)

Selanjutnya dengan model yang telah dibuat di atas, kita akan menggunakan fungsi summary() untuk menjelaskan atau mereview hasil dari model tersebut. Dan dengan ringkasan summary(model) kita dapat melihat informasi terperinci tentang kinerja dan koefisian model.

summary(model)
## 
## Call:
## lm(formula = datacovidmobility$SelfIsolation ~ datacovidmobility$Tanggal, 
##     data = datacovidmobility)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -1121.2  -383.9  -133.1   417.1  1079.7 
## 
## Coefficients:
##                             Estimate Std. Error t value Pr(>|t|)    
## (Intercept)                2.836e+06  1.995e+05   14.21 1.34e-14 ***
## datacovidmobility$Tanggal -1.737e-03  1.225e-04  -14.18 1.42e-14 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 527 on 29 degrees of freedom
## Multiple R-squared:  0.8739, Adjusted R-squared:  0.8696 
## F-statistic:   201 on 1 and 29 DF,  p-value: 1.422e-14

Menjelaskan rincian Model dengan fungsi summary()

Di atas merupakan rincian dari model yang telah dibuat.

Di posisi paling atas terdapat lm formula adalah datacovidmobility$SelfIsolation ~ datacovidmobility$Tanggal, data = datacovidmobility.

Lalu di bawahnya terdapat 5 nilai residual, sebelumnya kita perlu tahu bahwa Residual adalah perbedaan antara nilai nyata dan nilai prediksi. Yang mana semakin kecil nilai residual maka semakin baik atau benar model yang kita buat. Berikut nilai-nilai residual yang dihasilkan:

  • Nilai minimum = -1121.2

  • Nilai maximum = 1079.7

  • Nilai median = -133.1

  • Nilai quartil 1 = -383.9

  • Nilai quartil 3 = 417.1

Dari nilai-nilai tersebut dapat kita lihat bahwa dalam konteks ini berupa nilai minimum, maximum, median, quartil 1 dan quartil 3. Dapat kita simpulkan bahwa model yang telah kita buat belum bisa dikatakan baik atau benar karena nilai-nilai yang dihasilkan tidak mendekati nol.

Di bawah nilai residual terdapat koefisien, yang mana dalam koefisien tersebut terdapat nilai intersep, dan tanggal. Selain itu juga terdapat nilai-p dari koefisien

Selanjutnya terdapat dua R2 yaitu:

  • Multiple R-squared (pelipatan daripada variabel): 0.8739. Hal ini menunjukkan bahwa 0.008739% variasi variabel respon, y, dapat dijelaskan oleh variabel prediktor, x.

    Multiple R-squared tidak dapat berkurang saat kita menambahkan lebih banyak variabel independen ke model yang kita buat.

  • Adjusted R-squared (tidak pelipatan pada variabel): 0.8696.

    Adjusted R-squared lebih baik ada penambahan variabel. Jadi jika kita menambahkan lebih dari satu variabel ke model, itu hanya meningkat jika itu mengurangi kesalahan prediksi secara keseluruhan

Menggunakan Fungsi anova()

ANOVA (analysis of variance) adalah pengujian yang dilakukan dengan membandingkan varians. Dengan membandingkan varians tersebut, dapat diketahui ada tidaknya perbedaan rata-rata dari tiga atau lebih kelompok. Asumsi normalitas pada ANOVA adalah pada residual yaitu selisih antara Y Prediksi dengan Y Aktual. Tepatnya residual dapat dihitung sebagai berikut: Y Aktual – Y Prediksi. Dimana Y Aktual adalah Y sesungguhnya atau kenyataan. Sedangkan Y prediksi adalah Y hasil persamaan ANOVA.

anova(model)
## Analysis of Variance Table
## 
## Response: datacovidmobility$SelfIsolation
##                           Df   Sum Sq  Mean Sq F value    Pr(>F)    
## datacovidmobility$Tanggal  1 55834805 55834805  201.04 1.422e-14 ***
## Residuals                 29  8054363   277737                      
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Membuat plot() Model dari Data Real dan Data Prediksi

plot(datacovidmobility$SelfIsolation ~ datacovidmobility$
              Tanggal, 
     data = datacovidmobility, col = "green", pch = 20, cex = 1.5, 
     main = "Data Covid Self Isolation di DKI Jakarta dan Google Mobility Index")
abline(model) #Add a regression line

Dari Plot di atas perlu kita ketahui bahwa titik-titik hijau yang ada pada grafik tersebut adalah data real dan garis hitam di dalam kotak adalah data prediksi.

plot(cooks.distance(model), pch = 16, col = "green") #Plot the Cooks Distances.

plot(model)

Penggunaan AIC dan BIC

AIC dan BIC banyak digunakan dalam kriteria pemilihan model. AIC berarti Kriteria Informasi Akaike dan BIC berarti Kriteria Informasi Bayesian. Meskipun kedua istilah ini membahas pemilihan model, keduanya tidak sama. Seseorang dapat menemukan perbedaan antara dua pendekatan pemilihan model.

AIC(model)
## [1] 480.474
BIC(model)
## [1] 484.776

Memunculkan Nilai Predicted dan Memvisualisasikannya

head(predict(model), n = 11)
##        1        2        3        4        5        6        7        8 
## 8978.508 8828.461 8678.415 8528.368 8378.321 8228.274 8078.227 7928.181 
##        9       10       11 
## 7778.134 7628.087 7478.040
plot(head(predict(model), n = 10))

Memunculkan Nilai Residuals

head(resid(model), n = 11)
##           1           2           3           4           5           6 
##   420.49194   373.53871    26.58548  1006.63226  1079.67903   584.72581 
##           7           8           9          10          11 
## -1121.22742  -361.18065  -348.13387  -133.08710   394.95968
coef(model)
##               (Intercept) datacovidmobility$Tanggal 
##              2.835860e+06             -1.736652e-03

Membuat Tabel Untuk Menambah Data Residuals dan Data Predicted

Tabel di bawah merupakan semua proses yang telah dilakukan, sehingga terbuat tabel yang ada nilai residuals dan nilai protected.

datacovidmobility$residuals <- model$residuals
datacovidmobility$predicted <- model$fitted.values
datacovidmobility
## # A tibble: 31 x 10
##    Tanggal             SelfIsolation retail_and_recreation_per~ grocery_and_pha~
##    <dttm>                      <dbl>                      <dbl>            <dbl>
##  1 2021-08-01 00:00:00          9399                        -42               -5
##  2 2021-08-02 00:00:00          9202                        -32                2
##  3 2021-08-03 00:00:00          8705                        -34               -1
##  4 2021-08-04 00:00:00          9535                        -34               -2
##  5 2021-08-05 00:00:00          9458                        -37               -6
##  6 2021-08-06 00:00:00          8813                        -31                2
##  7 2021-08-07 00:00:00          6957                        -36                2
##  8 2021-08-08 00:00:00          7567                        -39               -5
##  9 2021-08-09 00:00:00          7430                        -32               -2
## 10 2021-08-10 00:00:00          7495                        -35               -6
## # ... with 21 more rows, and 6 more variables:
## #   parks_percent_change_from_baseline <dbl>,
## #   transit_stations_percent_change_from_baseline <dbl>,
## #   workplaces_percent_change_from_baseline <dbl>,
## #   residential_percent_change_from_baseline <dbl>, residuals <dbl>,
## #   predicted <dbl>

Visualisasi Data Menggunakan scatter.smooth, boxplot dan plot

scatter.smooth(x=datacovidmobility$Tanggal, y=datacovidmobility$SelfIsolation, 
               main="Tanggal ~ SelfIsolation")

boxplot(datacovidmobility$SelfIsolation, main="SelfIsolation", 
        boxplot.stats(datacovidmobility$SelfIsolation)$out)

plot(density(datacovidmobility$SelfIsolation), main="Google Mobility Index: Self Isolation", 
     ylab="Frequency")

coefs <- coef(model)
plot(SelfIsolation ~ Tanggal, data = datacovidmobility)
abline(coefs)
text(x = 12, y = 10, paste('expression = ', round(coefs[1], 2),  '+', 
                           round(coefs[2], 2), '*SelfIsolation'))

Melakukan Uji Korelasi Antar Variabel

Adanya korelasi antar variabel dapat dilakukan melalui visualisasi menggunakan scatterplot dan perhitungan matematis menggunakan metode Pearson untuk metode parametrik dan metode rangking Spearman dan Kendall untuk metode non-parametrik. Pada R uji korelasi dapat dilakukan dengan menggunakan fungsi cor.test(). Format fungsi tersebut adalah sebagai berikut:

a. uji korelasi variabel y dengan x1

cor.test(datacovidmobility$
 retail_and_recreation_percent_change_from_baseline, 
         datacovidmobility$SelfIsolation)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovidmobility$retail_and_recreation_percent_change_from_baseline and datacovidmobility$SelfIsolation
## t = -4.7846, df = 29, p-value = 4.615e-05
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  -0.8244898 -0.4052232
## sample estimates:
##        cor 
## -0.6641938

b. uji korelasi variabel y dengan x2

cor.test(datacovidmobility$
 grocery_and_pharmacy_percent_change_from_baseline, 
         datacovidmobility$SelfIsolation)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovidmobility$grocery_and_pharmacy_percent_change_from_baseline and datacovidmobility$SelfIsolation
## t = -0.60334, df = 29, p-value = 0.551
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  -0.4480053  0.2529808
## sample estimates:
##      cor 
## -0.11134

c. uji korelasi variabel y dengan x3

cor.test(datacovidmobility$
 parks_percent_change_from_baseline, 
         datacovidmobility$SelfIsolation)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovidmobility$parks_percent_change_from_baseline and datacovidmobility$SelfIsolation
## t = -2.8503, df = 29, p-value = 0.00796
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  -0.7052426 -0.1360102
## sample estimates:
##       cor 
## -0.467805

d. uji korelasi variabel y dengan x4

cor.test(datacovidmobility$
 transit_stations_percent_change_from_baseline, 
         datacovidmobility$SelfIsolation)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovidmobility$transit_stations_percent_change_from_baseline and datacovidmobility$SelfIsolation
## t = -3.5043, df = 29, p-value = 0.001507
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  -0.7540327 -0.2368558
## sample estimates:
##        cor 
## -0.5454202

e. uji korelasi variabel y dengan x5

cor.test(datacovidmobility$
 workplaces_percent_change_from_baseline, 
         datacovidmobility$SelfIsolation)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovidmobility$workplaces_percent_change_from_baseline and datacovidmobility$SelfIsolation
## t = -1.16, df = 29, p-value = 0.2555
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  -0.5256856  0.1553639
## sample estimates:
##        cor 
## -0.2105684

f. uji korelasi variabel y dengan x6

cor.test(datacovidmobility$
 residential_percent_change_from_baseline, 
         datacovidmobility$SelfIsolation)
## 
##  Pearson's product-moment correlation
## 
## data:  datacovidmobility$residential_percent_change_from_baseline and datacovidmobility$SelfIsolation
## t = 2.274, df = 29, p-value = 0.03055
## alternative hypothesis: true correlation is not equal to 0
## 95 percent confidence interval:
##  0.04021242 0.65329800
## sample estimates:
##       cor 
## 0.3890096

Berdasarkan seluruh output yang dihasilkan, metode Pearson menghasilkan output berupa nilai t uji, derajat kebebasan, nilai p-value, rentang estimasi nilai korelasi berdasarkan tingkat kepercayaan, dan estimasi nilai korelasi.