DQT

1 VIẾT HÀM HỒI QUY BỘi

1.1 Viết hàm

• Ý tưởng: tạo 1 function gồm các khai báo data, y , x, new_data và cho qua kết quả về hệ số hồi quy, kiểm định và khuyết tật mô hình, dự báo.

• Cấu trúc hàm tự tạo: create_lm(data, y, x, new_data) (newdata có thể không khai báo).

• Trong đó: data là dữ liệu được chọn, y là biến phụ thuộc, x là biến độc lập và x có thể là 1 hoặc 2 biến trở lên tùy ý, new_data là giá trị của biến độc lập được đưa vào để dự báo biến phụ thuộc.

create_lm <- function(data, y, x, new_data) {
  # Tạo hàm lm
  model <- lm(paste(y, "~", paste(x, collapse = " + ")), data = data)
  # Kiểm định tự tương quan
  b <- lmtest::dwtest(model)
  # Kiểm định đa cộng tuyến
  c <- ols_vif_tol(model)
  # Vẽ đồ thị hồi quy
  ggPredict(model,interactive=TRUE)
  # Dự báo
  p <- predict(model, newdata = new_data)
  # In kết quả
  print("Bảng thống kê hồi quy")
  print(summary(model))
  print("Kiểm định tự tương quan")
  print(b)
  print("Kiềm định đa cộng tuyến")
  print(c)
  print("Dự báo kết quả")
  print(p)
  
}

1.2 Áp dụng hàm vừa tạo

# Chọn giá trị dự báo cho biến độc lập
new_data <- data.frame(disp = c(160), hp = c(100))
# Chạy hàm đã được tạo
create_lm(mtcars, "mpg", c("disp", "hp"), new_data)

## [1] "Bảng thống kê hồi quy"
## 
## Call:
## lm(formula = paste(y, "~", paste(x, collapse = " + ")), data = data)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -4.7945 -2.3036 -0.8246  1.8582  6.9363 
## 
## Coefficients:
##              Estimate Std. Error t value Pr(>|t|)    
## (Intercept) 30.735904   1.331566  23.083  < 2e-16 ***
## disp        -0.030346   0.007405  -4.098 0.000306 ***
## hp          -0.024840   0.013385  -1.856 0.073679 .  
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 3.127 on 29 degrees of freedom
## Multiple R-squared:  0.7482, Adjusted R-squared:  0.7309 
## F-statistic: 43.09 on 2 and 29 DF,  p-value: 2.062e-09
## 
## [1] "Kiểm định tự tương quan"
## 
##  Durbin-Watson test
## 
## data:  model
## DW = 1.3698, p-value = 0.0227
## alternative hypothesis: true autocorrelation is greater than 0
## 
## [1] "Kiềm định đa cộng tuyến"
##   Variables Tolerance      VIF
## 1      disp 0.3744003 2.670938
## 2        hp 0.3744003 2.670938
## [1] "Dự báo kết quả"
##        1 
## 23.39649

• Kết quả:
  • Bảng thống kê hồi quy:
    • mpg= 30.74 - 0.03(disp) - 0.02(hp)
    • Multiple R-squared= 0.75 > 0 nên mô hình phù hợp
    • Adjusted R-squared= 0.73 > 0 nên các biến độc lập phù hợp với mô hình
  • Kiểm định tự tương quan:
    • Durbin Watson Test có pvalue= 0.023 < 0.05 nên chấp nhận H0: mô hình không có hiện tượng tự tương quan
  • Kiểm định đa cộng tuyến:
    • VIF < 5 nên mô hình không có hiện tượng đa cộng tuyến ở mức cao
  • Dự báo kết quả:
    • Với disp=160 và hp= 100 thì kết quả dự báo của mpg=23.4

2 HỒI QUY BỘi

2.1 Khái quát

Phương trình hồi quy bội:

y = a + b1x1 + b2x2 +...bnxn

Trong đó:

• y là biến phụ thuộc
• a là hằng số hồi quy
• b1, b2, b3,… là hệ số hồi quy
• x1, x2, x3,.. là biến độc lập

Hàm hồi quy bội trong R:

lm(y ~ x1+x2+x3...,data)

2.2 Thực hành trên R

2.2.1 Dữ liệu hồi quy bội

data("mtcars")

hoiquy <- mtcars[,c("mpg","disp","hp","wt")]
head(hoiquy,10)

##                    mpg  disp  hp    wt
## Mazda RX4         21.0 160.0 110 2.620
## Mazda RX4 Wag     21.0 160.0 110 2.875
## Datsun 710        22.8 108.0  93 2.320
## Hornet 4 Drive    21.4 258.0 110 3.215
## Hornet Sportabout 18.7 360.0 175 3.440
## Valiant           18.1 225.0 105 3.460
## Duster 360        14.3 360.0 245 3.570
## Merc 240D         24.4 146.7  62 3.190
## Merc 230          22.8 140.8  95 3.150
## Merc 280          19.2 167.6 123 3.440

2.2.2 Tìm phương trình hồi quy

model <- lm(mpg ~ disp + hp + wt, data = mtcars)
model$coefficients

##   (Intercept)          disp            hp            wt 
## 37.1055052690 -0.0009370091 -0.0311565508 -3.8008905826

Như vậy, phương trình hồi quy bội là:

mpg= 37,105505 - 0,000937.disp - 0,031157.hp - 3,800891.wt

2.2.3 Kiểm định mô hình

summary(model)

## 
## Call:
## lm(formula = mpg ~ disp + hp + wt, data = mtcars)
## 
## Residuals:
##    Min     1Q Median     3Q    Max 
## -3.891 -1.640 -0.172  1.061  5.861 
## 
## Coefficients:
##              Estimate Std. Error t value Pr(>|t|)    
## (Intercept) 37.105505   2.110815  17.579  < 2e-16 ***
## disp        -0.000937   0.010350  -0.091  0.92851    
## hp          -0.031157   0.011436  -2.724  0.01097 *  
## wt          -3.800891   1.066191  -3.565  0.00133 ** 
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 2.639 on 28 degrees of freedom
## Multiple R-squared:  0.8268, Adjusted R-squared:  0.8083 
## F-statistic: 44.57 on 3 and 28 DF,  p-value: 8.65e-11

2.2.3.1 Sự phù hợp của mô hình hồi quy

• Multiple R-squared= 0.8268 > 0 nên mô hình trên là phù hợp.

2.2.3.2 Sự phù hợp của biến độc lập

• Adjusted R-squared= 0.8083 > 0 nên sự xuất hiện của các biến độc lập trong mô hình là phù hợp.

2.2.3.3 Đa cộng tuyến

• Kiểm tra đa cộng tuyến bằng ma trận tương quan

library("corrplot")
corrplot(cor(hoiquy), method = "number")

Theo nguyên tắc thông thường, người ta có thể nghi ngờ hiện tượng đa cộng tuyến khi mối tương quan giữa hai biến thấp hơn -0,8 hoặc cao hơn +0,9. => Như vậy, xảy ra hiện tượng đa cộng tuyến giữa các cặp biến độc lập là: disp-wt với R= 0.89

• Kiểm tra đa cộng tuyến bằng hệ số VIF

library("olsrr")
ols_vif_tol(model)

##   Variables Tolerance      VIF
## 1      disp 0.1365278 7.324517
## 2        hp 0.3654126 2.736633
## 3        wt 0.2064146 4.844618

Hệ số VIF <10 nên mô hình không xảy ra hiện tượng đa cộng tuyến

2.2.3.4 Tự tương quan

Để đo sự tự tương quan của phần dư trong R là thực hiện kiểm định Durbin-Watson. Cụ thể hơn, nó kiểm tra tự tương quan bậc nhất (tức là lag-1)

lmtest::dwtest(model)

## 
##  Durbin-Watson test
## 
## data:  model
## DW = 1.3673, p-value = 0.01612
## alternative hypothesis: true autocorrelation is greater than 0

Hình ảnh trên cho thấy đầu ra của phép thử Durbin-Watson trong R. Vì DW=1,3673>1 và giá trị p-value=0,01612<0,05, nên bác bỏ giả thuyết không và kết luận rằng phần dư tự tương quan.