Mô hình hồi quy bội

Tên: Mai Huy

MSSV: 43.01.104.065

Số thứ tự: 08

# Load thư viện Mass chứa tập dữ liệu Boston
library(MASS)
# lm(medv~lstat + age ,data=Boston) là hàm dùng để fit một mô hình hồi quy bội với medv là giá trị đầu ra cần được dự đoán  và lstat với age là giá trị đầu vào trong tập dữ liệu Boston
lm.fit = lm(medv~lstat + age ,data=Boston)

# Hàm summary(lm.fit) sẽ cho chúng ta biết thông tin về p-values, thống kê t(t-statistic), độ lệch chuẩn cho những hệ số của 2 biến lstat và age, cũng như là thống kê R^2, sai số chuẩn (standard errors) và thống kê F (F-statistic) cho mô hình
summary(lm.fit)

Call:
lm(formula = medv ~ lstat + age, data = Boston)

Residuals:
    Min      1Q  Median      3Q     Max 
-15.981  -3.978  -1.283   1.968  23.158 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept) 33.22276    0.73085  45.458  < 2e-16 ***
lstat       -1.03207    0.04819 -21.416  < 2e-16 ***
age          0.03454    0.01223   2.826  0.00491 ** 
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 6.173 on 503 degrees of freedom
Multiple R-squared:  0.5513,    Adjusted R-squared:  0.5495 
F-statistic:   309 on 2 and 503 DF,  p-value: < 2.2e-16

# Sử dụng dấu chấm . để sử dụng tất cả 13 biến trong dữ liệu Boston làm đầu vào để có được đầu ra là medv sau khi hoàn tất quá trình fit mô hình hồi quy bội 
lm.fit=lm(medv~.,data=Boston)

# Phân tích thông tin chi tiết khi sử dụng tất cả các biến của dữ liệu Boston làm giá trị đầu vào, phân tích thông tin về p-values, thống kê t(t-statistic), độ lệch chuẩn cho những hệ số của tất cả 13 biến của dữ liệu Boston, cũng như là thống kê R^2, sai số chuẩn (standard errors) và thống kê F (F-statistic) cho mô hình
summary(lm.fit)

Call:
lm(formula = medv ~ ., data = Boston)

Residuals:
    Min      1Q  Median      3Q     Max 
-15.595  -2.730  -0.518   1.777  26.199 

Coefficients:
              Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.646e+01  5.103e+00   7.144 3.28e-12 ***
crim        -1.080e-01  3.286e-02  -3.287 0.001087 ** 
zn           4.642e-02  1.373e-02   3.382 0.000778 ***
indus        2.056e-02  6.150e-02   0.334 0.738288    
chas         2.687e+00  8.616e-01   3.118 0.001925 ** 
nox         -1.777e+01  3.820e+00  -4.651 4.25e-06 ***
rm           3.810e+00  4.179e-01   9.116  < 2e-16 ***
age          6.922e-04  1.321e-02   0.052 0.958229    
dis         -1.476e+00  1.995e-01  -7.398 6.01e-13 ***
rad          3.060e-01  6.635e-02   4.613 5.07e-06 ***
tax         -1.233e-02  3.760e-03  -3.280 0.001112 ** 
ptratio     -9.527e-01  1.308e-01  -7.283 1.31e-12 ***
black        9.312e-03  2.686e-03   3.467 0.000573 ***
lstat       -5.248e-01  5.072e-02 -10.347  < 2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 4.745 on 492 degrees of freedom
Multiple R-squared:  0.7406,    Adjusted R-squared:  0.7338 
F-statistic: 108.1 on 13 and 492 DF,  p-value: < 2.2e-16

# Tìm hiểu rõ hơn hàm summary dùng cho hồi quy tuyến tính, cũng như là ý nghĩa của những yếu tố trong câu lệnh này
?summary.lm

# Xuất qua R^2 của mô hình hồi quy bội khi sử dụng tất cả 13 biến của dữ liệu Boston là giá trị đầu vào
summary(lm.fit)$r.sq

[1] 0.7406427

# Xuất ra sai số chuẩn dư thừa (Residual standard error) của hàm hội quy bội ở trên
summary(lm.fit)$sigma

[1] 4.745298

# Fit mô hình hồi quy bội khi lấy tất cả các biến trừ biến age của dữ liệu Boston làm đầu vào
lm.fit1 = lm(medv~.-age,data= Boston)
# Phân tích thông tin mô hình hồi quy bội được tạo ở trên khi lấy tất cả biến trừ biến age
summary(lm.fit1)

Call:
lm(formula = medv ~ . - age, data = Boston)

Residuals:
     Min       1Q   Median       3Q      Max 
-15.6054  -2.7313  -0.5188   1.7601  26.2243 

Coefficients:
              Estimate Std. Error t value Pr(>|t|)    
(Intercept)  36.436927   5.080119   7.172 2.72e-12 ***
crim         -0.108006   0.032832  -3.290 0.001075 ** 
zn            0.046334   0.013613   3.404 0.000719 ***
indus         0.020562   0.061433   0.335 0.737989    
chas          2.689026   0.859598   3.128 0.001863 ** 
nox         -17.713540   3.679308  -4.814 1.97e-06 ***
rm            3.814394   0.408480   9.338  < 2e-16 ***
dis          -1.478612   0.190611  -7.757 5.03e-14 ***
rad           0.305786   0.066089   4.627 4.75e-06 ***
tax          -0.012329   0.003755  -3.283 0.001099 ** 
ptratio      -0.952211   0.130294  -7.308 1.10e-12 ***
black         0.009321   0.002678   3.481 0.000544 ***
lstat        -0.523852   0.047625 -10.999  < 2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 4.74 on 493 degrees of freedom
Multiple R-squared:  0.7406,    Adjusted R-squared:  0.7343 
F-statistic: 117.3 on 12 and 493 DF,  p-value: < 2.2e-16

# Có thể sử dụng hàm update để cập nhập mô hình hồi quy bội
lm.fit1=update(lm.fit, ~.-age)