Hồi Quy Đơn

Kiến thức liên quan

• Toán cao cấp:
  • Đạo hàm (hàm một biến, nhiều biến), ý ghĩa của đạo hàm.
  • Cực trị (hàm nhiều biến).
  • Ma trận.
• Kinh tế vi mô, Kinh tế vĩ mô.
• Xác suất thống kê:
  • Các phân phối xác suất thông dụng.
  • Ước lượng.
  • Kiểm định.

Mục tiêu môn học

khái niệm: Kinh tế lượng là một ngành khoa học sử dụng các phương pháp thống kê và toán học để kiểm tra các lý thuyết kinh tế và dự đoán các biến kinh tế.

• Lý thuyết tiêu dùng: Thu nhập sẽ ảnh hưởng tới tiêu dùng.
• Lý thuyết đầu tư: Lãi xuất sẽ ảnh hưởng đến mức đầu tư của doanh nghiệp/chính phủ.
• Lý thuyết tăng trưởng kinh tế: Tốc độ tăng trưởng của GDP bị ảnh hưởng bởi FDI.

Một số nguồn dữ liệu

library(WDI)
# Lấy dữ liệu về giá trị xuất khẩu hàng hóa của Việt Nam
export_data <- WDI(country = "VN", indicator = "TX.VAL.MRCH.XD.WD")

# Lấy dữ liệu về xuất khẩu của Việt Nam
exp <- WDI(country = "VN", indicator = "NE.EXP.GNFS.CD")

# Lấy dữ liệu về tỷ giá USD của Việt Nam
exc <- WDI(country = "VN", indicator = "PA.NUS.FCRF")

# Lấy dữ liệu về FDI của Việt Nam
fdi_data <- WDI(country = "VN", indicator = "BX.KLT.DINV.CD.WD")

# Lấy dữ liệu GDP của Việt Nam
gdp_data <- WDI(country = "VN", indicator = "NY.GDP.PCAP.CD")

Mục tiêu môn học (tt)

• Kiểm định các lý thuyết kinh tế.
• Đánh giá sự tác động của các biến độc lập lên biến phụ thuộc.
• Dự báo cho các biến kinh tế.

Mô hình

Hồi quy

Quan hệ Hàn số và Quan hệ Thống kê

Một số khái niệm trong thống kê

Một số khái niệm trong thống kê(tt)

Một số đặc trưng đo lường

\[ \begin{array}{|l|c|} \hline \text{Trung Bình} & \bar{X}=\frac{\sum_{i=1}^nx_i}{n} \\ \hline \text{Trung vị} & \\ \hline \text{Mod} & \\ \hline \text{Phương sai} & \text{var}(X)=\frac{\sum_{i=1}^n(x_i-\bar{x})^2}{n} \\ \hline \text{Độ lệch chuẩn} & \\ \hline \text{Hiệp phương sai} & \\ \hline \text{Hệ số tương quan} & r_{XY} = \frac{Cov(X,Y)}{\sqrt{Var(X)Var(Y)}} = \frac{\sum_{i=1}^n(x_i-\overline{x})(y_i-\overline{y})}{\sqrt{\sum_{i=1}^n(x_i-\overline{x})^2\sum_{i=1}^n(y_i-\overline{y})^2}} \\ \hline \end{array} \]

Phương pháp Bình Phương Cực Tiểu

Chúng ta có bộ số liệu: \[ \begin{array}{|c|c|c|c|c|} \hline \text{X} & x_1 & x_2 & \dots & x_n \\ \hline \text{Y} & y_1 & y_2 & \dots & y_n \\ \hline \end{array} \] Giả sử mối quan hệ giữa \(X\) và \(Y\) được mô tả bởi mô hình. \[Y = f(X) = \beta_0 + \beta_1X \tag{1}\] Chúng ta cần tìm (ước lượng) cho mô hình này (\(\beta_0\) và \(\beta_1\)).

Gọi ước lượng của 1 là: \[\hat{Y} = f(X) = \hat{\beta}_0 + \hat{\beta}_1X \tag{2}\]

Phương pháp Bình Phương Cực Tiểu

Phương pháp Bình Phương Cực Tiểu

\[ \begin{array}{|c|r|r|c|r|r|c|r|r|} \hline \text{TT} & \text{X} & \text{Y} & \text{TT} & \text{X} & \text{Y} &\text{TT} & \text{X} & \text{Y} \\ \hline 1& 8& 6& 8& 8& 5& 15& 15& 13\\ 2& 13& 9& 9& 10& 7& 16& 13& 11\\ 3& 8& 7& 10& 9.5& 7.2& 17& 11& 10\\ 4& 14& 13& 11& 14& 9.8& 18& 12& 8\\ 5& 22& 16& 12& 17& 16.4& 19& 16& 13\\ 6& 10& 9& 13& 9& 8.5& 20& 16& 11\\ 7& 10& 8& 14& 16& 14.5& 21& 15& 10\\ \hline \end{array} \]

Phương pháp Bình Phương Cực Tiểu

• Sai lệch giữa thực tế và mô hình: \[y_i - \hat{y}_i\]
• Tổng sai số giữa thực tế và mô hình: \[\sum_{i=1}^n(y_i - \hat{y}_i) \to min\]
• Tổng Bình phương sai số giữa thực tế và mô hình: \[\sum_{i=1}^n(y_i - \hat{y}_i)^2 = \sum_{i=1}^n(y_i - \hat{\beta}_0 - \hat{\beta}_1x_i)^2 \to min \tag{3}\]

Phương pháp Bình Phương Cực Tiểu

Biểu thức số 3 là hàm số với 2 biến số \(\hat{\beta}_0, \hat{\beta}_1\) (chính là 2 tham số trong mô hình mà chúng ta cần ước lượng). Chúng ta sẽ tìm cực tiểu cho hàm số này.

Phương pháp Bình Phương Cực Tiểu

Phương pháp Bình Phương Cực Tiểu

Nói lại cho rõ

Mối quan hệ giữa \(X\) và \(Y\) là quan hệ thống kê nên: \[E(Y|X) = \beta_0+\beta_1X+e\] Nhưng để cho ngắn gọn chúng vẫn viết: \[Y = \beta_0+\beta_1X\]

Hàm hồi quy tổng thể/quy mẫu

• Hàm hồi quy tổng thể (Population Regression Function - PRF): Là hàm hồi quy được ước lượng từ dữ liệu của tổng thể. \[Y = \beta_0+\beta_1X\]
• Hàm hồi quy mẫu (Sample Regression Function - SRF): Là hàm hồi quy được ước lượng từ dữ liệu của tổng thể. \[\hat{Y} = \hat{\beta}_0+\hat{\beta}_1X\]

Các giả thuyết của mô hình

• Kỳ vọng của sai số bằng không (\(E(e_i) = 0\)).
• Phương sai của các sai số không đổi (\(Var(e_i) = \sigma^2\)).
• Không có sự tương quan giữa các sai số với nhau (\(Cov(e_i,e_j) = 0\) khi \(i\ne j\)).
• Các sai số có phân phối chuẩn (\(e_i \sim N(0,\sigma^2)\)).
• Không có đan cộng tuyến giữa các biến độc lập.

Đánh giá mô hình

• Tổng sai số của mô hình: \[\sum_{i=1}^ne_i=\sum_{i=1}^n(y_i-\hat{y}_i) =1.7764\times 10^{-15}\]
• Tổng bình phương sai số: \[\sum_{i=1}^ne_i^2=\sum_{i=1}^n(y_i-\hat{y}_i)^2 =39.3476\]
• Độ lệch chuẩn (có hiệu chỉnh) của sai số: \[\hat{\sigma}^2 = \frac{\sum_{i=1}^n(y_i-\hat{y}_i)^2}{n-2} = 1.4391\]

Hệ số xác định mô hình

• Total Sum of Squares:\[TTS = \sum_{i=1}^n(y_i-\bar{y})^2 = 205.0657\]
• Error Sum of Squares: \[ESS=\sum_{i=1}^n(\hat{y}_i-\bar{y})^2 = 165.7181\]
• Rsidual Sum of Squares: \[RSS = \sum_{i=1}^n(y_i-\hat{y}_i)^2 = 39.3476\]
• \(TSS = RSS +ESS\)

Hệ số xác định mô hình

Bài toán ước lượng

Ước lượng hệ số hồi quy cho hàm hồi quy tổng thể \[\hat{\beta}_j - t_{n-2,\alpha/2}\times se(\hat{\beta}_j)\le \beta_j\le \hat{\beta}_j + t_{n-2,\alpha/2}\times se(\hat{\beta}_j)\] Với \[var(\hat{\beta}_0) = \left[\frac{1}{n}+\frac{\bar{X^2}}{n\times var(X)} \right]\sigma^2; var(\hat{\beta}_1) = \frac{\sigma^2}{n\times var(X)}\]

Nếu chưa biết \(\sigma^2\) chúng ta sẽ thay bằng ước lượng của nó là \(\hat{\sigma}^2\)

Bài toán ước lượng

Bài toán ước lượng

Ước lượng cho phương sai sai số của mô hình \[\frac{(n-2)\hat{\sigma}^2}{\chi^2_{n-2,\alpha/2}}\le \sigma^2 \le \frac{(n-2)\hat{\sigma}^2}{\chi^2_{n-2,1-\alpha/2}}\]

Bài toán kiểm định

• Bước 1: Đặt giả thuyết
• Bước 2: Tính giá trị kiểm định
• Bước 3: Tra bảng
• Bước 4: Quyết định (so sánh giá trị kiểm định và giá trị tra bảng)

Kiểm định hệ số hồi quy

Phương pháp truyền thống

• Bước 1: Đặt giả thuyết \[ \begin{cases}H_0: \beta_j = \beta_j^* \\ H_1:\beta_j \ne \beta_j^* \end{cases} \text{ hoặc } \begin{cases} H_0:\beta_j = \beta_j^* \\ H_1:\beta_j < \beta_j^* \end{cases} \text{ hoặc } \begin{cases} H_0:\beta_j = \beta_j^* \\ H_1:\beta_j > \beta_j^* \end{cases}\]
• Bước 2: Tính giá trị kiểm định \[ T= \frac{\hat{\beta}_j-\beta_j^*}{se(\hat{\beta}_j)}\]
• Bước 3: Với độ tin cậy \(\gamma\), tra bảng được \(t_{n-2,\alpha/2}\) hoặc \(t_{n-2,\alpha}\)
• Bước 4: Quy tắc bác bỏ:
  • Nếu \(|T| > t_{n-2,\alpha/2}\) bác bỏ \(H_0\).
  • Nếu \(T < - t_{n-2,\alpha}\) bác bỏ \(H_0\).
  • Nếu \(T > t_{n-2,\alpha}\) bác bỏ \(H_0\).

Kiểm định hệ số hồi quy

Phương pháp truyền thống

Ví dụ: Thu thập dữ liệu về FDI và GDP (đơn vị tính tỷ USD, từ World Bank) của Việt Nam từ năm 2000 đến năm 2022 ta có bảng số liệu sau:

Kiểm định hệ số hồi quy

Phương pháp P-Value

• Bước 1: Đặt giả thuyết
• Bước 2: Tính giá trị kiểm định
• Bước 3: Từ giá trị kiểm định tính P - Value (tra bảng)
• Bước 4: Quyết định (So sánh P - Value và mức ý nghĩa mong muốn)

Kiểm định sự phù hợp của mô hình

Phương pháp truyền thống

• Giả thuyết: \(\begin{cases}H_0: R^2 = 0 \\ H_1:R^2 \ne 0 \end{cases}\)
• Giá trị kiểm định: \(F = \frac{(n-2)R^2}{1-R^2}\)
• Tra bảng (phân phối Fisher) \(F_{1,n-2,\alpha}\)
• Kết luận: Nếu \(F>F_{1,n-2,\alpha}\) bác bỏ \(H_0\)

Kiểm định sự phù hợp của mô hình

Phương pháp truyền thống

Ví dụ: Với dữ liệu về GDP và FDI và mô hình \(GDP = \beta_0+\beta_1FDI\), hãy kiểm định xem mô hình này có phù hợp không?

• Giả thuyết: \(\begin{cases}H_0: R^2 = 0 \\ H_1:R^2 \ne 0 \end{cases}\)
• Giá trị kiểm định: \(F = \frac{(n-2)R^2}{1-R^2}=\) 260.793
• Tra bảng (Fisher): \(F_{1,n-2,\alpha}=\) 4.3248
• Kết luận: Do F > \(F_{1,n-2,\alpha}\) bác bỏ \(H_0\)

Kiểm định sự phù hợp của mô hình

Phương pháp P - Value

• Giả thuyết: \(\begin{cases}H_0: R^2 = 0 \\ H_1:R^2 \ne 0 \end{cases}\)
• Giá trị kiểm định: \(F = \frac{(n-2)R^2}{1-R^2}=\) 260.793
• Tính P - Value (Fisher): P - Value = 2.5704^{-13}
• Kết luận: Do P - Value < 0.05 nên bác bỏ \(H_0\)

Bài toán dự báo

• Dự báo cá biệt: Là giá trị dự báo của biến phụ thuộc (cho một cá thể) khi biến độc lập nhận một giá trị cụ thể là \(X_0\). \[\hat{Y}_0-se(Y_{cb})t_{n-2,\alpha/2} < Y_{cb} < \hat{Y}_0+se(Y_{cb})t_{n-2,\alpha/2}\] với \(se(Y_{cb})=\hat{\sigma}\sqrt{1+\frac{1}{n}+\frac{(X_0-\bar{X})^2}{\sum x_i^2}}\)
• Dự báo trung bình: Là giá trị dự báo trung bình của biến phụ thuộc khi biến độc lập nhận một giá trị cụ thể là \(X_0\). \[\hat{Y}_0-se(Y_{tb})t_{n-2,\alpha/2} < Y_{tb} < \hat{Y}_0+se(Y_{tb})t_{n-2,\alpha/2}\] Với: \[se(Y_{tb})=\hat{\sigma}\sqrt{\frac{1}{n}+\frac{(X_0-\bar{X})^2}{\sum x_i^2}}\]

Bài toán dự báo (cá biệt)

Ví dụ: Với số liệu về thu nhập và chi tiêu ở trên chúng ta sẽ dự báo giá trị cá biệt như sau:

Với giá trị của \(X\) lần lượt là: 13.5tr, 17tr và 22tr mỗi tháng thì mức chi tiêu là bao nhiêu?

• Hàm hồi quy: \(Y = 0.7875 + 0.7875X\)
• Dự báo điểm: 10.7518, 13.5079, 17.4453
• Dự báo khoảng:

Bài toán dự báo (trung bình)

Ví dụ: Với số liệu về thu nhập và chi tiêu ở trên chúng ta sẽ dự báo giá trị cá biệt như sau:

Với giá trị của \(X\) lần lượt là: 13.5tr, 17tr và 22tr mỗi tháng thì mức chi tiêu là bao nhiêu?

• Hàm hồi quy: \(Y =\) 0.7875 + 0.7875\(X\)
• Dự báo điểm: 10.7518, 13.5079, 17.4453
• Dự báo khoảng:

Lựa chọn mô hình

Việc lựa chọn mô hình dựa trên các tiêu chí sau:

• Dựa trên những nghiên cứu trước đây.
• Dựa trên đồ thị.
• Thử.

Ví dụ:

một số mô hình thường gặp

• \(Y = \beta_0+\beta_1X\)
• \(Ln(Y) = \beta_0+\beta_1X\)
• \(Y = \beta_0+\beta_1ln(X)\)
• \(ln(Y) = \beta_0 + \beta_1ln(X)\)
• \(Y = \beta_0+\beta_1X+\beta_2X^2\)

Hiện tượng phương sai thay đổi

Một trong những giả thuyết của mô hình là \(Var(e_i) = \sigma^2\). Nếu giả thuyết này bị vi phạm sẽ gây ra những điều sau:

• OLS không còn là phương pháp ước lượng hiệu quả (phương sai nhỏ nhất).
• Bài toán ước lượng không còn chính xác.
• Các bài toán kiểm định không chính xác.
• Bài toán dự báo không chính xác.

Phát hiện phương sai thay đổi

• Kiểm tra đồ thị