111_115
14:13:24, 27 - 05 - 2024
- Với độ tin cậy \(\gamma=1-\alpha\), khoảng tin cậy cho hệ số hồi quy \(\beta_j\) là: \[(\hat{\beta_j}-u (\frac{\alpha}{2}) .se(\hat{\beta_j});\hat{\beta_j}+u (\frac{\alpha}{2}) .se(\hat{\beta_j}))\hspace{2cm} (4.5.3)\]
Việc tìm khoảng tin cậy cho các hệ số hồi quy với độ tin cậy 90%, 95%, 99% có thể tiến hành trên Eviews hay các phần mềm khác, cũng có thể lấy các giá trị \(\hat\beta_j\),se(\(\hat\beta_j\)) trong bảng kết quả hồi quy và tra bảng giá trị tới hạn của phân phối chuẩn tìm \(u(\frac{\alpha}{2})\) và thay vào công thức.
Ví dụ 5. Trong mô hình logistic về ảnh hưởng của độ rộng và màu sắc mai cua đến sự xuất hiện của vệ tinh cho cua cái:\[log(\frac{\pi(x)}{1-\pi(x)})=\beta_0+\beta_1.x_1+\beta_2.COLOR\] Khoảng tin cậy 97% cho hệ số hồi quy \(\beta_1\) được phần mềm Eviews cung cấp là:
4.5.2. Kiểm định về mô hình hồi quy logistic
a. Kiểm định sự phụ thuộc của biến đáp ứng Y vào biến dự báo \(X_j\): tiến hành tương tự như trường hợp hồi quy logistic hai biến, tức là kiểm định giả thuyết: \[H_0:\beta_j=0\space (Y\space không\space phụ \space thuộc \space vào \space X_j)\] ta dùng thống kê: \(Z=\frac{\hat\beta_j}{se(\hat\beta_j)}\), tiêu chuẩn bác bỏ giả thuyết \(H_0\) là: \[|Z|\geq u(\frac{\alpha}{2}),\space hoặc\space P-value=P(|Z|\geq u(\frac{\alpha}{2}))\leq\alpha\] lưu ý rằng: nếu không có yêu cầu cụ thể về mức ý nghĩa \(\alpha\), thì mặc định \(\alpha=0,05\). Các giá trị của thống kê Z hoặc P - value của Z đều được cung cấp bởi phần mềm.
b. Kiểm định về tính phù hợp của mô hình
Tức là kiểm định giả thuyết \(H_0\): mô hình không phù hợp, ta dùng thống kê tỷ số hợp lý LR (Likelihood ratio statistic): \[LR=-2(L_0-L_1)\](trong đó: \(L_0\) là cực đại của hàm log-likelihood khi \(\beta_1=\beta_2=\dots=\beta_m=0\), \(L_1\) là cực đại của hàm log-likelihood với \(\beta_1,\beta_2, \dots,\beta_m\) không bị giới hạn).
LR Statistic càng lớn (xác suất đuôi P-value càng bé) thì càng có xu hướng bác bỏ giả thuyết \(H_0\). Thống kê kiểm định này có phân phối xấp xỉ phân phối Chi - bình phương với bậc tự do \(df=m\) (số biến giải thích). Kiểm định này gọi là kiểm định tỷ số hợp lý (likelihood-ratio test). Tiêu chuẩn bác bỏ giả thuyết \(H_0\) là: \[-2(L_0-L_1) \geq X_{m}^{2}(\alpha),\space hoặc \space P-value = Prob(LR\space statistic)\leq \alpha.\hspace{1cm} (4.5.4)\]Các giá trị tính toán cho thống kê này đều được cung cấp bởi phần mềm, trong kết quả hồi quy. Mức ý nghĩa thường được chọn là \(\alpha=5\)%.
Ví dụ 6. Hồi quy logistic về ảnh hưởng của chiều rộng mai \(X_1\), màu sắc COLOR (có cấp độ thứ tự) đối với sự xuất hiện vệ tinh cho cua cái, trong đó biến màu sắc được gán điểm {1,2,3,4} tăng dần theo cấp độ tối của màu:\[log(\frac{\pi(x)}{1-\pi(x)})=\beta_0+\beta_1.x_1+\beta_2.COLOR\]Từ dữ liệu, ta có mô hình hồi quy ước lượng:\[log[\frac{\hat\pi(x)}{1-\hat\pi(x)}]=-10,07084+0,458310.x_1-0,509047.COLOR\]
Biến độ rộng mai \(X_1\) có P-value = Prob(Z) = 0,0000; biến màu sắc COLOR có P-value = Prob(Z) = 0,0229; cho thấy độ rộng mai cua và màu sắc của cua cái đều thực sự có ảnh hưởng đến sự xuất hiện của vệ tinh.
Thống kê LR có giá trị 36,63735 với P-value = Prob(LR) = 0,000000 là bằng chứng mạnh mẽ để cho rằng mô hình phù hợp với dữ liệu điều tra.
Ước đoán xác suất có vệ tinh: Xác suất có vệ tinh của một con cua móng ngựa cái có màu sáng trung bình và độ rộng mai 26,5 ước tính là:\[\hat\pi(x_1,1)=[1+exp\space(11,312774-0,467956.26,5)]^{-1}=0,748016\]
Tỷ lệ chênh ước tính của nhóm màu tối hơn so với màu trước đó: \[\hat\theta=\frac{\hat{Odds}(x_1,color+1)}{\hat{Odds}(x_1,color)}=e^{\hat\beta_2}=0,601068\]
cho thấy khả năng có vệ tinh của nhóm cua cái màu tối hơn so với nhóm cua cái màu kề trước, trong điều kiện cùng độ rộng mai, ước tính chỉ bằng 60,1068%.
- Khoảng tin cậy cho các hệ số hồi quy
Khoảng tin cậy 95% sao cho \(\beta_2\) là (-0,950600;-0,067493), cho thấy: khoảng tin cậy 95%, cho tỷ lệ chênh: \[\theta=\frac{Odds(x_1,color+1)}{Odds(x_1,color)}\]là: \((e^{-0,9506},e^{-0,067493})=(0,386509;\space0,934734)\). Điều này có nghĩa là: với độ tin cậy 95%, khả năng có vệ tinh ở nhóm cua cái có màu tối hơn (chẳng hạn màu đen vừa) ước tính chỉ bằng từ 38,6509% đến 93,4734% khả năng có vệ tinh của nhóm cua cái có màu sáng hơn kề trước (chẳng hạn màu trung bình), trong điều kiện cùng độ rộng mai cua.
4.6. Lựa chọn mô hình logistic
4.6.1. Các chỉ tiêu đánh giá mô hình hồi quy logistic
Để đánh giá mức độ phù hợp của một mô hình hồi quy logistic đối với dữ liệu, trước hết mô hình đó phải được đánh giá là mô hình phù hợp thông qua kiểm định. Tương tự như đối với mô hình logistic hai biến, người ta đưa ra nhiều chỉ số đánh giá khác nhau:
Chỉ số Pseudo - \(R^{2}\): Chỉ số này dùng để đánh giá tỷ lệ những biến thiên của biến đáp ứng được giải thích bởi mô hình. Chỉ số này càng lớn càng tốt.
Chỉ số AIC (Akaike information criterion) \[AIC \space=\frac{1}{n}(Deviance \space+2.k)\space(k\space là\space số\space tham\space số\space của\space mô\space hình)\hspace {2cm} (4.6.1)\]
Công thức này được sử sử dụng trong Eviews, trong các phần mềm khác như R người ta sử dụng công thức: \(AIC\space=\space Deviance\space+2.k.\) Chỉ số này càng bé càng tốt. Đây được xem là chỉ số quan trọng nhất khi lựa chọn mô hình.
- Chỉ số Brier. \(B=\frac{1}{n}\sum_{i=1}^{n} (Y_i-\hat\pi_i)^{2}\hspace{2cm} (4.6.2)\)
Trong đó \(\hat\pi_i\) là giá trị ước lượng của \(\pi(x_i)=E(Y|X=x_i)\). Chỉ số này xem như là sai số bình phương trung bình của dự báo điểm qua mô hình.
Chỉ số B càng bé thì dự báo điểm càng chính xác, mô hình càng phù hợp với dữ liệu quan sát.
- Ma trận nhầm lẫn.
4.6.2. Lựa chọn mô hình hồi quy logistic
a. Tiêu chí cho một mô hình tối ưu
Đơn giản (Simplicity): Nếu mô hình có quá nhiều biến giải thích thì sẽ rất khó trong việc phân tích dánh giá.
Đầy đủ (Adequacy): Mô hình phải có đầy đủ các biến giải thích quan trọng, có ảnh hưởng thực sự hoặc có ý nghĩa đối với biến đáp ứng.
Mô hình có ý nghĩa thực tế: Mô hình phải phản ánh được mối quan hệ thực tế giữa biến đáp ứng và các biến giải thích, ước lượng từ mô hình phải gần với thực thế quan sát cho biến đáp ứng.
b. Yêu cầu đối với các mô hình lựa chọn
Trong các mô hình logistic được xây dựng cho cùng một biến đáp ứng, để lựa chọn mô hình phù hợp nhất, trước hết phải đảm bảo các yêu cầu sau:
Các mô hình phải được xây dựng trên cùng một tập dữ liệu đối với biến đáp ứng.
Mô hình phải phù hợp với dữ liệu điều tra thông qua kiểm định.
Các mô hình phải lồng nhau (nested), tức là mô hình này có tập biến nằm trong tập biến của mô hình kia.
c. Các tiêu chí so sánh
Chỉ số AIC (Akaike information criterion): AIC càng bé càng tốt. Đây là chỉ số được sử dụng nhiều nhất để lựa chọn mô hình.
Chỉ số LRT (Likelihood ratio test): LRT được dùng để so sánh hai mô hình: \[LRT = -2.(logL_1-logL_2)=Deviace(1)-Deviance(2)\]
Trong đó \(logL_1\), Deviance(1) là Log likelihood và Deviance của mô hình đơn giản, \(logL_2\), Deviance(2) là Log likelihood và Deviance của mô hình phức tạp (mô hình có tập biến giải thích chứa tập biến giải thích của mô hình đơn giản).
LRT có phân phối Chi-bình phương với bậc tự do df=k là chênh lệch giữa số tham số của hai mô hình. Nếu LRT khác không một cách có ý nghĩa, tức là: \[LRT\geq X^{2}_k(\alpha),hay: P-value=Prob(LRT) \leq\alpha\] thì chọn mô hình phức tạp tốt hơn. Nếu ngược lại ta chọn mô hình đơn giản.
Ma trận nhầm lẫn (Confusion Matrix)
Đơn giản: Mô hình càng ít biến dự báo và đủ các biến quan trọng, càng tốt.
Ví dụ. Từ bảng 3.3 về dữ liệu cua móng ngựa, với biến đáp ứng
\[ Y= \begin{cases}1 & \text { nếu con cua cái có vệ tinh } \\ 0 & \text { nếu con cua cái không có vệ tinh }\end{cases} \]và các biến tác động: \(X_1\) (độ rộng mai), \(X_2\) (trọng lượng cua cái), \(X_3\) (số gai cột sống), COLOR (màu sắc mai cua cái).
Ma trận tương quan sau đây cho thấy hệ số tương quan \(\rho\left(X_1, X_2\right)=\) 0,886894 là khá lớn. \[ \begin{array}{ccccc} & \text { X1 } & \text { X2 } & \text { X3 } & \text { COLOR } \\ \text { X1 } & 1.000000 & 0.886894 & -0.145864 & -0.264386 \\ \text { X2 } & 0.886894 & 1.000000 & -0.163851 & -0.250673 \\ \text { X3 } & -0.145864 & -0.163851 & 1.000000 & 0.328084 \\ \text { COLOR } & -0.264386 & -0.250673 & 0.328084 & 1.000000 \end{array} \]
Từ bảng 4.20 về kết quả hồi quy logistic của \(Y\) theo \(X_1, X_2, X_3, C O L O R\), nhận được mô hình ước lượng: \[ \log \left(\frac{\hat{\pi}(x)}{1-\hat{\pi}(x)}\right)=-8,309518+0,297906 x_1+0,737327 x_2+0,371489 x_3- 0,6079. COLOR \hspace{1cm}(a) \]
Bảng 4.20.Kết quả hồi quy logistic với tác động của tất cả các yếu tố đến sự có mặt của vệ tinh.
Tuy mô hình phù hợp (Prob(LR statistic) < 0,01 < 0,05), nhưng biến \(X_2\) có Prob(Z) = 0,2842 (lớn) và hệ số tương quan mẫu \(p(X_1,X_2)=0,886894\) là khá lớn nên \(X_2\) không có ảnh hưởng thực sự đến Y. Vì vậy ta nên loại biến \(X_2\).
Loại bỏ biến \(X_2\), chạy hồi quy logistic theo \(X_1\) (độ rộng mai), \(X_3\) (số gai cột sống), COLOR.
Bảng 4.21.Kết quả hồi quy logistic loại trừ ảnh hưởng của trọng lượng đối với sự có mặt của vệ tinh.
Nhận được mô hình ước lượng: \[log(\frac{\hat\pi(x)}{1-\hat\pi(x)})=-11,00498+0,469543x_1+0,372461x_3-0,624513.COLOR\hspace{1cm} (b)\]Mô hình này có biến \(X_3\) không thực sự có ảnh hưởng đến biến đáp ứng, vì có \(Prob(Z)=0,1112>0,1>0,05.\)
Loại tiếp biến \(X_3\), chạy hồi quy logistic theo các biến \(X_1\),COLOR:
Bảng 4.22.Kết quả hồi quy logistic với ảnh hưởng \(X_1\) và COLOR.