Giao trình trang 76-80

Chạy hồi quy cho mô hình tỷ lệ : \(log[\mu(x)/t]=\alpha + \beta x\) , nhận được kết quả hồi quy là bảng 3.10 dưới đây. Từ đó nhận được mô hình ước lượng :

\[log[\frac{\hat\mu(x)}{t}]=-4,179732 + 0,196243.x\]

Variable	Coefficient	Std. Error	z-Statistic	Prob.
C	-4.179732	3.028020	-1.380351	0.1675
X1	0.196243	0.110815	1.770903	0.0766
Sum squared resid	0.672612	Quasi-log likelihood	3.871271
Deviance	0.298886	Deviance statistic	0.049814
Restr. deviance	4.740586	Quasi-LR statistic	4.441699
Prob(Quasi-LR stat)	0.035071	Pearson SSR	0.297534
Pearson statistic	0.049589	Dispersion	1.000000

Ước lượng cho lượng vệ tinh bình quân cho một con cua cái có mức chiều rộng x là:

\[\hat\mu(x) = t.epx\{-4,179732+0,196243.x\}\]

Với khoảng chiều rộng đầu tiên: \(x_{1}=22,75, t_{1}=14\),

\[\hat u(22,75)=14.epx\{-4,179732+0,196243.22,75\}=18,612876\]

3.4 Suy diễn và kiểm định mô hình

Sau khi giới thiệu hai GLM chính cho dữ liệu định tính, bây giờ chúng ta chú ý tới suy luận thống kê và kiểm tra mô hình cho GLM. Chúng ta minh họa cho GLM có thành phần ngẫu nhiên Poisson. Chương sau trình bày các phương pháp tương tự cho GLM có thành phần ngẫu nhiên nhị phân.

Đối với hầu hết GLM cho các biến đáp ứng định tính, việc tính toán các ước lượng theo phương pháp ML cho các tham số rất phức tạp về mặt tính toán, chúng ta không thể tính toán thủ công hay trên máy tính bỏ túi mà phải sử dụng các phần mềm thống kê như phần mềm GLM. Các ước lượng của ML có phân phối xấp xỉ phân phối chuẩn khi các mẫu lớn.

Như vậy, khoảng tin cậy cho một tham số \(\beta\) của mô hình là \(\hat\beta \pm z_{a/2}ASE\), trong đó ASE là sai số chuẩn xấp xỉ của \(\hat\beta\)

3.4.1 Bộ ba kiểm định Wals,tỷ số hợp lý và điểm

Có ba phương pháp để thực hiện kiểm định ý nghĩa của giả thuyết \(H_{0}:\beta=0\) về các tham số trong GLM. Phương pháp đơn giản nhất sử dụng tính chuẩn mẫu lớn của các ước lượng ML. Thống kê kiểm định

\[Z=\hat\beta/ASE\]

có phân phối chuẩn chính tắc khi \(\beta=0\).Giá trị của Z và P-value của thống kê này được cung cấp bởi phần mềm. Tiêu chuần bác bỏ giả thuyết \(H_{0}\) ở mức ý nghĩa \(\alpha\) là: \(-value<\alpha\)

Một cách tương đương, sử dụng thống kê thay thế là \(Z^2\) có phân phối chibình phương với bậc tự do \(df=1\); \(P–value\) được tra từ bảng giá trị tới hạn của phân phối chi bình phương. Thống kê này được gọi là thống kê \(Wald\).

Phương pháp thứ hai sử dụng hàm hợp lý thông qua tỷ lệ của hai cực đại của nó: (1) mức tối đa đối với các giá trị tham số có thể giả định giả thuyết không, (2) giá trị lớn nhất trong tập các giá trị tham số có thể có cho mô hình đầy đủ, cho phép giả thuyết không hoặc giả thuyết đối là đúng. Ký hiệu \(l_{1}\) là giá trị tối đa của hàm hợp lý cho mô hình đầy đủ, và \(l_{0}\) là giá trị tối đa cho mô hình đơn giản hơn,đại diện cho giả thuyết không. Ví dụ, khi dự báo tuyến tính \(\alpha+\beta x\) là và giả thuyết không là \(H_{0}:\beta=0,l_{1}\) là hàm hợp lý được tính tại \((\alpha,\beta)\) mà dữ liệu có thể có nhiều khả năng nhất ; \(l_{0}\) là hàm hợp lý tính tại giá trị \(\alpha\) mà dữ liệu có thể có nhiều nhất, khi \(\beta=0\) .

Thống kê kiểm định tỷ số hợp lý là

\[-2log(l_{0}/l_{1})=-2(logl_{0}-logl_{1})=-2(L_{0}-L_{1})\]

trong đó \(L_{0}\) và \(L_{1}\) là log của hàm hợp lý, thống kê này có phân phối xấp xỉ phân phối chi-bình phương. Hầu hết các phần mềm cho GLM đều cung cấp các giá trị log – likelihood cực đại và số liệu thống kê tỷ số tỷ lệ \(-2 (L_{0}-L_{1})\).

Một số phần mềm cho GLM cũng đưa ra phương pháp chi – bình phương thứ 3, sử dụng thống kê điểm, đôi khi còn được gọi là thống kê điểm hiệu quả. Chúng ta không đi sâu vào kiểm định này. Kiểm định Wald, tỷ số hợp lý và điểm là ba loại kiểm định thống kê chính cho GLM. Đối với các mẫu rất lớn, chúng được thực hiện tương tự. Đối với cỡ mẫu được sử dụng trong thực tế, kiểm định tỉ số hợp lý thường là đáng tin cậy hơn so với kiểm định Wald. Sự khác biệt trong các giá trị của ba thống kê chỉ ra rằng phân phối của \(\beta\) có thể khác nhiều so với phân phối chuẩn. Trong trường hợp đó, các phương pháp áp dụng cho trường hợp mẫu nhỏ phù hợp hơn so với phương pháp áp dụng cho mẫu lớn. Đối với GLM phổ biến nhất là hồi quy cho dữ liệu chuẩn sử dụng liên kết đồng nhất, ba kiểm định cho kết quả giống nhau.

\(\textit{Ví dụ 6}\): Để minh họa cho các kiểm định Wald và tỷ lệ hợp lý cho mô hình log – linear Poisson được áp dụng vào dữ liệu cua móng ngựa của mục 3.3.2. Từ bảng 3.8, ước lượng ML ảnh hưởng của chiều rộng là \(\hat\beta=0,164045\) , với ASE=0,020082. Kiểm định Wald \(H_{0}:\beta=0\) xét \(Z=\hat\beta/ASE=0,164045/0,020082=8,16880\)(Z là thống kê chuẩn chính tắc) hoặc \(z^2=66,730274\) (\(Z^2\) là thống kê chi-bình phương với bậc tự do \(df = 1\).Điều này là bằng chứng mạnh mẽ về tác động tích cực của chiều rộng khi có sự hiện diện của vệ tinh \(( P – value < 0,0000… < 0,0001)\). Chúng ta có được bằng chứng mạnh tương tự từ kiểm định tỷ lệ hợp lý có thể so sánh mô hình này với mô hình đơn giản hơn có \(\beta=0\), đó là:

\[-2(L_{0}-L_{1})= LR Statistic = 64,91309 với P-value =0,000000… < 0,00001).\]

3.4.2 Kiểm định mô hình Poisson

GLM đưa ra các mô tả và suy luận có chính xác cao cho một bộ dữ liệu chỉ khi nó là bộ dữ liệu tốt. Tóm tắt số liệu thống kê phù hợp tốt và phần dư giúp chúng ta nghiên cứu đầy đủ tính phù hợp của GLM. Chúng ta minh hoạ cho GLM với thành phần ngẫu nhiên Poisson. Đầu tiên chúng ta kiểm định giả thuyết không: thành phần ngẫu nhiên của GLM có phân phối Poisson (mô hình phù hợp). Giả sử biến giải thích có N giá trị quan sát khác nhau, ký hiệu yi là tần số tương ứng với giá trị thứ i trong N quan sát trên, và giá trị tính từ mô hình. Các thống kê phù hợp tốt (goodness-of-fit) có 2 dạng là Pearson và loglikelihood-ratio:

\[\chi^2=\sum\frac{(y_{i}-\hat\mu_{i})^2}{\hat\mu_{i}}\]
\[G^2=2\sum y_{i}log(\frac{y_{i}}{\hat\mu_{i}})\]

Khi các giá trị \(\hat\mu_i\) là tương đối lớn \(( > 5)\) và N cố định, các kiểm định thống kê này có \(\chi^2\) phân phối xấp xỉ chi bình phương với bậc tự do \(df\) bằng số lượng các ô trừ đi số tham số mô hình.

\(\textit{Ví dụ 7}\): Chúng ta minh họa bằng mô hình log – linear Poisson cho số lượng vệ tinh của một con cua móng ngựa cái, sử dụng chiều rộng của nó như là biến dự báo. Ta có N = 66 độ rộng khác biệt mỗi độ rộng có tần số \(Y_{i}\) (tổng số vệ tinh ứng với độ rộng thứ i) và giá trị \(\hat\mu_i\) . Từ số liệu và mô hình Poisson liên kết log ước lượng, ta có các giá trị thống kê \(\chi^2=174,3\) và \(G^2=190,0\) (có thể tính nhờ phần mềm) với \(df = 66 – 2 = 64\). Kết quả này cho thấy sự phù hợp của mô hình.Tuy nhiên, lý thuyết chi-bình phương mẫu lớn cho các thống kê này bị vi phạm do nhiều tần số quan sát được là nhỏ, thậm chí có một vài giá trị bằng không. Do đó, các kiểm định \(\chi^2\) và \(G^2\) không đáng tin cậy.

Trong trường hợp này chúng ta khắc phục bằng cách điều chỉnh mẫu sao cho các tần số tương ứng tăng lên. Chúng ta chia chiều rộng thành tám nhóm được trình bày trong Bảng 3.3. Đối với cua cái trong mỗi loại chiều rộng, chúng ta quan sát tổng số vệ tinh trong mỗi nhóm và tổng các giá trị được xác lập, cho ta một bộ mới gồm tám cặp (\(y_{i},\hat\mu_{i}\)có giá trị lớn hơn nhiều giá trị ở 66 cặp ban đầu (giá trị \(x_{i}\) lúc này là độ rộng trung bình của mỗi nhóm).Thay vào ta nhận được \(\chi^2=6.5\) và \(G^2=6.9\) với \(df=\)(số lượng đáp ứng - số tham số)\(=8-2=6\).Các số liệu thống kê cho thấy sự phù hợp ( \(P – value > 0,3\)). Phương pháp nhóm là tùy tiện, nhưng trong thực hành thường phân thành khoảng từ 6 đến 10 nhóm là đủ. Các giá trị thiết lập phải thỏa mãn \(\hat\mu_{i} \geqslant 5\) cho mỗi loại

Một cách tiếp cận đơn giản hơn sẽ nhận được từ việc điều chỉnh lại mô hình cho cách tính cho các nhóm. Điều này đòi hỏi phải gán điểm số cho các loại độ rộng bằng cách đơn giản là gán chiều rộng trung bình của tất cả các con cua cái trong mỗi loại cho chính loại đó, ta được kết quả: (22,69, 23,84, 24,77, 25,84, 26,79, 27,74, 28,67, 30,41). Cách làm này sẽ thô hơn vì coi tất cả tất cả các con cua trong một loại chỉ có một độ rộng. Bằng cách đó ta có \(\hat\alpha\) = -3,535 và \(\hat\beta\) =0,173 (ASE = 0,021). Chẳng hạn, tại điểm số chiều rộng nhỏ nhất là x = 22,69 thì ước lượng số lượng vệ tinh trung bình cho mỗi cua cái là \(exp[-3,535+0,173.(22,69)]=1,47\). Từ 14 con cua cái có điểm số đó, loại này có giá trị là \(\hat\mu_{1}\)=14.1,47=20,5 vệ tinh; ngược lại, số lượng vệ tinh quan sát được trong loại chiều rộng đầu tiên là \(y_{i}\)=14. Một sự so sánh các giá trị quan sát và giá trị được ước lượng cho 8 loại mang lại \(\chi^2=6,2 G^2=6,5\) với \(d𝑓= 6 (P-value>0,3)\). Kết quả này cũng cho thấy không có bằng chứng về mô hình thiếu phù hợp.

3.5. Sự phù hợp cho các mô hình tuyến tính tổng quát

Đầu tiên chúng ta mô tả sơ lược về một thuật toán được sử dụng để ước lượng các tham số của mô hình bằng phương pháp ML. Sau đó chúng ta cung cấp thêm chi tiết về cách suy luận cơ bản bằng cách sử dụng hàm hợp lý. Cuối cùng, chúng ta thảo luận về độ đo, được gọi là độ lệch, tóm tắt sự phù hợp của GLM.

3.5.1. Sơ lược về thuật toán Newton-Raphson

Đối với hầu hết GLM, các phương trình xác định các ước lượng tham số MLlà phi tuyến và các ước lượng không có biểu thức dạng đóng. Phần mềm tính toán các ước lượng sử dụng một thuật toán lặp đi lặp lại để giải các phương trình phi tuyến. Thuật toán đòi hỏi một dự đoán ban đầu cho các giá trị tham số hàm hợp lý cực đại. Các xấp xỉ tiếp theo được tạo ra bởi thuật toán có xu hướng rơi gần với ước lượng của ML. Một thuật toán phổ biến để làm việc này, được gọi là điểm Fisher, lần đầu tiên được đề xuất bởi R. A. Fisher để ước lượng các mô hình probit.Đối với hồi quy logistic và các mô hình loglinear Poisson, Fisher tính đơn giản hóa cho một mục đích chung gọi là thuật toán Newton-Raphson. Phương pháp Newton-Raphson sử dụng ma trận, được gọi là ma trận thông tin, cung cấp các giá trị cho các ước lượng tham số. Ma trận đó dựa trên độ cong của hàm log - hợp lý tại ước lượng ML. Độ cong càng lớn thì thông tin về giá trị tham số càng lớn. Các sai số chuẩn là căn bậc hai của các phần tử đường chéo đối với ma trận nghịch đảo. Độ cong của hàm log - hợp lý càng lớn thì sai số chuẩn càng nhỏ.

3.5.2. Suy luận bằng cách sử dụng hàm hợp lý

Phần 3.4.1 giới thiệu ba phương pháp để kiểm định \(H_{0}: \beta= 0\) cho tham số mô hình GLM: kiểm định Wald, kiểm định tỷ số hợp lý và kiểm định điểm số hiệu quả.

Kiểm định tỉ lệ hợp lý so sánh giá trị hàm log-hợp lý \(L_{1}\) tại \(\hat\beta\) và \(L_{0}\) tại, bằng việc sử dụng thống kê Chi-bình phương \(-2(L_{0}-L_{1})\). Trong một nghĩa nào đó, thống kê này sử dụng hầu hết các thông tin của ba loại kiểm định thống kê và thường là đáng tin cậy nhất

3.5.3. Độ lệch

Ký hiệu \(L_{M}\) là giá trị log-likelyhood cực đại cho mô hình M quan tâm. Cho \(L_{S}\) biểu thị giá trị log-likelyhood cực đại cho mô hình phức tạp nhất, mà nó có một tham số riêng tại mỗi biến giải thích: Mô hình đó được cho là bão hòa. Sự sai lệch của mô hình được định nghĩa là:

\[Độ lệch = -2(L_{M}-L_{S})\]

Sự sai lệch là thống kê tỷ số hợp lý để so sánh mô hình với mô hình bão hòa; đó là thống kê để kiểm định giả thuyết rằng tất cả các tham số trong mô hình bão hòa mà chúng không có mặt trong mô hình là bằng không.

Đối với nhiều GLM, độ lệch có phân phối xấp xỉ chi bình phương. Chẳng hạn hồi quy Poisson với một số mức độ giải thích cố định và số đếm tương đối lớn. Một ví dụ khác là các mô hình hồi quy nhị phân với một số mức độ giải thích cố định và số lượng thành công và thất bại tương đối lớn. Đối với các mô hình như vậy, người ta có thể sử dụng sai lệch để kiểm tra phù hợp với mô hình. Trong cả hai trường hợp, bậc tự do df bằng số lượng phản ứng (số đếm Poisson hoặc tổng số thành công của nhị phân) trừ đi số lượng các tham số mô hình không thừa. Các thành phần của độ lệch được gọi là các phần dư độ lệch, cung cấp các phương pháp chẩn đoán sự thiếu phù hợp cho các quan sát riêng biệt. Chúng là những lựa chọn thay thế cho các phần dư Pearson và các phần dư được hiệu chỉnh.

Đối với hai mô hình, giả sử rằng (\(M_{0}\)) là một trường hợp đặc biệt của (\(M_{1}\)).Giả sử rằng mô hình phức tạp hơn được cố định, thống kê tỷ số hợp lý cho cáckiểm định mà mô hình đơn giản hơn được chọn là

\[-2(L_{0} - L_{1}) = 2(L_{0} - L_{S}) - {-2(L_{1} - L_{S})} = độ lệch (M_{0}) - độ lệch (M_{1})\]

Người ta có thể so sánh các mô hình bằng cách so sánh độ lệch của chúng. Đối với các mẫu lớn, đây là một thống kê xấp xỉ chi-bình phương, với df bằng sự chênh lệch giữa các giá trị bậc tự do df đối với các mô hình riêng biệt. Giá trị \(df\) này bằng số lượng các tham số bổ sung trong \(M_{1}\) nhưng không ở \(M_{0}\)