Trong chương này chúng ta khảo sát các dấu hiệu A,B,C,…thể hiện trên mỗi phần tử điều tra của một tổng thể có số lượng phần tử rất lớn. Chúng ta xem các dấu hiệu này có vai trò bình đẳng với nhau theo nghĩa là không phân biệt dấu hiệu nào là biến đáp ứng, dấu hiệu nào là biến giải thích. Khi đó số lượng các phần tử của tổng thể ứng với mỗi mức nhất định của các dấu hiệu A, B, C,… nói chung phụ thuộc vào mức của các dấu hiệu này và là một biến ngẫu nhiên tuân theo luật phân phối Poisson và ta muốn tìm hiểu cách mà biến Poisson này phụ thuộc vào các mức của các dấu hiệu A, B, C,…như thế nào. Như vậy thực chất biến phụ thuộc ở đây chính là biến Poisson đếm số phần tử quan sát được của tổng thể ứng với mức nhất định của các dấu hiệu A, B, C,… và các dấu hiệu A, B, C,… chính là các biến giải thích. Mẫu quan sát được thể hiện bởi một bảng ngẫu nhiên, trong đó tần số ở mỗi ô chính là số đếm nói trên. Mặt khác biến Poisson hoàn toàn được xác định bởi tham số kỳ vọng của nó, thành ra sự phụ thuộc nói trên của số đếm mỗi ô được đưa về sự phụ thuộc của số đếm kỳ vọng𝜇của mỗi ô đối với các dấu hiệu A, B, C,…. Nhằm mục đích đó, mô hình loglinear phân tích ảnh hưởng của các dấu hiệu A, B, C,… lên tần số kỳ vọng của mỗi ô, qua đó dự báo cho các tần số ô.
Phần 5.2 giới thiệu các mô hình loglinear cho các bảng ngẫu nhiên hai chiều. Phần 5.3 trình bày mô hình loglinear cho các bảng ba chiều. Phần 5.4 suy luận thống kê cho các tham số mô hình và kiểm tra tính thích hợp của mô hình. Phần 5.5 mở rộng kết quả cho các bảng có số chiều lớn hơn. Khi một biến là một đáp ứng nhị phân và các biến khác là các biến giải thích, các mô hình logit cho biến đáp ứng đó tương đương với một số mô hình loglinear nhất định. Phần 5.6 đề cập về kết nối giữa mô hình loglinear và logit.
Các mô hình loglinear chủ yếu được sử dụng khi ít nhất hai biến trong một bảng ngẫu nhiên là các biến đáp ứng; khi chỉ có một biến đáp ứng, việc sử dụng mô hình logit đơn giản và tự nhiên hơn.
Xem xét hai biến đáp ứng định tính có bảng phân phối xác suất đồng thời là bảng 𝐼×𝐽:
\[ \begin{array}{|c|c|c|c|c|c|c|} \hline X\text{\Y} & 𝐵_1 & \cdots & B_j & \cdots & B_J & 𝜋_{i+} \\ \hline A_1 & 𝜋_{11} & \cdots & 𝜋_{1j} & \cdots & 𝜋_{1J} & 𝜋_{1+} \\ \hline \vdots & \vdots & \ldots & \vdots & \cdots & \vdots & \vdots \\ \hline A_i & 𝜋_{i1} & \cdots & 𝜋_{ij} & \cdots & 𝜋_{iJ} & 𝜋_{i+} \\ \hline \vdots & \vdots & \cdots & \vdots & \cdots & \vdots & \vdots \\ \hline A_I & 𝜋_{I1} & \cdots & 𝜋_{Ij} & \cdots & 𝜋_{IJ} & 𝜋_{I+} \\ \hline 𝜋_{+j} & 𝜋_{+1} & \cdots & 𝜋_{+j} & \cdots & 𝜋_{+J} & 1 \\ \hline \end{array} \]
Bàng 5.1. Bàng ngẫu nhiên \(I \times J\) của hai biến đảp úng đọnh tính.
Bảng 5.1. Bảng ngẫu nhiên I X J của hai biến đáp ứng định tính
Trong đó \(𝜋_{ij} = P(A = A_i, B = B_j)\); \(𝜋_{i+} = \sum_j𝜋_{Ij}; 𝜋_{+j} = \sum_i 𝜋_{Ij}\)
Với mẫu ngẫu nhiên kích thước n, có bảng dữ liệu tương ứng:
\[ \begin{array}{|c|c|c|c|c|c|c|} \hline X\text{\Y} & 𝐵_1 & \cdots & B_j & \cdots & B_J & n_{i+} \\ \hline A_1 & n_{11} & \cdots & n_{1j} & \cdots & n_{1J} & n_{1+} \\ \hline \vdots & \vdots & \cdots & \vdots & \cdots & \vdots & \vdots \\ \hline A_i & n_{i1} & \cdots & n_{ij} & \cdots & n_{iJ} & n_{i+} \\ \hline \vdots & \vdots & \cdots & \vdots & \cdots & \vdots & \vdots \\ \hline A_I & n_{I1} & \cdots & n_{Ij} & \cdots & n_{IJ} & n_{I+} \\ \hline n_{+j} & n_{+1} & \cdots & n_{+j} & \cdots & n_{+J} & n \\ \hline \end{array} \]
Các mô hình loglinear cho các bảng ngẫu nhiên là các ví dụ về các mô hình GLM. Đối với các bảng 𝐼 × 𝐽,GLM này xử lý 𝑁 = 𝐼 × 𝐽 tần số ô như là N quan sát độc lập của một thành phần ngẫu nhiên Poisson. Đối với loglinear GLMs, dữ liệu là N tần số ô thay vì định tính riêng lẻ của n đối tượng . Các kỳ vọng {\(𝜇_{ij}\)} của các tần số ô được liên kết với các số hạng giải thích bằng cách sử dụng liên kết log.
Điều kiện độc lập giữa X và Y là
\(𝜋_{ij}= 𝜋_{i+} .𝜋_{+j}\), ∀𝑖,𝑗. (5.1.1)
Điều kiện độc lập giữa X và Y đặt ra cho dãy các kỳ vọng {\(𝜇_{ij}=𝑛.𝜋_{ij}\)}, là
\(𝜇_{ij}=𝑛.𝜋_{i+}.𝜋_{+j}, ∀𝑖,𝑗\) (5.1.2)
Các công thức này đề cập đến các xác suất ô {\({𝜋_{ij}}\)} là các tham số cho phân phối nhị thức và đa thức. Các công thức mô hình loglinear sử dụng {\({𝜇_{ij}}\)} hơn là {\({𝜋_{ij}}\)}, như vậy chúng cũng được áp dụng đối với việc lấy mẫu Poisson cho các tần số ô với các kỳ vọng {\({𝜇_{ij}}\)}.
Lấy log của cả hai vế của (5.1.2) nhận được mối quan hệ độc lập có dạng:
\(log {𝜇_{ij}}= 𝜆 + {𝜆_i^X} + {𝜆_j^Y}\), ∀i,𝑗 (5.1.3)
(Trong đó: \(𝜆=logn, {𝜆_i^X}=log𝜋_{i+}, {𝜆_j^Y}=log𝜋_{+j}\))
theo đó log tần suất kỳ vọng là một hàm của hiệu ứng hàng \({𝜆_i^X}\) và hiệu ứng cột \({𝜆_j^Y}\) (Các chữ cái X và Y đơn giản là nhãn, không phải là “độ lớn” số mũ). (5.1.3) được gọi là mô hình loglinear độc lập cho Bảng ngẫu nhiên hai chiều.
Tham số \({𝜆_i^X}\) đại diện cho hiệu ứng của mức \(A_i\) của biến X. Giá trị của \({𝜆_i^X}\) càng lớn, thì mỗi tần số kỳ vọng nằm trong hàng i của bảng càng lớn. Khi \({𝜆_s^X}={𝜆_i^X}\) mỗi tần số kỳ vọng trong hàng s bằng với tần số kỳ vọng tương ứng trong hàng i. Tương tự, tham số \({𝜆_j^X}\) đại diện cho hiệu ứng của mức \(𝐵_J\) biến Y.
Giả thiết không về tính độc lập giữa hai biến định tính chính là là giả thuyết cho rằng mô hình loglinear này phù hợp. Các giá trị thích hợp (Fitted Values) thỏa mãn mô hình là: {\({\hat{u}_{ij}=\frac{n_{i+}.n_{+j}}{n}}\)}, các tần số kỳ vọng ước tính cho các kiểm định chi- bình phương về tính độc lập. Các kiểm định chi- bình phương bằng cách sử dụng \(𝜒^2\),\(𝐺^2\) (trong phần cuối chương 2) cũng là các kiểm định tính phù hợp của mô hình loglinear này:
\(𝜒^2 = \sum_{i,j} \frac{(n_{ij}-\hat{𝜇}_{ij})^2}{\hat{𝜇}_{ij}};\) \(G^2=2 \sum n_{ij}.log(\frac{n_{ij}}{\hat{u}_{ij}})\)
Để đơn giản cho việc giải thích các tham số, ta xét trường hợp các phản hồi nhị phân.
Xét mô hình độc lập (5.1.1) cho bảng 𝐼 × 2,với hai cột là các mức của biến phản hồi Y. Trong hàng i, logit cho xác suất mà Y = 1 là:
\(log\frac{𝜋}{1-𝜋}=log\frac{u_{i1}}{u_{i2}}=logu_{i1}-logu_{i2}=𝜆_1^Y -𝜆_2^Y\) (5.1.4)
(5.1.4) cho thấy logit cho Y không phụ thuộc vào mức của X. Vì thế mô hình loglinear cho các đáp ứng độc lập có dạng đơn giản: logit(𝜋) = 𝛼, theo đó logit cho xác suất phản hồi trong cột 1 có cùng giá trị trong mỗi hàng. Trong mọi hàng, tỷ lệ cược của phản hồi trong cột 1 là odds = exp(𝛼) = \(exp(𝜆_1^Y -𝜆_2^Y)\)
Lưu ý:
Khi có một biến đáp ứng đơn lẻ là nhị phân, ta có thể áp dụng trực tiếp các mô hình logit và các mô hình loglinear là không cần thiết. Các mô hình loglinear chủ yếu là hữu ích cho việc mô hình hoá các mối quan hệ giữa hai hoặc nhiều biến đáp ứng định tính.
Đối với mô hình độc lập, người ta đưa ra nhiều cách ước lượng khác nhau cho các tham số 𝜆, \(𝜆^X_i\), \(𝜆^Y_j\) dựa trên ràng buộc:
\(log \hat{𝜇}_{ij}=\hat{𝜆} + \hat{𝜆}^X_i +\hat {𝜆}^Y_j\). (5.1.5)
Theo đó, người ta có thể đặt tham số cho cấp độ cuối cùng của mỗi nhân tố bằng 0, hoặc người ta có thể đặt tham số cho cấp độ đầu tiên của mỗi nhân tố bằng 0, hoặc cho phép các tham số cho mỗi nhân tố có tổng là 0.
Tuy nhiên, với một mô hình độc lập, một cách tự nhiên (phù hợp với dữ liệu có được), với các ký hiệu: \(f_{ij} = \frac{n_ij}{n}; f_{i+} = \sum_j f_{ij}; f_{i+} = \sum_i f_{ij}\), ta có thể chọn ước lượng cho các tham số 𝜆, \(𝜆^X_i\), \(𝜆^Y_j\) thỏa mãn (5.1.3) theo các đặc trưng tương ứng trên mẫu như sau:
\(\left\{\begin{array}{l}\hat{\mu}_{i j}=\frac{n_{i+1} n_{+j}}{n} \\ \hat{\pi}_{i+}=f_{i+} \\ \hat{\pi}_{+j}=f_{j+} \\ \hat{\lambda}_i^X=\log f_{i+}=\log \left(f_{i 1}+f_{i 2}\right)=\log \frac{n_{i+}}{n} \\ \hat{\lambda}_j^Y=\log f_{+j}=\log \left(f_{1 j}+f_{2 j}\right)=\log \frac{n_{+j}}{n}\end{array}\right.\)
Xét bảng dữ liệu về niềm tin vào thế giới bên kia được đề cập trong chương 2, được trình bày lại bởi bảng 5.3. Trong đó X = giới tính (= 1, nếu là nam, = 0, nếu là nữ) và Y = niềm tin ở thế giới bên kia ( = 1 nếu tin, = 0, nếu không tin)
\[\begin{array}{ll|rrr} & & & {X} \\ \text{Count} & & 0 & 1 & \text{Total} \\ \hline & 0 & 147 & 134 & 281 \\ Y & 1 & 435 & 375 & 810 \\ & \text{Total} & 582 & 509 & 1091 \\ \hline \hline \end{array}\]Bảng 5.3. Dữ liệu về niềm tin vào thế giới bên kia và giới tính của những người được điều tra
Tiến hành các kiểm định Chi - Bình phương cho giả thuyết \(𝐻_0\): Giới tính và niềm tin độc lập
\(𝜒^2\) =0,162084; P_value \((𝜒^2) = 0,6872;\)
\(G^2\)= 0,161995; P_value \((G^2) 0,6873\)
Đây là bằng chứng cho thấy giới tính và niềm tin vào thế giới bên kia là độc lập nhau. Vậy ta có một mô hình độc lập.
Bảng 5.4 dưới đây trình bày kết quả ước tính các tham số của mô hình loglinear với bảng dữ liệu 5.3, theo công thức (5.1.6):
\[ \begin{array}{|c-c|c-c|c-c|} \hline \text{Observed} & \text{Frequency} & \text{Fitted} & \text{Value} & \text{log(Fitted} & \text{Value)} \\ \hline 435 & 147 & 432,10 & 149,09 & 6,069 & 5,005 \\ \hline 375 & 134 & 377,90 & 131,10 & 5,935 & 4,876 \\ \hline \text{Estimated Parameter} & \hat{𝜆} & \hat{𝜆}_1^X & \hat{𝜆}_2^X & \hat{𝜆}_1^Y & \hat{𝜆}_2^Y \\ \hline \text{Estimated Parameter} & 6,995 & - 0,762 & - 0,628 & - 0,298 & - 1,356 \\ \hline \end{array} \]
\(\textit{Bảng 5.4. Ước lượng các tham số mô hình loglinear theo công thức (5.1.4)}\)
Theo đó mô hình loglinear độc lập ước lượng với bảng dữ liệu 5.3 là:
\(log{\frac{\hat{𝜋}}{1-\hat{𝜋}}} = \hat{𝜆}^Y_1 - \hat{𝜆}^Y_2 = 1,058\),
hay: \(\hat{𝜋} = \frac{1}{1+exp(-1,058)} = 0,7423\)
Điều này cho thấy xác suất để một người, bất luận là nam hay nữ, tin vào thế giới bên kia là 0,7423. Các ước lượng \(\hat{𝜇}_{ij}\) cho tần số các ô được trình bày trong cột Fitted Value của bảng 5.4.
Bảng dưới đây là kết quả ước lượng các tham số của mô hình loglinear cho bảng dữ liệu trên theo ba cách khác nhau.
\[ \begin{array}{|c-c|c-c|c-c|} \hline \text{Observed} & \text{Frequency} & \text{Fitted} & \text{Value} & \text{log(Fitted} & \text{Value)} \\ \hline 435 & 147 & 432,10 & 149,09 & 6,069 & 5,005 \\ \hline 375 & 134 & 377,90 & 131,10 & 5,935 & 4,876 \\ \hline \text{Estimated Parameter} & \hat{𝜆} & \hat{𝜆}_1^X & \hat{𝜆}_2^X & \hat{𝜆}_1^Y & \hat{𝜆}_2^Y \\ \hline \text{Set 1} & 4,876 & 0,134 & 0 & 1,059 & 0\\ \hline \text{Set 2} & 6,069 & 0 & - 0,134 & 0 & - 1,059\\ \hline \text{Set 3} & 5,472 & 0,067 & - 0,067 & 0,529 & - 0,529\\ \hline \end{array} \]
\(\textit{Bảng 5.5. ước lượng các tham số mo hình loglinear theo ba cách khác nhau}\)
Nhận xét: Mô hình loglinear cho hai biến độc lập là trường hợp đơn giản nhất của hồi quy loglinear. Ước lượng xác suất từ mô hình này và từ tỷ lệ trên mẫu là như nhau. Chẳng hạn với ví dụ trên, tỷ lệ tin vào thế giới bên kia trên mẫu là:
\(f = \frac{810}{1091} = 0,7424 = \hat{𝜋}\)
Bảng 5.5 trình bày các log của các giá trị được trang bị cho mô hình độc lập. {\({log\hat{𝜇}_{ij}}\)} thỏa mãn công thức (5.1.1) với các giá trị tham số ước tính \(\hat{𝜆}= 4.876\), \(\hat{𝜆}_1^X\) = 0.134,\(\hat{𝜆}_2^X\) = 0, \(\hat{𝜆}_1^Y\)= 1.059,\(\hat{𝜆}_2^Y\)= 0. Chẳng hạn: \(\hat{𝜇}_{12}\) = 149,90 và từ (5.1.1):
\(log\hat{𝜇}_{12}\) = \(\hat{𝜆}\) + \(\hat{𝜆}_1^X\) + \(\hat{𝜆}_2^Y\) = 4,876 + 0,134 + 0 = 5,010 = log(149,90).
Bảng 5.1.4 chỉ ra ba cách ước tính khác nữa cho các tham số. Sởi dĩ có nhiều cách ước tính như vậy là vì mô hình loglinear độc lập, hoàn toàn được xác định bởi hiệu \(\hat{𝜆}_1^Y\) − \(\hat{𝜆}_2^Y\).
(Mô hình loglinear tổng quát cho bảng ngẫu nhiên 2 chiều)
Khi các biến phụ thuộc thống kê thì ngoài tác động riêng rẽ, các biến còn có sự tương tác với nhau cùng tác động lên các tần số ô, tức là chúng thỏa mãn một mô hình Loglinear phức tạp hơn:
\(log𝜇_{ij} = 𝜆+𝜆^X_i +𝜆^Y_j +𝜆^{XY}_{ij}, ∀𝑖,𝑗\) (5.1.7)
Các tham số {\({𝜆_{ij}^{XY}}\)} là các số hạng kết hợp phản ánh độ lệch khỏi tính độc lập của X và Y. Nói cách khác đó là sự tác động tổng hợp của hai biến ở mức i của X và mức j của Y lên tần số kỳ vọng của ô (i,j). Mô hình (5.1.7) được gọi là mô hình loglinear bão hòa, đây là mô hình tổng quát nhất cho các bảng ngẫu nhiên hai chiều. Mô hình độc lập là trường hợp đặc biệt trong đó tất cả \({𝜆_{ij}^{XY}}\) = 0.