1 Giới thiệu

  • Model selection đơn giản như cái tên của nó: lựa chọn mô hình. Đã gọi là lựa chọn thì sẽ phải có tiêu chí để lựa chọn (tất nhiên là phải có sự đánh đổi). Trong ngành ngân hàng hiện nay, thông thường họ hay dùng các lớp mô hình liên quan đến xác suất để đánh giá rủi ro tín dụng đối với khách hàng, vì thế họ thường lựa chọn các tiêu chí như GINI, AUC, sensitivity (recall), specificity, hoặc precision … các tiêu chí này được thực hiện rất tốt trên package ROCR.

  • Song song với việc đánh giá performance của mô hình, người làm mô hình cần phải kiểm tra hiện tượng overfit của mô hình. Tất nhiên là mô hình có sai số ít hơn thì sẽ tốt hơn, nhưng mà những mô hình này rất dễ bị overfitting (chỉ có performance tốt trên tập dữ liệu estimate những lại có performance kém trên tập dữ liệu dự báo). Để tránh hiện tượng overfitting này, người ta đưa ra “mức phạt” (ưu tiên mô hình có số lượng biến ít hơn). 2 chỉ số phạt tốt nhất là AIC và BIC. Hai chỉ số này áp dụng tốt với các mô hình dạng linear regression, logit regression, timeseries, …

2 AIC là gì? BIC là gì?

Akaike’s (1973) information criteria (AIC), Schwarz’s (1978) bayes information criteria (BIC) là 2 chỉ số tốt nhất để chọn mô hình.

3 So sánh AIC và BIC

Akaike (1974) chỉ ra rằng các kiểm định giả thuyết thống kê là không phù hợp đối với model selection. Hơn nữa, ông ý chỉ ra rằng một thủ tục khác là minimum AIC estimate (MAICE) là thủ tục có khả năng hơn và không có nhiều thiếu sót đối với việc kiểm định các giả thiết mô hình. Tác giả cũng tuyên bố rằng, mặc dù MAICE có thể dùng được với phần lớn các mô hình thống kê, nhưng chỉ số này hữu ích nhất đối với mô hình timeseries. Tong (1975) đã phát triển một thủ tục để xác định bậc của AR (autoregressive) bằng việc sử dụng AIC. Thủ tục này đã được chứng minh rất tốt trên cả tập dữ liệu mô phỏng lẫn thực tế. Thật thú vị, bài toán của Tong gần giống như các bài toán phân tích nhân tố cổ điển khi các tham số được ước lượng bằng ML method và bậc được xác định bởi MAICE. Do đó, thủ tục của Tong được xem như là 1 mở rộng của thủ tục xác định bậc trong phân tích nhân tố.

Shibata (1976) đã phân tích các thuộc tính thống kê của Akaike (1973, 1974) và đề xuất 1 phương pháp ước lượng mô hình thống kê (statistical model fitting). Đặc biệt, tác giả kiểm tra tính nhất quán của AIC và chỉ ra rằng AIC không nhất quán trong việc lựa chọn bậc trong mô hình AR (autoregressive)

Hannan and Quinn (1979) mặt khác lưu ý rằng BIC là tiêu chí đồng nhất cao (strongly consistency criterion) với việc lựa chọn bậc của mô hình AR và được ủng hộ bởi Tsay (1984) với mô hình có biến phụ thuộc là không dừng (non stationary dependent variable)

Soderstrom (1977) đã kiểm tra 2 tiêu chí AIC và FPE (full percentile error) bằng việc sử dụng F-test để lựa chọn giữa 2 mô hình khi mô hình nhỏ nằm trong mô hình lớn và kết luận 2 thủ tục là tương đương. Stone (1977) và Nishii (1981) sử dụng kiểm định chéo (cross validation) đã chứng minh sử dụng AIC và FPE là tương đương. Bằng cách khác Shibata (1981) đã chứng minh AIC, FPE và Cp tương đương và tính tương đương của Bayesian posterior odds ratio (POR) và AIC. Tương tự AIC và BIC được chứng minh là tương đương trong nhiều nghiên cứu

Hannan(1980) đã tìm ra kết quả tương tự Shibata (1976) với trường hợp non-Gaussian (chắc lúc này hối hận vì tuyên bố trước lắm)

Chung quy lại AIC được sử dụng để tìm ra overfit trong mô hình và với mô hình được chọn bởi AIC kết quả vẫn đồng nhất và tiệm cận chuẩn.

Nói chung, nhiều nghiên cứu sau này dùng cả 2 chỉ số AIC, BIC đều cho thấy kết quả tương đương.

Hurvich và Tsai (1989) đưa ra 1 phiên bản sửa lỗi lệch của AIC là AICc

\[ AIC_c = AIC + \frac{2k(k-1)} {T-K-1} \]

Phiên bản này rất hữu ích đối với mẫu nhỏ hay số lượng tham số của mô hình và vừa phải so với quy mô mẫu. Chỉ số này được tác giả tuyên bố là tương đối hiệu quả nếu mô hình đúng có vô hạn chiều (chưa hiểu lắm :))). Mặc dù vậy, với mô hình hữu hạn chiều AICc vẫn tốt hơn các tiêu chí khác theo nghĩa là xác suất chọn được mô hình đúng cao hơn các chỉ số khác

Hurvich và Tsai (1993) cũng mở rộng AICc với mô hình AR(p)

Hurvich và Tsai (1991) so sánh giữa AIC, BIC và AICc về giải quyết overfit, kết quả với mô hình ước lượng trên tập mẫu nhỏ AICc tốt hơn đáng kể so với AIC và BIC, nhưng với mẫu trung bình trở lên thì chỉ tốt hơn 1 chút

Sin và White (1992) cân nhắc sử dụng mức phạt với log-likelihood cho model selection với nhiều dạng như nested, non-nested, correctly specified or misspecified. Họ cung cấp điều kiện chọn mức phạt bảo đảm rằng việc lựa chọn mô hình đúng với xác suất gần bằng 1 (có điêu không nhỉ?) khi mô hình cạnh tranh có cùng KLIC và có các tiêu chí tương tự. Họ cũng mô tả thuộc tính nổi tiếng AIC,BIC and HQ criteria

4 Kết luận

Để tránh hiện tượng overfit trong mô hình có cần sử dụng một số tiêu chí để kiểm tra như sau:

  • AICc: tốt nhất với mô hình có mẫu nhỏ
  • Với mẫu trung bình trở lên thì dùng AIC, BIC, AICc là tương đương
  • Ngoài AIC và BIC còn có các chỉ số khác như Shibata, Hannan Quinn, và log-likelihood … để đánh giá hiện tượng overfit của mô hình
  • Note: Các mô hình khác nhau không có ngưỡng cụ thể của các chỉ số, nhưng mô hình tốt hơn là mô hình có các chỉ số AIC, BIC, HQIC, SIC, log-likelihood… càng nhỏ càng tốt
---
title: "Compare aic and bic for model selection"
author: "Nguyễn Ngọc Bình"
date: "6/17/2019"
output: 
  html_document: 
    code_download: true
    code_folding: hide
    number_sections: yes
    theme: "default"
    toc: TRUE
    toc_float: TRUE
    dev: 'svg'

---

```{r setup, include=FALSE}
knitr::opts_chunk$set(echo = TRUE)
```

# Giới thiệu

- Model selection đơn giản như cái tên của nó: lựa chọn mô hình. Đã gọi là lựa chọn thì sẽ phải có tiêu chí để lựa chọn (tất nhiên là phải có sự đánh đổi). Trong ngành ngân hàng hiện nay, thông thường họ hay dùng các lớp mô hình liên quan đến xác suất để đánh giá rủi ro tín dụng đối với khách hàng, vì thế họ thường lựa chọn các tiêu chí như GINI, AUC, sensitivity (recall), specificity, hoặc precision ... các tiêu chí này được thực hiện rất tốt trên package ROCR. 

- Song song với việc đánh giá performance của mô hình, người làm mô hình cần phải kiểm tra hiện tượng overfit của mô hình. Tất nhiên là mô hình có sai số ít hơn thì sẽ tốt hơn, nhưng mà những mô hình này rất dễ bị overfitting (chỉ có performance tốt trên tập dữ liệu estimate những lại có performance kém trên tập dữ liệu dự báo). Để tránh hiện tượng overfitting này, người ta đưa ra "mức phạt" (ưu tiên mô hình có số lượng biến ít hơn). 2 chỉ số phạt tốt nhất là AIC và BIC. Hai chỉ số này áp dụng tốt với các mô hình dạng linear regression, logit regression, timeseries, ...


# AIC là gì? BIC là gì?

Akaike's (1973) information criteria (AIC), Schwarz's (1978) bayes information criteria (BIC) là 2 chỉ số tốt nhất để chọn mô hình.

# So sánh AIC và BIC

Akaike (1974) chỉ ra rằng các kiểm định giả thuyết thống kê là không phù hợp đối với model selection. Hơn nữa, ông ý chỉ ra rằng một thủ tục khác là minimum AIC estimate (MAICE) là thủ tục có khả năng hơn và không có nhiều thiếu sót đối với việc kiểm định các giả thiết mô hình. Tác giả cũng tuyên bố rằng, mặc dù MAICE có thể dùng được với phần lớn các mô hình thống kê, nhưng chỉ số này hữu ích nhất đối với mô hình timeseries. Tong (1975) đã phát triển một thủ tục để xác định bậc của AR (autoregressive) bằng việc sử dụng AIC. Thủ tục này đã được chứng minh rất tốt trên cả tập dữ liệu mô phỏng lẫn thực tế. Thật thú vị, bài toán của Tong gần giống như các bài toán phân tích nhân tố cổ điển khi các tham số được ước lượng bằng ML method và bậc được xác định bởi MAICE. Do đó, thủ tục của Tong được xem như là 1 mở rộng của thủ tục xác định bậc trong phân tích nhân tố. 

Shibata (1976) đã phân tích các thuộc tính thống kê của Akaike (1973, 1974) và đề xuất 1 phương pháp ước lượng mô hình thống kê (statistical model fitting). Đặc biệt, tác giả kiểm tra tính nhất quán của AIC và chỉ ra rằng AIC không nhất quán trong việc lựa chọn bậc trong mô hình AR (autoregressive) 

Hannan and Quinn (1979) mặt khác lưu ý rằng BIC là tiêu chí đồng nhất cao (strongly consistency criterion) với việc lựa chọn bậc của mô hình AR và được ủng hộ bởi Tsay (1984) với mô hình có biến phụ thuộc là không dừng (non stationary dependent variable)

Soderstrom (1977) đã kiểm tra 2 tiêu chí AIC và FPE (full percentile error) bằng việc sử dụng F-test để lựa chọn giữa 2 mô hình khi mô hình nhỏ nằm trong mô hình lớn và kết luận 2 thủ tục là tương đương. Stone (1977) và Nishii (1981) sử dụng kiểm định chéo (cross validation) đã chứng minh sử dụng AIC và FPE là tương đương. Bằng cách khác Shibata (1981) đã chứng minh AIC, FPE và Cp tương đương và tính tương đương của Bayesian posterior odds ratio (POR) và AIC. Tương tự AIC và BIC được chứng minh là tương đương trong nhiều nghiên cứu

Hannan(1980) đã tìm ra kết quả tương tự Shibata (1976) với trường hợp non-Gaussian (**chắc lúc này hối hận vì tuyên bố trước lắm**)

Chung quy lại AIC được sử dụng để tìm ra overfit trong mô hình và với mô hình được chọn bởi AIC kết quả vẫn đồng nhất và tiệm cận chuẩn. 

Nói chung, nhiều nghiên cứu sau này dùng cả 2 chỉ số AIC, BIC đều cho thấy kết quả tương đương. 


Hurvich và Tsai (1989) đưa ra 1 phiên bản sửa lỗi lệch của AIC là AICc 

$$ AIC_c = AIC + \frac{2k(k-1)} {T-K-1} $$

Phiên bản này rất hữu ích đối với mẫu nhỏ hay số lượng tham số của mô hình và vừa phải so với quy mô mẫu. Chỉ số này được tác giả tuyên bố là tương đối hiệu quả nếu mô hình đúng có vô hạn chiều (chưa hiểu lắm :))). Mặc dù vậy, với mô hình hữu hạn chiều AICc vẫn tốt hơn các tiêu chí khác theo nghĩa là xác suất chọn được mô hình đúng cao hơn các chỉ số khác


Hurvich và Tsai (1993) cũng mở rộng AICc với mô hình AR(p) 


Hurvich và Tsai (1991) so sánh giữa AIC, BIC và AICc về giải quyết overfit, kết quả với mô hình ước lượng trên tập mẫu nhỏ AICc  tốt hơn đáng kể so với AIC và BIC, nhưng với mẫu trung bình trở lên thì chỉ tốt hơn 1 chút


Sin và White (1992) cân nhắc sử dụng mức phạt với log-likelihood cho model selection với nhiều dạng như nested, non-nested, correctly specified or misspecified. Họ cung cấp điều kiện chọn mức phạt bảo đảm rằng việc lựa chọn mô hình đúng với xác suất gần bằng 1 (**có điêu không nhỉ?**) khi mô hình cạnh tranh có cùng KLIC và có các tiêu chí tương tự. Họ cũng mô tả thuộc tính nổi tiếng **AIC,BIC and HQ criteria**

# Kết luận

Để tránh hiện tượng overfit trong mô hình có cần sử dụng một số tiêu chí để kiểm tra như sau: 

- AICc: tốt nhất với mô hình có mẫu nhỏ
- Với mẫu trung bình trở lên thì dùng AIC, BIC, AICc là tương đương
- Ngoài AIC và BIC còn có các chỉ số khác như Shibata, Hannan Quinn, và log-likelihood ... để đánh giá hiện tượng overfit của mô hình
- **Note: Các mô hình khác nhau không có ngưỡng cụ thể của các chỉ số, nhưng mô hình tốt hơn là mô hình có các chỉ số AIC, BIC, HQIC, SIC, log-likelihood... càng nhỏ càng tốt **
