Our Challenges

Trong post trước chúng ta đã làm quen với việc xây dựng một Recommender Engine từ khâu xử lí dữ liệu - chuẩn bị dữ liệu đến huấn luyện Recommender Engine. Là một case thuộc kiểu Toy Example nên bộ dữ liệu được lựa chọn một cách cố ý theo hướng đẹp và rất đầy đủ thông tin, nhất là ratings của những bộ phim. Đối với một hệ thống khuyến nghị thì ratings là một “nguyên liệu” không thể thiếu. Tuy nhiên thực tế thì không phải lúc nào chúng ta cũng có thông tin tối quan trọng này. Post này sẽ hướng dẫn xây dựng và huấn luyện một Recommender khi không có thông tin về ratings với ngôn ngữ R.

About Data Used

Dữ liệu sử dụng trong post này là E-Commerce Data về các giao dịch thương mại điện tử của một công ti ở Anh. Download cùng với mô tả về bộ dữ liệu này có thể lấy ở đây. Đọc bộ dữ liệu này rồi xem qua:

# Clear R Environment: 

rm(list = ls())

library(tidyverse) # For data wrangling and visualization. 

# Load data: 

df_transactions <- read_csv("data.csv")

# Some observations: 

library(knitr) # For creating table in HTML form. 

df_transactions %>% 
  head() %>% 
  kable(caption = "Table 1: Some Observations from raw data")

Table 1: Some Observations from raw data
InvoiceNo	StockCode	Description	Quantity	InvoiceDate	UnitPrice	CustomerID	Country
536365	85123A	WHITE HANGING HEART T-LIGHT HOLDER	6	12/1/2010 8:26	2.55	17850	United Kingdom
536365	71053	WHITE METAL LANTERN	6	12/1/2010 8:26	3.39	17850	United Kingdom
536365	84406B	CREAM CUPID HEARTS COAT HANGER	8	12/1/2010 8:26	2.75	17850	United Kingdom
536365	84029G	KNITTED UNION FLAG HOT WATER BOTTLE	6	12/1/2010 8:26	3.39	17850	United Kingdom
536365	84029E	RED WOOLLY HOTTIE WHITE HEART.	6	12/1/2010 8:26	3.39	17850	United Kingdom
536365	22752	SET 7 BABUSHKA NESTING BOXES	2	12/1/2010 8:26	7.65	17850	United Kingdom

Các tên biến số là rất dễ hiểu. Ví dụ InvoiceNo là mã hóa đơn, StockCode là mã hàng hóa và là hàng hóa gì thì được miêu tả ở Description còn CustomerID là mã khách hàng.

Recommender Engine without Ratings

Trong tình huống không có thông tin về ratings của các items chúng ta có thể xây dựng Recommender Engine từ binary matrix - là kiểu ma trận dạng như sau:

##       item1 item2 item3 item4 item5
## user1     0     1     1     0     0
## user2     1     0     0     1     1
## user3     0     0     0     0     1
## user4     1     1     1     1     1
## user5     1     1     1     0     0

Trước hết chúng ta convert dữ liệu nguyên thủy ban đầu về binary data frame như sau:

#------------------------------------
#  Option 1: Use spread() function
#------------------------------------

# Revome duplications by CustomerID: 

df_transactions %>% 
  group_by(CustomerID) %>% 
  filter(!duplicated(StockCode)) %>% 
  ungroup() -> df_transactions

# COnvert to user-item data frame (has 1 row and n columns for a specific CustomerID): 

df_transactions %>% 
  select(CustomerID, StockCode) %>% 
  mutate(item_value = 1) %>% 
  spread(value = item_value, key = StockCode, fill = 0) %>% 
  mutate(CustomerID = as.character(CustomerID)) -> df_binary

# Show some observations: 

set.seed(29)

df_binary %>% 
  slice(1:10) %>% 
  select(c(1, sample(x = 1:ncol(df_binary) - 1, size = 10, replace = FALSE))) %>% 
  kable(caption = "Table 2: Some Observations from binary data (Option 2)")

Table 2: Some Observations from binary data (Option 2)
CustomerID	22555	23108
12346	0	0
12347	0	0
12348	0	0
12349	1	1
12350	0	0
12352	0	0
12353	0	0
12354	0	0
12355	0	0
12356	0	0

Dòng 4 của Table 2 chỉ ra rằng khách hàng có mã CustomerID là 12349 mua các item có mã 22555 và 23108 - ứng với giá trị là 1 của binary data frame. Những item mà khách hàng này không mua có giá trị là 0.

Data Preparation for Recommender Engine

Đến đây cần convert binary data frame đã chuẩn bị ở trên về binary matrix - là cấu trúc dữ liệu đòi hỏi cho việc training các Recommender Engines của thư viện recommenderlab của Michael Hahsler như sau:

# Set CustomerID: 

CustomerID <- df_binary$CustomerID 

# Convert to binary matrix: 

matrix_wide <- as.matrix(df_binary %>% select(-CustomerID))

# Set row names: 

rownames(matrix_wide) <- CustomerID 

# Convert to binaryRatingMatrix for training recommender engines: 

library(recommenderlab)
ratingmat <- as(matrix_wide, "binaryRatingMatrix")

Binary matrix cho một số quan sát (Figure 1):

image(ratingmat[1:200, 1:200], main = "Figure 1: Binary rating matrix")

Dữ liệu là một ma trận thưa kiểu nhị phân (Binary Sparse Matrix) như chúng ta đã biết. Đây là thực tế phổ biến khi xây dựng các hệ thống khuyến nghị: hầu hét các cell của ma trận có giá trị là zero (thực chất là NA - Not Available, một vấn đề được gọi là Problem of Data Sparsity cho lớp bài toán này) dẫn đến mức độ che phủ dữ liệu của ma trận rất thấp (hầu hết là dưới 10%, mức phổ biến là 5%-6%). Với dữ liệu đã được chuyển về ma trận thưa, sử dụng 80% dữ liệu để huấn luyện Recommender Engine và 20% để test:

set.seed(1)
id <- sample(x = 1:nrow(ratingmat), size = 0.8*nrow(ratingmat), replace = FALSE)
data_train <- ratingmat[id, ]
data_test <- ratingmat[-id, ]

Vì dữ liệu đầu vào là binary sparse matrix nên thước đo tương đồng (similarity measure) theo Jaccard sẽ phù hợp hơn. R codes dưới đây thực hiện huấn luyện Recommender Engine trên train data theo Jaccard Similarity sử dụng Item-base Approach (có thể mất nhiều thời gian để train Engine):

recc_model <- Recommender(data = data_train,
                          method = "IBCF",
                          parameter = list(method = "Jaccard"))

Với Engine đã có chúng ta có thể sử dụng để khuyến nghị, ví dụ, 5 items cho mỗi một user/customer:

n_recommended <- 5
recc_predicted <- predict(object = recc_model, 
                          newdata = data_test,
                          n = n_recommended)

Viết hàm có tên item_recommended_user() trả về các items dưới dạng StockCode được khuyến nghị cho user/customer:

item_recommended_user <- function(i) {
  recc_predicted@itemLabels[recc_predicted@items[[i]]] -> StockCode
  CustomerID <- rep(recc_predicted@items[i] %>% names(), length(StockCode))
  df_result <- tibble(CustomerID = CustomerID, StockCode = StockCode)
  return(df_result)
  }

Sử dụng hàm trên để extract ra các items được khuyến nghị cho tất cả các users/customers:

lapply(1:nrow(data_test), item_recommended_user) -> list_itemsRecommended_users
do.call("bind_rows", list_itemsRecommended_users) -> df_itemsRecommended_users

Join với dữ liệu về miêu tả cho items theo StockCode:

# Descriptions about items: 
df_transactions %>% 
  filter(!duplicated(StockCode)) %>% 
  select(StockCode, Description) -> df_descriptions

# Join data sets: 
full_join(df_itemsRecommended_users, df_descriptions, by = "StockCode") -> df_recommended_for_users

Show các items khuyến nghị cho, ví dụ, customer thứ nhất:

df_recommended_for_users %>% 
  filter(CustomerID == recc_predicted@items[1] %>% names()) %>% 
  kable(caption = "Table 3: Some Items Recommended for CustomerID = 12347")

Table 3: Some Items Recommended for CustomerID = 12347
CustomerID	StockCode	Description
12347	20724	RED RETROSPOT CHARLOTTE BAG
12347	20723	STRAWBERRY CHARLOTTE BAG
12347	23204	CHARLOTTE BAG APPLES DESIGN
12347	22355	CHARLOTTE BAG SUKI DESIGN
12347	22730	ALARM CLOCK BAKELIKE IVORY

Approach to Evaluating Recommender Performance

Mặc dù thư viện recommenderlab có các hàm để đánh giá hiệu quả của Recommender Engine và đã được Suresh K. Gorakala sử dụng cho một case study trong textbook Building a Recommendation System with R nhưng áp dụng nguyên mà không có hiệu chỉnh gì thì sẽ không có nhiều ý nghĩa vì một vài lí do được trình bày ngay sau đây. Trước hết nhắc lại rằng khoảng thời gian mà chúng ta quan sát hành vi của các customers là từ 2010-12-01 08:26:00 đến 2011-12-09 12:50:00:

lubridate::mdy_hm(df_transactions$InvoiceDate) %>% range()

## [1] "2010-12-01 08:26:00 UTC" "2011-12-09 12:50:00 UTC"

Trong khi đó, những items được khuyến nghị cho các customers hoàn toàn dựa trên data về hành vi của họ trong khoảng thời gian này. Nghĩa là các items được Engine khuyến nghị hoàn toàn dựa vào những sự giao dịch/tương tác ĐÃ XẨY RA trong khi thực tế họ mua sắm những items nào thì chúng ta đã biết.

Do vậy, cách tiếp cận để đánh giá chất lượng của Recommender như sau có thể sẽ phù hợp hơn: so sánh các items được khuyến nghị cho customers với các items mà họ SẼ MUA sau thời điểm 2011-12-09 12:50:00. Đây là cách tiếp cận hợp lí hơn. Tình huống này cũng giống như chúng ta xây dựng một mô hình AR dự báo giá cổ phiếu tại thời điểm t + 1 (tức là giá của 1 ngày nữa) chỉ căn cứ vào giá của hiện tại (thời điểm t) và các biến trễ của t (thông tin trong quá khứ). Để biết mức độ chính xác của dự báo thì cách tiếp cận là, ví dụ, so sánh giá thực tế của 1 ngày sắp tới với giá được dự báo từ mô hình AR. Hướng tiếp cận này sẽ được trình bày chi tiết trong phần kế tiếp của series về Recommendation System.

References

---
title: 'Recommendation System (Part 2)'
author: 'Author: Nguyen Chi Dung'
subtitle: "R Machine Learning Series"
output:
  html_document: 
    code_download: true
    # code_folding: hide
    highlight: zenburn
    # number_sections: yes
    theme: "flatly"
    toc: TRUE
    toc_float: TRUE
---

```{r setup,include=FALSE}
knitr::opts_chunk$set(echo = TRUE, warning = FALSE, message = FALSE, fig.width = 10, fig.height = 6)
```


# Our Challenges

Trong [post trước](https://rpubs.com/chidungkt/634300) chúng ta đã làm quen với việc xây dựng một Recommender Engine từ khâu xử lí dữ liệu - chuẩn bị dữ liệu đến huấn luyện Recommender Engine. Là một case thuộc kiểu Toy Example nên bộ dữ liệu được lựa chọn một cách cố ý theo hướng đẹp và rất đầy đủ thông tin, nhất là ratings của những bộ phim. Đối với một hệ thống khuyến nghị thì ratings là một "nguyên liệu" không thể thiếu. Tuy nhiên thực tế thì không phải lúc nào chúng ta cũng có thông tin tối quan trọng này. Post này sẽ hướng dẫn xây dựng và huấn luyện một Recommender khi không có thông tin về ratings với ngôn ngữ R. 

# About Data Used

Dữ liệu sử dụng trong post này là **E-Commerce Data** về các giao dịch thương mại điện tử của một công ti ở Anh. Download cùng với mô tả về bộ dữ liệu này có thể lấy [ở đây](https://www.kaggle.com/carrie1/ecommerce-data). Đọc bộ dữ liệu này rồi xem qua: 

```{r}
# Clear R Environment: 

rm(list = ls())

library(tidyverse) # For data wrangling and visualization. 

# Load data: 

df_transactions <- read_csv("data.csv")

# Some observations: 

library(knitr) # For creating table in HTML form. 

df_transactions %>% 
  head() %>% 
  kable(caption = "Table 1: Some Observations from raw data")
```

Các tên biến số là rất dễ hiểu. Ví dụ **InvoiceNo** là mã hóa đơn, **StockCode** là mã hàng hóa và là hàng hóa gì thì được miêu tả ở **Description** còn **CustomerID** là mã khách hàng.

# Recommender Engine without Ratings

Trong tình huống không có thông tin về ratings của các items chúng ta có thể xây dựng Recommender Engine từ binary matrix - là kiểu ma trận dạng như sau: 


```{r, echo=FALSE}

fake_bin <- data.frame(item1 = sample(x = 0:1, size = 5, replace = TRUE), 
                       item2 = sample(x = 0:1, size = 5, replace = TRUE), 
                       item3 = sample(x = 0:1, size = 5, replace = TRUE), 
                       item4 = sample(x = 0:1, size = 5, replace = TRUE), 
                       item5 = sample(x = 0:1, size = 5, replace = TRUE))

row.names(fake_bin) <- paste0("user", 1:5)
fake_bin

```


Trước hết chúng ta convert dữ liệu nguyên thủy ban đầu về binary data frame như sau: 

```{r}
#------------------------------------
#  Option 1: Use spread() function
#------------------------------------

# Revome duplications by CustomerID: 

df_transactions %>% 
  group_by(CustomerID) %>% 
  filter(!duplicated(StockCode)) %>% 
  ungroup() -> df_transactions

# COnvert to user-item data frame (has 1 row and n columns for a specific CustomerID): 

df_transactions %>% 
  select(CustomerID, StockCode) %>% 
  mutate(item_value = 1) %>% 
  spread(value = item_value, key = StockCode, fill = 0) %>% 
  mutate(CustomerID = as.character(CustomerID)) -> df_binary

# Show some observations: 

set.seed(29)

df_binary %>% 
  slice(1:10) %>% 
  select(c(1, sample(x = 1:ncol(df_binary) - 1, size = 10, replace = FALSE))) %>% 
  kable(caption = "Table 2: Some Observations from binary data (Option 2)")
```

Dòng 4 của Table 2 chỉ ra rằng khách hàng có mã CustomerID là 12349 mua các item có mã 22555 và 23108 - ứng với giá trị là 1 của binary data frame. Những item mà khách hàng này không mua có giá trị là 0. 

# Data Preparation for Recommender Engine

Đến đây cần convert binary data frame đã chuẩn bị ở trên về binary matrix - là cấu trúc dữ liệu đòi hỏi cho việc training các Recommender Engines của thư viện [recommenderlab](https://cran.r-project.org/web/packages/recommenderlab/index.html) của [Michael Hahsler](https://s2.smu.edu/IDA/recommenderlab/) như sau: 

```{r}
# Set CustomerID: 

CustomerID <- df_binary$CustomerID 

# Convert to binary matrix: 

matrix_wide <- as.matrix(df_binary %>% select(-CustomerID))

# Set row names: 

rownames(matrix_wide) <- CustomerID 

# Convert to binaryRatingMatrix for training recommender engines: 

library(recommenderlab)
ratingmat <- as(matrix_wide, "binaryRatingMatrix")
```

Binary matrix cho một số quan sát (Figure 1): 

```{r}
image(ratingmat[1:200, 1:200], main = "Figure 1: Binary rating matrix")
```

Dữ liệu là một ma trận thưa kiểu nhị phân (Binary Sparse Matrix) như chúng ta đã biết. Đây là thực tế phổ biến khi xây dựng các hệ thống khuyến nghị: hầu hét các cell của ma trận có giá trị là zero (thực chất là NA - Not Available, một vấn đề được gọi là Problem of Data Sparsity cho lớp bài toán này) dẫn đến mức độ che phủ dữ liệu của ma trận rất thấp (hầu hết là dưới 10%, mức phổ biến là 5%-6%). Với dữ liệu đã được chuyển về ma trận thưa, sử dụng 80% dữ liệu để huấn luyện Recommender Engine và 20% để test:  

```{r}
set.seed(1)
id <- sample(x = 1:nrow(ratingmat), size = 0.8*nrow(ratingmat), replace = FALSE)
data_train <- ratingmat[id, ]
data_test <- ratingmat[-id, ]
```

Vì dữ liệu đầu vào là binary sparse matrix nên thước đo tương đồng (similarity measure) theo [Jaccard](https://en.wikipedia.org/wiki/Jaccard_index) sẽ phù hợp hơn. R codes dưới đây thực hiện huấn luyện Recommender Engine trên train data theo Jaccard Similarity sử dụng Item-base Approach (có thể mất nhiều thời gian để train Engine): 

```{r}
recc_model <- Recommender(data = data_train,
                          method = "IBCF",
                          parameter = list(method = "Jaccard"))
```

Với Engine đã có chúng ta có thể sử dụng để khuyến nghị, ví dụ, 5 items cho mỗi một user/customer: 

```{r}
n_recommended <- 5
recc_predicted <- predict(object = recc_model, 
                          newdata = data_test,
                          n = n_recommended)
```

Viết hàm có tên `item_recommended_user()` trả về các items dưới dạng StockCode được khuyến nghị cho user/customer: 

```{r}
item_recommended_user <- function(i) {
  recc_predicted@itemLabels[recc_predicted@items[[i]]] -> StockCode
  CustomerID <- rep(recc_predicted@items[i] %>% names(), length(StockCode))
  df_result <- tibble(CustomerID = CustomerID, StockCode = StockCode)
  return(df_result)
  }
```

Sử dụng hàm trên để extract ra các items được khuyến nghị cho tất cả các users/customers: 

```{r}
lapply(1:nrow(data_test), item_recommended_user) -> list_itemsRecommended_users
do.call("bind_rows", list_itemsRecommended_users) -> df_itemsRecommended_users
```

Join với dữ liệu về miêu tả cho items theo StockCode: 

```{r}
# Descriptions about items: 
df_transactions %>% 
  filter(!duplicated(StockCode)) %>% 
  select(StockCode, Description) -> df_descriptions

# Join data sets: 
full_join(df_itemsRecommended_users, df_descriptions, by = "StockCode") -> df_recommended_for_users
```

Show các items khuyến nghị cho, ví dụ, customer thứ nhất: 

```{r}
df_recommended_for_users %>% 
  filter(CustomerID == recc_predicted@items[1] %>% names()) %>% 
  kable(caption = "Table 3: Some Items Recommended for CustomerID = 12347")
```

# Approach to Evaluating Recommender Performance

Mặc dù thư viện recommenderlab có các hàm để đánh giá hiệu quả của Recommender Engine và đã được Suresh K. Gorakala sử dụng cho một case study trong textbook [Building a Recommendation System with R](https://www.amazon.com/Building-Recommendation-System-Suresh-Gorakala/dp/1783554495/ref=sr_1_1?dchild=1&keywords=Building+a+Recommendation+System+with+R&qid=1594651129&sr=8-1) nhưng áp dụng nguyên mà không có hiệu chỉnh gì thì sẽ không có nhiều ý nghĩa vì một vài lí do được trình bày ngay sau đây. Trước hết nhắc lại rằng khoảng thời gian mà chúng ta quan sát hành vi của các customers là từ 2010-12-01 08:26:00 đến 2011-12-09 12:50:00: 

```{r}
lubridate::mdy_hm(df_transactions$InvoiceDate) %>% range()
```

Trong khi đó, những items được khuyến nghị cho các customers hoàn toàn dựa trên data về hành vi của họ trong khoảng thời gian này. Nghĩa là các items được Engine khuyến nghị hoàn toàn dựa vào những sự giao dịch/tương tác **ĐÃ XẨY RA** trong khi thực tế họ mua sắm những items nào thì chúng ta đã biết. 

Do vậy, cách tiếp cận để đánh giá chất lượng của Recommender như sau có thể sẽ phù hợp hơn: so sánh các items được khuyến nghị cho customers với các items mà họ **SẼ MUA** sau thời điểm 2011-12-09 12:50:00. Đây là cách tiếp cận hợp lí hơn. Tình huống này cũng giống như chúng ta xây dựng một mô hình AR dự báo giá cổ phiếu tại thời điểm t + 1 (tức là giá của 1 ngày nữa) chỉ căn cứ vào giá của hiện tại (thời điểm t) và các biến trễ của t (thông tin trong quá khứ). Để biết mức độ chính xác của dự báo thì cách tiếp cận là, ví dụ, so sánh giá thực tế của 1 ngày sắp tới với giá được dự báo từ mô hình AR. Hướng tiếp cận này sẽ được trình bày chi tiết trong phần kế tiếp của series về Recommendation System. 

# References


1. [Recommender Systems: An Introduction](https://www.amazon.com/Recommender-Systems-Introduction-Dietmar-Jannach/dp/0521493366/ref=pd_sbs_14_7?_encoding=UTF8&pd_rd_i=0521493366&pd_rd_r=c81eaca7-353a-4367-a9b1-fa5e77d8422c&pd_rd_w=Gy3OV&pd_rd_wg=yByWW&pf_rd_p=bc074051-81d1-4874-a3fd-fd0c867ce3b4&pf_rd_r=S2RKT9VWPXNYCY9QPEMW&psc=1&refRID=S2RKT9VWPXNYCY9QPEMW).
2. [Evaluating Collaborative Filtering Recommender Systems](https://grouplens.org/site-content/uploads/evaluating-TOIS-20041.pdf).
3. [recommenderlab: A Framework for Developing and Testing Recommendation Algorithms](https://cran.r-project.org/web/packages/recommenderlab/vignettes/recommenderlab.pdf).
4. [Collaborative Filtering Methods for Binary Market Basket Data Analysis](https://link.springer.com/chapter/10.1007/3-540-45336-9_35). 
5. [Incremental Collaborative Filtering for Binary Ratings](https://www.researchgate.net/publication/221158441_Incremental_Collaborative_Filtering_for_Binary_Ratings). 





Recommendation System (Part 2)

R Machine Learning Series

Author: Nguyen Chi Dung