Market Segmentation: K-means Clustering Algorithm

Data Science for Marketing Series

Motivations

Customer Segments (hoặc rộng hơn là Market Segmentation) cho phép công ti có thể sử dụng hiệu quả hơn các nguồn lực hạn chế (thời gian, tài chính) để phục vụ những mục tiêu của tổ chức như tăng doanh thu, tăng lợi nhuận, giữ chân các khách hàng quan trọng cũng như thực hiện các chiến dịch quảng cáo (marketing campaign) hiệu quả hơn dựa trên những hiểu biết về hành vi (behavior), thói quen (habits) và sở thích (preferences) của khách hàng.

Method and Data Used

Thuật toán được sử dụng cho Customer Segmentation là K-means Clustering với các inputs đầu vào là RFM mô tả hành vi của khách hàng với định nghĩa như sau:

• R (Recency) là khoảng thời gian gần đây nhất mà khách hàng mua hàng hoặc sử dụng dịch vụ (hoặc mua hàng).
• F (Frequency) là tần suất mua hàng/sử dụng dịch vụ.
• M (Monetary) là số tiền mà khách hàng mua hàng hóa/dịch vụ.

F và M là những inputs được tính trong một khoảng thời gian khảo sát nhất định (1 năm, một tháng, hoặc 1 quý). Riêng R thì phụ thuộc vào mốc thời gian lựa chọn của người làm mô hình và không ảnh hưởng đến kết quả của mô hình.

RFM thường được tính toán từ cơ sở dữ liệu khách hàng và có thể rất lớn, nhất là các công ti thương mại điện tử, bán hàng qua mạng. Các công ti viễn thông (như Viettel) hoặc Game Online (như VinaGame). Trong post này chúng ta sẽ sử dụng một phần dữ liệu (chỉ hơn 530.000 giao dịch) được cung cấp bởi một công ti thương mại điện tử và có thể download ở đây. Trước hết đọc dữ liệu và xem qua:

# Đọc dữ liệu: 
rm(list = ls())
library(tidyverse)
library(magrittr)
library(knitr)
my_df <- read_csv("D:\\kaggle_data\\w10_RFM_model\\data.csv")

# Xem 10 giao dịch bất kì từ cột 1 đến cột 4: 
set.seed(29)
my_df %>% 
  sample_n(10) %>% 
  select(1:4) %>% 
  kable()

InvoiceNo	StockCode	Description	Quantity
561197	22120	WELCOME WOODEN BLOCK LETTERS	4
542174	21326	AGED GLASS SILVER T-LIGHT HOLDER	36
553009	23191	BUNDLE OF 3 RETRO NOTE BOOKS	2
576837	84661B	BLACK SQUARE TABLE CLOCK	1
539836	85232D	SET/3 DECOUPAGE STACKING TINS	1
556187	47590A	BLUE HAPPY BIRTHDAY BUNTING	3
578664	23267	SET OF 4 SANTA PLACE SETTINGS	2
577358	21240	BLUE POLKADOT CUP	1
575324	23130	MISTLETOE HEART WREATH GREEN	4
554512	21390	FILIGRIS HEART WITH BUTTERFLY	1

# Từ cột 5 đến 8: 
my_df %>% 
  sample_n(10) %>% 
  select(5:8) %>% 
  kable()

InvoiceDate	UnitPrice	CustomerID	Country
9/20/2011 11:32	1.85	13767	United Kingdom
3/28/2011 11:34	1.25	17841	United Kingdom
10/12/2011 12:54	2.55	12691	France
6/23/2011 11:38	0.42	13268	United Kingdom
12/15/2010 15:50	8.50	17980	United Kingdom
5/27/2011 12:41	8.50	16275	United Kingdom
12/7/2011 14:01	1.65	16426	United Kingdom
8/1/2011 11:23	2.10	14408	United Kingdom
6/23/2011 18:44	1.25	15023	United Kingdom
7/7/2011 16:30	4.13	NA	United Kingdom

Các tên biến số là rất dễ hiểu. Ví dụ InvoiceNo là mã hóa đơn, StockCode là mã hàng hóa và là hàng hóa gì thì được miêu tả ở Description.

Chúng ta cũng nên đánh giá sơ bộ chất lượng dữ liệu. Trước hết là tỉ lệ dữ liệu trống (Missing Data):

# Hàm đánh giá dữ liệu trống: 
na_rate <- function(x) {100*sum(is.na(x)) / length(x)}

# Sử dụng hàm: 
my_df %>%
  summarise_all(na_rate) %>% 
  kable()

InvoiceNo	StockCode	Description	Quantity	InvoiceDate	UnitPrice	CustomerID	Country
0	0	0.2683107	0	0	0	24.92669	0

Gần 27% các mã hàng không có mô tả. Tương tự, khoảng 25% khách hàng không xác định được ID. Với bài toán phân khúc khách hàng sử dụng RFM thì dữ liệu thiếu ở các biến số này không quan trọng.

Các đại lượng ở bộ dữ liệu này - nếu là biến định lượng thì sẽ phải là số không âm. Do vậy chúng ta cũng cần check xem có tồn tại của các số âm hay không. Nếu có thì nguyên nhân có thể là lỗi dữ liệu hoặc có sai sót gì đó thuộc hệ thống cơ sở dữ liệu và các case là số âm này chúng ta phải loại ra khỏi mẫu phân tích:

# Hàm đánh giá tỉ lệ số âm: 
negative_dectect <- function(x) {100*sum(x <= 0) / length(x)}

# Có thể thấy rằng 1.96% và 0.46% các case âm này là không hợp lí: 
sapply(my_df %>% select(Quantity, UnitPrice), negative_dectect)

##  Quantity UnitPrice 
## 1.9604768 0.4644691

# Loại các case âm này: 
my_df %>% 
  filter(Quantity > 0, UnitPrice > 0) -> my_df

Do chúng ta cần thời gian thực để tính R nên InvoiceDate cần chuyển về thời gian thực đồng thời tạo ra một số cột biến phục vụ cho những phân tích xa hơn nếu cần:

library(lubridate)

my_df %>% 
  mutate(time_ymd_hm = mdy_hm(InvoiceDate), 
         time_hour = hour(time_ymd_hm), 
         time_min = minute(time_ymd_hm), 
         w_day = wday(time_ymd_hm, label = TRUE, abbr = TRUE), 
         time_mon = month(time_ymd_hm, label = TRUE, abbr = TRUE), 
         time_ymd = InvoiceDate %>% str_split(" ", simplify = TRUE) %>% data.frame() %>% pull(X1) %>% mdy) -> my_df

Exploratory Data Analysis

Bước phân tích này được thực hiện nhằm tìm kiếm một số insights. Ví dụ, lượng bán ra (chính xác đến từng phút) có hai thời điểm tăng đột biến trên 70.000. Đây là những bất thường:

library(hrbrthemes)
theme_set(theme_modern_rc())

my_df %>% 
  group_by(time_ymd_hm) %>% 
  summarise(sales = sum(Quantity)) %>% 
  ungroup() -> sales_byTime_hm

sales_byTime_hm %>% 
  ggplot(aes(time_ymd_hm, sales)) + 
  geom_line() + 
  labs(title = "Figure 1: Unit Sales by Min", x = "Time", y = "Quantity")

Lượng bán ra theo ngày có xu hướng tăng ở giai đoạn cuối. Mặt khác có hai ngày có lượng bán ra bất thường (điều này có thể dự báo được từ trước):

my_df %>% 
  group_by(time_ymd) %>% 
  summarise(sales = sum(Quantity)) %>% 
  ungroup() -> sales_byTime

sales_byTime %>% 
  ggplot(aes(time_ymd, sales)) + 
  geom_line() + 
  geom_point(color = "firebrick") + 
  labs(title = "Figure 2: Unit Sales by Day", x = "Time", y = "Quantity")

Từ Figure 2 chúng ta cũng thấy rằng có một bất thường khác: có hai thời điểm mà dữ liệu không được liên tiếp với khoảng thời gian dài. Nguyên nhân có thể là công ti bán hàng online này ngừng hoạt động trong một khoảng thời gian nào đó, hoặc hệ thống cơ sở dữ liệu của nó ngừng hoạt động. Cụ thể từ ngày 2010-12-22 đến 2011-01-03 - tức là 12 ngày liền dữ liệu là không có:

sales_byTime %>% 
  mutate(lag1 = lag(time_ymd, n = 1L)) %>% 
  mutate(duration_date = time_ymd - lag1) %>% 
  mutate(duration_date = as.numeric(duration_date)) %>% 
  slice(which.max(duration_date)) %>% 
  kable()

time_ymd	sales	lag1	duration_date
2011-01-04	8639	2010-12-23	12

Chúng ta cũng có thể khảo sát doanh thu bằng tiền một cách tương tự:

my_df %>% 
  mutate(money = Quantity*UnitPrice) -> my_df

my_df %>% 
  group_by(time_ymd_hm) %>% 
  summarise(moneySales = sum(money)) %>% 
  ungroup() -> sales_byTime_hm_money

sales_byTime_hm_money %>% 
  ggplot(aes(time_ymd_hm, moneySales)) + 
  geom_line() + 
  labs(title = "Figure 3: Monetary Sales by Min", x = "Time", y = "")

my_df %>% 
  group_by(time_ymd) %>% 
  summarise(moneySales = sum(money)) %>% 
  ungroup() -> sales_byTime_money

sales_byTime_money %>% 
  ggplot(aes(time_ymd, moneySales)) + 
  geom_line() + 
  geom_point(color = "firebrick") + 
  labs(title = "Figure 4: Monetary Sales by Day", x = "Time", y = "")

Doanh thu cả theo số lượng bán và tiền ở 4 tháng cuối năm cao hơn hẳn các tháng còn lại trong năm:

my_df %>% 
  group_by(time_mon) %>% 
  summarise_each(funs(sum), Quantity) %>% 
  mutate(Quantity = Quantity / 1000) %>% 
  ggplot(aes(time_mon, Quantity)) + 
  geom_col() + 
  theme(panel.grid.major.x = element_blank()) + 
  labs(title = "Figure 5: Unit Sales in thousands by Month", x = "Time", y = "Quanlity") + 
  scale_y_continuous(limits = c(0, 800))

my_df %>% 
  group_by(time_mon) %>% 
  summarise_each(funs(sum), money) %>% 
  mutate(money = money / 1000) %>% 
  ggplot(aes(time_mon, money)) + 
  geom_col() + 
  theme(panel.grid.major.x = element_blank()) + 
  labs(title = "Figure 6: Monetary Sales in thousands by Month", x = "Time", y = "")

Có hơn 4000 mã hàng được bán nhưng doanh thu từ chúng lại phân bố không đều như ta có thể thấy:

my_df %>% 
  group_by(Description) %>% 
  summarise(sales = sum(money)) %>% 
  ungroup() %>% 
  arrange(-sales) %>% 
  mutate(Description = factor(Description, levels = Description)) %>% 
  mutate(total = sum(sales)) %>% 
  mutate(money_percent = sales / total) %>% 
  mutate(cum_money = cumsum(money_percent)) -> moneySales_Item

moneySales_Item %>% 
  ggplot(aes(Description, sales)) + 
  geom_col() + 
  theme(panel.grid.major.x = element_blank()) + 
  theme(axis.text.x = element_blank()) + 
  labs(title = "Figure 6: Money Sales by Product", x = "", y = "")

Một lần nữa chúng ta có thể thấy sự hiện diện của nguyên lí 80 - 20: 80% doanh thu của hãng bán hàng online này đến từ 827 mã hàng (tương ứng với 20.59% mã hàng):

moneySales_Item %>% 
  filter(cum_money <= 0.8) -> top80_sales

top80_sales %>% nrow() / nrow(moneySales_Item)

## [1] 0.2059776

Chúng ta có thể xem một số mặt hàng mang lại nhiều doanh thu nhất:

moneySales_Item %>% 
  select(-total) %>% 
  head() %>% 
  kable()

Description	sales	money_percent	cum_money
DOTCOM POSTAGE	206248.77	0.0193358	0.0193358
REGENCY CAKESTAND 3 TIER	174484.74	0.0163579	0.0356937
PAPER CRAFT , LITTLE BIRDIE	168469.60	0.0157940	0.0514877
WHITE HANGING HEART T-LIGHT HOLDER	106292.77	0.0099649	0.0614526
PARTY BUNTING	99504.33	0.0093285	0.0707812
JUMBO BAG RED RETROSPOT	94340.05	0.0088444	0.0796255

Công ti có thể sử dụng thông tin này phục vụ cho những mục đích kinh doanh của mình. Chẳng hạn công ti có thể ưu tiên ship hàng cho những đơn hàng có trong danh sách 827 mã hàng trên hoặc ưu tiên chuẩn bị hàng tồn kho cho những mã hàng này. Nói cách khác cần tập trung mảng logistics (hậu cần - kho bãi - vận chuyển) cho những mã hàng mang lại đến 80% doanh thu cho công ti.

Customer Segments

Sử dụng thuật toán K-means Clusterning cho Customer Segments theo RFM. Chọn thời điểm (chính xác đến phút) là 2011-12-31 24:59 để tính R. Chú ý rằng việc chọn thời điểm không ảnh hưởng đến kết quả phân tích:

# Khoảng thời gian từ thời điểm khách hàng giao dịch 
# đến 2011-12-31 làm tròn đến ngày: 
y <- as.duration(ymd_hm("2011-12-31 24:59") - my_df$time_ymd_hm) %>% as.numeric()
y <- round(y / (3600*24), 0)

# Tạo thêm biến Recency: 
my_df %>% mutate(recency = y) -> my_df

# Số tiền mà một khách hàng đã mua (tính M): 
my_df %>% 
  group_by(CustomerID) %>% 
  summarise_each(funs(sum), money) %>% 
  ungroup() -> df_money

# Tính R: 
my_df %>% 
  group_by(CustomerID) %>% 
  summarise_each(funs(min), recency) %>% 
  ungroup() -> df_recency

# Tính F: 
my_df %>% 
  group_by(CustomerID) %>% 
  count() %>% 
  ungroup() %>% 
  rename(freq = n) -> df_freq

# Dữ liệu sử dụng cho phân tích: 

df_money %>% 
  full_join(df_recency, by = "CustomerID") %>% 
  full_join(df_freq, by = "CustomerID") %>% 
  mutate(CustomerID = as.character(CustomerID)) -> final_df

# Xem qua dữ liệu sử dụng cho phân tích K-means Clustering: 
final_df %>% 
  head() %>% 
  kable()

CustomerID	money	recency	freq
12346	77183.60	348	1
12347	4310.00	24	182
12348	1797.24	97	31
12349	1757.55	41	73
12350	334.40	332	17
12352	2506.04	58	85

Vì RFM được đo bằng các thước đo khác nhau nên chúng ta cần rescaling các biến số này:

final_df %>% 
  mutate_if(is.numeric, function(x) {(x - min(x)) / (max(x) - min(x))}) %>% 
  select(-CustomerID) -> final_df_scaled

Thuật toán đòi hỏi phải chọn K - hay số cụm. K tối ưu được lựa chọn căn cứ vào nhiều phương pháp. Trong post này K tối ưu được lựa chọn dựa trên Elbow Method:

set.seed(29)
wss <- sapply(1:10, 
              function(k){kmeans(final_df_scaled %>% sample_frac(0.2), 
                                 k, nstart = 30)$tot.withinss})


u <- data.frame(k = 1:10, WSS = wss)

u %>% 
  ggplot(aes(k, WSS)) + 
  geom_line() + 
  geom_point() + 
  geom_point(data = u %>% filter(k == 3), color = "red", size = 3) + 
  scale_x_continuous(breaks = seq(1, 10, by = 1)) + 
  labs(title = "Figure 7: The Optimal Number of Clusters, Elbow Method", x = "Number of Clusters (K)") + 
  theme(panel.grid.minor = element_blank())

Từ Figure 7 chúng ta thấy rằng bắt đầu từ K = 3 trở đi thì WSS giảm với tốc độ rất chậm. Điều này ngụ ý rằng K tối ưu nên là 3. Chúng ta phân cụm khách hàng với K = 3 như sau:

# Phân cụm với k = 3: 
set.seed(123)
km.res <- kmeans(final_df_scaled, 3, nstart = 30)

# Sử dụng kết quả phân cụm: 
final_df %>% 
  mutate(Group = km.res$cluster) %>% 
  mutate(Group = paste("Group", Group)) -> final_df_clustered


# Chân dung của nhóm khách hàng được mô tả qua ba tiêu chí FRM: 
final_df_clustered %>% 
  group_by(Group) %>% 
  summarise_each(funs(mean), money, recency, freq) %>% 
  ungroup() %>% 
  mutate_if(is.numeric, function(x) {round(x, 0)}) %>% 
  arrange(-money) %>% 
  kable()

Group	money	recency	freq
Group 2	3308	54	165
Group 1	799	176	41
Group 3	607	316	24

Căn cứ vào kết quả của thuật toán K-Means Clustering thì các khách hàng sẽ được phân thành 3 nhóm sau:

• Group 2 là nhóm chi tiêu rất nhiều, rất thường xuyên mua hàng và Recency bé nhất. Nhóm này được gọi là Champions. Cách thức “chăm sóc” các khách hàng này được mô tả kĩ ở đây. Bình quân mỗi khách hàng thuộc nhóm này chi tiêu 3308 bảng Anh.

• Group 1 là thuộc diện được đặt tên là Loyal Customers. Đây là nhóm khách hàng có tiềm năng chuyển thành Champions nếu công ti biết thực hiện những chiến lược chăm sóc khách hàng, quảng bá phù hợp.

• Group 3 là nhóm mang lại ít doanh thu/lợi nhuận nhất cho công ti: chi tiêu của họ chỉ khoảng 1/6 so với nhóm 2.

Trước khi có thể sử dụng những Insights ở trên để phục vụ cho các chiến lược kinh doanh của công ti chúng ta nên thận trọng: thuật toán K-means Clustering rất nhạy cảm với Outliers. Mặc dù dữ liệu đã được scaling nhằm giảm thiểu ảnh hưởng của các Outliers này nhưng điều đó cũng không đảm bảo rằng kết quả không bị méo mó biến dạng bởi các bất thường này. Để rõ ràng hơn chúng ta xem, ví dụ, money của khách hàng:

final_df %>% 
  ggplot(aes(CustomerID, money)) + 
  geom_col() + 
  theme(panel.grid.minor.x = element_blank()) + 
  theme(panel.grid.major.x = element_blank()) + 
  theme(panel.grid.minor.y = element_blank()) + 
  theme(axis.text.x = element_blank()) + 
  labs(title = "Figure 8: Spending by Customer", y = "")

Figure 8 cho thấy một số khách hàng chi tiêu đặc biệt lớn. Họ có thể không phải là khách hàng cá nhân mà có thể là dạng một cửa hàng nhỏ mua rồi bán lại. Tương tự là tần suất mua hàng (Figure 9, đơn vị trên trục Y là 1000):

final_df %>% 
  mutate(freq = freq / 1000) %>% 
  ggplot(aes(CustomerID, freq)) + 
  geom_col() + 
  theme(panel.grid.minor.x = element_blank()) + 
  theme(panel.grid.major.x = element_blank()) + 
  theme(panel.grid.minor.y = element_blank()) + 
  theme(axis.text.x = element_blank()) + 
  labs(title = "Figure 9: Frequency by Customer", y = "")

Do thuật toán K-Means Clustering rất nhạy cảm với các bất thường nên chúng ta có thể tách ra nhóm khách hàng bất thường này để phân tích riêng và chỉ giữ lại các quan sát không phải là outliers. Trước hết viết một hàm dán nhãn cho các quan sát bất thường. Ở đây các quan sát bất thường được định nghĩa là lớn hơn hoặc bé hơn trung bình cộng với (hoặc trừ) ba lần độ lệch chuẩn:

# Hàm xác minh Outlier: 
outlier_label <- function(x) {
  a <- mean(x)
  b <- sd(x)
  th1 <- a - 3*b
  th2 <- a + 3*b
  y <- case_when(x >= th1 & x <= th2 ~ "Normal", TRUE ~ "Outlier")
  return(y)
  
}

# Chỉ sử dụng Normal Observation cho thuật toán K-means Clustering: 

final_df %>% 
  mutate(nor_money = outlier_label(money), nor_freq = outlier_label(freq)) %>% 
  filter(nor_money == "Normal", nor_freq == "Normal") %>% 
  select(1:4) -> final_df_normal

final_df_normal %>% 
  mutate_if(is.numeric, function(x) {(x - min(x)) / (max(x) - min(x))}) -> final_df_normal_scaled

Thực hiện lại K-means Clustering. Trước hết là tìm K tối ưu:

set.seed(29)
wss <- sapply(1:10, 
              function(k){kmeans(final_df_normal_scaled %>% select(-CustomerID) %>% sample_frac(0.2), 
                                 k, nstart = 30)$tot.withinss})


u <- data.frame(k = 1:10, WSS = wss)

u %>% 
  ggplot(aes(k, WSS)) + 
  geom_line() + 
  geom_point() + 
  geom_point(data = u %>% filter(k == 4), color = "red", size = 3) + 
  scale_x_continuous(breaks = seq(1, 10, by = 1)) + 
  labs(title = "Figure 10: The Optimal Number of Clusters, Elbow Method", 
       subtitle = "Outliers are are removed from sample.", 
       x = "Number of Clusters (K)") + 
  theme(panel.grid.minor = element_blank())

Như vậy sau khi loại các Outliers thì K tối ưu là 4. Chạy lại K-means Clustering với số cụm được chọn này và thực hiện lại các phân tích như trên:

# Phân cụm với k = 4: 
set.seed(123)
km.res4 <- kmeans(final_df_normal_scaled %>% select(-CustomerID), 4, nstart = 30)

# Sử dụng kết quả phân cụm: 
final_df_normal %>% 
  mutate(Group = km.res4$cluster) %>% 
  mutate(Group = paste("Group", Group)) -> final_df_clustered

Sau khi loại Outliers thì khách hàng sẽ được phân thành 4 nhóm với các hành vi chi tiêu (dựa trên R, F, M) như sau:

# Chân dung của nhóm khách hàng được mô tả qua ba tiêu chí FRM: 
final_df_clustered %>% 
  group_by(Group) %>% 
  summarise_each(funs(mean), money, recency, freq) %>% 
  ungroup() %>% 
  mutate_if(is.numeric, function(x) {round(x, 0)}) %>% 
  arrange(-money) %>% 
  kable()

Group	money	recency	freq
Group 4	2668	41	136
Group 2	999	103	51
Group 3	726	214	35
Group 1	566	331	24

Tính toán tỉ trọng về doanh thu từ các nhóm khách hàng này:

final_df_clustered %>% 
  group_by(Group) %>% 
  summarise_each(funs(sum, mean, median, min, max, sd, n()), money) %>% 
  ungroup() %>% 
  mutate(per_sale = round(100*sum / sum(sum), 2)) -> sale_group


library(ggthemes)

sale_group %>% 
  ggplot(aes(reorder(Group, per_sale), per_sale, fill = Group, color = Group)) + 
  geom_col(width = 0.5, show.legend = FALSE) + 
  coord_flip() + 
  geom_text(aes(label = paste(per_sale, paste0(paste0("(", "%")), ")")), 
            hjust = -0.05, color = "white", size = 5) + 
  scale_y_continuous(limits = c(0, 90), expand = c(0.01, 0)) + 
  scale_fill_tableau() + 
  scale_color_tableau() + 
  theme(axis.title.x = element_blank(),
        axis.text.x = element_blank(),
        axis.ticks.x = element_blank()) + 
  theme(panel.grid.major = element_blank()) + 
  theme(panel.grid.minor = element_blank()) + 
  labs(x = NULL, title = "Figure 11: Share of Sales by Customer Group")

Group 4 chiếm 49.1% tổng số khách hàng và là nhóm mang lại gần 75% doanh thu cho công ti:

sale_group %>% 
  select(Group, n) %>% 
  mutate(total = sum(n)) %>% 
  mutate(label = 100*n / total) %>% 
  mutate(label = paste(round(label, 1), "%")) %>% 
  ggplot(aes(Group, n, fill = Group, color = Group)) + 
  geom_col(width = 0.5, show.legend = FALSE) + 
  geom_text(aes(label = label), color = "white", vjust = 1.4, size = 5) + 
  scale_fill_tableau() + 
  scale_color_tableau() + 
  theme(panel.grid.minor = element_blank()) + 
  theme(panel.grid.major.x = element_blank()) + 
  labs(x = NULL, y = NULL, title = "Figure 12: Number of Customers by Group")

Group Labelling

Bài toán đặt ra ở đây là một khách hàng có hành vi tiêu dùng được mô tả bằng R, F và M biết trước thì khách hàng này sẽ được xếp vào nhóm nào?. Có nhiều cách tiếp cận/mô hình có thể được áp dụng cho bài toán này và một trong những cách đó là sử dụng các thuật toán phân loại, ví dụ, Random Forest:

# Chuẩn bị dữ liệu: 
df_forML <- final_df_clustered %>% 
  select(- CustomerID) %>% 
  mutate(Group = as.factor(Group))

# Chia dữ liệu theo tỉ lệ 80 - 20:

library(caret)
set.seed(1)
id <- createDataPartition(df_forML$Group, p = 0.8, list = FALSE)
df_train <- df_forML[id, ]
df_test <- df_forML[-id, ]

# Huấn luyện Random Forest: 
set.seed(1)
my_rf <- train(Group ~., method = "rf", data = df_train)

## note: only 2 unique complexity parameters in default grid. Truncating the grid to 2 .

Với RF đã được huấn luyện trên bộ dữ liệu train, giả sử có một quan sát mới với các đặc điểm về tiêu dùng M = 1757.55, R = 41, F = 73 như sau:

# Một quan sát cụ thể: 
cus1 <- df_test %>% 
  slice(1) %>% 
  select(-Group)

cus1 %>% 
  kable()

money	recency	freq
1757.55	41	73

Thì thuật toán RF sẽ dự báo quan sát này thuộc nhóm 4:

predict(my_rf, cus1) %>% as.character()

## [1] "Group 4"

Chúng ta co thể đánh giá chất lượng dự báo của RF:

# Thực hiện dự báo: 
pred <- predict(my_rf, df_test)

# Kết quả
confusionMatrix(pred, df_test$Group)

## Confusion Matrix and Statistics
## 
##           Reference
## Prediction Group 1 Group 2 Group 3 Group 4
##    Group 1      99       0       0       0
##    Group 2       0     217       0       1
##    Group 3       0       0     123       0
##    Group 4       0       0       0     424
## 
## Overall Statistics
##                                      
##                Accuracy : 0.9988     
##                  95% CI : (0.9936, 1)
##     No Information Rate : 0.4919     
##     P-Value [Acc > NIR] : < 2.2e-16  
##                                      
##                   Kappa : 0.9983     
##                                      
##  Mcnemar's Test P-Value : NA         
## 
## Statistics by Class:
## 
##                      Class: Group 1 Class: Group 2 Class: Group 3
## Sensitivity                  1.0000         1.0000         1.0000
## Specificity                  1.0000         0.9985         1.0000
## Pos Pred Value               1.0000         0.9954         1.0000
## Neg Pred Value               1.0000         1.0000         1.0000
## Prevalence                   0.1146         0.2512         0.1424
## Detection Rate               0.1146         0.2512         0.1424
## Detection Prevalence         0.1146         0.2523         0.1424
## Balanced Accuracy            1.0000         0.9992         1.0000
##                      Class: Group 4
## Sensitivity                  0.9976
## Specificity                  1.0000
## Pos Pred Value               1.0000
## Neg Pred Value               0.9977
## Prevalence                   0.4919
## Detection Rate               0.4907
## Detection Prevalence         0.4907
## Balanced Accuracy            0.9988

Kết quả này chỉ ra rằng RF có khả năng phân loại - hay chỉ ra một khách hàng cụ thể với RFM đã biết sẽ thuộc về nhóm nào. Chất lượng dán nhãn cho khách hàng có thể được kiểm tra bằng cách đặt câu hỏi Phải chăng cách phân loại khách hàng từ RF sẽ tạo ra các nhóm khách hàng có các đặt điểm về hành vi chi tiêu là rất gần với hành vi chi tiêu đã được khảo sát?. Nói cách khác,nếu trung bình R, F và M của nhóm khách hàng được dự báo từ RF mà không khác biệt (so với trung bình R, F và M của nhóm khách hàng đã được phân cụm từ K-means Clustering) thì có nghĩa là cách dán nhãn cho khách hàng từ RF là phù hợp. Chúng ta có thể kiểm tra như sau:

# Trung bình của R, F và M của nhóm khách hàng được dự báo từ RF: 
df_test %>% 
  mutate(GroupPredicted = pred) %>% 
  group_by(GroupPredicted) %>% 
  summarise_each(funs(mean), money, recency, freq) %>% 
  mutate_if(is.numeric, function(x) {round(x, 0)}) %>% 
  kable()

GroupPredicted	money	recency	freq
Group 1	453	330	22
Group 2	1018	103	53
Group 3	505	217	29
Group 4	2753	42	147

# So với trung bình của R, F và M của nhóm khách hàng từ K-means Clustering: 
df_train %>% 
  group_by(Group) %>% 
  summarise_each(funs(mean), money, recency, freq) %>% 
  mutate_if(is.numeric, function(x) {round(x, 0)}) %>% 
  kable()

Group	money	recency	freq
Group 1	594	331	24
Group 2	995	103	51
Group 3	782	213	36
Group 4	2647	41	133

Summary

Post này giới thiệu một trong những ứng dụng cơ bản nhất của Customer Segmentation (hoặc rộng hơn là Market Segmentation) với thuật toán K-means Clustering bằng ngôn ngữ R. Những vẫn đề sau chưa được đề cập (hi vọng sẽ được trình bày trong các post sau):

• Những phương pháp tìm K tối ưu bằng Average Silhouette Method và Gap Statistic Method.

• Một số thuật toán phân cụm khác có thể thay thế cho K-means Clustering, như Hierarchical Clustering.

• Một số thuật toán phân cụm khác áp dụng cho cả categorical lẫn numeric data. Hạn chế của K-means Clustering là thuật toán này chỉ nhận Inputs là biến số (numeric data).

References

1. Chapman, C., & Feit, E. M. (2019). R for marketing research and analytics. New York, NY: Springer.
2. Chen, D., Sain, S. L., & Guo, K. (2012). Data mining for the online retail industry: A case study of RFM model-based customer segmentation using data mining. Journal of Database Marketing & Customer Strategy Management, 19(3), 197-208.
3. Khajvand, M., & Tarokh, M. J. (2011). Estimating customer future value of different customer segments based on adapted RFM model in retail banking context. Procedia Computer Science, 3, 1327-1332.
4. Shmueli, G., Bruce, P. C., Yahav, I., Patel, N. R., & Lichtendahl Jr, K. C. (2017). Data mining for business analytics: concepts, techniques, and applications in R. John Wiley & Sons.
5. Zakrzewska, D., & Murlewski, J. (2005, September). Clustering algorithms for bank customer segmentation. In 5th International Conference on Intelligent Systems Design and Applications (ISDA’05) (pp. 197-202). IEEE.