data_mall <- read.csv("Mall_Customers.csv")
str(data_mall)
## 'data.frame': 200 obs. of 5 variables:
## $ CustomerID : int 1 2 3 4 5 6 7 8 9 10 ...
## $ Genre : chr "Male" "Male" "Female" "Female" ...
## $ Age : int 19 21 20 23 31 22 35 23 64 30 ...
## $ Annual.Income : int 15 15 16 16 17 17 18 18 19 19 ...
## $ Spending.Score: int 39 81 6 77 40 76 6 94 3 72 ...Bivariate dan Multivariate
Data Pelanggan Mall
Data yang digunakan pada hands-on kali ini dapat diundur pada alamat berikut Mall Customer.
Seorang pemilik Mall ingin mengelompokan customer di Mall yang ia miliki, sehingga tim marketing bisa mengembangkan strategi yang tepat untuk customer yang tepat pula. Data yang dimiliki oleh Mall tersebut adalah Customer ID, umur pelanggan (age), pendapatan tahunan dalam ribu dollar (annual income) dan spending score. Spending score merupakan nilai yang diberikan oleh Mall kepada customer berbasarkan perilaku customer (waktu kunjungan,jenis barang yang dibeli, dan banyaknya uang yang dihabiskan dalam belanja) yang memiliki rentang nilai 1-100. Semakin besar nilai Spending Score berarti customer semakin loyal pada Mall tersebut dan semakin besar pula uang belanja yang digunakan.
Load data
data_mall <- data_mall[, c("Age","Annual.Income","Spending.Score")]
head(data_mall)
## Age Annual.Income Spending.Score
## 1 19 15 39
## 2 21 15 81
## 3 20 16 6
## 4 23 16 77
## 5 31 17 40
## 6 22 17 76Standarisasi peubah
Standarisasi peubah merupakan proses transformasi peubah menjadi peubah yang memiliki rata-rata nol dan simpangan baku satu. Process standarisasi ini dilakukan jika kita melihat perbedanan satuan pengukuran peubah-peubah yang digunakan contoh (umur dan pendapatan). Standarisasi dilakukan karena metode k-means menggunakan konsep jarak antara objek/amatan, yang mana sensitif terhadap satuan pengukuran.
data_mall_standardize <- scale(data_mall)
apply(data_mall_standardize,2,mean)
## Age Annual.Income Spending.Score
## -1.016906e-16 -8.144310e-17 -1.096708e-16
apply(data_mall_standardize,2,sd)
## Age Annual.Income Spending.Score
## 1 1 1Jika kita perhatikan rata-rata dan simpangan baku peubah setelah distandarisasi mendekati nol dan satu.
Note: Dalam tahapan pre-processing data, kita menyiapkan data agar metode kmeans bisa diterapkan secara maksimal. Dua hal yang umumnya dilakukan pada tahap ini adalah memilih peubah yang digunakan dan melakukan standarisasi peubah.
Clustering
Memilih banyaknya cluster
Umumnya, banyaknya cluster dapat ditentukan dengan menggunakan beberapa kriteria statistik, seperti koefisien silhouette dan WSS atau (Within Sum of Square).
Kriteria koefisien silhouette dihitung berdasarkan jarak antar amatan. Koefisien ini mengukur seberapa dekat suatu amatan dengan amatan lain yang berada di cluster yang sama (dikenal sebagai ukuran cohesion) dibandingkan dengan jarak terhadap amatan lain yang berada di cluster berbeda (dikenal sebagai ukuran separation). Koefisien yang nilainya semakin besar menunjukkan bahwa cluster yang terbentuk sudah sesuai.
Kriteria WSS merupakan kriteria yangmenghitung keragamaan dalam cluster yang terbentuk. Semakin kecil keragaman dalam cluster yang terbentuk menunjukkan bahwa cluster yang terbentuk sudah sesuai.
Dengan menggunakan kriteria tersebut, kita bisa membandingkan banyaknya cluster yang paling sesuai pada data yang kita sedang analisis. Dalam R, fungsi fviz_nbclust dari package factoextra dapat digunakan untuk memilih banyaknya cluster.
fviz_nbclust(data_mall_standardize, FUNcluster = kmeans, method = "silhouette")
fviz_nbclust(data_mall_standardize, FUNcluster = kmeans, method = "wss")
fviz_nbclust(data_mall_standardize, FUNcluster = kmeans, k.max = 20, method = "wss")
Untuk kriteria koefisien silhoutte, banyaknya cluster dengan nilai koefisien tertinggi yang kita pilih. Sedangkan pada WSS, banyaknya cluster yang kita pilih didasarkan pada banyaknya cluster yang mana garisnya berbentuk seperti siku (elbow). Pada gambar diatas garis membentuk siku saat berada di cluster keempat. Karena penentuan ini berdasarkan visual,jadi setiap orang mungkin berbeda melihat pola sikunya
Berdasarkan kedua kriteria tersebut, banyaknya cluster terbaik yang dipilih berbeda. Jika demikian, banyaknya cluster bisa ditentukan berdasarkan kemudahan interpretasi cluster yang terbentuk. Pada tulisan ini kita akan menggunakan 4 cluster saja.
Note: secara default banyaknya cluster yang dicobakan pada fungsi fviz_nbclust adalah 10, jika ingin merubah hal tersebut bisa dilakukan dengan menggunakan argumen kmax dalam fungsi,misal kmax=20.
K-means
Setelah kita mendapatkan banyaknya cluster terbaik, maka selajutnya kita akan menerapkan metode kmenas untuk mendapatkan label cluster pada setiap amatan. Fungsi eclust dari package factoextra digunakan untuk menerpkan metode kmeans. Pada fungsi eclust, kita cukup memasukan data yang sebelum distandarisasi, karena dalam fungsi tersebut terdapat argumen stand, yang jika diatur stand=TRUE secara otomatis data yang kita gunakan akan distandarisasi.
kmeans_mall <- eclust(data_mall, stand = TRUE, FUNcluster = "kmeans", k=4, graph = F)
kmeans_mall$cluster
## [1] 3 3 3 3 3 3 2 3 2 3 2 3 2 3 2 3 3 3 2 3 3 3 2 3 2 3 2 3 2 3 2 3 2 3 2 3 2
## [38] 3 2 3 2 3 2 3 2 3 2 3 3 3 2 3 3 2 2 2 2 2 3 2 2 3 2 2 2 3 2 2 3 3 2 2 2 2
## [75] 2 3 2 2 3 2 2 3 2 2 3 2 2 3 3 2 2 3 2 2 3 3 2 3 2 3 3 2 2 3 2 3 2 2 2 2 2
## [112] 3 1 3 3 3 2 2 2 2 3 1 4 4 1 4 1 4 2 4 1 4 1 4 1 4 1 4 1 4 1 4 1 4 1 4 1 4
## [149] 1 4 1 4 1 4 1 4 1 4 1 4 2 4 1 4 1 4 1 4 1 4 1 4 1 4 1 4 1 4 1 4 1 4 1 4 1
## [186] 4 1 4 1 4 1 4 1 4 1 4 1 4 1 4kmeans_mall$centers
## Age Annual.Income Spending.Score
## 1 0.03711223 0.9876366 -1.1857814
## 2 1.08344244 -0.4893373 -0.3961802
## 3 -0.96008279 -0.7827991 0.3910484
## 4 -0.42773261 0.9724070 1.2130414Label cluster untuk setiap amatan/objek, bisa diperoleh dengan menggunakan $cluster. Kemudian,interpretasi setiap cluster yang terbentuk dapat dilakukan dengan menggunakan bantuan nilai rata-rata dari masing-masing peubah dihitung berdasarkan cluster. Informasi ini bisa diperoleh dengan menggunakan $centers. Karena kita melakukan standarisasi peubah, maka nilai rata-rata yang diperoleh juga dalam skala standarisasi.
Interprestasi cluster yang terbentuk
Berdasarkan nilai rata-rata dari $centers, berikut adalah interpretasinya
cluster 1 : cluster ini merupakan customer-customer yang cukup muda (peubah age bernilai kecil) dan berpenghasilan besar (peubah Income bernilai besar) namun sedikit sekali menghabiskan uangnya untuk berbelanja (peubah spending score bernilai kecil bahkan negatif).
cluster 2 : cluster ini merupakan customer-customer yang sudah tua (peubah age bernilai besar) dan berpenghasilan kecil (peubah Income bernilai kecil) dan sedikit sekali menghabiskan uangnya untuk berbelanja (peubah spending score bernilai kecil). cluster ini mungkin murupakan customer yang sudah pensiun dan hanya memiliki pemasukan dari tunjangan pensiun.
cluster 3 : cluster ini merupakan customer-customer yang masih sangat muda (peubah age bernilai kecil) dan berpenghasilan kecil (peubah Income bernilai kecil) namun menghabiskan uangnya untuk berbelanja cukup besar (peubah spending score bernilai besar). cluster ini mungkin murupakan customer yang aneh, karena memiliki penghasilan yang kecil namun belanjanya banyak.
cluster 4 : cluster ini merupakan customer-customer yang masih cukup muda (peubah age bernilai kecil) dan berpenghasilan besar (peubah Income bernilai besar) namun menghabiskan uangnya untuk berbelanja cukup besar (peubah spending score bernilai besar). cluster ini mungkin murupakan customer yang paling menarik untuk menjadi target marketing selanjutnya.
Jika sulit membaca hasil dalam bentuk skala standarisasi maka kita bisa menggunakan fungsi aggregate untuk melihat rata-ratanya dalam skala aslinya. Fungsi ini dapat menghitung rata-rata setiap peubah berdasarkan cluster yang terbentuk.
aggregate(data_mall, by=list(cluster=kmeans_mall$cluster), FUN = mean)
## cluster Age Annual.Income Spending.Score
## 1 1 39.36842 86.50000 19.57895
## 2 2 53.98462 47.70769 39.96923
## 3 3 25.43860 40.00000 60.29825
## 4 4 32.87500 86.10000 81.52500Cara lain untuk menginterpretasikan hasil cluster adalah menggunakan scatterplot. Jika peubah untuk membangun cluster lebih dari dua, maka sebelum dibentuk scatterplot peubah tersebut direduksi terlebih dahulu menggunakan analisis komponen utama menjadi dua komponen utama. Namun, untuk interpretasinya setiap clusternya kita harus mengetahui interpretasi dari kedua komponen utama dan belum tentu dengan dua komponen utama tersebut sudah mampu menjelaskan keragaman data asal dengan baik.
fviz_cluster(kmeans_mall)
Interpretasi dua komponen utama bisa dilihat dengan akar cirinya.
pca_mall <- prcomp(data_mall_standardize)
pca_mall$rotation
## PC1 PC2 PC3
## Age 0.70638235 -0.03014116 0.707188441
## Annual.Income -0.04802398 -0.99883160 0.005397916
## Spending.Score -0.70619946 0.03777499 0.707004506Hierarchical Clustering Method
Menggunakan koefisien silhouette dan wss
#complete
fviz_nbclust(data_mall_standardize,FUNcluster = hcut,method = "silhouette",
hc_method = "complete",hc_metric = "euclidean")
#average
fviz_nbclust(data_mall_standardize,FUNcluster = hcut,method = "silhouette",
hc_method = "average",hc_metric = "euclidean")
#centroid
fviz_nbclust(data_mall_standardize,FUNcluster = hcut,method = "silhouette",
hc_method = "centroid",hc_metric = "euclidean")
#ward
fviz_nbclust(data_mall_standardize,FUNcluster = hcut,method = "silhouette",
hc_method = "ward.D",hc_metric = "euclidean")
Berdasarkan koefisien silhouette, metode complete dan average memilih 5 cluster, sedangkan metode centroid dan ward masing-masing memilih 2 dan 6 cluster. Untuk saat ini, kita akan mencoba menggunakan 5 cluster dengan metode complete (Jika dua metode linkage memilih banyaknya cluster yang sama, cluster yang terbentuk akan relatif mirip, oleh karena itu bisa pilih salah satu).
Menggunakan dendogram
Penggunaan dendogram untuk data yang memiliki amatan yang banyak mungkin tidak efektif karena memilih cluster dengan dendogram dilakukan secara visual.
linkage_methods <- c("complete","average","centroid","ward.D")
hc_mall_dend <- lapply(
linkage_methods, function(i)
hclust(dist(data_mall_standardize,method = 'euclidean'),method = i)
)
#complete
fviz_dend(hc_mall_dend[[1]])
#average
fviz_dend(hc_mall_dend[[2]])
#centroid
fviz_dend(hc_mall_dend[[3]])
#ward
fviz_dend(hc_mall_dend[[4]])
Jika diperhatikan dari keempat dendogram pada masing-masing metode linkage, banyaknya cluster yang terbentuk sama seperti menggunakan keofisien silhouette diatas.
Menerapkan Hierarcichal Clustering
hc_mall <- eclust(data_mall,stand = TRUE,FUNcluster = "hclust",k=5,hc_method = "complete",hc_metric = "euclidean",graph = F)
hc_mall$cluster
## [1] 1 2 1 2 1 2 1 2 3 2 3 2 3 2 1 2 1 2 3 2 1 2 3 2 3 2 3 1 3 2 3 2 3 2 3 2 3
## [38] 2 3 2 3 2 3 1 3 2 3 1 1 1 3 1 1 3 3 3 3 3 1 3 3 1 3 3 3 1 1 3 1 1 3 3 3 3
## [75] 3 1 1 1 1 3 3 1 3 3 1 3 3 1 1 3 3 1 3 1 1 1 3 1 3 1 1 3 3 1 3 1 3 3 3 3 3
## [112] 1 1 1 1 1 3 3 3 3 1 1 1 4 1 4 5 4 5 4 5 4 1 4 5 4 5 4 5 4 5 4 1 4 5 4 5 4
## [149] 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4 5
## [186] 4 5 4 5 4 5 4 5 4 5 4 5 4 5 4Interpretasi cluster yang terbentuk
aggregate(data_mall,by =list(cluster=hc_mall$cluster),
FUN = mean)
## cluster Age Annual.Income Spending.Score
## 1 1 28.35417 50.29167 45.93750
## 2 2 24.80952 25.61905 80.23810
## 3 3 55.33333 47.31579 41.08772
## 4 4 32.69231 86.53846 82.12821
## 5 5 41.68571 88.22857 17.28571fviz_cluster(hc_mall)
Interpretasi dua komponen utama bisa dilihat dengan akar cirinya.
pca_mall <- prcomp(data_mall_standardize)
pca_mall$rotation
## PC1 PC2 PC3
## Age 0.70638235 -0.03014116 0.707188441
## Annual.Income -0.04802398 -0.99883160 0.005397916
## Spending.Score -0.70619946 0.03777499 0.707004506