Método Hierárquico Aglomerativo

Os métodos hierárquicos da análise de cluster tem como principal característica um algoritmo capaz de fornecer mais de um tipo de partição dos dados. Ele gera vários agrupamentos possíveis, onde um cluster pode ser mesclado a outro em determinado passo do algoritmo.

Esses métodos não exigem que já se tenha um número inicial de clusters e são considerados inflexíveis uma vez que não se pode trocar um elemento de grupo. Eles podem ser classificados em dois tipos: Aglomerativos e Divisivos.

Métodos Aglomerativos: nesse caso, todos os elementos começam separados e vão sendo agrupados em etapas, um a um, até que tenhamos um único cluster com todos os elementos. O número ideal de clusters é escolhido dentre todas as opções.

Métodos Divisivos: no método divisivo todos os elementos começam juntos em um único cluster, e vão sendo separados um a um, até que cada elemento seja seu próprio cluster. Assim como no método aglomerativo, escolhemos o número ótimo de clusters dentre todas as possíveis combinações.

As variáveis podem ser quantitativas, qualitativas ou uma distribuição de ambas. O critério de agregação é a diminuição da homogeneidade para o cluster que está sendo mesclado. A homogeneidade de um cluster é a soma da razão de correlação (para variáveis qualitativas) e da correlação quadrática (para variáveis quantitativas) entre as variáveis e o centro do cluster (centroide) que é o primeiro componente principal de PCA mix.

PCA mix é definido para uma distribuição de variáveis qualitativas e quantitativas e inclui análises de componentes principais comuns (PCA) e análise de correspondência múltipla (MCA) como casos especiais. Os valores em falta são substituídos por médias para variáveis quantitativas e por zeros na matriz de indicadores para a variável qualitativa.

Vamos separar o dataset em duas partes, qualitativa como “a” e quantitativa como “x” Vamos também ignorar o ID do cliente para efietos de clusterização, poiis queremos nesse momento entender o dataset e como ele se comporta. Avaliando para \(k = 2,3,...,M\), onde M é a raiz quadrada do número de objetos na base de dados. Este limite superior é utilizado na literatura para delimitar a análise.

k <- 2:floor(sqrt(nrow(wine)))
D <- dist(WP)^2
CL_H = hclust(D, method = "ward.D")

fviz_dend(CL_H, k = 3,# Cut in four groups
          cex = 0.5, # label size
          k_colors = c("#2E9FDF", "#00AFBB", "#E7B800", "#FC4E07"),
          color_labels_by_k = TRUE, # color labels by groups
          rect = TRUE # Add rectangle around groups
)

# Silhueta
best_H <- sapply(k, function(k) mean(silhouette(cutree(CL_H, k = k), D)[,3]))
ggplot() + geom_line(aes(k, best_H), color = grey(0.5), size = 1.5) + geom_point(aes(k, best_H), color = grey(0.5), size = 2) + theme_minimal() + 
  geom_label_repel(aes(k, best_H, label = paste('k =',k), 
                      color = k==k[which.max(best_H)]), 
                  force = 0, nudge_y = -0.05,
                  size = 4,
                  arrow = arrow(length = unit(0.03, "npc"), type = "closed", ends = "first")) + 
  scale_y_continuous(limits = c(0,max(best_H)+0.05)) + labs(x = NULL, y = "Silhueta Média") + guides(color = FALSE) +
  theme(panel.grid.major.x = element_blank(),
        panel.grid.minor.x = element_blank(), 
        axis.title.y = element_text(size = 12)) +
  scale_x_discrete(NULL)

clust_H <- cutree(CL_H, k = 3)
sil <- silhouette(clust_H, D)
bar_sil(sil)

ajust_clust <- ajuste_sil(sil, D)
bar_sil(ajust_clust)

dim_cluster(WP, clust_H, "Set1")

clust_H_ajuste <- ajust_clust[,1]
dim_cluster(WP, clust_H_ajuste, "Set1")

Método Não-Hierárquico - K-means

Os métodos não-hierárquicos da análise de cluster são caracterizados pela necessidade de definir uma partição inicial e pela flexibilidade, uma vez que os elementos podem ser trocados de grupo durante a execução do algoritmo.

O procedimento geral adotado para os métodos não hierárquicos é: - Escolher uma partição inicial (baseada em conhecimentos anteriores do problema); - Realizar o deslocamento do objeto de seu grupo para outros grupos; - Verificar o valor do critério utilizado, decidindo pela clusterização que apresentar melhoria. Esse processo é repetido até que não se obtenha mais nenhuma melhoria com os deslocamentos.

Os métodos das k-médias e o Fuzzy c-Médias são alguns exemplos conhecidos desses métodos, que tem como vantagem a possibilidade de mover um elemento de um cluster para o outro, o que não é possível no método hierárquico.

Usualmente, os métodos não hierárquicos são mais eficientes na análise de bancos de dados com maior número de observações.

# Silhueta
best_K <- sapply(k, function(k) mean(silhouette(kmeans(WP, k, nstart = 30, iter.max = 30)$cluster, D)[,3]))
ggplot() + geom_line(aes(k, best_K), color = grey(0.5), size = 1.5) + geom_point(aes(k, best_K), color = grey(0.5), size = 2) + theme_minimal() + 
  geom_label_repel(aes(k, best_K, label = paste('k =',k), 
                      color = k==k[which.max(best_K)]), 
                  force = 0, nudge_y = -0.05,
                  size = 4,
                  arrow = arrow(length = unit(0.03, "npc"), type = "closed", ends = "first")) + 
  scale_y_continuous(limits = c(0,max(best_K)+0.05)) + labs(x = NULL, y = "Silhueta Média") + guides(color = FALSE) +
  theme(panel.grid.major.x = element_blank(),
        panel.grid.minor.x = element_blank(), 
        axis.title.y = element_text(size = 12)) +
  scale_x_discrete(NULL)

clust_K <- kmeans(WP, 3, nstart = 30, iter.max = 30)$cluster
sil <- silhouette(clust_K, D)
bar_sil(sil)

ajust_clust <- ajuste_sil(sil, D)
bar_sil(ajust_clust)

dim_cluster(WP, clust_K, "Set1")

clust_K_ajuste <- ajust_clust[,1]
dim_cluster(WP, clust_H_ajuste, "Set1")