Classification non supervisée

Transcription

1 Classification non supervisée 13 décembre 2012 Table des matières 1 Présentation du problème 1 2 Visualisation des données 2 3 Algorithme des k-means 3 4 Classification Ascendante Hiérarchique - CAH 4 1 Présentation du problème On souhaite créer une typologie des eaux pour regrouper des eaux ayant des caractéristiques communes. On a pour cela noté la teneur en HCO3, SO4, Cl, Ca, Mg, Na de 20 bouteilles d eau minérale. La table de données se trouve dans le fichier eaux.csv. On utilisera le package FactoMineR. > library(factominer) > setwd("/media/omip/math_enseignement/2a-sd3/exemplecours") > Table <- read.table("eaux.csv",header=true, sep=";",row.names=7) > head(table) HCO3 SO4 CL CA MG NA Beckerish Cayranne Cristal Cristaline On commence par regarder des statistiques simples sur les différentes variables : > #statistiques simples > m.table=colmeans(table) > sd.table=apply(table, 2, sd) > print(m.table) HCO3 SO4 CL CA MG NA > print(sd.table) HCO3 SO4 CL CA MG NA > #Matrice des correlations > Mat.cor=cor(Table) 1

2 2 Visualisation des données On a vu, en cours, que l ACP est une méthode pour visualiser en deux dimensions, avec un minimum de déformation, un nuage d individus vivant dans une dimension supérieure, ici 6. > acp.res=pca(table, scale.unit = TRUE, graph=f, ncp = 6) > names(acp.res) [1] "eig" "var" "ind" "svd" "call" On obtient la liste des valeurs propres en affichant la partie de l objet acp.res correspondante : > acp.res$eig eigenvalue percentage of variance cumulative percentage of variance comp comp comp comp comp comp Les deux premiers axes expliquent donc environ 80% de l inertie. La projection des individus dans le premier plan factoriel est obtenue grâce à la commande suivante : > plot(acp.res, choix="ind") Individuals factor map (PCA) Dim 2 (28.08%) Cayranne Ferita Laurier Cristaline Ribes Thonon Viladreau Volvic Cristal Beckerish Dim 1 (51.58%) Le cercle des corrélations permet d analyser les relations entre les composantes principales et les anciennes variables. > plot(acp.res, choix="var") 2

3 Variables factor map (PCA) Dim 2 (28.08%) NA. CL HCO3 CA SO4 MG Dim 1 (51.58%) 3 Algorithme des k-means On veut créer une typologie des eaux en 5 grands groupes. Pour mettre en œuvre l algorithme des k-means, on utilise la fonction kmeans. > eaux.kmeans1=kmeans(table,centers=5,iter.max=100,nstart = 1) > names(eaux.kmeans1) [1] "cluster" "centers" "totss" "withinss" "tot.withinss" [6] "betweenss" "size" On obtient l inertie totale par eaux.kmeans1$totss, l inertie intra-classe par eaux.kmeans1$tot.withinss et l inertie au sein de chacune des classes par eaux.kmeans1$withinss. La partie cluster de l objet eaux.kmeans1 donne pour chaque individu le cluster auquel il appartient. > eaux.kmeans1$totss [1] > eaux.kmeans1$tot.withinss [1] > eaux.kmeans1$withinss [1] > eaux.kmeans1$between [1] > eaux.kmeans1$cluster 3

4 Beckerish Cayranne Cristal Cristaline Ferita Laurier Ribes Thonon Viladreau Volvic Si on recommence l algorithme, on peut potentiellement obtenir une autre classification. > eaux.kmeans2=kmeans(table,centers=5,iter.max=100,nstart = 1) > eaux.kmeans2$totss [1] > eaux.kmeans2$tot.withinss [1] > eaux.kmeans2$between [1] > eaux.kmeans2$cluster Beckerish Cayranne Cristal Cristaline Ferita Laurier Ribes Thonon Viladreau Volvic Classification Ascendante Hiérarchique - CAH Pour mettre en œuvre une classification en 5 groupes avec la méthode de la CAH, il faut avant tout construire la matrice de distance entre les individus. > eaux.dist <- dist(table, method = "euclidean") > eaux.dist1=eaux.dist^2 On obtient ensuite la CAH avec la fonction hclust. 1. Pour le lien simple > eaux.cah.single<-hclust(eaux.dist1, method = "single") 2. Pour le lien complet > eaux.cah.complete<-hclust(eaux.dist1, method = "complete") > eaux.cah.complete$labels [1] "" "Beckerish" "Cayranne" "" "Cristal" [6] "Cristaline" "" "Ferita" "Laurier" "" [11] "" "" "Ribes" "" "" [16] "" "Thonon" "" "Viladreau" "" [21] "Volvic" 4

5 Ces deux classifications donnent les dendrogrammes suivants > par(mfcol=c(1,2)) > plot(eaux.cah.single) > plot(eaux.cah.complete) Cluster Dendrogram Cluster Dendrogram Height Cayranne Thonon Ferita Ribes Laurier Cristal Beckerish Cristaline Viladreau Volvic Height Viladreau Volvic Cristaline Beckerish Ribes Laurier Cristal Thonon Cayranne Ferita eaux.dist1 hclust (*, "single") eaux.dist1 hclust (*, "complete") 3. Pour le lien de Ward > eaux.cah.ward<-hclust(eaux.dist1, method = "ward") On obtient le dendrogramme en dessinant l objet obtenu avec hclust. > #Dendrogramme > plot(eaux.cah.ward) > #Representation de k groupes sur le dendrogramme > res5=rect.hclust(eaux.cah.ward,k=5) > print(res5) [[1]] [[2]] Thonon [[3]] Beckerish Cayranne Cristaline Ferita [[4]] Cristal Laurier Ribes

6 [[5]] Viladreau Volvic Cluster Dendrogram Thonon Cristaline Beckerish Cayranne Ferita Ribes Laurier Cristal Viladreau Volvic Height 0e+00 1e+05 2e+05 3e+05 eaux.dist1 hclust (*, "ward") L historique des regroupements est donné par : > eaux.cah.ward$merge [,1] [,2] [1,] [2,] [3,] [4,] -9 2 [5,] -1-7 [6,] -4-8 [7,] -2 3 [8,] [9,] [10,] -6 7 [11,] [12,] -3 6 [13,] [14,] [15,] [16,] [17,] [18,] [19,] [20,]