ACP et classification de données spatiales

Transcription

1 UE STA112 ACP et classification de données spatiales Mars 2012 Gilbert Saporta Conservatoire National des Arts et Métiers

2 Compléments sur les indices de Moran et Geary W matrice de voisinage standardisée D matrice des nombres de voisins standardisée z vecteur des valeurs centrées réduites de y En négligeant la différence entre n-1 et n I c z'wz z' D - W z 2

3 Eercice Calculer W, D Les normaliser Où retrouve t-on le nombre d arêtes? 3

4 Tests de permutation le graphe (matrice W) étant fie on considère les n! permutations des valeurs y i.en l absence d autocorrélation spatiale ces permutations sont équiprobables. On compare donc la valeur observée de I ou de c avec la distribution de permutation. Quand n! est trop grand on tire aléatoirement un nombre suffisant de permutations 4

5 Eemple I=0.5 9!=

6 Distribution of Moran's I under randomization with trials 6

7 Distribution of Geary's C under randomization using trials 7

8 Relation between Moran's I and Geary's C for statistics 8

9 ACP de données spatiales tableau X (n,p) de p variables, matrice (n,n) de voisinage W, matrice (n,2) des coordonnées géographiques G X G W comment tenir compte de l autocorrélation? mettre en évidence ce qui ne dépend pas de l espace ou bien mettre en évidence des anomalies 9

10 Analyse lissée (Benali, Escoffier, 1990) chaque point est remplacé par le barycentre de son voisinage Nouveau tableau de données : Y=D -1 WX Analyse des différences locales on remplace chaque point par sa différence avec le barycentre de son voisinage Nouveau tableau de données Y=X- D -1 WX ACP de Lebart matrice de variance locale X (D-W)X 10

11 Deu représentations: Plan de l ACP (espace statistique) Cartographie (espace géographique) On préfère en général lire sur la carte et utiliser les coordonnées factorielles pour en déduire une typologie 11

12 Classification après ACP 11 productions agricoles en 1985 Benali, Escoffier 12

13 MÉTHODES DE PARTITIONNEMENT Considérations combinatoires P n,k : nombre de partitions en k classes P nombre de Stirling de n, k Pn 1, k1kpn1, k deuième espace P 12,5 = P n : nombre total de partitions (nombres de Bell: P 12 = ) Nécessité d algorithmes approimatifs pour trouver une bonne partition Comment définir la qualité d une partition? 13

14 Inertie intra-classe et inertie inter-classes n points dans un espace euclidien d 2 (, i i') = distance euclidienne Partition en k classes de poids P i g 1, g 2,,g k : centres de gravité I 1, I 2,.,I k : inerties 14

15 k I = moyenne des carrés des distances à g g 2 pd i i, g 2 1 Inertie=variance généralisée ( ) Var j 15

16 I PI W i i inertie intra classe 2 I B Pd i gi; g inertie inter classe I I I B W g 1 g g 2 g k 16

17 Comparaisons de 2 partitions en k classes La meilleure est celle qui minimise I w (ou maimise I B ) ma I B ou min I W k=n I B =I Ce critère ne permet pas de comparer des partitions à nombre différents de classes. 17

18 18 Méthode des centres mobiles Première étape: choi des centres ci et partition associée c 2 c 3 c 1

19 19 Deuième étape: calcul des centres de gravité de chaque classe Nouvelle partition associée au g i g 1 g 2 g 3

20 Résultat fondamental: l inertie intra classe diminue Pour la classe n 1: I pd i;g < pd i;g i 1 i 1 ic (2) (2) 1 ic1 Huyghens C 1 (2) comprend les points qui sont plus proches de g 1 (1) que de tout autre g i (1) En moyenne d 2 (i; g 1 (1) ) pour C 1 (2) est plus petit que i τ (2) 1 p d i; g 2 i 1 1 pour C 1 (1) Inertie I 1 (1) 20

21 Algorithme K-means de MacQueen C 1 0 I 1 0 C 2 0 I 2 0 Ch.Guinot 21

22 Algorithme K-means de MacQueen C 1 1 I 1 1 C 2 1 I 2 1 Ch.Guinot 22

23 Algorithme K-means de MacQueen C 1 2 C 2 2 I 1 2 I 2 2 Ch.Guinot 2 clusters 23

24 I W convergent mais vers où? Optimum local dépend des centres initiau Bien choisir les c i Recommencer avec plusieurs points de départ 24

25 Rappels de Classification Ascendante Hiérarchique Indice d agrégation i 4 i 3 Hiérarchie indicée i 2 i 1 a b c d e Première étape: rechercher les 2 points à distance minimale. Deuième étape:? 25

26 Classification hiérarchique ascendante 3 clusters Ch.Guinot 26

27 X X Comment mesurer la distance entre une partie et un élément, entre deu parties? Stratégie d agrégation: saut minimal (single linkage): d(a,b) = inf(a,b) diamètre (complete linkage): d(a,b) = sup(a,b) Moyenne (average linkage) Etc. 27

28 a b c d e a b c d /2 e ½ 0 28

29 /2 d e b c a inf /2 d e b a c moyenne d e b a c sup 29

30 L algorithme de l inf (Johnson) provoque souvent un effet de chaîne /2 d e b c a inf 30

31 Cas de distances euclidiennes: méthode de Ward ou stratégie du moment d inertie Partition caractérisée par son inertie interclasse La réunion de 2 classes fait diminuer IB g g A g AB g B 31

32 Avant: Après: g AB Différence: Stratégie: regrouper les classes pour lesquelles la perte d inertie est minimale Équivalent à: δ CAB, ; ; P d g g P d g g 2 2 A A B B 2 P P d g ; g A B AB PA g A P B g B PA PB PP A B g P P 2 d g ; g AB A B A B PP δ, A; P P A B 2 A B d g g A P P δ AC, P P δ B, C Pδ A, B A C B C C B P P P A B C B 32

33 Classification hiérarchique sous contrainte spatiale Ne fusionner que des éléments voisins risque d inversion sauf pour single linkage et complete linkage Autres solutions: Classification sur une combinaison pondérée des distances statistiques et géographiques 33

34 Références Benali H., Escoffier B. (1990). «Analyse factorielle lissée et analyse factorielle des différences locales». Revue de Statistique Appliquée, 38(2), p Gordon A.D. (1996) «A survey of constrained classification» Computational Statistics & Data Analysis, 21, Lebart L. (2001), «Analyse de Contiguïté et Classification», Revue de Modulad, INRIA, 27, Murtagh, F. (1985) «A survey of algorithms for contiguityconstrained clustering and related problems», The Computer Journal, 28,