Yves Bastide. Fouille de données : algorithmes par niveau p. 1/26

Transcription

1 Fouille de données : algorithmes par niveau Yves Bastide Fouille de données : algorithmes par niveau p. 1/26

2 Plan Fouille de données Présentation Recherche par niveau Apriori Close Pascal Règles d association Présentation Problèmes Règles informatives Conclusion Fouille de données : algorithmes par niveau p. 2/26

3 Présentation Le dessin de rigueur : Sélection Données Prétraitement Données cibles xxxxxxxxxxxxxx xxxxxxxxxxx xxxxxxxxxxxxx xxxxxxxxxxxxx xxxxxxxxxxxxxx Transformation Données pré-traitées Fouille de données Données transformées Interprétation/ évaluation Motifs, structures, modèles Connaissances Fouille de données : algorithmes par niveau p. 3/26

4 Restons simples Fouille de données : algorithmes par niveau p. 4/26

5 Restons simples Données binaires Fouille de données : algorithmes par niveau p. 4/26

6 Restons simples Données binaires Recherche de motifs fréquents : «lait, œufs et farine sont souvent achetés ensemble» Fouille de données : algorithmes par niveau p. 4/26

7 Restons simples Données binaires Recherche de motifs fréquents : «lait, œufs et farine sont souvent achetés ensemble» Recherche de règles d association : «dans 75 % des cas, l achat de couches va de pair avec l achat de bière» Fouille de données : algorithmes par niveau p. 4/26

8 Restons simples Données binaires Recherche de motifs fréquents : «lait, œufs et farine sont souvent achetés ensemble» Recherche de règles d association : «dans 75 % des cas, l achat de couches va de pair avec l achat de bière» Pas de notion du temps Fouille de données : algorithmes par niveau p. 4/26

9 Restons simples Données binaires Recherche de motifs fréquents : «lait, œufs et farine sont souvent achetés ensemble» Recherche de règles d association : «dans 75 % des cas, l achat de couches va de pair avec l achat de bière» Pas de notion du temps Ni disjonctions, ni négations Fouille de données : algorithmes par niveau p. 4/26

10 Vocabulaire Objet : objet Fouille de données : algorithmes par niveau p. 5/26

11 Vocabulaire Objet : objet Item : attribut binaire Fouille de données : algorithmes par niveau p. 5/26

12 Vocabulaire Objet : objet Item : attribut binaire Motif : ensemble d items ; k-motif : k items Fouille de données : algorithmes par niveau p. 5/26

13 Vocabulaire Objet : objet Item : attribut binaire Motif : ensemble d items ; k-motif : k items Support d un motif : pourcentage d objets ayant ces items (fréquence) Fouille de données : algorithmes par niveau p. 5/26

14 Vocabulaire Objet : objet Item : attribut binaire Motif : ensemble d items ; k-motif : k items Support d un motif : pourcentage d objets ayant ces items (fréquence) Motif fréquent : motif dont le support atteint un seuil fixé Fouille de données : algorithmes par niveau p. 5/26

15 Exemple 1. Frisée vinaigrette ; 2. Tomates vinaigrette ; 3. Pommes de terre vinaigrette ; 4. Anchois, oignons ; 5. Frisée, tomates, vinaigrette ; 6. Frisée, pommes de terre, vinaigrette ; 7. Frisée, tomates, oignons, vinaigrette ; 8. Frisée, tomates, pommes de terre, vinaigrette ; 9. Anchois, oignons, pommes de terre, vinaigrette ; 10. Frisée, tomates, anchois, oignons, pommes de terre, vinaigrette. Fouille de données : algorithmes par niveau p. 6/26

16 Un treillis de salades 10 oignons tomates vinaigrette 2 1 frisée vinaigrette rien pommes de terre vinaigrette anchois oignons Fouille de données : algorithmes par niveau p. 7/26

17 Plus sérieusement Modélisation : O : ensemble fini d objets P : ensemble fini d items R : relation binaire sur O P o «contient» p si o p est dans R D = (O, P, R) : base de données f(p ) = { o O o contient P } : image d un motif dualement : g(o) = { p P o O, (o, p) R } sup(p ) = card(f(p ))/ card(o) soit minsup [0; 1] ; P est fréquent si sup(p ) minsup Fouille de données : algorithmes par niveau p. 8/26

18 Illustration Id Motif 1 {acd} 2 {bce} 3 {abce} 4 {be} 5 {abce} 6 {bce} Fouille de données : algorithmes par niveau p. 9/26

19 Illustration abcde abcd abce abde acde bcde abc abd abe acd ace ade bcd bce bde cde ab ac ad ae bc bd be cd ce de a b c d e Ø Fouille de données : algorithmes par niveau p. 9/26

20 Recherche par niveau Niveau 1 : calcul du support des items et suppression des items infréquents. Niveau k : calcul du support de k-motifs candidats et suppression des k-motifs infréquents. Passage au niveau suivant : les k-motifs fréquents sont utilisés pour générer les (k + 1)-motifs candidats. un motif fréquent ne peut contenir que d autres motifs fréquents ou : pas de salade de tomates sans tomates. Fouille de données : algorithmes par niveau p. 10/26

21 3 algorithmes : Apriori Exploration du treillis des parties ae d motif fréquent motif infréquent ac ab ae bc ce be a c b e En principe : lent En pratique : optimisé depuis 1994 d Fouille de données : algorithmes par niveau p. 11/26

22 3 algorithmes : Close Analyse des concepts formels (R. Wille, B. Ganter) Concept : couple d ensembles (objets, attributs) dits (extension, intension) Ordre : ({ veaux, vaches, cochons, couvée }, { révé par Perrette, animal d élevage }) ({ veaux, vaches, cochons, couvée, bisons }, { animal Treillis de Galois d élevage }) Fouille de données : algorithmes par niveau p. 12/26

23 3 algorithmes : Close Fermeture sur un ensemble ordonné : application isotone, extensive et idempotente Connexion de Galois : couple d applications { u : P Q v : Q P u et v sont antitones u v et v u sont extensives (u v et v u sont des fermetures) Fouille de données : algorithmes par niveau p. 13/26

24 3 algorithmes : Close Treillis des fermés : (f, g) est une connexion de Galois Motif fermé : point fixe de h = g f abce ac bce c be Ø Fouille de données : algorithmes par niveau p. 14/26

25 3 algorithmes : Close En pratique : à chaque niveau, choix de générateurs calcul de leur fermeture par intersection tout motif fréquent se déduit de sa fermeture Fouille de données : algorithmes par niveau p. 15/26

26 3 algorithmes : Close abce abc abe ace bce ac ab ae be bc ce a c b e ac bc Fermé Générateur Ø Classe d équivalence : même fermeture Fouille de données : algorithmes par niveau p. 15/26

27 3 algorithmes : Pascal Défauts de Close : inefficace pour certains types de données Fouille de données : algorithmes par niveau p. 16/26

28 3 algorithmes : Pascal Défauts de Close : inefficace pour certains types de données principes trop compliqués pour les gens en bases de données Fouille de données : algorithmes par niveau p. 16/26

29 3 algorithmes : Pascal Défauts de Close : inefficace pour certains types de données principes trop compliqués pour les gens en bases de données D où Pascal mêmes principes que Close (mais sans la lourdeur des intersections) Fouille de données : algorithmes par niveau p. 16/26

30 3 algorithmes : Pascal Défauts de Close : inefficace pour certains types de données principes trop compliqués pour les gens en bases de données D où Pascal mêmes principes que Close (mais sans la lourdeur des intersections)...présentés et appliqués très simplement Fouille de données : algorithmes par niveau p. 16/26

31 3 algorithmes : Pascal Principe : regrouper en classes les motifs correspondants aux mêmes objets Classe d équivalence : Propriétés : 1. P θq sup(p ) = sup(q) P θq f(p ) = f(q) [P ] = { Q P P θq } 2. sup(p ) = sup(q) et P Q P θq Fouille de données : algorithmes par niveau p. 17/26

32 3 algorithmes : Pascal Motifs clés : motifs minimaux d une classe d équivalence Inférence de comptage : calcul du support d un motif non clé sup(p ) = min(sup(p \ {p})) p P Comment reconnaître un motif non clé? soit un de ses sous-motifs n est pas clé, soit cette égalité est vraie... Fouille de données : algorithmes par niveau p. 18/26

33 3 algorithmes : Pascal Ce qui suit n est pas un doublon... Fouille de données : algorithmes par niveau p. 19/26

34 3 algorithmes : Pascal abce abc abe ace bce ac ab ae be bc ce a c b e bc Motif clé Ø Classe d équivalence Fouille de données : algorithmes par niveau p. 19/26

35 Règles d association Implications partielles entre motifs : Mesures les plus simples : Support : Confiance : ae bc sup({ ae } { bc }) = sup({ ae } { bc }) conf({ ae } { bc }) = sup({ abce })/ sup({ ae }) Notation : P P \ P Fouille de données : algorithmes par niveau p. 20/26

36 Règles d association Problème : trop de règles, souvent redondantes Solutions : Fouille de données : algorithmes par niveau p. 21/26

37 Règles d association Problème : trop de règles, souvent redondantes Solutions : Mesures différentes Fouille de données : algorithmes par niveau p. 21/26

38 Règles d association Problème : trop de règles, souvent redondantes Solutions : Mesures différentes Hiérarchisation Fouille de données : algorithmes par niveau p. 21/26

39 Règles d association Problème : trop de règles, souvent redondantes Solutions : Mesures différentes Hiérarchisation Ordre sur les règles Fouille de données : algorithmes par niveau p. 21/26

40 Règles d association Problème : trop de règles, souvent redondantes Solutions : Mesures différentes Hiérarchisation Ordre sur les règles Bases ou couvertures Fouille de données : algorithmes par niveau p. 21/26

41 Règles d association 1. Pied lisse au-dessous de l anneau, un anneau comestible, inodore, lamelles libres 2. Pied lisse au-dessous de l anneau, un anneau comestible, inodore, voile blanc 3. Pied lisse au-dessous de l anneau, voile partiel, un anneau comestible, inodore, lamelles libres 4. Pied lisse au-dessous de l anneau, un anneau comestible, inodore, lamelles libres, voile partiel 5. Pied lisse au-dessous de l anneau, un anneau comestible, inodore, lamelles libres, voile blanc 6. Pied lisse au-dessous de l anneau, voile partiel, un anneau comestible, inodore, voile blanc 7. Pied lisse au-dessous de l anneau, un anneau comestible, inodore, voile partiel, voile blanc 8. Pied lisse au-dessous de l anneau, voile partiel, un anneau comestible, inodore, lamelles libres, voile blanc 9. Pied lisse au-dessous de l anneau, un anneau comestible, inodore, lamelles libres, voile partiel, voile blanc Fouille de données : algorithmes par niveau p. 22/26

42 Règles d association informatives À toutes choses égales : Antécédent minimal Conclusion maximale Pied lisse au-dessous de l anneau, un anneau comestible, inodore, lamelles libres, voile partiel, voile blanc Fouille de données : algorithmes par niveau p. 23/26

43 Règles d association informatives À toutes choses égales : Antécédent minimal Conclusion maximale Pied lisse au-dessous de l anneau, un anneau comestible, inodore, lamelles libres, voile partiel, voile blanc support : 28,850 %, confiance : 51,165 % Fouille de données : algorithmes par niveau p. 23/26

44 Règles d association informatives abce abc abe ace bce ac ab ae be bc ce a c b e bc Motif clé Classe d équivalence Ø Règle exacte Règle approximative Fouille de données : algorithmes par niveau p. 24/26

45 Règles d association informatives réduites abce abc abe ace bce ac ab ae be bc ce a c b e bc Motif clé Classe d équivalence Ø Règle approximative Fouille de données : algorithmes par niveau p. 25/26

46 Conclusion Approches intéressantes Limité à des données simples Fouille de données : algorithmes par niveau p. 26/26

47 Conclusion Approches intéressantes Limité à des données simples (Quelques) travaux intéressants : Données multivaluées (G. Polaillon) «Ensembles libres» (A. Bykowski) Treillis de Galois multidimensionnel (A. Casali) Dépendances fonctionnelles (J.-M. Petit) Fouille de données : algorithmes par niveau p. 26/26