Données binaires. x et y { 0,1} n On définit leur distance de Hamming par : { { } n i =1...N} { } n. H(x,y) = y k. 1 si a i. x k. a i.

Dimension: px

Commencer à balayer dès la page:

Download "Données binaires. x et y { 0,1} n On définit leur distance de Hamming par : { { } n i =1...N} { } n. H(x,y) = y k. 1 si a i. x k. a i."

Brigitte Germain
il y a 6 ans
Total affichages :

1 Données binaires x et y { 0,1} n On définit leur distance de Hamming par : H(x,y) = n k=1 x k y k Où x k et y k sont les kièmes composantes de x et y { { } n i =1...N} Etant donnée un ensemble A = x i 0,1 où chaque x i est muni d une pondération a i 0. { } n On définit le vecteur médian m 0,1 par : N i 1 si a i x k i=1 m k = N i 0 si a i x k i=1 1 2 < 1 2 N a i i=1 N a i i=1 m k étant la kième composante de m

2 Carte Topologique binaire Carte topologique Données Binaires Distance de Hamming: H(.,.) Algorithme BinBatch z APP r C Fonction coût ( δ( r, χ( z ))) T E ( W, χ) = K H( z, w ) i i i r Gestion du voisinage qui introduit l ordre neurone c W = {w r / r =1,,p} l ensemble des référents binaires

3 Optimisation de la fonction coût L algorithme est itératif, chaque itération comporte deux phases : Phase d affectation: L ensemble W des référents est fixé, la minimisation de E par rapport à χs obtient en affectant chaque observation z au référent w c selon la nouvelle fonction d affectation: ( δ( c, r) ) H( z, w) χ( z) = argmax K c r C c C T Phase de minimisation: La fonction d affectation χ est fixée, la minimisation de E par rapport à l ensemble des référents W. Pour chaque nœud r de la carte, le référent optimal correspond correspond au vecteur médian de l ensemble A, lorsque chaque observation x i est munie de la pondération : ( ) K T δ(r,χ(z i )

4 Variables qualitatives et codage Taille: Petit, Moyen, Grand Petit, Moyen, Grand Petit, Moyen, Grand Ordinale Couleur : rouge, vert, bleu rouge, vert, bleu rouge, vert, bleu Disjonctif

5 Race des chiens 27 races de chiens caractérisées par 7 variables qualitatives. -Taille : 3 modalities (Petit, Moyen, Grand), -Poid: 3 modalities (Petit, Moyen, Grand), -Vitesse : 3 modalities (Petit, Moyen, Grand), -Intelligence : 3 modalities (Petit, Moyen, Grand), -Affection : 2 modalities (Affectif, Non Affectif), -Aggressivité : 2 modalities (Agressif, Non Agressif), -Function : 3 modalities (Assistance, Chasse, Compagnie).

6 Codage disjonctif complet Vecteurs de dimension 19 Race PT MT GT PP MP GP PV MV GV PI MI GI NAF AF NAG AG CM CH U Beauceron Basset Berger Alle mand Bo xe r Bull-Dog Bull-Mastif Caniche Chihuahua Cocke r Colley Dalmatien Doberman Dogue Alle mand Epagneul Breton Epagneul Français Fo x-hound Fo x-te rrier Grand Bleu de Gascogne Labrador Levrier Masstiff Pekinois Pointer Saint-Bernard Setter Teckel Terre-Neuve

7 interpretation symbolique Carte BinBatch 5*5 SS,SW,SV,AF,NAG, CM Poodle Chihuahua Pekinese Dachshund B S,B W,SV,AI,NAF, NAG,A Newfoundland SS,SW,SV,AI,AF,AG,CM Bull Dog Cocker Fox-Terrier AS,AW,AV,AI,AF,NA G,CM Boxer Collie Dalmatien AS,AW,AV,AI,AF, NAG,H Labrador AS,AW,AV,B I,AF, NAG,H Breton spaniel B S,AW,SI,NAF,AG,H Fox Hound Gascogne SS,SW,SV,SI,NAF,AG,H Basset B S,AW,BV,B I,AF,AG,A Beauceron Alsatian Doberman B S,AW,BV,NAF, NAG,H Greyhound Pointer BS,BW,SV,NAF,AG, A Bull Mastiff Saint Bernard B S,B W,SV,SI,NAF, AG,A Mastiff 20 BS,BW,BV,SI, NAF,AG,A German Dog Setter B S,AW,AV,AI, NAF,NAG,H French spaniel Les référents ont la même nature que les données. Les groupent peuvent être interprétés de manière symbolique.

8 Carte probabiliste pour données catégorielles: z est une observation: réponse à un questionnaire ( z, z,.., ) z = 1 2 z n z k est la réalisation d une variable catégorielle à n k modalités dont la loi de probabilité est une table de dimension 1 qui représente les probabilités des n k modalités. Sous l hypothèse d indépendance des M variables M p(z) = p(z k ) i=1

9 Algorithme CTM (Categorical Tological Map) A chaque neurone c de la carte est associé n tables, la kième étant de dimension n k (elle représente p(z k /c 1 )) dont les valeurs seront fixées par apprentissage On suppose alors que la densité sous jacente aux observations est un mélange de mélange de tables p(z) = p(c)p(z / c) c c 1 C K T ( δ(c 1,c))p(z /c 1 ) T On maximise la vraisemblance du questionnaire à l aide de l algorithme E.M pour calculer les valeurs des tables associées aux neurones et les coefficients du mélange.

10 Base d assurance: 1106 individus (9 variables qualitatives) sinist = Sinistralité 1 = '0 sin' 2 = 1 sin' U = Code usage (2 mod) Pf = 'Profess.' P = 'Privé' S = Sexe (3 mod) M = 'masculin' F = 'féminin' P = 'Société' L = Langue F = Français.' O = Autre langue.' A = Age de l assuré (3 mod) OM = ' ' MA = ' ' Y = Lo = Code postal souscripteur (2 mod) C = 'Bruxelles' Pr = 'Autres codes' B = Bonus-malus Année -1 (2 mod) - 1 = 'B-M 1 (-1)' 2 = 'Autres B-M (-1)' P = Date effet Police (2 mod) 1 = '<86 Police' 2 = 'autres polices' Pw = Puissance du véhicule (2 mod) S = '10-39 Puis' B = ' Puis CA = Année de construction du véhicule (2 mod) O = '33-89 DCOS' N = '90-91 DCOS' Base difficile pour laquelle deux individus semblables peuvent avoir des classes différentes

Sexe Age Visualisation de l ordre topologique Carte CTM 5*5 puissance Age voiture Représentation de 4 parmi les 9 tables associées à chaque neurone.

11 Sexe Age Visualisation de l ordre topologique Carte CTM 5*5 puissance Age voiture Représentation de 4 parmi les 9 tables associées à chaque neurone. Plusieurs neurones sont semblables à cause de la projection de l espace des données en dimension 4. Représentation de la modalité m la plus probable de la variable si: p(m/c 1 ) > 0.8 pour une variable à 2 modalités p(m/c 1 ) > 0.6 pour une variable à 3 modalités

12 Visualisation des probabilités des 3 modalités de la variable Age Old Men Middle Age Young Clairement la classification est ordonnée en fonction de l âge

13 Evaluation des performances en prévision Apprentissage par cross validation 2/3 de la base. Test 1/3 de la base. Etiquetage par vote majoritaire sur l ensemble d apprentissage «jamais aucun accident» code 1 «Au moins 1 accident» code 2 Performance 18,3% de mal classé sur la moyenne des 3 tests Permet une caractérisation symbolique des «bons» et «mauvais conducteurs»

Documents pareils

Introduction au Data-Mining

Introduction au Data-Mining Alain Rakotomamonjy - Gilles Gasso. INSA Rouen -Département ASI Laboratoire PSI Introduction au Data-Mining p. 1/25 Data-Mining : Kèkecé? Traduction : Fouille de données. Terme