Estimateurs MCD de localisation et de dispersion: définition et calcul. Fauconnier Cécile Université de Liège

Transcription

1 Estmateurs MCD de localsaton et de dsperson: défnton et calcul Fauconner Cécle Unversté de Lège

2 Plan de l eposé 2 Introducton: Pourquo les estmateurs robustes? Estmateur MCD : défnton Algorthmes appromatfs les plus connus Relaaton du problème Algorthme pour la nouvelle verson du problème Conclusons

3 3 Introducton Les estmateurs classques de localsaton et de dsperson sont la moyenne emprque et la varance emprque: Sot X,,, on a { } K n n n S n n t

4 4 Problèmes posés par les estmateurs classques: Les estmateurs classques sont fortement vulnérables dès que l ensemble des données consdéré content des données atypques. Eemples: Localsaton d un ensemble de données Détecton des ponts aberrants

5 Localsaton 3 2 data\ data\

6 Localsaton 3 2 data\ data\

7 Localsaton 3 2 data\

8 8 Localsaton 3 2 data\2 - -2

9 9 Détecton des ponts aberrants Un pont est suspecté s sa dstance de Mahalanobs est grande De manère équvalente, un pont est suspecté s l est hors de l ellpse suvante S MD t { } 2, : α χ ε p t S

10 Détecton : eemple ytsnet ni t hg L gol Log Temperature

11 Estmateurs robustes {, } X, A partr de l échantllon, on veut estmer la dsperson par une matrce C et la localsaton par un vecteur t. On mpose à t,c d être équvarant pour les transformatons affnes: t AX C AX + b + b At X + b AC X t A K n

12 2 Estmateurs MCD de localsaton et de dsperson : défnton MCD: Mnmum Covarance Determnant Les estmateurs MCD de localsaton et de dsperson sont la moyenne et la matrce de covarance calculées sur l échantllon de h ponts parm n qu mnmse le détermnant de la matrce de covarance correspondante

13 3 Estmateurs MCD Le but est donc de trouver l ensemble * tel que On en dédut alors les estmateurs de localsaton et de dsperson { } det ˆ arg mn,,, * h n Σ K * ˆ ˆ, ˆ * h Σ Σ µ

14 4 Estmateurs MCD Enumérer tous les sous-ensembles de h ponts parm n devent vte nfasable pour de grands n! ensembles de données. possbltés h! n h! Dfférents algorthmes appromatfs ont été proposés dans la lttérature C h n

15 5 Estmateurs MCD: proprétés abtuellement, h n + p + / 2 En pratque, h. 75n Implémenté dans S+, SAS,

16 Retour à l eemple : détecton des ponts aberrants ytsnet ni t hg 6 L gol Log Temperature

17 Retour à l eemple : détecton des ponts aberrants ytsnet ni t hg 7 L gol Log Temperature

18 8 Algorthmes basés sur l échantllonnage Sous-ensembles consdérés:,, K I Enumérer tous les sous ensembles possbles de h h ponts I C n Agullό 998 Technque branch and bound Lmtaton : n< p< Dans la sute, on va consdérer un grand nombre de sous-ensembles mas pas tous

19 9 Algorthmes appromatfs: FSA awkns 994: FSA - Feasable Subset Algorthm Poston ntale : cho aléatore de h ponts Passer en revue tous les SWAPS possbles et garder l ensemble qu provoque la melleure améloraton Crtère d arrêt : aucun swap n apporte une améloraton

20 SWAP 2 y

21 FSA, det, 2 { }\ 2? : det < det ou : mn det non STOP

22 FSA On consdère un certan nombre de postons ntales et on garde la melleure des solutons obtenues nt _, K, nt _ I fn _, K, fn _ I 2 A chaque vérfcaton, hn-h cas à consdérer Alternatves: - Prendre le premer swap qu provoque un changement - n applquer qu une fos le swap

23 3 Algorthme appromatf: FASTMCD Rousseuw, Van Dressen 999 Algorthme: Poston ntale aléatore C-step Crtère d arrêt: s aucune améloraton n est apparue après applcaton du C-step

24 4 FASTMCD non ou STOP n T S T d S ave T t,, cov, K { } det det det? : cov,,, 2 S S ou S S ave T n d d d h π π π π π K K

25 FAST MCD On consdère un certan nombre de postons ntales et on garde la melleure des solutons obtenues souvent 5 nt_, K, nt_ I fn_, K, fn_ I 5 Améloratons: - A partr de chaque poston ntale, on ne consdère que 2 C-step - On sélectonne les melleurs ensembles fnau parm les 5 - On relance la procédure eplctée sur ces ensembles jusqu à la convergence

26 6 Redéfnton des estmateurs MCD et nouvel algorthme Traval en collaboraton avec - G. aesbroeck - M. Schyns - F. Crtchley The Open Unversty Recherches toujours en cours

27 7 Défnton équvalente But : trouver * tel que En en dédut { } det ˆ arg mn,,, * h n Σ K * * s s h p Σ n t n p p h * ˆ ˆ ˆ ˆ µ µ µ Probablté assocée à la ème observaton

28 8 Défnton équvalente En termes des n-vecteurs de probabltés, la foncton objectve MCD peut être défne par t p det p ˆ µ ˆ µ Espace réalsable : n t p : p pour h ndces et p pour n h ndces h

29 9 Relaaton du problème Idée: transformer un problème dscret en un problème contnu p : p pour h ndces et p pour n h ndces h p n vecteur de proba : p h

30 Relaaton du problème E: n3, h2,, IP 3 /2,,/2,/2,/2 IP 3 -,, /2,/2,,,

31 Foncton objectve MCD Afn d assurer la concavté de la foncton objectve, nous prenons le logarthme t p log det p ˆ µ ˆ µ Cette foncton est concave. n t

32 2 Relaaton du problème Problème d optmsaton: mn p t p tel que et p p h p + K + p + 2 n {, K, n}

33 3 Algorthme Poston ntale : dfférents cho - aléatore - p {, K, n} n - mamum - opposé au mamum Descente dans la drecton opposée au gradent centré

34 4 Descente Descente:,, > + n t d d avec d p p δ δ δ δ δ o p t d p t d p t centré gradent c t

35 5 Gradent centré par la foncton objectve MCD Nous avons obtenu le gradent centré de la foncton objectve MCD a a a c et p p p p D avec p D c p t t c MCD Σ 2 2 µ µ

36 6 Algorthme Consdérer un grand nombre de postons ntales p,, K p I Suvre la drecton opposée au gradent centré en fant une coordonnée dès que l on arrve à une etrémté Attenton: Le pont etrême obtenu n est peut-être pas un mnmum local de la foncton

37 Condton nécessare et suffsante pour être un mnmum local 7 Un vecteur p, dont h composantes sont égales à /h et n-h composantes sont égales à, réalse un mnmum local de la foncton t. ss mn * { c } { c t p ma t p } * Dans le cas MCD, la condton devent mn * { 2 } { 2 D p ma D p } * Équvalence du crtère d arrêt de FASTMCD et de la présence en un mnmum local de cet algorthme

38 8 Algorthme Consdérer un grand nombre de postons ntales p,, K p I Suvre la drecton opposée au gradent centré jusqu à l obtenton d un pont etrême Applquer un swap local afn d obtenr un mnmum local Retourner la melleure des solutons obtenues

39 9 Illustraton

40 Applcaton L algorthme a été lancé sur dfférents ensembles de référence Phosphor Salnty awkns Coleman Wood eart

41 Conclusons Smulatons en cours Un nouvel algorthme a été construt mas nous avons également progressé dans la compréhenson d un tel problème L algorthme peut être applqué à d autres fonctons ayant certanes caractérstques. Nous nous sommes ntéressé à la foncton objectve LTS ou encore à des problèmes de dagnostques.

42 2 Questons?