Ricco Rakotomalala

Transcription

1 Caractériser la liaison entre deux variables X et Y Ricco Rakotomalala Ricco.Rakotomalala@univ-lyon.fr Laboratoire ERIC 1

2 Laboratoire ERIC

3 Position du problème Xet Ysont deux grandeurs statistiques quantitatives, on souhaite : déterminer l existence d une relation (liaison) entre X et Y ; caractériser la formede le relation ; quantifier l intensité de la liaison si elle existe. Remarque: la position des variables est symétrique, on ne cherche pas à savoir si l une détermine l autre ou pas (ce sera le rôle de la régression) Laboratoire ERIC 3

4 Analyse graphique Deux points de vue : en termes d évolution(quand X augmente, Y augmente ou diminue ; quelques mots clés : monotonie, linéarité, sens +/-) en termes de positionnement (quand X est élevé, Y est élevé ou faible ; élevé par rapport à quoi?) Laboratoire ERIC 4

5 Notations Variable: Notée en majuscule (X est une variable) Valeur: Valeur mesurée chez un individu i (x i ) ou à la date t (x t ) Population: Ω pop Echantillon observé : Ω(fraction de la population) Taille de l échantillon : n card(ω) Pour la corrélation : couples de points Ω {(x i,y i ), i1,,n} Deux indicateurs usuels 1 x n s 1 x n n i 1 n x i ( xi x) i 1 Laboratoire ERIC 5

6 Laboratoire ERIC 6

7 Covariance : définition, interprétation Définition : COV ( X, Y ) Espérance du produit des variables centrées E E {( X E[ X ])( Y E[ Y ])} [ XY ] E[ X ] E[ Y ] Signification : Mesurer la tendance des deux variables à être simultanément au dessus ou en dessous de leurs espérances respectives. La référenceest l espérance mathématique des variables (moyenne) Caractérise les liaisons monotones et linéaires Fournit une indication sur le sensde la liaison : COV(X,Y) > 0, liaison positive ; COV(X,Y) < 0,liaison négative Et sur son intensité: plus COV est élevé, plus forte est la liaison COV(X,X) V(X) Laboratoire ERIC 7

8 Covariance : propriétés Symétrie: COV(X,Y) COV(Y,X) Distributivité: COV(X,Y+Z) COV(X,Y) + COV(X,Z) Covariance avec une constante: COV(X,a) 0 Covariance avec une variable transformée: COV(X,a+b.Y) b.cov(x,y) Variance de la somme de variables: V(X+Y) V(X) + V(Y) +.COV(X,Y) Covariance de deux variables indépendantes: COV(X,Y) 0 Démonstrations à faire en exercice par la suite. Domaine de définition : - < COV < + Elle est non normalisée!!! Laboratoire ERIC 8

9 Covariance : estimation sur un échantillon Covariance empirique : S xy ( xi x)( yi y) 1 n n i 1 C est un estimateur biaisé : n 1 E xy n [ S ] COV ( X, Y ) Ecriture simplifiée : S xy 1 n n i 1 x i y i x. y Estimateur corrigé (sans biais) : COV ˆ ( X, Y ) n n 1 Sxy Jamais utilisé Laboratoire ERIC 9

10 Covariance : estimation sous Excel Numero Modele Cylindree Puissance XY 1 Daihatsu Cuore Suzuki Swift 1.0 GLS Fiat Panda Mambo L VW Polo Opel Corsa 1.i Eco Subaru Vivio 4WD Toyota Corolla Cov.Empirique Opel Astra 1.6i 16V Cov.Non-Biaisé Peugeot 306 XS Renault Safrane.. V Seat Ibiza.0 GTI Cov.Excel VW Golt.0 GTI Citroen ZX Volcane Fiat Tempra 1.6 Liberty Fort Escort 1.4i PT Honda Civic Joker Volvo Ford Fiesta 1. Zetec Hyundai Sonata Lancia K 3.0 LS Mazda Hachtback V Mitsubishi Galant Opel Omega.5i V Peugeot Nissan Primera Seat Alhambra Toyota Previa salon Volvo 960 Kombi aut n Moyenne Somme Laboratoire ERIC 10

11 Coefficient de corrélation de Pearson (Bravais-Pearson) Normalisation de la covariance par le produit des écarts type. Définition : r xy COV ( X, Y ) V ( X ). V ( Y ) COV ( X, Y ) σ.σ x y Première conséquence : domaine de définition 1 r + 1 xy Commentaires: Mesure l intensité de la liaison monotone linéaire entre variables (X,Y) indépendants r 0 (la réciproque est en général fausse) Corrélation d une variable avec elle-même : r xx 1 Corrélation Covariance pour les variables réduites Espérance du produit des variables centrées et réduites Laboratoire ERIC 11

12 Corrélation : quelques exemples Notions à voir : monotonie, linéarité, absence de liaison Pourquoi le calcul n est pas possible ici? Laboratoire ERIC 1

13 Corrélation : estimation sur un échantillon Corrélation empirique : rˆ s S x xy. s y C est un estimateur asymptotiquement sans biais E [ rˆ ] r(1 r r n Le biais est très faible dès que n augmente ) Un estimateur non biaisé ˆ r aj 1 n n 1 ( 1 rˆ ) Très peu utilisé en pratique, la correction est très minime, négligeable dès que n augmente Laboratoire ERIC 13

14 Corrélation : un exemple sous Excel rˆ i ( x x)( y y) ( x x) ( y ) i i i i x i y i i i nxy x nx y i i i i i Numero Modele Cylindree Puissance XY X² Y² 1 Daihatsu Cuore Suzuki Swift 1.0 GLS Fiat Panda Mambo L VW Polo Opel Corsa 1.i Eco Subaru Vivio 4WD Toyota Corolla Opel Astra 1.6i 16V Peugeot 306 XS Renault Safrane.. V Seat Ibiza.0 GTI y 1 VW Golt.0 GTI Citroen ZX Volcane Fiat Tempra 1.6 Liberty Fort Escort 1.4i PT Honda Civic Joker Volvo Ford Fiesta 1. Zetec Hyundai Sonata Lancia K 3.0 LS Mazda Hachtback V Mitsubishi Galant Opel Omega.5i V Peugeot Nissan Primera Seat Alhambra Toyota Previa salon Volvo 960 Kombi aut n Moyenne Somme ny Numérateur Dénominateur Corrélation Coef.Corr.Excel Laboratoire ERIC 14

15 Corrélation : analyse graphique Lien "Cylindrée - Puissance" Puissance Cylindrée Un indicateur numérique ne fait pas tout, l analyse graphique est un complément indispensable (ex. pour repérer les situations atypiques, insolites) Laboratoire ERIC 15

16 Laboratoire ERIC 16

17 Test de significativité Tester l existence d un lien linéaire entre X et Y H H 0 1 : r 0 : r 0 Attention : (X,Y) indépendants r 0 ; mais r 0 ne veut pas dire que (X,Y) indépendants, ils ne sont pas liés linéairement simplement!!! r^ Négligeable? Comment procéder? On dispose d une estimation de r (r^). On cherche à savoir si r^ s éloigne significativement de 0. Pour définir les «seuils» autour de 0, on fixe (contrôle) la probabilité de conclure à tort α P(Rejeter H0 au vu de r^ / en réalité H0 est vrai c.-à-d. r 0) seuil critique : r α Problème : il faut connaître la loi de distribution de r^ quand H0 est vrai -1 r 0 +1 Région d acceptation : acceptation de H0 r r α + r α Région critique : rejet de H0 Laboratoire ERIC 17

18 Test de significativité Test de Student Idée : Sous H0, on ne connaît pas la loi de r^, en revanche on connaît celle d une transformation de r^ t rˆ 1 rˆ I( n ) n La règle de décision devient : Accepter H ( r 0) ssi t < t Rejeter H 0 0 ( r 0) ssi t t 1 α / 1 α / Remarque: Souvent les logiciels fournissent la p-value (probabilité critique) La loi de Student n est valable que dans le voisinage (r 0), on ne peut donc pas l utiliser pour les autres tests de conformité (H0: r a) où (a 0) et pour le calcul des intervalles de confiance. Laboratoire ERIC 18

19 Test de significativité Un exemple Numero Modele Cylindree Puissance 1 Daihatsu Cuore Suzuki Swift 1.0 GLS Fiat Panda Mambo L r^ VW Polo n 8 5 Opel Corsa 1.i Eco ddl (n-) 6 6 Subaru Vivio 4WD Toyota Corolla Test de significativité 8 Opel Astra 1.6i 16V t Peugeot 306 XS t-théorique (5%) Renault Safrane.. V p-value.14816e Seat Ibiza.0 GTI VW Golt.0 GTI Citroen ZX Volcane Fiat Tempra 1.6 Liberty Fort Escort 1.4i PT Honda Civic Joker Volvo Ford Fiesta 1. Zetec Hyundai Sonata Lancia K 3.0 LS Mazda Hachtback V Mitsubishi Galant Opel Omega.5i V Peugeot Nissan Primera Seat Alhambra Toyota Previa salon Volvo 960 Kombi aut t rˆ 1 rˆ n t α ( n ) t0. 975(6).0555 Conclusion : On rejette l hypothèse nulle (r 0). Cette hypothèse n est pas compatible avec les données au risque α 5% Laboratoire ERIC 19

20 Laboratoire ERIC 0

21 Intervalle de confiance Problème : r^ est un estimateur qui dépend de l échantillon, on dit qu il est soumis aux fluctuations d échantillonnage (avec d autres données, on aura un résultat légèrement différent). Solution: Déterminer un intervalle qui a une probabilité de (1 α) de contenir la «vraie» valeur de r. (1 α) est le niveau de confiance, l intervalle ainsi définit est l intervalle de confiance. Pour y répondre, il faut connaître la loi de distributionde r^ (quelle que soit la vraie valeur de r), et disposer (ou pouvoir estimer) des paramètres de la loi. La loi de Student ne convient plus, elle n est valable que si «r 0» On ne dispose (toujours) pas de la loi de r^, on passe par une autre transformation La «transformation de Fisher». 1+ rˆ ln 1 rˆ Laboratoire ERIC 1 zˆ 1 Avec : E V z^ suit une loi normale(quelle que soit la valeur de r) [ zˆ ] [ zˆ ] 1 1+ ln 1 1 n 3 r r

22 Intervalle de confiance : Calcul pratique Numero Modele Cylindree Puissance 1 Daihatsu Cuore Suzuki Swift 1.0 GLS r^ Fiat Panda Mambo L n 8 4 VW Polo Opel Corsa 1.i Eco Calcul de z 6 Subaru Vivio 4WD z Toyota Corolla Variance(z) Opel Astra 1.6i 16V Ecart type(z) Peugeot 306 XS Renault Safrane.. V Seat Ibiza.0 GTI Quantile Loi normale 1 VW Golt.0 GTI u(0.975) Citroen ZX Volcane Fiat Tempra 1.6 Liberty Fort Escort 1.4i PT Honda Civic Joker Volvo Intervalle de conf. pour z^ 18 Ford Fiesta 1. Zetec bb(z) Hyundai Sonata bh(z) Lancia K 3.0 LS Mazda Hachtback V Mitsubishi Galant Opel Omega.5i V Intervalle de conf. pour r^ 4 Peugeot bb(r) Nissan Primera bh(r) Seat Alhambra Toyota Previa salon Volvo 960 Kombi aut Etapes: 1. Calculer r^. Passer à la transformation z^ 3. Calculer les bornes de l intervalle de confiance de z^ au niveau de confiance (1-α) 4. Ramener ces bornes définies pour z^ à des bornes pour r^ (en utilisant la fonction inverse de la transformation de Fisher) Conclusion : il y a 95% de chances que l intervalle ( ; ) couvre la «vraie» valeur de r. Laboratoire ERIC

23 Laboratoire ERIC 3

24 Liaison non linéaire Transformation de variables Liaison non linéaire, et non monotone Linéarisation par transformation de variables (ex. Z X²) Y X X² Corrélation (Y,X) Corrélation (Y,X²) Problème: comment deviner la bonne transformation? Elle n est pas toujours aussi évidente Laboratoire ERIC 4

25 Liaison non linéaire Passage par les rangs Liaison non linéaire, mais monotone Transformation des données en rangs X Y RX RY Corrélation (XY) Coefficient de Pearson calculé sur les rangs «coefficient de Spearman» Toute la partie inférentielle (test d hypothèses, intervalle de confiance) reste valable Mais pas bon pour les liaisons non monotones age rang moyen rang aléatoire En cas d ex-aequo : rangs aléatoires (simple) rangs moyens (nécessite plus de calculs, mais plus précis) Laboratoire ERIC 5

26 Problème des points atypiques Le coefficient de corrélation de Pearson est très sensible aux points atypiques X Y r (6 points) r (7 points) Passage aux rangs X Y RX RY Coef. Rangs Le coefficient calculé sur les rangs (coefficient de Spearman) est moins sensible aux points aberrants Parce qu il «lisse» les valeurs. Laboratoire ERIC 6

27 Laboratoire ERIC 7

28 Corrélations suspectes r des cheveux Longueur Liaison "taille et longueur des cheveux" Qui peut croire qu il y a un lien entre la taille des personnes (X) et la longueur des cheveux (Y)? Il y a sûrement une tierce variable (Z) qui pèse simultanément sur X et Y Taille Et, de fait, la relation entre Y et X est essentiellement déterminée par Z. Laboratoire ERIC 8

29 Cas particulier : Z est binaire Hommes Femmes Cheveux (cm) Taille (m) Lo ongueur des cheveux Liaison "taille et longueur des cheveux" Hommes Femmes Taille La corrélation est essentiellement définie par le décalage entre les nuages de points. Les corrélations intranuages sont nulles. r (hommes) r (femmes) r (global) Laboratoire ERIC 9

30 Corrélation partielle (Z quantitative également) Corrélation brute (y, x) On retranche l effet de z sur x etsur y Coefficient de corrélation partielle r (corrélation entre X et Y, en xy rxz ryz r contrôlant l effet de Z) xy. z (1 r ) (1 r ) xz yz Normalisation pour que -1 r xy.z +1 Estimation : il faut utiliser les estimations des corrélations brutes ˆ xy. z r rˆ xy (1 rˆ rˆ xz ) xz rˆ yz (1 rˆ yz ) r r Corrélation partielle xy. z xw. z yw. z d ordre p (p >1) : formule rxy. zw de récurrence (1 r ) (1 r ) r p ici, on utilise un calcul de proche xw. z yw. z en proche Laboratoire ERIC 30

31 Corrélation partielle Inférence statistique (Noter les degrés de liberté) ˆ r xy. z ( ) ( ) X Y Z Numero Modele Puissance Conso Cylindree n 8 1 Daihatsu Cuore Suzuki Sw ift 1.0 GLS Corrélations brutes 3 Fiat Panda Mambo L Puissance Conso VW Polo Puissance Cylindrée Opel Corsa 1.i Eco Conso Cylindrée Subaru Vivio 4WD Toyota Corolla Corrélation partielle 8 Opel Astra 1.6i 16V r_xy.z Peugeot 306 XS Renault Safrane.. V Seat Ibiza.0 GTI Test de significativité 1 VW Golt.0 GTI t Citroen ZX Volcane t(0.975 ; 5) Fiat Tempra 1.6 Liberty Fort Escort 1.4i PT p-value Honda Civic Joker Volvo Ford Fiesta 1. Zetec Intervalle de confiance à 95% 19 Hyundai Sonata f Lancia K 3.0 LS Mazda Hachtback V e.t Mitsubishi Galant u(0.975) Opel Omega.5i V Peugeot bb(f) Nissan Primera bh(f) Seat Alhambra Toyota Previa salon bb ( r) Volvo 960 Kombi aut bh ( r) Test de significativité rˆ xy. z t I( n p ) 1 rˆ xy. z n p Intervalle de Confiance (via la transformation de Fisher) V zˆ [ zˆ ] [ zˆ ] 1 1+ rˆ ln 1 rˆ qui suit une loi normale de paramètres E 1 1+ r ln 1 r 1 n p 3 Laboratoire ERIC 31

32 Bibliographique R. Bourbonnais, «Économétrie», Dunod, Y.Dodge, V.Rousson, «Analyse de régression appliquée», Dunod, 004. M. Tenenhaus, «Statistique : Méthodes pour décrire, expliquer et prévoir», Dunod, 007. Laboratoire ERIC 3