C- Liaison entre deux variables statistiques

Transcription

1 C- Liaison entre deux variables statistiques 1- liaison entre 2 variables quantitatives 2- liaison entre 1 variable quantitative et 1 variables qualitative 3- liaison entre 2 variables qualitatives 4- liaison causale entre deux variables quantitatives

2 C- Statistique descriptive bidimensionnelle On dispose de deux séries x et y représentant l observation des variables X et Y sur les mêmes n individus : on a une série bidimensionnelle (x,y) de taille n :

3 C- Statistique descriptive bidimensionnelle Objectif : mettre en évidence une éventuelle variation simultanée des deux variables statistiques X et Y, appelée liaison. La liaison peut être causale : une variable X expliquant l autre Y symétrique : les deux variables jouent des rôles symétriques Sauf mention particulière, on s interesse ici à une liaison symétrique.

4 C-1 Analyse de la liaison entre deux variables quantitatives Visualisation Le graphique le plus adapté pour observer les variations simultanées de deux variables quantitatives est le nuage de points (ou scatter-plot), représentant les n points de coordonnées ( x, ) dans un repère du i yi plan. NB : Choix des échelles: Dans le cas de deux variables homogènes (exprimées dans la même unité), on prend la même échelle sur les deux axes ; dans le cas de deux variables hétérogènes, il est préférable de représenter les points de la série centrée et réduite ou de choisir des échelles appropriées (automatique avec la plupart des logiciels).

5 C-1 Analyse de la liaison entre deux variables quantitatives Ex: observation de la vitesse et de la distance de freinage de 50 voitures. speed dist vitesse nuage de points des variables dist et speed distance de freinage Coefficient de corrélation : r( speed, dist ) = 0.81

6 C-1 Analyse de la liaison entre deux variables quantitatives

7 C-1 Analyse de la liaison entre deux variables quantitatives Indicateurs de liaison linéaire La covariance Définition: 1 n ou sxy (, ) = ( x x)( y y) n i = 1 i i n 1 s*( x, y) = ( xi x)( yi y) n 1 i= 1 Propriétés : - c est une forme bilinéaire symétrique qui peut prendre toute valeur réelle et dont la variance est la forme quadratique associée. On a ( idem pour s*): s( ax + by, z) = as( x, z) + bs( y, z); s( x, ay + bz) = as( x, y) + bs( y, z) sxy (, ) = syx (, ) sxx (, ) = s²( x) - formule de Koenig generalisée : n 1 sxy (, ) = s*( xy, ) = xy xy n

8 C-1 Analyse de la liaison entre deux variables quantitatives Le coefficient de corrélation linéaire de Pearson Définitions :1) Le coefficient de corrélation est égal à la covariance des séries centrées et réduites x* et y* respectivement associées à x et y : rxy (, ) = sx ( *, y*) xi x yi y xi* = ; yi* = s s x y 2) Le coefficient de corrélation est égal à rxy (, ) = sxy (, ) ss Propriétés : - Symétrie : rxy (, ) = ryx (, ) - Le coefficient de corrélation linéaire est compris entre -1 et 1 x y

9 C-1 Analyse de la liaison entre deux variables quantitatives Evaluation du lien linéaire: Il y a corrélation positive lorsque les variations de x et y se produisent dans le même sens, corrélation négative sinon. Plus les points sont étroitement alignés, plus la corrélation est proche de 1. r =1 si l on a une relation de type linéaire entre les variables. r = 0 si il n existe aucun lien linéaire entre X et Y. On dit que les variables sont non corrélées. NB : La covariance dépend des unités de mesure dans lesquelles sont exprimées x et y. Le coefficient de corrélation est un indice de liaison «intrinsèque».

10 C-1 Analyse de la liaison entre deux variables quantitatives Important : La covariance et le coefficient de corrélation ne permettent de mettre en évidence qu une relation linéaire entre x et y. Si deux variables sont statistiquement indépendantes (aucun lien), la corrélation est nulle, mais l inverse est faux : il peut exister un lien autre que linéaire entre elles.

11 C-1 Analyse de la liaison entre deux variables quantitatives

12 C-1 Analyse de la liaison entre deux variables quantitatives Le Coefficient de corrélation des rang de Spearman Utilisé lorsqu on ne dispose que d un ordre sur un ensemble d individus et non de valeurs numériques pour les variables X et Y. On note rx = ( rx1,... rx n ) et ry = ( ry1,... ry n ) les séries des rangs des individus associées à x et y. Définitions 1) rs = r( rx, ry) 2) r s = 1 n 6 d ² i= 1 nn ( ² 1) i di = rxi ryi Cas des ex-aequo :si il existe, dans l une ou l autre des séries, des observations ayant le même rang, on leur attribue la moyenne des rangs qu ils auraient dû avoir s il n y avait pas eu d ex-aequo. Par exemple, si deux observations de X sont classées au rang 2, on leur attribue à chacune le rang 2,5.

13 C-1 Analyse de la liaison entre deux variables quantitatives Propriétés : évaluation du lien

14 C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative X est une variable qualitative à p modalités variable quantitative. m,..., 1 mp et Y est une On dispose alors de p sous-populations déterminées par les p modalités de X. L étude de la liaison entre X et Y consiste en l étude des différences entre ces sous-populations : il y aura absence de lien si on ne distingue pas de différence notoire dans les caractéristiques de ces différentes souspopulations.

15 C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative Notations et définitions 2 s y On note y et la moyenne et la variance p de la série y, n k l effectif de la sous-série des individus pour lesquels X vaut ( n = n ) G ( X = m ) 1 1 m k y11,..., yi 1,... y y,..., 1 y,... y n1 1 k n y 1 k 1 yk = yik 2 s 1 k = 1 G ( X = m ) G ( X = m ) k k ik n k n k i = k = ik k nk i G s ( y y )² k k k. p y,...,,... 1 p yip ynp p y p 2 s p p 1 p k k n k = 1 p Avec ces notations, on a y= n y et 2 1 s = ( y y)² y n k = 1 i G k ik

16 C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative On appelle variance résiduelle, la moyenne pondérée des variances des sous-populations : 2 1 p 2 sr = nksk n k = 1 On appelle variance expliquée par X, la moyenne pondérée des carrés des variations des sous-populations : p 2 1 s = n ( y y)² E k k n k = 1 On montre que l on a : s = s + s y R E

17 C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative Visualisation On utilise en général un graphique en boîtes parallèles (box-plots). Sur un même graphique doté d une échelle unique on représente pour Y une boîte à moustaches pour chacune des sous-populations définies par X. La comparaison de ces boîtes donne une idée assez claire de la liaison entre les deux variables.

18 C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative Un indicateur de liaison : le rapport de corrélation Définition : le rapport de corrélation est la part de variations de Y expliquée par X dans la variation totale de Y. s² E e² = s² Evaluation du lien : e² est compris entre 0 et 1 e² est d autant plus grand que le lien est fort. y

19 C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative Ex : 6 insecticides sont testés sur (spray) ont été testés chacun sur 12 cultures. La réponse observée (count) est le nombre d'insectes (n=72) count spray y = 9.5 s= A 2 7 A ya = 14.5 yd = A 4 14 A yb = 15.3 ye = A yc = 2.08 yf = A 7 10 A sa = 4.7 sd = A sb = 4.3 se = A A sc = 2 sf = Variance résiduelle : s = R Variance expliquée : s = E Rapport de corrélation : 2 e = 0.7 na = nb = nc = nd = ne = nf = 12

20 C-3 Analyse de la liaison entre deux variables qualitatives X et Y sont qualitatives, telle que X a k modalités, Y a l modalités. On cherche à savoir si il existe un lien entre X et Y.

21 C-3 Analyse de la liaison entre deux variables qualitatives Notations et définitions Table de contingence : tableau à double entrée de dimension k*l représentant les modalités de la série bidimensionnelle (x,y). n n ij n i.. j = Nombre d observations ayant la modalité xi de x et yj de y. = effectif marginal : Nombre d observations ayant la modalité xi de x = effectif marginal :Nombre d observations ayant la modalité yj de y

22 Profils C-3 Analyse de la liaison entre deux variables qualitatives On appelle i profil ligne, le vecteur de dimension l des fréquences de la variable Y conditionnellement à la valeur xi de X : n n i1 ij n,...,,..., n n n i. i. i. il On appelle j profil colonne, le vecteur de dimension k des fréquences de la variable X conditionnellement à la valeur yj de Y : n n n,...,,..., n n n 1 j ij kj. j. j. j

23 C-3 Analyse de la liaison entre deux variables qualitatives En probabilité, si il y a indépendance entre X et Y, on a: (, i j) P( X = x et Y=y) = P( X = x ) P(Y=y) En statistiques, si il n y a pas de liaison entre x et y, on a: i n n n n n n ij i. (, i j) = Lorsque tous les profils lignes (ou colonne) sont égaux, il y a indépendance entre X et Y : la connaissance de X ne change pas les distributions de Y conditionnellement à X. j. j i j

24 C-3 Analyse de la liaison entre deux variables qualitatives Visualisation Représentation des profils-lignes ou des profils colonnes par des diagrammes en barres parallèles, ce qui donne une idée assez précise de la variation conjointe de X et Y. Si il n y a pas de relation, les diagrammes des différents profils devraient identiques.

25 C-3 Analyse de la liaison entre deux variables qualitatives Exemple : on observe le sexe et la qualité de vue sur 1000 individus. Diagramme en barres des profils lignes : homme femme voyant Diagramme des profils lignes aveugle 38 6 Tableau des profils ligne : homme femme voyant aveugle ,2 1 0,8 0,6 0,4 0,2 0 voyant aveugle F H

26 C-3 Analyse de la liaison entre deux variables qualitatives Un indicateur de liaison : la distance du chi2 La mesure de la liaison entre X et Y va se faire en évaluant l écart entre la situation observée et la situation qu on observerait si il y avait indépendance statistique. Dans ce cas, on aurait : Définition : La distance du chi2 vaut : d ² = i, j n n n n n n ij i. (, i j) = ( nn n ) ij n Si d²=0 il y a indépendance Au plus d2 est grand, au plus les variables sont liées. Sa valeur maximale est le minimum de n (k - 1) et n (l - 1). nn n i.. j i.. j 2. j

27 C-3 Analyse de la liaison entre deux variables qualitatives Retour à l exemple : Tableau des effectifs observés H F total Voyant Aveugne total Tableau des effectifs théoriques H F Voyant 458,88 497,12 Aveugle 21,12 22,88 Chi2 et contribution des cases Chi2=27, H F Voyant 0, , Aveugle 13, ,

28 C-3 Analyse de la liaison entre deux variables qualitatives Le coefficient des rangs de Spearman S applique dans le cas de deux variables qualitatives ordinales voir C-1

29 C-4 Relation causale entre 2 variables quantitatives Problème : On s intéresse ici à une liaison causale éventuelle entre deux variables statistiques quantitatives X et Y. Plus exactement, on cherche à expliquer les variations d une variable Y (variable dépendante) par celles d une fonction linéaire de X (variable explicative), i.e., à valider le modèle de RLS Y = ax + b + ε où - a et b sont des paramètres inconnus - ε est une variable aléatoire de moyenne nulle et de variance inconnue σ ² Intérêt : expliquer ou/et prévoir Y à partir de X.

30 C-4 Relation causale entre 2 variables quantitatives Méthode Sur une série bidimensionnelle de n réalisations de X et de Y, on cherche à valider un modèle de type : y = ax + b + ε, i = 1,..., n. i i i avec ε i i.i.d. de moyennes nulles et de variance

31 C-4 Relation causale entre 2 variables quantitatives Estimation de a et b : On commence par chercher le «meilleur» ajustement linéaire sur nos données, au sens des moindres carrés : â n n 2 e ˆ ˆ i = ( yi axi b)² et ˆb sont tels que est minimal. Ce sont les i= 1 i= 1 coefficients de la régression ou estimations des moindres carrés de a et b.

32 Résolution : C-4 Relation causale entre 2 variables quantitatives n ( x x)( y y) cxy (, ) ˆ i i i= 1 aˆ = =, b= y ax ˆ n 2 sx ( xi x)² i= 1 La droite d ajustement s appelle droite de régression ou des moindres carrés. yˆ ax ˆ bˆ i = + i y = ax ˆ + bˆ La valeur s appelle la i valeur estimée. C est la valeur moyenne de Y lorsque X=xi. C est aussi la prévision de Y pour une observation telle que X=xi. ei = y ˆ i yi La valeur s appelle le i résidu. On peut montrer que : n e n = xe = 0. i i i i= 1 i= 1

33 C-4 Relation causale entre 2 variables quantitatives Un modèle de bonne qualité doit avoir un bon pouvoir explicatif et un bon pouvoir prédictif. Analyse du pouvoir explicatif du modèle : Décomposition de la variabilité SST = ( y y)² = ns i 2 Y =somme des carrés des variations de y (n-1 ddl) SSM = ( yˆ y)² = s SSR = e = ( n 2) s i 2 2 i 2 Yˆ =somme des carrés des variations expliquées par le modèle (1 ddl) =somme des carrés des variations résiduelles (n- 2 ddl) SST = SSR + SSM Au plus SSM est grand (ou SSR faible), au meilleur est l ajustement.

34 C-4 Relation causale entre 2 variables quantitatives Principal indicateur: le coefficient de détermination (% de variation expliqué par le modèle): SSM SSR R² = = 1 = r²( x, y) SST SST F CMM doit être proche de 1. Autre indicateur : Le F de Fisher doit être le plus grand possible CMR = Analyse du pouvoir prédictif du modèle : - Le s² doit être le plus faible possible pour garantir de bonnes prévisions. - Les coefficients doivent être stables pour garantir de bonnes prévisions, i.e. leurs écarts type sa ( ˆ) et sb ( ˆ) doivent être faibles.