La régression linéaire simple

Transcription

1 La régression Equipe d Accueil 4275 "Biostatistique, recherche clinique et mesures subjectives en santé", Université de Nantes Odontologie - Cours #7 1 / 31

2 Plan / 31

3 Plan / 31

4 Les acquis Variable catégorielle à expliquer en fonction d une autre variable catégorielle explicative (comparaison de deux pourcentages). Test de comparaison de deux fréquences (approximation normale). Test du Chi-deux (plus de deux groupes) Test du Chi-deux exact de Fisher (test non-paramétrique). Test du Chi-deux de Mac Nehmar (données appariées). Variable continue à expliquer en fonction d une autre variable catégorielle explicative à deux modalités (comparaison de deux moyennes). Test de Student : comparaison de deux moyennes. Test de Student sur différence (données appariées). Test de Mann-Withney (test non-paramétrique). Test de Wilcoxon (données appariées, test non-paramétrique). Comment étudier le lien entre deux variables continues? 4 / 31

5 Exemple fonction rénale (Y ) selon l âge (X). Sujet Y X Sujet Y X / 31

6 Exemple Clairance à la créatinine en ml/min Age en années 6 / 31

7 Deux méthodes 1 : Interprétation limitée des résultats. 2 : Interprétation plus riche des résultats. Généralisation à plusieurs facteurs explicatifs (variables continues ou catégorielles). 7 / 31

8 Plan / 31

9 Calcul et interprétation Echantillon composé de n individus (i = 1,..., n) Observation des couples (y i, x i ) Indépendance des observations (les Y i x i sont indépendantes). i y i i x i n i x iy i r = (( i x i) 2 n i x 2 i )( ( i y i) 2 n i y 2 i ) Interprétation du coefficient de linéaire : r = 1 : lien linéaire parfait dans le même sens r = 1 : lien linéaire parfait dans le sens inverse r > 0.5 : lien linéaire fort 0.3 < r < 0.5 : lien linéaire moyen 0.1 < r < 0.3 : lien linéaire faible r = 0 : pas de liaison linéaire 9 / 31

10 Application à notre exemple fonction rénale (Y ) en fonction de l âge (X) i y i = 3196, 3 ; i y i 2 = , 7 ; i x i = 1334, 3 ; i x i 2 = 62626, 5 ; i x iy i = , 0 r = 0, 53 Forte : Il semble que la fonction du rein diminue avec l âge du patient. 10 / 31

11 Application à notre exemple fonction rénale (Y ) en fonction de l âge (X) i y i = 3196, 3 ; i y i 2 = , 7 ; i x i = 1334, 3 ; i x i 2 = 62626, 5 ; i x iy i = , 0 r = 0, 53 Forte : Il semble que la fonction du rein diminue avec l âge du patient. Problème Peut-on conclure que le coefficient de linéaire ρ de la population est significativement différent de 0? 10 / 31

12 Test de Définition des hypothèses : H 0 : ρ = 0 H 1 : ρ 0 Statistique de test : T = R n 2 1 R 2 T n 2 ddl n = 30 ; ddl = 28 ; α = 5% Région non-critique (test bilatéral) : [ 2, 048; 2, 048] t = 0,53 28 = 3, 21 Région critique 1 0,532 On rejette l hypothèse nulle selon laquelle le coefficient de régression linéaire est nul (p < 5%). Il semble qu il y ait un lien entre la clairance à la créatinine et l âge. 11 / 31

13 Table de la loi de Student LOI DE STUDENT On connaît α et on cherche t vérifiant P(T>t) ν \ α / 3163

14 Table de la loi de Student ν \ α / 31

15 Limites Limites Attention aux conclusions non-valides pour une relation non-linéaire. Plusieurs relations possibles pour un même coefficient de. Aucune quantification de la relation. 14 / 31

16 Plan / 31

17 Définition du modèle Le modèle s écrit : Y i = β 0 + β 1 x i + ɛ i β 0 est l ordonnée à l origine (moyenne de Y i quand x i = 0). β 1 est la pente (changement moyen de Y i quand x i augmente d une unité). ɛ i est le résidu (différence entre la valeur prédite et celle observée). Les résidus sont distribués selon une loi normale de moyenne nulle et de variance σ 2 (variance résiduelle). 16 / 31

18 Estimation de la droite de régression Objectf : Trouver la meilleure droite pour un nuage de points. Minimisation des valeurs des résidus. Critère des Moindres Carrés : CMC = (y i ŷ i ) 2 = (y i β 0 β 1 x i ) 2 i i Calcul des dérivées partielles de CMC : CMC/ β 0 = 1 2 CMC/ β 1 = x i 2 CMC/ β 0 = 2 i CMC/ β 1 = 2 i n (y i β 0 β 1 x i ) i=1 n (y i β 0 β 1 x i ) i=1 y i + 2nβ 0 + 2β 1 i x i y i x i + 2β 0 x i + 2β 1 i i x 2 i 17 / 31

19 Estimation de la droite de régression Les valeurs optimales, ˆβ 0 et ˆβ 1, minimisent le CMC : y i n ˆβ 0 ˆβ 1 x i = 0 i i y i x i ˆβ 0 x i ˆβ 1 xi 2 = 0 i i i Le CMC est minimum pour : ˆβ 1 = i x iy i ( i x i)( i y i)/n i x i 2 ( i x i) 2 /n ˆβ 0 = ( ) ( ) y i /n ˆβ 1 y i /n i i 18 / 31

20 Estimation des autres paramètres importants On peut alors simplement déduire la variance résiduelle des estimations précédentes. i ˆσ 2 = (y i ŷ i ) 2 i = (y i ˆβ 0 ˆβ 1 x i ) 2 n 2 n 2 Si ˆβ 1 représente la pente de Y en fonction de X et que ˆβ 1 représente la pente de X en fonction de Y, alors on montre que : ˆr 2 = ˆβ 1 ˆβ 1 r 2 représente la proportion de variation de Y expliquée par X. Rappelons que r est le coefficient de linéaire. 19 / 31

21 Application à notre exemple fonction rénale (Y ) en fonction de l âge (X) n = 30 ; i y i = 3196, 3 ; i y i 2 = , 7 ; i x i = 1334, 3 ; i x i 2 = 62626, 5 ; i x iy i = , 0 ; ˆβ0 = 123, 0 : La fonction rénale d un nouveau né (x = 0) est estimée à 123,0 ml/min en moyenne. Attention : cette valeur n est pas fiable (aucun enfant dans l étude). ˆβ 1 = 0, 37 : La fonction rénale chute en moyenne de 3,7 ml/min tous les 10 ans. ˆσ 2 = 6, 35. ˆr 2 = 0, 29 : 29% de la variation de Y est expliquée par X. 20 / 31

22 Application à notre exemple Clairance à la créatinine en ml/min Age en années 21 / 31

23 Application à notre exemple Clairance à la créatinine en ml/min β 1 = Age en années 22 / 31

24 Application à notre exemple Clairance à la créatinine en ml/min β Age en années 23 / 31

25 Intervalle de confiance de β 1 [ IC (1 α) = ˆβ1 ± t α,n 2 s( ˆβ 1 )] t α,n 2 : fractile de la loi de Student à n 2 ddl (lue dans la table). s( ˆβ 1 ) : écart-type estimé de la pente Remarque : s( ˆβ 1 ) = ˆσ/(ˆσ x n 1), où ˆσx est l écart-type de X. Si l intervalle de confiance comprend la valeur 0, on conclura que la pente n est pas significativement différente de 0. Si l intervalle de confiance ne comprend pas la valeur 0, on conclura que la pente est significativement différente de / 31

26 Test de β 1 (méthode 1 : Test de Student) Définition des htypothèses H 0 : β 1 = 0 H 1 : β 1 0 Statistique de test : T = β 1 /s(β 1 ) T n 2 ddl Définition de la région critique. Si t appartient à la région critique, on rejette H 0, sinon on ne peut pas rejeter H / 31

27 Application à notre exemple fonction rénale (Y ) en fonction de l âge (X) Intervalle de confiance à 95% de β 1 (t 5%;28 = 2, 048) : IC 95% = [ 0, 37 ± 2, 048 0, 11] = [ 0, 48; 0, 26] L intervalle de confiance ne comprend pas la valeur 0, il semble donc que la pente soit significativement différente de zéro. Test H 0 : β 1 = 0 contre H 1 : β 1 0 α = 0, 05, t 5%;28 = 2, 048 t = 0, 37/0, 11 = 3, 35 t > 2, 048, on rejette H / 31

28 Hypothèses du modèle : linéarité Clairance à la créatinine en ml/min β 1 = Age en années 27 / 31

29 Hypothèses du modèle : linéarité x1 y x2 y2 28 / 31

30 Hypothèses du modèle : linéarité x1 y x2 y2 29 / 31

31 Hypothèses du modèle : normalité des résidus Effective residus 30 / 31

32 Hypothèses du modèle : homoscédasticité des résidus Valeurs prédites residus 31 / 31