Analyse de régression

Transcription

1 Itroducto à la régresso Aalyse de régresso La régresso est utlsée pour estmer ue focto f( ) décrvat ue relato etre ue varable explquée cotue,, et ue ou pluseurs varables explcatves,. = f(,, 3,, )+ε Remarque : f( ) décrt la varato systématque de la relato. ε représete la varato o systématque (aléatore) de la relato. U Exemple Cosdéros la relato etre le budget de publcté ( ) et les vetes (). Il y a probablemet ue relato de type : quad la publcté augmete, les vetes devraet auss augmeter. E pratque, commet peut-o quatfer cette relato? Vor le fcer Fg9-.xls Le uage de pots des doées Vetes ( x 000 $) Publcté (x 000 $) 3 4 La ature de la relato statstque Courbe de régresso Dstrbutos de probabltés pour à dfférets veaux de 5 U modèle de régresso léare smple Le uage de pots llustre ue relato (evro) léare etre la publcté et les vetes. Les doées suggèret doc le modèle de régresso suvat : = β 0 + β + ε Cela se veut la vrae relato etre la populato etère des doées de publcté et de vetes. La focto de régresso estmée (calculée avec otre écatllo) sera représetées as : = b0 + b Ŷ est l'estmato (ou l'ajustemet) de à u certa veau de 6

2 Détermer le melleur ajustemet Des valeurs umérques dovet être détermées pour b 0 ad b La métode des modres carrés trouve les valeurs qu mmset : = = E = ( ) = ( ( b + b )) 0 E = 0, la focto estmée s ajuste parfatemet aux doées. Nous pouvos résoudre ce problème à l ade du olver d Excel. Utlsato du olver Vor le fcer Fg9-4.xls 7 8 La focto de régresso estmée elo les doées, la focto de régresso estmée est la suvate : = Utlsato de l utltare d aalyse Excel possède auss u outl tégré (utltare d aalyse) pour réalser ue étude de régresso : Plus smple à utlser Géère beaucoup plus d formato à propos du problème Vor le fcer Fg9-.xls 9 0 La focto TREND() TREND(Plage e, Plage e, Valeur pour la prédcto) Où : Plage e est l esemble des cellules coteat les valeurs de la varable explquée Plage e est l esemble des cellules coteat les valeurs de(s) varable(s) explcatves Valeur pour la prédcto est la(les) cellule(s) coteat la(les) valeur(s) de(des) varable(s) explcatve(s) pour laquelle(lesquelles) o désre ue prédcto de la Remarque : La focto TREND( ) est dyamquemet remse à jour dès qu ue valeur d etrée est modfée. Toutefos, elle e fourt pas toute l formato statstque de l outl de régresso. ales ( $000s) Évaluer la qualté de l ajustemet R = Advertsg ( $000s)

3 3 La statstque R Décomposto de l erreur La statstque R dque e parte le veau d ajustemet du modèle aux doées 0 < R < Elle mesure la proporto de la varato totale de autour de la moyee qu est comprse das l équato de régresso Le grapque suvat llustre be ce cocept (valeur réelle) - - (Valeur estmée) - = b 0 + b 3 4 Parttoemet de la somme des carrés totaux (T) Fare des prédctos = = = ( ) = ( ) + ( ) T = E + R upposos que l o désre estmer le veau moye des vetes espérées e dépesat $ de publcté = R R = = E T T Vetes estmées = = Doc, quad $ sot dépesés e publcté, ous pouvos espérer avor u veau moye des vetes de $ 5 6 L erreur type L erreur type (erreur stadard) mesure la dsperso des doées autour de la drote de régresso ( ) = e = k où k = le ombre de varables explcatves Das otre derer exemple, e = 0.4 Cec est utle pour les tervalles de prédcto 7 U tervalle de prédcto approxmatf U tervalle de coface à 95%, approxmatf, pour ue ouvelle valeur de quad = est doé par : ± e Où : = b + b 0 Exemple : $ sot dépesés e publcté : Itervalle de prédcto féreur à 95% = = Itervalle de prédcto supéreur à 95% = = Doc, e dépesat $ e publcté, ous sommes approxmatvemet cofats à 95% que les vetes serot etre $ et $ 8

4 4 U tervalle de prédcto exact U tervalle de coface à (-α)% pour ue ouvelle valeur de quad = est doé par : ± t ( α /, ) p Où : = b + b p 0 = e + ( + ) ( ) = 9 Exemple $ état dépesé e publcté : Itervalle de coface féreur à 95% = = Itervalle de coface supéreur à 95% = = Doc, o dépesat $ e publcté, ous sommes cofats à 95% que les vetes serot etre $ et $ Ic, cet tervalle est evro seulemet 0 000$ plus large que celu approxmatf, qu état beaucoup plus smple à obter Le ga de précso e vaut pas écessaremet toujours le trouble supplémetare, be que das Excel 0 ales Comparaso des deux tervalles de coface calculés Itervalles de coface calculés avec l erreur type e Drote de régresso Itervalles de coface calculés avec l erreur de prédcto p Advertsg Expedtures Itervalles de coface pour la moyee U tervalle de coface à (-α)% pour la vrae valeur moyee de quad = est doé par : ± t ( α /, ) a Où : = b + b a 0 = e + ( ) = ( ) Ue remarque à propos des extrapolatos Des prédctos fates avec u modèle de régresso (même avec u grad R ), peuvet être peu ou pas fables du tout pour des valeurs des varables explcatves coses e deors de celles de l écatllo ayat serv à élaborer le modèle Iterpolato = OK Extrapolato =???!!! 3 Aalyse de régresso multple La majorté des problèmes de régresso mplquet plus qu ue varable explcatve caque varable (ou ue trasformato de celle-c) cotrbue léaremet avec, la focto de régresso est alors : = b + b + b + + b 0 k k Les valeurs optmales des b peuvet ecore être détermées e mmsat E Il s agt mateat d ajuster u yperpla aux doées 4

5 5 Exemple d ue surface de régresso pour deux varables explcatves Exemple de régresso multple : Évaluato mmoblère U évaluateur mmobler désre développer u modèle pour l ader à prédre le prx du marcé de certaes proprétés Tros varables explcatves serot reteues pour estmer le prx de vete d ue maso : urface totale e p.ca. Nombre de cambres à coucer Dmeso du garage Vor le fcer Fg9-7.xls 5 6 électoer le modèle Nous voulos detfer le modèle le plus smple qu exprme be la varato systématque de la varable Utlser arbtraremet toutes les varables explcatves pourrat dure u «surajustemet» U écatllo cotet pluseurs caractérstques : Certaes représetat la populato D autres état spécfques à l écatllo Nous e voulos pas ajuster les modèles aux caractérstques spécfques des écatllos, c est-à-dre fare du surajustemet 7 Modèles avec ue varable explcatve De faço smplste, supposos qu o ajuste tros modèles de régresso smple : = b0 + b = b0 + b = b0 + b33 Fats sallats des résultats : Varables R Estmatos cluses R ajusté e des paramètres b 0 =9.503, b = b 0 =78.90, b = b 0 =6.50, b 3 =7.607 Juste le modèle avec cotet déjà 87% de la varato de, lassat 3% pour le reste 8 Remarque formatque mportate E cosdérat plus d ue varable explcatve, l est mportat de les mater e blocs adjacets af de pouvor les sélectoer smultaémet La sélecto de blocs o cotgües est terdte avec l outl de régresso 9 Modèles avec deux varables explcatves upposos mateat que ous ajustos les deux modèles suvats : = b0 + b + b = b0 + b + b33 Fats sallats des résultats : Varables R Estmatos cluses R ajusté e des paramètres b 0 =9.503, b = & b 0 =7.684, b = b =.875 & b 0 =8.3, b =44.33 b 3 =6.743 Le modèle compreat et explque 93.9% de la varato de 30

6 6 Le R ajusté À mesure que des varables explcatves sot cluses das le modèle : Le R peut seulemet croître Le R ajusté peut croître ou décroître E R a = T k Le R peut être amplfé artfcellemet par l addto de mporte quelle varable explcatve Il est préférable de comparer les valeurs des R ajustés pour détermer s l troducto d ue varable supplémetare est utle 3 Atteto à la multcolléarté Il est pas surpreat qu ajouter 3 (cambres à coucer) au modèle compreat déjà (surface totale) at pas erc sgfcatvemet le modèle Ces deux varables représetet (approxmatvemet) t) la même cose, la gradeur de la maso Ces deux varables sot fortemet corrélées (ou coléares) La multcolléarté dot être évtée 3 Modèle avec tros varables explcatves upposos mateat que ous voulos clure les tros varables explcatves : = b0 + b + b + b 3 3 Fats sallats des résultats : Varables R Estmatos cluses R ajusté e des paramètres b 0 =9.503, b = & b 0 =7.684, b =38.576, b =.875, & b 0 =6.440, b =30.803, b =.567, b 3 =4.576 Le modèle compreat et semble être le melleur : Plus grad R ajusté Plus fable e (tervalles de prédcto les plus petts) 33 Fare des prédctos Estmos la valeur moyee d ue maso de 00 p.ca. et ayat u garage double : = b0 + b + b = = La valeur moyee estmée du prx de vete est doc de $ U tervalle de coface approxmatf de 95% pour le prx de vete est : ± e Itervalle féreur à 95% = $ Itervalle supéreure à 95% = $ 34 Varables explcatves bares Il est possble d trodure des varables explcatves o quattatves par l etremse de varables bares Exemple : La présece (ou l absece) d ue psce, sla maso a ue psce p = 0, autremet Exemple : elo que la toture est e boe, moyee ou mauvase codto, s le tot de la maso est e boe codto r = 0, autremet, s le tot de la maso est e moyee codto r + = 0, autremet 35 Régresso polyomale Parfos, la relato etre les varables est pas léare g Prce ell $75 $50 $5 $00 $75 $ quare Footage Ce grapque suggère ue relato quadratque etre la surface () et le prx de vete () 36

7 7 Le modèle de régresso U modèle de régresso approxmatf pour ce cas pourrat être : Ou ecore avec = b + b + b 0 = b + b + b 0 = Implatato du modèle Vor le fcer Fg9-5.xls Prce ellg P $75 $50 $5 $00 $75 Grapque de la focto quadratque de régresso $ quare Footage Ajuster u modèle polyomal du trosème ordre Nous pourros auss ajuster u modèle polyomal du trosème ordre, 3 = b0 + b + b + b3 Ou ecore = b + b + b + b avec = = Grapque de la focto polyomale de régresso du trosème ordre Prce ellg P $75 $50 $5 $00 $75 Atteto au surajustemet Partculèremet avec les modèles polyomaux, l faut être prudets pour e pas surajuster le modèle à l écatllo Commet fare pour décder du ombre de termes? Peut être avec le R ajusté! $ quare Footage 4 4