L3 Mahémaique e Saisique Les esimaeurs des MCO M Le modèle liéaire gééral simple à deu variables Iroduio géérale U modèle es ue représeaio simplifiée, mais la plus ehausive possible, d ue eié éoomique doée. Sous sa forme la plus ourae, il es préseé omme u sysème d équaios, le plus souve liéaires, équaios relia ere elles deu ypes de variables que l o appelle : - variables edogèes (variables epliquées) - variables eogèes (variables epliaives). Le modèle es di parfaieme déermié si le ombre de ses équaios (N) es égal à elui des variables edogèes. Il s éri : A B (N,N)(N,) (N,k)(k,) (N,) ave A la marie (arrée) des oeffiies des variables edogèes, B la marie des oeffiies des variables eogèes, le veeur des variables edogèes, le veeur des variables eogèes e u aléa que ous défiiros ulérieureme. C es la héorie éoomique qui, das la plupar des as, posule la forme e le oeu des équaios. Pour ee raiso, o appelle l ériure de e modèle la forme sruurelle. Si la marie A es iversible (rag de A N) alors o peu eraire de l équaio mariielle préédee le seul veeur e foio de : θ η ave A θ B e η A O appelle ee équaio la forme réduie du modèle. U as pariulier, mais rès uilisé, de ee forme es le Modèle Liéaire Gééral Simple (MLGS), qui e ompore qu ue équaio liéaire parmi les N. Il s éri différemme selo la maière do so observées les variables du modèle : - lorsque les observaios s effeue au ours du emps, les variables so des séries hroologiques e le modèle pore le om de modèle e séries hroologiques ; - lorsque les observaios so réalisées sur des éhaillos d idividus, à u isa doé, le modèle pore le om de modèle e oupe isaaée ; - lorsque les observaios pore sur des éhaillos au ours du emps, o parle de modèle de Paels. Si o osidère le premier as, le modèle s éri : {,..., }; k k, L ave le ombre d observaios des variables, la variable edogèe,, L, k les paramères ious du modèle,, L, k les (k-) variables eogèes (e réalié k, mais o osidère que, e qui perme de eir ompe d ue osae ) e l aléa. faisa varier das ee ériure, o obie le MLGS sous sa forme mariielle : B (,) (,k) (k,) (,) L3MS_M.do /6
L3 Mahémaique e Saisique Les esimaeurs des MCO M Das e ours, ous éudieros u as pariulier de e MLGS, elui pour lequel o a ue variable edogèe reliée liéaireme à ue seule variable epliaive e à u aléa. O l appelle le modèle de régressio liéaire simple. Il s éri :, L pour le modèle e séries hroologiques i i Ui i, LM pour le modèle e oupe isaaée i, L,M i i i pour le modèle de Paels., L, O reie par la suie la seule ériure e séries hroologiques e de e fai es le emps e l esemble { L,,} es ordoé. Ce modèle se différeie de elui du ours de saisique desripive qui s éri sous la forme eae : Le modèle de régressio liéaire simple rassemble plusieurs formes o liéaires que l o rasforme e liéaire par aamorphose. Par eemple, le modèle semi-logarihmique ( log, ) Z. Le modèle doubleme logarihmique : log log log Z T s éudie ave ( T log,z log ) log s éudie sur les ouples. Ce modèle a pour paramère, le oeffiie d élasiié isaaée ere e / qui mesure la répose, e poureage, de la variable suie à ue modifiaio de % de la variable epliaive. Le modèle logisique du ype : K a b s éri K l A b e ave A -a, s éudie ave K T l ;. Ce modèle es souve uilisé pour modéliser la pééraio des produis ouveau sur u marhé ou eore pour aluler la par de marhé (K) d u produi. Il eise bie d aures formes eore de modèles o liéaires rasformables e liéaire par aamorphose. Il es rare qu e éoomie e ype de relaio eae eise. Das la majorié des as, e fouri qu ue parie de l epliaio de la variable. O ooure ee diffiulé e iroduisa, das le seod membre de la relaio, ue ouvelle variable appelée aléa ou erreur. Ce éléme aléaoire va permere de syhéiser l esemble des ifluees sur que e peu epliquer. O suppose qu il rassemble u ombre impora mais idépeda de fluuaios, sas qu auue ai à elle seule ue imporae par rappor au aures de elle sore que e éléme puisse êre assimilé à ue variable aléaoire obéissa à ue loi de probabilié défiie sur u domaie. O osidère par la suie l ériure du modèle liéaire e séries hroologiques :, L, le problème que ous devos résoudre das e ours es le alul (o di l esimaio) des paramères ious e à parir des ouples d observaios (, ), aisi que l aalyse e la periee du hoi de e modèle. L3MS_M.do /6
L3 Mahémaique e Saisique Les esimaeurs des MCO M Si o appelle e les valeurs alulées du modèle à parir des observaios sur e, o peu alors obeir ue série de (oée Ŷ ) alulée à parir de la relaio : Ŷ. Ces valeurs alulées de différee ere e e Ŷ e Ŷ Or, Ŷ e Ŷ e oïide par eaeme ave les valeurs Ŷ ; ee disae oée e es appelée résidu de la valeur Nous avos do deu ériures du modèle : - ue ériure de la forme héorique du modèle : - ue ériure du modèle alulé : e Remarque : Ne pas ofodre e e. e es ou, iformaio do o dispose oera l aléa. es iou ;. Il y a do ue. lle s éri : e es la seule L3MS_M.do 3/6
L3 Mahémaique e Saisique Les esimaeurs des MCO M Module : Les esimaeurs des Moidres Carrés Ordiaires (MCO) Après avoir posé les hypohèses de base du modèle (uié ), ous verros das e module le priipe de alul des esimaeurs des moidres arrés ordiaires (uié ) aisi que les propriéés de es esimaeurs (uié 3).. Les hypohèses de base du modèle Le problème saisique à résoudre es le alul des paramères e, saha les observaios de e de. Il eise deu méhodes permea le alul de e : la méhode des moidres arrés ordiaires (MCO) e la méhode du maimum de vraisemblae. L uilisaio de es deu méhodes odui à des valeurs alulées de e qui possède des propriéés saisiques remarquables. Cela implique qu u erai ombre d hypohèses de base soie vérifiées ava l uilisaio de es méhodes. es ue variable aléaoire orôlée (idépedae de l aléa) : ov(, ) [ ] [ ] [ [ ] { } [ ], { L} hypohèse d homosédasiié. Cela implique que la variae des es osae quel que soi ov[. ' ] { [ [ ][ ' [ ]} [ ] e { L} o auoorrélaio des erreurs. O peu regrouper es deu derières hypohèses e érire : hypohèse de [ ] si si Ces rois hypohèses so fodameales pour l appliaio de la méhode des MCO. Pour uiliser la méhode du maimum de vraisemblae, o suppose e oure vérifiée l hypohèse de ormalié des aléas 'es-à-dire : N(, ) Trois quaiés so do ioues das e modèle :, e. L objeif des méhodes d esimaio es de rouver des esimaeurs de es paramères ious qui possède les propriéés requises par la héorie saisique. L3MS_M.do 4/6
L3 Mahémaique e Saisique Les esimaeurs des MCO M. Les esimaeurs des moidres arrés ordiaires La méhode des MCO osise à miimiser la somme des arrés des éars, éars ere la valeur observée de la variable edogèe (pour u poi du uage) e sa valeur alulée par le modèle. Graphiqueme, il s agi de la disae mesurée parallèleme à l ae des ordoées ere es deu pois. De e fai, l éar ere l observé e le alulé es le résidu, oé Ŷ e e. Ŷ y Nuage de pois Ŷ Droie des moidres arrés ou droie de régressio ou droie d'ajuseme MCO : Mi e Mi ( Ŷ ) Mi ( ) Miφ(, ) Il s agi de la miimisaio d ue foio φ à deu ioues e. La soluio, si elle eise, es doée par le sysème d équaios ormales suiva : φ φ φ ave φ la dérivée de la foio φ par rappor à ( ) la droie passe par le ere de gravié (, ) φ ( ) ( ( ) ) ( ) ( ) G du uage de régressio. L3MS_M.do 5/6
L3 Mahémaique e Saisique Les esimaeurs des MCO M Il fau vérifier que e miimise bie la somme des seodes. φ > φ > riure du modèle sur doées erées : e. Pour ela, o alule les dérivées Les dérivées parielles seodes so posiives. La soluio rouvée par, es u miimum. les dérivées parielles premières y ŷ e Ŷ y ŷ O peu aluler e e foio des doées erées par ue démosraio aalogue à la préédee : MCO : Mi e Mi ( y ŷ ) o peu vérifier que : y Ce hageme de variable osise à modifier le sysème d aes das le uage de régressio e plaça l origie au ere de gravié G. 3. Les propriéés des esimaeurs des moidres arrés ordiaires 3. Les esimaeurs des MCO so des foios liéaires des de. y ( ) Or : ( ) ave Propriéés des : ar L3MS_M.do 6/6
L3 Mahémaique e Saisique Les esimaeurs des MCO M L3MS_M.do 7/6 De plus : De e fai s éri : D où e résumé : ave 3. e so des esimaeurs (liéaires) sas biais de e. Cosidéros ave, il s éri : D où : [ ] [ ] { De même :
L3 Mahémaique e Saisique Les esimaeurs des MCO M L3MS_M.do 8/6 [ ] [ ] [ ] { olusio, les esimaeurs e de e so des esimaeurs sas biais de leur vraie valeur e. [ ] [ ] 3.3 e so des esimaeurs à variae miimale de e. 3.3. ariaes e ovariaes de e Calul de [ ] [ ] [ ] [ ] [ ] [ ] ' ' ' ' ' 443 3 Calul de [ ]
L3 Mahémaique e Saisique Les esimaeurs des MCO M L3MS_M.do 9/6 [ ] [ ] [ ] ' ' ' ' ' ' 443 3 Or Calul de, Cov [ ][ ] { }, Cov ave [ ] ' ' ' ' ', Cov O reie ii [ ] ', Cov, Cov 3.3. Les esimaeurs so de variae miimale
L3 Mahémaique e Saisique Les esimaeurs des MCO M L3MS_M.do /6 Pour démoer ee propriéé, osidéros u esimaeur liéaire queloque de par rappor à. Il s éri : Si es sas biais e de variae miimale, alors : e Pour que soi sas biais, il fau que : [ ]. Or, D où [ ] [ ] [ ] { Ce qui impose les oraies sur Par ailleurs, o sai que si es oraies so vérifiées : [ ] [ ] Le problème es de miimiser saha que les oraies so vérifiées. Il s agi d ue miimisaio sous oraie qu o résou e uilisa la proédure des mulipliaeurs de Lagrage. Le lagragie s éri : µ λ φ Cee foio adme u miimum pour les valeurs qui aule les dérivées parielles premières : µ φ λ φ λ µ φ Soi :
L3 Mahémaique e Saisique Les esimaeurs des MCO M L3MS_M.do /6 λ µ Ave la première e la deuième oraie o a : µ µ λ λ µ λ µ D où µ µ µ µ uilisa la roisième oraie o a : µ µ Or : 3 µ défiiive : µ Or : e do : e
L3 Mahémaique e Saisique Les esimaeurs des MCO M Or, où Les esimaeurs des moidres arrés e so parmi ous les esimaeurs liéaires sas biais les meilleurs au ses de la variae miimale. Les esimaeurs des MCO so des esimaeurs liéaires, sas biais e de variae miimale. Ils so dis esimaeurs BLU (Bes Liear Ubiased simaor). 3.4 e so des esimaeurs overges. Comme ils so sas biais, les esimaeurs so overges si : ( ) Or : e ( ) ( ) De même : ( ) ( ) s 3.5 simaeur de la variae de l erreur Déermiaio d u esimaeur sas biais de MCO. Saha que : que : Alors ave s² la variae d éhaillo de e y ŷ ( ) ( ) ( ) ( ) L3MS_M.do /6 y y Par ailleurs omme : e Ŷ y ŷ y ( ) ( ) ( ) e qui es u paramère iou pour l uilisaio des ( ) O peu alors aluler la somme des arrés des éars résiduels de la droie de régressio :
L3 Mahémaique e Saisique Les esimaeurs des MCO M L3MS_M.do 3/6 e De sore que : Or [ ] D où : e [ ] ' ' ' ' 443 3 Rappel : D où :
L3 Mahémaique e Saisique Les esimaeurs des MCO M L3MS_M.do 4/6 [ ] [ ] ' ' ' ' 3 3 reprea les résulas, o rouve do : e D où : e Aisi e défiiive o obie u esimaeur sas biais de : e 3.6 Les esimaeurs des moidres arrés e de e orrespode au esimaeurs du maimum de vraisemblae Pour parveir au résulas préédes, o a fai auue hypohèse oera la loi de probabilié de. supposa à prése que obéi à ue loi ormale, o peu obeir les esimaeurs issus de la méhode du maimum de vraisemblae e réaliser par la suie des ess des paramères de la régressio. Comme les différes o des disribuios ideiques o peu olure que les ouples, orrespode à des valeurs de issues d ue même disribuio f() e o a :
L3 Mahémaique e Saisique Les esimaeurs des MCO M Pr ob [ < < d] f( ) d ( ) e π La forme de la desié de probabilié éa oue, la foio de vraisemblae de l éhaillo s éri : L ( ) ( ) ( ) e L e L e π π π Soi L e ou eore π ( ) ll l lπ Puisque le maimum de la foio de vraisemblae es aussi le maimum du logarihme épérie de la foio de vraisemblae, la foio L éa ue foio moooe roissae. maimisa ll par rappor à, e au maimum de vraisemblae. ll l L ll 4 ( ) ( ) ( ) o rouve les esimaeurs, e Les deu premières équaios permee de vérifier que : La derière équaio odui à : e Or d après le résula des MCO : e e e D où [ ] qui orrespode L3MS_M.do 5/6
L3 Mahémaique e Saisique Les esimaeurs des MCO M L esimaeur de qui orrespod au maimum de vraisemblae es do biaisé e o reie par la suie elui des MCO. L3MS_M.do 6/6