CHAPITRE 1 : RAPPELS SUR LE MODELE LINEAIRE. 1.Définition et propriétés

Transcription

1 CHAPITRE 1 : RAPPELS SUR LE MODELE LINEAIRE Brefs ra p p els su r les p ro p ri é t é s des est i m a t eu rs u su els (M C O, M C G, est i m a t eu rs à v a ri a b les i n st ru m en t a les) da n s les m o dè les li n é a i res O n i n si st e p a rt i c u li è rem en t su r l interprétation d es m od è l es et su r les propriétés as y m ptotiq u es d es es tim ateu rs 1.Définition et propriétés E c h a n t i llo n de t a i lle n d o b serv a t i o n s i n di v i du elles, i n di c é es p a r i 1,..., n, ré a li sa t i o n s de v a ri a b les a lé a t o i res y i, x i y i v a ri a b le c o n t i n u e p ren a n t ses v a leu rs da n s R x i v a ri a b les en n o m b re K, de t y p e q u elc o n q u e 1

2 Notations: on c onf ond l e s v a r i a b l e s a l é a t oi r e s e t l e u r s r é a l i sa t i ons on r é se r v e l e s m a j u sc u l e s p ou r d e s v e c t e u r s E x e m p l e : Y y 1,..., y n H y p oth è se g é né r al e (sa u f m e nt i on c ont r a i r e ) : l e s v a r i a b l e s y i, x i sont i nd é p e nd a m m e nt d i st r i b u é e s 1.1.Définitions L a v a r i a b l e d é p e nd ante y i s é c r i t c om m e : y i x i u i e st u n p a r a m è t r e v e c t or i e l d e d i m e nsi on K inc onnu, à e stim e r R e m ar q u e s: 1. Le modèle est linéaire en. Les variables explicatives x i peuvent être des fonctions non linéaires connues des variables par exemple x 1i, l og, etc... x 1i, x 1i

3 Hypothèse pr i n c i pa l e: Eu i x i 0 (1) q u i i m p li q u e l a b sen c e d e c or r é l a ti on e nt r e la p e r t u r b a t i o n u i e t le s v a r i a b le s e x p li c a t i v e s x i : Ex i u i 0 () H y p o t h è s e s u p p lé m e nt a i r e d hom osc é d a sti c i té : Eu i x i (3) C on sé q u en c es : L e s p e r t u r b a t i o ns u i, u j, j i, s o nt i ndé p e nda m m e nt di s t r i b u é e s L e m o dè le e s t u n m o dè le sem i -pa r a m é tr i q u e : la lo i c o m p lè t e de la p e r t u r b a t i o n u i n e s t p a s s p é c i f i é e 3

4 x n1 x nk n,k Interprétations d e l a pertu rb ation u i 1. erreur de mesure sur la variable y i (mais pas sur les variables explicatives x i ). hétérogénéité inobservable entre les agents i l économétre n observe qu une partie des facteurs explicatifs de la variable dépendante y i ou hétérogénéité observable qui sont les variables x i les autres facteurs inobservables sont résumés par la perturbation u i E c ritu re m atric iel l e d u m od è l e: Y X U x 11 x 1K avec X 4

5 1..Propriétés 1. Théorème de Gauss-Markov : Sous les hypothèses (1) et (3), l estimateur des moindres carrés ordinaires défini comme: arg m i n Y X arg m i n n y i x i et donc, sous la condition d identification rgx X K, comme: X X 1 X Y est le meilleur estimateur linéaire en Y et sans biais (BLUE). Sous les hypothèses (1) et (3), et sous l hypothèse que les variables x i sont identiquement distribuées, la variance de l estimateur des moindres carrés ordinaires est égale à: i1 V 1 n E x i x i 5

6 p 3. Convergence en probabilité : Sous l hypothèse (1), l estimateur des MCO converge en probabilité vers la vraie valeur du paramètre quand n : p l i m n 4. Loi asymptotique : Si les x i sont identiquement distribuées, alors, sous les hypothèses (1) et (3), n n d ˆ n N 0, 1 Ex i x i Estimateur convergent de la variance asymptotique: (4) l i m n X X Estimateur convergent de : n n Û Û n Ex i x i p n 6

7 5. Si la loi conditionnelle des perturbations est normale: u i x i ˆ N0, alors pour toute valeur de n: ˆ N, V 6. Tests d hypothèses linéaires R r Soit R une matrice de taille G, K de rang G et r un vecteur de taille G. Un test de Fisher de l hypothèse nulle H 0 : R r peut être déduit de la loi asymptotique de l estimateur Statistique de test : W n 1 n R Sous H 0, on montre que n r RX X 1 R 1 R n r d,h 0 W n ˆ G n 7

8 7. Interprétation géométrique de l estimateur MCO: Projection orthogonale du vecteur Y sur l espace engendré par les variables explicatives X Soit P X la matrice de projection orthogonale sur l espace engendré par les variables X : Prédicteur de Y par les MCO : P X XX X 1 X Résidus du modèle : Ŷ P X Y X Û I P X Y M X Y M X matrice de projection orthogonale sur l espace orthogonal à celui engendré par les variables X 8

9 1.3.Identifiabilité Condition d e x is te nc e e t d u nic ité de l e s tim a te u r de s M CO : r g X X K (a b s e nc e de m u ltic oliné a r ité e ntr e le s v a r ia b le s e x p lic a tiv e s ) R a p p or t a v e c la c ondition dite d ide ntif ic a tion du p a r a m è tr e? Rappel: D é f i n i t i o n d e l i d en t i f i c at i o n d an s u n m o d è le par am é t r i q u e S oit Py i, x i ; la loi du v e c te u r y i, x i p a r a m é tr é e p a r, é lé m e nt d u n s ou s e ns e m b le c om p a c t de R K L e p a r a m è tr e e s t ide ntif ia b le s i,, P.,. ; P.,. ; de u x v a le u r s de q u i r é s u m e nt la loi de y i, x i de m a niè r e ide ntiq u e 9

10 p Dans le c adr e du m o dè le li né ai r e, o n a: y i x i u i E n p r é m u lt i p li ant p ar x i, o n o b t i e nt : Ex i y i Ex i x i Ex i u i Ex i x i L a C N S p o u r l i de nt i f i c at i o n de e st alo r s: r g Ex i x i K E n e f f e t, si c e t t e c o ndi t i o n n e st p as v é r i f i é e, l é q u at i o n p r é c é de nt e a p lu si e u r s so lu t i o ns, e t n e st p as dé f i ni de m ani è r e u ni q u e O n r e m ar q u e r a q u e c e t t e c o ndi t i o n d i de nt i f i c at i o n e st é t r o i t e m e nt li é e à la c o ndi t i o n de dé f i ni t i o n de l e st i m at e u r de s M C O, p u i sq u e : l i m n X X n Ex i x i 10

11 . Modèle linéaire général et modèle apparemment linéaire Lorsque l h y p ot h è se d h om osc é da st i c i t é n est p a s v é ri f i é e, l est i m a t eur des M C O rest e c onv erg ent M a i s sa loi a sy m p t ot i que et ses p rop ri é t é s d op t i m a li t é da ns l ensem b le des est i m a t eurs li né a i res (G a uss-m a rk ov ) sont a lt é ré es S olut i on: l est i m a t eur des moindres c a rré s g é né ra l isé s L a b a ndon de l h y p ot h è se d a b senc e de c orré la t i on ent re erreurs et ré g resseurs a lt è re la p rop ri é t é de c onv erg enc e de l est i m a t eur des M C O S olut i on: les est i m a t eurs à v a ria b l es inst ru ment a l es 11

12 .1.Modèle linéaire général On s u p p o s e q u e Eu i X i e t q u e Eu i u i X ii Notation: ii m a t r i c e c a r r é e d e t a i l l e n P r op r ié té s d e l e s tim ate u r M C O : 1. L estimateur des MCO reste sans biais et convergent. Si est connue, l estimateur des MCG est le meilleur estimateur linéaire sans biais (BLUE) 3. Cas particulier: quand I n, M C G X 1 1 X X 1 Y M C O M C G 1

13 4. Si est inconnue mais est une fonction d un paramètre appartenant à un sous ensemble compact de R G, alors la méthode des MCQG est convergente Principe : remplacer par un estimateur convergent n, et donc par : M C Q G X 1 X 1 X 1 Y 5. Remarque: les propriétés de ce dernier estimateur ne sont qu asymptotiques il est asymptotiquement équivalent à l estimateur MCG plim plim M C Q G M C G il est par conséquent convergent et asymptotiquement normal mais il est en général biaisé à distance finie 13

14 .. Régressions simultanées Application du cadr e d analy s e pr é cé de nt O n ob s e r v e G v ar iab le s dé pe ndante s y 1i,., y Gi e t le s v ar iab le s e x plicativ e s cor r e s pondante s x 1i,..., x Gi, e n nom b r e K 1,., K G le s y 1i,., y Gi, x 1i,..., x Gi s ont indé pe ndam m e nt dis tr ib u é s O n é cr it G m odè le s liné air e s y gi x gi g u gi O n s u ppos e q u e Eu gi x gi 0 C ov ar iance s e ntr e pe r tu r b ations d é q u ations dif f é r e nte s Eu gi u g i x 1i,., x Gi gg 14

15 Notons l a m a tr i c e d e s é l é m e nts gg e t p osons Y 1 X 1 0 u 1 1 Y, X, U, Y G 0 X G u G G Y X U D a ns c e c a s, on m ontr e f a c i l e m e nt q u e : 11 I N 1G I N VU X I N 1G I N GG I N où l e si g ne e st l e p r od u i t d e K r one c k e r 15

16 Rappel: Soit A u n e m a tr ic e d e ta il l e m, p e t B u n e m a tr ic e d e ta il l e s, t a l or s l e pr o d u i t d e K r o n ec k er A B e s t d e ta il l e ms, pt e t e s t é g a l à: A a 11 a mp, A B a 11 B a mp B P r o pr i é t é s : i A BC D AC BD, si AC et BD sont définies ii A B A B iii A B 1 A 1 B 1 si inversibles. C o n s é q u en c e: mc g X 1 I N X 1 X 1 I N Y 16

17 Cas p ar t i c u l i e r (p r o p r i é t é de Z e l l n e r ) : L o r s q u e l e s v a r i a b l e s e x p l i c a t i v e s s o n t l e s m ê m e s da n s t o u t e s l e s é q u a t i o n s X 1... X G X, a l o r s X I G X D a n s c e c a s, e n u t i l i s a n t l e s p r o p r i é t é s du p r o du i t de K r o n e c k e r : I G X 1 1 I N I G X I G X 1 I N Y 1 X 1 X 1 X Y I G X 1 X X Y L e s s o u s -v e c t e u r s de, s o n t n c é g a u x a u x e s t i m a t e u r s s M C O, g do de o b t e n u s e n e s t i m a n t l e s é q u a t i o n s s é p a r é m e n t E s t i m e r l e s y s t è m e t o u t e n t i e r n e p e r m e t p a s, da n s c e c a s, d a m é l i o r e r l e s e s t i m a t e u r s de s M C O 17

18 .3.Modèles apparemment linéaires. L h y p o t h è s e p r i nc i p a l e d a b s e nc e de c o r r é l a t i o n e nt r e r é g r e s s e u r s e t e r r e u r s n e s t p l u s v é r i f i é e : y i x i u i mais Eu i x i 0 E x e m p l e : Modèle à er r eu r de m es u r e S o i t l e v r a i m o dè l e : y i x i u i a v e c Eu i x i 0 e t Eu i u M a i s x i e s t m e s u r é e a v e c e r r e u r p a r x i : x i x i i a v e c E i e t E i x i 0 H y p.: l e s e r r e u r s de m e s u r e s o nt i ndé p e nda nt e s de l a p e r t u r b a t i o n u i : E i u i 0 18

19 On p e u t a lo r s r é é c r i r e le m o dè le e n f o nc t i o n de s o b s e r v a b le s c o m m e : y i x i u i x i x i x i u i i D a ns c e c a s, r é g r e s s e u r e t p e r t u r b a t i o n s o nt e n g é né r a l c o r r é lé s Ex i i u i i 0 (s a u f s i 0) Limite en p r o b a b ilité d e l es tima teu r d es M C O : Ex 1 x1 Ex y Ex x Ex x u E x x L a v a le u r a b s o lu e de e s t c e s s a i r e m e i é r i e u r e v a u r do nc né nt nf à la le a b s o lu e du p a r a m è t r e (b i a i s d a t t é nu a t i o n) E n l a b s e nc e d i nf o r m a t i o ns c o m p lé m e nt a i r e s p a r e x e m p le s u r o n ne p e u t g u è r e a lle r p lu s lo i n. L e p a r a m è t r e n e s t p a s i de nt i f i a b le 19

20 Information c omp l é me ntaire : v a r i a b l e s z i e n n o m b r e H n o n c o r r é l é e s a v e c l a p e r t u r b a t i o n u i m a i s c o r r é l é e s a v e c l e s v a r i a b l e s x i : Ez i u i 0 (5) r g Ez i x i K (6) S o i t Z l a m a t r i c e d e s o b s e r v a t i o n s d e z i P l u s i e u r s c a s p o s s i b l e s : 1. si H K, on définit l estimateur à VI comme : I V Z X 1 Z Y. si H K, on peut sélectionner K instruments parmi les H disponibles en posant Z ZA où A est une matrice déterministe donnée de dimension H, K et telle que z i est un vecteur de K variables qui ne sont pas colinéaires entre elles 0

21 Pour chaque A, on peut donc définir un estimateur à VI VIA Z X 1 Z Y A Z X 1 A Z Y (les z i sont des instruments puisque Ez i u i 0) Matrice de sélection optimale : A 1 Ez i z i Ez i x i Estimateur convergent de A : A Z Z1 Z X (obtenu par régression de X sur Z) Estimateur des doubles moindres carrés: 1. régression de X sur Z de manière à obtenir des valeurs prédites X Z Z 1 Z X orthogonales aux u i. puis régression des Y sur les X 3. le cas H K n est pas compatible avec la condition de validité (6). Dans ce cas, le paramètre n est pas identifié 1

22 Propriété prin c ipa le d e s e s tim a te u rs pa r V I : c on v e rg e n c e v e rs la v ra ie v a le u r d u pa ra m è tre (v oir c h a pitre pou r a n a ly s e a pprof on d ie ) L ors q u e H K, l e s tim a te u r I V e s t c on v e rg e n t e t a s y m ptotiq u e m e n t n orm a l (C A N ): n VI l o i ˆ N 0, EZ 1 1 X EZ ZEX Z n Corollaire: S i H K, re m pla c e r Z pa r ZA d a n s c e tte e x pre s s ion R em arq u e: L a c on v e rg e n c e d e s e s tim a te u rs I V im pliq u e q u e : n 1 n i1 u i A, où u i A y i x i VI A e s t u n e s tim a te u r c on v e rg e n t d e VI A e s t C A N e t s a v a ria n c e a s y m ptotiq u e e s t e s tim ée pa r V a s VI X ZZ 1 Z Z X 1

23 Exemple : er r eu r s de mes u r e S u ppo s o n s q u e l o n dis po s e d u n e a u t r e mes u r e a v ec er r eu r z i de x i : z i x i i E i E i x i 0 et q u e les er r eu r s de mes u r e s o n t n o n c o r r é lé es a v ec les er r eu r s de mes u r e i pr é s en t es da n s x i et a v ec la per t u r b a t io n du v r a i mo dè le: E i u i 0 E i i 0 D a n s c e c a s, il es t f a c ile de mo n t r er q u e la v a r ia b le z i es t u n e v a r ia b le in s t r u men t a le v a lide, i. e. q u i r es pec t e les c o n dit io n s (5) et (6): Ez i u i Ex i i u i i 0 r g Ez i x i r g Ex i i x i i r g Ex i x i 1 3

24 Conclusion Exemple de s pé c i f i c a ti o n d u n mo dè le c a u s a l D o n n é es y i s u r la dé li n q u a n c e da n s les dé pa r temen ts, u n e a n n é e do n n é e, et n o mb r es n i de po li c i er s da n s les dé pa r temen ts C o r r é la ti o n po s i ti v e en tr e c es deu x v a r i a b les C o mmen t l i n ter pr é te-t-o n? 1. Doit-on écrire un modèle: y i n i u i censé mesurer l impact du nombre de policiers? Comme la corrélation est positive, l estimation MCO du coefficient sera positive : un nombre accru de policiers serait contreproductif 4

25 . Ou doit-on écrire : n i y i v i en voulant mesurer la régle de décision du Ministère quant à l allocation géographique des policiers? Dans ce cas, l estimateur de est aussi positif, mais cela semble logique: La régle de décision est d affecter des policiers là où la délinquance est plus forte 3. Finalement, on doit sans doute écrire que les deux modèles sont simultanément vrais: équations simultanées (les estimateurs MCO dans les deux modèles sont biaisés) 5