Statistiques appliquées. L3 Iterrogatio Questios de cours. 3 poits 1) Eocer le théorème cetral limite (1 pt). Si (X ) est ue suite de v.a. idépedates et de même loi, admettat des momets d ordre u et deux otés m = E(X) et σ = V (X ), alors e otat X = X i : X m σ loi + N(0,1) ) Si Cov(X,Y ) = 0, alors X et Y sot idépedates. Vrai ou faux? Expliquer Faux. C est l implicatio suivate qui est vraie : si X et Y sot idépedates, alors Cov(X,Y ) = 0. 3) Si X 1,...X i.i.d.n(m,σ ), quelle est la loi de X = X N(m, σ ) X i? 4) Si X 1,...X i.i.d.n(0,1), quelle est la loi de X 1 +... + X? Défiitio de la loi du khi-deux : Si X 1,...X i.i.d.n(0,1) alors X 1 +... + X χ ( loi du khi-deux à degrés de liberté). 5) Si U N(0,1) et Y χ, quelle est la loi de U Y Défiitio de la loi de Studet : Si U N(0,1) et Y χ alors U T (loi de Studet à degrés de liberté). Y? Exercice 1. 3 poits Soiet X ue v.a. d espérace m et de variace σ et (X 1,...X ) des observatios idépedates. O dispose de deux estimateurs de m : ˆm 1 = X et ˆm = 1 (X 3 + X 3 ). 1) Motrer que ces estimateurs sot sas biais. Défiitio d u estimateur sas biais : u estimateur T de est dit sas biais si pour tout de Θ et tout etier positif : E (T ) = Motros que E( ˆm 1 ) = m et que E( ˆm ) = m. E( ˆm 1 ) = E( X) = E( 1 X i ) = 1 E(X i ) par liéarité de l espérace. E outre E(X 1 ) =... = E(X ) = m doc E( ˆm 1 ) = 1..m = m doc ˆm 1 est sas biais. La moyee empirique est u estimateur sas biais de la moyee théorique. E( ˆm ) = E( 1 (X 3 + X 3 )) = 1 (E(X 3) + E(X 3 )) par liéarité de l espérace. E outre E(X 3 ) = E(X 3 ) = m doc E( ˆm ) = 1..m = m doc ˆm est sas biais. 1
) Motrer que ˆm 1 est coverget Défiitio d u estimateur coverget : U estimateur T est coverget si la suite de v.a. (T ) coverge e probabilité vers la valeur du paramètre. Théorème : Tout estimateur sas biais dot la variace ted vers 0 est coverget. Ce théorème doe deux coditios suffisates pour u estimateur sas biais. Ce e sot pas des coditios écessaires et suffisates (il est faux d écrire que si u estimateur est sas biais et que sa variace e ted pas vers 0 alors il est pas coverget). O se sert de ce théorème pour motrer que ˆm 1 est coverget. E effet, ˆm 1 est sas biais et V ( ˆm 1 ) = V ( X) = V ( 1 X i ) = 1 V ( X i ) = 1 V (X i ) car les X i sot idépedats. V ( ˆm 1 ) = 1..V (X i ) = 1 V (X i) = σ 0 quad +. Doc ˆm 1 est coverget. La moyee empirique est u estimateur coverget de la moyee théorique (c est-à-dire de l espérace). Remarques : 1) La variace empirique modifiée est u estimateur sas biais de la variace théorique. ) Les deux estimateurs sot sas biais et V ( ˆm 1 ) V ( ˆm ) dès lors que 4. Doc l estimateur ˆm 1 est préférable à l estimateur ˆm au ses de la variace. O dit que ˆm 1 est plus efficace que ˆm. Exercice. 6 poits Ue laiterie produit des fromages dot la masse X e grammes est distribuée selo ue loi ormale N(m,σ ). O observe les masses de fromages (idépedates). 1) O suppose que la variace est coue : σ = 6.5. a) Doer u itervalle de cofiace bilatéral à 0.95 pour m. σ = 6.5 =.5 X 1,...X i.i.d.n(m,6.5) doc X N(0, 6.5 ) et U = X m.5 N(0,1) (o utilise pas le Théorème Cetral Limite ici et U suit cette loi même pour petit). P( u U u) = 0.95. La lecture de la table de la loi N(0,1) doe u = 1.96. Aisi P( 1.96 X m.5 1.96) = 0.95, soit P( X 1.96.5 m X + 1.96.5 ) = 0.95 b) Combie de fromages doit-o peser pour que la logueur de l itervalle de cofiace soit iférieure à 1? La logueur de l itervalle est 1.96.5. 1.96.5 1 9.8 1 9.8 96.04. O doit peser au mois 97 fromages pour que la logueur de l itervalle de cofiace soit iférieure à 1. c) Applicatio umérique : pour fromages, o observe que la moyee de la masse observée est x = 53.5 grammes. Das quelle fourchette se situe m? L itervalle de cofiace de m est X 1.96.5 m X + 1.96.5 doc 53.5 1.96.5 m 53.5 + 1.96.5 soit 5.31 m 54.69. ) O suppose que la variace σ est icoue. a) Doer u itervalle de cofiace à 0,95 de m.
Soit S = (X i X ) 1 Z = X m S T ( 1) Soit z le fractile d ordre 0,975 de la loi de Studet à 1 degrés de liberté : P( z Z z) = 0,95 Aisi P( z X m S z) = 0,95 soit P( X z. S m X + z. S ) = 0,95 b) Applicatio umérique. Pour fromages, la moyee de la masse observée est x = 53,5 et la variace est 1 (x i x) = 8,01. Calculer la variace modifiée s et doer l itervalle das lequel se situe m. Idicatio : le fractile d ordre 0,975 de la loi de Studet à 16 degrés de liberté T 16 vaut,1. s = 1 1 (x i x) = 1 ( 1 (x i x) ) = 16 ( 1 (x i x) ) =.8,01 = 8,51 16 et doc s = 8,51 =,9 O a X z. S m X + z. S et doc 53,5,1.,9 m 53,5 +,1.,9 soit 5,00 m 55,00. Exercice 3. 3 poits. Méthode du maximum de vraisemblace Cf Lec. ex 13 p.3 Soit X ue variable aléatoire admettat pour desité f(x;) = { 1 x exp( x ) si x > 0 0 sio où est u paramètre strictemet positif que l o se propose d estimer à partir d u échatillo (X 1,...X ) de X. Détermier l estimateur du maximum de vraisemblace ˆ de. La vraisemblace est l(x 1,...x ;) = f(x i;) = 1 x i exp( x i ) = 1 x 1 exp( x 1 ). 1 x exp( x )... 1 x exp( x ) = () x 1 i exp( 1 xi ) la log vraisemblace s écrit L(x 1,...x ;) = ll(x 1,...x ;) = l l 1 l x i 1 xi O cherche la valeur qui maximise la vraisemblace. La log-vraisemblace est deux fois dérivables, o applique doc u résultat classique d optimisatio. Les dérivées s écrivet : L = + 1 xi L = 3 xi = 3 xi Coditio écessaire d ordre 1 (CN1) : L = 0 3
+ 1 xi = 0 = 1 xi. Coditio suffisate d ordre (CS) : L < 0 E le poit = 1 xi c est-à-dire pour xi =, la dérivée secode vaut 3 qui est bie égatif. L estimateur du maximum de vraisemblace (emv) est doc : ˆ = 1 Xi =, ce Exercice 4. 5 poits. Méthode des { momets et méthode du maximum de vraisemblace x Soit X ue v.a. de desité f(x;) = si 0 x où est u paramètre strictemet 0 sio positif. (X 1,...X ) est u échatillo de X. 1) a) Détermier u estimateur T de par la méthode des momets. E(X) = + xf(x)dx = 0 x dx = [ 1 3 x3 ] 0 = 3 3 = 3 L estimateur des momets est la solutio de l équatio e momet empirique= momet théorique. Ici o va utiliser le momet d ordre 1 c est-à-dire la moyee. L équatio s écrit X = E(X) X = 3. Sa solutio est T = 3 X b) Pourquoi T est-il coverget? Calculer V (T ). Est-ce que T est u estimateur efficace? Défiitio d u estimateur coverget : U estimateur T est coverget si la suite de v.a. (T ) coverge e probabilité vers la valeur du paramètre (ici ). O ous demade pourquoi T coverge e probabilité vers. Théorème (loi des grads ombres) : Si (X ) est ue suite de v.a. mutuellemet idépedates qui admettet les mêmes momets d ordres u et deux, c est-à-dire avec pour tout etier i, E(X i ) = m et V (X i ) = σ, alors quad : X p m La méthode des momets se justifie par les propriétés de covergece des momets empiriques vers les momets théoriques. O vérifie das le cas préset qu il y a bie covergece. D après la loi des grads ombres, X p m = E(X) = 3, doc T = 3 X 3 p. 3 = Aisi T est coverget. V (X) = E(X ) [E(X)] E(X ) = + x f(x)dx = 0 x3 dx = [ 1 4 x4 ] 0 = 4 4 = 1 doc V (X) = 1 [ 3 ] = 1 18 V (T ) = V ( 3 X ) = V ( 3. 1 X i ) = V ( 3 X i ) = 9 4 V (X i ) car les X i sot mutuellemet idépedates. V (T ) = 9 4 V (X) car V (X 1 ) = V (X ) =... = V (X ) = V (X) V (T ) = 9 4..V (X) = 9 4. 1 18 = 1 La questio de l efficacité e se pose pas parce que toutes les hypothèse de Cramer-Rao e sot pas 4
vérifiées ; e effet X(Ω) = [0,] est pas idépedat du paramètre à estimer. ) Détermier l estimateur du maximum de vraisemblace (oté M ) de. La vraisemblace de l échatillo e s écrit : l(x 1,...x ;) = f(x i;) l(x 1,...x ;) = ( ) x i si 0 mix i maxx i = 0 sio ou ecore l(x 1,...x ;) = ( ) x i.1 [0 mixi maxx i ] = 1 [0 mixi].( ) x i.1 [ maxxi] l(x,) est pas différetiable e, doc la recherche du maximum de vraisemblace e peut pas se faire e utilisat les résultats classiques d optimisatio. O cherche pour quelle valeur de, foctio des observatios (x 1,...x ), o aura l maximale. Lorsque < maxx i, l est ulle. Lorsque maxx i, l est décroissate. Aisi il apparaît clairemet que l est maximale pour = maxx i. Fialemet M = maxx i est l estimateur du maximum de vraisemblace pour. 5