Intervalles de confiance et tests portant sur la moyenne et la variance d une loi gaussienne

Transcription

1 Master de mathématiques 011/01 Intervalles de confiance et tests portant sur la moyenne et la variance d une loi gaussienne Table des matières A Intervalle de confiance 1 B Intervalles de confiance et tests pour une moyenne quand la variance est connue 1 B.1 Intervalle de confiance bilatéral B. Intervalles de confiance unilatéraux B.3 Test bilatéral B.4 Tests unilatéraux C Intervalles de confiance et tests pour une moyenne quand la variance est connue 5 C.1 Intervalle de confiance bilatéral C. Intervalles de confiance unilatéraux C.3 Test bilatéral C.4 Tests unilatéraux C.5 Réalisation avec le logiciel R D Intervalle de confiance pour une variance (cas gaussien) 8 D.1 Cas où la moyenne est connue D. Cas où la moyenne est inconnue D..1 Intervalle de confiance D.. Tests unilatéraux D..3 Test bilatéral D..4 Remarque E Intervalles de confiance obtenus par l inégalité de Bienaymé-Tchebychev 10 1

2 A Intervalle de confiance Soit (Ω, F, (P θ ) θ T ) X=(X 1,..,X n ) (S, S, (Q θ ) θ T ) une structure statistique, où T est une partie de R et la loi de X sous P θ est Q θ. Si α est un élément de ]0, 1[, un intervalle de confiance du paramètre θ de niveau 1 α est déterminé par la donnée de deux estimateurs A et B de S dans R vérifiant a) pour tout s S A(s) B(s) b) θ T Q θ (A θ B) 1 α. Une fois une mesure x = (x 1,.., x n ) effectuée, on dira que l intervalle [A(x), B(x)] est un intervalle de confiance de niveau 1 α du paramètre θ. B Intervalles de confiance et tests pour une moyenne quand la variance est connue Un phénomène obéit à une loi normale N (m, σ ), où la moyenne m est inconnue. Pour estimer m on réalise n mesures indépendantes x 1,..., x n. On pose x = (x 1,..., x n ) et on note x n = 1 n (x x n ) la moyenne empirique obtenue, qui est une estimation ponctuelle de m. B.1 Intervalle de confiance bilatéral Le modèle statistique correspondant est (Ω, F, (P m ) m R ) X=(X 1,...,X n ) (R n, B n, N (m, σ ) n ), où σ est un réel > 0 fixé, et où sous P m la suite X = (X 1,..., X n ) est un n-échantillon de N (m, σ ). Le comportement probabiliste de x n est modélisé par la variable aléatoire X n = 1 n n i=1 X i qui suit sous P m la loi N (m, σ n ). La variable Z = X n m σ/ n suis donc sous P m la loi N (0, 1). On se donne un réel α ]0, 1[, et on désire construire un intervalle de confiance de m de niveau (1 α) 100%. On note z α/ le réel vérifiant P m ( z α/ Z z α/ ) = 1 π +zα/ z α/ exp{ x }dx = 1 α, i.e. le réel z α/ tel que z α/ soit le quantile d ordre α de la loi N (0, 1). On peut alors écrire P m ( z α/ X n m σ/ n z α/) = 1 α P m (X n z α/ σ n m X n + z α/ σ n ) = 1 α.

3 Un intervalle de confiance de niveau (1 α) 100% de la moyenne m est donc [x n z α/ σ n, x n + z α/ σ n ]. La quantité z α/ σ n est appelée erreur moyenne. B. Intervalles de confiance unilatéraux On peut selon les mêmes principes utilisés plus haut construire des intervalle de confiance unilatéraux. Si -z α est le quantile d ordre α de la loi N (0, 1), les intervalles [x n z α σ n, + [ et ], x n + z α σ n ] sont des intervalle de confiance de la moyenne de niveau (1 α) 100%. B.3 Test bilatéral On se donne un réel m 0 et on désire tester H 0 : m = m 0 contre H 1 : m m 0. Un test se réalise par l intermédiaire d une règle de décision, qui doit préciser une statistique de test et la région de rejet associée à cette statistique. Compte tenu du paragraphe précédent, il est naturel de prendre pour statistique l application t : R n R +, a = (a 1,..., a n ) t(a) = a n m 0 σ/ n où a n = 1 n n i=1 a i. Si H 0 est vraie, on s attend à observer une valeur de t(x) plus petite que si H 1 était vraie. Sous H 0 la variable X n m 0 σ/ a pour loi N (0, 1). n Région de rejet a priori La région de rejet a priori (i.e. avant d avoir effectué les mesures) associée à la statistique t est un intervalle de la forme [c, + [,c 0. Région de rejet a posteriori La région de rejet a posteriori est la plus petite région de rejet a priori contenant t(x), c est à dire l intervalle [t(x), + [. P-valeur, 3

4 La p-valeur est la probabilité pour que sous H 0 t(x) appartienne à la région de rejet a posteriori, i.e. γ = P m0 (t(x) [t(x), + [) = P m0 ( X n m 0 σ/ n x n m 0 σ/ n ) = N (0, 1)(], t(x)] [t(x), + [) = Φ( x n m 0 σ/ n ), où Φ désigne la fonction de répartition de la loi normale N (0, 1). Test de taille donnée Soit α ]0, 0.5[. Le test de région de rejet l intervalle [z α/, + [ est de taille α puisque P m0 ( X n m 0 σ/ n z α/) = P m0 ( X n m 0 σ/ n z α/)+p m0 ( X n m 0 σ/ n z α/) = Φ( z α/ ) = α. On rejette H 0 au niveau α si t(x) z α/, et on ne rejette pas H 0 si t(x) < z α/. Comme t(x) z α/ équivaut à γ = P m0 (t(x) t(x)) P m0 (t(x) z α/ )) = α, on voit qu il est équivalent de rejeter H 0 au niveau α si α γ. Lien avec l intervalle de confiance On établit facilement l équivalence t(x) z α/ m 0 [x n z α/ σ n, x n + z α/ σ n ]. B.4 Tests unilatéraux On se donne un réel m 0 et on désire tester H 0 : m = m 0 ( ou m m 0 ) contre H 1 : m < m 0. La statistique de test est dans ce cas l application s : R n R +, a = (a 1,..., a n ) s(a) = a n m 0 σ/ n, où a n = 1 n n i=1 a i. La région de rejet a priori associée à la statistique s est de la forme ], c], et la région de rejet a posteriori est ], s(x)] =], x n m 0 σ/ n ]. 4

5 La p-valeur est γ = P m0 (s(x) s(x)) = P m0 ( X n m 0 σ/ n x n m 0 σ/ n ) = N (0, 1)(], s(x)]) = Φ( x n m 0 σ/ n ). On traiterait de façon analogue le test de H 0 : m = m 0 contre H 1 : m > m 0, dont la région de rejet a posteriori est [s(x), + [= [ x n m 0 σ/ n, + [ et la p-valeur 1 Φ(x n m 0 σ/ n ). Fonction puissance d un test de taille donnée Supposons que µ 0 = 10, σ = 3, x = 9, n = 36. Le test bilatéral de taille 0, 05 a pour région de rejet (relative à la statistique t) l intervalle [z, + [, où z = t 0,05 est déterminé par P 10 (t(x) z) = 0, 05. Le réel z est le quantile d ordre 1 0,05 = 0, 975 de la loi N (0, 1). Ce quantile vaut approximativement 1, La fonction puissance du test est l application de R {10} dans [0, 1] qui à m associe π(m) = P m (t(x) z). Sous P m X n a pour loi N (m, 9 36 ) = N (m, 1 4 ) ; X n 10 3/6 a par conséquent pour loi N ((m 10), 1). Donc π(m) = N ((m 10), 1)([ z, z] c ) = 1 N ((m 10), 1)([ z, z] = 1 N (0, 1)([ z (m 10), z (m 10)]). Remarque 1 Les valeurs les plus utilisées par α et les valeurs approchées correspondantes de z α/ sont données dans le tableau ci-dessous. α 0, 1 0, 05 0, 01 1 α 0, 9 0, 95 0, 99 z α/ 1, 645 1, 96, 576 5

6 La figure ci-dessous illustre le cas α = 0, 1. y ,1=0,90 0,1/=0,05 0,1/=0, x C Intervalles de confiance et tests pour une moyenne quand la variance est connue Rappel (Loi de Student) La loi de Student t n est la loi d un quotient U, où U et V sont des variables aléatoires V/n réelles indépendantes, U suivant une loi normale N (0, 1) et V une loi du χ à n degrés de liberté. Les densités des lois de Student sont paires. C.1 Intervalle de confiance bilatéral Le modèle statistique correspondant est (Ω, F, (P (m,σ) ) (m,σ) R R + ) X (R n, B n, N (m, σ ) n ), où sous P (m,σ) la suite X = (X 1,..., X n ) est un n-échantillon de N (m, σ ). La variance inconnue est estimée par s n = 1 n n 1 i=1 (x i x n ), dont la variable aléatoire associée est Sn = 1 n n 1 i=1 (X i X n ). On rappelle que sous P (m,σ) les variables X n et Sn 6

7 sont indépendantes, que la variable Sn a pour espérance σ, et que la loi de n 1 σ S n est la loi de khi-deux à n 1 degrés de liberté χ n 1. Pour déterminer un intervalle de confiance de la moyenne de niveau (1 α) on utilise la variable X n m Sn/ n = [ n(xn m) ]/[ S n σ σ ] qui sous P (m,σ) suit la loi de Student à n 1 degrés de liberté. On note que P (m,σ) (S n = 0) = 0. Soit α ]0, 1[ et t α/ = t(α/, n 1) le réel vérifiant t n 1 ([ t α/, t α/ ]) = 1 α, i.e. le quantile d ordre 1 1 de la loi t n 1. L équivalence P (m,σ) ( t α/ X n m S n/ n t α/) = 1 α P (m,σ) (X n t α/ S n n m X n +t α/ S n n ) = 1 α. montre que l intervalle s n s n [x n t α/, x n + t α/ ] n n est un intervalle de confiance de la moyenne pour la moyenne de niveau (1 α) 100%. C. Intervalles de confiance unilatéraux On peut selon les mêmes principes utilisés plus haut construire des intervalle de confiance unilatéraux. Si t α est le quantile d ordre 1 α de la loi t n 1, les intervalles s n s n [x n t α, + [ et ], x n + t α ] n n sont des intervalle de confiance de niveau (1 α) 100%. C.3 Test bilatéral où et On se donne un réel m 0 et on désire tester H 0 : m = m 0 contre H 1 : m m 0. Compte tenu du paragraphe précédent, on prend pour statistique de test l application t : R n \ n R +, a = (a 1,..., a n ) t(a) = a n m 0 σ (a)/ n, a n = 1 n n a i, σ (a) = 1 n 1 i=1 n (a i a n ), i=1 n = {(a 1,..., a n ) R n : (i, j) [1..n] a i = a j }. La région de rejet à priori associée à la statistique t est un intervalle de la forme [c, + [. 7

8 La région de rejet a posteriori une fois observées les valeurs x 1,..., x n, réels que l on supposera non tous égaux, est par conséquent [t(x), + [= [ x n m 0 s n/, + [. n La p-valeur du test vaut γ = P (m0,σ)(t(x) [t(x), + [) = P (m0,σ)( X n m 0 S n/ n x n m 0 s n/ n ) = F tn 1 ( x n m 0 s n/ n ), où F tn 1 désigne la fonction de répartition de la loi de Student à n 1 degrés de liberté. Si l on s est donné un niveau α ]0, 1[, on rejette H 0 si α > γ, et on ne rejette pas H 0 si α γ. C.4 Tests unilatéraux H 0 : m = m 0 (ou m m 0 ) contre H 1 : m < m 0. La région de rejet a priori associée à la statistique où et s : R n \ n R +, a = (a 1,..., a n ) s(a) = a n m 0 σ (a)/ n, a n = 1 n n a i, σ (a) = 1 n 1 i=1 n (a i a n ), i=1 n = {(a 1,..., a n ) R n : (i, j) [1..n] a i = a j }, est de la forme ], c], et la région de rejet a posteriori est ], x n m 0 s n/ n ]. La p-valeur est γ = P (m0,σ)( X n m 0 S n/ n x n m 0 s n/ n ) = F tn 1 ( x n m 0 s n/ n ) = F tn 1 (s(x)). On traiterait de façon analogue le test H 0 : m = m 0 contre H 1 : m > m 0. 8

9 C.5 Réalisation avec le logiciel R Si x = (x 1,..., x n ) est la suite des mesures, 1 α le niveau de confiance, la commande - t.test(x, alt = g, mu = m 0, conf.level = 0.9) fournit l estimation x n m 0 s n/, la p-valeur n t n 1 ([ x n m 0 s n/ n, + [) = 1 F t n 1 ( x n m 0 s n/ n ) du test de H 0 : m = m 0 contre H 1 : m > m 0, ainsi que l intervalle de confiance unilatéral de niveau 1 α = 0, 9 - t.test(x, alt = l, mu = m 0 ) fournit l estimation x n m 0 s n/ n, la p-valeur F t n 1 ( x n m 0 s n/ ) du test de n H 0 : m = m 0 contre H 1 : m < m 0, ainsi que l intervalle de confiance unilatéral du niveau par défaut 95% - t.test(x, alt = t ) fournit l estimation x n m 0 s n/ n, la p-valeur F t n 1 ( x n m 0 s n/ n ) du test bilatéral de H 0 : m = 0 contre H 1 : m 0, ainsi que l intervalle de confiance bilatéral du niveau par défaut 95%. D Intervalle de confiance pour une variance (cas gaussien) Un phénomène obéit à une loi normale N (m, σ ), où la variance σ est inconnue. Pour estimer σ on réalise n mesures indépendantes x 1,..., x n. D.1 Cas où la moyenne est connue On estime σ par s n = 1 n n i=1 (x i m) ; la variable associée est S n = 1 n n i=1 (X i m). On sait que la variable ns n σ suit la loi du khi-deux à n degrés de liberté χ n. Etant donné α ]0, 1[ on détermine les réels k 1 (α) et k (α) vérifiant χ n([0, k 1 (α)]) = α et χ n([k (α), + [) = α. On a alors χ n([k 1 (α), k (α)]) = 1 α, et de façon équivalente P σ (k 1 (α) ns n σ k (α)) = 1 α, soit encore P σ ( ns n k (α) σ ns n k 1 (α) ) = 1 α. Un intervalle de confiance de niveau (1 α) 100% de la variance σ est par conséquent [ ns n k (α), ns n k 1 (α) ]. 9

10 D. Cas où la moyenne est inconnue D..1 Intervalle de confiance La moyenne est estimée par x n = 1 n n i=1 x i et la variance par s n n 1 i=1 (x i x n ), dont la variable aléatoire associée est Sn = 1 n n 1 i=1 (X i X n ). La variable (n 1)S n σ a pour loi χ n 1. Si k 1 (α) et k (α) sont les réels vérifiant χ n 1([0, k 1 (α)]) = α on voit comme ci-dessus que l intervalle [ (n 1)s n, k (α) n = 1 et χ n 1([k (α), + [) = α, (n 1)s n ] k 1 (α) est un intervalle de confiance de niveau (1 α) 100% de la variance σ. D.. Tests unilatéraux On se donne un réel σ 0 > 0 et on désire tester H 0 : σ = σ 0 contre H 1 : σ > σ 0. Le test se réalise par l intermédiaire de la statistique n 1 S σ0 n, qui suit sous H 0 la loi χ n 1. La région de rejet à priori qui de la forme [c, + [. La région de rejet a posteriori associée aux mesures indépendantes x 1,..., x n est par conséquent [ n 1 σ0 La p-valeur du test vaut γ = P (m,σ 0 )( n 1 σ0 Sn n 1 σ0 s n ) = χ n 1([ n 1 σ0 s n, + [. s n, + [). Si l on s est donné un niveau α ]0, 1[, on rejette H 0 si α γ, et on ne rejette pas H 0 si α < γ. Le test H 0 : σ σ 0 contre H 1 : σ > σ 0 possède la même p-valeur. D..3 Test bilatéral Du fait de la dissymétrie de la loi χ n 1 il est impossible de préciser une région de rejet a priori pour le test de H 0 : σ = σ0 contre H 1 : σ σ0. On se fixe donc au préalable un niveau α ]0, 1[, puis on détermine ensuite les réels χ 1 et χ vérifiant χ n 1([0, χ 1 ]) = α et χ n 1([χ, + [) = α. Comme alors sous H 0 P (m,σ 0 )( n 1 σ0 Sn [χ 1, χ ]) = χ n 1([χ 1, χ ]) = 1 α, l ensemble [χ 1, χ ] c est une région de rejet du test pour le niveau α. 10

11 D..4 Remarque Les résultats de la partie D restent valables pour de grands échantillons ( n 30) dans le cas de variables indépendantes et de même loi admettant un moment d ordre deux fini. Ceux de la partie C ne s appliquent qu au cas gaussien car la loi de la variable n 1 σ S n peut s écarter nettement de la loi χ n 1 lorsque les variables X n ne sont pas gaussiennes, même lorsque n est grand (on dira que la distribution d échantillonnage de la variable n 1 σ S n est peu robuste vis-à-vis de l hypothèse gaussienne). Plus précisément si (X n ) n est une suite indépendante de variables aléatoires réelles de même loi admettant un moment d ordre 4, et si comme ci-dessus Sn = 1 n n 1 i=1 (X i X n ), la suite n(sn σ ) converge en loi vers une loi normale N (0, µ 4 σ 4 ), où µ 4 est le moment centré d ordre 4 E(X 1 EX 1 ) 4. Si les variables X n suivent une loi normale, µ 4 = 3σ 4, et donc µ 4 σ 4 = σ 4. Les tests de la partie C restent par conséquent valides pour une loi pour laquelle µ 4 = 3σ 4. E Intervalles de confiance obtenus par l inégalité de Bienaymé-Tchebychev Quand l approximation normale n est pas valide, on peut utiliser l inégalité de Bienaymé- Tchebychev pour obtenir intervalle de confiance. Un phénomène obéit à une loi P sur R, de moyenne m, dont la variance σ est connue. Pour estimer m on réalise n mesures indépendantes x 1,..., x n et l on note x n = 1 n (x x n ) la moyenne empirique qui est une estimation ponctuelle de m. Si (X 1,..., X n ) est un n-échantillon de P, on a pour tout réel t > 0 l inégalité P ( n (X n m)/σ t) 1 t V [ n(x n m)/σ] = 1 t, d où P ( n(x n m)/σ 1 t) 1 t. Soit α ]0, 1[ et soit l α = 1/ α. On a ce qui s écrit encore P ( n(x n m)/σ lα ) 1 α, P (X n l α σ n m X n + l α σ n ) 1 α. L intervalle [x n l α σ n m x n + l α σ n ] est un intervalle de confiance de niveau au moins égal à 1 α. Exemple 11

12 On reprend les données utilisée dans la section B (variance connue), i.e. on suppose que P a pour écart-type σ = 3, et que la moyenne empirique est x = 9, la taille de l échantillon étant n = 36. Si α = 0, 1, on a x n l α σ n = 9 1 0, et x n l α σ n = 9 1 0, , si bien que l intervalle de confiance de niveau supérieur ou égal à 0, 90 est [7.4, 10.58], à comparer à l intervalle [8.178, 9.8] obtenu dans le cas gaussien. Compléments On pourra consulter le site ainsi que le chapitre 18 du site 1