MQT1183 Méthodes statistiques

Transcription

1 MQT1183 Méthodes statistiques Sébastien Blais Département des sciences administratives, UQO 28 mars 2017

2 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Aujourd hui Chapitre 9: Test d hypothèses 1 Rappels 2 Hypothèse sur la moyenne,σ connu (théorie) 3 Hypothèse sur la moyenne, σ inconnu 4 Hypothèse sur la proportion

3 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio La troisième partie du cours pour sur l inférence statistique, qui comporte deux types de problèmes 1 estimation ponctuelle (chapitre 7) par intervalle (chapitre 8) 2 décision test d hypothèse introduction, une population (chapitre 9) plusieurs populations, moyennes (chapitre 10) plusieurs populations, proportions (chapitre 11) Les problèmes de décision considérés dans ce cours: 1 sont binaires: on décide de faire, ou de ne pas faire, quelque chose. 2 repose sur l observation d un événement: on fait quelque chose si un certain événement est observé.

4 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio La pièce est-elle truquée? J observe 10 lancés de la pièce de monnaie et je dois conclure si elle est truquée ou non. Exemple de règle de décision: Conclure que la pièce est truquée si j observe 0, 1, 2, 8, 9 ou 10 piles. Je peux faire deux types d erreur 1 Conclure que la pièce est truquée alors qu elle ne l est pas (probabilité de 0,11) 2 Conclure que la pièce n est pas truquée alors qu elle l est (probabilité inconnue)

5 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Problème de MaxFlight MaxFlight fabrique des balles de golf. Lorsque le processus de fabrication est bien réglé, les balles produites parcourent 295 verges en moyenne avec un écart type de 12 verges. Un programme d assurance qualité prévoit le prélèvement périodique de 50 balles pour évaluer le réglage du processus de fabrication et décider s il doit être ajusté. H 0 :µ 295 H 1 :µ < 295 Règle de décision: on ajuste le réglage si la moyenne est inférieure à 291.

6 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Je peux faire deux types d erreur 1 Décider de régler la machine alors que ce n est pas nécessaire (probabilité ) de P( X < 291) = = P(Z < 2, 35) = 0, P( X 295 1,7 < ,7 2 Décider de ne pas régler la machine alors que c est nécessaire (probabilité inconnue). Avec cette règle, on fait une erreur de première espèce avec une probabilité de α = 0, 0094.

7 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Formes des hypothèses nulle et alternative Les trois formes possibles sont 1 unilatéral inférieur, H 0 : µ µ 0 et H 1 : µ<µ 0 On rejette la nulle lorsque x est assez petite. 2 unilatéral à supérieur, H 0 : µ µ 0 et H 1 : µ>µ 0 On rejette la nulle lorsque x est assez grande. 3 bilatéral, H 0 : µ = µ 0 et H 1 : µ µ 0 On rejette la nulle lorsque x est assez loin de µ 0. Remarques: La valeur de µ 0 est donnée (souvent µ 0 = 0; µ 0 = 295 dans le problème de MaxFlight) Dans plusieurs manuels, l hypothèse nulle prend toujours la forme d une égalité.

8 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Rejet ou non de la nulle On n accepte jamais la nulle. Il est possible qu un échantillon permette de rejeter la nulle ou qu il ne permette pas de le faire. Exemple: Supposons que j ai une pièce de monnaie truquée avec P(pile) = 0, 25. Je lance la pièce deux fois et j obtiens {pile, face}. La probabilité de cet événement est 0, 375. Vous voulez tester H 0 : p = 0, 5 avant de jouer avec moi. Si p = 0, 5 (sous la nulle), l événement observé est vraisemblable: P(pile, face) = 0, 5. Vous ne rejetez pas la nulle. Ce serait par contre imprudent de l accepter...

9 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Seuil de signification La règle de décision est généralement choisie par l intermédiaire d un seuil de signification (α), soit la probabilité de faire une erreur de première espèce lorsque l hypothèse nulle est satisfaite avec égalité. Exemple: On choisit la règle de décision de sorte que la probabilité de rejeter la nulle par erreur (erreur de première espèce) est α = 0, 05. La probabilité de procéder inutilement à un réglage est de 0,05. Remarque: On ne connaît pas la probabilité de faire une erreur de deuxième espèce.

11 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Deux méthodes équivalentes De manière générale, il y a deux manières de faire un test. Dans tous les cas, on commence par choisir le seuil de signification et calculer une statistique de test. Pour une hypothèse sur la moyenne, lorsque σ est connu, la statistique est z = x µ 0 σ/ n. On rejette H 0 lorsque l une ou l autre de ces conditions sont satisfaites: 1 valeur p: la probabilité d observer z est inférieur à α 2 valeur critique: z est inférieure et/ou (selon le cas) supérieure à une valeur critique.

12 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Problème de Hilltop Hilltop vend du café dans des boîtes de 3 livres. Pour protéger les consommateurs, la Commission fédérale du commerce veut vérifier qu il y a au moins 3 livres de café par boîte, en moyenne, à partir d un échantillon de 36 boîtes. Des analyses antérieures permettent de considérer que l écart type de la population est 0, 18. Quelle est l hypothèse nulle? Quelle est l hypothèse alternative? Quelle est la statistique de test? Quelle est la distribution de la statistique de test sous la nulle? Quel est le seuil de signification du test?

13 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio 1. Approche de la valeur p Supposons que la moyenne d échantillon est 2, 92. La statistique de test observée est z = x µ 0 σ/ n 2, 92 3 = 0, 18/ = 2, Quelle est la probabilité d observer z = 2, 67? Sous la nulle, z est une normale centrée réduite et la valeur p est P(Z 2, 67) = 0, 0038 Puisque 0, 0038 < 0, 01, on rejette la nulle en faveur de l alternative H 1 : µ < 3. On conclut que les boîtes contiennent moins de 3 livres de café, en moyenne.

14 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio

15 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio 2. Approche de la valeur critique (test unilatéral) On cherche la valeur (critique) z α telle que P(Z z α ) = α sous la nulle, et on rejette la nulle si z z α. Puisque Z est une normale centrée réduite sous la nulle, z 0,01 = 2, 33 et on rejette H 0 puisque 2, 67 < 2, 33

17 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Test bilatéral Les hypothèses ont la forme H 0 : µ = µ 0 H 1 : µ µ 0 Pour le problème de MaxFlight H 0 : µ = 295 H 1 : µ 295

19 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio 1. Approche de la valeur p Sous la nulle, z suit une loi normale centrée réduite. Supposons que la moyenne d échantillon (n = 50) est 297, 6. z = x µ 0 σ/ n = 297, / 50 = 1, 53. Quelle est la probabilité d observer une valeur de Z aussi loin de 0 que 1, 53? 1 P( 1, 53 Z 1, 53) = P(Z 1, 53)+P(Z 1, 53) = 2 P(Z 1, 53) = 2 0, 0630 = 0, Au seuil de α = 0, 05, on ne peut pas rejeter la nulle puisque 0, 1260 > 0, 05. On ne peut pas conclure qu un réglage est requis.

21 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio 2. Approche de la valeur critique (test bilatéral) On cherche la valeur (critique) z α/2 telle que P ( z α/2 Z z α/2 ) = 1 α sous la nulle, et on rejette la nulle si z z α/2 ou z z α/2. Puisque Z est une normale centrée réduite sous la nulle, z 0,025 = 1, 96 et on ne peut pas rejeter H 0 puisque 1, 53 < 1, 96. On conclut que la portée des balles n est pas significativement différente de 295 verges. Remarque: De manière équivalente, on peut rejeter la nulle lorsque z z α/2.

24 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Relation avec l estimation par intervalle Une autre manière de faire un test bilatéral consiste à calculer un intervalle de confiance et de rejeter la nulle si l intervalle de confiance ne contient pas µ 0. Exemple: L intervalle de confiance à 95% autour de 297, 6 est 297, 6±1, = 297, 6±3, 3 = 297, 6±3, 3 = [294, 3; 300, 9]. Puisque µ 0 = 295 est contenu dans cet intervalle, on ne peut pas rejeter la nulle et on conclut que la portée des balles n est pas significativement différente de 295 verges.

26 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Hypothèse sur la moyenne, σ inconnu Rien de surprenant ici: La statistique est t = x µ 0 s/ n. Elle suit une loi t de Student avec n 1 degrés de liberté lorsque la population est normale.

29 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Hypothèse sur la proportion Dans ce cas: On fait appel au TCL pour justifier une approximation normale de la distribution de la statistique de test. Sous la nulle H 0 : p = p 0, la variance de la population est p 0 (1 p 0 ) La statistique de test z = p p 0 p 0 (1 p 0 ) n suit donc une loi normale centrée réduite. Remarque: L erreur type n est pas la même que lorsqu on construit un intervalle de confiance.

31 Rappels Hypothèse sur la moyenne, σ connu (théorie) Hypothèse sur la moyenne, σ inconnu Hypothèse sur la proportio Problème de Pine Creek Le club de golf de Pine Creek a mis en place une campagne publicitaire pour augmenter la proportion des femmes parmi les joueurs. Elle veut tester si cette campagne a été efficace avec un échantillon de 400 joueurs, avec un seuil de signification de 5%. L échantillon comptait 100 femmes. La proportion actuelle est de 20%. Quelles sont l hypothèse nulle et l hypothèse alternative? Quelle est la valeur observée de la statistique de test? Peut-on rejeter la nulle? 1 Quelle est la valeur p du test? 2 Quelle est la valeur critique du test?

33 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Aujourd hui Chapitre 10: Comparaisons de moyennes et analyse de la variance 5 Introduction 6 Deux échantillons indépendants 7 Deux échantillons appariés 8 k échantillons indépendants

34 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Comparaisons de moyennes et analyse de la variance Pour la première fois dans ce cours, on s intéresse à plusieurs populations. On considère 3 types de problèmes: 1 Est-ce que les étudiants du groupe 20 sont meilleurs que les étudiants du groupe 21? H 0 : µ 1 = µ 2 H 1 : µ 1 µ 2 2 Est-ce que les étudiants du groupe 20 sont meilleurs en statistique qu en comptabilité? H 0 : µ 1 = µ 2 H 1 : µ 1 µ 2 3 Supposons que chaque étudiant du groupe 20 a acheté un seul des 3 manuels recommandés pour le cours. Est-ce que le choix du manuel a influencé leur résultat final? (Est-ce que le étudiants qui ont acheté le manuel A ont mieux réussi que les autres, par exemple?) H 0 : µ 1 = µ 2 = µ 3 H 1 : µ 1 µ 2 µ 3 Remarquez le sens donné au mot population dans chaque cas.

36 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Deux échantillons indépendants On veut vérifier si les moyennes de deux populations,µ 1 et µ 2, sont égales. On dispose d un échantillon de n 1 observations de la première population et d un échantillon de n 2 observations de la seconde. Quelles sont les hypothèses nulle et alternatives? Quelle est la statistique de test? Quelle est la distribution de la statistique de test? 1 σ 1 et σ 2 connus 2 σ 1 et σ 2 inconnus

37 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Statistique de test La forme générale de la statistique est estimateur valeur sous la nulle. erreur type de l estimateur On a naturellement envie d utiliser x 1 x 2 pour estimer µ 1 µ 2 Quelle est l erreur type de x 1 x 2? Puisque les échantillons sont indépendants σ1 2 σ x1 x 2 = + σ2 2. n 1 n 2

38 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Distribution de la statistique de test La statistique est donc si σ 1 et σ 2 sont connus et z = ( x 1 x 2 ) D 0 σ 2 1 n 1 + σ2 2 n 2 t = ( x 1 x 2 ) D 0 s 2 1 n 1 + s2 2 n 2 si σ 1 et σ 2 ne sont pas connus. Dans ce dernier cas, le nombre de degrés de liberté est approximativement l entier inférieur à ( σ 2 1 n 1 + σ2 2 n 2 ) 2 ( ) 1 σ n 2 1 n n 2 1 ( σ 2 2 n 2 ) 2, ce qui est légèrement inférieur à n 1 + n 2 2.

39 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Intervalle de confiance Sans surprise, l intervalle de confiance est si σ 1 et σ 2 sont connus et si σ 1 et σ 2 ne sont pas connus. ( x 1 x 2 )±z α/2 σ 2 1 n 1 + σ2 2 n 2 ( x 1 x 2 )±t α/2 s 2 1 n 1 + s2 2 n 2

40 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Problème de Greystone Greystone a deux boutiques, l une au centre-ville de Buffalo, l autre en banlieue. Le profil des ventes diffère d une boutique à l autre. On veut vérifier si c est attribuable à une différence d âge de la clientèle. n 1 = 36 x 1 = 40 σ 1 = 9 n 2 = 49 x 2 = 35 σ 2 = 10.

41 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants

42 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Problème de Greystone L intervalle de confiance à 95% est 9 2 (40 35)±1, ±4, 06 = [0, 94; 9, 06]

43 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Problème des logiciels On veut établir si deux logiciels sont aussi efficaces pour développer un système d information. On mesure le temps nécessaire pour développer un système par des analystes utilisant l un ou l autre des logiciels. n 1 = 12 x 1 = 325 s 1 = 40 n 2 = 12 x 2 = 286 s 2 = 44.

44 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Les hypothèses nulle et alternatives sont La statistique de test est H 0 :µ 1 µ 2 = 0 H 1 :µ 1 µ 2. t = ( ) = 2, 27. Le nombre de degrés de liberté est approximativement l entier inférieur à ( ) soit ( ) ( ) = 21, 80, 12

46 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Deux échantillons appariés Ce type de problème correspond plus précisément à vérifier l égalité de la moyenne de deux variables, observées pour chaque observation d un échantillon. Exemple: Un échantillon de n travailleurs ayant utilisé deux méthodes pour réaliser une tâche. Pour chaque travailleur, on a observé le temps de réalisation de la tâche avec les deux méthodes. Remarque: les observations ne sont pas indépendantes: ce sont les mêmes travailleurs. Exemple: Un travailleur performant aura vraisemblablement un temps de réalisation court avec les deux méthodes, et on observera le contraire pour un travailleur moins performant.

47 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Au lieu de formuler les hypothèses sur la différence des moyennes (E[x 1 ] E[x 2 ]), on les formule sur la différence moyenne d = E[x 1 x 2 ]: H 0 :µ d = d 0 H 1 :µ d d 0. On a alors envie d estimer µ d par d = 1 n x 1i x 2i. n Remarque: la notation est un peu confuse dans le manuel, pages i=1

48 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Statistique de test La statistique de test est t = d d 0 s d / n où l écart type d échantillon est s d = 1 n ( x1i x 2i d ) 2. n 1 t suit une loi t de Student avec n 1 degrés de liberté. i=1

50 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Problème de Chemitech Chemitech produit des systèmes de filtration. Trois méthodes (A,B et C) peuvent être utilisée pour produire les systèmes. Chemitech veut savoir si une méthode permet de produire un plus grand nombre de systèmes par semaine. Vocabulaire (emprunté à la médecine...): La méthode d assemblage est appelée variable indépendante ou facteur Le problème est une expérience à un facteur, qualitatif (FIN1003 pour les facteurs multiples et/ou quantitatifs...) Chaque méthode d assemblage est considérée comme un traitement On s intéresse à l effet du traitement sur une variable de réponse (ou variable dépendante)

51 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Problème de Chemitech

52 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Cadre général La ième observation de l échantillon j est notée x ij. Hypothèses nulle et alternative H 0 :µ 1 = µ 2 =... = µ k H 1 : au moins une moyenne est différente des autres. Comme pour les tests précédents, la distribution de la statistique de test (à venir) dépend de la distribution de la population. Celle qu on utilisera repose sur les hypothèses suivantes: 1 observations normalement distribuées 2 observations de même variance (σ 2 1 = σ2 2 =... = σ2 k ) 3 observations indépendamment distribuées

55 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Cadre général - statistique de test La statistique de test sera le ratio de deux quantités: 1 une mesure de dispersion des moyennes d échantillons autour de la moyenne globale ( x j x) 2 une mesure de dispersion des observations autour de leur moyenne d échantillon respective (x ij x j ) Remarques: Ce ratio sera toujours positif Si toutes les moyennes d échantillons étaient égales, le ratio serait 0. Plus le ratio est grand, plus la preuve est forte contre H 0.

56 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants k échantillons indépendants On aura besoin d estimer les moyennes et les écarts types d échantillon. Moyenne d échantillon du traitement j: x j = 1 n j n j i=1 Variance d échantillon du traitement j: s 2 j = 1 n j 1 n j x ij (x ij x j ) 2 On aura besoin d estimer la moyenne globale d échantillon x = 1 n k j x ij = 1 k x j n k j=1 i=1 i=1 j=1

57 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Problème de Chemitech x = = 60.

58 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Carré moyen dû aux traitements Le numérateur de notre statistique de test est une mesure de dispersion des moyennes d échantillons autour de la moyenne globale. Carré moyen dû aux traitements CMT = CST k 1 où la somme des carrés due aux traitements est k SCT = n j ( x j x) 2. j=1 Problème de Chemitech SCT = 5(62 60) 2 + 5(66 60) 2 + 5(52 60) 2 = 520 CMT = = 260. CMT est un estimateur inter-échantillon biaisé de σ 2 si H 0 est fausse.

59 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Carré moyen dû aux erreurs Le dénominateur de notre statistique de test est une mesure de dispersion des observations autour de leur moyenne d échantillon respective. Carré moyen dû aux erreurs CME = CSE n k où la somme des carrés due aux erreurs est n k j k SCE = (x ij x j ) 2 = (n j 1) s 2 j. j=1 i=1 CME est un estimateur intra-échantillon sans biais de σ 2. Problème de Chemitech SCE = (5 1) 5, (5 1) 5, (5 1) 5, = 340 CME = 340 = 28, j=1

60 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Partition de la somme des carrés La somme totale des carrés est n k j SCtot = (x ij x) 2. j=1 i=1 La variance globale de l échantillon, s 2 = SCtot n 1, est un estimateur biaisé de σ 2 si H 0 est fausse. Les sommes de carrés satisfont l égalité SCtot = SCT + SCE. On peut donc considérer l analyse de la variance comme une décomposition de la somme totale des carrés.

62 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Statistique de test, égalité des moyennes La statistique de test est F = CMT CME. Sous nos hypothèses, elle suit une loi de Fisher à k 1 degrés de liberté au numérateur et n k degrés de liberté au dénominateur. La valeur p est P ( F k 1,n k CMT CME). On rejette H 0 lorsque la statistique observée est trop grande pour être plausible, lorsque la valeur p est plus petit que le seuil de signification. Remarques: 1 On a mentionné (chapitre 6) qu un ratio de variables χ 2 suivait un loi de Fisher... 2 Lorsque l échantillon est grand, (k 1) F suit approximativement un loi χ 2 avec k 1 degrés de liberté.

64 Introduction Deux échantillons indépendants Deux échantillons appariés k échantillons indépendants Problème de Chemitech On a F = CMT CME = 260 = 9, , 33 Sous H 0 : µ 1 = µ 2 = µ 3, la statistique suit une loi de Fisher avec k 1 = 2 degrés de liberté au numérateur et n k = 12 degrés de liberté au dénominateur. Selon la table de l annexe B, la valeur critique est 6, 93. On rejette la nulle puisque 9, 18 > 6, 93. On conclut que les méthodes ne sont pas aussi efficaces: la méthode B est plus efficace.