Mathématiques. Statistiques. Stéphane Perret. Version 3.001

Transcription

1 Mathématiques Statistiques Stéphae Perret Versio 3.001

2

3 Table des matières Itroductio 1 1 Variables aléatoires Variables aléatoires discrètes Jets d ue pièce bie équilibrée Jets d u dé à six faces bie équilibré Variables aléatoires discrètes, espérace et variace Le théorème de Tchebychev Jets de plusieurs dés à six faces bie équilibrés La loi de Beroulli La loi biomiale La loi des jets de k dés Variables aléatoires cotiues La loi uiforme La loi ormale La foctio gamma Les lois de Studet Les lois du chi-carré Espérace et variace das le cas cotiu Les différetes formes de desité de distributio Propriétés de l espérace et de la variace (cas discret et cotiu) Cetrage et réductio Foctio de répartitio d ue variable aléatoire Foctio de répartitio d ue variable discrète Foctio de répartitio d ue variable cotiue Deux propriétés essetielles de la loi ormale La loi ormale permet d approximer la loi biomiale Le théorème de la limite cetrale Tables Foctio de répartitio de la loi ormale Les quatiles des lois de Studet Les quatiles des lois du chi-carré Estimatio de paramètres 33.1 Paramètres de positio Paramètres de dispersio Les boîtes à moustaches Les quartiles de Tukey et les quartiles de Freud et Perles La boîte à moustaches de Tukey i

4 Lycée catoal de Porretruy Cours de Mathématiques.4 Statistique, estimateur et estimatio La méthode du maximum de vraisemblace Qualités d u estimateur Tests d hypothèses Tests d hypothèses symétriques sur ue moyee Tests d hypothèses symétriques sur ue moyee, variace coue Test d hypothèses symétriques sur ue moyee, variace icoue Résumé et autres statistiques de tests sur les moyees Test du chi-carré : adéquatio à ue loi Test du chi-carré : comparaiso d échatillos Test du chi-carré : idépedace La p-valeur associée à u test d hypothèse Itervalles de cofiace L itervalle de cofiace sur ue moyee, variace coue L itervalle de cofiace sur ue moyee, variace icoue Régressio liéaire La droite des moidres carrés Le coefficiet de corrélatio Le coefficiet de détermiatio La droite des moidres carrés forcée à l origie Les coefficiets de détermiatio et de corrélatio Preuves Autres types de régressio Préambule : ue autre visio de la régressio liéaire Régressio quadratique Régressio hyperbolique Régressio expoetielle Régressio d ue puissace Régressio logarithmique Preuves des théorèmes Preuve des théorèmes des moidres carrés Preuves de la relatio «miraculeuse» Les deux visios pour la droite de régressio Preuve des igrédiets pour le modèle liéaire Preuve du théorème de retrouvailles Preuve des igrédiets pour le modèle quadratique S. Perret page ii Versio 3.001

5 Itroductio Le mode des statistiques se sépare e deux parties : 1. Les statistiques descriptives. Elles cosistet à travailler sur les doées mesurées afi d e extraire l essetiel à l aide de méthodes graphiques (histogrammes, boîtes à moustaches, droite des moidres carrés) ou de paramètres de positios et de dispersio (comme la moyee, le mode, la médiae; l étedue, la variace et l écart type).. Les statistiques iféretielles. Elles utiliset des résultats théoriques (comme la loi des grads ombres ou le théorème de la limite cetrale) afi de pouvoir créer des modèles gééraux à partir des iformatios doées par les statistiques descriptives das le but d effectuer des aalyses prédictives ou de déduire des comportemets gééraux d ue populatio. Statistique descriptive Mesures expérimetales Mesures météorologiques Sodage sur u échatillo Récolte des doées (SuperCard) Tests placebos Statistique iféretielle Modèle physique (formule) Prévisio du temps à court terme Déductio sur la populatio globale Agecemet des produits das les rayos Détermiatio de l efficacité d u médicamet Vastes champs d applicatios De os jours, les probabilités et les statistiques sot utilisées de plus e plus das beaucoup de domaies dot, etres autres : Traitemet du sigal Biologie Physique Jeux vidéos Hydrologie et climatologie Médecie Sport Marketig Scieces écoomiques Psychologie Scieces sociales Crimiologie Le dager des statistiques Les statistiques fot parties du mode des mathématiques : il s agit d ue sciece exacte! Néamois, la réalité état ce qu elle est (imparfaite telle l homme qui l étudie), la plupart des théorèmes e statistiques sot utilisés sas qu o puisse être certais que les hypothèses soiet vraimet vérifiées. Il est souvet moral de se dire que l o peut appliquer tel ou tel théorème. C est ue faiblesse 1 des outils statistiques que l o e peut égliger! Heureusemet, cette faiblesse est compesée par la robustesse de la plupart de certais théorèmes. 1. Les modèles utilisés par les physicies souffret des mêmes faiblesses. La théorie de Newto a été surclassée par la relativité d Eistei, qui a aussi été surclassée par la relativité géérale (macrophysique). Cette derière est actuellemet icompatible avec la mécaique quatique (microphysique). 1

6 Lycée catoal de Porretruy Cours de Mathématiques S. Perret page Versio 3.001

7 Chapitre 1 Variables aléatoires Das l éditio 004 du petit Robert, ou trouve sous «le hasard» la défiitio suivate. «Cause fictive de ce qui arrive sas raiso apparete ou explicable, souvet persoifiée au même titre que le sort, la fortue, etc. [...] Se dit à l occasio d u heureux cocours de circostaces.» Das ce domaie que sot les statistiques, o étudie la structure qui se cache derrière quelques processus aléatoires. O y verra que lorsqu o répète u tel processus u grad ombre de fois, «le hasard» s efface pour laisser place à des lois statistiques. 1.1 Variables aléatoires discrètes Jets d ue pièce bie équilibrée Cosidéros ue pièce de moaie parfaitemet bie équilibrée. Théoriquemet, ue telle pièce tombe ue fois sur deux sur pile, et ue fois sur deux sur face. E effet, par les propriétés de symétrie et d homogééité de la pièce, chacu de ses côtés à la même probabilité d apparaître. Il y a des pièces truquées dot les deux côtés sot les mêmes (deux côtés pile par exemple). O peut aussi truquer ue pièce à l aide d ue presse 1. Effectuos 100 lacers de pièces e otat F pour face et P pour pile. O va étudier l évolutio de la proportio des piles sur le ombre de lacers. Les 100 lacers sot P P F F P P P F P P P F F F F F F F P P P F P F F F P P F F P F F F P F P P P F F P F F P P P F F F P P P P P P P F P P P P F F P F P P P P P F P F F F P P F F F P P P F F F P P P F F P P P F F P F P Comme le côté pile est sorti 54 fois, sa fréquece d apparitio est de O remarque aussi qu il y a ue série de 7 piles de suite, et ue série de 7 faces de suite. Si o devait demader à u humai d écrire 100 piles ou faces de suite, il hésiterait fortemet à e mettre 7 de suite et pourtat cela arrive fréquemmet Nicole Vogel motre, das l article «Peut-o imiter le hasard?» de la brochure APMEP 451, que sur ue série de 100 lacers, il y a plus d ue chace sur deux d avoir ue série d au mois 7 piles ou 7 faces. Dispoible sur 3

8 Lycée catoal de Porretruy Cours de Mathématiques Voici la représetatio graphique de l évolutio de la fréquece d apparitio du côté pile. O commece à 1, puisque le premier lacer a doé pile. Le deuxième lacer doe aussi pile, la fréquece reste à 1. Le troisième lacer doe F, aisi la fréquece doe Le quatrième lacer doe F, aisi la fréquece doe Là le graphe touche l horizotale à hauteur Rappelos qu au 100-ième lacer, la fréquece valait Fréquece d apparitio du côté pile Nombre de lacers Effectuos trois autres séries de 100 lacers pour setir ce qui se passe. Fréquece (pile) Fréquece (pile) Fréquece (pile) Nombre de lacers Nombre de lacers Nombre de lacers Pour les trois graphes ci-dessous, o a d abord lacé 500 pièces, puis 1000, puis Fréquece (pile) Fréquece (pile) Fréquece (pile) Nombre de lacers Nombre de lacers Nombre de lacers O voit que plus le ombre de lacers augmete, plus la fréquece s approche de 0.5. Ce phéomèe illustre le résultat fodametal suivat de la théorie des probabilités. La loi des grads ombres Lorsqu o répète ue expériece aléatoire de maière idépedate u grad ombre de fois, alors les proportios expérimetales se rapprochet des proportios théoriques, appelée probabilités. S. Perret page 4 Versio 3.001

9 Cours de Mathématiques Lycée catoal de Porretruy 1.1. Jets d u dé à six faces bie équilibré Cosidéros u dé à six faces bie équilibré. Théoriquemet, la fréquece d apparitio de chaque face est de 1. E effet, par les propriétés de symétrie et d homogééité du cube, 6 chacue de ses faces à la même probabilité d apparaître. O trouve sur le marché des dés pipés qui ot u uméro qui sort das le 80% des cas 3. E effectuat 60 lacers, o obtiet les doées suivates O costruit, avec ces doées, u histogramme. Pour chacue des issues possibles (ici les ombres de 1 à 6), o compte le ombre de fois qu elle apparaît, c est le ombre d occurreces, puis o calcule la desité qui est le ombre d occurreces divisé par le ombre total de jets. face ombre d occurreces desité O fait esuite u histogramme (voir le complémet sur les histogrammes à la fi de cette sous-sectio e page 7). Histogramme Desité L histogramme permet de mieux visualiser les doées. Ici, o voit que les faces 1, et 3 sot sorties bie plus souvet. Il est possible que le dé soit pipé (avec ue petite bille de plomb vers le sommet adjacet aux faces 4, 5 et 6). Néamois, ces doées e permettet pas de déduire que le dé est truqué. D ailleurs u test du chi-carré idique que ce dé est probablemet pas truqué (voir e page 5). Le test e se trompe pas puisque ces doées sot issues de simulatios à partir d u dé (iformatique) o pipé. La loi des grads ombres affirme que plus le ombre de lacers est grad plus les desités se rapprochet des probabilités (ou des desités théoriques) qui valet ici Ces probabilités sot idiquées sur l histogramme ci-dessus par les poits reliés Versio page 5 S. Perret

10 Lycée catoal de Porretruy Cours de Mathématiques E augmetat le ombre de lacers effectués, o vérifie empiriquemet la loi des grads ombres. Histogramme pour 10 Histogramme pour 10 Histogramme pour 10 Desité Desité Desité Histogramme pour 0 Histogramme pour 0 Histogramme pour 0 Desité Desité Desité Histogramme pour 50 Histogramme pour 50 Histogramme pour 50 Desité Desité Desité Histogramme pour 100 Histogramme pour 100 Histogramme pour 100 Desité Desité Desité Histogramme pour 1000 Histogramme pour 1000 Histogramme pour 1000 Desité Desité Desité Histogramme pour 5000 Histogramme pour 5000 Histogramme pour 5000 Desité Desité Desité S. Perret page 6 Versio 3.001

11 Cours de Mathématiques Lycée catoal de Porretruy Complémets sur les histogrammes Il y a deux sortes d histogrammes : ceux qui ot e ordoée les occurreces (c est-à-dire le ombre de fois qu ue valeur mesurée apparaît; das l exemple, il s agissait du ombre motré par le dé) et ceux qui ot e ordoée les desités. Imagios que l o lace u dé à quatre faces et que l o obtiee les résultats suivats. face ombre d occurreces desité Voici trois histogrammes des occurreces avec différetes faços de grouper les résultats. Histogramme 1 Histogramme Histogramme 3 Occurreces Occurreces Occurreces Cet histogramme est faux E effet, les surfaces e sot pas proportioelles aux probabilités Et ceux pour les desités (avec la même faço de grouper les résultats). Histogramme 1 Histogramme Histogramme 3 Desité Desité Desité O voit le lie etre ces trois histogrammes et la desité de probabilité : les aires doivet correspodre aux probabilités (voir page 15). Ces histogrammes s obtieet à l aide du logiciel «R» ( qui est la versio gratuite du célèbre logiciel «S plus» ( Voici ce qu il faut taper das «R» pour obteir ces histogrammes (pour raccourcir le code, certais réglages ot été elevés). data <- c(1,1,,,3,3,4,4); layout(matrix(1:3, 1, 3, byrowtrue)) hist(data,breaksc(0.5,1.5,.5,3.5,4.5),probfalse,col"gray", maipaste("histogramme 1"),ylimc(0,5),xlab"",ylab"Occurreces") hist(data,breaksc(0.5,.5,4.5),probfalse,col"gray", maipaste("histogramme "),ylimc(0,5),xlab"",ylab"occurreces") hist(data,breaksc(0.5,.5,3.5,4.5),probfalse,col"gray", maipaste("histogramme 3"),ylimc(0,5),xlab"",ylab"Occurreces") E mettat probtrue au lieu de probfalse, «R» passe directemet des histogrammes des occurreces aux histogrammes des desités. Versio page 7 S. Perret

12 Lycée catoal de Porretruy Cours de Mathématiques Variables aléatoires discrètes, espérace et variace Lorsque les valeurs prises par la variable aléatoire X sot e ombre fii ou déombrable, o dit que la variable aléatoire est discrète. Défiitios L esemble des issues d ue expériece aléatoire est appelé Uivers et oté Ω. Ue variable aléatoire 4 est ue foctio X : Ω R qui associe à chaque issue de l expériece e questio u uique ombre réel. O ote IP(X x) pour la probabilité 5 que la variable X pree la valeur x (attetio à bie distiguer majuscule (variable aléatoire) et miuscule (valeur prise par cette variable aléatoire)). O défiit l espérace de X par µ E(X) et la variace de X par σ V(X) où µ E(X) ω Ω X(ω) IP(ω) x Rx IP(X x) O défiit la variace de X par σ V(X) où σ V(X) x R(x µ) IP(X x) O défiit aussi l écart type de X par σ σ. Ces formules e sot valables que lorsque IP(X x) 0 pour u ombre fii ou déombrable 6 de x R (ce qui est le cas pour ue variable aléatoire discrète). C est pour cette raiso qu o se permet de oter x R. Iterprétatios 1. L espérace de X est la moyee des issues podérée par leurs probabilités.. La variace dex est la moyee des carrés des écarts par rapport à l espérace podérée par les probabilités. Autremet dit, plus les valeurs prises par X s éloiget de l espérace, plus la variace augmete fortemet. Quat aux effets des petits écarts sur la variace, ils sot presque égligeables. Ces otios sot liées à la variable aléatoire, doc à la théorie des probabilités. Elles e sot pas liées aux mesures obteues lors d expérimetios. O verra qu o pourra estimer ces paramètres (espérace, variace et écart type) à l aide de mesures das le chapitre. Subtilité! Cotrairemet à d habitude, si X est ue variable aléatoire, x est ue valeur prise par cette variable aléatoire. Doc x est das le domaie arrivée de X, qui est R. 4. O compredra mieux das les chapitres qui suivet pourquoi o les appelle variables aléatoires alors que si o regarde la défiitio, il y a rie de variable, i d aléatoire. 5. Par rapport aux otios du cours DF, la probabilité que la variable aléatoire atteige la valeur x est doée par IP(X x) IP ( {ω Ω : X(ω) x} ). 6. das ce cas, les séries sot ifiies. Se référer au chapitre correspodat du cours OS. S. Perret page 8 Versio 3.001

13 Cours de Mathématiques Lycée catoal de Porretruy Retour à l exemple du jet d u dé E repreat l exemple précédet. O peut cosidérer la variable aléatoire X qui représete le ombre motré par le jet d u dé. O peut aisi avoir ue otatio efficace pour les probabilités : la probabilité que le ombre motré par le dé soit etre 4 et 6 se ote IP(4 X 6). Puisque la probabilité d avoir chaque ombre vaut 1 6, o a IP(4 X 6) IP(X 4)+IP(X 5)+IP(X 6) % Le calcul de l espérace est le suivat. E(X) IP(X1)+IP(X)+3IP(X3)+4IP(X4)+5IP(X5)+6IP(X6) O vérifie que l espérace est rie d autre que la moyee des résultats possibles. Le calcul de la variace est le suivat. E(X) V(X) (1 µ) IP(X1) + ( µ) IP(X) + (3 µ) IP(X3) + (4 µ) IP(X4) + (5 µ) IP(X5) + (6 µ) IP(X6) (1 7 ) 6 + ( 7 ) 6 + (3 7 ) L écart type vaut L espérace de gai + (4 7 ) 6 + (5 7 ) 6 + (6 7 ) Quad la variable aléatoire doe des valeurs e CHF, o parle d espérace de gai au lieu d espérace (mais cela e chage rie à sa défiitio). Das ce cas, l uité de l espérace est le CHF. Quat à l uité de la variace, il s agit de CHF! Aisi, l uité de l écart type est le CHF. Il est doc plus aturel de parler de l écart type lorsqu il y a ue uité. Par exemple, imagios que deux persoes Aka et Brad jouet à pile ou face. Si la pièce tombe sur pile, alors Aka doe CHF à Brad; si la pièce tombe sur face, alors c est Brad qui doe 4 CHF à Aka. O peut traduire cette règle par ue variable aléatoire X : {pile, face} R qui gère la fortue de Aka : X(pile) CHF et X(face) 4 CHF. Pour cette variable X, l espérace vaut E(X) CHF. La variace vaut V(X) ( 1) 1 +(4 1) 1 9 CHF. L écart type vaut σ 3 CHF. L espérace de gai mesure le gai moye : e jouat 1000 fois à u tel jeu, Aka est e droit d espérer gager 1000 CHF (si elle est i trop chaceuse, i trop malchaceuse). L écart type est e relatio avec le risque. Versio page 9 S. Perret

14 Lycée catoal de Porretruy Cours de Mathématiques Gééralisatio de l espérace Soit g : R R ue foctio réelle et X ue variable aléatoire, alors g X est ue variable aléatoire otée 7 g(x) dot l espérace est : E(g(X)) ω Ω g(x(ω)) IP(ω) x Rg(x) IP(X x) Cela permet otammet d écrire la variace comme ue espérace. V(X) x R(x µ) IP(X x) E((X µ) ) Le théorème de Tchebychev Soit X ue variable aléatoire d espérace µ et d écart type σ. Alors, o a IP(µ kσ X µ+kσ) 1 1 k pour tout k > 0 Cas particuliers 1. Pour k 1, o a IP(µ σ X µ+σ) 0%. Cette affirmatio est pas particulièremet utile.. Pour k, o a IP(µ σ X µ+σ) 75%. Aisi il y a au mois75% des valeurs dex qui sot das l itervalle[µ σ,µ+σ]. 3. Pour k 3, o a IP(µ 3σ X µ+3σ) 88.8%. Aisi il y a au mois88% des valeurs dex qui sot das l itervalle[µ 3σ,µ+3σ]. Illustratio das l exemple du jeu d arget de la page précédete Das cet exemple, o a µ 1 et σ 3. O examie les gais d Aka pour ue partie. 1. La probabilité que la somme gagée soit das l itervalle [µ σ,µ+σ] [,4] doit être plus grade ou égale à 0%. C est vrai, car cette probabilité vaut 100%.. La probabilité que la somme gagée soit das l itervalle [µ σ,µ+σ] [ 5,7] doit être plus grade ou égale à 75%. C est vrai, car cette probabilité vaut 100%. 3. La probabilité que la somme gagée soit das l itervalle [µ 3σ,µ+3σ] [ 8,10] doit être plus grade ou égale à 88.8%. C est vrai, car cette probabilité vaut 100%. Coclusio Le théorème e doe pas des valeurs optimales, mais il est vrai quelque soit la variable aléatoire. Ici, o a pris u exemple u peu trop simple, ce qui explique la faible performace du théorème. 7. Cette otatio est abusive : g(x)(ω) a pas de ses! La justificatio est celle-ci : si X : Ω R et g : R R, alors (g X)(ω) g(x(ω)) g(x) avec x X(ω) Im(X). D où la otatio g X g(x). S. Perret page 10 Versio 3.001

15 Cours de Mathématiques Lycée catoal de Porretruy Jets de plusieurs dés à six faces bie équilibrés Cosidéros plusieurs dés à six faces bie équilibrés. O examie la somme obteue des valeurs motrées par u jet de plusieurs dés. Jets de deux dés Voici u tableau représetat la somme, otée, de chacue des 6 36 issues. Issue Issue Issue Issue Issue Issue Si o suppose que les dés sot bie équilibrés, alors chaque issue a autat de chaces de se produire (c est pour cette raiso qu o a teu compte de l ordre). O trouve aisi le tableau des probabilités suivat. somme probabilité La loi des grads ombres affirme que plus le ombre de lacers est grad plus les desités se rapprochet des probabilités ci-dessus. Ces probabilités sot idiquées sur les histogrammes ci-dessous par les poits reliés. Voici ue vérificatio empirique de la loi des grads ombres Histogramme pour 10 Histogramme pour 50 Histogramme pour 100 Desité Desité Desité Somme de dés Somme de dés Somme de dés Histogramme pour 500 Histogramme pour 1000 Histogramme pour 5000 Desité Desité Desité Somme de dés Somme de dés Somme de dés Versio page 11 S. Perret

16 Lycée catoal de Porretruy Cours de Mathématiques Jets de trois dés Lorsqu o jette 3 dés, il y a issues. O a le tableau de probabilités suivat. somme proba La loi des grads ombres affirme que plus le ombre de lacers est grad plus les desités se rapprochet des probabilités ci-dessus. Ces probabilités sot idiquées sur les histogrammes ci-dessous par les poits reliés Voici ue vérificatio empirique de la loi des grads ombres Histogramme pour 10 Histogramme pour 50 Histogramme pour 100 Desité Desité Desité Somme de 3 dés Somme de 3 dés Somme de 3 dés Histogramme pour 500 Histogramme pour 1000 Histogramme pour 5000 Desité Desité Desité Somme de 3 dés Somme de 3 dés Somme de 3 dés Propriétés de l espérace et de la variace E repreat l exemple précédet. O peut cosidérer les variables aléatoires X 1, X et X 3 qui représetet le ombre motré par les dés uméro 1, et 3 respectivemet. O ote das ce cas, la variable aléatoire X 3 X i X 1 +X +X 3 qui représete la somme des ombres motrés par les trois dés. Grâce aux probabilités qui se trouvet das le tableau de l exemple précédet, o a IP(1 X 18) O utilise les propriétés suivates (voir sectio 1.4). ( ) E X i E(X i ) et ( ) V X i V(X i ) si les X i sot idépedates Aisi E(X) E(X 1 )+E(X )+E(X 3 ) µ 10.5 V(X) V(X 1 )+V(X )+V(X 3 ) σ.96 S. Perret page 1 Versio 3.001

17 Cours de Mathématiques Lycée catoal de Porretruy La loi de Beroulli O cosidère ue expériece aléatoire à deux issues : le succès et l échec. À cette expériece, o associe la variable aléatoire X qui doe 1 e cas de succès et 0 e cas d échec. X : {succès, échec} R; succès 1, échec 0 Si p ]0,1[ est la probabilité de succès, alors o a IP(X 1) p et IP(X 0) 1 p O dit que la variable aléatoire X suit ue loi de Beroulli de paramètre p, otée B(p). Il est facile de motrer que E(X) p et V(X) p(1 p). Applicatio O tete de lacer ue pièce de moaie bie équilibrée sur pile. L espérace vaut 1 (o va réussir e moyee ue fois sur ), la variace vaut 1 4, l écart type vaut La loi biomiale O cosidère ue expériece aléatoire costituée de épreuves successives idetiques, idépedates, à deux issues chacue : le succès et l échec. Autremet dit, à la la i-ième épreuve, o associe ue variable aléatoirex i qui suit ue loi de BeroulliB(p) oùp ]0,1[ est la probabilité d u succès à chaque épreuve successive. À cette expériece, o associe la variable aléatoire X qui compte le ombre de succès, aisi X X i. La probabilité d avoir k succès (et doc k échecs) est doée grâce à la techique des aagrammes 8 par la formule suivate (la i-ième case correspod au i-jet; il y a cases). ( permutatios ) IP(X k) IP succès succès... succès échec... échec } {{ }} {{ } k succès ( ) p k (1 p) k où k k échecs ( ) {! si k {0,1,,...,} k!( k)! k 0 sio E fait 9, ( k) est le coefficiet de x k das le polyôme (1+x). O dit que la variable aléatoire X suit ue biomiale de paramètres et p, otée B(,p). Remarque importate Ue variable qui suit ue loi biomiale B(,p) est ue somme de variables qui suivet ue loi de Beroulli B(p). Grâce aux propriétés de l espérace et de la variace (voir sectio 1.4), o a E(X) p et V(X) p(1 p). Applicatio O compte le ombre de piles obteus e laçat fois ue pièce de moaie bie équilibrée. L espérace vaut (le ombre de piles obteus est e moyee égal à la moitié des lacers), l écart type vaut Se référer à la techique des aagrammes du cours de probabilité (cours DF). 9. Par rapport au résultat de la page suivate, o a (1+x) (x 0 +x 1 ) car otre pièce de moaie est comme u dé à deux faces dot les uméros sot 0 pour face et 1 pour pile. Versio page 13 S. Perret

18 Lycée catoal de Porretruy Cours de Mathématiques La loi des jets de k dés Cas particulier où k 5 La variable aléatoire X compte la somme des résultats des jets de chacu des 5 dés. O a évidemmet P(X 5) ( 1 6 )5 1, puisque chacu des 5 dés doit tomber sur De même, o a P(X 30) 1. Il est plus dur de calculer P(X k) avec 5 < m < Regardos e détails commet calculer P(X 8) avec la méthode des aagrammes. ( perm. ) ( perm. ) ( perm. ) P(X 8) IP IP IP !!3! ( ) ! 3!1!1! ( ) 5 ( 1 5! 6!3! + 5! 3!1!1! + 5! ) 4!1! ( ) ! 6 4!1! ( ) O voit que ce qui est pas facile à trouver das le cas gééral, c est le coteu de la parethèse qui cotiet les fractios avec des factorielles. Mais e fait, ces fractios peuvet être expliquées 10 aisi. 5!!3! est le coefficiet de x 1 x3 das (x 1 +x +x 3 +x 4 +x 5 +x 6 ) 5 5! 3!1!1! 5! 4!1! est le coefficiet de x 3 1 x x 3 das (x 1 +x +x 3 +x 4 +x 5 +x 6 ) 5 est le coefficiet de x 4 1x 4 das (x 1 +x +x 3 +x 4 +x 5 +x 6 ) 5 O utilise l astuce suivate : e remplaçat x 1 par x, x par x, x 3 par x 3,..., x 6 par x 6, o trasforme les moômes à six variables ci-dessus e u polyôme à ue seule variable. Aisi, les trois moômes ci-dessus (x 1 x3, x3 1 x x 3 et x 4 1 x 4) sot fusioés sur u ouveau moôme à ue seule variable dot la puissace correspod à la somme des dés, ici x 8. E effet, x 1 x3 deviet x x 6 x 8 ; x 3 1 x x 3 deviet x 3 x x 3 x 8 ; x 4 1 x 4 deviet x 4 x 4 x 8. Aisi 5!!3! + 5! 3!1!1! + 5! 4!1! Règle géérale pour k dés est le coefficiet de x 8 das (x+x +x 3 +x 4 +x 5 +x 6 ) 5 La probabilité de lacer k dés et d obteir u total de m est doée par le coefficiet x m du polyôme (x+x +x 3 +x 4 +x 5 +x 6 ) k multiplié par ( 1 6 )k. Ce coefficiet est facilemet détermiable à l aide de Maxima : la commade qui établit la liste des coefficiets est makelist(coeff(ratsimp((x+x^+x^3+x^4+x^5+x^6)^k),x,m),m,k,6*k). Par exemple, la probabilité de faire u total de 10 avec 30 dés vaut O utilise les combiaisos vues das le chapitre sur le déombremet du cours DF S. Perret page 14 Versio 3.001

19 Cours de Mathématiques Lycée catoal de Porretruy 1. Variables aléatoires cotiues Lorsque les valeurs prises par la variable aléatoire X variet das u itervalle (ou ue réuio d itervalles), o dit que la variable aléatoire est cotiue La loi uiforme Imagios l expériece aléatoire suivate : o fait tourer ue aiguille fixée au milieu d u disque. L aiguille s arrêtera de maière aléatoire. Regardos la variable aléatoire X qui associe à chaque positio de l aiguille l agle correspodat das l itervalle [0,π[. La probabilité que l agle soit exactemet π est ulle. O voit tout de même que la probabilité que l agle soit etre π et 3π devrait valoir L astuce cosiste à se rameer à regarder des aires sous ue courbe appelée desité (cotiue) de probabilité ou ecore distributio et otée f(x). O a IP(a X b) } {{ } Probabilité que X pree ue valeur etre a et b b f(x)dx a } {{ } Notatio mathématique pour décrire l aire etre f et l axe des x, de a jusqu à b Comme ue probabilité est u ombre etre 0 et 1 (ou etre 0% et 100%), o doit avoir + f(x)dx 1 et f(x) 0 pour tout x R La desité de la variable aléatoire X associée à cette expériece aléatoire est doée par { 1 si x [0,π[ f(x) π 0 si x [0,π[ Voici so graphe. desité α 1 π f π 9 4π 9 π 3 8π 9 10π 9 4π 3 14π 9 16π 9 π Im(X 3 ) Cette desité est dite uiforme. O a π 3 IP( 4π X π) 9 3 4π 9 f(x)dx 1 9 E [ effet, e observat le quadrillage, o costate que la zoe grise défiie sur l itervalle 4π, ] π 9 3 a ue proportio de 1. 9 Versio page 15 S. Perret

20 Lycée catoal de Porretruy Cours de Mathématiques 1.. La loi ormale Il existe ue loi, otée N(µ,σ ) et appelée loi ormale (ou loi de Laplace-Gauss) qui, comme o le verra, permet d approximer certaies probabilités. Cette loi déped de deux paramètres : l espérace µ et la variace σ (qui est le carré de l écart type σ). Elle est doée par la desité f(x;µ,σ) 1 σ 1 π e ( x µ σ ) où e est le ombre d Euler qui vaut eviro Voici le graphe de f. desité 1 σ π µ 3σ µ σ µ σ 68.3% 95.4% 99.7% µ µ+σ µ+σ µ+3σ x Le lecteur pourra comparer les pourcetages idiqués avec ceux doés par le théorème de Tchebychev. Même si cette loi est très importate, tous les phéomèes e peuvet pas forcémet être estimés par la loi ormale. Approximatio de la somme d u jet de dés Superposos e rouge/blac la loi ormale N(kµ,kσ ) correspodat aux lacers de k dés pour k {1,,3,4,5,10}. Rappelos que µ 3.5 et σ Histogramme pour 1000 Histogramme pour 1000 Histogramme pour 1000 Desité Desité Desité Somme de 1 dé Somme de dés Somme de 3 dés Histogramme pour 1000 Histogramme pour 1000 Histogramme pour 1000 Desité Desité Desité Somme de 4 dés Somme de 5 dés Somme de 10 dés O voit que lorsque gradit, l approximatio par la loi ormale deviet meilleure. S. Perret page 16 Versio 3.001

21 Cours de Mathématiques Lycée catoal de Porretruy Ecore quelques comparaisos. Histogramme pour 1000 Desité Somme de 0 dés Histogramme pour 1000 Desité Somme de 30 dés Comparos la probabilité exacte d avoir, e laçat 30 dés, ue somme comprise etre 10 et 180 avec so approximatio par la loi ormale N(105,87.5). méthodes de calcul répose vraies probabilités (voir sectio 1.1.8) IP(10 X 180) loi ormale N(105,87.5) loi ormale N(105,87.5) avec correctio de cotiuité (voir aussi la page 8) f(x)dx f(x)dx La correctio de cotiuité cosiste à elever 1 à la première bore d itégratio et à ajouter 1 à la deuxième bore. E effet, si o veut calculer la probabilité IP(X 100) et qu o calcule 100 f(x)dx, o va trouver 0, parce qu il y a pas d aire. Si o veut 100 approximer IP(X 100) à l aide de la loi ormale, il faut calculer l itégrale f(x) dx, 99.5 car les barres des histogrammes sot cetrées e 100 mais sot de largeur 1. Versio page 17 S. Perret

22 Lycée catoal de Porretruy Cours de Mathématiques 1..3 La foctio gamma La foctio gamma est défiie par l itégrale suivate. + Γ() x 1 e x dx ]0,+ [ Propriétés de la foctio gamma. 0 Γ(+1) Γ() pour tout > 0 avec Γ( 1 ) π et Γ(1) 1 Ces propriétés permettet de calculer Γ( ) avec 1. O voit aussi que lorsque est u ombre aturel, 1, la foctio gamma est ue gééralisatio de la factorielle, autremet dit qu o a Γ() ( 1)!. E effet, la factorielle satisfait les propriétés! ( 1)! et 0! 1. y y g(x) x 1 e x g(x) e x Γ( 1 ) π 0.50 Γ(1) Γ( 1 ) x Γ(1) x y y g(x) x 1 e x g(x) xe x Γ( 3 ) 1 Γ(1 ) 1 π 0.50 Γ() 1Γ(1) Γ( 3 ) x Γ() x y y g(x) x 3 e x g(x) x e x Γ( 5 ) 3 Γ(3 ) 3 4 π 0.50 Γ(3) Γ() Γ( 5 ) x Γ(3) x S. Perret page 18 Versio 3.001

23 Cours de Mathématiques Lycée catoal de Porretruy 1..4 Les lois de Studet La desité de probabilité de la loi de Studet T ν à ν degrés de liberté est doée par la foctio suivate. f Tν (x) Γ( ) ν+1 ) ν+1 Γ ( 1 ) (1+ x, x R ν νπ ν Il s agit d ue distributio qui ressemble à celle de la loi ormale cetrée réduite, mais elle est plus haute sur les côtés. Sur les graphiques suivats, o voit la loi ormale cetrée réduite N(0, 1) e traitillés, les lois de Studet pour ν, ν 5 et ν 30. Comparaiso e la loi ormale N(0,1) et T. desité x Comparaiso e la loi ormale N(0,1) et T 5. desité x Comparaiso e la loi ormale N(0,1) et T 30. desité x Versio page 19 S. Perret

24 Lycée catoal de Porretruy Cours de Mathématiques 1..5 Les lois du chi-carré Il existe des lois, otées χ, et appelées lois du chi-carré (proocer «ki») avec degrés de liberté. Voici les expressios foctioelles de leur desité et leur représetatio graphique. desité f (x) 1 Γ( 1 e x si x > 0 )x 0 si x Si 1, o a f 1 (x) 1 π x e x 0.5 Si, o a f (x) 1 e x Si 3, o a f 3 (x) 1 π xe x 0.4 Si 4, o a f 4 (x) 1 4 xe x 0.3 Si 5, o a f 5 (x) 1 3 x 3 e x π Si 6, o a f 6 (x) 1 16 x e x x S. Perret page 0 Versio 3.001

25 Cours de Mathématiques Lycée catoal de Porretruy 1..6 Espérace et variace das le cas cotiu Espérace d ue variable aléatoire cotiue L espérace d ue variable aléatoire X, otée E(X) ou µ, est la moyee podérée des valeurs images de X par leur probabilité : E(X) + x f(x)dx (e modifiat la formule du cas discret) Variace et écart type d ue variable aléatoire cotiue La variace d ue variable aléatoire X, otée V(X), est la moyee podérée des carrés des écarts par rapport à l espérace µ par leur probabilité. V(X) + L écart type de X est défii par σ(x) V(X). Gééralisatio de l espérace (x µ) f(x)dx Soit g : R R ue foctio réelle et X ue variable aléatoire, alors g X est ue variable aléatoire otée 10 g(x) dot l espérace est : E(g(X)) + g(x) f(x)dx Cela permet otammet d écrire la variace comme ue espérace. Exemple de calcul V(X) + (x µ) f(x)dx E((X µ) ) Pour la variable aléatoire X défiie e page 15, l espérace est le résultat que l o peut le plus souvet espérer (e moyee) et vaut : La variace est : V(X) π 0 (x π) π E(X) π 0 x π dx TFCI x 4π dx TFCI (x π)3 6π Par coséquet, l écart type vaut σ(x) π 3. π 0 π 0 4π 4π π π3 6π ( π)3 6π π 6 + π 6 π Cette otatio est abusive : g(x)(ω) a pas de ses! La justificatio est celle-ci : si X : Ω R et g : R R, alors (g X)(ω) g(x(ω)) g(x) avec x X(ω) Im(X). D où la otatio g X g(x). Versio page 1 S. Perret

26 Lycée catoal de Porretruy Cours de Mathématiques 1.3 Les différetes formes de desité de distributio Il s agit d ue otio issue de la théorie des probabilités : ue desité (ou distributio) est ue descriptio de la courbe que devrait suivre u histogramme lorsque les mesures utilisées pour faire l histogramme sot e très grads ombre (grâce à la loi des grads ombres). Il s agit d ue courbe théorique! Tadis que l histogramme est basé sur les observatios, la distributio est théorique. Il faut doc faire preuve de prudece lorsqu o dit que les doées mesurées suivet ue certaie distributio! Das les exemples précédets, les desités ot toujours été détermiées de maière exacte (loi de Beroulli, loi biomiale ou loi multiomiale) ou approximative (loi ormale, lois de Studet, lois du chi-carré). Voici les oms de certaies formes de distributios que l o peut trouver das la ature. Distributio symétrique Distributio uiforme Distributio oblique à gauche Distributio oblique à droite Distributio bimodale S. Perret page Versio 3.001

27 Cours de Mathématiques Lycée catoal de Porretruy Date de aissace de élèves de première aée ( ) O peut regarder la date de aissace des élèves de première aée. Il y a 4 élèves iscrits e août 003. Voici l histogramme où les classes sot des trimestres (trois mois). O voit beaucoup mieux la écessité de classer les doées das des classes, afi d avoir u graphe lisible. Voici l histogramme où les classes sot des semestres (six mois). Il faut faire attetio à l iterprétatio que l o doe à l histogramme, puisque le choix des classes ifluece légèremet l histogramme. Pour cette raiso, il est importat de e pas faire de calculs à partir des ombres idiqués sur l histogramme, mais plutôt à partir des doées iitiales. Même si le choix des classes modifie l histogramme, o s aperçoit que la forme géérale reste la même. Ici, o voit qu e première aée, il y a beaucoup d élèves qui sot és e 1987 et das la première moitié de La distributio est oblique à gauche, car il y a aura certes quelques élèves surdoués qui aurot sauté ue aée (doc qui etrerot au lycée très jeue), mais il y a aura bie plus d élèves qui etrerot au lycée u peu plus vieux (redoublemet, réorietatio professioelle,...). Versio page 3 S. Perret

28 Lycée catoal de Porretruy Cours de Mathématiques 1.4 Propriétés de l espérace et de la variace Propriétés de l espérace L espérace est liéaire (cela proviet des propriétés du symbole somme et de l itégrale). Cela sigifie que l espérace satisfait : additivité : homogééïté : E(X +Y) E(X)+E(Y) E(λX) λ E(X) De plus, si C est ue variable aléatoire costate, o a E(C) C. Propriétés de la variace La variace est pas liéaire. O a tout de même : additivité si X et Y sot idépedats : V(X +Y) V(X)+V(Y) homogééïté de degré : V(λX) λ V(X) lorsque C est ue variable aléatoire costate : V(C) 0 Pour démotrer la formule de l additivité, il faut défiir la otio de variables aléatoires idépedates (et aussi la otio de covariace) : cela dépasse le cadre de ce cours. Par cotre, les deux autres propriétés sot évidetes. Autre formule pour la variace E utilisat les propriétés de l espérace, o motre que V(X) E ( X ) ( E(X) ). E effet, e otat µ E(X), o a : ( (X µ ) ) V(X) E E ( X µx+µ ) E ( X ) µe(x)+µ E ( X ) ( E(X) ) Théorème O cosidère variables aléatoires idépedates X 1, X,..., X de même espérace µ et de même variace σ. La moyee de ces variables aléatoires est aussi ue variable aléatoire, otée X et défiie par X X 1+X + +X. Sous ces hypothèses, o a : E ( X ) µ V ( X ) σ Preuve O a : E ( X ) ( E X ) i Pour la variace : V ( X ) ( V X ) i E li. E(X i) µ µ µ ( 1 V i) X 1 ( V ) X i Poit délicat : o a V( X i) V(X i) parce que les variables aléatoires X i sot idépedates. Par coséquet : V ( X ) 1 ( V ) X i 1 V(X i) 1 σ 1 σ σ S. Perret page 4 Versio 3.001

29 Cours de Mathématiques Lycée catoal de Porretruy 1.5 Cetrage et réductio Défiitios Ue variable aléatoire (discrète ou cotiue) est dite cetrée si so espérace est ulle. Ue variable aléatoire (discrète ou cotiue) est dite réduite si sa variace vaut 1. Théorème Si X est ue variable aléatoire (discrète ou cotiue) d espérace µ et de variace σ, alors X µ est ue variable cetrée réduite σ Preuve 1. O a, par liéarité : ( ) X µ E σ ( ) 1 E li. E (X µ) 1 E li. E(X µ) 1 σ σ σ 0 { }} { (E(X) µ) 0. O commece par utiliser la formule V(X) E ( (X E(X)) ) afi d avoir : ( ) ( (X X µ µ ( X µ ) ) ) V E E σ σ } {{ σ } 0 (voir ci-dessus) O peut aisi cotiuer le calcul : ( ) ( (X ) ) ( ) ( ) X µ µ (X µ) 1 V E E E (X σ σ σ µ) σ E li. 1 σ E( (X µ) ) 1 σ E( X Xµ+µ ) ( E ( X ) µe ( X ) ) +µ µe(x) 1 σ 1 (E σ ( X ) ( E(X) ) ) O termie e se souveat de la formule V(X) E ( X ) ( E(X) ). E effet : ( ) X µ V 1 σ σ ( E ( X ) ( E(X) ) ) 1 σ V(X) 1 σ σ 1 Versio page 5 S. Perret

30 Lycée catoal de Porretruy Cours de Mathématiques 1.6 Foctio de répartitio d ue variable aléatoire Foctio de répartitio d ue variable discrète O défiit la foctio de répartitio d ue variable discrète comme suit. x φ(x) IP(X x) IP(X k) où IP(X k) est la desité discrète de probabilité Exemple k Ci-dessous, o trouve la loi biomiale B(10, 1 ) (dot la desité est e gris focé) et sa foctio de répartitio (e gris clair). desité x 1.6. Foctio de répartitio d ue variable cotiue O défiit la foctio de répartitio d ue variable cotiue comme suit. x φ(x) IP(X x) f(t)dt où f(x) est la desité de probabilité Exemple Ci-dessous, o trouve la loi ormale N(0,1) et sa foctio de répartitio. desité 1 φ f 1 1 x S. Perret page 6 Versio 3.001

31 Cours de Mathématiques Lycée catoal de Porretruy 1.7 Deux propriétés essetielles de la loi ormale La loi ormale permet d approximer la loi biomiale Le théorème cetral-limite de Laplace Soit a, b R et p ]0,1[. Alors La loi biomiale B(,p) suit approximativemet ue loi ormale N(p,p(1 p)) Autremet dit, pour assez grad, o peut approximer la probabilité que la variable X, qui suit ue loi biomiale B(,p) d espérace p et de variace p(1 p), soit etre a et b de la maière suivate. ( ) approx par IP a X b N N(p,p(1 p)) cetrage réductio foctio de répartitio otatio page 30 ( ) IP a N b ( a p IP p(1 p) ( IP Z b p ) p(1 p) Z N(0,1) { }} { N p p(1 p) b p ) p(1 p) ( IP Z a p ) p(1 p) ( ) ( ) b p a p φ φ p(1 p) p(1 p) La plupart du temps, o cosidère que si p 5 et si (1 p) 5 (autremet dit si est suffisammet grad par rapport aux probabilités de succès p et d échec 1 p), alors l approximatio est de boe qualité. Exemple Soit X ue variable aléatoire qui suit la loi biomiale B(10, 1 ) (o lace ue pièce de moaie bie équilibrée 10 fois de suite et o compte le ombre de piles obteu). O a p (1 p) 5. Aisi, o estime B(10, 1 ) avec la loi ormale N(p,p(1 p)) N(5,.5). E gris, o a IP(4 X 7) que l o voit sur le graphe de gauche et que l o estime par la loi ormale sur le graphe de droite. y y x x Versio page 7 S. Perret

32 Lycée catoal de Porretruy Cours de Mathématiques O a : IP(4 X 7) IP(X 4)+IP(X 5)+IP(X 6)+IP(X 7) L approximatio est doée par ( ( 1 6 ( 4)( ) ) ( 1 ) 5 ( 5)( ) ( 1 ) 4 ( 6)( ) ( 1 ) 3 7)( ) IP(4 X 7) φ( ) φ( ) φ(1.6) φ( 0.63) Amélioratio de l estimatio par correctio de cotiuité L estimatio de la page précédete est pas extraordiaire. Pour l améliorer, o va légèremet modifier les bores de l itégrale. E effet, e allat de 4 à 7, l itégrale précédete oublie la moitié des deux rectagles aux extrémités. C est pourquoi il est plus judicieux de partir à 3.5 et de fiir à 7.5 comme le motre les schémas ci-dessous. y y x x O a : IP(4 X 7) L approximatio est maiteat bie meilleure IP(4 X 7) φ( ) φ( ) φ(1.58) φ( 0.95) Formule d approximatio améliorée La formule d approximatio améliorée est doc das le cas gééral doée par ( ( ) IP a X b b+ 1 p ( φ a 1 ) φ p ) p(1 p) p(1 p) Remarque Si est très grad, les deux approximatios (l améliorée et celle du théorème) serot les deux très proches. S. Perret page 8 Versio 3.001

33 Cours de Mathématiques Lycée catoal de Porretruy 1.7. Le théorème de la limite cetrale Le théorème de la limite cetrale, aussi appelé théorème cetral limite est l u des résultats les plus importats de la théorie des probabilités. De faço iformelle, ce théorème 11 doe ue estimatio de l erreur que l o commet e approchat la moyee théorique µ par la moyee arithmétique x. Théorème de la limite cetrale Supposos qu o a variables aléatoires X 1,..., X idépedates et qui suivet ue même loi de probabilité d espérace µ et de variace σ. Le théorème cetral limite dit que, si est suffisammet grad (la plupart du temps 30 suffit), alors la variable aléatoire X X 1+ +X qui correspod à la moyee des variables X 1,..., X suit approximativemet ue loi ormale N(µ, σ). Simulatio umérique E oir, la loi d origie. E rouge/blac, la loi ormale du théorème. E gris, l histogramme des moyees de échatillos de taille. Pour 1, l histogramme suit la loi d origie, puisque la moyee d ue mesure est égale à la mesure elle-même. Puis plus gradit, plus l histogramme cesse de suivre la loi d origie pour se rapprocher de la loi ormale (qui deviet de plus e plus étroite, car σ deviet de plus e plus petit, et haute, car so aire vaut toujours 1) Ce phéomèe a d abord été observé par Gauss qui l appelait loi des erreurs ; mais ce derier e a pas doé de démostratio rigoureuse. La preuve du théorème a été apportée par demoivre et Laplace ; le théorème porte doc parfois leurs oms. Versio page 9 S. Perret

34 Lycée catoal de Porretruy Cours de Mathématiques 1.8 Tables Foctio de répartitio de la loi ormale La foctio de répartitio φ(x) de la loi ormale cetrée réduite N(0,1) est ue itégrale qui admet pas de primitive explicite. O recourt aisi à ue table pour doer des valeurs approximatives. φ(x) 1 x e t dt π O lit les décimales das les liges, et les cetièmes e coloes. Par exemple, o trouve l approximatio arrodie à 4 décimales de φ(1.65), qui vaut , à l itersectio de la lige 1.6 et de la coloe Si x est égatif, o utilise la relatio φ( x) 1 φ(x) qui proviet du fait que la desité est paire et que l aire sous la courbe vaut 1. desité 1 desité 1 φ( 1) φ(1.65) x x φ(1.65) φ( 1) 1 φ(1) S. Perret page 30 Versio 3.001

35 Cours de Mathématiques Lycée catoal de Porretruy 1.8. Les quatiles des lois de Studet La foctio de répartitioφ ν de la loi de Studet T ν à ν degrés de liberté est ue itégrale qui admet pas de primitive explicite (sauf si ν 1). φ ν (x) Γ( ) ν+1 Γ ( 1 x ) ν+1 ) (1+ t dt, x R ν νπ ν Cotrairemet à la table de la loi ormale, il est coutume de préférer ue table des quatiles (c est-à-dire ue table qui doe la valeur de x lorsqu o coaît la valeur de l aire φ ν (x)). φ ν(x) ν if Si, par exemple, pour u test d hypothèses symétriques, le seuil de sigificatio α est égal à 10%, c est-à-dire que α 0.1, alors o a φ ν (x) O trouve x φ 1 ν (0.95) e regardat la valeur se trouvat das la coloe correspodat à 0.95 et das la lige correspodat aux degrés de liberté ν. Si, de plus, o choisit ν 5, o trouve x desité 0.5 x aire φ( ) aire α 0.05 x Versio page 31 S. Perret

36 Lycée catoal de Porretruy Cours de Mathématiques Les quatiles des lois du chi-carré La foctio de répartitio φ ν de la loi du chi-carré χ ν à ν degrés de liberté est ue itégrale qui admet pas de primitive explicite (sauf si ν est pair). φ ν (x) 1 Γ( ) x 0 t 1 e t dt, x [0,+ [ Comme pour la table des lois de Studet, il est coutume de préférer ue table des quatiles (c est-à-dire ue table qui doe la valeur de x lorsqu o coaît la valeur de l aire φ ν (x)). φ ν(x) ν Si, par exemple, le seuil de sigificatio α vaut 5%, c est-à-dire que α 0.05, alors o a φ ν (x) O trouve x φ 1 ν (0.95) e regardat la valeur se trouvat das la coloe correspodat à 0.95 et das la lige correspodat aux degrés de liberté ν. Si, de plus, o choisit ν 4, o trouve x desité Ici, o voit le graphe de χ x aire φ(9.488) 0.95 aire α x S. Perret page 3 Versio 3.001

37 Chapitre Estimatio de paramètres Cosidéros des variables aléatoires X 1,..., X dot les mesures lors d ue expériece sot doées par x 1,..., x. E gééral, o désire que X 1,..., X suivet ue même loi qu ue variable aléatoire X d espérace µ et de variace σ. Si o repred l exemple de os 60 lacers d u dé (à la sectio 1.1.), X i est la variable aléatoire qui doe le résultat du dé au i-ième jet, et x i le résultat obteu 1 lors du i-ième jet e réalisat l expériece. O avait par exemple, x 1 et x Quat à X, il s agit de la variable aléatoire qui représete le ombre motré par le jet de ce dé; so espérace vaut µ 3.5 et sa variace σ vaut eviro.9 (voir sectio 1.1.3)..1 Paramètres de positio Ces paramètres permettet de situer os mesures x 1,..., x. 1. La moyee arithmétique La moyee arithmétique, otée x, est défiie par x 1 ( x i x ) 1 +x +x 3 +x 4 + +x 1 +x C est le paramètre de positio qui est utilisé pour estimer la ote semestrielle des élèves du poit de vue de l évaluatio das le bulleti scolaire. La variable aléatoire correspodate à la moyee arithmétique est otée aisi X 1 X i X est u estimateur de l espérace théorique µ, et x est so estimatio. Remarque C est avec cet estimateur qu o estime votre iveau das chaque disciplie lors de chaque semestre. 1. O voit mieux pourquoi o parle de variable aléatoire : la variable aléatoire X i a rie d aléatoire, mais sa réalisatio x i est aléatoire. 33

38 Lycée catoal de Porretruy Cours de Mathématiques. La médiae Pour calculer la médiae, il faut classer les mesures de la plus petite à la plus grade. La médiae est la valeur du milieu lorsque le ombre des mesures est impair. C est la moyee arithmétique des deux valeurs autour du milieu lorsque le ombre des mesures est pair. Mesures Médiae Par exemple Le mode Le mode est la valeur la plus fréquemmet atteite. Il est possible qu ue série de mesures ait plusieurs modes. Pour cette raiso, le mode est u sous-esemble des valeurs possibles. Mesures Mode Par exemple {} {1} {1, 3}. Paramètres de dispersio Ces paramètres permettet de mesurer l écartemet des mesures x 1,..., x. 1. L étedue L étedue est la logueur du domaie de variatio qui est le plus petit itervalle coteat toutes les valeurs. Par exemple Mesures Domaie de variatio étedue [1, 5] [1, 3] [1, 7] [, 7] 5. La variace La variace, otée s, est la moyee des carrés des écarts par rapport à x. s 1 ( (x i x) (x ) 1 x) +(x x) + +(x x) Par exemple, si les mesures sot x 1 1, x, x 3, x 4 4 et x 5 6. Alors la moyee arithmétique vaut x 3 et o peut calculer la variace aisi s (1 3) +( 3) +( 3) +(4 3) +(6 3) La variable aléatoire correspodate à la variace est otée aisi S 1 (X i X) S est u estimateur de la variace théorique σ, et s est so estimatio. S. Perret page 34 Versio 3.001

39 Cours de Mathématiques Lycée catoal de Porretruy 3. L écart type L écart type est égal à la racie carrée de la variace. Il est logiquemet oté s. s 1 ) (x1 x) (x i x) ( +(x x) + +(x x) Das l exemple précédet, o avait la variace s 3.. Aisi l écart type correspodat vaut s De même, la variable aléatoire correspodate à l écart type est otée aisi S 1 (X i X) S est u estimateur de l écart type théorique σ, et s est so estimatio. L estimateur sas biais de la variace et de l écart type L estimateur de l espérace µ doé par X 1 X i est u bo estimateur : o dit qu il est sas biais (voir sectio 1). Par cotre, l estimateur de la variace σ doé par S 1 (X i X) a u biais, il a e effet tedace à sous-estimer σ. O corrige ce biais e utilisat l estimateur, oté S 1 ou plus simplemet S, défii par S S ( (X i X) 1 S ) Pour les mêmes raisos, l estimateur sas biais de l écart type σ est S S (X i X) Versio page 35 S. Perret

40 Lycée catoal de Porretruy Cours de Mathématiques.3 Les boîtes à moustaches Ivetées par Joh Tukey et Joh Wilder e 1977, les boîtes à moustaches, aussi appelées diagrammes e boîte ou boîtes de Tukey, sot très utiles pour doer ue représetatio simple à compredre des doées mesurées (u peu comme u histogramme)..3.1 Les quartiles de Tukey et les quartiles de Freud et Perles Les quartiles permettet de séparer les doées e quatre parties égales; c est ue gééralisatio de la médiae qui sépare les doées e deux parties égales. Le quartile iférieur sépare le premier quart des doées; le deuxième quartile est la médiae : il sépare la moitié des doées; le quartile supérieur sépare le derier quart des doées. Voici deux maières de calculer les quartiles à partir d ue série de doées. 1. Les quartiles utilisés pour faire les boîtes à moustaches. Cette méthode a été établie par Joh Tukey e O met les doées das l ordre et o coupe les doées e deux esembles sur lesquels o calcule la médiae. (a) Si est impair, il y a ue valeur cetrale (la médiae), et o coupe les doées e deux esembles e mettat la médiae das chacu des deux esembles. Le quartile iférieur est la médiae du premier esemble; le quartile supérieur est la médiae du deuxième esemble. (b) Si est pair, il y a deux valeurs cetrales (la médiae est la moyee arithmétique de ces deux valeurs), et o coupe e deux esembles e mettat das chaque esemble la valeur cetrale correspodate. Voici des exemples pour cette première méthode. Mesures Les esembles Quartile Quartile iférieur supérieur { 1, } { 4, 5 } { 1, 3, 5 } { 5, 5, 7 } { 1, 3, 4 } { 6, 7, 9 } { 1, 3, 5, 6 } { 6, 7, 9, 15 } 4 8 Sous «R», o trouve ces quartiles e utilisat la commade fiveum (qui doe le miimum, le quartile iférieur, la médiae, le quartile supérieur, le maximum).. Les quartiles utilisés par les logiciels «Excel», «OpeOffice» et «R». Cette méthode a été établie par Joh Freud et Bejami Perles e O met les doées das l ordre. Le quartile iférieur est la doée uméro 1+3, 4 le quartile supérieur est la doée uméro 1+3. Si ces uméros e sot pas etiers, 4 o utilise ue iterpolatio liéaire pour trouver les quartiles iférieur et supérieur (voir page suivate). Lorsque est impair, o retrouve les quartiles de Tukey. S. Perret page 36 Versio 3.001

41 Cours de Mathématiques Lycée catoal de Porretruy Cocerat l iterpolatio liéaire Si o cherche la doée uméro 3.5, o calcule la moyee podérée 3x 3+x 4 4 (o voit l aalogie avec les otes : 3.5 est la moyee des otes 3, 3, 3 et 4). Si o cherche la doée uméro3.5, o calcule la moyee podérée x 3+x 4 Si o cherche la doée uméro 3.75, o calcule la moyee podérée x 3+3x 4 Repreos les mêmes exemples que pour la première méthode. Mesures Quartile Quartile 4 4 iférieur supérieur x 3+x Sous «R», o trouve ces quartiles e utilisat la commade quatile (qui doe le miimum, le quartile iférieur, la médiae, le quartile supérieur, le maximum). Sous «OpeOffice», o les trouve à l aide de la commade quartile(zoe;ombre) (qui doe le miimum pour ombre 0, le quartile iférieur pour ombre 1, la médiae pour ombre, le quartile supérieur pour ombre 3, le maximum pour ombre 4)..3. La boîte à moustaches de Tukey C est ue boîte dot les côtés correspodet aux quartiles iférieur et supérieur; o idique la médiae par u trait à l itérieur de cette boîte. Des moustaches sortet de la boîte pour idiquer les valeurs miimale et maximale. Ces moustaches fot au plus 150% de la logueur la boîte, sio o pred les valeurs miimale ou maximale suivates et o idique les valeurs extrêmes par des poits : ce sot les valeurs atypiques. Voici les boîtes à moustaches qui correspodet aux exemples ci-dessus (avec la première méthode). Sur le derier exemple, la logueur de la boîte vaut 4 ( 8 4) et la derière valeur est atypique (car elle est à distace 7 (> 6) du quartile supérieur) Sous «R», o peut dessier ces boîtes à moustaches e utilisat la commade boxplot.. Selo les cotextes, les moustaches peuvet être costruite de maière plus théoriques. Versio page 37 S. Perret

42 Lycée catoal de Porretruy Cours de Mathématiques.4 Statistique, estimateur et estimatio Ue pièce de moaie est jetée six fois de suite. Imagios que l o obtiee la suite (P;P;F;P;F;P) où P sigifie que la pièce est tombée sur le côté pile et F sur le côté face. Du poit de vue des probabilités, à chaque fois qu o lace ue pièce de moaie, o a ue probabilité p [0,1] d obteir le côté pile et q 1 p d obteir le côté face. Si p 1, cela sigifie que la pièce est truquée et qu elle a deux côtés pile. Si p, cela sigifie que 3 la pièce est pas bie équilibrée et qu elle tombe deux fois plus souvet sur pile que face. Si p 1 cela sigifie que la pièce est bie équilibrée. Il existe probablemet aucue pièce de moaie sur terre qui soit parfaitemet bie équilibrée, éamois o se permet la plupart du temps de supposer que p 1! À ue telle expériece, o fait correspodre ue famille de variables aléatoires X i qui idiquet 1 si le i-ième jet tombe sur pile et 0 s il tombe sur face. Aisi, la suite obteue se traduit par (x 1,x,x 3,x 4,x 5,x 6 ) (1,1,0,1,0,1) où les x i sot les doées observées. Comme la pièce de moaie reste à la même à chaque ouveau lacé, o peut raisoablemet supposer que chacue de ces variables aléatoires suit la même loi (c est ue loi de Beroulli comme vue e sectio 1.1.6) doée par IP(X i 1) p et IP(X i 0) 1 p Das ce cas, il était facile de trouver la distributio (comme la plupart du temps). Il est déjà plus difficile d estimer so paramètre, ici p! Défiitio Toute foctio T des variables aléatoires X 1, X,..., X est appelée statistique. Lorsqu ue telle foctio est utilisée pour estimer des paramètres d ue même distributio des variables aléatoires X 1,..., X, o dit que T(X 1,...,X ) est u estimateur. Notatios 1. Si T T(X 1,...,X ) est l estimateur du paramètre icou, t T(x 1,...,x ) est la réalisatio de cet estimateur, aussi appelée estimatio, à l aide des doées observées.. Lorsqu o estime u paramètre θ, o a l habitude d écrire so estimateur avec u chapeau : θ. Remarque Ue statistique T est ue variable aléatoire! Exemple Das otre exemple, il est aturel d estimer p à l aide de l estimateur suivat : P P(X 1,...,X 6 ) ombre de pile ombre total de jets 6 X i 6 X La réalisatio de cet estimateur est das otre cas l estimatio p 6 x i S. Perret page 38 Versio 3.001

43 Cours de Mathématiques Lycée catoal de Porretruy.5 La méthode du maximum de vraisemblace Ue des techiques parmi les plus populaires pour trouver des estimateurs est celle dite du maximum de vraisemblace. Si X 1,..., X est ue famille de variables aléatoires idépedates issues de la même desité f(x;θ) (où θ est le paramètre de la desité f). La foctio de vraisemblace 3 est défiie par : L(θ;x 1,...,x ) f(x i ;θ) Justificatio de cette formule das le cas discret Il faut peser à L(θ;x 1,...,x ) comme état la probabilité que l échatillo x 1,..., x se produise. Das le cas discret o a L(θ;x 1,...,x ) IP(X 1 x 1 et X x et... et X x ) Comme les X i sot idépedats, o a L(θ;x 1,...,x ) IP(X i x i ) L estimateur du maximum de vraisemblace f(x i ;θ). L estimateur du maximum de vraisemblace 4 deθ, oté θ MLE, est l estimateur pour lequel la foctio de vraisemblace est la plus grade. Autremet dit, il s agit de la valeur du paramètre pour laquelle l échatillo observé est le plus vraisemblable. Pour chercher cet estimateur, o doit trouver le maximum de la foctio L(θ;x 1,...,x ). C est ue optimisatio classique : u symptôme d u maximum est u zéro de la dérivée. E pratique, il peut être plus facile de trouver le maximum du logarithme de la foctio de vraisemblace (e effet, la foctio l est croissate et trasforme les produits e somme; aisi l(l(θ;x 1,...,x )) l(f(x i;θ))). Exemple : les MLEs de la loi ormale O cosidère la loi ormale de paramètres µ et σ dot la desité est doée e page 16. E exercice, o trouvera 5 les estimateurs du maximum de vraisemblace suivats. µ MLE X i et σ MLE (X i µ MLE ) Théorème Si f est ue foctio d u estimateur θ, alors f(θ) MLE f Idée de la preuve ( θmle ). Le MLE θ MLE est la valeur pour laquelle la foctio de vraisemblace est maximale. O omme ν f(θ) u ouveau paramètre. O doit exprimer la foctio de vraisemblace e foctio de ce ouveau paramètre; o a θ f 1 (ν) (o crée ue foctio réciproque de f e choisissat u domaie de défiitio). Aisi L(θ) L(f 1 (ν)). Cette foctio admet u maximum lorsque f 1 ( ν MLE ) θ MLE, c est-à-dire ν MLE f( θ MLE ). 3. E aglais, vraisemblace se dit likelihood. Aisi la foctio de vraisemblace est otée L. 4. E aglais, estimateur du maximum de vraisemblace se dit maximum likelihood estimator (MLE). 5. Lorsqu o cherche à optimiser ue foctio à plusieurs variables, o cherche les valeurs des variables qui aulet le gradiet (c est le vecteur dot la i-ème composate est la dérivée de la foctio par rapport à la i-ième variable uiquemet). Versio page 39 S. Perret

44 Lycée catoal de Porretruy Cours de Mathématiques.6 Qualités d u estimateur Le biais d u estimateur Soit θ u estimateur d u paramètre θ. Le biais de θ est défii par : b θ ( θ) E ( θ θ ) liéarité de l espérace E ( θ) θ U estimateur θ est dit sas biais lorsque b θ ( θ) 0. Autremet dit, lorsqu e moyee l estimateur est égal au paramètre que l o cherche à estimer. Exemple : les estimateurs les plus célèbres O suppose qu o a variables aléatoires X i idépedates et suivat toutes ue même loi d espérace µ et de variace σ. Alors l espérace µ peut être estimée sas biais par l estimateur X et la variace σ peut être estimée sas biais par l estimateur S. Ces estimateurs sot défiis comme suit : X X i et S (X i X) 1 Das le cas d ue loi ormale N(µ,σ ), o remarque que X est rie d autre que l estimateur de vraisemblace de µ, tadis que S 1 σ MLE. 1. L estimateur de la moyee est sas biais E effet, o a : E ( X ) ( E X i liéarité de ) l espérace E(X i) µ µ µ Doc l estimateur X de l espérace µ est sas biais, car b µ ( X ) E ( X ) µ 0.. L estimateur de la variace est sas biais E effet, o a : E ( ( S ) E (X ) i X) li E (X i 1 X ix +X ) ( li ( E ( (X i X) ) ( E(Xi ) E ) X i X + ) E(X ) ( E(Xi ) E X ) i X +E(X ) ) ( E(Xi ) E(X X)+E(X ) ( ) E(Xi ) E(X ) S. Perret page 40 Versio )

45 Cours de Mathématiques Lycée catoal de Porretruy Or, d après la secode formule de la variace, o a V(X) E(X ) E(X). Aisi, o a la formule suivate pour importe quelle variable aléatoire X : E(X ) V(X)+E(X) Cela permet de repredre le calcul précédet : E ( ( ) S ) 1 E(Xi 1 ) E(X ) ( 1 ) ( ) (V(X ) i )+E(X i ) V(X)+E(X) 1 Puisque l espérace de chaque X i est égale à µ, que la variace de chaque X i est égale à σ et que l estimateur X est sas biais, o a : E ( ( S ) 1 ) ( ) (σ ) +µ V(X)+µ 1 1 ( ) (σ +µ 1 )) (V(X)+µ 1 ( σ V(X) ) 1 Or, grâce au théorème de la page 4 qui dit que V(X) σ (parce que les variables aléatoires sot idépedates), o peut fialemet motrer que S est sas biais, car : E ( S ) 1 ( σ V(X) ) ) 1 (σ σ ( 1)σ σ L erreur quadratique moyee de l erreur d u estimateur Soit θ u estimateur d u paramètre θ. L erreur quadratique moyee de θ est défiie 6 par : MSE θ ( θ) E ( ( θ θ) ) V ( θ) + ( b θ ( θ) ) Où V ( θ) est la variace de θ (rappelos qu u estimateur est ue variable aléatoire). Théorème (sas preuve) O suppose qu o a variables aléatoires X i idépedates et qui suivet toutes ue loi ormale N(µ,σ ) d espérace µ et de variace σ. O a : MSE µ ( X ) V(X) σ ( et MSE ) σ S V(S ) σ E aglais, o parle de mea squared error, abrégée MSE. Versio page 41 S. Perret

46 Lycée catoal de Porretruy Cours de Mathématiques S. Perret page 4 Versio 3.001

47 Chapitre 3 Tests d hypothèses «U statisticie est ue persoe dot l ambitio pricipale est d avoir tort das 5% des cas.» Aoyme Les tests d hypothèses sot utiles pour vérifier si ue affirmatio sur u modèle théorique correspodat à ue expériece aléatoire est cohérete avec les mesures effectuées. Das ue étude statistique, o peut se demader si les mesures observées peuvet correspodre à ue certaie réalité. Par exemple, est-ce que la série de jets d ue pièce de moaie (P;P;F;P;F;P) peut correspodre à ue pièce bie équilibrée? Le but d u test d hypothèses est de cofroter deux hypothèses etre elles : l hypothèse ulle H 0 et l hypohèse alterative H 1. Les hypothèses sot des éocés qui coceret u paramètre d ue populatio. La cofrotatio s effectue à l aide d u estimateur du paramètre e questio, appelé statistique de test. Das l exemple des jets de pièce de moaie (voir page 38), le paramètre e questio est la probabilité p que la pièce tombe sur pile. So estimateur est doé par P X. L hypothèse ulle sera la pièce est bie équilibrée (p 1 ) et l hypothèse alterative sera la pièce est pas bie équilibrée (p 1). O va traiter plusieurs cas : 1. Tests d hypothèses sur ue moyee ou ue proportio. (a) Variace coue ou variace icoue. Selo le fait que la variace est coue ou icoue, o utilisera ue loi différete pour effectuer les calculs. (b) Tests symétriques ou asymétriques. Das le cours, o présete les tests symétriques, les tests asymétriques serot vus e exercices. Les tests d hypothèses sur ue proportio sot des tests où la variace est coue, parce que des lois de Beroulli et biomiale apparaisset.. Test d hypothèses de comparaiso de moyee : doées appariées ou o. 3. Les tests du chi-carré a) pour l adéquatio à ue loi; b) pour la comparaiso d échatillo; c) pour l idépedace. Il existe d autres tests d hypothèses. Par exemple, les tests permettat d iférer la variace σ d ue populatio. Ces tests utiliset d autres lois de probabilité, comme, par exemple, la distributio de Fisher à deux paramètres. 43

48 Lycée catoal de Porretruy Cours de Mathématiques 3.1 Tests d hypothèses symétriques sur ue moyee Tests d hypothèses symétriques sur ue moyee, variace coue Cosidéros des variables aléatoires X 1,..., X idépedates qui suivet ue même loi d espérace µ (c est la moyee théorique qu o cherche à tester) et de variace σ (supposée coue). Das ce modèle de tests d hypothèses, o teste l hypothèse «la moyee théorique vaut µ 0» à partir des mesures effectuées. O se trouve face à deux alteratives, appelées hypothèses, qui sot hypothèse ulle hypothèse alterative H 0 : µ µ 0 et H 1 : µ µ 0 Comme das u raisoemet par l absurde, o suppose qu o se trouve sous l hypothèse H 0 et o regarde si les doées mesurées permettet d e tirer ue cotradictio. Sous l hypothèse H 0, les variables aléatoires X i sot d espérace µ 0. Par le théorème de la limite cetrale, X X 1+ +X suit approximativemet ue loi ormale N(µ 0, σ). E traitillés, o voit les bores de l itervalle [ ] µ 0 σ,µ 0 + σ ; o remarque aisi que lorsque gradit la courbe se resserre. desité r g (1%) r g (5%) µ 0 r d (5%) r d (1%) x O estime X par la moyee des mesures effectuées x x 1+ +x (attetio à bie faire la différece etre les majuscules et les miuscules). L estimatio x doée par les mesures va doc se trouver quelque part sous la loi. Il y a ue probabilité de 60% que x tombe das la zoe, il y a ue probabilité de 0% que x tombe das la zoe, il y a ue probabilité de 10% que x tombe das la zoe, il y a ue probabilité de 5% que x tombe das la zoe, il y a ue probabilité de 4% que x tombe das la zoe, il y a ue probabilité de 1% que x tombe das la zoe. Plus o se trouve das ue zoe éloigée de µ 0 doc das l ordre :,,,,, ; plus les mesures sot e cotradictio avec l hypothèse H 0. O décide aisi du critère suivat. O rejette l hypothèse H 0 au seuil de sigificatio 5% si x se trouve das la zoe ou. O rejette l hypothèse H 0 au seuil de sigificatio 1% si x se trouve das la zoe. Le seuil de sigificatio du test est la probabilité α que l o a de rejeter l hypothèse H 0 sachat que H 0 est vraie. IP( rejeter H 0 H 0 est vraie ) α S. Perret page 44 Versio 3.001

49 Cours de Mathématiques Lycée catoal de Porretruy La distributio ci-dessous est la distributio sous l hypothèse H 0, doc α se voit sur le dessi : c est l aire sous la distributio das la zoe de rejet de H 0 (e grisé). O motre das le cours OS que si o a ue variablen qui suit ue loi ormalen(µ 0, σ), alors la variable N µ 0 σ suit la loi ormale N(0,1). O dit que N a été cetrée-réduite. Si la desité de X est desité aire α r g (α) µ 0 σ µ 0 + σ µ 0 r d (α) aire α x Alors la desité de X µ 0 σ est (l échelle a chagé) desité r g (α) µ 0 σ φ 1 (1 α ) 1 µ 0 µ 0 σ 0 1 r d (α) µ 0 σ φ 1 (1 α ) x où φ(x) IP(Z x) est la foctio de répartitio de la variable aléatoire Z qui suit la loi ormale N(0,1). Les valeurs de φ et φ 1 se trouvet das la table de la page 30. O rejette H 0 au seuil de sigificatio α si pour la variable aléatoire X pour la variable aléatoire X µ 0 σ x < r g (α) ou x > r d (α) > φ 1( ) 1 α E particulier, si α 5%, le critère est De même, si α 1%, le critère est x µ 0 σ x µ 0 σ x µ 0 σ > φ 1( 0.975) table > φ 1( 0.995) table.58. Versio page 45 S. Perret

50 Lycée catoal de Porretruy Cours de Mathématiques Exemple Le test Gauche-Droite de Jea Piaget a pour but de vérifier l acquisitio par l efat des otios gauche-droite à différets poits de vue et d évaluer aisi so iveau de socialisatio et subjectivisatio. Les efats de 7 as obtieet e moyee 1 comme résultat avec u écart type de 3.4. O applique ces tests à 5 efats gauchers de 7 as choisis au hasard et o obtiet u résultat moye de À partir de ces tests, peut-o affirmer qu il y a ue différece sigificative etre les gauchers et les droitiers? Répose Ici, o met e doute le fait que la moyee théorique des gauchers est égale à celle des droitiers. O suppose par ailleurs que l écart type théorique est le même pour les deux populatios 1. L approximatio par le théorème de la limite cetrale est de boe qualité car 5. O peut doc effectuer le test avec les alteratives suivates. hypothèse ulle hypothèse alterative H 0 : µ 1 et H 1 : µ 1 Prétedre que µ 1 reviet à prétedre que les gauchers suivet le même modèle que celui de l esemble de la populatio (doc a fortiori celui des droitiers). Les doées livret ue moyee x O a aisi x µ 0 σ O voit qu o rejette H 0 au seuil 5%, mais qu o e peut pas rejeter H 0 au seuil 1% (e fait x est tombé das la zoe, mais pas das la zoe ). Remarques 1. E supposat que H 0 soit vraie, et qu u grad ombre d examiateurs aiet fait passer ces tests à d autres groupes de 5 gauchers, alors 1% des examiateurs auraiet eu ue moyee iférieur à10.5 ou supérieur à13.75 et 5% des examiateurs auraiet eu ue moyee iférieur à 10.7 ou supérieur à O e fixe pas le seuil de sigificatio après avoir fait le test, mais avat. Ceci afi d éviter de régler le seuil pour que le test doe le résultat escompté après avoir effectué les mesures. 3. Il est habituel de predre 1% pour cofirmer H 0 et 5% pour ifirmer H 0, mais ces seuils sot arbitraires. E cas de doute sur la coclusio du test, il est importat d aller regarder de plus près commet les mesures ot été effectuées. O peut aussi refaire l expériece sur u autre échatillo. Si lors des mesures, ue erreur a été effectuée, le test e sert plus à rie. 4. Pour qu u test d hypothèses soit utile, il faut que les mesures aiet été effectuées sur u échatillo représetatif de la populatio. 1. Si le lecteur est pas d accord avec cette hypothèse, il peut utiliser le test de Studet mis au poit par William Gosset (voir sectio suivate). S. Perret page 46 Versio 3.001

51 Cours de Mathématiques Lycée catoal de Porretruy Les différets types d erreurs Il y a deux probabilités α et β qui décrivet deux types de risque qu o recotre e effectuat u test d hypothèses. O a déjà parlé de α qui est aussi appelé le seuil de sigificatio d u test d hypothèse, mais il y a aussi β qui est défii ci-dessous. α IP( rejeter H 0 H 0 est vraie ) β IP( e pas rejeter H 0 H 0 est fausse ) Comme il est difficile de calculer β, das la pratique o calcule plutôt des β µi comme défiis ci-dessous. H 0 est vraie H 0 est fausse µ µ 0 µ µ 1... µ µ k Mauvaise décisio Boe décisio Boe décisio O rejette H 0... Probabilité α Probabilité 1 β µ1 Probabilité 1 β µk O e rejette Boe décisio Mauvaise décisio Mauvaise décisio... pas H 0 Probabilité 1 α Probabilité β µ1 Probabilité β µk Le seuil α est ue probabilité appelée risque de première espèce et les ombres β µi, tout comme β, sot appelées risques de deuxième espèce. Calcul d u risque de deuxième espèce (suite de l exemple précédet) desité µ 0 1 µ 0 13 x Pour u seuil α 5%, le risque de deuxième espèce avec H 1 : µ 13 doe β 13 69% (c est la proportio de la zoe e gris clair détermiée par les zoes et ). Pour u seuil α 1%, le risque de deuxième espèce avec H 1 : µ 13 doe β 13 87% (c est la proportio de la zoe e gris clair et focé détermiée par la zoe ). Autremet dit, au seuil α 5%. Si H 0 est vrai, la boe décisio est de e pas rejeter l hypothèse; sa probabilité est de 95%. La mauvaise décisio a ue probabilité de 5%. Par cotre (au même seuil α), si au lieu de H 0, c est H 1 : µ 13 qui est vrai, alors la boe décisio est de rejeter H 0, la probabilité est maiteat de 31%. La mauvaise décisio a ue probabilité de 69%. O le voit sur cet exemple, si le risque de premier espèce dimiue, alors le risque de deuxième espèce augmete. Pour dimiuer le risque de deuxième espèce, il faudrait augmeter le seuil α et par coséquet le risque de première espèce. C est u compromis qu il faut savoir accepter. Versio page 47 S. Perret

52 Lycée catoal de Porretruy Cours de Mathématiques 3.1. Test d hypothèses symétriques sur ue moyee, variace icoue O suppose que les variables aléatoires X 1,..., X qui correspodet aux valeurs observées sot idépedates et suivet ue loi ormale N(µ,σ ) où les paramètres µ et σ sot icous. Sous ces hypothèses, l estimateur X suit ue loi ormale de paramètres N(µ, σ ). O teste l hypothèse ulle H 0 : µ µ 0 cotre l hypothèse alterative H 1 : µ µ 0. Comme avat, o se place sous l hypothèse ulle et o cotemple. Malheureusemet, o e peut pas utiliser la loi N(µ 0, σ ) pour calculer les probabilités puisque σ est icou. Heureusemet, William Gosset, brasseur et mathématicie britaique trouva ue loi qui permit de travailler sous l hypothèse H 0. Il publia so résultat sous le pseudoyme de Studet. Théorème (sas preuve) Si X 1,..., X sot des variables aléatoires idépedates qui suivet ue loi ormale N(µ,σ ), alors la variable aléatoire X µ S/ suit ue distributio de Studet avec 1 degrés de liberté. Théorème O rejette l hypothèse H 0 au seuil de sigificatio α si 3 x [ µ 0 φ 1 1 ( 1 α ) s, µ 0 +φ 1 1 ( 1 α ] s ) ou x µ 0 s/ ( ) > φ 1 1 α 1 où φ 1 (x) est la foctio de répartitio de la loi de Studet à 1 degrés de liberté. Preuve O se fixe le seuil de sigificatio α. Sous l hypothèse H 0, o sait que X suit ue distributio ormale N(µ 0 ; σ ) de la forme suivate : desité zoe de rejet de H 0 zoe de o-rejet de H 0 zoe de rejet de H 0 aire α r g µ 0 r d aire α x. Ce est pas la variable cetrée réduite de X, car o a remplacé σ par so estimateur sas biais S. 3. Das l éocé de ce théorème, s est l estimatio de l estimateur S, tout comme x est l estimatio de l estimateur X. S. Perret page 48 Versio 3.001

53 Cours de Mathématiques Lycée catoal de Porretruy Malheureusemet, comme σ est icou, o e peut pas utiliser cette loi pour calculer la valeur exacte de r d sous l hypothèse H 0. Mais grâce à Gosset, o sait que la variable aléatoire X µ S/ suit ue distributio de Studet avec 1 degrés de liberté. 1 α IP ( ) X µ S r d µ s o se place sous l hypothèse H 0 IP Voici la représetatio de cette loi de Studet : ( ) X µ 0 S r d µ 0 s ) (r φ d µ 0 1 s desité zoe de rejet de H 0 zoe de o-rejet de H 0 zoe de rejet de H 0 aire α r d µ 0 s 0 r d µ 0 s aire α x Doc, o a : r d µ 0 s φ 1 1 ( 1 α ) rd µ 0 φ 1 1 ( 1 α ) s r d µ 0 +φ 1 1 ( 1 α ) s Doc, o rejette l hypothèse H 0 au seuil de ( sigificatio α si l estimatioxest plus grade que r d ou plus petite que r g µ 0 φ α s ). Versio page 49 S. Perret

54 Lycée catoal de Porretruy Cours de Mathématiques Résumé et autres statistiques de tests sur les moyees Das les tableaux ci-dessous, o ote z α φ 1 (α) où φ est la foctio de répartitio de la loi ormale cetrée réduite et t ν,α φ 1 ν (α) où φ ν est la foctio de répartitio de la loi de Studet à ν degrés de liberté. Tests d iférece d ue espérace (rappel) O cosidère variables aléatoires idépedates X 1, X,..., X qui suivet toute la même loi ormale N(µ,σ ). H 0 Statistique de test H 1 Régio de rejet Z X µ 0 µ µ 0 σ σ cou T X µ 0 µ µ S 0 σ icou µ µ 0 µ < µ 0 µ > µ 0 µ µ 0 µ < µ 0 µ > µ 0 Z zα ou Z z 1 α Z z α Z z 1 α T t 1, α ou T t 1,1 α T t 1,α T t 1,1 α Tests de comparaiso de deux espéraces O cosidère m variables aléatoires idépedates X 1, X,..., X m qui suivet toute la même loi ormale N(µ X,σX ) et variables aléatoires idépedates Y 1, Y,..., Y qui suivet toute la même loi ormale N(µ Y,σY ). O suppose e outre que ces familles de variables sot idépedates. H 0 Statistique de test H 1 Régio de rejet Z (X Y) d 0 µ X µ Y d 0 σx m + σ Y σ X et σ Y cous µ X µ Y d 0 µ X µ Y < d 0 µ X µ Y > d 0 Z zα ou Z z 1 α Z z α Z z 1 α µ X µ Y d 0 T (X Y) d 0 Sp + S p m σ X σ Y icous S p (m 1)S X +( 1)S Y m+ µ X µ Y d 0 µ X µ Y < d 0 µ X µ Y > d 0 T t m+, α ou T t m+,1 α T t m+,α T t m+,1 α µ X µ Y d 0 T (X Y) d 0 SX m + S Y σ X σ Y icous ˆν ( S ) X m +S Y ( S ) ( S ) X Y µ X µ Y d 0 µ X µ Y < d 0 µ X µ Y > d 0 T tˆν, α ou T tˆν,1 α T tˆν,α T tˆν,1 α m + m 1 1 S. Perret page 50 Versio 3.001

55 Cours de Mathématiques Lycée catoal de Porretruy Tests de comparaiso de deux espéraces d échatillos appariés O cosidère variables aléatoires idépedates X 1, X,..., X qui suivet toute la même loi ormale N(µ X,σX ) et variables aléatoires idépedates Y 1, Y,..., Y qui suivet toute la même loi ormale N(µ Y,σY ). O suppose de plus que pour chaque i, il y a ue dépedace etre X i et Y i : o dit que X i et Y i sot appariés. O sait (c est u théorème) que les variables aléatoires D i Y i X i suivet aussi ue loi ormale N(µ D,σ D ) où µ D µ Y µ X. O est aisi rameé au test d iférece de l espérace de D i qui se trouve sur la page précédete (celui où la variace est pas supposée coue). H 0 Statistique de test H 1 Régio de rejet µ Y µ X } {{ } µ D d 0 Z D d 0 σd σ D cou µ Y µ X d 0 µ Y µ X < d 0 µ Y µ X > d 0 Z zα ou Z z 1 α Z z α Z z 1 α µ Y µ X } {{ } µ D d 0 T D d 0 SD σ D icou µ Y µ X d 0 µ Y µ X < d 0 µ Y µ X > d 0 T t 1, α ou T t 1,1 α T t 1,α T t 1,1 α Versio page 51 S. Perret

56 Lycée catoal de Porretruy Cours de Mathématiques 3. Test du chi-carré : adéquatio à ue loi Cosidéros des variables aléatoires X 1,..., X idépedates qui suivet ue même loi qu ue variable aléatoire X. O cherche à tester la desité de probabilité (ou distributio) de X. O découpe les valeurs possibles pour X e k classes A 1,..., A k. O ote N i les variables aléatoires qui comptet le ombre de mesures qui tombet das la classe A i. tableau des probabilités théoriques A 1 A k total IP(X A 1 ) IP(X A k ) 1 Das ce modèle de test d hypothèses, o teste l hypothèse «la variable X a ue certaie desité de probabilité» à partir des mesures effectuées. À l aide du découpage e classes, cette hypothèse est reformulée par «les probabilités théoriques IP(X A i ) valet p i». O se trouve face à deux alteratives qui sot hypothèse ulle H 0 : IP(X A i ) p i pour tout i et hypothèse alterative H 1 : il existe i tel que IP(X A i ) p i Comme das u raisoemet par l absurde, o suppose qu o se trouve sous l hypothèse H 0 et o regarde si les doées mesurées permettet d e tirer ue cotradictio. Sous l hypothèse H 0, o peut établir le tableau des effectifs théoriques. effectifs mesurés A 1 A k total 1 k effectifs théoriques A 1 A k total p 1 p k Les mathématicies ot motré que si les effectifs théoriques p i sot de taille au mois 5, alors la variable aléatoire D suivate suit approximativemet ue loi du chi-carré à k 1 degrés de liberté. k D (N i p i ) p i O a k 1 degrés de liberté, car les variables aléatoires N 1 à N k sot liées etre-elles par la coditio : i N i. desité Ici, o voit le graphe de χ 4 µ r(5%) r(1%) x O estime D à l aide des mesures effectuées d k ( i p i ) p i (attetio à bie faire la différece etre les majuscules et les miuscules). L estimatio d doée par les mesures va doc se trouver quelque part sous la loi. S. Perret page 5 Versio 3.001

57 Cours de Mathématiques Lycée catoal de Porretruy Il y a ue probabilité de 60% que d tombe das la zoe, il y a ue probabilité de 0% que d tombe das la zoe, il y a ue probabilité de 10% que d tombe das la zoe, il y a ue probabilité de 5% que d tombe das la zoe, il y a ue probabilité de 4% que d tombe das la zoe, il y a ue probabilité de 1% que d tombe das la zoe. Plus o se trouve das ue zoe éloigée de 0 doc das l ordre :,,,,, ; plus les mesures sot e cotradictio avec l hypothèse H 0. O décide aisi du critère suivat. O rejette l hypothèse H 0 au seuil de sigificatio 5% si d se trouve das la zoe ou. O rejette l hypothèse H 0 au seuil de sigificatio 1% si d se trouve das la zoe. O rejette H 0 au seuil de sigificatio α si ( ) d > φ 1 k 1 1 α où φ k 1 (x) IP(D x) est la foctio de répartitio de la variable aléatoire D qui suit la loi du chi-carré χ k 1 avec k 1 degrés de liberté. Les valeurs de cette foctio φ k 1 sot doées par la table de la page 3. ( E particulier, si α 5%, le critère est d > φ 1 table k ) si k 6. De même, si α 1%, le critère est d > φ 1 k 1 Remarque sur les degrés de liberté ( table 0.99) si k 6. Si lors du calcul des probabilités p i, o doit utiliser k estimateurs, il faut ecore elever k degrés de liberté. Ce peut être le cas lorsque, par exemple, o calcule les p i avec ue loi ormale où il faut d abord estimer l espérace et la variace. Remarque sur le risque de deuxième espèce Das le cas d u test duχ, le risque de deuxième espèce e se calcule pas aussi facilemet que das le cas d u test sur u moyee. Cela dépasse le cadre de ce cours. Versio page 53 S. Perret

58 Lycée catoal de Porretruy Cours de Mathématiques Exemples Repreos l exemple du début du cours où o a lacé u dé 60 fois. Les classes choisies sot A i {i} de sorte que A i correspode à l apparitio de la face i. 1. Testos l alterative suivate. H 0 : le dé est bie équilibré, c est-à-dire p i 1. 6 H 1 : le dé est pas bie équilibré. O peut doc costruire les tableaux suivats. effectifs mesurés face total i p i effectifs théoriques face total p i Pour que l approximatio soit boe, il faut que p i 5 pour chaque i. C est le cas ici. O a d 6 ( i p i ) (13 10) + (13 10) } {{ } pour la face 1 } {{ } pour la face + + (7 10) 10 } {{ } pour la face 6 Comme d < φ 1 5 (0.95) 11.07, o e peut pas rejeter l hypothèse H 0 au seuil 5%. Il y a pas assez de preuves pour dire que le dé est pas bie équilibré.. Imagios qu o pese qu il y a ue bille de plomb vers le sommet adjacet aux faces 4, 5 et 6 qui fait que le dé motre pour le 75% des lacés les faces 1, ou 3. O e déduit que p 1 p p 3 3 et que p 1 4 p 5 p 6 1 (le total des p 1 i vaut bie 1, et p 1 +p +p 3 3(p 4 +p 5 +p 6 ) tout comme 75% vaut 3 5%). Testos l alterative suivate. H 0 : le dé est truqué comme ci-dessus. H 1 : le dé est pas truqué comme ci-dessus. O peut doc costruire les tableaux suivats. effectifs mesurés face total i effectifs théoriques face total p i Pour que l approximatio soit boe, il faut que p i 5 pour chaque i. C est le cas ici. O a d 6 ( i p i ) p i (13 15) 15 } {{ } pour la face 1 + (13 15) 15 } {{ } pour la face + + (7 5) 5 } {{ } pour la face 6 6 Comme d < φ 1 5 (0.95) 11.07, o e peut pas rejeter l hypothèse H 0 au seuil 5%. Il y a pas assez de preuves pour dire que le dé est pas truqué de cette faço. Les résultats des 60 jets e sot pas assez différets de ce qu o aurait pu obteir avec u dé bie équilibré ou u dé truqué de la faço ci-dessus. La valeur mesurée d idiquerait que la situatio la plus probable est que le dé est bie équilibré (la p-valeur est meilleure sur le premier exemple ( 60.8%) que sur le deuxième ( 30.6%)). Néamois, le mieux serait de lacer ce dé ecore 60 fois et de refaire ces tests sur les 10 lacers obteus. S. Perret page 54 Versio 3.001

59 Cours de Mathématiques Lycée catoal de Porretruy 3.3 Test du chi-carré : comparaiso d échatillos Pour chaque échatillo i, 1 i k, cosidéros des variables aléatoires X (i) 1,..., X(i) (i) idépedates qui suivet ue même loi qu ue variable aléatoire X (i). O cherche à tester si les lois X (i) suivet toutes ue même loi qu ue variable aléatoire X. O découpe les valeurs possibles pour les échatillos e l classes A 1,..., A l (les mêmes pour chaque échatillo). O ote N (i) j les variables aléatoires qui comptet le ombre de mesures de l échatillo i qui tombet das la classe A j. O ote aussi N j i N(i) j. tableau des probabilités théoriques A 1 A l totaux échatillo 1 IP(X (1) A 1 ) IP(X (1) A l ) 1.. échatillo k IP(X (k) A 1 ) IP(X (k) A l ) 1 1 moyee k i IP(X(i) 1 A 1 ) k i IP(X(i) A l ) 1 Das ce modèle de tests d hypothèses, o teste l hypothèse «les échatillos suivet tous la même loi» à partir des mesures effectuées sur chaque échatillo. Cette hypothèse est reformulée par «les X (i) suivet ue même loi X pour tout i». O se trouve face à deux alteratives qui sot H 0 : IP(X (i) A j ) IP(X A j ) pour tout i H 1 : il existe i tel que IP(X (i) A j ) IP(X A j ) Comme das u raisoemet par l absurde, o suppose qu o se trouve sous l hypothèse H 0 et o regarde si les doées mesurées permettet d e tirer ue cotradictio. Sous l hypothèse H 0, les moyees ci-dessus devieet 1 k i IP(X(i) A j ) 1 k k IP(X A j) IP(X A j ) et o peut établir le tableau des effectifs théoriques e otat pour simplifier pour le ombre total de mesures i (i) et p j IP(X A j )... effectifs mesurés A 1 A l totaux éch. 1 (1) 1 (1) l (1).. (i) j.. éch. k (k) 1 (k) l totaux 1 l (k) effectifs théoriques A 1 A l totaux éch. 1 (1) p 1 (1) p l (1).. (i) p j.. éch. k (k) p 1 (k) p l (k) totaux p 1 p l Les mathématicies ot motré que si les effectifs théoriques (i) p j sot de taille au mois 5, alors la variable aléatoire D suivate suit approximativemet ue loi du χ à kl k degrés de liberté (o elève à kl u degré par échatillo, car les variables aléatoires N (i) 1 à N (i) l sot liées etre-elles par la coditio : j N(i) j (i) ). D k l j1 (N (i) j (i) p j ) (i) p j Versio page 55 S. Perret

60 Lycée catoal de Porretruy Cours de Mathématiques Lorsque que les paramètres p j sot icous : o les estime 4 par p j j. Ces estimateurs sot aturels, ils fot e sorte que les totaux des deux tableaux soiet idetiques. Das ce cas, il faut recalculer les degrés de liberté, il faut ecore elever (l 1) degrés de liberté (les estimateurs p 1 à p l sot liés etre-eux par la coditio j p j 1). Aisi le ombre de degré de liberté vaut kl k (l 1) kl k l+1 k(l 1) (l 1) (k 1)(l 1). O estime D à l aide des mesures effectuées d k l j1 ( (i) j (i) p j ) (i) p j (attetio à bie faire la différece etre les majuscules et les miuscules). L estimatio d doée par les mesures va doc se trouver quelque part sous la loi. L allure de la loi de probabilité et le critère de rejet sot les mêmes que pour le test d adéquatio (attetio aux degrés de liberté qui chaget). Exemple Cet exemple est basé sur les relevés cocerat les déchets urbais du Jura e 010, 000 et Les déchets sot subdivisés e ciq catégories : les déchets urbais combustibles; les déchets compostables; le papier et le carto; le verre; l alumiium, le fer blac, la ferraille. Ici les échatillos correspodet aux trois aées susmetioées, et o va tester si la faço dot les types de déchets sot répartis évolue avec les aées (si c est le cas, o peut évetuellemet affirmer que les habitats ot pris cosciece de l importace de trier les déchets). H 0 : la répartitio des déchets das les ciq catégories est la même pour les trois as. H 1 : il y a deux as au mois pour lesquels les déchets sot répartis différemmet. Voici les tableaux des effectifs mesurés et celui des effectifs théoriques (calculés à partir de ces mesures sous l hypothèse H 0 ). Les uités sot e kilogrammes par habitat et par aée. Les erreurs d arrodis ot été lissées (pour que les totaux jouet). effectifs mesurés comb. comp. papier verre fer totaux totaux effectifs théoriques comb. comp. papier verre fer totaux totaux Pour que l approximatio par la loi du chi-carré soit boe, il faut que les effectifs théoriques soiet plus grads ou égaux à 5. C est le cas ici, et o a d 3 5 ( i;j p i q j ) j1 p i q j (84 ) + (19 58) 58 (sas arrodir les effectifs théoriques, o trouve eviro 88.95) + + (13 16) Les paramètres p j ot été estimés, o se retrouve avec (3 1)(5 1) 8 degrés de liberté. Comme d > φ 1 (0.99) 0.090, o rejette l hypothèse H 0 au seuil de sigificatio de1% (c est-à-dire avec ue probabilité de 1% de chace de rejeter à tort). Les doées laisset à peser que les citoyes triet de mieux e mieux leurs déchets. 4. Il s agit des estimateurs du maximum de vraisemblace du cours OS, otés p jmle. S. Perret page 56 Versio 3.001

61 Cours de Mathématiques Lycée catoal de Porretruy 3.4 Test du chi-carré : idépedace Cosidéros des couples de variables aléatoires (X 1 ;Y 1 ),..., (X ;Y ) idépedates qui suivet les mêmes lois que le couple de variables aléatoires (X;Y). O cherche à tester l idépedace etre X et Y. O découpe les valeurs possibles pour X e k classes A 1,..., A k, et celles pour Y e l classes B 1,..., B l. O ote N i;j les variables aléatoires qui comptet le ombre de couples de mesures qui tombet das (A i ;B j ). O ote aussi N i; j N i;j et N ;j i N i;j. tableau des probabilités théoriques B 1 B l totaux A 1 IP ( (X A 1 ) (Y B 1 ) ) IP ( (X A 1 ) (Y B l ) ) IP(X A 1 ).. A k IP ( (X A k ) (Y B 1 ) ) IP ( (X A k ) (Y B l ) ) IP(X A k ) totaux IP(Y B 1 ) IP(Y B l ) 1 Das ce modèle de tests d hypothèses, o teste l hypothèse «les variables X et Y sot idépedates» à partir des mesures effectuées. E utilisat le découpage e classes et la théorie des probabilités, cette hypothèse est reformulée par «les probabilités théoriques satisfot IP ( (X A i ) (Y B j ) ) IP(X A i ) IP(Y B j )». O se trouve face à deux alteratives qui sot H 0 : IP ( (X A i ) (Y B j ) ) IP(X A i ) IP(Y B j ) pour tout i et j H 1 : il existe i et j tels que IP ( (X A i ) (Y B j ) ) IP(X A i ) IP(Y B j ) Comme das u raisoemet par l absurde, o suppose qu o se trouve sous l hypothèse H 0 et o regarde si les doées mesurées permettet d e tirer ue cotradictio. Sous l hypothèse H 0, o peut établir le tableau des effectifs théoriques e otat pour simplifier p i IP(X A i ) et q j IP(X B j )... effectifs mesurés B 1 B l totaux A 1 1;1 1;l 1;.. i;j.. A k k;1 k;l k; totaux ;1 ;l effectifs théoriques B 1 B l totaux A 1 p 1 q 1 p 1 q l p 1.. p i q j.. A k p k q 1 p k q l p k totaux q 1 q l Les mathématicies ot motré que si les effectifs théoriques p i q j sot de taille au mois 5, alors la variable aléatoire D suivate suit approximativemet ue loi du χ à kl 1 degrés de liberté (o elève à kl u degré de liberté, car les variables aléatoires N i;j sot liées etre-elles par la coditio : i,j N i;j ). D k l (N i;j p i q j ) j1 p i q j Versio page 57 S. Perret

62 Lycée catoal de Porretruy Cours de Mathématiques Lorsque que les paramètresp i etq j sot icous : o les estime 5 parp i i; etq j ;j Ces estimateurs sot aturels, ils fot e sorte que les totaux des deux tableaux soiet idetiques. Das ce cas, il faut recalculer les degrés de liberté, il faut ecore elever (k 1) +(l 1) degrés de liberté (les estimateurs p i et q j sot liés etre-eux par les coditios i p i 1 et j q j 1). Aisi le ombre de degré de liberté vaut kl 1 (l 1) (k 1) kl k l+1 k(l 1) (l 1) (k 1)(l 1). O estime D à l aide des mesures effectuées d k l j1 ( i;j p i q j ) p i q j. (attetio à bie faire la différece etre les majuscules et les miuscules). L estimatio d doée par les mesures va doc se trouver quelque part sous la loi. L allure de la loi de probabilité et le critère de rejet sot les mêmes que pour le test d adéquatio (attetio aux degrés de liberté qui chaget). Exemple Cet exemple est tiré du livre «Statistics» (e éditio) écrit par Freema, Pisai, Purves et Adhikari, aux éditios Norto, iteratioal studet editio. Ue étude basée sur 37 américais âgés de 5 à 34 a permis de motrer que les femmes sot plus souvet droitières que les hommes. L étude cosistait à faire u test d hypothèse sur l idépedace etre le sexe d ue persoe et le fait qu elle soit droitière ou gauchère (ou ambidextre). O teste l alterative suivate. H 0 : le sexe d ue persoe est idépedat du fait qu elle soit gauchère ou droitière. H 1 : il y a pas idépedace. Voici les doées observées (effectifs mesurés) et les effectifs théoriques (calculés à partir de ces mesures sous l hypothèse H 0 ). effectifs mesurés femmes hommes totaux droitiers gauchers ambidextres totaux effectifs théoriques femmes hommes totaux droitiers gauchers ambidextres totaux Pour que l approximatio par la loi du chi-carré soit boe, il faut que les effectifs théoriques soiet plus grads ou égaux à 5. C est le cas ici, et o a d 3 ( i;j p i q j ) j1 p i q j ( ) ( ) 956 (sas arrodir les effectifs théoriques, o trouve eviro ) + + (0 13) 13 1 Les paramètres p i et q j ot été estimés, o se retrouve avec (3 1)( 1) degrés de liberté. Comme d > φ 1 (0.99) 9.10, o rejette l hypothèse H 0 au seuil de sigificatio de 1% (c est-à-dire avec ue probabilité de 1% de chace de rejeter à tort). Les doées laisset peser que les femmes sot plus souvet droitières que les hommes. 5. Il s agit des estimateurs du maximum de vraisemblace du cours OS, otés p imle et q jmle. S. Perret page 58 Versio 3.001

63 Cours de Mathématiques Lycée catoal de Porretruy 3.5 La p-valeur associée à u test d hypothèse La p-valeur est la probabilité sous l hypothèse ulle H 0 que la statistique de test 6 soit au mois aussi extrême que la valeur observée à partir des doées. La sigificatio du mot extrême déped de la faço dot la probabilité idiquée par le seuil de sigificatio α est défiie das le test d hypothèse e questio. Exemple d u test bilatéral avec ue distributio symétrique Rappelos que les distributios des lois ormales, de Studet et biomiales sot des distributios symétriques. Das le cas des tests bilatéraux où la statistique de test T possède ue distributio symétrique, le seuil de sigificatio α satisfait la coditio suivate : α IP(T < r g ) + IP(T > r d ) } {{ } } {{ } avec r g F 1 ( α) et r d F 1 (1 α) α α où F(x) est la foctio de répartitio associée à la statistique de test T. Les ombres r g et r d sot les limites de la zoe de rejet de H 0. De faço similaire, o défiit la p-valeur par p IP(T < t g ) } {{ } p + IP(T > t d ) } {{ } p oùt g est la valeur à gauche qui est obteue par symétrie de t (observatio de la statistique de test T) par rapport à l axe de symétrie de la distributio de T et où t d est la valeur symétrique de t à droite (l ue des deux est égale à t!). Descriptio graphique d u tel test d hypothèse (pour cette situatio, H 0 e peut pas être rejetée au seuil de sigificatio α). desité desité zoe de rejet de H 0 zoe de o-rejet de H 0 zoe de rejet de H 0 aire α r g µ 0 r d aire α x aire p t g µ 0 t d aire p x Utilité de la p-valeur Par costructio de la p-valeur, o rejette H 0 au seuil de sigificatio α lorsque p < α. E pratique, o peut aussi utiliser le tableau suivat : p-valeur évidece cotre H 0 seuil de sigificatio associé p-valeur 0.10 égligeable 10% < α 0.10 > p-valeur 0.05 faible 5% < α 10% 0.05 > p-valeur 0.01 modérée 1% < α 5% 0.01 > p-valeur forte 0.1% < α 1% > p-valeur très forte α 0.1% 6. Les statistiques de test sot les variables aléatoires utilisées pour les tests d hypothèses. Versio page 59 S. Perret

64 Lycée catoal de Porretruy Cours de Mathématiques S. Perret page 60 Versio 3.001

65 Chapitre 4 Itervalles de cofiace Das ue étude statistique, o peut se demader si les mesures observées peuvet correspodre à ue certaie réalité. Par exemple, est-ce que otre série de jets d ue pièce de moaie (P;P;F;P;F;P) peut correspodre à ue pièce bie équilibrée? Pour répodre à cette questio, o cherche à estimer la probabilité p que la pièce motre pile. Si o arrive à établir que p 1, alors la pièce est parfaitemet équilibrée. Malheureusemet, il est extrêmemet difficile, voire impossible, de motrer que p 1. O peut teter d estimer p à l aide d u estimateur P, mais la probabilité IP( P p) que P soit exactemet égal au paramètre p est, e gééral, extrêmemet petite, voire ulle 1. Par coséquet, il est écessaire de s itéresser à la probabilité IP ( P p r et P p+r ) IP ( P r p P +r ) IP ([ P r, P +r ] p ) Cette probabilité s approche de 1 au fur et à mesure que le ombre positif r deviet grad. Néamois, plus r gradit, plus l approximatio de p par u itervalle perd e précisio. Il faut doc trouver des compromis. Défiitio U itervalle de cofiace est u itervalle [G, D] qui cotiet le paramètre θ à estimer avec ue certaie probabilité β (G et D sot des variables aléatoires). IP([G,D] θ) β O dit que β est le seuil de cofiace ou ecore la probabilité de couverture, tadis que α 1 β est appelé le risque d erreur. Costructio d u itervalle de cofiace Pour costruire u itervalle de cofiace pour le paramètre θ, o commece par choisir le seuil de cofiace β désiré (ce qui est équivalet à choisir u risque d erreur α 1 β). Esuite, il faut réussir à détermier le ombre positif r correspodat e utilisat la distributio théorique de l estimateur ˆθ. Comme d habitude, o choisit u seuil de cofiace de 95% das ue démarche ifirmative, et u seuil de cofiace de 99% das ue démarche cofirmative. 1. De plus, la probabilité pour que deux estimatios p 1 et p de l estimateur P soiet égales est aussi, e gééral, extrêmemet faible. 61

66 Lycée catoal de Porretruy Cours de Mathématiques 4.1 L itervalle de cofiace sur ue moyee, variace coue O cosidère variables aléatoires idépedates, otées X 1, X,..., X, qui suivet toutes ue loi ormalen(µ,σ ) où seul le paramètreσ est cou. Pour estimerµ, o pred le MLE X qui est aussi sas biais. Sous ces hypothèses, X suit ue loi ormale de paramètres N(µ, σ ). Afi de détermier l itervalle de cofiace, o va devoir cetrer-réduire cet estimateur de sorte à pouvoir utiliser la table cocerat la foctio de répartitio φ de la loi ormale N(0,1). O trouvera l itervalle de cofiace suivat : ] [X φ 1 (1 α ) σ, X +φ 1 (1 α ) σ E effet, o cherche r > 0 tel que : 1 α β IP ([ X r,x +r ] µ ) IP ( X r µ X +r ) IP ( X µ r et X µ+r ) IP ( µ r X µ+r ) IP ( r X µ r ) IP ( r σ ) X µ σ r σ O s est maiteat rameé à la loi ormale cetrée réduite Z. desité desité aire α aire aire β α r σ/ r σ/ x aire α aire aire β α r σ/ r σ/ x O peut esuite utiliser la foctio de répartitio φ de la loi ormale cetrée réduite. 1 α IP ( r σ/ Z ) ( ) ( ) r σ/ IP Z r σ/ IP Z < r σ/ ) ( )) IP ( Z r σ/ φ( Fialemet, o isole r : r σ/ ) 1 1 IP ( Z r σ/ } {{ } car IP ( Z < r σ/ IP ( Z r σ/ ) 1 ) ( IP Z > r σ/ ) par symétrie r 1 α φ( σ/ ) 1 φ( r σ/ ) α φ( r σ/ ) 1 α r σ/ φ 1 (1 α ) r φ 1 (1 α ) σ S. Perret page 6 Versio 3.001

67 Cours de Mathématiques Lycée catoal de Porretruy 4. L itervalle de cofiace sur ue moyee, variace icoue O cosidère variables aléatoires idépedates, otées X 1, X,..., X, qui suivet toutes ue loi ormale N(µ,σ ) où le paramètre σ est aussi icou. Pour estimer µ, o pred le MLE X qui est aussi sas biais. Sous ces hypothèses, X suit ue loi ormale de paramètres N(µ, σ). Malheureusemet, comme o e coaît pas σ, ce est pas très utile. Mais, e utilisat l estimateur sas biais de σ, oté S, o peut utiliser le résultat de William Gosset : la variable aléatoire X µ S/ suit ue distributio de Studet avec 1 degrés de liberté. Afi de détermier l itervalle de cofiace, o procède comme ci-dessus de sorte à pouvoir utiliser la table cocerat la foctio de répartitio φ 1 de la loi de Studet à 1 degrés de liberté. O trouvera l itervalle de cofiace suivat : [ ] X φ 1 1 (1 α) S, X +φ 1 1 (1 α) S. Ce est pas la variable cetrée réduite de X, car o a remplacé σ par so estimateur sas biais S. Versio page 63 S. Perret

68 Lycée catoal de Porretruy Cours de Mathématiques S. Perret page 64 Versio 3.001

69 Chapitre 5 Régressio liéaire Supposos que l o se doe deux caractéristiques X et Y sur ue même populatio. Par exemple, o pourrait mesurer la taille e cetimètres pour X et le poids e kilogrammes pour Y des lycées de première aée. Pour cela, o mesure les caractéristiques X et Y sur u échatillo aléatoire de taille. O obtiet aisi des observatios à deux coordoées (x i,y i ) pour i {1,,...,}. Pour cet exemple, preos 5. élève i taille e cm x i poids e kg y i moyees x 175. y 70. La méthode la plus simple pour observer la relatio etre X et Y est de représeter ces poits das le pla où l axe horizotal représete la caractéristique X et l axe vertical la caractéristique Y. Ue telle représetatio est appelée u diagramme de dispersio. y 80 (x 5 ;y 5 ) (x 1 ;y 1 ) (x ;y ) (x;y) (x 4 ;y 4 ) 60 (x 3 ;y 3 ) x Si la relatio etrex ety est exacte, alors o devrait pouvoir trouver, pour ue mesurex i doée, l uique valeur pour y i. Aisi, Y serait ue foctio de X (y f(x)). Malheureusemet (ou heureusemet), il se trouve que das la plupart des cas, la relatio est pas exacte (par exemple deux idividus de même taille ot pas exactemet le même poids). Néamois, même s il y a pas de relatio exacte, il se pourrait qu il y ait ue relatio théorique et que, das chaque mesure, il y ait ue part aléatoire. Das u tel cotexte, o dit que Y est la variable dépedate, et X est la variable idépedate. 65

70 Lycée catoal de Porretruy Cours de Mathématiques Pour commecer, o va regarder s il y a ue chace pour que la relatio (exacte ou o) etre X et Y soit affie (le graphe d ue foctio affie est ue droite). O va doc essayer de faire passer ue droite au mieux parmi les poits (x i,y i ). y (x ;y ) (x 1 ;y 1 ) (x 3 ;ŷ 3 ) e e 1 (x;y) e (x 4 ;ŷ 4 ) e 4 (x 1 ;ŷ 1 ) (x ;ŷ ) (x 4 ;y 4 ) (x 3 ;y 3 ) y ax+b (x 5 ;y 5 ) e 5 (x 5 ;ŷ 5 ) x Les otatios de la régressio liéaire y i y i est la mesure effective associée à x i. y ax + b Il s agit du modèle affie théorique etre les caractéristiques X et Y. Il faut détermier les valeurs des bos paramètres a et b. ŷ i ax i +b ŷ i est l approximatio théorique par le modèle affie associée à x i. e i y i ŷ i e i est l erreur etre la mesure effective y i et so approximatio théorique ŷ i associée à la i-ième mesure. Les e i sot appelés les résidus associés au modèle. O a aisi. e i y i ŷ i y i ŷ i +e i y i modèle liéaire { }} { ax i +b + e i 5.1 La droite des moidres carrés Das ce cas le modèle théorique y ax+b est costruit de maière à ce que la somme des carrés des résidus soit la plus petite possible. Autremet dit, o veut a et b tels que la somme e i soit miimale. Pourquoi les carrés 1. L élévatio au carré églige les siges. Aisi ue erreur égative e sera pas compesée par ue erreur positive.. L élévatio au carré réduit les petits écarts (car ( 1 ) 1 ; 4 (1 4 ) 1 ) et amplifie les 16 grads écarts (car 4 ; 4 16). Bie sûr, il existe d autres méthodes, comme la méthode des moidres valeurs absolues où l o cherche les paramètres a et b qui miimiset e i. Mais les calculs associés à cette méthode sot plus compliqués. S. Perret page 66 Versio 3.001

71 Cours de Mathématiques Lycée catoal de Porretruy U résultat pratique Les deux sommes suivates sot égales. (x i x)(y i y) Preuve x i y i xy O commece par développer la somme de gauche (les sommes ayat toujours les mêmes idices, o les otera juste ). À la fi du calcul, o utilise x x i et y y i. (xi x)(y i y) (x i y i xy i x i y +xy) 1 x i y i xy i x i y + xy x i y i x y i y x i + xy 1 3 x i y i xy yx + xy x i y i xy Notatios O va aisi oter 1 chacue de ces deux sommes σ XY. (x i x)(y i y) σ XY x i y i xy E remplaçat Y par X ou X par Y, o a les formules suivates. (x i x) σ XX x i x et (y i y) σ YY yi y Théorème des moidres carrés Les valeurs des paramètres a et b pour la droite des moidres carrés y ax+b sot : a σ XY σ XX et b y ax Ces formules e sot valables que s il existe au mois deuxx i qui ot des valeurs différetes (sio, il y a ue divisio par zéro das la formule pour a). Coséqueces graphiques Das la sectio 5.6, o motre deux propriétés graphiquemet itéressates. 1. la droite des moidres carrés y ax+b passe par (x;y), qui est le cetre de gravité des poits (x i ;y i ). E effet, o a la relatio y ax+b.. la droite des moidres carrés y ax+b est telle que la somme des résidus est ulle. E effet, la relatio ŷ i y i est équivalete à e i 0. Aisi, la droite de régressio est agréable à regarder. 1. Par rapport aux otatios e probabilités, o a σ XX σ (X) et σ Y Y σ (Y) où σ(x) et σ(y) représetet les écarts types respectifs de X et de Y. De même, σ XY Cov(X,Y) où Cov(X,Y) est la covariace de X et de Y. De plus, si o travaille avec des échatillos, les estimateurs de la variace et de la covariace sot sas biais lorsqu o remplace par ( 1). Versio page 67 S. Perret

72 Lycée catoal de Porretruy Cours de Mathématiques 5. Le coefficiet de corrélatio O est maiteat capable de faire passer au mieux ue droite parmi u uage de poits selo la méthode des moidres carrés. Cela e ous dit toujours pas s il y a ue relatio (e serait-ce que liéaire) etre les caractères X et Y. Pour cela, les mathématicies ot iveté u outil : il s agit du coefficiet de corrélatio défii par σ XY ρ σxx σyy Propriétés de ce coefficiet Le coefficiet de corrélatio est toujours compris etre 1 et 1. 1 ρ 1 C est u outil qui permet de mesurer si la relatio est liéaire, presque liéaire ou très peu liéaire. Lorsque ρ est proche de 0, alors la relatio est pas liéaire. Soit les variables sot idépedates, soit il y a u autre type de relatio (voir page 7). Plus ρ est proche de 1, plus les poits sot proches de la droite des moidres carrés (qui sera de pete positive). Plus ρ est proche de 1, plus les poits sot proches de la droite des moidres carrés (qui sera de pete égative). Moralité Plus ρ est proche de 1, meilleure est l approximatio par la droite des moidres carrés. O dit alors que X et Y sot corrélés (ou liéairemet dépedats). Exemples y y y x ρ ρ y x ρ ρ x x S. Perret page 68 Versio 3.001

73 Cours de Mathématiques Lycée catoal de Porretruy 5.3 Le coefficiet de détermiatio Relatio évidete Les valeurs y i et y provieet directemet des doées. Les valeurs ŷ i sot obteues à partir du modèle. Ces trois valeurs sot liées par la relatio suivate. déped aussi du modèle {( ) }} { yi ŷ i + ( ŷ i y ) } {{ } résidu e déped que des doées { }} { ( yi y ) Relatio «miraculeuse» Cette relatio est vraie lorsqu o utilise le modèle de la droite des moidres carrés. ( ) yi ŷ i } {{ } variatio due aux résidus + (ŷi y ) } {{ } variatio due au modèle ( yi y ) } {{ } variatio totale (car somme des deux autres) Défiitio du coefficiet de détermiatio Le coefficiet de détermiatio, oté R, est défii par (ŷi y ) R ( yi y ) Propriétés de ce coefficiet Lorsque la relatio «miraculeuse» est vraie, le coefficiet de détermiatio détermie le rapport etre la variatio due au modèle et la variatio totale. C est doc le pourcetage de la variatio due au modèle das la variatio totale. Pour cette raiso, le coefficiet de détermiatio est toujours compris etre 0 et 1. 0 R 1 Lorsque R est proche de 0, près du 100% de la variatio totale est expliquée par la variatio due aux résidus. Cela sigifie que le modèle est pas adapté aux doées. Lorsque R est proche de 1, près du 100% de la variatio totale est expliquée par la variatio due au modèle. Cela sigifie que le modèle est bie adapté aux doées. Théorème de retrouvailles Lorsque le modèle est celui de la droite des moidres carrés, le coefficiet de détermiatio est égal au carré du coefficiet de corrélatio. Autremet dit R ρ Versio page 69 S. Perret

74 Lycée catoal de Porretruy Cours de Mathématiques 5.4 La droite des moidres carrés forcée à l origie Das ce cas le modèle théorique y ax+b est costruit de maière à ce que 1. la droite passe par l origie du pla;. la somme des carrés des résidus soit la plus petite possible. Autremet dit, o veut a et b tels que 1. b 0, aisi le modèle est y ax.. la somme e i soit miimale. Théorème des moidres carrés pour la versio forcée à l origie La valeur du paramètre a pour la droite des moidres carrés y ax est : a σ(0) XY σ (0) XX où σ (0) XY x i y i et σ (0) XX x i Cette formule est valable que s il existe au mois deux x i qui ot des valeurs différetes (sio, il y a ue divisio par zéro das la formule pour a). Euis 1. la droite des moidres carrés y ax e passe pas forcémet par (x;y), qui est le cetre de gravité des poits (x i ;y i ).. la droite des moidres carrésy ax e vérifie pas forcémet la relatio ŷ i y i, et aisi la somme des résidus e i est pas forcémet ulle. Aisi, à l œil, cette droite peut paraître u peu bizarre. Exemple Lors d ue expériece d osmose e biologie, u arbre chimique gradit das ue solutio à 30% de saccharose. O cherche à détermier la vitesse moyee de croissace de l arbre chimique durat les 15 premières miutes qui sera la pete de la droite des moidres carrés. Lors des mesures, des élèves ot obteus les ombres suivats. temps (mi) hauteur (cm) O trouve a 1.3 cm mi 1 Les relatios des pages 68 et 69 e sot pas toujours vraies das le cas du modèle y ax. L exemple précédet ifirme chacue de ces formules. Néamois, o peut les retrouver si, das ces relatios, o remplace x et y par 0, comme o le voit à la page suivate. Ce qui explique la otatio avec les exposats (0). Bie évidemmet, si le cetre de gravité (x; y) est l origie du pla, les droites des moidres carrés y ax+b et le modèle qui force la droite à l origie sot les mêmes. S. Perret page 70 Versio 3.001

75 Cours de Mathématiques Lycée catoal de Porretruy Les coefficiets de détermiatio et de corrélatio Relatio évidete déped aussi du modèle ({ }} ) { yi ŷ i + ŷ i } {{ } résidu e déped que des doées {}}{ y i Relatio «miraculeuse» ( ) yi ŷ i } {{ } variatio due aux résidus + ŷ i } {{ } variatio due au modèle par rapport à 0 y i } {{ } variatio totale (car somme des deux autres) Les coefficiets de détermiatio et de corrélatios R ŷi yi Théorème de retrouvailles et ρ σ (0) XY σ (0) XX σ (0) YY où σ (0) XY x i y i x i σ (0) XX σ (0) YY yi Même das ce modèle où la droite des moidres carrés est forcée à l origie, o a 5.4. Preuves R ρ Même si o a perdu l igrédiet ŷ i y i. O coserve l igrédiet ŷi ŷ i y i. E effet ŷi ( ) i (ax i) a i x i ix iy i ( k i x i x ky k )( i x ) iy i ( ) kx ky k i x i y i k x k Preuve de la relatio «miraculeuse» i x i ) i( axi y }{{} i ŷ i y i ŷ i O peut maiteat prouver la relatio «miraculeuse». ( yi ŷ i ) + ŷ i y i y i ŷ i + ŷ i + ŷ i k x k igrédiet y i ŷ i + ŷ i + ŷ i y i Preuve du théorème de retrouvailles R ŷ i y i ( axi ) y i a x i y i ( σ (0) XY σ (0) XX ) σ(0) XX σ (0) YY σ(0) XY σ (0) XX σ(0) YY ρ Versio page 71 S. Perret

76 Lycée catoal de Porretruy Cours de Mathématiques 5.5 Autres types de régressio Préambule : ue autre visio de la régressio liéaire O suppose que les doées sot liées par ue relatio liéaire, o exacte, de la faço suivate. y i ax i +b+e i E suivat la méthode des moidres carrés, o trouve le miimum de e i e aulat le gradiet : cela reviet à résoudre le système suivat d icoues a et b. y i x i a x i + b y i 5.5. Régressio quadratique a x i + b x i O suppose que les doées sot liées par ue relatio quadratique, o exacte, de la faço suivate. y i ax i +bx i +c+e i E suivat la méthode des moidres carrés, o trouve le miimum de e i e aulat le gradiet : cela reviet à résoudre le système suivat d icoues a, b et c. y i x i a x 4 i + b x 3 i + c x i y i x i a x 3 i + b x i + c y i a x i + b x i + c Régressio hyperbolique x i O suppose que les doées sot liées par ue relatio hyperbolique, o exacte, de la faço suivate. 1 y i 1 ax i +b+e i ax i +b+e i y i La méthode des moidres carrés peut s appliquer 3 e utilisat le chagemet de variable suivat : z 1 y y 1 et z i 1 y i 1 z y i z i O trouve que : y 1 ( ax+b z ax+b ) où a σ XZ σ XX et b z ax. Le gradiet est ue otio vue à l uiversité qui e peut être expliquée qu e deuxième aée de lycée (il faut savoir dériver). 3. La vraie méthode des moidres carrés cosisterait à miimiser la somme des carrés des ε i doés par la relatio y i 1 ax i+b +ε i. Néamois les calculs sot ici très complexes. S. Perret page 7 Versio 3.001

77 Cours de Mathématiques Lycée catoal de Porretruy Régressio expoetielle O suppose que les doées sot liées par ue relatio expoetielle, o exacte, de la faço suivate. y i b a xi 10 e i log(y i ) log(a)x i +log(b)+e i La méthode des moidres carrés peut s appliquer 4 e utilisat le chagemet de variable suivat : w log(y) y 10 w et w i log(y i ) y i 10 w i O trouve que : y b a x ( ) où w log(a)x+log(b) log(a) σ XW σ XX a exp 10 ( σxw σ XX ) et log(b) w ax b 10 w ax Régressio d ue puissace O suppose que les doées sot liées par ue puissace, o exacte, de la faço suivate. y i b x a i 10e i log(y i ) alog(x i )+log(b)+e i La méthode des moidres carrés peut s appliquer 5 e utilisat le chagemet de variable suivat : w log(y) y 10 w et w i log(y i ) y i 10 w i et v log(x) x 10 v et v i log(x i ) x i 10 v i O trouve que : y b x a ( w av +log(b) ) où a σ VW σ VV Régressio logarithmique et log(b) w av b 10 w av O suppose que les doées sot liées par ue relatio logarithmique, o exacte, de la faço suivate. y i alog(x i )+b+e i Cette fois la vraie méthode des moidres carrés peut s appliquer e utilisat le chagemet de variable suivat : v log(x) x 10 v et v i log(x i ) x i 10 v i O trouve que : y alog(x i )+b ( y av +b ) où a σ VY σ VV et b y av 4. La vraie méthode des moidres carrés cosisterait à miimiser la somme des carrés des ε i doés par la relatio y i b a xi +ε i. Néamois les calculs sot ici très complexes. 5. La vraie méthode des moidres carrés cosisterait à miimiser la somme des carrés des ε i doés par la relatio y i b x a i +ε i. Néamois les calculs sot ici très complexes. Versio page 73 S. Perret

78 Lycée catoal de Porretruy Cours de Mathématiques 5.6 Preuves des théorèmes Preuve des théorèmes des moidres carrés Rappel sur les paraboles Ue parabole d expressio foctioelle p(x) αx +βx+γ avec α > 0 a u miimum pour x β α. Preuve du théorème sur les moidres carrés Trouvos ue valeur de b tel que la somme des résidus au carré soit miimale. E d autres termes, o veut trouver le miimum de l expressio suivate. E utilisat le fait que ŷ i ax i + b, o peut redre cette somme dépedate du paramètre b. C est pourquoi, cette somme est mometaémet appelée S(b). S(b) e i (y i ŷ i ) e i ( yi (ax i +b) ) ( (yi ax i ) b ) ( (yi ax i ) (y i ax i )b+b ) (y i ax i ) b (y i ax i )+ ( (y i ax i ) b y i a Or y i y et x i x, aisi o a S(b) b x i )+ (y i ax i ) b ( y ax ) +b }{{} b (y ax) b + } {{ } α>0 β b (y i ax i ) } {{ } γ Par le rappel ci-dessus, la valeur de b qui miimise S(b) est doée par b (y ax) y ax Maiteat qu o a établi la relatio b y a x, l expressio de la droite des moidres carrés est aisi deveue y ax+b ax+y ax a(x x)+y S. Perret page 74 Versio 3.001

79 Cours de Mathématiques Lycée catoal de Porretruy Il faut maiteat trouver a tel que la somme des résidus au carré soit miimale. E d autres termes, o veut trouver le miimum de l expressio suivate. E utilisat le fait queŷ i ax i +b a(x i x)+y, o peut redre cette somme uiquemet dépedate du paramètre a. C est pourquoi, o a décidé d appeler la somme S(a). S(a) e i (y i ŷ i ) e i (y i ( a(x i x)+y )) ( ) y i a(x i x) y O cherche à trouver a tel que S(a) est le plus petit possible. O sait que S(a) 0 (car ue somme de ombres positifs (ou uls) e peut être que positive (ou ulle)). O a doc S(a) ( ) ( ) y i a(x i x) y (y i y) a(x i x) ) ((y i y) a(x i x)(y i y)+a (x i x) (y i y) a } {{ } σ Y Y (x i x)(y i y) +a (x i x) σ }{{} XX a σ XY a+σ YY >0 } {{ } σ XY } {{ } σ XX Par le rappel ci-dessus, la valeur de a qui miimise S(a) est doée par a σ XY σ XX σ XY σ XX Mais, il faut que σ XX > 0 afi d avoir u miimum. C est le cas s il y a au mois deux x i qui sot différets. Preuve pour la versio forcée à l origie Trouvos ue valeur de a tel que la somme des résidus au carré soit miimale. E d autres termes, o veut trouver le miimum de l expressio suivate. S(a) ) ( ) (y i ax i yi ax iy i +a x i yi a x i y i +a x i σ (0) XX a σ (0) XY }{{} a+σ(0) YY >0 } {{ } σ (0) Y Y Par le rappel ci-dessus, la valeur de a qui miimise S(a) est doée par a σ(0) XY σ (0) XX σ(0) XY σ (0) XX } {{ } σ (0) XY } {{ } σ (0) XX Mais, il faut que σ (0) XX > 0 afi d avoir u miimum. C est le cas s il y a au mois deux x i qui sot différets. Versio page 75 S. Perret

80 Lycée catoal de Porretruy Cours de Mathématiques 5.6. Preuves de la relatio «miraculeuse» O a besoi de deux igrédiets. ŷi y i et ŷ i ŷ i y i Si le modèle vérifie ces deux igrédiets, alors la relatio «miraculeuse» est vraie. E effet, o a ( yi ŷ i ) + ( ŷ i y ) 1,, 3 yi y ( y i ŷ i y i +ŷi) (ŷ + i ŷ i y +y ) y i ŷ i y i } {{ } + ŷi + ŷi y ŷ i } {{ } +y y i ŷi + ŷi + ŷi y y i +y y i ŷi + ŷi + ŷi y +y otatio σ Y Y page 67 y i ŷ i + ŷ i y y i y ( yi y ) Les deux visios pour la droite de régressio À la page 7, o affirme que a et b satisfot le système suivat. yi x i a x i + b x i yi x i a x yi a i + bx x i + b y ax + b À la page 67, o a doé les valeurs suivates de a et b. a σ XY σ XX et b y ax O retrouve ces coefficiets e résolvat le système d équatio. E effet, la deuxième lige est équivalete à y ax+b b y ax De plus si, à la première lige, o soustrait x fois la deuxième, cette première lige deviet yi x i xy a x i ax y i x i xy a ( x i x ) σ XY aσ XX a σ XY σ XX S. Perret page 76 Versio 3.001

81 Cours de Mathématiques Lycée catoal de Porretruy Preuve des igrédiets pour le modèle liéaire O se rappelle que a et b sot solutios du système yi x i a x i + b x i ( ) : yi a x i + b Preuve du premier igrédiet O utilise le fait que ŷ i ax i +b, o développe et o observe le système. Preuve du deuxième igrédiet ŷi ( ax i +b ) a x i +b ( ) y i O utilise le fait que ŷ i ax i +b, o développe et o observe le système. ŷ i ( ax i +b ) ( a x i +abx i +b ) a x i +ab x i +b a ( a x i +b x i ) +ab xi +b a ( a x i +b x i ) +b ( a xi +b ) ( ) a y i x i +b y i y i (ax i +b) y i ŷ i ŷ i y i Preuve du théorème de retrouvailles O se rappelle que et a σ XY σ XX et b y ax. R (ŷi y ) ( yi y ) ( axi +b y ) ( yi y ) ( axi +y ax y ) ( yi y ) ( axi ax ) ( yi y ) a ( xi x ) ( yi y ) ( σxy σ XX ) σxx σ YY σ XY σ XX σxx σ YY σ XY σ XX σ YY ( ) σ XY ρ σxx σyy Versio page 77 S. Perret

82 Lycée catoal de Porretruy Cours de Mathématiques Preuve des igrédiets pour le modèle quadratique O se rappelle que a, b et c sot solutios du système yi x i a x 4 i + b x 3 i + c x i ( ) : yi x i a x 3 i + b x i + c x i yi a x i + b x i + c Preuve du premier igrédiet O utilise le fait que ŷ i ax i +bx i +c, o développe et o observe le système. ŷi ( ax i +bx i +c ) a x i +b x i +c ( ) y i Preuve du deuxième igrédiet O utilise le fait que ŷ i ax i +bx i +c, o développe et o observe le système. ŷ i ( ax i +bx i +c ) ( a x 4 i +abx3 i +b x i +acx i +bcx i +c ) a x 4 i +ab x 3 i +b x i +ac x i +bc x i +c a ( a x 4 i +b x 3 i +c x i + ab x 3 i +b x i +ac x i +bc x i +c a ( a x 4 i +b x 3 i +c x i + b ( a x 3 i +b x i +c x i ) + ac x i +bc x i +c a ( a x 4 i +b x 3 i +c x i + b ( a x 3 i +b x i +c x i ) + c ( c x i +b x i +c ) ( ) a y i x i +b y i x i +c y i y i (ax i +bx i +c) ) ) ) y i ŷ i ŷ i y i S. Perret page 78 Versio 3.001